NVIDIA GTC Taipei本週於台北隆重登場，這是一場頂級科技盛會。這場全球AI大會匯聚開發人員、研究人員與產業領袖，深入探討重塑各產業的最新突破。議程內容涵蓋AI工廠與擴充基礎架構、代理與推理AI、科學領域 AI、物理AI與機器人技術等多元主題。
國泰金控表示，這次實證是以開源模型作為訓練目標。初步驗證結果顯示，在測試條件下，可降低對複雜Prompt Engineering或向量檢索模組的依賴，有助於簡化系統架構、降低後續維運複雜度。
國泰金控說明，「Prompt Engineering」是指透過設計提示詞與指令，引導AI模型用正確方式理解問題，並產生答案，可在不重新訓練模型的情況下，提升模型回答品質。向量檢索模組則指先將文件、功能說明或知識資料，轉換成語意向量，當使用者提出問題時，系統會先搜尋最相似向量再提供給模型作為判斷或回答依據，可幫助模型找到相關知識，提升回答準確度。
國泰金控指出，此次驗證結果也顯示，若能結合適當的金融場景資料設計與模型微調，將有機會提升模型穩定度、推論效率與應用可控性。並且，經微調後的SLM，在客戶意圖判斷任務上，可達到接近主流閉源LLM的表現，可作為企業未來選用AI語言模型進行訓練的參考。
在資料治理與隱私保護方面，國泰金控指出，這次概念性驗證採用「全合成資料」，避免使用真實客戶資料訓練設計，透過相似功能聚類、單意圖與多意圖資料設計、台灣語境優化及關鍵字擴充等方法，強化模型對本地金融服務語境、專有名詞與模糊提問的理解能力。
國泰金控表示，應用情境涵蓋房貸餘額查詢、信用卡繳費、分行服務導引等民眾常見需求，作為未來智慧搜尋與服務分流的技術基礎。
國泰金控近年持續推動AI 於金融場景的創新應用，從內部流程優化、客戶服務體驗、金融知識理解到模型治理，逐步累積可擴展的技術基礎。
面對金融業高度監管、重視資料安全與服務需求快速變動等產業特性，國泰金控將持續以兼顧合規、安全、穩健的方式，推動AI在長文本判斷、金融文件深度理解與跨場景應用等的實證研究，探索符合金融業需求的模型訓練與應用模式，推動智慧金融服務創新。
火線話題 ｜ 智慧金融安心未來
這篇報導屬於「 智慧金融安心未來 」主題，更多延伸閱讀：
點擊閱讀下一則新聞
