國泰金、玉山金攜手NVIDIA　為台灣打造金融AI代理

【林巧雁/台北報導】為解決AI對台灣金融知識不足，國泰金控採用NVIDIA NeMo平台，目標打造台灣金融AI代理，未來提供更多個人化金融服務。經過2個月的金融授信訓練，AI已能通過進階授信人員證照考試能力，並於今日NVIDIA GTC Taipei發表，國泰金預期今年第4季或明年第1季對外宣布AI運用於小規模金融領域。

AI Agent正成為新一代人工智慧的發展趨勢，相較傳統具對話功能的工具型AI，AI Agent具備環境感測、記憶與自主規劃能力，能根據情境變化主動推論、規劃並執行任務，象徵AI由「回應式工具」正式邁入「主動型代理」的新階段。國泰金表示，未來會視不同場景調整AI決策任務的權限，比如訂會議室、訂便當，可由AI決定，若是財務規劃則仍客戶做最後決策。

舉例客戶詢問AI兩年後小孩出國唸書錢不夠，AI分析一年要花多少錢，資金不足幫忙規劃後提供建議，假設提供短期信用借款50萬，是否申請由客戶自己決定。

AI Agent應用潛力無窮，但對台灣在地金融知識、專業術語及產業實務掌握仍不足，難以準確回應台灣市場金融使用者需求，也無法舉一反三。這次國泰金運用NVIDIA加速運算的優勢，充分展現金融機構如何結合專有與產業特定資料，進一步提升大型語言模型的應用效能。

國泰金去年領先市場推出「國泰生成式AI技術發展框架GAIA」，更宣布以AI即服務(AI as a service, AIaaS)策略，全面提升集團在數位、數據、技術轉型的效益，發展多元AI智能應用。未來希望打造不同金融領域的AI代理，如貸款、信用卡、保險、理財AI Agent等，更期望能異業合作。

國泰金控副總暨國泰世華銀行數據長梁明喬表示，運用台灣本地金融授信知識、法規文獻及實務案例等作為訓練語料，在模型上利用NVIDIA NeMo框架進行預訓練(Pre-training)、微調(Fine-tuning)等技術手法，藉NVIDIA的加速運算完成70至80億參數量的大型語言模型訓練。此模型不僅能精準回應進階金融問答，亦具備通過進階授信人員證照考試能力，展現AI在金融領域的應用潛力。

國泰金訓練AI模型後進行授信考試，得到的分數超過90分，沒有特別訓練台灣金融知識的GPT 4o 考66.7分，70分才算通過資格。

梁明喬強調，國泰金控將持續與NVIDIA合作，推進具備更廣泛金融知識與實務應用能力的領域專屬大型語言模型(LLM)。未來國泰金持續強化AI Agent的適應性推理、複雜決策輔助與情境感知任務執行等能力，涵蓋從交易處理、服務自動化到智慧資訊擷取等多元應用，盼開啟以AI驅動的智慧金融創新服務新時代。

此外，玉山金控張智星科技長今日於Nvidia GTC Taipei 分享主題打造全方位金融AI：驅動理財與防詐創新，推出兩大AI核心計畫。首先打造全新AI代理(AI Agent) 平台，透過單一對話介面整合多元專業代理人，並以標準化架構加速開發與安全測試。

同時導入NVIDIA H100 GPU與NeMo，大幅提升運算效能，更有效降低成本；AI代理本身就是生成式AI的一環，所以在生成式AI方面，玉山將於確認技術可行、安全可靠後，與主管機關在金融科技產業聯盟的架構下討論相關標準，穩健推動對外服務。

其次，玉山將圖分析技術嵌入現有防詐金流模型，讓複雜交易關係一目了然，偵測準確度提升兩倍；並藉由NVIDIA Rapids及H100 GPU加速，端到端詐欺偵測模型訓練流程較以往快上約880倍。這兩項創新應用不僅強化內部作業效率，更為使用者帶來更安全、便捷的智慧金融服務。

⭐️ 即刻下載《知新聞》App！免費！