國泰金採用NVIDIA NeMo平台!打造專業金融LLM 有能力通過進階授信證照考 (2025-05-21 17:16:21)

國泰金攜手輝達,共同研究如何運用 NVIDIA NeMo在符合法規與商業需求的前提下,於本地端安全部署大型語言模型(LLM),以契合台灣的監管環境與市場需求。這項成果今日在NVIDIA GTC Taipei發表,顯示大型語言模型(LLM)在處理專業金融知識方面的可行性,為區域內具規模、特定領域的AI應用奠定基礎。



國泰金去年領先市場推出「國泰生成式AI技術發展框架GAIA」,更宣布以AI即服務(AI as a service, AIaaS)策略,全面提升集團在數位、數據、技術轉型的效益,發展多元AI智能應用。



此舉旨在透過導入多元AI解決方案,加速集團在數位、資料與科技領域的轉型進程。



國泰金副總暨國泰世華銀行數據長梁明喬表示:「我們運用台灣本地金融授信知識、法規文獻及實務案例等作為訓練語料,在模型上利用NVIDIA NeMo框架進行預訓練(Pre-training)、微調(Fine-tuning)等技術手法,藉NVIDIA的加速運算完成70至80億參數量的大型語言模型訓練。透過知識蒸餾(Knowledge Distillation)與NVIDIA NeMo Curator框架,擴增訓練資料達4至5倍,大幅縮短資料準備時間,亦輔以NVIDIA TensorRT框架加速模型評估流程」。



梁明喬表示:「成果顯示,此模型不僅能精準回應進階金融問答,亦具備通過進階授信人員證照考試能力,展現AI在金融領域的應用潛力。」



▼圖說:圖左為國泰金控副總梁明喬、圖右為國泰金控數數發中心經理謝昌宏。(圖/國泰金提供)







隨著全球AI技術快速演進,AI Agent(AI代理)正成為新一代人工智慧的發展趨勢。相較傳統具對話功能的工具型AI,AI Agent具備環境感測、記憶與自主規劃能力,能根據情境變化主動推論、規劃並執行任務,象徵AI由「回應式工具」正式邁入「主動型代理」的新階段。



在金融場域中,AI Agent的應用潛力無窮,惟目前市面多數屬通用大型語言模型,對於台灣在地金融知識、專業術語及產業實務掌握仍不足,難以準確回應台灣市場金融使用者需求。



國泰金使用NVIDIA加速運算平台的成果,展示了金融機構如何結合專有和產業特定資料以超越基礎大型語言模型。



梁明喬強調,國泰金控將持續與NVIDIA合作,推進具備更廣泛金融知識與實務應用能力的領域專屬大型語言模型(LLM)。展望未來,國泰金將持續強化AI Agent的適應性推理、複雜決策輔助與情境感知任務執行等能力,涵蓋從交易處理、服務自動化到智慧資訊擷取等多元應用,盼開啟以AI驅動的智慧金融創新服務新時代。






加密貨幣
比特幣BTC 101186.03 -1,026.00 -1.00%
以太幣ETH 2235.14 -63.70 -2.77%
瑞波幣XRP 2.02 -0.04 -1.83%
比特幣現金BCH 449.24 -16.96 -3.64%
萊特幣LTC 80.01 -0.11 -0.14%
卡達幣ADA 0.545931 -0.01 -1.51%
波場幣TRX 0.265270 -0.01 -2.07%
恆星幣XLM 0.229768 -0.01 -2.96%
投資訊息
相關網站
股市服務區
行動版 電腦版
系統合作: 精誠資訊股份有限公司
資訊提供: 精誠資訊股份有限公司
資料來源: 台灣證券交易所, 櫃買中心, 台灣期貨交易所
依證券主管機關規定,使用本網站股票、期貨等金融報價資訊之會員,務請詳細閱讀「資訊用戶權益暨使用同意聲明書」並建議會員使用本網站資訊, 在金融和投資等方面,能具有足夠知識及經驗以判斷投資的價值與風險,同時會員也同意本網站所提供之金融資訊, 係供參考,不能做為投資交易之依據;若引以進行交易時,仍應透過一般合法交易管道,並自行判斷市場價格與風險。
請遵守台灣證券交易所『交易資訊使用管理辦法』等交易資訊管理相關規定本資料僅供參考,所有資料以台灣證券交易所、櫃買中心公告為準。 因網路傳輸問題造成之資料更新延誤,精誠資訊不負交易損失責任。