國泰金控21日宣布，採用NVIDIA NeMo平台，為台灣打造金融代理，並在NVIDIA GTC Taipei發表研究成果，顯示大型語言模型（LLM）處理專業金融知識方面的可行性，為區域內具規模、特定領域的AI應用奠定基礎；國泰金亦提出，台灣金融業導入AI智慧代理的發展藍圖，突顯國泰在技術領域的領導地位與對創新的承諾。
國泰金控副總經理暨國泰世華銀行數據長梁明喬表示，運用台灣本地金融授信知識、法規文獻及實務案例等作為訓練語料，在模型上利用NVIDIA NeMo框架進行預訓練（Pre-training）、微調（Fine-tuning）等技術手法，藉NVIDIA的加速運算，完成70至80億參數量的大型語言模型訓練。
梁明喬進一步指出，後續透過知識蒸餾（Knowledge Distillation）與NVIDIA NeMo Curator框架，擴增訓練資料達4至5倍，大幅縮短資料準備時間，亦輔以NVIDIA TensorRT框架加速模型評估流程；成果顯示，模型不僅能精準回應進階金融問答，亦具備通過進階授信人員證照考試能力，展現AI在金融領域的應用潛力。
國泰金控使用NVIDIA加速運算平台有成，展示金融機構如何結合專有和產業特定資料以超越基礎大型語言模型；梁明喬強調，國泰金控將持續與NVIDIA合作，推進更廣泛的金融知識，與實務應用能力的領域專屬大型語言模型（LLM）。
隨全球AI技術快速演進，AI Agent正成為新一代人工智慧的發展趨勢；展望未來，國泰金控持續強化AI Agent的適應性推理、複雜決策輔助與情境感知任務執行等能力，從交易處理、服務自動化到智慧資訊擷取等多元應用，盼開啟以AI驅動的智慧金融創新服務新時代。
(中國時報)
