上海金融與發展實驗室主任曾剛：避免大模型幻覺，關鍵環節還需人機協作

每經記者 張宏    每經編輯 馬子卿    

2024年政府工作報告提出，要大力推進現代化產業體系建設，加快發展新質生產力。“人工智能+”被首次寫入政府工作報告。

3月28日，由馬上消費聯合中國科學技術出版社、金融界共同舉辦的“大模型驅動下的金融新質生產力創新論壇暨全國首部《金融大模型》著作發布”活動在京舉行。

圖片來源：每經記者 張宏 攝

在主題分享環節，上海金融與發展實驗室主任曾剛表示，傳統業務發展模式受到越來越大的挑戰，金融行業需要用大模型提升效率、適應客戶需求變化和拓展新的服務空間及場景。會后，曾剛就“金融機構在AI應用中如何避免大模型幻覺”這一話題接受了《每日經濟新聞》記者采訪。

傳統業務發展模式受到挑戰，行業需要用大模型提升效率

在主題分享環節，上海金融與發展實驗室主任曾剛表示，AI的發展會去除“知識中介”。生成式人工智能可以對一些沒有原創性的“知識中介”進行替代，很多看似有門檻的專業技術會被淘汰，我們個人對自身的定位也會發生重大變化。

曾剛指出，從金融領域來看，行業面臨著幾大問題。一是資產獲取難度越來越大，隨著傳統客戶競爭越來越激烈，新客戶發掘越來越難，信貸投放面臨壓力，傳統服務模式可能無法觸及客戶；二是資產質量發生變化，一些過剩的行業正在經歷調整，這個過程對風險防控的要求不斷提升；三是息差的收窄，2023四季度商業銀行凈息差為1.69%，一些銀行是低于這一水平的；四是資本補充有一定困境。

他強調，傳統業務發展模式受到越來越大的挑戰，行業需要用大模型去提升效率、適應客戶需求變化、拓展新的服務空間及場景。

避免大模型幻覺，關鍵環節還需人機協作

會后，曾剛在接受《每日經濟新聞》記者采訪時表示，既要看到大模型的潛力，又要關注可能的風險。一方面，要依靠技術的不斷改進糾正可能發生的大模型幻覺；另一方面，可以通過人機結合，將大模型圈定在助手層面。

上海金融與發展實驗室主任 曾剛 圖片來源：主辦方

NBD：金融是一個嚴謹的領域，要在金融業務中進行AI應用，如何避免大模型幻覺？

曾剛：現在我們確實對風險審慎經營保持極大關注。首先，機構層面要審慎經營、避免（使用）過度的風險。在使用（AI的）過程中，對客戶、消費者的保護要做到位，避免對客戶利益的損傷。

金融大模型應用中，可能會在兩個層面上產生風險。一是在交易過程中，如果使用大模型時出現大模型幻覺，可能會導致一些潛在的風險，對機構造成傷害；二是在業務過程中，對客戶造成傷害。

因此要求金融機構，從研發到應用大模型的過程中，均高度關注可能出現的大模型幻覺。既要看到大模型的潛力，又要關注可能的風險。

一方面，依靠技術的不斷改進，通過各種方法糾正可能的幻覺，但這需要一個過程；另一方面，在實踐當中，實現人機結合，不要完全把任務拋給大模型。大模型可以替代一部分工作，但在關鍵環節還需人工進行校正、核驗。通過人機結合，把大模型圈定在人的助手層面上，而不是讓大模型完全替代人的工作。既能保證效率提高，同時也能避免大模型幻覺。

其次，監管層面上對科技應用也要提出規范要求，避免可能的風險。目前，科技監管越來越規范，通過監管層面引導機構完善治理架構、工作流程，以確保把發展過程中潛在的風險控制在可接受范圍之內。

封面圖片來源：視覺中國-VCG31N2008742366