上海金融與發(fā)展實(shí)驗(yàn)室主任曾剛：避免大模型幻覺(jué)，關(guān)鍵環(huán)節(jié)還需人機(jī)協(xié)作

每經(jīng)記者 張宏    每經(jīng)編輯 馬子卿    

2024年政府工作報(bào)告提出，要大力推進(jìn)現(xiàn)代化產(chǎn)業(yè)體系建設(shè)，加快發(fā)展新質(zhì)生產(chǎn)力。“人工智能+”被首次寫(xiě)入政府工作報(bào)告。

3月28日，由馬上消費(fèi)聯(lián)合中國(guó)科學(xué)技術(shù)出版社、金融界共同舉辦的“大模型驅(qū)動(dòng)下的金融新質(zhì)生產(chǎn)力創(chuàng)新論壇暨全國(guó)首部《金融大模型》著作發(fā)布”活動(dòng)在京舉行。

圖片來(lái)源：每經(jīng)記者 張宏 攝

在主題分享環(huán)節(jié)，上海金融與發(fā)展實(shí)驗(yàn)室主任曾剛表示，傳統(tǒng)業(yè)務(wù)發(fā)展模式受到越來(lái)越大的挑戰(zhàn)，金融行業(yè)需要用大模型提升效率、適應(yīng)客戶(hù)需求變化和拓展新的服務(wù)空間及場(chǎng)景。會(huì)后，曾剛就“金融機(jī)構(gòu)在AI應(yīng)用中如何避免大模型幻覺(jué)”這一話題接受了《每日經(jīng)濟(jì)新聞》記者采訪。

傳統(tǒng)業(yè)務(wù)發(fā)展模式受到挑戰(zhàn)，行業(yè)需要用大模型提升效率

在主題分享環(huán)節(jié)，上海金融與發(fā)展實(shí)驗(yàn)室主任曾剛表示，AI的發(fā)展會(huì)去除“知識(shí)中介”。生成式人工智能可以對(duì)一些沒(méi)有原創(chuàng)性的“知識(shí)中介”進(jìn)行替代，很多看似有門(mén)檻的專(zhuān)業(yè)技術(shù)會(huì)被淘汰，我們個(gè)人對(duì)自身的定位也會(huì)發(fā)生重大變化。

曾剛指出，從金融領(lǐng)域來(lái)看，行業(yè)面臨著幾大問(wèn)題。一是資產(chǎn)獲取難度越來(lái)越大，隨著傳統(tǒng)客戶(hù)競(jìng)爭(zhēng)越來(lái)越激烈，新客戶(hù)發(fā)掘越來(lái)越難，信貸投放面臨壓力，傳統(tǒng)服務(wù)模式可能無(wú)法觸及客戶(hù)；二是資產(chǎn)質(zhì)量發(fā)生變化，一些過(guò)剩的行業(yè)正在經(jīng)歷調(diào)整，這個(gè)過(guò)程對(duì)風(fēng)險(xiǎn)防控的要求不斷提升；三是息差的收窄，2023四季度商業(yè)銀行凈息差為1.69%，一些銀行是低于這一水平的；四是資本補(bǔ)充有一定困境。

他強(qiáng)調(diào)，傳統(tǒng)業(yè)務(wù)發(fā)展模式受到越來(lái)越大的挑戰(zhàn)，行業(yè)需要用大模型去提升效率、適應(yīng)客戶(hù)需求變化、拓展新的服務(wù)空間及場(chǎng)景。

避免大模型幻覺(jué)，關(guān)鍵環(huán)節(jié)還需人機(jī)協(xié)作

會(huì)后，曾剛在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)表示，既要看到大模型的潛力，又要關(guān)注可能的風(fēng)險(xiǎn)。一方面，要依靠技術(shù)的不斷改進(jìn)糾正可能發(fā)生的大模型幻覺(jué)；另一方面，可以通過(guò)人機(jī)結(jié)合，將大模型圈定在助手層面。

上海金融與發(fā)展實(shí)驗(yàn)室主任 曾剛 圖片來(lái)源：主辦方

NBD：金融是一個(gè)嚴(yán)謹(jǐn)?shù)念I(lǐng)域，要在金融業(yè)務(wù)中進(jìn)行AI應(yīng)用，如何避免大模型幻覺(jué)？

曾剛：現(xiàn)在我們確實(shí)對(duì)風(fēng)險(xiǎn)審慎經(jīng)營(yíng)保持極大關(guān)注。首先，機(jī)構(gòu)層面要審慎經(jīng)營(yíng)、避免（使用）過(guò)度的風(fēng)險(xiǎn)。在使用（AI的）過(guò)程中，對(duì)客戶(hù)、消費(fèi)者的保護(hù)要做到位，避免對(duì)客戶(hù)利益的損傷。

金融大模型應(yīng)用中，可能會(huì)在兩個(gè)層面上產(chǎn)生風(fēng)險(xiǎn)。一是在交易過(guò)程中，如果使用大模型時(shí)出現(xiàn)大模型幻覺(jué)，可能會(huì)導(dǎo)致一些潛在的風(fēng)險(xiǎn)，對(duì)機(jī)構(gòu)造成傷害；二是在業(yè)務(wù)過(guò)程中，對(duì)客戶(hù)造成傷害。

因此要求金融機(jī)構(gòu)，從研發(fā)到應(yīng)用大模型的過(guò)程中，均高度關(guān)注可能出現(xiàn)的大模型幻覺(jué)。既要看到大模型的潛力，又要關(guān)注可能的風(fēng)險(xiǎn)。

一方面，依靠技術(shù)的不斷改進(jìn)，通過(guò)各種方法糾正可能的幻覺(jué)，但這需要一個(gè)過(guò)程；另一方面，在實(shí)踐當(dāng)中，實(shí)現(xiàn)人機(jī)結(jié)合，不要完全把任務(wù)拋給大模型。大模型可以替代一部分工作，但在關(guān)鍵環(huán)節(jié)還需人工進(jìn)行校正、核驗(yàn)。通過(guò)人機(jī)結(jié)合，把大模型圈定在人的助手層面上，而不是讓大模型完全替代人的工作。既能保證效率提高，同時(shí)也能避免大模型幻覺(jué)。

其次，監(jiān)管層面上對(duì)科技應(yīng)用也要提出規(guī)范要求，避免可能的風(fēng)險(xiǎn)。目前，科技監(jiān)管越來(lái)越規(guī)范，通過(guò)監(jiān)管層面引導(dǎo)機(jī)構(gòu)完善治理架構(gòu)、工作流程，以確保把發(fā)展過(guò)程中潛在的風(fēng)險(xiǎn)控制在可接受范圍之內(nèi)。

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG31N2008742366