工業領域如何解決“大模型幻覺”？鼎捷軟件執行副總裁劉波：檢索增強生成+微調

每經記者 朱成祥    每經編輯 陳俊杰    

8月12日下午，鼎捷軟件舉辦媒體開放日活動。當下，業界普遍關注的是AI大模型的成本，以及如何解決“大模型幻覺”問題。

鼎捷軟件執行副總裁劉波稱，鼎捷混合使用RAG（檢索增強生成）和Fine-Tuning（微調）技術，即通過高質量的數據集（數據+行業經驗+技術），再使用貼合制造業的RAG技術，以有效助力工業企業解決“大模型幻覺”問題。

對于是否使用微調，使得大模型更加偏向于垂直專業領域，再使用RAG技術，限定大模型回答的范圍。

劉波表示認可，并表示：“檢索增強生成的關鍵，在于領域知識的掌握。通用大模型很難掌握這種深度的行業知識，這些知識怎么解釋、怎么理解、怎么設定，其實需要很多技術+行業的經驗。簡單說，我們天生懂客戶這些‘行業黑話’，這是40余年的深耕經營積累下來的沉淀，它會大量降低訓練成本和縮短訓練時間。”

其補充表示：“鼎捷早在2015年便提出了‘智能+’戰略，借助算法驅動幫助客戶實現降本增效。然而鼎捷認為這種優勢并不能持久，因此我們不斷探索讓人工智能進入到‘輔助駕駛’階段，不再是嵌入式應用，而是主動思考輔助決策，以重構客戶作業流程。”

鼎捷軟件執行副總裁、財務長張苑逸表示：“企業主在意的是效率跟成本匹不匹配，而鼎捷過往在給客戶展開數智化服務的時候，非常注重價值交付，理解業務，同時能夠把握關鍵點。因此我們在給（大模型）喂數據的時候，數據是已經整理過的，更有指向性，而非簡單用數學方式暴力運算，猶如大海撈針。同時，我們的顧問都是老師傅、行業專家，所以我們在訓練中更容易明白‘行業黑話’，也更知道行業數據對應的特征值，保障結果的可用。”

劉波總結稱：“在幫助企業客戶進行數智化轉型的過程中，鼎捷憑借多年的經驗積累，可以快速判斷如何進行有效的數據轉化和知識封裝，從而快速提升AI應用的成熟度。”