GPT-5要來了？OpenAI重磅官宣已啟動下一代前沿模型訓練！新的安全顧問委員會成立，成員全是自己人......

每經編輯 杜宇

當地時間周二（5月28日），OpenAI發布公告稱董事會成立一個負責把控AI開發方向的安全顧問委員會。

圖片來源：OpenAI

OpenAI成立新的安全顧問委員會 成員全是自己人

OpenAI周二宣布成立一個新的安全顧問委員會，負責監督與公司項目和運營相關的“關鍵”安全和安保決策。而值得注意的是，進入該安全顧問委員會的成員全部為該公司內部人員，包括董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman和Sam Altman（首席執行官），外部人員一個也沒有。該委員會將負責向全體董事會就OpenAI項目和運營的關鍵安全和安全決策提出建議。

安全與安全委員會的首要任務將是在未來90天內評估并進一步發展OpenAI的流程和保障措施。90天結束時，安全與安全委員會將與全體董事會分享他們的建議。在全體董事會審查之后，OpenAI將以符合安全和安全的方式，公開分享有關采納建議的更新。

OpenAI董事會表示，OpenAI的技術與政策專家Aleksander Madry（準備狀況負責人）、Lilian Weng（安全系統負責人）、John Schulman（對齊科學負責人）、Matt Knight（安全負責人）以及Jakub Pachocki（首席科學家）也將加入該委員會。

此外，OpenAI將保留并咨詢其他安全、安全和技術專家以支持這項工作，包括前網絡安全官員Rob Joyce，他為OpenAI提供安全方面的咨詢，以及John Carlin。

過去幾個月，OpenAI的技術團隊中有多名安全方面的高層人員離職，這些前員工中有些人對OpenAI在AI安全方面的優先級下降表示擔憂。

曾在OpenAI擔任團隊治理工作的Daniel Kokotajlo在4月辭職，因為他對OpenAI在發布越來越強大的AI時“負責任的行為”失去了信心，他在個人博客上寫道。此外，OpenAI的聯合創始人兼前首席科學家Ilya Sutskever在與Altman及其盟友的長期斗爭后，于5月離職，據報道部分原因是Altman急于推出AI驅動的產品而犧牲了安全性能。

最近，前DeepMind研究員Jan Leike此前在OpenAI負責開發ChatGPT及其前身InstructGPT的過程中，也辭去了安全研究員職務，他在一系列X平臺的帖子中表示，他認為OpenAI“未走在解決AI安全和安保問題的正確軌道上”。同時，AI政策研究員Gretchen Krueger上周離開OpenAI，她也同意Leike的觀點，呼吁公司提高問責制和透明度，并“更加謹慎地使用自己的技術”。

媒體報道，除了Sutskever、Kokotajlo、Leike和Krueger，自去年年底以來，至少有五名OpenAI最重視安全的員工要么辭職，要么被迫離開，包括前OpenAI董事會成員Helen Toner和Tasha McCauley。兩人日前在媒體撰文稱，在Altman的領導下，他們相信OpenAI無法實現對自身追究責任。

圖片來源：視覺中國-VCG31N2008743681

OpenAI宣布已啟動下一代前沿模型訓練 AGI愿景變得更加務實

值得注意的是，還有一條重磅消息：OpenAI在公告中表示，最近開始訓練其下一代前沿模型，以期超越目前的GPT-4大模型。我們預計這些系統將使我們在通往人工通用智能（AGI）的道路上達到更高的能力水平。雖然我們自豪地構建并發布了在能力和安全性方面都處于行業領先地位的模型，但我們在這個重要時刻歡迎一場激烈的辯論。

作為背景，OpenAI在2023年3月發布GPT-4。單單憑借總裁布洛克曼畫在筆記本上的草圖，GPT-4就能構建出一個真實的網站。相信有不少股民，也是從看到這一幕后才開始相信“AI或許真的能改變些什么”。

圖片來源：OpenAI

自那以后，OpenAI圍繞著GPT-4逐步推出一系列文字、圖片、音頻和視頻生成應用。就在兩周前，公司剛剛發布了最新版本的GPT-4o。通過顯著提高模型的交互速率，實現了像真人對話一樣的“實時互動”。歸根結底，各方面都稍強一些的GPT-4o依然沒有跳脫出GPT-4的能力范疇。

正因如此，外界對于“GPT-5”的期待一直頗高。不過根據OpenAI最新的表述，下一代大模型恐怕要到明年才能與公眾見面。AI模型通常需要數月、乃至幾年時間來訓練，而在面向公眾發布前，開發團隊還需要進行數月的微調。

隨著OpenAI構建的AI越來越接近人類智慧的水平，公司在通用人工智能方面的表述也變得更加謹慎。

OpenAI全球事務副總裁Anna Makanju表示，OpenAI的使命是構建可以做到“當前人類認知水平”任務的通用智能。

早些年Sam Altman曾說過，OpenAI的最終目標是構建比人類更加先進的“超級智能”。他還曾表示，自己有一半的時間是在構想如何打造“超級人工智能”。

每日經濟新聞綜合公開資料

封面圖片來源：視覺中國-VCG31N2008743681