阿爾特曼被炒竟因一天前的APEC演講？OpenAI被曝在通用人工智能領域取得重大突破：秘密研發新模型“Q*”，已具備解決數學問題的推理能力

每經記者 蔡鼎    每經編輯 蘭素英    

雖然OpenAI這場持續了五天的鬧劇最終以山姆·阿爾特曼（Sam Altman）重返公司收尾，但阿爾特曼上周五為何會突然被董事會解雇對外界仍然是個未解之謎。

據路透社和The Information等媒體報道，阿爾特曼被突然解雇，或許跟他在舊金山APEC峰會的一場演講有關。阿爾特曼當時在演講中提到了OpenAI在人工智能領域的又一重大進展。據悉，這一進展可能是OpenAI內部稱之為“Q*（發音為Q-Star）”模型的項目，這或是該公司在通用人工智能（下稱AGI）領域的突破，已經具備解決某些數學問題的推理能力。目前，類似GPT-4的生成式人工智能產品都尚不具備推理能力。

這一技術突破曝光后，包括內部員工和外部研究人員在內的人士均對其安全性感到擔憂。就連馬斯克都在X（原推特）上稱，“非常令人擔憂！”

強大算力支撐下“Q*”可解決某些數學問題

阿爾特曼在美東時間11月16日舊金山舉行的APEC峰會上開玩笑稱，他相信重大的進展就在眼前，“在OpenAI的歷史上，已經有四次（重大進展）了，當我們把無知的面紗解開，把探索的前沿向前推進時，能夠做到這一點是我一生的職業榮譽。”

然而，講話后的第二天，阿爾特曼就突然被OpenAI董事會解雇。

路透社援引的知情人士透露稱，OpenAI首席技術官米拉·穆拉蒂（Mira Murati）本周三向員工透露，關于“Q*”模型取得人工智能技術突破的信，是導致OpenAI前董事會解雇奧特曼的原因。

此前，OpenAI的幾位研究人員向董事會發送了一封信，警告稱他們發現了一種能夠威脅到人類的強大人工智能，即“Q*”。研究人員還提到了一個“人工智能科學家”團隊工作，且多個消息來源證實了該團隊的存在。其中一名知情人士表示，該團隊由早期的“代碼世代（Code Gen）”和“數學世代（Math Gen）”團隊合并而成，正在探索如何優化現有的人工智能模型，以提高它們的推理能力，并最終執行科學工作。

知情人士稱，OpenAI的一些內部員工認為，“Q*”模型可能是公司在所謂的AGI領域的一個突破。OpenAI將AGI描述為“在最具經濟價值的工作中超越人類的高度自治系統”。

該匿名人士稱，在擁有大量算力資源的情況下，新的“Q*”模型能夠解決某些數學問題。雖然目前“Q*”的數學能力只有小學生的水平的，但通過這些測試讓研究人員對“Q*”未來的成功非常樂觀。

路透社報道截圖

路透社報道中稱，人工智能研究人員都認為數學是生成式人工智能發展的前沿。目前，生成式人工智能通過統計預測下一個單詞，能夠在寫作和語言翻譯方面表現出強大的能力。然而，對數學這種有且只有一個正確答案的問題而言，人工智能若能正確回答，便意味著其擁有了更強的推理能力，類似于人類的能力。

例如，業內人士認為，一旦人工智能有了數學推理能力，便可以應用于新穎的科學研究當中。此外，與普通的人工智能只能解決有限數量運算的計算器不同，AGI可以概括知識，并不斷學習和理解。

可以說，OpenAI在AGI領域的最新進展與阿爾特曼密不可分。在阿爾特曼的努力下，OpenAI已經將ChatGPT發展成為史上增長最快的應用之一，并從微軟獲得了超過100億美元的投資和算力資源，以使ChatGPT接近AGI的高度。 

“Q*”模型引發廣泛擔憂

據The Information，“Q*”模型背后的技術突破是由OpenAI首席科學家蘇斯克維爾（Ilya Sutskever）牽頭實施的，而“Q*”模型是OpenAI頂級研究人員雅各布·帕喬基（Jakub Pachocki）和西多爾（Szymon Sidor）在蘇斯克維爾的技術成果上創立。

在過去的幾個月里，OpenAI的高級研究人員還利用這一創新模型構建了可以解決基本數學問題的系統。

最近幾周，該模型的演示在OpenAI內部開始流傳。部分員工對此表示擔憂，他們擔心在商業化這種先進的人工智能模型的過程中，OpenAI沒有適當的保護措施。其實，不光是OpenAI員工，這一模型的發展速度讓一些關注人工智能安全的外部研究人員也感到震驚和擔憂。 

路透社援引的消息人士稱，在給OpenAI董事會的信中，研究人員也指出了人工智能的潛在危險，但沒有說明具體安全的問題。長期以來，計算機科學家一直在討論高度智能機器帶來的危險，例如它們是否會認為毀滅人類符合其利益。

在路透社的上述報道發布后，馬斯克本人轉發了該篇文章，并稱“非常令人擔憂！”

圖片來源：X平臺

The Information報道稱，“Q*”模型取得突破后的幾個月里，蘇斯克維爾本人似乎對這項技術也持保留態度。今年7月，蘇斯克維爾還組建了一個團隊，致力于限制來自比人類聰明得多的人工智能系統的威脅。該團隊在其網頁上表示，“雖然超級智能現在看起來還很遙遠，但我們相信它可能會在十年內到來。”

The Information援引知情人士稱，蘇斯克維爾的這項突破幫助OpenAI克服了在獲取足夠高質量數據來訓練新模型方面的限制，這是開發下一代（生成式人工智能）模型的主要障礙。這項研究涉及使用計算機生成的數據，而非現實世界的數據。

其實，多年來，蘇斯克維爾一直在研究如何讓GPT-4這樣的語言模型解決涉及推理的任務，比如數學或科學問題。2021年，他還啟動了一個名為GPT-Zero的項目，向DeepMind的AlphaZero程序致敬，該程序可以下國際象棋和圍棋等推理任務。GPT-Zero團隊當時的假設認為，只要給予語言模型更多的時間和計算能力來生成問題的答案，就可能會讓它們在學術上取得新的突破。

報道稱，蘇斯克維爾自身取得的突破以及他對人工智能安全的擔憂或許能解釋為何他參與了解雇阿爾特曼的行動。

值得注意的是，在阿爾特曼被解雇后，帕喬基和西多爾也提出了辭職，是第一批辭職的OpenAI資深員工。而在阿爾特曼復職后，二人也一同重返OpenAI。 

封面圖片來源：視覺中國-VCG41N1188747468