每日經濟新聞 2023-04-01 13:44:00
◎科技大佬們都在擔心什么?
每經記者 文巧 李孟林 譚玉涵 每經編輯 譚玉涵
3月29日,馬斯克與上千名業內人士聯名發表了一封公開信,呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統。這一呼吁得到了不少關注與回應,截至當地時間3月31日,已有超2300人簽名。僅3天時間,簽名人數已翻倍。
據路透社3月31日報道,OpenAI已在意大利下線ChatGPT,此前意大利數據保護局Garante在同日暫時禁止了該聊天機器人,并對其涉嫌違反隱私規則展開了調查。
《每日經濟新聞》連線簽署公開信的馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang、紐約大學知名AI專家Gary Marcus,以及美國人工智能協會前主席Thomas Dietterich進行解讀。
此外,全球最大加密貨幣公司幣安創始人趙長鵬在美國被起訴,起訴文書長達74頁。隨著比特幣價格的暴跌,“前華人首富”趙長鵬的身家已從900億美元跌至304億美元,跌近7成。“一周人物”帶你探尋“前華人首富”往事。
馬斯克與上千大佬呼吁暫停超強AI研發
意大利已率先禁止ChatGPT!
圖片來源:視覺中國
GPT-4的東風刮得正猛,打工人正為飯碗瑟瑟發抖,科技大佬則對AI風險感到愈發擔憂。3月29日,上千名業內人士聯名發表了一封公開信,呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統,為期至少6個月,以確保人類能夠有效管理其風險。意大利率先禁止ChatGPT,OpenAI已將ChatGPT從該國下線。
這封聯名信可謂眾星云集,簽名的包括埃隆•馬斯克,圖靈獎得主、深度學習三巨頭之一Yoshua Bengio,蘋果聯合創始人Steve Wozniak,紐約大學知名AI專家Gary Marcus,以及《人類簡史》作者Yuval Noah Harari等?!睹咳战洕侣劇酚浾咦⒁獾?,不到3天時間,簽名人數翻倍。截至當地時間3月31日,已有超2300人簽名。
圖片來源:公開信
聯名信的出現之后,也讓AI風險受到大范圍的主流關注。3月31日,意大利個人數據保護局宣布,從即日起禁止使用聊天機器人ChatGPT,并限制開發這一平臺的OpenAI公司處理意大利用戶信息,同時個人數據保護局開始立案調查。
該機構表示,3月20日ChatGPT平臺出現了用戶對話數據和付款服務支付信息丟失情況,平臺沒有就收集處理用戶信息進行告知,缺乏大量收集和存儲個人信息的法律依據。OpenAI公司必須在20天內通過其在歐洲的代表,向意大利個人數據保護局通報公司執行保護局要求而采取的措施,否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。
馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang支持并簽署了前述公開信。他在接受《每日經濟新聞》采訪時表示,“我們需要一種更具包容性和民主性的AI研究方法,以使AI技術的開發和使用符合社會價值觀,而不是僅僅取決于開發人員自己的判斷力。”
不過,機器學習領域的奠基人之一、美國人工智能協會前主席Thomas Dietterich極力反對這封信,認為夸大了AI技術的風險。但Dietterich告訴每經記者,他認可其帶來的犯罪風險問題,并認為AI應用程序在部署之前都應該進行風險分析和管控。
前述公開信表示,大量研究表明,得到頂級AI實驗室的認可、具有和人類競爭智能的AI系統,可能對社會和人類構成4種深遠的風險:假新聞和宣傳充斥信息渠道、大量工作被自動化取代、AI甚至有一天會比人類更聰明、更強大,讓我們失去對人類文明的掌控。
然而,各大AI實驗室為了開發和應用更加強大的AI,最近幾個月已經陷入了“失控”的競賽,甚至連AI系統的創始人也并不能完全理解、預測和有效控制其風險,相應的計劃和管理工作沒有跟上。
只有當人類確信,AI的影響是積極的、風險是可控的時候,才應該開發強大的AI系統。因此他們呼吁,所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統,至少6個月。
Gary Marcus是簽名的一員,他是紐約大學的榮譽教授,也是美國非常知名的AI研究專家。在推特上,Marcus非?;钴S,經常與馬斯克等人互動。自ChatGPT發布以來,以他與圖靈獎得主、Meta首席AI科學家Yann LeCun為首,常發表反對ChatGPT的言論,認為大型語言模型(LLM)將帶來諸多風險。
在通過郵件發給《每日經濟新聞》記者的一篇文章中,Marcus分享了關于這封信的看法,“這封信的確并不完美,但許多批評被誤導了。”他不斷強調,這封信沒有要求禁止AI,也沒有要求禁止GPT-4,它也并沒有要求禁止絕大多數AI研究,只是暫停了一個非常具體的項目,該項目使用的技術具有已知風險且沒有解決方案。
Jie Wang告訴記者,這封信的目的是呼吁在AI系統的開發和部署中提高透明度和問責制,并在圍繞這些技術的決策中加強公眾投入和監督。
盡管有上千名大佬背書,這封信還是引發了輿論上的爭端。例如,雖然在聲討ChatGPT上和Marcus站在同一陣線,但Yann LeCun卻并沒有參與簽署這封公開信。他在推特上表示,“我不同意這個前提。”
在圖靈獎“三巨頭”中,對于此事的觀點也并不一致:Yoshua Bengio帶頭簽名,Yann LeCun強烈反對,還有一位被稱為“AI教父”的Geoffrey Hinton并未公開發表看法。每經記者向三位得獎者均發送了置評郵件,Bengio拒絕評論,剩下兩位則并未回復。
Dietterich在接受每經記者采訪時也表示,“我反對這封信,它夸大了AI技術的風險,并建議停止訓練新的、更強大的模型,這不太可能解決他們聲稱存在的任何風險。”
從ChatGPT橫空出世以來,科技巨頭爭紅了眼。OpenAI、微軟、谷歌隔三差五就發布一個新產品,令大眾目不暇接??萍几吖庵拢P于AI的風險并未受到大范圍的主流關注——直到這封聯名信的出現。
在近期,OpenAI的首席執行官Sam Altman也有了一些耐人尋味的表達。他表示,未來,AI確實可能殺死人類。而有如此石破天驚言論的并非Sam Altman一人,一向深居簡出的Geoffrey Hinton在近期也發出了警示:AI消滅人類并非空談。
幾天前,Marcus在推特上轉發了Hinton的采訪。但有人立即質疑:“這會不會造成對即將到來的通用AI(AGI)的無端恐懼?”
圖片來源:推特截圖
Marcus解釋,他現在并不擔心所謂的AGI風險,他擔心的是Bing和GPT-4廣泛部署后帶來的風險,因為其存在明顯的錯誤和不可靠傾向。現在這些工具廣為人知,并越來越多地被允許進入外部世界,可能被犯罪分子利用造成更大的破壞。
在LLM的幫助下,包藏禍心的人可以更快、更真實地進行網絡釣魚和在線欺詐,并可以將其用于處理恐怖主義、宣傳和虛假信息等,例如恐怖主義融資或匿名文件共享。Marcus甚至還描繪了一些更恐怖的場景,“再加上AI的大規模宣傳,LLM導致的恐怖主義可能反過來引發核戰爭,更大范圍的病毒傳播等。”
Jie Wang表示,“我不擔心AI模型能夠像人類一樣處理語言或像人類一樣思考。相反,AI模型做這些事情是一件好事。但我們需要確保AI模型能夠準確地完成這些事情。換句話說,我們需要讓AI只做我們期望它們做的事情。”
“我擔心的是,AI模型可能會影響人們的思維方式并指導他們的行為方式。”他向記者解釋,“假如真的有一天,人類由于受AI模型的影響,逐漸接受了AI模型給出的答案和表達方式是標準,那么人類的思想和行事方式就在不經意中被機器控制了。這封公開信的目的就是為了防止這個走向或其他目前還不知道的更危險的事情的發生。”
Jie Wang也描繪了一個更可怕的場景,如果開發或使用不當,與人類競爭的AI有可能超越人類。“當用戶接受它的答案時,ChatGPT可能會在未來將其視為真理,漸漸地可能會建立自己的認知。如果通過基于ChatGPT構建的教育平臺教導學生學習,那么他們可能會被訓練成像 ChatGPT 一樣思考。當這種情況發生時,我會認為ChatGPT已經超越了(學生的)思想。這很可怕。”
作為反對者,Dietterich的意見有一些相左。對于聯名信中提出的4大風險, Dietterich認為只有“假新聞和宣傳充斥信息渠道”是真實的。“毫無疑問,這些生成式AI工具將增加這種信息洪流,使用現有方法來過濾信息也變得更加困難。但這些工具也可能為我們提供改進的方法,因為新工具可以更好地理解信息。”
對于大眾擔心的工作被替代,Dietterich認為,一項新技術很少能使一項工作的所有方面都實現自動化,相反,它會使工作的某一部分得到簡化和改進。至于AI超越人類、讓人類失去對文明的掌控,Dietterich稱其是“來自科幻小說”的無稽之談:“(LLM)只有基本的推理能力,并輸出許多錯誤和自相矛盾的陳述。計算機并不會與我們爭奪食物、水或空氣。”他認為,事實上新的AI技術正在提高我們記錄文明并將傳承給下一代的能力。
不過,Dietterich也承認,“每一個現存的金融騙局都是人類被愚弄的案例,新技術可能會加劇這個問題。但與此同時,新技術也可以幫助檢測欺詐。”
盡管科學界對于AI風險的定義不盡相同,但監管和控制是所有人共同的訴求。聯名信要求,在這6個月內,所有AI實驗室和獨立學者都應該合力開發一套共享安全協議。協議完成后,應該由獨立的外部專家進行嚴格的審計和監督。協議必須確保這些AI系統的安全。同時,開發者必須與政策制定者合作,加快開發強大的AI管理系統。
Jie Wang向記者談到了政府可以扮演的具體角色,“例如,在美國,國會應該與學術界和工業界合作,在制定開發AI系統的相關法律方面發揮積極作用。政府機構應通過制定政策、法規和標準來監督AI的發展是否符合法律。其他國家也應采取類似措施。”
在Dietterich看來,“AI的每個應用程序在部署之前都應該進行風險分析。政府不應試圖監管技術本身,而應監管由此產生的危害,例如金融欺詐、侵犯隱私、盜竊知識產權。隨著威脅的變化,法律也需要更新。” “我強烈支持限制AI合成消息(包括電子郵件、廣告和社交媒體帖子)的法律法規,我支持研發以創建可用的認證基礎設施。”
在Dietterich看來,任何一個組織、公司或政府控制該技術都是危險的,與許多業界大佬一樣,他對OpenAI的開源性提出了質疑。“(AI技術)應該對所有人廣泛可用,我對OpenAI很少發布關于其最新模型GPT-4的信息感到不滿,這一決定似乎主要是關于業務優勢,而不是對技術風險的關注。我希望他們公開架構、訓練數據和大小。”
在聯名信發出后,Yann LeCun也在推特上暗示了沒有簽名的理由,他轉發了一位網友的推文——“OpenAI足足等了6個月,才發布了GPT4!他們甚至為此還寫了一份白皮書”,并表示:“說得對,所謂暫停研發,不過就是秘密研發罷了,這與一些簽名者所希望的恰恰完全相反。”
圖片來源:推特截圖
趙長鵬在美國被起訴,74頁文書起底“前華人首富”往事,900億美元身價暴跌近7成
圖片來源:視覺中國
當地時間3月27日,美國商品期貨委員會(CFTC)指控幣安及其創始人趙長鵬故意逃避聯邦法律并經營非法數字資產衍生品交易所。在長達74頁的起訴書中,CFTC詳述了趙長鵬和幣安在美國的違法事宜,希望沒收幣安的非法所得、進行罰款,并永久禁止其在美國的注冊和交易。
幣安是全球最大的加密貨幣交易平臺,該公司官網顯示,幣安擁有1.2億用戶,24小時的交易量達到380億美元。其創始人趙長鵬,則是昔日的“華人首富”。
1977年,趙長鵬出生在江蘇連云港,后移民加拿大,在蒙特利爾的麥吉爾大學完成了計算機科學學位。他的商業生涯始于2005年,當時他放棄了彭博社Tradebook期貨研發團隊負責人的職位,回到中國創辦了一家IT公司。
2014年,趙長鵬踏足加密貨幣領域,賣掉了上海的房子,全倉投入比特幣。到2017年,趙長鵬在上海創辦了幣安。但由于監管因素,他再次離開了中國。令人驚奇的是,不出幾月,幣安便成為了全球最大的數字貨幣交易所。
2021年,幣安估值達到925億美元,躋身私有科技企業的領先陣營,一度與字節跳動、Stripe、SpaceX并駕齊驅。據華爾街日報,幣安2021年的日交易額達到了760億美元,通過收取手續費、上幣費、服務費等,賺得盆滿缽滿。
憑借其驚人的成就和白手起家的神話,趙長鵬在2018年就登上福布斯封面。2021年,趙長鵬以超過900億美元的身價成為華人首富。
但高光過后,低潮也來了。比特幣價格的跳水也導致趙長鵬身價縮水,到2022年12月,其凈資產從3月的650億美元降至45億美元。截至發稿,趙長鵬身價為304億美元,在全球位列第41名。
緊接著就是被美國政府盯上了。CFTC的起訴書稱,早在2019年7月之前,幣安就進入了美國市場,向美國用戶提供數字貨幣交易服務。由于沒有獲得經營許可,幣安的這一市場行為不符合美國法律。
CFTC委員在一份聲明中寫道,趙長鵬曾表示幣安的總部位于他自己所在的位置,這是在有意規避當地監管,不符合《美國商品交易法》以及世界上很多地區的司法規定。
事實上,很少有人知道趙長鵬在哪里,他很少購置房產、車輛,認為這些資產與數字貨幣相比不具有流動性。2021年11月,華爾街日報曾提到,疫情的兩年時間里,他一直在新加坡,時常騎一輛電動滑板車去上班。2021年底,趙長鵬在迪拜購置了一棟公寓,外界一度認為幣安可能會將全球總部落在迪拜。
實際上,這不是幣安第一次遭到美國監管部門的調查。據路透社報道,早在2022年12月,幣安已經因涉嫌違反刑事制裁和洗錢而受到美國司法部的調查。今年2月,幣安首席戰略官Patrick Hillmann表示,他們預計將會支付罰款來與美國監管部門和司法部門進行和解。
馬斯克談去美元化:問題很嚴重
圖片來源:推特截圖
近期,“去美元化”在國際輿論上的一個熱門話題,有觀點認為,美元正在失去國際儲備貨幣的地位。
埃隆·馬斯克3月30日在推特上分享了他對這個問題的看法。他稱:“這是嚴重的問題,美國的政策過于強硬,使其他國家都想拋棄美元。”馬斯克還補充稱,“再加上(美國)政府開支過大,這迫使其他國家承受我們的很大一部分通貨膨脹”。
當地時間 3月31日,巴西央據央視新聞,行發布的一份報告顯示,人民幣已取代歐元,成了巴西外匯儲備中第二重要的貨幣。
律師:特朗普或將自首 下周二接受傳訊
圖片來源:視覺中國
當地時間3月30日,美國紐約曼哈頓大陪審團當天投票決定,就美國前總統特朗普涉嫌在2016年競選期間向艷星丹尼爾斯支付“封口費”并偽造商業記錄一事起訴特朗普。特朗普將成為第一位面臨刑事指控的美國前總統。當日晚間,美國紐約州曼哈頓地區檢察官辦公室證實了這一消息。
特朗普發表聲明稱,這是“歷史上最高級別的政治迫害和選舉干預(行為)”。據特朗普律師的最新回復,預計特朗普將于下周初向曼哈頓地區檢察官辦公室自首,并在下周二(4月4日)接受傳訊。
美國克里斯多夫紐波特大學政治科學系助理教授孫太一此前在接受《每日經濟新聞》記者采訪時表示,對特朗普早該推進的司法進程現在才宣布,明顯帶有政治因素,“特朗普在司法上即便受到重大打擊,可能也無法動搖其基本盤。”
美國銀行業去年投資浮虧6200億美元
圖片來源:每經制圖
據彭博社4月1日援引美國聯邦存款保險公司(FDIC)的四季度和去年年度數據稱,截至去年末,美國銀行業投資低收益債券的賬面未實現虧損合計約6200億美元。
投資長期債券巨額浮虧是硅谷銀行倒閉的原因之一。整個美國銀行業其實也面臨這一問題。只不過對大多數銀行而言,這種投資浮虧的問題還在可控范圍。截至去年12月,整個銀行系統資產合計23.6萬億美元,銀行賬面的債券投資總額占比不到四分之一。
而且,不同于客戶集中度極高且依賴不穩定存款的硅谷銀行,提供貸款的銀行通常有范圍廣泛的儲戶,他們不可能同時都需要取款。對大而不能倒的系統重要性銀行來說,這類風險更小。但是,雖然他們能撐過賬面損失,當在未來數年,這些銀行都面臨流動性緊張的問題。
當地時間3月30日,曾精準預測雷曼兄弟倒閉和瑞信爆雷的華爾街金融家、《窮爸爸,富爸爸》作者羅伯特·清崎再次發聲警告,稱日本央行可能是下一個倒下的全球超級大行。
俄烏沖突已爆發400天,核危機陰云籠罩歐陸
圖片來源:央視新聞截圖
截至3月30日,俄烏沖突已持續400天,雙方均未取得明顯進展,烏東部城市巴赫穆特仍然是沖突焦點,該城鎮和周邊地區不斷受到轟炸。與此同時,俄烏兩軍在烏克蘭扎波羅熱核電站及周邊地區的戰事也不斷升級,國際原子能機構總干事對此警告稱當地局勢危急,希望俄烏早日就有關核電站安全保護的事宜達成一致。
據央視新聞,美國五角大樓發言人帕特里克·賴德同日表示,65名烏克蘭防空部隊人員已結束在美國俄克拉何馬州錫爾堡的“愛國者”防空導彈系統操作培訓,回到歐洲。自去年俄烏沖突升級以來,美國已向7000多名烏克蘭士兵提供軍事培訓。
俄羅斯衛星通訊社,北約副秘書長米爾恰·杰瓦訥30日表示,北約盟國過去一年累計向烏克蘭提供價值超過1500億歐元的財政、軍事等各種支持。其中,軍事支持達到650億歐元,約合人民幣4900億元。這種 “拱火澆油”的做法在美國內部表達不滿和批評。
迪士尼啟動裁員三部曲:3輪共裁7000多人 漫威董事長也被炒了
圖片來源:每經記者 祝裕 攝
據《華爾街日報》,當地時間27日,美國迪士尼公司首席執行官艾格表示,7000人的裁員計劃將分成三輪進行,第一輪當天啟動,首批被裁的員工將在接下來的四天內收到通知。第二輪裁員將于4月份實施,涉及人數會比第一輪更多。第三輪裁員,預計將在春末夏初完成。另據知情人士透露,迪士尼的主題樂園和度假村等部門員工,將是重點裁員對象。
而主要負責元宇宙項目的部門,全部約50名員工都將被裁掉。統計數據顯示,迪士尼目前在全球有約22萬名員工,這次裁員人數約占員工總數的3%。另外,據美媒綜合報道,漫威影業董事長威娛樂董事長艾薩克·珀爾馬特(Isaac Ike Perlmutter)已遭到辭退。
記者:文巧 李孟林 譚玉涵
編輯:譚玉涵
視覺:劉青彥
排版:譚玉涵
封面圖片來源:每經制圖
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP