“AI馬斯克”泛濫：口型和聲音都高度吻合，甚至還有南非口音！普通人幾乎無法辨別，82歲老人被騙近500萬元畢生積蓄

隨著人工智能（AI）的發展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對風險防范的認知。這背后不僅關乎廣大消費者的財產安全，還潛藏著人身安全的風險和隱患。

近日，外媒曝光了一種全新的數字詐騙，詐騙犯利用復雜的AI工具制作特斯拉CEO馬斯克等名人的視頻，并利用這些“AI名人”對各種虛假的產品或“投資”進行背書，并承諾高額投資回報。

在其中一個典型案例中，“AI馬斯克”背書的一家所謂的外匯公司輕松騙走了一名82歲的退休老人超過69萬美元（約495萬元人民幣）的畢生積蓄。

在這類騙局中，詐騙犯通常先尋找一個真實的采訪馬斯克的視頻，再使用AI工具將他的聲音替換，并利用口型同步技術編輯馬斯克的口型，讓視頻看起來更加真實。對于普通人來說，這種以假亂真的視頻可能是非常難以辨別的。

除了馬斯克外，“股神”巴菲特和亞馬遜創始人杰夫·貝索斯等也是常出現在這類詐騙視頻中的名人。

“AI馬斯克”泛濫，生成僅需幾分鐘，卻有人被騙近500萬元

最近幾個月來，成千上萬個由AI驅動的視頻在互聯網上泛濫，這類視頻被稱為“深度偽造（deepfakes）”。根據德勤的估計，AI驅動的“深度偽造”視頻/廣告預計每年將造成數十億美元的欺詐損失。

然而，這些視頻的制作成本只有幾美元，幾乎可以忽略不計，而且可以在幾分鐘內完成。這類視頻由于名人效應在社交媒體上被廣泛推廣，包括Facebook上的付費廣告，擴大了它們的影響范圍。

騙子們會從一段真實的視頻開始，比如下面這段來自《華爾街日報》的采訪馬斯克視頻，提問者是該報一名編輯Thorold Barker，他的聲音也出現在視頻片段中。

圖片來源：《華爾街日報》

在“深度偽造”視頻中，馬斯克的嘴部動作用唇部同步技術進行了編輯，這種技術可以調整一個人的說話方式。騙子還會用語音克隆工具添加AI聲音，這種工具可以從樣本中復制任何他們想要的聲音。因此，最終的視頻對于普通的互聯網用戶來說，可能相當有說服力。

已有人因此上當受騙，82歲的退休老人Steve Beauchamp便是典型案例。據外媒報道，去年年底，82歲的退休老人Beauchamp觀看了一段視頻廣告。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，還融入了馬斯克標志性的南非口音，看起來極為真實。于是，Beauchamp聯系了該廣告背后一家名為Magna-FX的外匯公司，開設了一個248美元的賬戶。經過數周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元（約合495萬元），而這些錢都被卷走了。

另據非營利性消費者權益組織美國商業促進局的一份報告，一名得克薩斯州人表示，他在看到馬斯克于2023年2月在所謂的YouTube“直播”視頻中發言后，損失了價值3.6萬美元的比特幣。其稱，“我把比特幣發送了出去，卻再也沒有收到任何東西。”

負責監控和檢測“深度偽造”的公司Sensity分析了2000多個深度偽造視頻后發現，到目前為止，馬斯克是這類視頻中最常見的“AI形象”。具體來說，自去年年底以來，“AI馬斯克”出現在近1/4的“深度偽造”騙局中。而在加密貨幣相關的“深度偽造”視頻中，他出現的頻率甚至高達90%。

對此，研究加密貨幣社區的專家表示，馬斯克在全球擁有獨特的粉絲群，其中包括保守派、反建制派和加密貨幣愛好者，這類群體往往會被另類的發財途徑所吸引，這也使他們成為數字詐騙犯的完美目標。而且這類群體中，年紀較大的互聯網用戶往往更容易成為詐騙犯的目標，這類群體對加密貨幣、AI和馬斯克都非常熟悉，但他們的警惕性往往不足。

除了馬斯克外，“股神”巴菲特和亞馬遜創始人杰夫·貝索斯等也是常出現在這類詐騙視頻中的名人。

AI技術成詐騙工具，Facebook和Youtube是重災區

外媒報道中稱，目前來看，很難量化到底有多少“深度偽造”視頻在網上流傳，但在Facebook的廣告庫中搜索這些騙局的常用關鍵詞，能搜索到數十萬個廣告，其中許多都包含“深度偽造”視頻。

盡管Facebook已經刪除了許多違反其政策的視頻，并關閉了一些賬戶，但其他視頻仍在網上流傳，而且似乎每天都有更多的視頻出現。不僅是Facebook，YouTube上也充斥著這些造假視頻，而且通常使用“直播（live）”標簽。但事實上，這些視頻是預先錄制的”深度偽造”視頻。

YouTube在一份聲明中說，僅今年一季度，就刪除了超過1570萬個頻道和超過820萬個視頻，這些內容大多因違反其反垃圾郵件政策而被刪除。

這類“深度偽造”廣告的盛行還導致澳大利亞億萬富翁Andrew Forrest提起民事訴訟，控告Facebook的母公司Meta在廣告業務運營方面存在疏忽。他認為，Facebook的廣告業務誘使“無辜用戶進行了錯誤的投資”。Meta則表示，其正在培訓自動檢測系統，以捕捉其平臺上的欺詐行為，但同時也提到，資金雄厚的欺詐者會不斷變換策略以逃避檢測。YouTube則表示，其政策禁止欺詐和篡改視頻，并于今年3月要求創作者在使用AI創作真實內容時必須披露。

事實上，數字詐騙并不新鮮，但自去年AI工具開源后，新一波“深度偽造”視頻井噴。

今年早些時候，美國聯邦貿易委員會（FTC）和FBI也發出警告稱，AI驅動的網絡犯罪和深度欺詐正在上升。FBI表示，“犯罪分子正在利用AI讓網絡攻擊和其他犯罪活動更有效，更難以被發現”。

“深度偽造”視頻并不完美，甚至在一些視頻中，“AI馬斯克”的嘴型都對不上，但有專家表示，對于一些詐騙犯的目標群體來說，他們制作的視頻似乎足夠有說服力，而且一直在改進。

此外，一些騙局還經常宣傳虛假的人工智能軟件，稱它們可以產生可觀的投資回報。詐騙犯以此誘使目標受眾一開始只投一小筆錢（大約250美元）。隨后，騙子不斷宣稱投資會升值，人們往往慢慢被引誘投入更多資金。

被騙了畢生積蓄的Beauchamp在提交給美國商業改進局（Better Business Bureau）的報告中表示：“此刻，我愿接受所有指責與嘲諷，作為對自己輕信的懲罰。”

他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養老金來維持生計，而他原本計劃使用這些積蓄環游世界。Beauchamp已經向當地警方報案，但案件進展緩慢。“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望。”