微信抖音都難防！花1280元，直播、視頻通話能實時換成劉亦菲、楊冪的臉，拍臉按鼻露齒及大幅遮擋都不會“掉臉”

每經(jīng)記者 杜蔚  孫宇婷    每經(jīng)編輯 易啟江    

黑灰產(chǎn)正在兜售楊冪、迪麗熱巴、劉亦菲等明星或者政治人物、企業(yè)家的AI臉，只需要1280元。《每日經(jīng)濟新聞》記者（簡稱每經(jīng)記者或記者）調(diào)查發(fā)現(xiàn)，AI臉在實時視頻通話和直播中都能“瞞天過海”，微信、抖音、快手、小紅書等平臺也難以識別。

記者暗訪了解到，與之前的網(wǎng)絡(luò)換臉完全不同，新技術(shù)實現(xiàn)了聲音與圖像的實時同步克隆，用戶只需模仿目標(biāo)人物的發(fā)型和服裝，AI生成高仿真語音和面部表情，即可完成全套偽造。這種技術(shù)的成熟使得偽造視頻在視覺和聽覺上都達到了近乎完美的程度。新技術(shù)是通過“綁架”手機攝像頭，從而繞開了平臺算法監(jiān)測。通過揮手、大幅遮擋來識別真?zhèn)蔚膫鹘y(tǒng)手段，已完全失效。

面對如此逼真的實時AI變身，普通人如何自保？抖音、快手、微信等平臺作為億萬用戶的守護者，又該如何提升防御能力？站在新的十字路口，我們是否已準(zhǔn)備好迎接這一挑戰(zhàn)？

1

拍臉按鼻露齒及大幅遮擋

都不會“掉臉”

在技術(shù)推動下，AI換臉已能實現(xiàn)實時視頻通話和直播不露餡，且成本低廉。

隨著人工智能技術(shù)的快速發(fā)展，AI深度偽造技術(shù)在過去幾年中經(jīng)歷了顯著的迭代升級。在AI換臉技術(shù)方面，早期的換臉模型依賴于目標(biāo)面部的清晰坐標(biāo)（面部地標(biāo)）進行操作。因此，普通人可以通過一些簡單的方法揭露偽造內(nèi)容，例如要求視頻通話中的對方用手在臉上劃過。由于手部動作會遮擋面部地標(biāo)，導(dǎo)致?lián)Q臉模型無法準(zhǔn)確識別和渲染，從而破壞換臉效果。然而，最新的AI換臉技術(shù)已經(jīng)克服了這一缺陷。

記者暗訪了解到，最新的AI偽造技術(shù)實現(xiàn)了聲音與圖像的同步克隆。這種技術(shù)的成熟使得偽造內(nèi)容在視覺和聽覺上都達到了近乎完美的程度，進一步增加了識別的難度。

打開“抖快小”等平臺搜索AI換臉、AI視頻通話等關(guān)鍵詞，發(fā)現(xiàn)不少IP主發(fā)帖，當(dāng)中暗藏著以此牟利的黑灰產(chǎn)公司等信息。

“照片由你提供，中外明星、名人或者企業(yè)家以及素人等，我們都能做。你怎么用，自己把握，我們不會去打聽，也不管。”《每日經(jīng)濟新聞》記者以消費者身份暗訪時，一家AI換臉公司的工作人員徐盛（化名）表示，“定做一張（臉）1980元，先付500元訂金，5個小時左右做好。然后你就可以用這張臉在微信、QQ等平臺視頻通話，去抖音、快手等直播也是可以的。定做好的‘人臉’永久使用，多做幾張，我給你優(yōu)惠，3張以上1600元，你可隨時切換‘臉’來用。”

為向記者展示“AI畫皮”術(shù)的高超，徐盛主動從微信等平臺給記者打來視頻電話，其間用力拍臉、按鼻、露齒以及大幅度的臉龐遮擋等，均未露餡。“你看，怎么都不會‘掉臉’。聲音也可以克隆，全套做好，你只要模仿對方的發(fā)型和服裝就行。”

據(jù)徐盛介紹，開年后前來“畫皮”的人很多，公司接單量較大，超負荷運行。“光我就接了近1000個，我們這里有七八臺設(shè)備，每天要做到凌晨五點。你想要名人臉，可以先發(fā)我名字，如果是我們公司庫中已有的（客人定制過的），可以優(yōu)惠出售，這樣大家都方便。像楊冪、劉詩詩、迪麗熱巴、劉亦菲等，都是現(xiàn)成的，1280元一張（臉）。”

在談及公司的“定制臉”時，徐盛表示，目前以素人臉為主，“名人的話，在平臺上直播容易被舉報。”

2

“綁架”手機攝像頭

多平臺無法識別真?zhèn)?/span>

迭代后的“AI畫皮”技術(shù)，在實時視頻通話中，竟能避開多個平臺的監(jiān)測。

暗訪中，徐盛轉(zhuǎn)場不同平臺向《每日經(jīng)濟新聞》記者打來視頻電話，甚至“現(xiàn)身”直播間，都暢通無阻。在這些“實時流”中，相關(guān)畫面未有任何風(fēng)險提示或被切斷。“我們還沒有收到有人被（平臺）發(fā)現(xiàn)的反饋，因為在手機攝像頭里，你打過去的時候，平臺上能看到的已經(jīng)是‘換過的臉’。”

圖片來源：黑灰產(chǎn)從業(yè)者朋友圈

在進一步交流中，記者獲悉，使用“AI畫皮”時，需在手機和電腦端都安裝由上述公司提供的軟件。“我們不僅支持在微信、QQ、抖音、快手、小紅書上進行視頻通話或直播，一些海外平臺，如WhatsApp、Telegram、Line也可以。”徐盛告訴記者。

為什么“AI畫皮”能在這么多平臺“瞞天過海”？“它是通過‘綁架’我們的手機攝像頭來實現(xiàn)的‘變臉’，而非篡改平臺算法。”國內(nèi)一家科技公司的相關(guān)負責(zé)人告訴每經(jīng)記者。

對此，中國人民大學(xué)民商事法律科學(xué)研究中心副主任姚歡慶在接受每經(jīng)記者采訪中提醒，當(dāng)這種技術(shù)主要用于“綁架攝像頭”的效果時，非常有可能構(gòu)成“提供侵入計算機信息系統(tǒng)程序罪”。在構(gòu)罪的情況下，軟件的技術(shù)開發(fā)者、用戶都很難脫罪。

“平臺對AI生成的深度偽造（包括AI換臉和克隆語音等）難以實時檢測，因為平臺并非為鑒證級別的（面部或音頻）分析而設(shè)計。以克隆語音為例，加密使得掃描變得不可能，而壓縮則扭曲了語音信號，讓檢測更加復(fù)雜，此外，計算負擔(dān)也很高。”全球知名科技公司Sensity AI聯(lián)合創(chuàng)始人弗朗切斯科·卡瓦利向《每日經(jīng)濟新聞》記者表示。Sensity AI專注于網(wǎng)絡(luò)安全和人工智能領(lǐng)域，特別是通過AI技術(shù)檢測和預(yù)防深度偽造（Deepfake）等威脅。

2024年度《人工智能指數(shù)報告》（AI Index Report 2024）指出，2023年報告了123起人工智能濫用事件，比2022年增加了32.3%。自2013年以來，這類事件增加了二十多倍。知名的例子包括由AI生成的美國明星泰勒•斯威夫特，這一具有性暗示的深度偽造視頻在網(wǎng)上廣泛傳播，反映出AI在隱私、安全等方面的風(fēng)險。該報告由“人工智能教母”李飛飛聯(lián)合領(lǐng)導(dǎo)的斯坦福以人為本人工智能研究所（Stanford HAI）發(fā)布。

世界經(jīng)濟論壇官網(wǎng)今年1月發(fā)布的報道指出，生成式人工智能（GenAI）的興起使欺詐行為以前所未有的速度增長。2023年，利用深度偽造技術(shù)繞過身份驗證的事件激增704%。

“AI深度偽造已成為網(wǎng)絡(luò)犯罪分子的一個新興操作工具。”卡瓦利直言。

姚歡慶向每經(jīng)記者指出，“但凡采用AI技術(shù)模仿明星或者名人的聲音或者肖像，用于通話和直播帶貨，使得他人產(chǎn)生誤認的效果，涉嫌違法，并至少構(gòu)成一種不正當(dāng)競爭行為，從而要承擔(dān)停止侵權(quán)、賠償損失的法律責(zé)任。至于是否構(gòu)成對他人肖像權(quán)、聲音權(quán)的侵犯，還需要根據(jù)具體情節(jié)確定。”

3

平臺回應(yīng)：

嚴(yán)禁售賣 AI換臉

及與之類似的商品

當(dāng)“AI畫皮”頻繁出沒，擁有數(shù)億月活用戶的平臺們，也感受到這次危機的嚴(yán)峻。

數(shù)據(jù)顯示，截至2024年三季度，微信月活躍賬戶數(shù)達13.82億。2月18日，專注移動互聯(lián)網(wǎng)數(shù)據(jù)分析的第三方機構(gòu)QuestMobile發(fā)布最新數(shù)據(jù)，2024年12月全網(wǎng)月活躍用戶規(guī)模再次刷新歷史紀(jì)錄，達到12.57億。其中，抖音、快手、小紅書的月活躍用戶規(guī)模分別為9.78億、5.87億、2.25億。

北京市隆安律師事務(wù)所上海分所律師賈玉倩向《每日經(jīng)濟新聞》記者表示，平臺有義務(wù)根據(jù)自查、用戶投訴等反饋信息，及時下架有欺詐風(fēng)險的視頻。

對此，姚歡慶表示，“提供換臉服務(wù)的平臺，很有可能要承擔(dān)責(zé)任。因為換臉服務(wù)雖然也可以用于正當(dāng)目的，但更大的概率是用于不正當(dāng)?shù)幕顒印．?dāng)然，這部分需要立法上明確。即換臉服務(wù)應(yīng)當(dāng)是一種特許經(jīng)營，類似于開鎖，需要獲得政府的準(zhǔn)入。如果是這樣，平臺就有審核義務(wù)。” 

針對技術(shù)升級后的“AI畫皮”情況，抖音方面相關(guān)負責(zé)人向《每日經(jīng)濟新聞》記者表示，“我們平臺不鼓勵對‘AI換臉’等可能涉及侵犯他人權(quán)益的內(nèi)容進行宣傳、推廣或教授。對于宣傳推廣AI換臉軟件或教學(xué)等內(nèi)容，以及未經(jīng)他人授權(quán)或同意，利用他人形象創(chuàng)作可能誤導(dǎo)觀眾為該人物本人發(fā)布或真實發(fā)生的視頻內(nèi)容，均會予以相應(yīng)管控。”

在直播場景下，抖音也全面禁止不當(dāng)使用AI換臉技術(shù)，因為會造成用戶的混淆認知。并禁止以獵奇、夸大噱頭等對AI技術(shù)不當(dāng)宣傳行為。上述負責(zé)人表示：“根據(jù)不同嚴(yán)重程度，我們會對相關(guān)賬號進行從警告中斷到封禁直播權(quán)限不等的處置。”

“我們持續(xù)治理‘AI換臉’相關(guān)內(nèi)容，針對‘AI換臉冒充他人’‘違規(guī)提供AI換臉服務(wù)’等內(nèi)容，平臺會根據(jù)規(guī)則進行相應(yīng)管控。”小紅書方面相關(guān)負責(zé)人向記者表示。

微信視頻創(chuàng)作安全中心相關(guān)負責(zé)人亦告訴《每日經(jīng)濟新聞》記者，對于涉及真人出鏡的內(nèi)容，無論是否使用 AI 技術(shù)制作，若存在冒充他人的傾向或用于商業(yè)用途，均需提供證明材料，確保為本人真實身份或已獲得相應(yīng)授權(quán)。“完全由 AI 生成的人臉內(nèi)容，需提交AI制作過程的相關(guān)信息，并使用平臺提供的功能進行顯著標(biāo)識。”

同時，微信、“抖快小”等方面的相關(guān)人士均向每經(jīng)記者表示，若用戶發(fā)現(xiàn)平臺上出現(xiàn)“AI換臉”相關(guān)的違規(guī)內(nèi)容，都可通過站內(nèi)官方渠道進行舉報。

“為切實保障用戶權(quán)益，維護平臺健康生態(tài)，我們明確規(guī)定：嚴(yán)禁售賣 AI 換臉及與之類似的商品。”抖音電商相關(guān)負責(zé)人在接受記者采訪時表示，像利用AI 技術(shù)進行換臉、換聲，以致干擾、誤導(dǎo)用戶判斷的這類商品和信息，均被平臺列入違禁范疇。一旦發(fā)現(xiàn)商家存在違規(guī)操作，平臺將秉持從嚴(yán)原則，依據(jù)相關(guān)規(guī)定予以處理；若情節(jié)嚴(yán)重，不僅會封禁相關(guān)商品，還會責(zé)令店鋪停業(yè)整頓。

4

目前無法實時攔截

審核及監(jiān)管需升級技術(shù)

盡管平臺們十分重視“AI畫皮”帶來的隱患，但采訪中，多家平臺和技術(shù)專家均向《每日經(jīng)濟新聞》記者坦言，目前對在視頻通話和直播中的“畫皮人”實施攔截的難度極高。

“我們有技術(shù)層面的主動識別，但無法窮盡，也有通過舉報反向治理。”有平臺方面稱。

針對平臺的審核挑戰(zhàn)，卡瓦利向《每日經(jīng)濟新聞》記者表示，加密平臺無法直接分析內(nèi)容，并且，于平臺而言，想要在數(shù)百萬個同時發(fā)生的視頻通話（直播）中，運行深度學(xué)習(xí)模型具有很大的挑戰(zhàn)性，成本也較高。要阻擋實時AI深度偽造的攻擊，最大的技術(shù)挑戰(zhàn)在于“隱私悖論以及（平臺）與攻擊者間的貓鼠游戲”。

“平臺無法在不違反隱私法律的情況下掃描加密通話，而攻擊者則不斷改進AI生成的畫面、聲音以逃避檢測。除非模型直接嵌入用戶設(shè)備，否則實時攔截不太可能有效。”卡瓦利坦言。

在看過《每日經(jīng)濟新聞》記者提供的“AI畫皮人”后，有行業(yè)人士提出了擔(dān)憂，“AI換臉人”是否能繞過系統(tǒng)的“真人驗證”。未來是否會發(fā)生偽裝成去世老人“吃空餉”，而一些空殼公司則可能借用AI換臉注冊后逃避債務(wù)。

“（技術(shù)上講）這是可行的，當(dāng)前的深度偽造技術(shù)可以欺騙面部和語音識別的防偽驗證。”卡瓦利向每經(jīng)記者解釋道，大多數(shù)系統(tǒng)只是檢查出現(xiàn)的臉部和聲音是否匹配，而不會檢查它們是否來自真人。

圖片來源：黑灰產(chǎn)從業(yè)者聊天記錄截圖

卡瓦利預(yù)測，“AI深度偽造技術(shù)會變得更成熟。模型將繼續(xù)縮小規(guī)模，使實時、超逼真的深度偽造通話對任何擁有智能手機的人都可以訪問。我們還將看到多模態(tài)深度偽造——語音、視頻，甚至行為生物特征被合成在一起，創(chuàng)造出完全虛假的身份。防御措施必須同樣快速跟上。”

AI技術(shù)在推動社會生產(chǎn)力發(fā)展的同時，也正以驚人速度淪為新型犯罪手段。姚歡慶在接受每經(jīng)記者采訪時指出：“整體技術(shù)的開發(fā)和應(yīng)用，都應(yīng)當(dāng)通過立法來嚴(yán)格限制。目前的環(huán)境總體來說過于寬松。”

姚歡慶認為，“AI詐騙數(shù)量的大幅增長跟技術(shù)的發(fā)展是密不可分的。作為詐騙者和整個社會，其實就是一個道魔斗法的過程，這當(dāng)中，網(wǎng)絡(luò)詐騙導(dǎo)致技術(shù)追蹤的難度，以及詐騙者利用不同法域詐騙導(dǎo)致的管轄尤其值得重視。并且，鑒于人工智能技術(shù)的濫用具有跨境性質(zhì)，需要國際合作機制解決，否則很難很好地保護權(quán)利人的利益。”

“AI行業(yè)可結(jié)合司法規(guī)范，統(tǒng)一建立便于監(jiān)管識別的AI內(nèi)容標(biāo)識，便于追根溯源。同時，要考慮到AI技術(shù)不斷迭代、傳統(tǒng)審核手段應(yīng)對的局限性，審核及監(jiān)管部門需要升級技術(shù)，關(guān)注技術(shù)防御的迫切性。”賈玉倩建議，應(yīng)從源頭肅清技術(shù)濫用風(fēng)險，同時，平臺方應(yīng)加強傳播的信息審核，強化通過AI合成的提示標(biāo)識，并對用戶做好此類技術(shù)存在侵權(quán)風(fēng)險的教育工作。

策劃|宋德萍

記者|杜蔚 孫宇婷

編輯|易啟江

視覺|蔡沛君

排版|易啟江