每日經濟新聞 2024-01-28 10:00:53
每經編輯 畢陸名
Deepfake最新受害者出現了——全球頂流，泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）。
近乎是在一夜之間，X、Facebook等社交平臺上便充斥了大量虛假“不雅照片”，而且瀏覽量已經高達上千萬！盡管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。
圖片來源：視頻截圖
泰勒·斯威夫特本人也已經得知此事，對此表示相當憤怒，粉絲們也自發組織了保護行動。
在X上，有網友直接@馬斯克，喊話說這事馬斯克你得出來管管了。
究其原因，事情要從泰勒·斯威夫特和美國NFL橄欖球運動員Travis Kelce的戀情說起。Kelce效力于堪薩斯城酋長隊，兩人的戀愛關系被曝光后，泰勒也成為了該球隊比賽的?？?。
于是便有人借題發揮，用AI生成了以球場為背景，涉及泰勒和多名虛構“隊員”的露骨照片。
圖片來源：視頻截圖
而關于這些圖片的傳播過程，則存在多種傳聞，有說法是最早出現在某加密聊天群組當中。有報道則稱，這些Deepfake照片一開始被傳至一家不良網站，這個網站上充斥著大量以知名人士為主角的不雅照片。
除了泰勒，這家網站還收錄了成百上千的名人，包括飾演芭比的Magrot Robbie也未能幸免。
“Taylor Swift AI”一度成為了X上的熱門話題，不過目前疑似已被屏蔽。
截至目前，一些參與傳播照片賬號已被各大平臺陸續封禁，但仍有不少漏網之魚。
Facebook方面，母公司Meta也有一名發言人稱：這些內容違反了我們的政策，我們正在將其從我們的平臺上刪除，并對發布該內容的賬戶采取行動。
但也有網友說，這不是刪除的問題，這些照片一開始就不應該出現在這些平臺上。對此Meta也做出了回應，表示“會繼續監測并及時刪除違規內容”。
在26日白宮記者會上，發言人讓-皮埃爾被問及此事時表示，“我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像，這令人擔憂。”
“雖然社交媒體公司在內容管理方面可以獨立做出決定，但我們認為他們在執行自己規則方面可以發揮重要作用，以防止錯誤信息和未經同意的真實人物私密圖像傳播。”讓-皮埃爾說。
她還補充說，網絡上的執法不嚴對女性影響更大，她們是受到網絡騷擾和欺凌的主要目標。讓-皮埃爾稱，這并不是新問題，是拜登和哈里斯政府從上任第一天起就優先考慮的問題，“我們對此非常重視。再一次，這讓我們感到擔憂。”
圖片來源：視頻截圖
值得一提的是，這不是泰勒·斯威夫特第一次被AI整蠱。1月初，一則由人工智能生成的假泰勒·斯威夫特帶貨廣告在社交媒體Facebook上傳播。
“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉向線上出售。有一個好消息分享給你們，我與Le Creuset聯手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。”
AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。
在這則廣告中，斯威夫特坐在鋼琴前，向大家推銷法國高端炊具品牌Le Creuset，并表示作為她的“新年大放送”，會向20位粉絲免費贈送一套炊具。
事實上，視頻中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技術合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。涉事公司對此迅速做出回應稱，斯威夫特沒有參與任何消費者贈品活動，所有關于產品促銷的活動均來自官方社交活動。
什么是AI“深度造假”？
AI“深度造假”（Deepfake）技術再次引發關注。深度造假（Deepfake）是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或視頻的技術。
美國布法羅大學“媒體取證實驗室”的計算機科學教授呂思偉（Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動很可能是利用文字轉語音服務制作的。這類工具可將腳本轉譯成聲音，并用唇語同步程序將其合成至視頻片段。
每日經濟新聞綜合公開消息
封面圖片來源：視覺中國
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權，嚴禁轉載或鏡像，違者必究。
讀者熱線：4008890008
特別提醒：如果我們使用了您的圖片，請作者與本站聯系索取稿酬。如您不希望作品出現在本站，可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP
