美國(guó)廣播公司（ABC）稱，本周，數(shù)百萬人在社交媒體上看到了AI生成的泰勒·斯威夫特不雅照，這一事件凸顯出AI技術(shù)需得到監(jiān)管的必要性。
白宮新聞秘書 Karine Jean-Pierre 在回答有關(guān)本周社交媒體上傳播的 Taylor Swift （昵稱「霉霉」）假照片的問題時(shí)發(fā)表聲明表示，需要通過立法來保護(hù)人們免受人工智能生成的虛假性圖片的侵害。
Karine 稱這一事件「令人震驚」，并說這是拜登政府優(yōu)先考慮的人工智能問題之一，她表示「執(zhí)法不嚴(yán)會(huì)對(duì)婦女和女孩造成不成比例的影響，可悲的是，她們是網(wǎng)絡(luò)騷擾和虐待的絕大多數(shù)目標(biāo)。白宮此前曾發(fā)起一個(gè)特別工作組來解決網(wǎng)絡(luò)騷擾問題。但這顯然是一種修修補(bǔ)補(bǔ)的方法。顯然，應(yīng)該立法來解決這個(gè)問題。」
AI 生成的 Taylor Swift 虛假圖片在 X 平臺(tái)上傳播，其中一張圖片的瀏覽量達(dá)到了 4500 萬次，隨后被撤下。帖子在 X 上停留了約 17 個(gè)小時(shí)，經(jīng)過層層轉(zhuǎn)發(fā)現(xiàn)在仍可在 X 上看到。

圖片由Deepfake合成

盡管最早傳播這些圖片的賬號(hào)已被封禁，但照片的流傳仍未徹底阻斷。
霉霉本人也已經(jīng)得知此事，對(duì)此表示相當(dāng)憤怒，粉絲們也自發(fā)組織了保護(hù)行動(dòng)。
在X上，有網(wǎng)友直接@馬斯克，喊話說這事老馬你得出來管管了。

事情要從霉霉和美國(guó)NFL橄欖球運(yùn)動(dòng)員Travis Kelce的戀情說起。
Kelce效力于堪薩斯城酋長(zhǎng)隊(duì)，兩人的戀愛關(guān)系被曝光后，霉霉也成為了該球隊(duì)比賽的常客。
于是便有人借題發(fā)揮，用AI生成了以球場(chǎng)為背景，涉及霉霉和多名虛構(gòu)“隊(duì)員”的露骨照片。
圖片由Deepfake合成
而關(guān)于這些圖片的傳播過程，則存在多種傳聞，The Verge的說法是最早出現(xiàn)在某加密聊天群組當(dāng)中。英國(guó)《每日郵報(bào)》則稱，這些Deepfake照片一開始被傳至一家不良網(wǎng)站，這個(gè)網(wǎng)站上充斥著大量以知名人士為主角的不雅照片。除了霉霉，這家網(wǎng)站還收錄了成百上千的名人，包括飾演芭比的Magrot Robbie也未能幸免。
照片傳上網(wǎng)后不久，在X、Facebook等各大社交媒體中就出現(xiàn)了瘋狂的傳播，據(jù)悉瀏覽量高達(dá)上千萬。“Taylor Swift AI”一度成為了X上的熱門話題，不過目前疑似已被屏蔽。得知此事后，霉霉的粉絲們?cè)赬上發(fā)起了保護(hù)行動(dòng)，“PROTECT TAYLOR SWIFT”變成了新的熱搜。但也有人混入其中，假借“PROTECT”的標(biāo)簽繼續(xù)傳播那些虛假照片……

憤怒的粉絲們挖出了一名疑似造成照片大量傳播的始作俑者，并表示其有多年的性騷擾的前科。該賬號(hào)目前已經(jīng)設(shè)置了訪問權(quán)限，但據(jù)有權(quán)限的用戶透露，該用戶在自己的賬號(hào)上囂張地挑釁說“你們找不到我”。截止目前，一些參與傳播照片賬號(hào)已被各大平臺(tái)陸續(xù)封禁，但仍有不少漏網(wǎng)之魚。

此次事件中，各大平臺(tái)的刪帖行動(dòng)可能還算及時(shí)，在X上，大部分相關(guān)內(nèi)容都已不見蹤影。
Facebook方面，母公司Meta也有一名發(fā)言人告訴《每日郵報(bào)》：這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺(tái)上刪除，并對(duì)發(fā)布該內(nèi)容的帳戶采取行動(dòng)。
但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應(yīng)該出現(xiàn)在這些平臺(tái)上。
對(duì)此Meta也做出了回應(yīng)，表示“會(huì)繼續(xù)監(jiān)測(cè)并及時(shí)刪除違規(guī)內(nèi)容”。
而在技術(shù)層面，Nature雜志也在其“2024最值得關(guān)注的七項(xiàng)技術(shù)”一文中提及了Deepfake檢測(cè)。Nature的文章中指出，讓開發(fā)者在AI工具中加入隱形水印機(jī)制或許是一種方案。但這種做法可能更多是在事后進(jìn)行追蹤，同時(shí)起到一定的震懾作用，但想從根源上阻止Deepfake，可能還需要全人類的共同努力……