一眼假的 AI 圖片，但我爸媽全信了。

作者 | Moonshot

編輯 | 靖宇

9 月 26 日颶風(fēng)“海倫妮”從佛羅里達(dá)州登陸美國(guó)，襲擊美國(guó)南部多州多地，至今已造成超過 230 人死亡，“海倫妮”也已經(jīng)成為 2005 年“卡特里娜”颶風(fēng)以來，導(dǎo)致美國(guó)本土死亡人數(shù)最多的颶風(fēng)。

與此同時(shí)，一張 AI 生成的照片，也在社交媒體上掀起軒然大波，甚至在下個(gè)月選舉來臨之前，引發(fā)了兩黨的“紅藍(lán)對(duì)決”。

到底是什么圖片，能比颶風(fēng)帶來的影響更嚴(yán)重？

颶風(fēng)營(yíng)救 or 非洲禿鷲

共和黨全國(guó)委員會(huì)的委員、Women for Trump 的吉印通創(chuàng)始人 Amy Kremer 發(fā)在 X 上推文“這張照片深入腦海，令我心痛”，配圖是一個(gè)楚楚可憐的小女孩，身著救生衣，在救生艇上眼中含淚抱著一只小狗。

這類聚焦在單一受害者，無辜的女童不得不躲避災(zāi)禍的照片，都非常容易調(diào)動(dòng)起人們的同情心，就像那張《饑餓的蘇丹》，瘦骨嶙峋的小女孩背后是一只緊盯著她的禿鷹，越戰(zhàn)中躲避燃燒彈的《凝固汽油彈女孩》激起過無數(shù)年輕人的反戰(zhàn)情緒，那張學(xué)習(xí)中的“大眼女孩”也讓希望工程深入人心。因此這張“颶風(fēng)中緊抱小狗的女孩”照片也在社交媒體上被大量轉(zhuǎn)發(fā)。

但在情緒過后仔細(xì)再看，小女孩的手臂和腿部極度光滑且和膚色不符，頭發(fā)也呈現(xiàn)非常奇怪的紋理，大拇指骨節(jié)也呈現(xiàn)怪狀凸起。沒錯(cuò)，這張照片是一張 AI 生成的圖片。

這張 AI 痕跡更濃了，但不妨礙收獲百萬級(jí)觀看量｜X

在被評(píng)論區(qū)的人指出“假圖”之后，Kremer 直接發(fā)文開懟稱“是啊，我是不知道這張照片是從哪來的，說老實(shí)話，哪兒來的無所謂。它已經(jīng)永遠(yuǎn)烙印在我的腦海中了，有些人比這張照片所顯示的經(jīng)歷還要糟糕得多。它象征著人們現(xiàn)在正在經(jīng)歷的創(chuàng)傷和痛苦。”換言之，她知道這張圖片是假的，但她不在乎，因?yàn)樗哪康牟辉谟谕檫@位“AI 女孩”，而是攻擊執(zhí)政黨應(yīng)對(duì)“海倫妮”颶風(fēng)的失責(zé)。

因?yàn)轭愃频?AI 照片也被極右翼政客 Laura Loomer、共和黨 KOL 及特朗普支持者 Buzz Patterson 和 Juanita Broaddrick 轉(zhuǎn)發(fā)，配文則是“我們的政府又讓我們失望了”或“執(zhí)政者拋棄了他們”。這些推文的傳播量均已上百萬。

傳播只為甩鍋｜X

AI 假圖片已經(jīng)成了黨派之間相互掣肘的政治工具，伴隨著這張照片一同傳播的還有各種陰謀論和假新聞，諸如“聯(lián)邦緊急事務(wù)管理局正在準(zhǔn)備把災(zāi)民財(cái)產(chǎn)充公”“當(dāng)局在控制共和黨支持州（颶風(fēng)受災(zāi)州多為支持共和黨的（紅州）天氣”。

相應(yīng)的，Facebook 上也流傳著特朗普冒著洪水幫助居民的圖片，當(dāng)然也是 AI 合成的。該帖子在兩天內(nèi)被分享了超過 16 萬次。

圖片來源：PolitiFact

特朗普本人也在前不久泰勒·斯威夫特公開表態(tài)支持民主黨總統(tǒng)候選人哈里斯后，在自己的 X 上發(fā)布了“Swifties for Trump”（支持特朗普的泰勒粉絲），附上的圖片全是 AI 生成的假圖。

圖片來源：X

這并不是特朗普第一次發(fā) AI 假圖，作為馬斯克支持的候選人，特朗普不可能沒有分辨 AI 內(nèi)容的能力，畢竟不久前他還發(fā)布了他和馬斯克一起跳舞的 DeepFake AI 合成視頻。

但在碎片化的社交媒體平臺(tái)，政客們不在意信息真假，不管是實(shí)拍還是 AI 生成的照片，只要有傳播效力即可，造勢(shì)才是社交平臺(tái)上政治宣傳的首要目的，感性的印象取代客觀事實(shí)，“造謠一張嘴，辟謠跑斷腿”的傳播學(xué)原理在 AI 時(shí)代更猛烈地回響著。

誰在制造 AI 垃圾

但追根溯源，這些 AI 假內(nèi)容是誰生成的，又怎么在各種社交媒體上廣泛傳播，能騙一個(gè)是一個(gè)的呢？

這張圖加配文“親手制作，謝謝大家的喜歡”在 Facebook 上收獲了 87 萬點(diǎn)贊，3.5 萬的評(píng)論，?cè)欢?AI 生成的一張假圖片。

而喂給 AI 的原圖，則是一個(gè)木雕藝術(shù)家 Michael Jones 和他創(chuàng)作真實(shí)存在的木雕狗，Jones 的原帖只獲得了 1063 個(gè)贊，110 條評(píng)論，與 AI 假帖相去甚遠(yuǎn)。

同時(shí)，在 Facebook 上還流傳著不同種族、性別、狗的品種的類似圖片，它們的來源都是 Jones 的這張圖，這意味著任何人都可以每小時(shí)用 AI 創(chuàng)造上百?gòu)堃约賮y真的圖像，?cè)缓笤谏缃黄脚_(tái)上隨即發(fā)布，總有幾條能斬獲不錯(cuò)的流量和曝光。其中，Facebook 是重災(zāi)區(qū)。

去年底，科技網(wǎng)站 404 Media 的記者就發(fā)現(xiàn)，Meta 旗下的 Facebook 上明顯是 AI 生成內(nèi)容的帖子數(shù)量激增，同時(shí)也擴(kuò)散到 Meta 旗下的 Threads。

Facebook 這種“一眼假”的圖片數(shù)據(jù)都驚人的好｜Facebook

為什么 Facebook 是重災(zāi)區(qū)？原因很簡(jiǎn)單：平臺(tái)算法化趕上了用戶老齡化。

在最近的一次財(cái)報(bào)電話會(huì)議上，Meta CEO 扎克伯格告訴分析師，為了跟上 TikTok 等平臺(tái)的變化，Facebook 向用戶算法推薦的帖子數(shù)量翻了一倍，推薦帖子現(xiàn)在約占用戶主頁的 30%。

然而據(jù) OBERLO 調(diào)查機(jī)構(gòu)的數(shù)據(jù)顯示，Facebook 25 歲以上用戶占比達(dá)到 77.4%，其中 35 歲用戶以上占比達(dá)到 46.6%。對(duì)于大量出生在前互聯(lián)網(wǎng)時(shí)代，可能在中年才開始使用社交媒體和智能手機(jī)的中老年人來說，理解 AI 是什么都費(fèi)勁，更別提鑒別 AI 內(nèi)容了。

8 月由斯坦?；ヂ?lián)網(wǎng)實(shí)驗(yàn)室發(fā)布的論文《垃圾內(nèi)容和騙子如何在 Facebook 上利用人工智能生成的圖像來增加受眾》也在測(cè)試中發(fā)現(xiàn)，他們用 AI 生成的圖像總共獲得了數(shù)億次曝光。AI 生成的圖文帖通常是標(biāo)題黨配合奪人眼球的圖片，比如一個(gè)斷腿的小孩子舉著牌子說“祝我生日快樂”就能收獲 7 萬點(diǎn)贊和 3000 條評(píng)論。用戶的評(píng)論也能顯示出他們并沒有意識(shí)圖片是由 AI 生成。

而且算法推薦就像一個(gè)上升的螺旋，研究者發(fā)現(xiàn)，在點(diǎn)進(jìn)幾個(gè) AI 生成內(nèi)容帖后，哪怕沒有關(guān)注和點(diǎn)贊，后續(xù)自己的主頁也會(huì)推送越來越多的 AI 帖。已經(jīng)有一些活人用戶在 Reddit 上辣評(píng)“Facebook 已經(jīng)變成刷不完的 Midjourney AI 照片墻了。”

一眼 AI 但能收獲大量流量｜404

騙流量之外，AI 假圖片還想騙錢，比如就像上面顯示的木雕狗，可能帖子里就會(huì)附贈(zèng)“購(gòu)買同款木制品”的鏈接，實(shí)際上并不存在這些產(chǎn)品，又或者會(huì)把觀眾引流到其他廣告網(wǎng)站，像上面最火的木雕狗帖，點(diǎn)開評(píng)論區(qū)就發(fā)現(xiàn)置頂了一條寵物用品的銷售鏈接。

更吊詭之處在于，許多照片可能正是用 Meta AI 所生成，Meta AI 的目的之一就是讓照片以假亂真，?cè)欢@些照片騙過了自己的用戶，矛盾至此轉(zhuǎn)換成了流量的循環(huán)。

AI 生成垃圾內(nèi)容影響的不僅是“老齡化”的 Facebook，就連曾經(jīng)以高質(zhì)量文本內(nèi)容出名的“美版知乎”Quora，都不得不面對(duì) AI 生成內(nèi)容去稀釋社區(qū)內(nèi)容質(zhì)量的現(xiàn)狀。

更糟糕之處也在于，現(xiàn)在許多 AI 生成圖片正在和現(xiàn)實(shí)牢牢捆綁在一起，就比如海倫妮颶風(fēng)尚未平息，但在 AI 假圖被識(shí)破后，每個(gè)用戶都會(huì)質(zhì)疑每一張照片的真實(shí)性，哪怕它是基于現(xiàn)實(shí)的實(shí)拍照片，在經(jīng)過大量假內(nèi)容稀釋后，都要面臨“真假美猴王”自證清白的窘境。

巴以沖突、美國(guó)大選、巴西洪水、海倫妮颶風(fēng)……這些現(xiàn)實(shí)生活中真實(shí)發(fā)生的天災(zāi)人禍，在碎片化、簡(jiǎn)介信息、圖文為主且注重高度時(shí)效性的內(nèi)容社區(qū)來上，戰(zhàn)地記者的實(shí)拍圖收到的瀏覽量可能遠(yuǎn)比不過 AI 生成的假圖片。

而這些內(nèi)容往往都針對(duì)毫無戒心的老年人，他們基于同情心，貢獻(xiàn)了自己的點(diǎn)贊和轉(zhuǎn)發(fā)，不知不覺中卻成了算法的幫兇。而這些 AI 的養(yǎng)料則是基于原創(chuàng)但不被看見的藝術(shù)家。

而作為具有重要責(zé)任的社交平臺(tái)，例如 Meta，則陷入了 AI 的自我“矛盾之戰(zhàn)”：用戶使用 Meta 的 AI 工具生產(chǎn)出虛假信息和垃圾信息，將其發(fā)布到 Meta 平臺(tái)，而 Meta 的 AI 團(tuán)隊(duì)則需要通過技術(shù)鑒別到底哪些是真實(shí)圖片，哪些是 AI 生成的。

其中的諷刺耐人尋味——AI 生成技術(shù)團(tuán)隊(duì)越進(jìn)步，審核和鑒別團(tuán)隊(duì)就越難做。

在垃圾信息已經(jīng)充斥互聯(lián)網(wǎng)的當(dāng)下，AI 生成工具的誕生，無疑再次為網(wǎng)絡(luò)垃圾化的進(jìn)行提供了加速度。?cè)绻麩o法解決這個(gè)挑戰(zhàn)，被“困在系統(tǒng)中”的不僅僅是用戶，或者平臺(tái)，而是所有人。

頭圖來源：X

本文經(jīng)授權(quán)轉(zhuǎn)載自 極客公園（ ID：geekpark），?cè)缧瓒无D(zhuǎn)載請(qǐng)聯(lián)系原作者。歡迎轉(zhuǎn)發(fā)到朋友圈。