下載客戶端

登錄

“螞蟻呀嘿”刷屏背后：AI造假與鑒假者的對決剛剛開始

2021-03-06 21:41

來源：澎湃新聞·澎湃號·湃客

原創(chuàng) 王凡棱鏡

作者 | 王凡編輯 | 楊布丁

出品 | 棱鏡·騰訊新聞小滿工作室

經(jīng)授權(quán)轉(zhuǎn)載

“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈哈…”

3月初，抖音短視頻平臺上，成龍、蔡卓妍、任賢齊等明星等通過AI變臉特效模塊，集體唱歌。只需要上傳一張照片就可以生成動態(tài)唱歌的簡單操作，引發(fā)無數(shù)網(wǎng)友跟風(fēng)傳播。甚至有人做出了巴菲特、馬斯克、雷軍等中外知名大佬一同“螞蟻呀嘿”的搞笑視頻，形成病毒式傳播。

大佬一同“螞蟻呀嘿”的搞笑視頻被瘋傳

“螞蟻呀嘿”所借助的AI變臉軟件Avatarify在中國區(qū)的App Store登上免費(fèi)榜榜首時，也讓它依托的“深度偽造”（Deepfake）技術(shù)再度進(jìn)入大眾視野。目前，該應(yīng)用已經(jīng)在中國下架，原因或涉及隱私安全。

“面對擠眉弄眼的大佬唱歌，我根本笑不出來，只是覺得深深的恐懼。”一位用戶對作者表示，這既來自于“AI深度合成”技術(shù)以前所未有的速度和規(guī)模，從實(shí)驗(yàn)室滲入大眾數(shù)字生活中，也包括“肉眼難辨真假”的背后對個人信息安全和社會信任體系重新審視的惴惴不安。

當(dāng)“所見非所得”之后，AI換臉會帶來新的創(chuàng)造力嗎，還是通往隱私泄露、信任體系崩塌的深淵呢？

我如何讓愛因斯坦預(yù)測新冠？

當(dāng)“螞蟻呀嘿”在中國抖音上登上熱搜榜之際，大洋彼岸的Tiktok（海外版抖音）上，影星“湯姆·克魯斯”對著鏡頭變魔術(shù)和打高爾夫的短視頻掀起狂潮，吸粉39萬，點(diǎn)擊量1100萬次，在其他社交平臺上的再傳播量也達(dá)到千萬級別。

但問題是，視頻中的湯姆·克魯斯并非本人，而是深偽技術(shù)下的一個“幻象”。無數(shù)人在假賬戶下留言驚呼，“你居然告訴我，這是個假視頻！？”

抖音上的假阿湯哥賬號，粉絲量比真阿湯哥賬號還多，中間的視頻都是用深偽技術(shù)合成的假視頻。

在假賬號吸粉32萬人之后，烏米向作者提供了制作假視頻的技術(shù)拆解視頻

克里斯·烏米是一位專業(yè)的視覺特效師，任職于《南方公園》動畫創(chuàng)始人馬特·斯通和特雷·帕克的AI實(shí)驗(yàn)室，本身也有自己的工作室。來源：VFX Chris Ume

“我只想娛樂大家，沒有惡意?！边@則假視頻背后的技術(shù)操刀人克里斯·烏米(Chris Ume)在3月4日對作者表示。他強(qiáng)調(diào)，假阿湯哥視頻借助18000張不同角度的影星照片來訓(xùn)練機(jī)器算法，專門模仿阿湯哥的演員Miles Fisher刻意的體態(tài)表達(dá)讓迷惑性更強(qiáng),同時每則視頻在機(jī)器加工后還需要技術(shù)人員再花費(fèi)24個小時進(jìn)行后期調(diào)整。

“我使用的電腦硬件或是我的技術(shù)，不是普通人拿個手機(jī)就可以實(shí)現(xiàn)的?！睘趺资且晃粚I(yè)的視覺特效師，任職于《南方公園》動畫創(chuàng)始人馬特·斯通和特雷·帕克的AI實(shí)驗(yàn)室，本身也有自己的工作室。他試圖通過強(qiáng)調(diào)這則假視頻背后的專業(yè)度，來反駁外界對他正在傳播造假工具的指責(zé)。曾有用戶在留言里痛斥烏米正在“打開潘多拉魔盒”。

在“假阿湯哥”視頻之前，烏米還曾經(jīng)在社交平臺上公布過多個借助深度合成技術(shù)完成的視頻項(xiàng)目，其中包括一則讓愛因斯坦開口預(yù)測新冠的假視頻。基本原理是通過機(jī)器學(xué)習(xí)既修復(fù)加強(qiáng)愛因斯坦的歷史影像，也訓(xùn)練算法讓視頻中的嘴型適應(yīng)新語言。類似的操作已經(jīng)應(yīng)用在實(shí)踐中，比如英國球星貝克漢姆就曾經(jīng)接拍一則消滅瘧疾的公益廣告。制作方為了本地化需求，利用深度合成技術(shù)，讓只用拍一條的貝克漢姆在視頻中用九種國家的語言，說出了同一句廣告語。全球知名傳媒公司W(wǎng)PP也借助深偽技術(shù)，讓企業(yè)培訓(xùn)中的主講人針對不同國家的員工講述不同種的語言，視頻中的面部動作與語音內(nèi)容都是由軟件合成的。

烏米曾經(jīng)應(yīng)用深偽技術(shù)修復(fù)愛因斯坦影像資料，并讓他說出“呆在家中防范新冠”等愛因斯坦從未說過的話。

英國球星貝克漢姆就曾經(jīng)接拍一則消滅瘧疾的公益廣告。制作方為了本地化需求，利用深度合成技術(shù)，讓單條的貝克漢姆視頻，“說出”9種不同語言的宣傳語

“文創(chuàng)產(chǎn)業(yè)正在廣泛研究深度合成技術(shù)可能帶來的機(jī)會，雖然現(xiàn)在精度還達(dá)不到電影播放的要求?！睘趺讓ψ髡弑硎?，在新冠疫情下各地“封城令”影響日常通行并暫停影視拍攝之際，深偽技術(shù)的應(yīng)用，或能變?yōu)橐环N解決方案，彌補(bǔ)影視制作損失。

事實(shí)上，深度合成技術(shù)已經(jīng)被應(yīng)用在好萊塢電影產(chǎn)業(yè)。比如，奈飛的電影《愛爾蘭人》中就借助深偽技術(shù)將主演面部“減齡30歲”，以便讓演員同時出演年輕時代，從而大大降低電影的預(yù)算。

“技術(shù)本身并不違法，20年前，人們用Photoshop也可以做類似的換臉效果?！睘趺兹绱藨?yīng)對外界對他使用深偽技術(shù)的指責(zé)，“如果應(yīng)用得當(dāng)，可以帶來創(chuàng)造力。我不是法學(xué)家，也許他們可以要求深偽技術(shù)處理過的視頻需要貼個標(biāo)簽之類。我只是個創(chuàng)作者。我也想通過這些短視頻告訴大眾，所見，也許并非所得?！?/p>鑒假工具更新趕不上造假速度

與烏米這樣走到臺前自曝身份,并揭盅技術(shù)拆解的“造假者”不同，一批應(yīng)用開源深偽軟件的人群隱身于屏幕后甚至暗網(wǎng)中。利用深偽技術(shù)“瞞天過海”的案例屢見不鮮,名人是率先被模仿的群體。

國際范圍內(nèi)，政客演講視頻被深偽技術(shù)調(diào)慢速度，營造出身體不佳的假象；馬克·扎克伯格受訪視頻被重新調(diào)整嘴型，說出“要刪除社交網(wǎng)絡(luò)”等他從未說過的話。

在中國，抖音、快手等短視頻平臺上，騙子利用簡單的合成技術(shù)，自稱是靳東、馬云等知名人士本人，騙取中老年人的感情和金錢。虛假的明星視頻甚至形成了規(guī)?；脑旒佼a(chǎn)業(yè)鏈，完成了直播帶貨、轉(zhuǎn)手倒賣或者騙取錢財(cái)?shù)榷喾N利用造假變現(xiàn)的形式。

“假靳東”們引導(dǎo)粉絲關(guān)注、點(diǎn)贊、評論養(yǎng)號，或騙取錢財(cái)，形成黑產(chǎn)鏈條。

“假視頻或是假圖片都不是什么新鮮事物，但現(xiàn)在所能達(dá)到的精度和造假工具的可及性，是讓我擔(dān)心的地方。”美國加州伯克利大學(xué)數(shù)字鑒假專家Hany Farid在接受外媒采訪時表示。

紐約州立大學(xué)布法羅分校計(jì)算機(jī)工程系教授呂思偉對作者解釋道，假音視頻愈發(fā)“以假亂真”源自三重發(fā)展：除了過去十年人工智能在計(jì)算機(jī)視覺技術(shù)上的更新之外，還有賴于CPU、GPU所帶來的硬件算力能力提高，和社交媒體普及后影像數(shù)據(jù)集的指數(shù)級增加。機(jī)器算法的仿真能力，源自巨量數(shù)據(jù)集的“喂養(yǎng)”。

造假并非無藥可解，呂思偉所在的實(shí)驗(yàn)室正在通過機(jī)器學(xué)習(xí)的方法，尋找鑒別虛假音視頻的技術(shù)解決方案：“欺騙人眼相對容易。但就好像醫(yī)生可以通過X光看到人眼看不到的問題一樣，算法也可以提供數(shù)字鑒證的工具。”

但問題是，道高一尺，魔高一丈。鑒假工具更新趕不上造假速度。呂思偉的團(tuán)隊(duì)曾經(jīng)采用眨眼頻率的方式來鑒別假視頻，因?yàn)榈谝淮摷僖曨l中大量使用網(wǎng)絡(luò)靜態(tài)任務(wù)圖片訓(xùn)練算法。這些圖片中的人物都睜著眼睛，因?yàn)闆]人愿意把閉眼的形象展示給公眾，而造成造假時的漏洞。

但隨著更多動態(tài)視頻進(jìn)入數(shù)據(jù)集，造假視頻的仿真程度進(jìn)一步升級，則需要引入陰影漸變邊界等物理特征的區(qū)別信號，進(jìn)行數(shù)字鑒別。

在海外，包括臉書、微軟在內(nèi)的美國科技巨頭在公眾壓力下，投入資金研究鑒假工具，但結(jié)果卻無法讓人完全安心。比如，臉書在2019年舉辦深偽鑒別挑戰(zhàn)大賽結(jié)果顯示，最佳表現(xiàn)的模型在處理公開的數(shù)據(jù)集時，也僅能達(dá)到82.56%準(zhǔn)確度，當(dāng)處理未公開的黑盒數(shù)據(jù)時，準(zhǔn)確度為65.18%。

作者提交烏米制作的假阿湯哥視頻至多個提供鑒假工具的公開網(wǎng)站，均無法識別視頻為假。

更令人擔(dān)心的是，造假和鑒假成為一場財(cái)力人力懸殊的較量。

呂思偉所在的實(shí)驗(yàn)室開發(fā)的開源的深偽檢測網(wǎng)上工具平臺

呂思偉對作者表示，雖然鑒假技術(shù)存在，但苦于無法商業(yè)化，“因此沒有什么人真正去做這個事情”。呂思偉所在的實(shí)驗(yàn)室開發(fā)了一款鑒假工具，放在網(wǎng)上，從去年11月開始大約有五六百個用戶使用。但和Avatarify通過深偽制造娛樂效果,形成自來水式的病毒性社交傳播所不同的是，人們對鑒假服務(wù)的付費(fèi)意愿不強(qiáng)，也讓兩方實(shí)力懸殊。

更為吊詭的是，因?yàn)樯顐嗡惴ㄋ蕾嚨腉AN（生成對抗網(wǎng)絡(luò)）技術(shù)本身就依賴兩套對應(yīng)系統(tǒng)，相當(dāng)于是一個造假者和一個鑒別師在雙方對抗，由造假者畫出換臉之后的圖像，由鑒別師把認(rèn)為換得不準(zhǔn)確的圖像舍棄，篩選出仿真度高的進(jìn)行保留，供機(jī)器繼續(xù)訓(xùn)練精進(jìn)，因此，鑒假技術(shù)的精進(jìn)，反過來也能促進(jìn)造假技術(shù)的進(jìn)步，形成左右手互搏的態(tài)勢。所以，臉書或是微軟都未公開自己的鑒假算法。

如何防止AI換臉走向墮落

問題是，深偽工具的開源化、普及化已經(jīng)讓被造假的主體不僅僅是名人，而可能成為任何普通人。

英國作家海倫·莫特（Helen Mort）就是受害者之一。有人通過扒取她在2017-2019年的私人社交媒體賬戶圖片，將她的臉嫁接在色情視頻上，廣為流傳。遭遇類似霸凌經(jīng)歷的還有澳大利亞18歲女生諾埃爾·馬?。∟oelle Martin）。她們并不知道始作俑者是誰。

除了開源的深偽軟件可下載之外，暗網(wǎng)中藏有專門提供造假服務(wù)的群體。網(wǎng)絡(luò)安全公司Gemini Advisory的研究報(bào)告顯示，暗網(wǎng)中，只需要付費(fèi)就有人提供服務(wù)，可以針對專門的數(shù)據(jù)集制造一個“以假亂真”的面孔，用于繞過數(shù)字ID等檢測系統(tǒng)。根據(jù)網(wǎng)絡(luò)安全公司Deeptrace的報(bào)告，30美元就可以買到一項(xiàng)“換臉服務(wù)”，如果要更換語音，價格是“10美元50個字”。該報(bào)告同時舉例稱，曾有騙子偽裝成一家英國能源公司的母公司老板致電員工，讓后者將24.3萬美元打給一家匈牙利的供應(yīng)商，隨后發(fā)現(xiàn)電話中的聲音為合成后的假聲音。

除了個人隱私泄露風(fēng)險(xiǎn)和可能成為新的欺詐工具之外，呂思偉還擔(dān)心，深偽技術(shù)若被惡意濫用，可能帶來的認(rèn)知層面的不信任感?！疤摷僖粢曨l帶來的最大風(fēng)險(xiǎn)，是信任體系的崩壞。深偽讓人產(chǎn)生一種幻覺，讓一些人看上去說了他實(shí)際上沒有說過的話。這是對信息可靠性最直接的破壞。”

呂思偉認(rèn)為，大部分非專業(yè)制作的虛假音視頻依舊粗糙，稍有分辨力的受眾，可以有所判斷，但由于傳播平臺指數(shù)級的增加，信息批量涌向受眾，快速分散著受眾注意力，讓受眾在很短時間里難辨真?zhèn)?。受眾基于自身興趣，條件反射般地進(jìn)行轉(zhuǎn)發(fā)，也造成對虛假影音視頻推波助瀾的作用。

雖然普通人現(xiàn)在還無法通過手機(jī)，就完成烏米這樣專業(yè)人士能夠完成的深度合成精細(xì)度，但不代表未來不可能。

“我只不過想提前讓大家看到未來而已。”烏米對作者表示，他愿意和平臺或鑒假組織交流，以便讓這項(xiàng)技術(shù)在監(jiān)管下引導(dǎo)更多的創(chuàng)造力，而不是“作惡”。