原創(chuàng) 王凡 棱鏡

作者 | 王凡 編輯 | 楊布丁

出品 | 棱鏡·騰訊新聞小滿工作室

經(jīng)授權(quán)轉(zhuǎn)載

“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈哈…”

3月初，抖音短視頻平臺(tái)上，成龍、蔡卓妍、任賢齊等明星等通過AI變臉特效模塊，集體唱歌。只需要上傳一張照片就可以生成動(dòng)態(tài)唱歌的簡單操作，引發(fā)無數(shù)網(wǎng)友跟風(fēng)傳播。甚至有人做出了巴菲特、馬斯克、雷軍等中外知名大佬一同“螞蟻呀嘿”的搞笑視頻，形成病毒式傳播。

大佬一同“螞蟻呀嘿”的搞笑視頻被瘋傳

“螞蟻呀嘿”所借助的AI變臉軟件Avatarify在中國區(qū)的App Store登上免費(fèi)榜榜首時(shí)，也讓它依托的“深度偽造”（Deepfake）技術(shù)再度進(jìn)入大眾視野。目前，該應(yīng)用已經(jīng)在中國下架，原因或涉及隱私安全。

“面對(duì)擠眉弄眼的大佬唱歌，我根本笑不出來，只是覺得深深的恐懼?！币晃挥脩魧?duì)作者表示，這既來自于“AI深度合成”技術(shù)以前所未有的速度和規(guī)模，從實(shí)驗(yàn)室滲入大眾數(shù)字生活中，也包括“肉眼難辨真假”的背后對(duì)個(gè)人信息安全和社會(huì)信任體系重新審視的惴惴不安。

當(dāng)“所見非所得”之后，AI換臉會(huì)帶來新的創(chuàng)造力嗎，還是通往隱私泄露、信任體系崩塌的深淵呢？

我如何讓愛因斯坦預(yù)測(cè)新冠？

當(dāng)“螞蟻呀嘿”在中國抖音上登上熱搜榜之際，大洋彼岸的Tiktok（海外版抖音）上，影星“湯姆·克魯斯”對(duì)著鏡頭變魔術(shù)和打高爾夫的短視頻掀起狂潮，吸粉39萬，點(diǎn)擊量1100萬次，在其他社交平臺(tái)上的再傳播量也達(dá)到千萬級(jí)別。

但問題是，視頻中的湯姆·克魯斯并非本人，而是深偽技術(shù)下的一個(gè)“幻象”。無數(shù)人在假賬戶下留言驚呼，“你居然告訴我，這是個(gè)假視頻！？”

抖音上的假阿湯哥賬號(hào)，粉絲量比真阿湯哥賬號(hào)還多，中間的視頻都是用深偽技術(shù)合成的假視頻。在假賬號(hào)吸粉32萬人之后，烏米向作者提供了制作假視頻的技術(shù)拆解視頻克里斯·烏米是一位專業(yè)的視覺特效師，任職于《南方公園》動(dòng)畫創(chuàng)始人馬特·斯通和特雷·帕克的AI實(shí)驗(yàn)室，本身也有自己的工作室。來源：VFX Chris Ume

“我只想娛樂大家，沒有惡意?！边@則假視頻背后的技術(shù)操刀人克里斯·烏米(Chris Ume)在3月4日對(duì)作者表示。他強(qiáng)調(diào)，假阿湯哥視頻借助18000張不同角度的影星照片來訓(xùn)練機(jī)器算法，專門模仿阿湯哥的演員Miles Fisher刻意的體態(tài)表達(dá)讓迷惑性更強(qiáng),同時(shí)每則視頻在機(jī)器加工后還需要技術(shù)人員再花費(fèi)24個(gè)小時(shí)進(jìn)行后期調(diào)整。

“我使用的電腦硬件或是我的技術(shù)，不是普通人拿個(gè)手機(jī)就可以實(shí)現(xiàn)的。”烏米是一位專業(yè)的視覺特效師，任職于《南方公園》動(dòng)畫創(chuàng)始人馬特·斯通和特雷·帕克的AI實(shí)驗(yàn)室，本身也有自己的工作室。他試圖通過強(qiáng)調(diào)這則假視頻背后的專業(yè)度，來反駁外界對(duì)他正在傳播造假工具的指責(zé)。曾有用戶在留言里痛斥烏米正在“打開潘多拉魔盒”。

在“假阿湯哥”視頻之前，烏米還曾經(jīng)在社交平臺(tái)上公布過多個(gè)借助深度合成技術(shù)完成的視頻項(xiàng)目，其中包括一則讓愛因斯坦開口預(yù)測(cè)新冠的假視頻?；驹硎峭ㄟ^機(jī)器學(xué)習(xí)既修復(fù)加強(qiáng)愛因斯坦的歷史影像，也訓(xùn)練算法讓視頻中的嘴型適應(yīng)新語言。類似的操作已經(jīng)應(yīng)用在實(shí)踐中，比如英國球星貝克漢姆就曾經(jīng)接拍一則消滅瘧疾的公益廣告。制作方為了本地化需求，利用深度合成技術(shù)，讓只用拍一條的貝克漢姆在視頻中用九種國家的語言，說出了同一句廣告語。全球知名傳媒公司W(wǎng)PP也借助深偽技術(shù)，讓企業(yè)培訓(xùn)中的主講人針對(duì)不同國家的員工講述不同種的語言，視頻中的面部動(dòng)作與語音內(nèi)容都是由軟件合成的。

烏米曾經(jīng)應(yīng)用深偽技術(shù)修復(fù)愛因斯坦影像資料，并讓他說出“呆在家中防范新冠”等愛因斯坦從未說過的話。英國球星貝克漢姆就曾經(jīng)接拍一則消滅瘧疾的公益廣告。制作方為了本地化需求，利用深度合成技術(shù)，讓單條的貝克漢姆視頻，“說出”9種不同語言的宣傳語

“文創(chuàng)產(chǎn)業(yè)正在廣泛研究深度合成技術(shù)可能帶來的機(jī)會(huì)，雖然現(xiàn)在精度還達(dá)不到電影播放的要求?！睘趺讓?duì)作者表示，在新冠疫情下各地“封城令”影響日常通行并暫停影視拍攝之際，深偽技術(shù)的應(yīng)用，或能變?yōu)橐环N解決方案，彌補(bǔ)影視制作損失。

事實(shí)上，深度合成技術(shù)已經(jīng)被應(yīng)用在好萊塢電影產(chǎn)業(yè)。比如，奈飛的電影《愛爾蘭人》中就借助深偽技術(shù)將主演面部“減齡30歲”，以便讓演員同時(shí)出演年輕時(shí)代，從而大大降低電影的預(yù)算。

“技術(shù)本身并不違法，20年前，人們用Photoshop也可以做類似的換臉效果?！睘趺兹绱藨?yīng)對(duì)外界對(duì)他使用深偽技術(shù)的指責(zé)，“如果應(yīng)用得當(dāng)，可以帶來創(chuàng)造力。我不是法學(xué)家，也許他們可以要求深偽技術(shù)處理過的視頻需要貼個(gè)標(biāo)簽之類。我只是個(gè)創(chuàng)作者。我也想通過這些短視頻告訴大眾，所見，也許并非所得。”

鑒假工具更新趕不上造假速度

與烏米這樣走到臺(tái)前自曝身份,并揭盅技術(shù)拆解的“造假者”不同，一批應(yīng)用開源深偽軟件的人群隱身于屏幕后甚至暗網(wǎng)中。利用深偽技術(shù)“瞞天過?！钡陌咐龑乙姴货r,名人是率先被模仿的群體。

國際范圍內(nèi)，政客演講視頻被深偽技術(shù)調(diào)慢速度，營造出身體不佳的假象；馬克·扎克伯格受訪視頻被重新調(diào)整嘴型，說出“要?jiǎng)h除社交網(wǎng)絡(luò)”等他從未說過的話。

在中國，抖音、快手等短視頻平臺(tái)上，騙子利用簡單的合成技術(shù)，自稱是靳東、馬云等知名人士本人，騙取中老年人的感情和金錢。虛假的明星視頻甚至形成了規(guī)?；脑旒佼a(chǎn)業(yè)鏈，完成了直播帶貨、轉(zhuǎn)手倒賣或者騙取錢財(cái)?shù)榷喾N利用造假變現(xiàn)的形式。

“假靳東”們引導(dǎo)粉絲關(guān)注、點(diǎn)贊、評(píng)論養(yǎng)號(hào)，或騙取錢財(cái)，形成黑產(chǎn)鏈條。

“假視頻或是假圖片都不是什么新鮮事物，但現(xiàn)在所能達(dá)到的精度和造假工具的可及性，是讓我擔(dān)心的地方?！泵绹又莶死髮W(xué)數(shù)字鑒假專家Hany Farid在接受外媒采訪時(shí)表示。

紐約州立大學(xué)布法羅分校計(jì)算機(jī)工程系教授呂思偉對(duì)作者解釋道，假音視頻愈發(fā)“以假亂真”源自三重發(fā)展：除了過去十年人工智能在計(jì)算機(jī)視覺技術(shù)上的更新之外，還有賴于CPU、GPU所帶來的硬件算力能力提高，和社交媒體普及后影像數(shù)據(jù)集的指數(shù)級(jí)增加。機(jī)器算法的仿真能力，源自巨量數(shù)據(jù)集的“喂養(yǎng)”。

造假并非無藥可解，呂思偉所在的實(shí)驗(yàn)室正在通過機(jī)器學(xué)習(xí)的方法，尋找鑒別虛假音視頻的技術(shù)解決方案：“欺騙人眼相對(duì)容易。但就好像醫(yī)生可以通過X光看到人眼看不到的問題一樣，算法也可以提供數(shù)字鑒證的工具?！?/p>

但問題是，道高一尺，魔高一丈。鑒假工具更新趕不上造假速度。呂思偉的團(tuán)隊(duì)曾經(jīng)采用眨眼頻率的方式來鑒別假視頻，因?yàn)榈谝淮摷僖曨l中大量使用網(wǎng)絡(luò)靜態(tài)任務(wù)圖片訓(xùn)練算法。這些圖片中的人物都睜著眼睛，因?yàn)闆]人愿意把閉眼的形象展示給公眾，而造成造假時(shí)的漏洞。

但隨著更多動(dòng)態(tài)視頻進(jìn)入數(shù)據(jù)集，造假視頻的仿真程度進(jìn)一步升級(jí)，則需要引入陰影漸變邊界等物理特征的區(qū)別信號(hào)，進(jìn)行數(shù)字鑒別。

在海外，包括臉書、微軟在內(nèi)的美國科技巨頭在公眾壓力下，投入資金研究鑒假工具，但結(jié)果卻無法讓人完全安心。比如，臉書在2019年舉辦深偽鑒別挑戰(zhàn)大賽結(jié)果顯示，最佳表現(xiàn)的模型在處理公開的數(shù)據(jù)集時(shí)，也僅能達(dá)到82.56%準(zhǔn)確度，當(dāng)處理未公開的黑盒數(shù)據(jù)時(shí)，準(zhǔn)確度為65.18%。

作者提交烏米制作的假阿湯哥視頻至多個(gè)提供鑒假工具的公開網(wǎng)站，均無法識(shí)別視頻為假。

更令人擔(dān)心的是，造假和鑒假成為一場財(cái)力人力懸殊的較量。

呂思偉所在的實(shí)驗(yàn)室開發(fā)的開源的深偽檢測(cè)網(wǎng)上工具平臺(tái)

呂思偉對(duì)作者表示，雖然鑒假技術(shù)存在，但苦于無法商業(yè)化，“因此沒有什么人真正去做這個(gè)事情”。呂思偉所在的實(shí)驗(yàn)室開發(fā)了一款鑒假工具，放在網(wǎng)上，從去年11月開始大約有五六百個(gè)用戶使用。但和Avatarify通過深偽制造娛樂效果,形成自來水式的病毒性社交傳播所不同的是，人們對(duì)鑒假服務(wù)的付費(fèi)意愿不強(qiáng)，也讓兩方實(shí)力懸殊。

更為吊詭的是，因?yàn)樯顐嗡惴ㄋ蕾嚨腉AN（生成對(duì)抗網(wǎng)絡(luò)）技術(shù)本身就依賴兩套對(duì)應(yīng)系統(tǒng)，相當(dāng)于是一個(gè)造假者和一個(gè)鑒別師在雙方對(duì)抗，由造假者畫出換臉之后的圖像，由鑒別師把認(rèn)為換得不準(zhǔn)確的圖像舍棄，篩選出仿真度高的進(jìn)行保留，供機(jī)器繼續(xù)訓(xùn)練精進(jìn)，因此，鑒假技術(shù)的精進(jìn)，反過來也能促進(jìn)造假技術(shù)的進(jìn)步，形成左右手互搏的態(tài)勢(shì)。所以，臉書或是微軟都未公開自己的鑒假算法。

如何防止AI換臉走向墮落

問題是，深偽工具的開源化、普及化已經(jīng)讓被造假的主體不僅僅是名人，而可能成為任何普通人。

英國作家海倫·莫特（Helen Mort）就是受害者之一。有人通過扒取她在2017-2019年的私人社交媒體賬戶圖片，將她的臉嫁接在色情視頻上，廣為流傳。遭遇類似霸凌經(jīng)歷的還有澳大利亞18歲女生諾埃爾·馬?。∟oelle Martin）。她們并不知道始作俑者是誰。

除了開源的深偽軟件可下載之外，暗網(wǎng)中藏有專門提供造假服務(wù)的群體。網(wǎng)絡(luò)安全公司Gemini Advisory的研究報(bào)告顯示，暗網(wǎng)中，只需要付費(fèi)就有人提供服務(wù)，可以針對(duì)專門的數(shù)據(jù)集制造一個(gè)“以假亂真”的面孔，用于繞過數(shù)字ID等檢測(cè)系統(tǒng)。根據(jù)網(wǎng)絡(luò)安全公司Deeptrace的報(bào)告，30美元就可以買到一項(xiàng)“換臉服務(wù)”，如果要更換語音，價(jià)格是“10美元50個(gè)字”。該報(bào)告同時(shí)舉例稱，曾有騙子偽裝成一家英國能源公司的母公司老板致電員工，讓后者將24.3萬美元打給一家匈牙利的供應(yīng)商，隨后發(fā)現(xiàn)電話中的聲音為合成后的假聲音。

除了個(gè)人隱私泄露風(fēng)險(xiǎn)和可能成為新的欺詐工具之外，呂思偉還擔(dān)心，深偽技術(shù)若被惡意濫用，可能帶來的認(rèn)知層面的不信任感?！疤摷僖粢曨l帶來的最大風(fēng)險(xiǎn)，是信任體系的崩壞。深偽讓人產(chǎn)生一種幻覺，讓一些人看上去說了他實(shí)際上沒有說過的話。這是對(duì)信息可靠性最直接的破壞?！?/p>

呂思偉認(rèn)為，大部分非專業(yè)制作的虛假音視頻依舊粗糙，稍有分辨力的受眾，可以有所判斷，但由于傳播平臺(tái)指數(shù)級(jí)的增加，信息批量涌向受眾，快速分散著受眾注意力，讓受眾在很短時(shí)間里難辨真?zhèn)巍Ｊ鼙娀谧陨砼d趣，條件反射般地進(jìn)行轉(zhuǎn)發(fā)，也造成對(duì)虛假影音視頻推波助瀾的作用。

雖然普通人現(xiàn)在還無法通過手機(jī)，就完成烏米這樣專業(yè)人士能夠完成的深度合成精細(xì)度，但不代表未來不可能。

“我只不過想提前讓大家看到未來而已?！睘趺讓?duì)作者表示，他愿意和平臺(tái)或鑒假組織交流，以便讓這項(xiàng)技術(shù)在監(jiān)管下引導(dǎo)更多的創(chuàng)造力，而不是“作惡”。

小滿工作室 | 騰訊新聞出品

騰訊新聞出品內(nèi)容，未經(jīng)授權(quán)，不得復(fù)制和轉(zhuǎn)載，否則將追究法律責(zé)任

如需轉(zhuǎn)載，請(qǐng)后臺(tái)留言或添加小編微信：lengjing_qqfinance1

第779期

排版：鄭凱莉

原標(biāo)題：《“螞蟻呀嘿”刷屏背后：AI造假與鑒假者的對(duì)決剛剛開始 | 棱鏡》

閱讀原文