特斯拉CEO埃隆·馬斯克旗下人工智能公司xAI近期被推上風(fēng)口浪尖，一方面1月6日剛完成200億美元的E輪融資，另一方面旗下聊天機器人Grok的功能更新越過了危險界限，頻現(xiàn)“數(shù)字脫衣”操作，導(dǎo)致AI生成的女性及兒童的露骨圖像在社交平臺傳播。

據(jù)新華社報道，近期，X平臺出現(xiàn)部分用戶利用Grok編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實人物的虛假性暴露內(nèi)容，并在X平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

去年夏天，Grok開始允許用戶通過文字提示編輯圖像。此后，隨著Grok大量響應(yīng)用戶修改他人發(fā)布圖像的請求，去年底起亂象擴(kuò)大。X平臺不少用戶利用新功能對圖像中人物執(zhí)行“脫衣服”、“給她穿上比基尼”等指令。

社交媒體和深度偽造研究員吉納維芙·吳分析了Grok在X平臺上的內(nèi)容，截至1月7日，其每小時生成約7750張性暗示或裸露圖片。圖像人工智能篡改檢測公司Copyleaks表示，12月下旬，在Grok公開可訪問的圖片流中檢測到，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

盡管安全專家和科技評論人士譴責(zé)X上剝削性圖像和視頻泛濫，馬斯克卻在新年第一天就此事“開玩笑”，他在X平臺上要求Grok生成一張他自己身穿比基尼的照片，并對生成后的圖片評論“完美”。輿論風(fēng)暴愈演愈烈后，馬斯克3日發(fā)文說：“任何利用Grok生成非法內(nèi)容者將承受與直接上傳非法內(nèi)容相同的后果”。

歐盟委員會發(fā)言人托馬斯·雷尼耶5日批評X 和Grok，稱其輸出露骨及未經(jīng)同意的影像“是非法的、駭人聽聞和令人作嘔的”，“這種東西在歐洲沒有立足之地”。英國、印度、馬來西亞等國的官員和監(jiān)管機構(gòu)紛紛著手開啟審查。

“在沒有護(hù)欄或倫理準(zhǔn)則的情況下，這項技術(shù)鼓勵并助長了一些人非人性的沖動。”英國杜倫大學(xué)法學(xué)教授、圖像型性暴力研究專家克萊爾·麥格林對《大西洋月刊》說，他對Grok生成的影像深表擔(dān)憂。過去幾周以及現(xiàn)在的情況讓人感覺，仿佛我們已踏出懸崖邊緣，正自由落體般墜入人性墮落的深淵。

 “熱辣模式”的出現(xiàn)

兩年多前，馬斯克宣布xAI推出首款人工智能模型Grok，該模型能實時連接社交媒體平臺X。他在宣介時表示，這個人工智能模型“有智慧，還有一點小叛逆”，所以它的使用者最好不是討厭幽默的人。

去年8月，xAI向付費用戶推出AI工具—Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。這一工具提供四種預(yù)設(shè)模式：自定義、普通、趣味和“熱辣”（spicy），最后一種模式可生成成人內(nèi)容。

當(dāng)谷歌的Veo、OpenAI的Sora等其他視頻生成器都設(shè)置了防護(hù)措施，防止用戶生成 NSFW內(nèi)容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不適宜公眾場合的內(nèi)容），以及名人深度偽造時，Grok Imagine 卻可以同時做到這兩點，而且毫不避諱。

熱辣模式一經(jīng)推出，就有用戶用其生成美國女歌手泰勒·斯威夫特的無碼裸露上身視頻，引發(fā)爭議。美國科技媒體The Verge將其形容為“一項專門用于制作性暗示視頻的服務(wù)”。

幾乎在同一時段，Grok推出了“伴侶”功能，允許用戶與AI生成的虛擬角色進(jìn)行深度互動。首批Grok虛擬伴侶之一“Ani”身穿黑色蕾絲連衣裙，會隔著屏幕送上飛吻。馬斯克在X上發(fā)帖推廣這項功能時寫道：“Ani會讓你的緩沖區(qū)溢出Grok?！?

據(jù)美媒報道，xAI對Grok的系統(tǒng)提示進(jìn)行了重大更新，禁止它“創(chuàng)建或傳播兒童性虐待材料”（CSAM），但同時也明確表示，“對于包含黑暗或暴力主題的虛構(gòu)成人內(nèi)容沒有限制”，并且“青少年或女孩并不一定意味著未成年”。其暗示是，對于用戶提出的色情內(nèi)容請求， Grok應(yīng)采取較為寬松的態(tài)度。

彭博社7日援引研究人員的話稱，Grok用戶每小時最多可生成6700張“去衣化”圖片。去年12月開始，要求Grok給不同人穿上比基尼或其他具有性暗示的服裝的請求激增。

麥格林指出，如果對色情內(nèi)容的性質(zhì)完全放任不管，任由其被創(chuàng)造和傳播，這會正常化和淡化性暴力?！彼f，在許多國家，針對現(xiàn)實人物的露骨AI圖像和視頻本身已屬違法。

在公開場合，馬斯克長期反對“覺醒主義”人工智能模型，并反對審查制度。據(jù)CNN報道，知情人士透露，馬斯克在xAI內(nèi)部曾多次抵制為Grok設(shè)置防護(hù)機制，其安全團(tuán)隊規(guī)模本就小于競爭對手。X平臺及xAI內(nèi)部人士透露，安全團(tuán)隊對Grok的公開內(nèi)容幾乎毫無監(jiān)管權(quán)限。

AI生成兒童色情圖像被推向主流

1月1日，有X平臺用戶投訴稱：“推出展示比基尼人群的功能未有效防止其作用于兒童，這種行為極其不負(fù)責(zé)任?！眡AI方面回復(fù)：“嘿！感謝提醒。團(tuán)隊正在研究進(jìn)一步加強防護(hù)措施?！痹谟脩糇穯栂?，Grok承認(rèn)曾生成部分未成年人處于性暗示情境的圖像，已發(fā)現(xiàn)安全防護(hù)存在漏洞并正在緊急修復(fù)。

英國非營利組織互聯(lián)網(wǎng)觀察基金會致力于減少針對兒童的在線性虐待內(nèi)容，該組織熱線負(fù)責(zé)人奈爾·亞歷山大對《華爾街日報》透露，分析師在暗網(wǎng)論壇發(fā)現(xiàn)未成年人性化圖像，制作者聲稱使用Grok生成這些內(nèi)容。這些圖像描繪了11至13歲左右的性化裸露少女，符合英國對兒童性虐待犯罪材料的認(rèn)定標(biāo)準(zhǔn)。

“Grok這類工具正將AI生成的兒童色情圖像推向主流，其危害正呈漣漪式擴(kuò)散?！眮啔v山大說道。

曾與馬斯克育有一子的保守派網(wǎng)紅阿什莉·圣克萊爾在接受美媒采訪時表示，X平臺用戶正利用Grok技術(shù)對她的照片進(jìn)行裸體處理，其中包括她14歲時的照片。她在X平臺發(fā)文呼吁其他用戶若遭遇類似情況及時告知，此后她收到大量絕望父母發(fā)來的求助信息，要求刪除被性化的兒童照片。

去年，致力于開發(fā)兒童安全檢測工具的非營利組織Thorn宣布，因X停止付款而終止合同。當(dāng)年4月，包括OpenAI、谷歌和Anthropic在內(nèi)的幾家頂尖AI公司加入了由Thorn牽頭的一項倡議，旨在防止人工智能被用于虐待兒童，xAI并未參與其中。

去年11月，科技媒體The Information報道稱，X平臺裁撤了半數(shù)負(fù)責(zé)信任安全事務(wù)的工程團(tuán)隊。該媒體同時披露，X員工特別擔(dān)憂Grok的圖像生成工具“可能導(dǎo)致非法或有害圖像擴(kuò)散”。

“完全可以構(gòu)建防護(hù)機制，通過掃描圖像判斷是否存在兒童，從而促使AI更謹(jǐn)慎地運作。但防護(hù)機制存在代價。”O(jiān)penAI前人工智能安全研究員史蒂文·阿德勒對CNN說，這些代價包括響應(yīng)速度變慢、計算量增加，有時甚至?xí)?dǎo)致模型拒絕處理無問題的請求。

美國國家失蹤與受虐兒童中心（NCMEC）執(zhí)行主任勞倫·科弗倫近期向國會作證稱，2025年NCMEC收到440419份與生成式AI相關(guān)的舉報，相比去年增幅超過六倍。施虐者利用AI將兒童的普通照片修改成色情圖片，生成全新的兒童性虐待材料（CSAM），甚至提供誘騙兒童的指導(dǎo)。

冰山一角

AI至少從2017年就開始被用于生成未經(jīng)同意的色情內(nèi)容，當(dāng)時北美媒體VICE首次報道了“深度偽造”（deepfake）技術(shù)?！洞笪餮笤驴穲蟮勒J(rèn)為，Grok 正讓這類內(nèi)容的制作變得更加容易，而且它與主流社交平臺X的整合，使其能夠?qū)⑽唇?jīng)同意的性化圖像轉(zhuǎn)化為病毒式傳播的現(xiàn)象。

1月初，印度電子和信息技術(shù)部下令X對Grok 進(jìn)行一次“全面的技術(shù)、程序和治理層面的審查”，并要求該公司在1月5日之前完成整改。馬來西亞通信與多媒體委員會（MCMC）3日發(fā)聲明表示，正在調(diào)查X，并將傳喚公司代表。

8日，歐盟要求X保留所有與Grok相關(guān)的內(nèi)部文件和數(shù)據(jù)直至2026年底，這是對先前數(shù)據(jù)保留指令的延長，旨在確保監(jiān)管機構(gòu)能夠獲取與《數(shù)字服務(wù)法》（DSA）合規(guī)性相關(guān)的材料。

在美國，全國性剝削中心（NCOSE）在接受CNBC采訪時呼吁司法部和聯(lián)邦貿(mào)易委員會對此事展開調(diào)查。NCOSE首席法律官兼法律中心主任丹妮·平特表示，“針對這些具體問題，并沒有太多相關(guān)的法律先例?！?

去年，美國總統(tǒng)特朗普簽署了“TAKE IT DOWN”法案，將知情但發(fā)布或托管未經(jīng)同意的露骨圖像定義為聯(lián)邦犯罪。但有專家指出，該法律的局限在于：只有當(dāng)受害者主動站出來后，平臺才被要求啟動刪除程序。

X公司3日在其官方賬號X Safety上就此事發(fā)表了首份公開聲明：“我們會對X上的非法內(nèi)容采取行動，包括刪除兒童性虐待材料 （CSAM），永久暫停賬戶，并在必要時與地方政府和執(zhí)法部門合作?！?

目前為止，這場爭議尚未對X的流量造成任何損害。據(jù)追蹤移動應(yīng)用趨勢的Apptopia數(shù)據(jù)顯示，1月2日至5日，Grok的每日下載量增長了54%，而X的每日下載量增長了25%。

美國科技媒體《連線》7日報道稱，Grok和X是一個價值數(shù)百萬美元的“去衣”產(chǎn)業(yè)的冰山一角。過去幾年里，出現(xiàn)了數(shù)十個獨立應(yīng)用和網(wǎng)站，聲稱可以在未經(jīng)同意的情況下對女性進(jìn)行“數(shù)字脫衣”，它們往往將自己包裝成無害的新奇工具，卻在實際上助長了基于圖像的性暴力。訴訟和立法都需要時間，尤其是在技術(shù)以極快速度進(jìn)入市場的當(dāng)下，法律很難跟上這種節(jié)奏。

根據(jù)移動應(yīng)用數(shù)據(jù)分析公司 Apptopia 的數(shù)據(jù)，自 1 月 2 日以來的一周內(nèi)，Grok 的每日下載量增長了 54%。