印尼與馬來西亞日前相繼宣布，暫時(shí)封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人Grok，因?yàn)閾?dān)心它被用于生成色情內(nèi)容。

據(jù)新華社報(bào)道，印尼通信和數(shù)字事務(wù)部長默蒂婭·哈菲茲10日在一份聲明中表示，此舉對(duì)于保護(hù)公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺(tái)就Grok所引發(fā)的負(fù)面影響盡快作出說明。

緊隨其后，馬來西亞通訊及多媒體委員會(huì)11日發(fā)布聲明，暫時(shí)禁止該國用戶訪問Grok，因?yàn)镚rok 被反復(fù)濫用來生成色情內(nèi)容、露骨的性內(nèi)容、極度冒犯且不雅的內(nèi)容，以及在未經(jīng)同意的情況下生成被操縱的圖像。

Grok 由馬斯克旗下的人工智能公司xAI 公司開發(fā)，去年8月推出AI工具—Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。據(jù)商業(yè)內(nèi)幕網(wǎng)站報(bào)道，有用戶利用這一工具對(duì)圖像中的人物進(jìn)行“數(shù)字脫衣”，然后將編輯后的性暴露照片投向社交平臺(tái)。

xAI 已將Grok 整合進(jìn)社交平臺(tái)X，而印尼是全球 X 用戶數(shù)量第三多的國家。印尼政府在一份聲明中表示，“未經(jīng)同意的、性化的深度偽造行為嚴(yán)重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴(yán)和安全。

法國政府本月早些時(shí)候?qū)γ烂奖硎?，將?duì) Grok 生成的露骨色情深度偽造內(nèi)容展開調(diào)查。英國數(shù)據(jù)監(jiān)管機(jī)構(gòu)則稱，已要求X平臺(tái)解釋在遵守?cái)?shù)據(jù)保護(hù)法律方面所采取的措施。印度政府近日在一封致X公司的信中表示，Grok正被“用戶濫用”，以“貶損或粗俗的方式生成女性圖像或視頻，從而對(duì)她們進(jìn)行猥褻詆毀”。與此同時(shí)，美國多名參議員要求蘋果和谷歌將X和Grok 從其應(yīng)用商店下架。

為應(yīng)對(duì)批評(píng)，xAI于9日宣布，將Grok在社交媒體平臺(tái)X上的圖像生成功能，限制為僅向付費(fèi)訂閱用戶開放。不過，獨(dú)立運(yùn)行的Grok應(yīng)用程序仍允許用戶在無需訂閱的情況下生成圖像。