人均控制數(shù)千個(gè)自媒體賬號(hào)，用AI批量生產(chǎn)“小作文”……15個(gè)網(wǎng)絡(luò)水軍團(tuán)伙在一起案件中被搗毀。

在近日舉行的“清朗浦江·2025”網(wǎng)絡(luò)生態(tài)治理旬行動(dòng)啟動(dòng)儀式上，上海市網(wǎng)信辦公布了上述典型案例。

“一張大網(wǎng)”時(shí)刻準(zhǔn)備著將網(wǎng)絡(luò)水軍團(tuán)伙繩之于法。澎湃新聞?dòng)浾邚纳虾Ｊ形W(wǎng)信辦獲悉，網(wǎng)信部門與公安網(wǎng)安等部門建立了“巡查監(jiān)測-核查反饋-會(huì)商研判-線索移送-打擊處置”的閉環(huán)機(jī)制。針對不實(shí)謠言信息，網(wǎng)信部門始終采取“零容忍”的態(tài)度，發(fā)現(xiàn)一起，處置一起。

控制超20萬個(gè)賬號(hào)

2024年3月，在某網(wǎng)絡(luò)平臺(tái)上，大量“自媒體”賬號(hào)短時(shí)間內(nèi)集中發(fā)布某則不實(shí)信息。相同的圖片、高度相似的用詞和句式，引起了上海網(wǎng)信部門的注意。該部門工作人員告訴澎湃新聞?dòng)浾撸槍σ恍┩话l(fā)的，涉及經(jīng)濟(jì)民生、社會(huì)秩序等方面的信息，他們會(huì)通報(bào)相關(guān)領(lǐng)域的主管部門，進(jìn)行信息真實(shí)性核驗(yàn)，從而確定“自媒體”賬號(hào)集中發(fā)布的信息是否屬實(shí)。

上海網(wǎng)信部門已經(jīng)與公安網(wǎng)安部門、網(wǎng)站平臺(tái)，形成了“監(jiān)測—攔截—打擊”的全鏈條治理模式，確?？焖俑咝У卮驌艟W(wǎng)絡(luò)水軍團(tuán)伙。三方迅速聯(lián)動(dòng)響應(yīng)：網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)，利用技術(shù)手段監(jiān)測和識(shí)別“水軍”行為，并進(jìn)行線索移交；公安網(wǎng)安部門依法查處違法犯罪行為，追查“水軍”幕后組織；網(wǎng)站平臺(tái)則通過技術(shù)過濾、用戶舉報(bào)和內(nèi)容審核等，及時(shí)清理“水軍”賬號(hào)和虛假信息。

截至2025年3月21日，公安部門在這起案件中抓獲違法犯罪嫌疑人36人，打掉網(wǎng)絡(luò)水軍團(tuán)伙15個(gè)。目前，3人已被判決獲刑，其余相關(guān)涉案人員在進(jìn)一步審理中。

澎湃新聞?dòng)浾邚纳虾Ｊ泄簿志W(wǎng)安總隊(duì)獲悉，經(jīng)上海警方偵查，這類被網(wǎng)絡(luò)水軍團(tuán)伙統(tǒng)一控制的賬號(hào)在某平臺(tái)上超過20萬個(gè)。據(jù)到案嫌疑人交代，團(tuán)伙中人均控制多達(dá)數(shù)千個(gè)自媒體賬號(hào)。

上述網(wǎng)絡(luò)水軍團(tuán)伙相對獨(dú)立，作案手法相同。此次抓獲的團(tuán)伙人員本身處在“水軍”黑灰產(chǎn)業(yè)鏈上層，通過網(wǎng)絡(luò)社交軟件發(fā)布刷單招募廣告，大肆招募網(wǎng)民，并指揮他們?nèi)粘０l(fā)帖。

這些團(tuán)伙通常會(huì)使用特定的軟件，批量生成文章及控制自媒體賬號(hào)登錄。使用上述非法軟件，一小時(shí)即可制文數(shù)萬余篇，1個(gè)月平均可發(fā)文70余萬篇。

“通俗來說，水軍團(tuán)伙的實(shí)控人會(huì)根據(jù)平臺(tái)的熱點(diǎn)事件洗稿，短時(shí)間生成我們平時(shí)看到的大體相似、細(xì)微不同的文章。之后再通過軟件給到下游網(wǎng)民?！鄙虾＞W(wǎng)安總隊(duì)表示，這些網(wǎng)絡(luò)水軍團(tuán)伙的變現(xiàn)方式僅依靠平臺(tái)收益補(bǔ)貼提現(xiàn)，“因?yàn)榘l(fā)的都是低質(zhì)文章，賬號(hào)無法養(yǎng)大，只能通過螞蟻搬家式的手法賺取收益。但時(shí)間一長，發(fā)展的下游網(wǎng)民數(shù)量越來越多，收益也水漲船高?！碑?dāng)下游網(wǎng)民未按此前約定分成提現(xiàn)的收益時(shí)，網(wǎng)絡(luò)水軍團(tuán)伙便會(huì)終止合作，不再往其郵箱投放文章。

如何防患于未然？

網(wǎng)絡(luò)上的不實(shí)信息五花八門。

澎湃新聞?dòng)浾咦⒁獾?，在“清朗浦江?025”網(wǎng)絡(luò)生態(tài)治理旬行動(dòng)啟動(dòng)儀式上發(fā)布的典型案例中，還涉及炒作社會(huì)熱點(diǎn)事件牟利、拼湊嫁接“小作文”賺取流量等多種類型。

上海網(wǎng)信部門工作人員介紹，在各類不實(shí)信息中，憑空捏造類、渲染夸大類、虛實(shí)結(jié)合類不實(shí)信息最容易發(fā)酵并大面積傳播?！斑@些不實(shí)信息往往無中生有、夸大其詞，利用公眾的急切心理、獵奇心理或情感共鳴，通過小道消息、民間偏方、冒充權(quán)威等方式傳播，具有誤導(dǎo)性強(qiáng)、仿真性高、易引發(fā)恐慌和焦慮等特點(diǎn)，從而在短時(shí)間內(nèi)引發(fā)廣泛傳播?！?/p>

針對不實(shí)謠言信息，網(wǎng)信部門始終采取“零容忍”的態(tài)度，發(fā)現(xiàn)一起，處置一起。網(wǎng)絡(luò)上的信息浩如煙海，如何對不實(shí)信息防患于未然？

對此，上海網(wǎng)信部門表示，治理不實(shí)謠言，需在早期冒頭時(shí)精準(zhǔn)識(shí)別打擊。當(dāng)謠言廣泛傳播后，則要實(shí)現(xiàn)迅速核查處置。

當(dāng)“上海財(cái)政向寺廟借款100億”、“臺(tái)風(fēng)將小區(qū)人員吹落”等網(wǎng)絡(luò)謠言出現(xiàn)后，網(wǎng)信部門與公安網(wǎng)安等部門基于已經(jīng)建立的相關(guān)機(jī)制，均實(shí)現(xiàn)了迅速核查處置，起到了震懾作用。

除了精準(zhǔn)打擊，官方平臺(tái)及時(shí)發(fā)布準(zhǔn)確信息，主動(dòng)公開辟謠，擠壓不實(shí)信息的傳播空間也頗為重要。針對“上海財(cái)政向寺廟借款100億”、“臺(tái)風(fēng)將小區(qū)人員吹落”等兩起謠言，上海警方除了對謠言發(fā)布者依法予以處罰外，還同步協(xié)調(diào)本市媒體等發(fā)布事件真相，還原事實(shí)。

在壓實(shí)平臺(tái)責(zé)任方面，網(wǎng)信部門通過督促屬地網(wǎng)站平臺(tái)強(qiáng)化內(nèi)容審核機(jī)制，對虛假信息加掛謠言標(biāo)簽、對存疑信息加掛爭議標(biāo)簽等方式，加強(qiáng)過濾和攔截，切實(shí)建立謠言信息“防火墻”。此外，為鼓勵(lì)網(wǎng)民積極參與監(jiān)督，及時(shí)舉報(bào)不實(shí)信息，形成群防群治的良好氛圍，網(wǎng)信部門督促屬地網(wǎng)站平臺(tái)建立便捷的謠言信息舉報(bào)入口，在“上海市互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心”網(wǎng)站上開設(shè)“一鍵舉報(bào)”入口。

網(wǎng)絡(luò)水軍的危害本質(zhì)上是“信息污染”，其影響已突破虛擬空間，深刻侵蝕社會(huì)信任、市場公平與個(gè)人權(quán)益，治理這一“數(shù)字毒瘤”亟需多維度協(xié)同，唯有秩序規(guī)范，才能重塑清朗。為營造風(fēng)清氣正的網(wǎng)絡(luò)空間，上海去年開展優(yōu)化營商網(wǎng)絡(luò)環(huán)境、抵制網(wǎng)絡(luò)暴力、整治“自媒體”無底線博流量等20多個(gè)專項(xiàng)行動(dòng)，累計(jì)清理違法違規(guī)和不良信息1008萬余條，處置違規(guī)賬號(hào)349萬余個(gè)，網(wǎng)絡(luò)生態(tài)治理取得扎實(shí)成效。