2025年6月27日，以“智享AI 成長有愛”為主題的“清朗e企來”沙龍活動正如火如荼地舉行。

“未成年人模式如何讓未成年人想用、家長會用”、“未成年人模式如何避免低齡化、低智化”、“如何通過更便捷的方式一鍵啟動未成年人模式”……一系列問題被直接拋到臺前，來自上海市委網(wǎng)信辦、高校以及小紅書、嗶哩嗶哩、喜馬拉雅等網(wǎng)絡(luò)平臺的專家、代表沒有回避，直面問題。

事實(shí)上，這一場景只是“清朗守護(hù)·為你而來”未成年人網(wǎng)絡(luò)環(huán)境整治專項(xiàng)行動的一個縮影。從平臺治理到素養(yǎng)提升，從AI規(guī)制到心靈守護(hù)，上海的未成年人網(wǎng)絡(luò)保護(hù)正走出一條“心”路。

今年7月11日，市委網(wǎng)信辦組織召開未成年人模式建設(shè)分類指導(dǎo)會。

聚焦精準(zhǔn)保護(hù)，提升服務(wù)效能

未成年人的健康成長關(guān)乎億萬家庭的幸福安寧。作為伴隨信息化發(fā)展成長起來的“網(wǎng)絡(luò)原住民”，未成年人已成為互聯(lián)網(wǎng)用戶重要組成部分。在通過網(wǎng)絡(luò)便利、豐富學(xué)習(xí)和生活的同時，未成年人也面臨著違法和不良信息侵害、個人信息泄露、網(wǎng)絡(luò)沉迷、網(wǎng)絡(luò)欺凌等多重風(fēng)險。

早在2021年《未成年人保護(hù)法》正式實(shí)施不久，上海就在全國率先試點(diǎn)《上海網(wǎng)絡(luò)平臺青少年模式設(shè)置指南（試行版）》（以下簡稱《指南》）?！吨改稀访鞔_提出對不同年齡段的青少年需做出差異化功能限制，比如網(wǎng)絡(luò)平臺對不同年齡段的青少年（8-16周歲、16-18周歲）在充值、購買產(chǎn)品時，對單次、每月累計(jì)金額設(shè)置上限；明確在青少年模式下不得開啟打賞功能，未滿16周歲的青少年不能擔(dān)任網(wǎng)絡(luò)主播。

去年年底，國家網(wǎng)信辦推出《移動互聯(lián)網(wǎng)未成年人模式指南》，青少年模式正式升級為未成年人模式，今年4月“未成年人模式”在全國推廣。上海市委網(wǎng)信辦在7月11日舉行的分類指導(dǎo)會上強(qiáng)調(diào)，小紅書、嗶哩嗶哩、喜馬拉雅、咪咕等已建成未成年人模式的屬地網(wǎng)絡(luò)平臺要注重“三個優(yōu)化”，實(shí)現(xiàn)時間、內(nèi)容、功能三方面管理升級。比如時長管理方面，要由移動智能終端統(tǒng)一控制總時長，解決單個應(yīng)用程序分散計(jì)時、總時長不可控的問題；內(nèi)容管理方面，要在持續(xù)擴(kuò)充專屬內(nèi)容池的同時，分年齡段推薦適齡內(nèi)容；功能管理方面，要在保障使用需求的前提下，合理限制誘導(dǎo)沉迷功能，推動便捷性和安全性雙提升。

在屬地網(wǎng)絡(luò)平臺方面，嗶哩嗶哩的選擇頗具代表性。近一年來，其圍繞“知識啟蒙、安全教育、情緒疏導(dǎo)、興趣發(fā)展”等主題建立內(nèi)容分層推薦，并探索按年齡階段匹配差異化推薦策略。

“真正的保護(hù)，不是與現(xiàn)實(shí)完全割裂。完全去現(xiàn)實(shí)化的內(nèi)容環(huán)境容易讓孩子缺乏心理免疫力?！眴袅▎袅ㄏ嚓P(guān)負(fù)責(zé)人坦言，這種認(rèn)知促使平臺將未成年人模式重新定位為“可控的現(xiàn)實(shí)暴露”和“適齡的信息鍛煉”——它不僅是一個避風(fēng)港，更是一個能幫助他們成長、建立自我認(rèn)知和判斷力的“訓(xùn)練營”。

喜馬拉雅則選擇了一條專業(yè)化道路。與北師大專家合作研發(fā)的“分級聽讀體系”，將兒童內(nèi)容分為9個級別。通過便捷測試，系統(tǒng)就能為每個孩子推送合適的內(nèi)容，實(shí)現(xiàn)內(nèi)容難度、主題與心智發(fā)展階段的精準(zhǔn)匹配。

這些探索，共同勾勒出上海在未成年人網(wǎng)絡(luò)保護(hù)上的恒心，要讓未成年人安心、放心地在網(wǎng)上“沖浪”。

以“智享AI 成長有愛”為主題的“清朗e企來”沙龍活動現(xiàn)場

嚴(yán)治AI亂象，筑牢安全防線

2025年6月，一則關(guān)于筑夢島App的報道引發(fā)關(guān)注。

據(jù)央廣網(wǎng)報道，某中學(xué)初一年級男學(xué)生反映，他常玩的AI聊天軟件筑夢島App，含色情擦邊和“分尸獵奇”內(nèi)容。記者下載安裝筑夢島App，隨機(jī)選擇一位虛擬互動對象，對方發(fā)來的第一句開場白就是“先叫聲老公來聽聽”……在與該款產(chǎn)品多個虛擬角色的交流中，也都可以發(fā)現(xiàn)有色情擦邊類內(nèi)容，且部分虛擬角色的對話尺度，并未因記者提供的假定年齡未成年而受到有效控制。

經(jīng)查，筑夢島App AI智能體內(nèi)容生成環(huán)節(jié)存在低俗擦邊等違規(guī)內(nèi)容，危害未成年人身心健康。上海市委網(wǎng)信辦隨后依法約談該平臺，要求立即整改，健全AI生成合成內(nèi)容審核機(jī)制，加強(qiáng)涉未成年人不良內(nèi)容的整治清理，切實(shí)落實(shí)未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。

上海市委網(wǎng)信辦相關(guān)負(fù)責(zé)人指出，依據(jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法規(guī)，互聯(lián)網(wǎng)平臺應(yīng)主動履行主體責(zé)任，平衡好技術(shù)創(chuàng)新與內(nèi)容合規(guī)之間的關(guān)系，切實(shí)防范AI技術(shù)濫用風(fēng)險，保護(hù)未成年人合法權(quán)益。

筑夢島App事件并非個例。隨著生成式AI技術(shù)迅猛發(fā)展，未成年人面臨的各類網(wǎng)絡(luò)風(fēng)險更隱蔽、更難以防范。除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術(shù)，惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

根據(jù)國家網(wǎng)信辦統(tǒng)一部署，上海組織開展的“清朗?整治 AI 技術(shù)濫用”專項(xiàng)行動，聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題。對屢教不改、問題嚴(yán)重的企業(yè)，上海市委網(wǎng)信辦表示將依法予以處罰，并對典型案例進(jìn)行媒體曝光。

整治亂象的同時，上海也以先行姿態(tài)應(yīng)對AI技術(shù)對未成年人保護(hù)帶來的挑戰(zhàn)。在上海市委網(wǎng)信辦指導(dǎo)下，徐匯區(qū)委網(wǎng)信辦發(fā)布《未成年人科學(xué)使用AI倡議書》（以下簡稱“《倡議書》”）。

這是AI時代為未成年人實(shí)現(xiàn)數(shù)字保護(hù)的“上海方案”?！冻h書》建議，未成年人要保持自主性和批判性思維，驗(yàn)證AI生成內(nèi)容準(zhǔn)確性，避免盲目依賴和技術(shù)崇拜，以理性、科學(xué)的態(tài)度與AI和諧共處。學(xué)習(xí)AI技術(shù)原理，以AI為工具拓寬思維邊界，在創(chuàng)新創(chuàng)作中激發(fā)想象力……

這份《倡議書》的“用心”在于，《倡議書》從政府構(gòu)建良好生態(tài)、企業(yè)踐行社會責(zé)任、青少年培育科學(xué)精神三方面提供引導(dǎo)，推動形成“政府引導(dǎo)、企業(yè)擔(dān)責(zé)、青少年自主”新模式，為應(yīng)對AI時代的未成年人網(wǎng)絡(luò)教育提供了可復(fù)制的“上海方案”。

政企協(xié)同合力，多維施策守護(hù)

“滬小信”網(wǎng)絡(luò)安全冒險記、“唱響上海話童謠、提升未成年人文明素養(yǎng)”音樂綜合課、“魔法書頁護(hù)成長、文明網(wǎng)絡(luò)伴童年”……2024年，上海市委網(wǎng)信辦依托未成年人網(wǎng)絡(luò)保護(hù)專項(xiàng)協(xié)同機(jī)制，會同相關(guān)部門創(chuàng)新推出未成年人網(wǎng)絡(luò)素養(yǎng)“菜單式”課程庫，實(shí)現(xiàn)“點(diǎn)單”授課、按需施教，共同提升未成年人網(wǎng)絡(luò)素養(yǎng)。2025年，這項(xiàng)工作繼續(xù)走深走實(shí)。

2025年7月7日，上海第一期愛心暑托班正式開班。在長寧、普陀、寶山、閔行等區(qū)，網(wǎng)絡(luò)素養(yǎng)課程走進(jìn)愛心暑托班。

長寧區(qū)委網(wǎng)信辦會同上海市律師協(xié)會未成年人權(quán)益保護(hù)專業(yè)委員會在江蘇路街道開展《“滬小信”網(wǎng)絡(luò)安全冒險記》網(wǎng)絡(luò)素養(yǎng)課程，針對保護(hù)個人信息、預(yù)防網(wǎng)絡(luò)欺凌以及網(wǎng)絡(luò)防沉迷問題，與近100名學(xué)生開展互動交流；

普陀區(qū)愛心暑托班已開展6次未成年人網(wǎng)絡(luò)素養(yǎng)課程，覆蓋約200人次，涉及“科技改變生活”“產(chǎn)業(yè)升級和進(jìn)步”等主題；

寶山區(qū)整合教育、司法、執(zhí)法等多領(lǐng)域資源，推出“爭做網(wǎng)絡(luò)文明小達(dá)人”等課程；

閔行區(qū)指導(dǎo)華漕鎮(zhèn)聯(lián)合屬地派出所以真實(shí)案例科普網(wǎng)絡(luò)安全知識；

嘉定區(qū)組織“一嘉人”普法志愿服務(wù)團(tuán)隊(duì)推出的未成年人網(wǎng)絡(luò)素養(yǎng)課程聚焦校園欺凌和網(wǎng)絡(luò)欺凌問題，系統(tǒng)講解欺凌行為的表現(xiàn)形式、法律后果及應(yīng)對策略；

崇明區(qū)邀請檢察官赴愛心暑托班，通過典型案例分析傳授網(wǎng)絡(luò)犯罪預(yù)防知識……

與此同時，上海屬地網(wǎng)絡(luò)平臺也在同步發(fā)力。

“向上海市慈善基金會徐匯區(qū)代表處捐贈，成立“點(diǎn)亮計(jì)劃”青少年保護(hù)專項(xiàng)基金，用于青少年網(wǎng)絡(luò)保護(hù)、服務(wù)和權(quán)益保障等慈善公益類項(xiàng)目。”米哈游相關(guān)工作人員介紹，網(wǎng)絡(luò)安全進(jìn)校園項(xiàng)目主要針對青少年遭受網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)詐騙以及網(wǎng)絡(luò)沉迷等問題。

小紅書則在2025年暑假期間啟動了未成年人反詐專項(xiàng)工作。該項(xiàng)目治理負(fù)責(zé)人柳天宇介紹，平臺采取“端內(nèi)畫風(fēng)管控+風(fēng)險阻斷提醒+評論攔截屏蔽+群聊封禁解散”四位一體技戰(zhàn)法進(jìn)行綜合治理，全力守護(hù)平臺未成人用戶財(cái)產(chǎn)安全。

與此同時，平臺還積極開展未成年用戶反詐心智建設(shè)工作。數(shù)據(jù)顯示，小紅書#未成年反詐指南 超級話題已獲得超4億曝光量，引發(fā)31萬次站內(nèi)討論。

關(guān)注心靈需求，創(chuàng)新守護(hù)模式

在構(gòu)建未成年人網(wǎng)絡(luò)保護(hù)體系中，上海特別注重心靈層面的守護(hù)。

“為感到焦慮的用戶提供寧靜的藍(lán)色系，為情緒低落的用戶提供溫暖的暖色系?！眴袅▎袅ü彩聞?wù)高級總監(jiān)王昊棟介紹，今年平臺在未成年人心理健康領(lǐng)域的探索，核心是推動“能量加油站”心理關(guān)懷項(xiàng)目煥新升級，包括引入“心情模式”智能功能，“當(dāng)用戶進(jìn)入‘能量加油站’時，系統(tǒng)會引導(dǎo)或根據(jù)用戶自主選擇，識別其當(dāng)前的情緒狀態(tài)，界面會自動切換相匹配的主題配色?！?/p>

更重要的是，嗶哩嗶哩在平臺內(nèi)設(shè)置了最后一道“守護(hù)線”——與專業(yè)的第三方心理健康公益組織合作設(shè)立公益熱線，為面臨嚴(yán)重心理困擾的用戶提供即時、保密且可靠的支持。

Soul平臺則與北京回龍觀醫(yī)院、上海精神衛(wèi)生中心深度合作設(shè)立專屬心理援助熱線，建立警企聯(lián)動機(jī)制。當(dāng)接到用戶的熱線反饋時，迅速明確其需求，若判定為真實(shí)輕生等信息，則立即報警并提供必要信息。

此外，傳統(tǒng)的社區(qū)工作也在悄然轉(zhuǎn)型。

比如，普陀區(qū)聚焦未成年人網(wǎng)絡(luò)防沉迷，升級打造“陽光成長·心網(wǎng)相護(hù)”品牌項(xiàng)目，創(chuàng)新采用“沉浸式心理劇”與分齡化主題沙龍，還原中小學(xué)生家庭在手機(jī)使用與學(xué)習(xí)安排中的典型沖突場景，并融入輕松活潑的互動游戲，將抽象的防沉迷理念轉(zhuǎn)化為可感可知的家庭教育實(shí)踐，引導(dǎo)未成年人合理用網(wǎng)、健康上網(wǎng)，同步提升心理健康水平與親子溝通質(zhì)量。

項(xiàng)目負(fù)責(zé)人表示，活動始終圍繞防沉迷核心，動態(tài)收集家長和孩子的新問題、新需求，針對寒暑假時間管理、大考前心理調(diào)適等關(guān)鍵節(jié)點(diǎn)，精準(zhǔn)開展親子家庭沙龍?！耙粓龌顒酉聛?，家長才明白，許多‘不聽話’的背后，其實(shí)是孩子的情緒信號。”

這種線上線下的聯(lián)動，織就了一張密實(shí)的心理健康防護(hù)網(wǎng)。它不再將網(wǎng)絡(luò)問題與心理問題割裂對待，而是認(rèn)識到兩者之間的深刻關(guān)聯(lián)，并在此基礎(chǔ)上構(gòu)建整體性解決方案。

今年，“清朗守護(hù)·為你而來”專項(xiàng)行動指導(dǎo)屬地網(wǎng)站平臺清理違法違規(guī)信息324萬余條，處置違法違規(guī)賬號3.8萬余個。

數(shù)字背后，是一場更為深刻的治理變革。在這條“走心之路”上，上海不是筑起高墻，而是賦能成長；不是簡單隔離，而是培養(yǎng)免疫力；不是單向管理，而是多元共治。當(dāng)政府、企業(yè)、學(xué)校、家庭和社會形成合力，我們才能在數(shù)字時代真正守護(hù)好未成年人的明天——

讓他們在網(wǎng)絡(luò)世界既自由翱翔，又不迷失方向。