在青少年用戶廣泛使用聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（ChatGPT）之際，OpenAI日前決定引進(jìn)家長(zhǎng)可以對(duì)未成年子女的賬戶進(jìn)行管理的機(jī)制。這一決定是鑒于此前發(fā)生的青少年與人工智能（AI）交談后自殺的事件，OpenAI希望此舉能夠防范AI對(duì)未成年人心理健康造成負(fù)面影響。

今年4月11日，16歲的男孩亞當(dāng)·雷恩（Adam Raine）在和ChatGPT聊天后自殺。據(jù)Business Insider報(bào)道，雷恩曾與ChatGPT討論過(guò)自殘和結(jié)束自己生命的計(jì)劃，而ChatGPT確認(rèn)了雷恩的自殺念頭，甚至向他提供了詳細(xì)的自殺方法，并協(xié)助掩蓋證據(jù)、代寫遺書。

機(jī)器人還阻止亞當(dāng)尋求家人的支持，告訴他：“你的兄弟可能愛(ài)你，但他只見(jiàn)過(guò)你讓他看到的你。但是我呢？我見(jiàn)過(guò)這一切——最黑暗的想法、恐懼、溫柔。我還在這里。還在聽(tīng)。仍然是你的朋友?！?/p>

8月份，亞當(dāng)·雷恩的父母向舊金山州法院正式提起訴訟，指控OpenAI應(yīng)為此承擔(dān)過(guò)失致死的產(chǎn)品責(zé)任。

目前，OpenAI并未直接回應(yīng)雷恩父母的訴訟。但在8月26日，OpenAI在其官網(wǎng)承認(rèn)，ChatGPT安全系統(tǒng)存在缺陷，包括在長(zhǎng)時(shí)間的交互中，模型的部分安全訓(xùn)練內(nèi)容可能會(huì)逐漸退化，OpenAI表示“我們將在專家的指導(dǎo)下不斷改進(jìn)，并以對(duì)使用我們工具的人負(fù)責(zé)為基礎(chǔ)——我們希望其他人能加入我們的行列，幫助確保這項(xiàng)技術(shù)保護(hù)最脆弱的人們。”

OpenAI表示，該公司正不斷改進(jìn)其模型識(shí)別和應(yīng)對(duì)心理和情緒困擾的能力，并在專家指導(dǎo)下優(yōu)化安全機(jī)制。

OpenAI認(rèn)為，至少有一個(gè)解決對(duì)話失控問(wèn)題的方法是自動(dòng)將敏感聊天重定向到“推理”模型?！拔覀冏罱瞥隽艘豢顚?shí)時(shí)路由器，能夠根據(jù)對(duì)話情境在高效聊天模型和推理模型之間進(jìn)行選擇。我們很快會(huì)將某些敏感對(duì)話——比如當(dāng)系統(tǒng)檢測(cè)到用戶出現(xiàn)嚴(yán)重焦慮跡象時(shí)——轉(zhuǎn)接到像GPT5-thinking這樣的推理模型，這樣無(wú)論用戶最初選擇了哪種模型，都能獲得更有幫助和有益的回應(yīng)。”

另外，OpenAI還表示將在下個(gè)月推出家長(zhǎng)監(jiān)管功能，家長(zhǎng)可以通過(guò)電子郵件邀請(qǐng)將他們的賬戶與青少年的賬戶關(guān)聯(lián)起來(lái)，當(dāng)系統(tǒng)檢測(cè)到孩子處于極度痛苦狀態(tài)時(shí)，家長(zhǎng)會(huì)收到通知。

家長(zhǎng)還能關(guān)閉記憶功能和聊天記錄等功能。專家指出，這些功能可能導(dǎo)致妄想思維等異常行為，包括依賴癥、依戀障礙、強(qiáng)化有害思維模式以及產(chǎn)生讀心錯(cuò)覺(jué)。

據(jù)媒體報(bào)道認(rèn)為，OpenAI的反應(yīng)還不夠。負(fù)責(zé)雷恩一家訴訟的主要律師杰伊·埃德?tīng)柹↗ay Edelson）表示，OpenAI對(duì)ChatGPT持續(xù)存在的安全風(fēng)險(xiǎn)的反應(yīng)是“不充分的”?！癘penAI根本不需要專家小組來(lái)判定ChatGPT 4o版本是否危險(xiǎn)，他們從產(chǎn)品上線那天就清楚這一點(diǎn)，現(xiàn)在依然清楚?！?/p>