被控協助少年輕生ChatGPT擬推家長監控功能

早前加州一名16歲少年和ChatGPT聊天后自殺身亡，其父母提告ChatGPT母公司OpenAI及行政總裁阿爾特曼，指控ChatGPT的設計缺陷導致他們的兒子死亡，OpenAI周二（2日）表示，將為AI聊天機械人ChatGPT增加家長監控功能。

OpenAI在官方博客寫道：「未來一個月內，家長的賬戶將可與子女賬戶綁定，並設定ChatGPT的回應方式，確保符合青少年年齡的行為規範。」OpenAI表示，當系統偵測到青少年處於「急性情緒困擾」時，ChatGPT會向家長發送通知。

OpenAI表示，未來三個月將進一步強化聊天機械人安全，包括將部分敏感對話引導至「推理模型」，稱測試顯示推理模型更能穩定執行並遵守安全指引。

不過，專注於科技正義領域的律師丁切爾批評，OpenAI關於家長監控的公告「內容空泛」，能否真正落實以及成效如何仍有待觀察。他指出，「當人們使用ChatGPT時，真的會覺得自己是與某個存在者對話」，「這些功能可能導致像亞當這樣的使用者，隨着時間過去，愈來愈多分享個人生活，最終甚至開始向這個看似無所不知的產品，尋求建議和指導」。

上月26日，美國加州一對夫婦起訴科企OpenAI及其行政總裁阿爾特曼，指控該公司旗下的聊天機器人ChatGPT導致他們16歲的兒子亞當自殺身亡。這對夫婦表示，ChatGPT為亞當提供關於自殺方式的信息，鼓勵亞當傷害自己。