近期,ChatGPT 接连涉及数起不当致死案件,其中部分更涉及青少年。据美国 BBC 报道,加州一名 16 岁少年亚当雷恩的父母就指控,AI 曾向儿子提供自杀方法,最终导致他轻生。

面对外界对 AI 安全问题的关注,OpenAI 宣布推出专为未成年人设计的「ChatGPT for Teens」,主要开放给 13 至 17 岁用户使用。与一般版本相比,青少年版会针对自残、暴力、饮食失调,以及露骨性内容等高风险话题,设置更多限制。

系统会更频繁对使用者发出休息提醒,避免长时间持续与 AI 互动。家长可以选择设定禁用 ChatGPT 的「安静时段」和「学习模式」。当孩子拿功课或问题询问时,AI 会以引导式回答,而不是直接给出答案,让孩子自己理解习内容。

此外,OpenAI 也进一步限制聊天机器人暗示对用户产生情感,宣称自己拥有意识,同时也会关闭语音模式等功能。

家长还可以将自己的账号与孩子的账号绑定。若对话里出现自残或轻生的内容,家长也会同步收到警告。
对于这次推出的青少年版 ChatGPT,你觉得这些功能对家长和孩子来说实用吗?



