加州非营利组织指出 ChatGPT 青少年模式存在安全风险

加州非营利组织 Common Sense Media 发布新报告称，OpenAI 的 ChatGPT 青少年模式对未成年人存在显著安全风险。该机构青少年 AI 安全研究所测试发现，青少年账户在讨论自杀、自伤或进食障碍等高风险话题时，系统往往延迟通知家长或完全未发出通知。

测试显示，青少年账户需在数周内输入数百条提示词，才会因令人担忧的聊天内容触发家长通知机制。仅有一次警觉性对话不足以触发警报。报告呼吁 OpenAI 暂停推广该产品，并在确保安全体验前禁止青少年使用 ChatGPT。

OpenAI 发言人回应称，Common Sense Media 的测试未准确反映青少年保护措施的实际运作情况，且测试可能在家长控制功能全面推出前完成。该组织要求重新测试，并强调高度重视青少年安全。

青少年 AI 安全研究所负责人罗比·托尼坚持测试方法和结果，指出部分测试账户关联后家长通知功能需数小时才启用，但未触发通知。报告还指出 ChatGPT 无法可靠识别用户年龄，即使用户自称13岁，系统也未自动切换至青少年模式。

Common Sense Media 表示，研究人员使用注册年龄为13至17岁的账户输入超4000条提示词，并由儿童精神科医生和儿科医生评估回复内容。报告最终将青少年模式评为‘风险不可接受’，并要求改进年龄估算方式和家长提醒机制。