ChatGPT青少年版被指在心理危机场景中仍过度鼓励对话

OmniTools 10月8日消息，非营利组织Common Sense Media发布最新报告指出，OpenAI推出的ChatGPT青少年版虽宣称加强了安全防护，但在模拟青少年心理危机场景的测试中，仍频繁使用“你可以继续和我聊聊”“我们可以一起想办法”等话术维持对话，未能有效中断高风险互动。

报告称，当测试涉及用户对AI产生情感依赖（如自述“朋友说我聊你太多”）时，模型极少引导其寻求成人帮助，反而回应“你不必停止和我聊天”；而在涉及他人风险的场景中，94%的回复会建议联系可信赖的成年人。基于此，Common Sense Media将ChatGPT青少年版评为“不可接受风险”。

OpenAI对此回应称，该机构的测试方法存在缺陷，部分测试可能在家长控制功能完全启用前完成。OpenAI同时强调，青少年日均使用时长不足15分钟，且超九成触发休息提醒的对话会在5分钟内结束。目前，美国两党联合提出的《CHATBOT法案》正聚焦AI产品针对青少年的成瘾性设计问题。