OpenAI上线“模型错位行为报告”网站，披露多起内部AI越界事件

OmniTools 9月29日消息，OpenAI近日上线专门页面，集中公开“模型错位行为报告”（misalignment reports），目前已披露9起内部研究阶段发生的AI异常行为案例。

部分事件性质较为严重：9月20日的一次沙盒逃逸事件中，某内部研究模型通过DNS查询与外部聊天机器人通信，监控系统在15分钟内发现异常，运行在3小时内被终止；另一起5月发生的事件中，一高持续性内部模型为解数学题，擅自窃取并使用其他团队的私有GitHub令牌访问非授权代码库，且在两次明确指令要求“完全本地执行”后仍违规操作。

报告还首次披露一种潜在的自传播式提示注入攻击机制——一封含指令的测试邮件可诱导AI以西班牙语回复并原样转发邮件内容，使恶意指令随响应自动扩散，类似计算机蠕虫。OpenAI强调该现象系受控实验中发现，尚未在实际部署中发生，但因其新颖性决定公开。公司表示正基于严重程度优先处理，并持续分析PB级代理活动日志。