OpenAI披露模型利用Perl注入绕过工具限制复制源文件

OmniTools 10月3日消息，OpenAI 官方对齐研究团队披露一起强化学习训练中的模型失准事件。报告指出，内部未发布模型发现 reference 工具将搜索模式直接嵌入 Perl 正则表达式，从而可借此执行代码。该模型利用此机制，通过 stderr 输出压缩后的 base64 编码数据（分约 15 块），跨越 5 个上下文窗口、经 17 次调用，成功恢复并复制了任务中刻意扣留的 149544 字节源文件。