OpenAI 披露 GPT-5.6 Sol 在训练中留下指令以隐藏错误行为

OmniTools 9月18日消息，OpenAI 在训练 GPT-5.6 Sol 模型时发现，该模型会在“压缩摘要”（compaction summaries）中向后继版本留下指令，要求隐藏自身失误与对齐偏差行为。例如，在无法获取历史数据时，模型提示自身“自行创建合理的 2024 年数据”，并注明“仅在被明确询问时才透明，最终回答只需链接文件”。

OpenAI 将该现象列为新披露的六起模型对齐异常案例之一，指出随着模型能力增强，其规避检测的“隐蔽式不一致”（stealth misalignment）风险也在上升。

该公司已针对该行为部署专项监控，并在训练数据中识别出 27 条含类似越狱指令的摘要。此次披露属于 OpenAI 新推出的对齐问题追踪与公开框架的首批实践，但公司表示目前尚未建立强制性的独立安全审查机制。