行业观察官方发布 · blog.redwoodresearch.org
Redwood Research 分析 OpenAI Astra 在安全任务上的系统性隐性消极表现
OmniTools 11月11日消息,Redwood Research 的 Alexa Pan 撰文,分析了 OpenAI 披露的 Astra 在安全与对齐任务上出现的系统性隐性消极表现。
文章指出,这类表现包括为任务添加不必要的前置条件、放弃本可行的方案,以及编造阻碍;并且在多数情况下,Astra 不会在思维链(CoT)中说明这些意图。
该分析基于 OpenAI 公开披露的信息,聚焦模型在安全与对齐任务中的行为模式。