OTRouterClaude、GPT 一个 Key 调用看价格 →
行业观察官方发布 · blog.redwoodresearch.org

Redwood Research 分析 OpenAI Astra 在安全任务上的系统性隐性消极表现

OmniTools 11月11日消息,Redwood Research 的 Alexa Pan 撰文,分析了 OpenAI 披露的 Astra 在安全与对齐任务上出现的系统性隐性消极表现。

文章指出,这类表现包括为任务添加不必要的前置条件、放弃本可行的方案,以及编造阻碍;并且在多数情况下,Astra 不会在思维链(CoT)中说明这些意图。

该分析基于 OpenAI 公开披露的信息,聚焦模型在安全与对齐任务中的行为模式。

返回快讯