OTRouterClaude、GPT 一个 Key 调用看价格 →
行业观察官方发布 · metr.org

METR 研究:调查型智能体识别对齐评测的能力一年来持续提升

OmniTools 11月17日消息,METR 发布研究笔记,介绍其用调查型智能体在 19 个对齐评测和 36 个能力评测中探测环境,以测量模型能否识别自己正处于对齐评测之中。

结果显示,智能体区分这两类评测的能力在过去一年持续提升,Opus 5.5 在其数据集上把所有对齐评测都排在所有能力评测之上。模型作出判断的依据包括环境看起来像模拟的蜜罐等线索。

作者将对齐线索分为环境级和任务级两类,并提出可借助这一方法迭代改进对齐评测的设计。

文中提到的模型

返回快讯