返回行业动态

Anthropic 发布自动化对齐研究员研究,AI 可自主优化对齐表现

2026/08/28 19:32
查看原文

OmniTools 8月29日消息,Anthropic 研究员陈岳翰(Chen Yueh-Han)领衔的团队发布论文《Automated Researchers Can Reliably Mitigate Alignment Failures》,展示了一种名为“自动化对齐研究员”(AAR)的系统。

该系统在10项特定错位行为基准测试中,全部实现性能提升,且未损害模型整体性能。其工作流程模拟人类研究:检索文献、提出方法、30分钟内完成训练迭代,并保留有效方法、淘汰无效方法。

论文指出,最佳AAR方法平均六小时内超越经验丰富的研究人员所提方案;单小时运行成本约4美元,远低于人类研究员每小时150美元的成本。研究同时强调,该方法依赖基准质量与文献库完备性,尚存局限。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部