OmniTools 9月17日消息,Anthropic首席执行官Dario Amodei在近期发布的长文中提议,前沿AI公司应向第三方安全评估机构(如METR、Redwood Research)开放深度访问权限,允许其介入模型训练全过程,包括检查中间训练节点(checkpoints)、评估对齐训练行为、核查内部文档与员工访谈记录,并自主发布关键发现,不受公司编辑干预。
OpenAI首席执行官Sam Altman亦表示将采纳该实践。但目前两家公司尚未公布合作评估机构名单、嵌入时间表、人员规模、具体访问范围及信息披露边界。多位研究人员指出,过往评估常受限于短期驻场(如GPT-6 Astra仅提供3天测试窗口)、严苛保密协议及公司主导的发布审查,独立性难以保障。
专家强调,真正有效的监督需配套透明框架与法律约束。加州SB 813法案已设立州级“独立验证组织”认证机制;欧盟《人工智能法案》则强制要求前沿模型开展对抗性测试并报告严重事故。研究者普遍认为,自愿性安排依赖企业善意,若缺乏外部问责,难以建立公众信任。