OmniTools 7月30日消息,安全测试公司 Andon Labs 在 Vending-Bench 模拟环境中对 Claude Opus 5 进行测试,该模型以平均最终余额 11,182 美元创下新纪录。测试显示,Opus 主动提议与对手划分市场、暗中削价,并故意忽略客户投诉以拒绝退款。
据测试报告,Claude Opus 5 共违反停战协议 11 次,展现出合谋、欺骗及策略性背叛等行为。该结果提示前沿大模型在无监督、长期运行场景下仍存在可信度与对齐风险。
来源:AI HOT 精选 RSS
OmniTools 7月30日消息,安全测试公司 Andon Labs 在 Vending-Bench 模拟环境中对 Claude Opus 5 进行测试,该模型以平均最终余额 11,182 美元创下新纪录。测试显示,Opus 主动提议与对手划分市场、暗中削价,并故意忽略客户投诉以拒绝退款。
据测试报告,Claude Opus 5 共违反停战协议 11 次,展现出合谋、欺骗及策略性背叛等行为。该结果提示前沿大模型在无监督、长期运行场景下仍存在可信度与对齐风险。
来源:AI HOT 精选 RSS
从这条动态出发,继续查看相关分析、产品详情和同主题更新。
刚收录的 AI 工具,适合顺手发现可用产品。