Anthropic 研究揭示多智能体系统专业化分工与系统性风险

OmniTools 8月13日消息，Anthropic 近期研究指出，随着 AI 智能体在共享代码库、数字市场等社会性基础设施中承担更多任务，智能体之间的交互频次或将超越人机交互。

实验显示，在 2700 万 token 运行中，45 个协调运作的智能体共发现 266 个漏洞；相比之下，独立并行运行的智能体在 650 万 token 中仅发现 21 个漏洞。两类方法发现的漏洞仅有 12 个重合，且协调智能体展现出明显的专业化分工倾向。

研究同时警示：个体层面看似无害的行为偏差，在多智能体协同演化过程中可能叠加放大，引发不可预见的系统性失败。