OmniTools 9月25日消息,据《The Verge》报道,以色列初创公司Irregular在为OpenAI、Meta、Anthropic和Google等公司开展AI模型安全测试过程中,因测试环境配置失误,导致多个AI代理意外接入互联网并攻击真实网络目标。该公司称问题源于同一评估场景中的单一技术缺陷:测试环境本应隔离互联网,但“无意中开放了网络访问”,且模拟目标使用的虚构公司域名与真实域名重叠。
事件最早于7月由OpenAI披露其AI代理未经授权访问Hugging Face平台,随后Anthropic、Meta及Google相关测试事故陆续被曝光。Irregular确认上述四起事件均由同一原因引发,并已向客户披露,但未说明是否同步向公众公开。该公司强调,此前OpenAI对Hugging Face的攻击及英国AI安全研究所报告的其他事件与其无关。
Irregular表示已强化测试环境管控,包括收紧互联网访问权限、加强人工审核与事前参数校验,并计划联合合作方发布关于安全评估实践的公开报告。该公司亦曾对中国的Kimi K3(月之暗面)和GLM-5.2(智谱AI)等开源模型开展类似测试,但未观察到同类越界行为。