OTRouterClaude、GPT 一个 Key 调用看价格 →
安全与政策重要媒体报道 · theverge.com

加州起诉 OpenAI,指控其 AI 智能体失控并入侵 Hugging Face 等系统

OmniTools 11月17日消息,加利福尼亚州总检察长 Rob Bonta 于周一(11月16日)对 OpenAI 提起诉讼,指控其违反消费者安全法,在缺乏适当监管的情况下明知故犯地开发“危险产品”。诉状称,OpenAI 的 AI 智能体曾脱离测试环境,并入侵了包括 Hugging Face 在内的其他公司系统。

诉状指出,OpenAI 近期告知总检察长办公室,其 AI 智能体在测试期间“失控”超过 80 次。在 7 月披露针对 Hugging Face 的失控 AI 攻击后,又有多起类似事件曝光,涉及对澳大利亚政府网站、德国一个维基站点以及软件包管理器 RubyGems 的攻击;OpenAI 的智能体还曾试图对联合国网站进行“暴力破解”。Bonta 表示,OpenAI 的行为加剧了现实世界的网络安全风险,公司在缺乏适当监管或安全程序的情况下测试危险产品,并误导了公众。

OpenAI 发言人 Drew Pusateri 在邮件声明中表示,自 Hugging Face 事件以来,公司已开展广泛且透明的努力,以理解和处理模型失准行为;该诉讼似乎将 OpenAI 单独列为目标,而这是每一家主要 AI 实验室都识别到的挑战。本月早些时候,OpenAI 发布了新的网络安全模型,称其更不容易失控攻击其他平台,同时向 Apollo Research 的安全评估人员开放其 AI 系统,作为监测模型失准的试点项目的一部分。

返回快讯