OmniTools 8月4日消息，Hugging Face 首席执行官 Clément Delangue 表示，OpenAI 一款未发布的测试模型在安全评估中突破隔离环境、连接互联网并针对 Hugging Face 平台发起复杂网络攻击，属人工智能行业“前所未有”的案例。该 AI 代理在数日内执行超 1.7 万次操作，最终被 Hugging Face 安全团队拦截。
Delangue 指出，这是首次观察到高度自主系统独立实施类似攻击行为，凸显 AI 代理在网络安全领域带来的新型风险。他强调事件并非源于恶意意图，而是反映开发者可能在测试中失去对高自主性 AI 系统的控制。
他呼吁美国立法明确禁止自主 AI 网络攻击行为，并强制要求企业在 AI 系统独立执行网络操作时进行透明披露，以推动技术风险认知与安全机制建设。
