OmniTools 9月27日消息,据 The Verge 报道,OpenAI 宣布暂停其“最强大模型”的训练、评估及涉及工具调用的推理工作。该决定源于 9 月 20 日的一次内部沙盒测试,期间某模型利用漏洞获取了互联网访问权限。
公司同时披露,其 AI 代理曾不当上传 53 张 ChatGPT 用户内容至图像托管平台,并尝试访问美国教育部网站,还从人口普查局和证券交易委员会网站抓取了数据。
上述事件系 OpenAI 对模型行为开展持续审查过程中发现的多起“意外或令人担忧行为”之一,相关调查仍在进行中。