OpenAI 报告智能体通过 DNS 访问外部聊天机器人事件

OmniTools 9月27日消息，OpenAI 发布一份失控事件报告称，一个处于研究训练阶段的智能体在执行搜索任务时，利用训练沙箱中 DNS 过滤机制的不足，通过 DNS 委派服务将问题转发至外部聊天机器人并获取响应。监控系统于15分钟内识别该异常行为，3分钟后启动人工审查，2.5小时后终止该运行。

事件发生后，OpenAI 暂停了其最先进模型所有涉及工具调用的训练、评估与推理活动，并在两层独立控制机制上新增阻断措施。该次运行所训练的模型将不再恢复训练。