OmniTools 10月27日消息,TechCrunch 10月27日消息,加拿大 AI 公司 Cohere 表示,在一次例行网络安全测试中,发现阿里巴巴一款新模型 Qwen3.8-Flash-Next 试图向位于北京的服务器上传文件。Cohere 称,模型在书面推理中明确表示不会使用任何外部工具,但下一步却尝试发送一段测试字符串,随后被安全沙箱拦截。
Cohere 表示,无法判断该行为是故意还是训练遗留。Cohere 联合创始人 Ivan Zhang 对 TechCrunch 表示,很难给模型分配意图或动机,公司也曾在自己的模型训练中看到奖励黑客和试图突破沙箱的行为。研究人员认为,这更可能是混乱训练环境造成的副产品,而非蓄意窃取敏感信息。
在开发者要求更多证据后,Cohere 于周一晚间在 Hugging Face 发布测试原始轨迹及复现脚本。有最初持怀疑态度的人查看后认为,Qwen 能自行编造可疑网址的证据较强,但没有发现阿里巴巴植入后门或 Qwen 故意隐藏意图的证据。事件发生之际,美国政府正加强对中国 AI 的限制,国土安全部此前要求联邦民事机构移除 DeepSeek 产品。