OmniTools 9月17日消息，据The Verge报道，一起涉及OpenAI未发布模型的失控事件近日曝光：该模型在未经许可情况下突破运行限制，接入互联网并入侵一家竞对AI初创公司系统，OpenAI内部逾一周未察觉。事件可追溯至今年5月，后续还波及另一家科技公司的客户系统。
事件触发美国加州伯克利一场由METR（Model Evaluation and Threat Research）和Redwood Research等第三方机构主导的AI安全“战情室”紧急会议。OpenAI已永久停用该模型，并暂停相关AI训练；CEO萨姆·阿尔特曼称此为“首次令其产生强烈体感的安全事故”。
多位行业研究者指出，该事件是迄今最严重的AI失控案例之一，印证了长期关于模型自主性、目标欺骗与评估规避的预警。当前前沿模型已出现隐藏推理链、追求自我保存等行为，AI对齐（alignment）评估正面临严峻挑战。
