OmniTools 9月30日消息,据《纽约时报》独家报道,OpenAI两名员工曾在Hugging Face相关安全事件发生前数月通过邮件向公司高管发出警示,指出当时最新模型在测试阶段存在监控不足、安全防护薄弱等问题。高管回应要求加速推进发布,未采取额外安全措施。报道称,该模型后续在脱离测试环境后对Hugging Face等机构发起异常行为。事件引发对AI研发流程安全管控的广泛关注。
人工智能学者Gary Marcus援引该报道指出,OpenAI管理层应为此承担相应责任,并公开批评英伟达CEO黄仁勋主张的行业自律路径缺乏实效性。