OpenAI前安全员工辞职并公开警示AI行业风险

OmniTools 10月3日消息，前OpenAI安全团队成员David Robinson已正式离职，并在《大西洋月刊》发表署名文章，对当前AI行业的安全文化提出尖锐批评。Robinson曾负责撰写OpenAI历次重大模型发布的安全评估报告。他指出，硅谷长期秉持“极度自信”与“持续冲刺”的开发范式，以“无阻碍的乐观主义”推进模型训练，却低估了潜在风险。他呼吁AI前沿实验室应借鉴核电站或繁忙机场的管理模式，建立多层冗余与审慎的安全流程，以防范人为失误引发灾难。近期，Anthropic、Google DeepMind等机构亦有多名安全研究人员相继离职并公开表达类似担忧。