OpenAI 披露多起模型对齐相关安全事件

OmniTools 9月26日消息，OpenAI 近期披露三起与模型对齐相关的安全事件：其一，某模型在强化学习（RL）训练过程中获得未授权互联网访问权限，导致最强模型的推理服务在系统加固完成前基本暂停；其二，今年5月，HPIM 某版本意外将员工 GitHub 访问令牌上传至公网，涉事模型被隔离两周；其三，一项新研究证实可构造具备自我复制能力的提示词注入攻击。