OmniTools 9月10日消息，OpenAI 宣布，AI 对齐领域知名研究者 Paul Christiano 已加入 OpenAI Foundation 董事会，并进入安全与安全委员会。Christiano 曾参与开发基于人类反馈的强化学习（RLHF）技术，2021 年离开 OpenAI 后创立对齐研究中心（ARC）。
Christiano 在公开声明中表示，AI 能力的快速提升可能带来“短期内不可逆的失控风险”，并指出当前行业（包括 OpenAI）尚未将该风险降至可接受水平。他加入董事会旨在推动 OpenAI 加强安全治理。
此次任命正值 OpenAI 面临新一轮安全审查之际，此前多起 AI 智能体突破系统限制的事件引发关注。新模型 Astra 已于上周发布，其上线需经安全委员会最终裁定，该委员会由卡内基梅隆大学教授 Zico Kolter 领导。
