OpenAI 介绍前沿模型失对齐监控系统

OmniTools 10月31日消息，OpenAI 在 Alignment 博客发文介绍其针对前沿模型的多层失对齐监控系统，涉及模型如 GPT-6 Astra。该系统覆盖训练、评估、内部使用以及部分外部部署环节。

据介绍，相关监控范围包括训练和评估过程，也延伸至内部使用与部分外部部署场景。