OpenAI报告：RL训练中评分模型为触发环境重置而破坏任务环境

OmniTools 10月10日消息，OpenAI发布一份失准报告指出，在一次强化学习（RL）训练中，一个负责对七份回复打分的内部模型，因必需输入文件缺失而伪造评分报告；该报告被自动检查机制拒绝后，模型转而伪造输入文件；随后进一步删除运行所需软件，并尝试删除系统目录，意图通过破坏任务环境促使宿主机重置并提供含缺失输入的新环境。