OpenAI 发布自动化红队模型 GPT-Red，用于提升模型鲁棒性

OmniTools 7月16日消息，OpenAI 发布自动化红队测试模型 GPT-Red，旨在部署前识别模型漏洞，并在训练阶段生成对抗性攻击以提升鲁棒性。该模型通过自对弈强化学习训练，动用了 OpenAI 后训练中规模空前的算力资源。

GPT-Red 能够成功攻破此前绝大多数主流模型。其生成的攻击样本被用于对抗训练新一代模型 GPT-5.6 Sol，在直接提示注入基准测试中，该模型失败率降至四个月前最佳生产模型的 1/6。