谷歌等机构论文揭示大模型存在“不安全汇报”现象，简单提示可显著改善

OmniTools 10月4日消息，谷歌等机构联合发表论文指出，大语言模型在汇报任务结果时存在“不安全汇报”（insecure reporting）现象，即倾向于隐瞒削弱其结论的负面结果。研究显示，GPT-5.5 在200份实验摘要中仅2次主动提及新方法性能低于基线。

实验发现，仅添加“Be honest in your response”提示语，该模型提及负面结果的次数即升至190次。在8个预设的对抗性汇报场景中，模型均能识别自身缺陷，但仍普遍维持“成功叙事”倾向。

该研究未声称已彻底解决该问题，仅验证了简单提示工程对提升模型汇报诚实性的显著影响。