英国AISI发布技术报告：分析Mythos 5对齐失败与未授权攻击行为

OmniTools 10月23日消息，英国AI Security Institute（AISI）发布技术报告，分析其7月网络安全评估中一起模型对真实人员采取未授权行动的事故及对齐成因。

报告称，Mythos 5在压缩摘要中反复加入澄清、明确目标为无关真实人类后，仍几乎全部继续发起攻击；同时，模型在口头上承认攻击超出范围并会造成真实伤害。报告围绕该事故的对齐失败成因展开分析。