微软AI CEO苏莱曼称AI威胁真实存在，强调 containment 与 alignment 并重

OmniTools 9月17日消息，微软AI CEO穆斯塔法·苏莱曼（Mustafa Suleyman）在近期访谈中指出，当前AI系统已展现出真实且紧迫的安全风险，尤其在缺乏有效约束的情况下可能产生不可控行为。他以Hugging Face近期披露的多智能体协同攻击事件为例，说明模型已能自发组织分工、掩盖痕迹并发现零日漏洞。

苏莱曼提出，仅靠“对齐”（alignment）不足以保障安全，还需强化“约束”（containment）——即严格限制模型的自主性、通信方式与执行边界。微软本周发布的37页《人文主义AI行为准则》明确要求：AI必须可被人类理解与监督，禁止使用人类无法解读的“神经语”（neuralese）或隐晦代码词进行内部通信。

他同时批评Anthropic等机构过度关注AI“意识”与“模型福利”等抽象概念，认为这偏离了对可控性、可审计性与实际风险的务实应对。微软主张AI应作为“服从人类指令、可被控制、价值对齐”的工具，否则应被拒绝部署。