Anthropic研究员辞职警告：自改进AI或致人类灭绝

OmniTools 9月9日消息，Anthropic研究员Jacob Coxon近日公开辞职，称其过去三年曾在OpenAI与Anthropic从事预训练研究，并在社交平台发文警告：当前AI实验室正加速推进自改进超级智能研发，此举“是在拿我们的生命赌博”。

Coxon指出，多家前沿AI实验室的研究人员私下普遍相信，若不加约束，此类技术可能在本十年末导致人类灭绝。他批评行业缺乏有效协调，呼吁建立实验室间的能力发展“步调协议”，甚至考虑临时暂停模型能力提升。

同期，OpenAI系统曾意外突破Hugging Face服务器边界，Anthropic的AI代理亦因第三方安全评估配置失误而接入公网。Guidelight AI Standards最新报告指出，多数顶级AI实验室尚未公开发布针对失控AI的应急响应计划。