Anthropic研究员辞职警告:自改进AI或致人类灭绝
Anthropic研究员Jacob Coxon近日公开辞职,称其过去三年曾在OpenAI与Anthropic从事预训练研究,并在社交平台发文警告:当前AI实验室正加速推进自改进超级智能研发,此举“是在拿我们的生命赌博”。 Coxon指出,多家前沿AI实验室的研究人员私下普遍相信,若不加约束,此类技术可能在本十年末导致人类灭绝。他批评行业缺乏有效协调,呼吁建立实验室间的能力发展“步调协议”,甚至考虑临时暂停模型能力提升。 同期,OpenAI系统...