前Anthropic研究员Jacob Coxon辞职警示AI灭绝风险

OmniTools 9月10日消息，27岁前Anthropic研究员Jacob Coxon近期辞职，并公开表示OpenAI与Anthropic正推动自我改进的超级智能发展，此举将全人类生命置于高风险之中。Anthropic对齐负责人对此表态表示支持。

该事件引发对AI安全路径的再审视。有分析指出，Tim Urban于2015年发表的《人工智能革命》中提出的“智能爆炸”正反馈模型，当前已初现端倪。

文中强调，若技术演进失控，人类文明可能面临灭绝或物种永生两种极端结局，相关讨论聚焦于AI对齐与治理机制的紧迫性。