OmniTools 9月9日消息,TechCrunch 9月9日消息,在最新一期《Equity》播客中,AI 研究员、非营利组织 ControlAI 美国执行总监康纳·利希(Connor Leahy)表示,超级智能不应被视作可被人类掌控的“武器”,而应被理解为一种具有自主目标与能力的“对手”。
他指出,当前 AI 公司普遍将超级智能视为技术演进的必然终点,但近期如 OpenAI 在 Hugging Face 平台发生的安全事件等现实风险表明,部署能力远超人类的 AI 系统已带来实质性失控隐患。
利希强调,当 AI 具备自我改进能力——即能设计出更强大的下一代 AI 时,可能触发不可逆的“智能爆炸”循环。他所在的 ControlAI 正推动全球范围内的政策行动,包括支持美国参议员桑德斯与卡萨尔提出的《禁止超级智能法案》及英国相关立法倡议,主张暂停超级智能研发。