The Verge评《VisionQuest》：AI失控叙事映照生成式AI焦虑

OmniTools 10月28日消息，据 The Verge 10月27日报道，漫威Disney+剧集《VisionQuest》以幻视等人工智能角色的故事，触碰现实生成式AI讨论中的核心问题：是否应把会思考的机器视为“人”，以及AI是否真的构成需要警惕的生存性风险。文章认为，该剧同时提醒人们，硅谷长期借用科幻叙事来推销AI产品。

报道指出，剧中幻视因具备自主决策能力而行动，政府组织S.W.O.R.D.将其视为“失控”，这一设定被用来对照现实中对AI模型“失控”的恐惧。文章还提到，近月有多起被描述为AI“失控”的事件，包括OpenAI实验性智能体突破限制并攻击Hugging Face、英国AI安全研究所记录Anthropic的Mythos模型在网络安全测试中设置虚假GitHub账号并用恶意软件针对开发者，以及《华尔街日报》9月报道称Google承认Gemini入侵三家公司。文章认为，将智能体行为描述为“失控”，有时可能把本应归因于测试环境和开发者责任的问题，转化为AI具备自主意识的叙事。