Google DeepMind 成立研究所，推动 AGI 公共讨论与治理

OmniTools 9月18日消息，Google DeepMind 宣布成立“DeepMind 研究所”，旨在拓展关于通用人工智能（AGI）的公共讨论与跨领域对话。该研究所由 DeepMind 联合创始人 Shane Legg、谷歌高管 James Manyika 及 DeepMind 主席 Demis Hassabis 担任董事，Legg 兼任执行主编。

研究所首批发布四篇论文，涵盖 AGI 相关的经济政策、人类可读模型推理的保持、人类福祉原则，以及前沿 AI 模型评估框架。其中，Rohin Shah 与 Anca Dragan 提出，AI 模型推理过程透明度下降并非必然趋势，建议通过限制“不透明串行深度”或强制验证监控能力来应对安全挑战。

Demis Hassabis 在另一篇论文中提议设立美国主导的前沿 AI 标准机构，初期采用自愿提交评估机制，后续可能演进为强制性部署前审查，并引入独立设计的“预留测试”（held-out tests）以防止模型针对性优化。相关讨论正推动行业从原则性关切转向具体治理路径，包括信息披露、外部监督及必要时的协同减速机制。