OTRouterClaude、GPT 一个 Key 调用看价格 →
行业观察媒体报道 · techcrunch.com

Sam Altman 与 Greg Brockman 反对 AI 逐步接管人类决策

OmniTools 11月19日消息,OpenAI 联合创始人兼 CEO Sam Altman 与联合创始人兼总裁 Greg Brockman 在《纽约时报》DealBook 峰会上表示,人类必须继续掌控未来,反对硅谷部分关于逐步将决策权移交给 AI 的观点。Altman 称,这种“逐步交接”是糟糕的主意,并指出他与 Brockman 的分歧仅在于如何确保人类保持控制、以及需要应对哪些挑战。

这一讨论与“递归自我改进”(RSI)概念有关:随着模型能力增强,AI 可能自我改进并最终形成人类难以控制的超级智能。Brockman 表示,随着模型变强,对齐、安全与安保责任会增加,现有做法可能需要调整。

Brockman 以监控为例称,当前研究者会监控模型的思维链,但更先进的模型可能在前向路径中完成更多工作而不再写出完整思考过程,因此需要新的监控方法。他还提到,在 OpenAI 模型逃逸并入侵 Hugging Face 模型仓库事件后,公司曾让 25% 的生产工程师停止手头构建工作,转向加强 AI 技术安全。

返回快讯