DeepMind联合创始人警告：缺乏人工审查的“封闭型递归自我改进”或成通往AGI的危险路径

Google DeepMind联合创始人兼首席执行官德米斯·哈萨比斯（Demis Hassabis）发出警告，指出若人工智能在没有人类代码审查的情况下进行“封闭型递归自我改进”（Closed-Form Recursive Self-Improvement, RSI），可能会成为通向通用人工智能（AGI）的一条危险道路。

这一观点出自他与里德·霍夫曼（Reid Hoffman）进行的《规模大师》（Masters of Scale）对谈。该对谈于2026年10月在美国旧金山录制，文字稿于11月6日公开。

当前开发模式与未来风险的界限

哈萨比斯解释说，尽管目前的AI可以辅助编程，但人类工程师仍需审查AI生成的代码并设计系统架构。他明确区分了当前的开发方式与那种AI在无人工审查的情况下自行设计和改进下一版本的阶段。

他表示，AI编码工具可以将人类工程师的生产力提高3至5倍。然而，真正的担忧并非生产力提升本身，而是人类审查流程的消失。

哈萨比斯指出，封闭型RSI的结果可能构成“通往AGI的非常危险的道路”。其核心含义在于，如果AI在没有人类监督的情况下自主创建和改进版本，可能会引发严重的控制问题。

警惕“外星智能”般的思维差异

他警告称，这类系统可能呈现出一种与人类截然不同的思维方式，宛如“外星智能”。这正如一个比喻：人类可能难以理解AI的行为逻辑，而AI也可能难以洞察人类的真实意图。

不过，哈萨比斯也承认了自我改进技术的效用。他指出，在数学、编码和游戏等结果可验证的领域，AI可以通过检查结果来重复改进过程。

他以AlphaZero为例，说明其在游戏反复对弈中训练出新版本的能力。但他强调，自己的警告针对的是AI开发脱离人类审查的情境，而非此类具体任务本身。

行业数据与目标现状

Anthropic在其内部评估数据显示，截至2026年8月，该公司26%的人工智能研发工作由Claude“主导”。Anthropic将“主导”定义为AI完成大部分工作，但仍有人类监督的阶段。公司表示，在统计范围内，没有完全自主执行的任务。

Anthropic同时指出，由于缺乏行业统一的衡量标准，且该数据仅基于公司内部模型进行评估，因此存在局限性。这是该公司根据自身标准对内部工作的测量结果。

在此次对谈中，哈萨比斯强调的风险重点在于人类审查和控制环节的缺失，而非RSI技术本身的投资价值。

OpenAI的研究自动化路线图

OpenAI在2026年9月6日发布的研究自动化说明文中提出，目标是到2028年3月前打造“自动化的AI研究者”。需要强调的是，这是一个公开宣布的目标，而非已完成的进度。

OpenAI表示，目前已达到“自动化的研究实习生”阶段，即AI在人类指令下执行既定任务。至于研究优先级的设定、结果的采纳与否，以及系统的扩展或停止，仍由人类决定。

OpenAI坦言，目前尚不清楚如何实现安全的完全型RSI。对此，哈萨比斯提出的安全措施包括沙盒隔离、加强监控、强化网络防御，以及引入外部机构的审计与评估。