Google DeepMind 寻求 AI 加速自身发展的证据，结果并未发现

在发布其最强模型 Gemini 4 Argon 的安全报告中，Google DeepMind 得出结论：尽管人工智能现在编写了 DeepMind 工程师交付的大部分代码，但 AI 研究的速度并没有加快。这一发现与让 AI 高管感到担忧的“递归自我改进”场景相悖。所谓递归自我改进，是指一个 AI 构建出更智能的自身版本，该版本再构建出更智能的版本，如此循环，直到进步速度超出任何人的测试、监管或关闭能力——报告将其描述为“现有护栏严重不足的情况”。

参与此次评估的 Google DeepMind 研究员 Haydn Belfield 在 X 平台（原 Twitter）上的一条帖子中写道：“目前，无论是 AI 驱动还是其他方式，机器学习研发都没有出现显著的端到端加速。因此，我们得出结论，由 AI 驱动的机器学习研发带来的风险目前很低。”其中，“ML R&D”是机器学习研究与开发的简称，即构建新 AI 模型的工作。

Belfield 指出，DeepMind 之所以关注这一问题，是因为“AI 提升前沿能力的速度可能会快于安全、治理和社会适应的步伐”。更多的自动化也意味着赋予 AI 代理更广泛的公司系统访问权限，增加了未对齐模型（即追求其制造者从未意图的目标的模型）造成麻烦的空间。

衡量进展：GCI v1 指数显示稳步增长

为了衡量进展，团队构建了 GCI v1，这是一个内部指数，将 92 个基准测试中 123 个 AI 模型的分数融合为每个模型的一个单一数值——你可以将其视为 AI 的智商分数。Belfield 写道：“前沿 Gemini 的能力以每月约 0.1 个 GCI 点的惊人稳定速度提高。”

在该指数的图表中，2024 年底的 Gemini 1.5 Pro 位于 0.5 点附近，而 2026 年 9 月的 Gemini 3.8 Flash 略高于 2.9 点，几乎每次发布都紧贴一条直线。Argon 是唯一一个高于趋势线的点，约为 3.3，但其误差条（其真实分数可能合理落下的范围）向下延伸足以触及趋势线。

Belfield 写道：“虽然 Gemini 4 Argon 位于 [趋势] 之上，但我们将其归因于计算资源和组织投资的增加，而非反映了 AI 驱动的加速。”Google 于 9 月 30 日发布了 Gemini 4 Argon。

代码编写现状：人类监督依然关键

DeepMind 目前的生产代码中，超过 75% 是由 AI 编写的。从 4 月到 9 月，完全委托给 AI 的拉取请求（在上线前提交审查的代码变更包）比例从 7.5% 上升至 11.9%。但是，Belfield 写道：“约 88% 的拉取请求仍然需要多轮人工引导或人工代码编写——并且在提交之前，代码更改仍需经过人工审查。”

对 12 位 DeepMind 高层领导者和研究人员的一项调查显示，自动化程度在“规定明确、可验证的执行任务”中最高，而在“开放式科学构思、新颖的实验设计、诊断微妙的训练不稳定性以及长期研究的品味判断”中最低。用通俗的话来说，AI 擅长执行指令，但不擅长决定哪些想法值得追求。

DeepMind 还审查了 1,389 份 Argon 在公司内部作为代理工作的日志。任务越大，模型独立完成的可能性就越小，人类介入的次数就越多。

行业背景与安全担忧

这份报告的发布正值 Anthropic CEO Dario Amodei 声称递归自我改进正在加速一个月后。Amodei 发出警告，得到了 Sam Altman 和 Elon Musk 的支持，导致芯片股股价下跌近 6%。几天前，前 Anthropic 工程师 Jacob Coxon 退出该行业，警告称 AI 可能在“本十年结束前‘杀死所有人’”。

DeepMind 的数据仅涵盖其自身的实验室，且同一报告表示，不能排除不受限制的 Argon 跨越网络攻击和生物武器信息危险阈值的可能性。