谷歌称AI尚未实现自我构建——尽管75%的代码由AI编写

Google DeepMind 曾寻找证据，以证明 AI 正在加速 AI 自身的开发。它什么也没找到。

在其最强大模型 Gemini 4 Argon 的安全报告中，该实验室得出结论：AI 研究并没有变得更快，尽管 AI 现在编写了 DeepMind 工程师交付的大部分代码。

这一发现与那种让人工智能高管们惊恐地呼吁放缓的场景相悖。它被称为递归式自我改进：一个人工智能构建出更聪明的自身版本，后者又构建出更聪明的版本，直到进展超出任何人测试、监管或关闭它的能力——报告称之为“现有护栏严重不足的情况”。

“目前，机器学习研发（无论是人工智能驱动还是其他方式）并没有显著的端到端加速，”参与该评估的谷歌DeepMind研究员海登·贝尔菲尔德在X上的一则帖子中写道。“因此我们得出结论，目前人工智能驱动的机器学习研发所带来的风险较低。”

机器学习研发是机器学习研究与开发的简称，即构建新人工智能模型的工作。

DeepMind 之所以追踪这一问题，是因为“AI 加速前沿能力提升的速度，可能快于安全、治理和社会适应所能跟上的步伐，”贝尔菲尔德写道。更多的自动化也意味着赋予 AI 智能体更广泛地访问公司系统的权限，从而给一个目标错位的模型（即追求其创造者从未意图的目标的模型）留下更大的空间去制造麻烦。

为了衡量进展，团队构建了 GCI v1，这是一个内部指数，将 123 个 AI 模型在 92 项基准测试中的得分融合为每个模型一个单一数字——可以把它想象成 AI 的智商分数。“前沿 Gemini 能力一直以约每月 0.1 个 GCI 点的显著稳定速度提升，”贝尔菲尔德写道。

在该指数的报告图表中，Gemini 1.5 Pro 在 2024 年末接近 0.5 点，而 Gemini 3.8 Flash 在 2026 年 9 月略高于 2.9 点，几乎每一次发布都紧贴着一条直线。Argon 是唯一一个高出这条线的点，约为 3.3，不过其误差条（其真实分数可能落入的范围）向下延伸得足够低，足以触及趋势线。

“虽然 Gemini 4 Argon 位于趋势线之上，但我们将其归因于计算和组织投入的增加，而非反映 AI 驱动的加速，”贝尔菲尔德写道。谷歌于 9 月 30 日发布了 Gemini 4 Argon。

DeepMind 的大多数生产代码现在有超过 75% 由 AI 编写，而完全委托的拉取请求（在代码变更上线前提交以供审查的代码变更包）所占比例在 4 月至 9 月间从 7.5% 上升至 11.9%。但“约 88% 的拉取请求仍然需要多轮人工引导或人工编写代码——而且代码变更在提交前仍需接受人工审查，”贝尔菲尔德写道。

一项对12位DeepMind资深领导者和研究人员的调查发现，自动化程度最高的是“定义明确、可验证的执行任务，最低的是开放式科学构思、新颖的实验设计、诊断微妙的训练不稳定性以及长周期研究品味”。通俗地说，AI擅长执行指令，却不擅长判断哪些想法值得追求。

DeepMind还审查了1,389份Argon作为公司内部代理工作的日志。任务越大，模型独自完成的可能性就越小，人类介入的频率就越高。

该报告发布的一个月前，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）主张递归自我改进已经在加速，这一警告得到了萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）的赞同，并导致芯片股下跌近6%。几天前，前Anthropic工程师雅各布·考克森（Jacob Coxon）退出了这个行业，警告AI可能“在这个十年结束前杀死我们所有人”。

DeepMind的数据仅涵盖其自己的实验室，同一份报告还表示，它不能排除不受限制的Argon会越过其在网络攻击和生物武器信息方面的危险阈值。