Google 工程师 Haydn Belfield 称自我改进 AI 仍远未接近

Google 工程师 Haydn Belfield 表示，自我改进的 AI 仍相当遥远，即便显著的自动化已在发生。

据 Belfield 称，Google Deepmind 尚未观察到由 AI 自身驱动的、可衡量的 AI 研究加速。这并不意味着显著的自动化尚未发生：AI 现在编写了超过 75% 的生产代码。但约 88% 的代码变更仍需要人工监督或审查，且每一次变更在提交前都由人工审核，Belfield 表示。完全委托给 AI 的代码变更占比从 7.5% 上升到 11.9%。

任务越复杂、越耗时，AI 就越不可能独自完成。在 1,389 次内部 Argon 智能体运行中，随着复杂度上升，没有人工输入时的成功率急剧下降。人类在创造性研究、新颖实验设计、诊断细微训练不稳定性以及长期规划方面仍然必不可少，Belfield 说。对十二位 Deepmind 资深研究人员的调查证实了这一模式，自动化程度在定义明确、可验证的任务上最高，在开放式科学构思上最低。

在 Deepmind 的内部基准 RE-Bench（包含 74 项现实的 ML 工程任务）上，Argon 解决了其中约一半。这相比 Gemini 3.7 Flash 的 27% 是一次大幅跃升，但仍远未达到完全自动化所需要的近乎完美表现。

Google 自身的能力指数显示 AI 研究没有提速

为了系统跟踪进展，该团队构建了覆盖 123 个模型和 92 项基准的通用能力指数（GCI）。Gemini 模型能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队将 Gemini 4 Argon 略高于趋势线归因于更多算力和组织投入，而非 AI 驱动的加速。

该团队目前将 AI 驱动的研究自动化带来的风险评为低，但正在建设测量基础设施，以便今后跟踪加速的迹象。

Belfield 的发现与 近期研究相符，但该领域并非所有人都同意。包括 Geoffrey Hinton、Yoshua Bengio 以及 OpenAI 的 Jakub Pachocki 在内的 20 多位 AI 研究人员，最近在一篇研究论文中警告可能出现“智能爆炸”。他们论证称，AI 系统可能在几年内自动化全部 AI 研发，将通常需要数年的进展压缩到仅仅数月。

无炒作的 AI 新闻 – 由人类策展

订阅 THE DECODER，即可享受无广告阅读、每周 AI 通讯、我们每年六次的独家“AI Radar”前沿报告、完整存档访问权限，以及评论区访问权限。