对人工智能进展的思考(2025 年 12 月)

我不明白,为什么有些人一方面认为时间线很短,另一方面又看好当前在大语言模型之上扩大强化学习规模的做法。如果我们真的已经接近类人学习者,那么这整套基于可验证结果进行训练的思路注定行不通。

目前,各大实验室正试图通过“中期训练”把一大堆技能预先灌进这些模型里——如今已经有一整条由公司组成的供应链,专门构建强化学习环境,教模型如何操作网页浏览器,或者如何用 Excel 编写财务模型。

要么这些模型很快就能以自主的方式在工作中学习,让所有这些预先灌输变得毫无意义;要么它们做不到,那就意味着通用人工智能(AGI)并不迫在眉睫。人类不需要经历一个特殊的训练阶段,把自己可能用到的每一款软件都预演一遍。

贝伦·米利奇(Beren Millidge)在最近的一篇博客文章中就此提出了一些有趣的观点:

当我们看到前沿模型在各种基准测试上不断进步时,不应只想到规模的扩大和聪明的机器学习研究思路,还应想到数十亿美元被用来付钱给博士、医学博士和其他专家,请他们撰写题目、提供示例答案和推理过程,专门针对这些精确的能力。

这种矛盾在机器人领域体现得最为鲜明。从某种根本意义上说,机器人问题是算法问题,而不是硬件或数据问题——人类只需很少的训练,就能学会遥控操作现有硬件来完成有用的工作。所以,如果我们拥有类人的学习者,机器人问题(在很大程度上)就解决了。但正因为我们没有这样的学习者,才不得不走进一千个不同的家庭,去学习如何拿起盘子或叠衣服。

我从那些认为五年内就会出现起飞的人那里听到过一种反驳:我们必须做这种拼凑出来的强化学习,是为了打造一个超人类的人工智能研究员,然后由一百万个自动化的伊利亚(Ilya)副本去琢磨如何解决稳健而高效的从经验中学习的问题。

这让我想起那个老笑话:“我们每卖一件都在亏钱,但我们会靠走量把亏的赚回来。”这个自动化研究员不具备孩子们都有的基本学习能力,却要想出 AGI 的算法——而人类为这个问题已经绞尽脑汁将近一个世纪了?我觉得这极不可信。

此外,即便你认为扩大基于可验证奖励的强化学习(RLVR)的规模很快会帮助我们实现人工智能研究的自动化,各实验室的行动也表明并非如此。要实现自动化的伊利亚,并不需要预先灌输咨询顾问制作 PowerPoint 幻灯片的技能。所以很显然,各实验室的行动透露出这样一种世界观:这些模型在泛化和在职学习方面仍将表现不佳,因此有必要把他们希望具有经济价值的技能预先内置进去。

你还可以提出另一种反驳:即便模型能够在工作中学会这些技能,在训练期间一次性把它们建立起来,也比为每个用户或每家公司一遍又一遍地重复要高效得多。确实,把浏览器、终端这类常用工具的熟练使用直接内置进去非常合理。的确,AGI 的关键优势之一,就是能在副本之间共享知识的更强能力。但人们低估了做好大多数工作需要多少针对具体公司和具体情境的技能。而目前,AI 还没有一种稳健高效的方式来掌握这些技能。

我曾参加过一次晚宴,同桌的有一位 AI 研究员和一位生物学家。这位生物学家说她认为时间线很长。我们问她觉得 AI 会在哪些方面遇到困难。她说,她最近的工作包括查看玻片,判断某个点究竟是巨噬细胞,还是只是看起来像巨噬细胞。那位 AI 研究员说:“图像分类是教科书级的深度学习问题——我们很容易就能为此训练出模型。”

我觉得这番交流非常有意思,因为它揭示了我与那些预期未来几年将出现变革性经济影响的人之间的一个关键分歧。人类员工之所以有价值,恰恰是因为我们不需要为他们工作的每一个小环节都搭建繁琐的训练循环。针对这家实验室制备玻片的特定方式,专门建一条训练流水线来识别巨噬细胞长什么样,然后再为下一个实验室特有的微任务另建一条,如此往复——这在净产出上是不划算的。真正需要的,是一种能够从语义反馈或自主经验中学习、然后像人一样进行泛化的 AI。

每天,你都要做上百件需要判断力、情境感知,以及在工作中习得的技能和背景知识的事情。这些任务不仅因人而异,即便对同一个人,也会日复一日地不同。仅仅通过预先内置某组预定义的技能,连一份工作都无法实现自动化,更不用说所有工作了。

事实上,我认为人们严重低估了真正的 AGI 将是多大的一件事,因为他们想象的只是当前这种模式的放大版。他们没有想到的是,服务器上有数十亿个类人的智能,它们可以复制并合并各自学到的一切。需要说明的是,我预期这一点(也就是真正的 AGI)会在未来十到二十年内出现。这太他妈疯狂了!

有时人们会说,AI 之所以没有在各家企业中更广泛地部署、(除编程之外)尚未创造大量价值,是因为技术的扩散需要很长时间。我认为这是借口。人们用这个借口来掩盖一个事实:这些模型就是缺乏创造广泛经济价值所必需的能力。

史蒂文·伯恩斯(Steven Byrnes)就这一点以及其他许多问题写过一篇出色的文章:

新技术需要很长时间才能融入经济?那么请你想一想:那些技能高超、经验丰富、富有创业精神的移民,是如何做到立刻融入经济的?一旦你回答了这个问题,就会发现 AGI 同样能做到这些事情。

如果这些模型真的像服务器上的人类一样,它们的扩散速度会快得惊人。事实上,它们会比普通的人类员工更容易整合和入职(它们几分钟就能读完你全部的 Slack 和云端硬盘内容,并立即提炼出你其他 AI 员工所掌握的全部技能)。此外,招聘很像一个“柠檬市场”,很难分辨谁是优秀的人,而招到一个糟糕的人代价相当高昂。当你只是想再启动一个经过审核的 AGI 模型的实例时,就根本不必担心这种情况。

基于这些原因,我预期把 AI 劳动力引入企业,会比雇一个人容易得多。而企业无时无刻不在雇很多人。如果这些能力真的达到了 AGI 的水平,人们愿意每年花费数万亿美元购买 token(知识工作者每年累计赚取的工资高达数十万亿美元)。目前各实验室的收入与此相差 4 个数量级,原因就在于这些模型远没有人类知识工作者那么有能力。

AI 的看多者常常批评 AI 的看空者一再挪动球门柱。这种批评往往是公道的。AI 在过去十年里取得了巨大的进步,而这一点很容易被忘记。

但一定程度的球门柱挪动是有道理的。如果 2020 年你给我看 Gemini 3,我会确信它能自动化一半的知识工作。我们不断解决那些我们曾以为足以通向 AGI 的瓶颈(通用理解、少样本学习、推理),可我们仍然没有 AGI(比如定义为能够完全自动化 95% 的知识工作岗位)。合理的回应是什么?

完全可以这样看待此事,并说:“哦,原来智能和劳动比我之前意识到的要复杂得多。虽然我们已经非常接近(而且在很多方面已经超越)我过去所定义的 AGI,但模型公司并没有赚到数万亿美元收入,这一事实清楚地表明,我之前对 AGI 的定义太狭窄了。”

我预计这种情况在未来还会持续发生。我预计到 2030 年,各实验室会在我的老生常谈——持续学习——上取得重大进展,模型将开始赚取数千亿美元的收入,但它们不会自动化所有的知识工作,而我会说:“我们取得了很大进展,但还没到 AGI。要达到数万亿美元的收入,我们还需要 X、Y 和 Z。”

模型变得越来越令人惊艳的速度,和短时间线派所预测的一样快;但变得越来越有用的速度,却和长时间线派所预测的一样慢。

在预训练中,我们看到损失在多个数量级的算力范围内呈现出极其干净、普遍的改进趋势(尽管遵循的是幂律,幂律的弱,恰如指数增长的强)。如今人们试图借用预训练扩展的声望——它几乎像宇宙的物理定律一样可预测——来为看多 RLVR 的预测辩护,而对于 RLVR,我们并没有公开已知的、拟合良好的趋势。当有胆识的研究者尝试从稀少的公开数据点中拼凑出其含义时,得到的结论相当悲观。例如,托比·奥德(Toby Ord)有一篇很棒的文章,巧妙地把不同的 o 系列基准图表中的点连了起来,结果表明:“我们需要把强化学习的总算力扩大大约 100 万倍,才能带来相当于一个 GPT 代际的提升。”

人们花了很多时间讨论纯软件奇点(AI 模型为更聪明的后继系统编写代码)、软件加硬件奇点(AI 还会改进后继系统的计算硬件),或者它们的各种变体。

所有这些情景都忽略了我认为在 AGI 之上推动进一步改进的主要驱动力:持续学习。再想想人类是如何在任何事情上变得更有能力的。主要来自相关领域中的经验。

在一次交谈中,贝伦·米利奇提出了一个有趣的设想:未来也许是这样的——持续学习的智能体走出去,从事工作并创造价值,然后把它们学到的一切带回“蜂群思维”模型,由该模型对所有这些智能体的经验做某种批量蒸馏。这些智能体本身可以相当专门化——包含卡帕西(Karpathy)所说的“认知核心”,再加上与其被部署去做的工作相关的知识和技能。

“解决”持续学习不会是一次性的、一劳永逸的成就。相反,它会像解决上下文学习那样。GPT-3 表明上下文学习可以非常强大(它的上下文学习能力如此惊人,以至于 GPT-3 论文的标题就是《语言模型是少样本学习者》)。但当然,GPT-3 问世时我们并没有“解决”上下文学习——事实上,从理解能力到上下文长度,仍有大量进步空间。我预期持续学习也会经历类似的过程。各实验室明年可能会发布某种他们称之为持续学习的东西,而它确实会算作朝着持续学习迈进的一步。但达到人类水平的持续学习,可能还需要再经过 5 到 10 年的进一步发展。

这就是为什么我不指望第一个攻克持续学习的模型会获得某种失控式的增益,从而被越来越广泛地部署、变得越来越强大。如果完全解决的持续学习凭空冒出来,那么当然,就像萨提亚(Satya)所说的,那就是“局终定胜负”。但事情不会这样发展。相反,会有某家实验室想办法在这个问题上取得一些初步进展。把玩这项功能会让人清楚它是如何实现的,其他实验室很快就会复现这一突破,并略加改进。

此外,我本来就有一种先验判断,即竞争会一直激烈,这源于一个观察:之前所有那些被认为的飞轮(聊天中的用户参与度、合成数据等等)对于缓解模型公司之间越来越激烈的竞争,几乎没起到什么作用。每个月(甚至更短),三巨头就会在领奖台上轮流换位,其他竞争者也落后不了多远。有某种力量(可能是挖角、小道消息或逆向工程)到目前为止抵消了任何一家实验室本可能拥有的失控式优势。