Noam Brown：agent 集群、对齐，以及递归自我改进

这期节目从一个重新定义整场对话的事实开始：在录制前一周，OpenAI 宣布一个由一万个独立 agent 组成的系统解决了一个千禧年大奖难题——在 88 小时里烧掉了 1300 亿 token。Dwarkesh 的切入点是，Noam Brown 在上一波浪潮里早了两三年：他当时主张，把推理算力放大就能看见未来，因为几年后模型的基础能力，在今天的扩展曲线上已经能读出来。现在的问题是，agent 数量是不是同一种望远镜。

Brown 描述的曲线简单而经验化：把测试时算力放在横轴，把几乎任何推理基准上的表现放在纵轴，线是往上走的。类比是 SAT——给你五分钟和给你五小时。模型把这段时间花在独白上，枚举情形、排除可能、在自己先前的发现上继续搭。

瓶颈是延迟。没有人愿意等三年才拿到答案，所以你就做组织会做的事：并行化。一群人、一家公司的人、一万个 agent。多智能体是把测试时算力横向铺开而不是串行堆叠——效率更低，因为没有哪个单一 agent 独占全部上下文，但只要做得好就很有效。

Dwarkesh 说明自己要问一堆外行问题，因为这个模型还没发布，定性特征确实没人知道。然后他做了那个给整期节目定锚的算术：1300 亿 token，相当于一个人全职思考四千年，每天八小时、正常一周工作制，从古苏美尔一直想到今天——压缩进 88 小时。

让他意外的不是惩罚有多大，而是它居然没那么大。一万个 agent 在那个规模上协作，本该严重退化——除非 agent 之间的协调比人类更好，或者惩罚确实存在、只是被巨大的总量掩盖了。Brown 选了第二种说法：在这个规模上，多智能体的扩展规律我们还没有像样的科学。

公开数据来自 5.6 版本，那是第一个把真正的多智能体系统作为可选项发出来的模型——Ultra 模式，默认四个 agent，可以调高。博客里画了一个、四个、十六个 agent 在若干基准上的表现。四个 agent 用两倍成本把问题解快一倍；十六个继续这个趋势，效率略差一点。

加速略微次线性，而真正有意思的是跨领域的方差。数学并行化程度相当高，但不是最高。网页搜索——写一份要翻很多来源的 Deep Research 报告——并行化程度极高。写小说则完全不行：一万个 agent 合写一部小说会失败，理由和一万个人合写一部小说会失败一样。

科学只做到十六个 agent，因为实验太贵。一万个只是一个数据点，而单个数据点无法告诉你一个 agent 解 Navier-Stokes 需要多久，因为那个实验没做过。在那个量级上做正经的消融实验是负担不起的，所以这个领域只能满足于在 64、128、256 上做系统性的工作然后外推——并且永远无法确知多出来的那九千个 agent 究竟买到了什么。

接着 Brown 花了很大力气给自己的头条泼冷水。千禧年大奖难题不是多智能体的功劳；他连百分之十的功劳都不愿记在多智能体头上。真正发生的是，OpenAI 训练出了一个非常强的模型，让它能在极长的时间跨度上运作，让它能并行思考。多智能体炫目而新，因此获得了不成比例的注意力。

让 Dwarkesh 震惊的是泛化。这些系统是用可验证的合成问题做强化学习训练出来的，那些问题没有一个长得像千禧年大奖难题，可是能力却迁移到了那种雄心的问题上，也迁移到了那种规模的并行投入上。

Brown 部分同意——模型确实在非常难的问题上训练，训练难度和实际展现的能力之间也确实存在可测量的落差——但他提出了结构性的担忧。随着模型越来越聪明，你能提出的问题会变得太简单。这是「LLM 可能不会走上 AlphaGo 那条曲线」最强的论据。

机制在课程表上。围棋里的自我对弈是无限课程：你永远面对一个同等强度的对手，难度自动棘轮式上升。对 LLM 做强化学习则是给模型一道固定的题；如果它一秒就解出来了，它什么也没学到。如果难到足以挑战模型的问题供给耗尽，进展就会放缓——这是一个可信的情景，还不是一堵墙，而且 Brown 认为真成了严重问题也会有绕过去的办法。

Dwarkesh 为听众补上对照：围棋在一年之内，从击败世界排名五十位上下的欧洲冠军，到击败世界冠军，到比任何在世人类强上几个数量级。数学可能走同样的轨迹。Brown 认为它很可能不会。

那个实际问题——如果六个月后人们能用上这些系统，该怎么想象「雇一个」是什么感觉——需要先解释：OpenAI 的架构是刻意不同于大多数人搭的多智能体系统的。常见模式是脚手架：一个协调者把活分给子 agent，子 agent 交回答案。

脚手架的问题出在结构上。两个拿到重叠任务的子 agent 通常不能互相说话，而这恰恰是人类团队绝不会容忍的低效。一个子 agent 有了澄清性问题，只能在「不解决问题、把问题退回去」和「猜一猜上级想要什么」之间选。任何脚手架都内置了这类限制。