Shane Legg（DeepMind 创始人）——2028 年的 AGI、超人级对齐与新架构

Dwarkesh 一上来问的，听起来像是个很直白的测量问题：loss 曲线从一个模型到下一个模型在改善，但 loss 数值终究只是个数字，那该怎么把它读作朝 AGI 的进展（s003）。Legg 没有顺着这个问法回答。他把问题往前推了一层，主张难点在定义而不在度量：“AGI 按定义讲的是通用性。”由此他推出一个结论：窄口径的测量之所以容易，恰恰因为窄才允许你去设计测试——“当你心里有一个非常具体的目标时，衡量表现要容易得多，因为你可以围绕它设计一个测试”（s004）。这话是对的，它也解释了为什么 loss 曲线不可能靠更好的读曲线功夫救回来。一个在下一 token 预测上训练出来的标量，衡量的是某个任务族上的熟练度，而不是跨任务族的广度；对标量做再多可解释性分析，也变不出后者。

他随后给出的定义是刻意保守的：“一台能做人们通常能做的那些认知活动、也许还能做得更多的机器”（s005）。这个说法有两点值得注意。第一，门槛设在人类的典型表现上，既不是人类最好表现，也不是超人表现；超人能力是明确可选的（“也许还能做得更多”），也就是说这条线是地板而不是目标。第二，关键的那个词是“通常”，它悄悄引入了一个统计概念——参照类是人们平常能做到的事，而不是专家受过训练之后能做到的事。Legg 没有说明“通常”背后的分布该怎么估计，而这一省略在他后来需要一个人类基线来做比较时又出现了。

他真正给出的是程序。如果目标是判断门槛有没有被跨过，那要求就是一大批种类各异、覆盖人类认知任务广度的测量，再加上对每一项上人类表现的把握（s006）。有意思的是那条终止规则：当你有一套不错的测试、有一个在所有这些测试上都达到人类水平的系统，而且——“即便费尽力气，你也找不出新的、机器表现低于人类的认知任务”（s007）——那时你就有了 AGI。这不是一张清单，而是一套搜索程序。它的终止条件是搜索失败，而不是枚举完成。

Legg 说得很清楚，这个标准是认识论的，不是本体论的。概念上也许确实存在某种人类有而机器没有的能力，但“如果你费了功夫也找不到，那么从一切实际意义上讲，你手里就已经是 AGI 了”（s008）。这里的坦诚值得记一笔，代价也同样值得记一笔。按这个说法，一个系统算不算 AGI，部分取决于测试共同体的某种属性——它的努力、巧思和是否愿意去找——而不只取决于系统本身。一个足够懒散或资源不足的评估，会比一个严格的评估更早地颁发 AGI 认证，而这个定义没有办法从内部区分这两种情况。Legg 始终没有说明该由谁来付出这份努力、多少努力才算够，也没有说明当搜索没有结论而不是成功时该怎么办。

在被追问 MMLU 之类基准的具体缺口时，Legg 举的第一个例子是流式视频（s010）。值得注意的是，这答的其实是另一个问题。Dwarkesh 问的是人类认知的哪些方面没有被充分测量；Legg 举的是一个模型根本不吃进去的模态。这确实是个又大又真实的缺口，但它是输入通道的缺口，不是认知官能的缺口，两者会分家：一个系统完全可以处理视频 token，却仍然做不好理解视频所需的认知工作。Legg 的措辞——“它们测不了理解流式视频这类能力”——把“理解”留在了句子里，所以更强的读法也成立；但就论证本身而言，它靠的是模态这一层。

第二个例子更锋利。Legg 给出一个人体记忆的三层图景：工作记忆装刚发生不久的事，皮层记忆装已经固化进皮层的东西，而两者之间还有一个系统——由海马体实现的情景记忆——他把它描述为“非常非常快地学会特定的东西”（s011）。这个例子具体而且切身：如果你明天还记得他今天说过的话，那就是海马体系统在工作。关于当前模型的判断则很直白：它们没有这个，也没有针对这个的测试（s012）。替代方案是架构上的蛮力——把上下文窗口拉长，而他把上下文窗口归为更接近工作记忆的东西，“以此来某种程度上弥补这一点”。那句话里“某种程度上”这个限定是在干实事的：它承认了这种补偿只是近似。

被问到为什么这件事难以说清时，Legg 给出了这一段里最站得住的回答：人类智能的通用性非常广，所以要找出缺什么，就得“钻进细节里”，去找具体的缺失类型或者根本还不存在的基准类别（s013）。他没有声称自己有一套完整的分类。这种克制是恰当的，但它同时也意味着，这份缺口分析仍然是一组例子而不是一个框架——而框架恰恰是他那个 AGI 定义看上去需要的东西。

Dwarkesh 提出一个归约：情景记忆是不是就是样本效率？Legg 立刻接受了这个联系——“它和样本效率关系非常密切”——并补充说，它正是让人类具备高样本效率的原因之一（s015）。然后他区分了学习的不同种类。大语言模型确实拥有其中一种：某样东西一旦进入上下文窗口，条件分布就发生偏移、行为随之改变，这是一种非常快的学习。但学习是复数，而“现有系统具备其中一些，但不具备另一些”。

下一个问题里那个“数万亿 token”的对比，是这个反对意见最强的版本，而 Legg 的回应是访谈前半段里技术含量最高的论断。他描述了三个时间尺度：信息在上下文里时的即时学习；训练基础模型时在数万亿 token 上的缓慢学习；以及两者之间什么都没有——“但中间那一层它们是缺的”（s017）。这就重新框定了样本效率的忧虑。抱怨的不是模型总体上学习太慢，而是它们缺了中间那一段：一次接触就能产生持久、可检索、具体知识的那个区间。而这一段恰恰就是海马体功能在他先前叙述里所处的位置，这就使得三层记忆图景和三时间尺度学习图景成为同一个论证的两次陈述。

随后他拒绝接受“致命缺陷”这个框法：“我不认为这是根本性的局限”（s018）。支撑这个判断的说法是：某种根本性的东西已经变了——模型现在对正在发生的事情有某种程度的理解，这在过去不存在；而且方法是可扩展的，这会解锁后续的工作。接着他列出了预期会被解决的短板：幻觉、事实性、记忆与学习的类型和时间尺度、视频理解（s019）。结论被小心地加了限定：没有大的障碍，没有高墙，只需要更多研究，这些问题“大概率会被充分解决”。