Grant Sanderson: 格兰特·桑德森(3Blue1Brown)——AI 与数学的未来

我们将在数学领域最先看到超级智能。它会是什么样子?

和格兰特聊天总是那么有趣。

AI 在数学上取得进展的速度,比在其他领域快得多。因此,数学非常具体地向我们展示了 AI 在其他领域的进展将会是什么样子。即便在数学内部,AI 的能力版图也是参差不齐的。它究竟是什么样子?

数学史上最重要的概念性突破,本质上是什么样的?它们与 AI 目前能做到的事情有多大差别?

从整体上看,AI 是增进还是削弱了人类对这个领域的理解?

如果让 AI 系统性地尝试把文献中已有的想法联系起来,这种尚未释放的潜力有多大?

对于那些热爱正被 AI 变革得最厉害的领域的有志数学家、程序员和其他学生,格兰特有什么建议?

00:00今天我请到的是格兰特·桑德森(Grant Sanderson),他运营着 3Blue1Brown,目前正在做一个新项目,记录 AI 在数学领域取得的进展。我想和你聊这个话题,是因为在所有领域中,AI 在数学上的进展是最快的。无论这里正在发生什么,无论我们看到 AI 的进步以何种方式发生或没有发生,随着 AI 变得越来越强,这些都将告诉我们世界其他部分会发生什么。

我想从三年前我第一次采访你时问过的一个问题说起。我当时问你,一旦我们有了能在国际数学奥林匹克(IMO)上拿金牌的 AI,那不就等于 AGI 了吗?考虑到这些题目有多难,这样的 AI 难道不是什么人类能做的事情它都能做吗?

你当时给出了一个回答,现在回头看,那个回答非常明智,也很正确。你说,它会成为又一个基准测试,就像 AI 正在通过的所有其他基准测试一样。显然,从那以后 AI 在整体上变得更强了,但并不会出现某个“顿悟”时刻。

首先,我想听听你的经验性判断:为什么事实证明是这样?其次,我很好奇你认为这种“窄”的状态还能持续多久。当 AI 已经解决了一道千禧年大奖难题的时候,你认为是否仍有可能存在大量人类正在做、而 AI 仍然无法在经济中实现自动化的任务?

这是个有意思的问题,因为在事先不知道解法长什么样的情况下,很难回答。拿 IMO 来说,你三年前那个问题的精神在于:观察其中一些题目的解法,它们似乎确实需要创造力。出题人会尽量设计出那种不容易通过训练来应对的题目。

IMO 的不可告人的秘密是,其中很多题其实是可以通过训练来应对的。正如你所指出的,在 AI 与数学这个项目进行的过程中,它之所以有意思,原因之一就是 AI 的能力前沿是尖刺状的,而数学恰好就位于其中一根尖刺上。

但这种尖刺状具有分形的性质,因为当你放大去看数学内部的具体进展时,会发现有些事情比另一些容易得多。就拿 IMO 来说吧,这在现在已经是旧闻了。它们已经表现得相当出色两年了。要不是下面这个原因,它们在 2024 年就已经拿到金牌了。它们非常强。它们基本上是直接把几何题拿下了。IMO 有四类题目:几何、数论、代数和组合。几何题方面,自 2024 年起它只用十九秒就能解出来,因为它是一个暴力求解器。

不可告人的秘密是,对学生来说,也有一种暴力的办法可以对付几何题。组合是变数最大的一类:题目更有趣味性,看起来更像谜题。那一年的试卷里有两道组合题,而且并不是每年都这样。四个类别、六道不同的题目,所以哪一类会出两道题是说不准的。如果那年几何题更多,它们当年就拿到金牌了。

但它在那些组合题上表现吃力。想为人类守住数学这最后一块阵地的人,可能会说那些才是需要更多创造力的题目。即便如此,你这个问题的精神是:如果它们解决了一道千禧年大奖难题,这是否也意味着能胜任大量白领工作?这暗示的是,从我们现在所处的位置到那一步之间的限速因素,与让它在白领工作上变得更好的限速因素是同一个。

我们可以用几种不同的方式来描绘。如果我们聚焦于黎曼猜想,解决它会是什么样子?这些系统极其擅长某个特定的知识领域,对它了解得非常深,然后再了解另一个领域,又一个领域。你也指出过这一点。很奇怪的是,一个具备这种超人广度、对所有领域都了解得如此透彻的东西,却没有找到把它们联系起来的那些闪电。

我认为我们已经开始看到一些火花:它确实在发现自己所擅长的各个领域之间的联系。我相信我们稍后会谈到这一点。如果黎曼猜想的解法的本质是类似这样的东西,那么在我看来,这与在白领工作上变得出色所需要的东西截然不同。

而且有理由相信,解法的本质可能就是这样。我不知道你是否听过休·蒙哥马利(Hugh Montgomery)和弗里曼·戴森(Freeman Dyson)在普林斯顿高等研究院(IAS)的故事。这有点跑题,但它是个有趣的故事。我不确定是在午餐时还是别的什么场合,总之有一位数论学家,他当时只是想弄清楚黎曼ζ函数的零点两两之间的统计相关性。

黎曼猜想说的就是所有这些零点是否都位于一条直线上。他发现了一个可以提出的定量问题,并写下了一个公式。它看起来像是一除以正弦的平方之类的东西。物理学家弗里曼·戴森说:“我认识这个表达式。这个表达式出现在对随机厄米矩阵特征值的研究中,”而这又出现在对原子核能级的研究中。

这两件看似不同的事物竟然有相同的统计规律,这一发现促使人们去探索随机矩阵理论的某些方面是否可能与黎曼ζ函数有关。我认为那里是否真能结出果实,在一定程度上仍是个悬而未决的问题。但这种把两个不同领域连接起来的做法——如果黎曼猜想的解法最终是把这样的想法进一步深入探索——恰恰具有你所期望的 LLM 擅长数学的那种特征。它们是量子物理的专家。它们是解析数论的专家。它们应该能够看出这种相似性,而不需要蒙哥马利和戴森碰巧在吃午饭时聊到这件事。这与白领工作完全不同。如果你觉得很难把 AI 用作编辑,那并不是因为它们什么都知道、你只需要它们找到中间那道闪电。

另一种可能性是……什么样的类比才合适呢?也许可以想想费马大定理:从费马提出这个问题的那一刻,到解法本身的样子,这个解法最终涉及了数学中如此庞大的理论工具。这个问题的美妙之处在于,它可以表述得如此简单。你问的是 xⁿ + yⁿ = zⁿ。当 n 大于三时,它有整数解吗?

你可能会期待它存在初等数论的解法,但据我们所知,就是没有。而实际的解法,也许存在更简单的,但也许它就必须是这个样子。那是一套极其复杂的思想,建立在围绕椭圆曲线展开的数个世纪的工作之上。然后还有另一座思想的大山,围绕着被称为模形式的东西。必须先建成这两座大山,你才能提出把它们联系起来的那个正确问题。

如果黎曼猜想的解法需要建起一座新的大山,那种技能——提出正确新想法的能力——与它们目前所具备的智能的特点,感觉相差足够大。并不是说你雇的视频剪辑师本身需要这种能力。但如果它能够建起这样的大山,也就是提出恰当的新理论,把我们应当如何思考某个学科清晰地结晶出来,那就是一种非常高的智能水平,如果它没有渗透到经济的其他方面、而只局限于为数学本身建山,那将会令人惊讶。

或者至少,即便它不能真的做到白领人类能做的每一件事,它也会产生变革性的影响,而不像在 IMO 上拿金牌并没有给世界带来变革性影响那样。

首先,我确实想指出,我这是在彻头彻尾地挪动球门。两三年前我采访达里奥(Dario)时,问过这样一个问题:为什么它们没能利用自己庞大的知识把各种想法联系起来,借此得出新的发现?这看起来是那种即使是一个中等聪明的人,只要掌握了这么多信息,也能做到的事情:比如从“这种药会引起偏头痛,而另一种东西会导致这种情况,也许同一种药就能治好这两样”这样的事实,得出一个医学诊断。

从局外人的角度看,数学显然是这样一个领域:找到单位距离问题猜想的反例,就是这类事情的一个例子。所以这完全是在挪动球门。但接下来我们可以问,下一个基准是什么?既然 AI 已经能做到这件我们本来就该想到它能做到的事,那么下一件会令人相当惊叹的事是什么?

这里有几个候选的想法。一个是首先提出有趣的问题,另一个是提出新的对象类型或概念化方式,从而创造或统一某些领域。先说第一个,现在我们之所以有这些千禧年大奖难题,是因为数学家们注意到了它们。黎曼提出黎曼ζ函数的想法,是因为他认为这个函数的零点与素数的密度有某种联系。

弄清楚我们为什么认为这是一个值得研究的有趣对象,为什么要构造这个对象并试图回答关于它的问题——而且是回答关于它的这个特定问题——这似乎就是那种可以成为下一个基准的事情。

你举了两个相当好的例子。对于想了解单位距离猜想的人,有一个叫 Polylog 的数学频道做了一期很不错的视频,他们在里面讨论了这个话题。

所有这些讨论都促使人们反思做数学的过程。他们会说:“哦,这个东西能做出这些令人印象深刻的事情。这对我们意味着什么?”那期视频里的一位人物引用了这样一句话:“优秀的数学家证明定理,伟大的数学家提出猜想,而最伟大的数学家提出定义。”这或多或少正是你在这里的框架。我们需要猜想生成器,然后是定义生成器。那才是顶级的数学家。

我不明白你究竟要如何把它做成一个基准。通常,我想到基准这个词时,想到的是一个球门。球要么进了球门,要么没进。你可以明确地说:“是的,这件事做成了。”部分原因是为了能够做 RLVR 之类的事情,但另一部分原因也只是为了确保你在作答时没有挪动球门。OpenAI 可以拿“证伪单位距离猜想”作为头条,因为这是一件清晰、明确的事情。它做到了。而想象一下,要拿 GPT-5.4 提出了一个非常好的猜想做头条:“我们保证,所有人都觉得这是个好猜想。”这就是没法产生同样的效果。

但也许这并不否定它是正确的思考方向这一事实。如果它有朝一日真的以一个基准的面貌出现,即我们有一个分数说它通过了,因为我们可以量化一个猜想有多好,那我会感到惊讶。要做到这一点,其本质很可能是:你会在与数学家的交谈中,感受到他们在谈论与它合作的有用方式时出现一种语气上的转变。

你提到的这个系列目前完全还没有制作出来,可能再过几个月也不会,它的形式是我们采访大量数学家。有意思的是,我们一年多以前就开始这么做了,看到他们谈论 AI 的语气从 2025 年年中到现在的 2026 年发生了一点转变,挺有趣的。在现实世界里,这是很短的一段时间。在 AI 的世界里,那是漫长的岁月。我们能够在这漫长的岁月中看到这种语气的转变。

我认为衡量猜想生成能力的方式会更主观,基于那种语气的转变。那会是数学家们说,他们不只是用它来解决自己的问题,而是当他们退一步、思考自己的研究领域究竟应该是什么时,与某某模型的一次对话对此确实有帮助。我认为不太可能以头条的形式看到这一点,说这又是一个被攻克的基准。

11:32这非常有意思。你无法为之制作基准的那类事情,也恰恰是——至少在当前的范式下——你无法轻易为之进行训练的那类事情。基准和训练环境之间其实并没有根本的区别。

人们很容易想出某种二分法,比如“这是 AI 做不到某件事的深层原因”,结果发现你只是用错误的方式在思考它,实际上不久之后它就能做到了。但我打算提出——

反正你总会提出几个的。

很可能,我们能在相对近期的将来训练 AI 去做这类事情。但看起来,这必须与当前的 RLVR 训练有所不同。

我好奇的是——在我看来,也是推动数学乃至整个科学领域许多重大进展的东西——提出一种思考问题的新方式,或理解世界的新方式,它能统一不同的领域,催生全新的领域,并解决我们当初甚至没打算去解决的问题。爱因斯坦思考广义相对论,并不是因为他想解释光为什么会弯曲,或者黑洞为什么存在。这些现象,他起初甚至并不需要去解释。

在数学里——我作为一个完全的外行,甚至不知道自己在说什么——似乎常常存在这样两类证明特定问题的方式:一类能够催生一种新的概念化,带来一个全新的领域、一种全新的思维方式,而且极具成果;另一类则不能。我很想听你聊聊伽罗瓦提出群论的事:他对五次方程没有根的公式给出的解法,与阿贝尔几年前给出的另一个并未催生群论的证明有何区别。

如果你想对群论是不是一个有趣的概念做一个验证循环——这里是不是做出了什么有用的东西,或者这个证明为什么更好?——那么这个验证循环可能长达一百年。它要等到密码学出现、物理学取得进展,群论中的思想对理解物理中的对称性产生了意义。要回答这为什么首先是一个富有成果的概念,有一个长达一百年的验证循环。

你说到点子上了,因为我有一个关于伽罗瓦的项目,本来打算在 2022 年做,后来搁置了,但我花了一年的时间反复思考他所做的事情。我有可能不小心在细节上说得太久,到时候你可以拦住我。

对你的论点来说,这是个完美的例子,因为要说明它为什么是一个有价值的洞见,并不来自即时的实用性。当然,如果你在考虑 RLVR 环境,这将会非常难以实现。但值得注意的是,即使有当时的人类验证者,也花了非常长的时间才认识到它的用处。

对于爱因斯坦和广义相对论,人们当即就能感觉到这是一个好理论。伽罗瓦理论之所以是个如此有意思的例子,是因为你真切地看到了一个长达一百年的过程:一个想法流经许多不同人的头脑,最后才沉淀为数学界一致认为是好东西的成果。稍微退一步说……你想不想先了解一下这个问题的背景?我们在学校里都学过二次方程的求根公式。

我以为你要说我们在学校里都学过群论,只是我错过了那节课。

我们都学过群论……不,是二次方程的求根公式。这是早已为人所知的。从某种意义上说,古希腊人能解二次方程,但他们并没有真正用代数的方式来书写。真正写下那个公式的是阿拉伯人。

有一个很有趣的故事,讲的是几位意大利数学家互相较量——不是真正的决斗,只是智力上的挑战——他们秘密地找到了三次方程的公式,然后很快又找到了四次多项式的公式。于是数学家们自然会提出一个悬而未决的问题:你能找到解五次方程的公式吗?

四次方程的公式是个庞然大物。把它整个写下来会非常离谱。通常你不会把它完整写出来,而是把它拆成一个有步骤的过程。你可能会相信,这类东西的复杂度是指数级增长的。所以在许多个世纪里,没有人真正回答过这个问题。

通常我们说阿贝尔是第一个证明它的人。他是一位年轻早慧的挪威数学家。他证明了这根本是不可能的。并不是说你能找到一个五次方程的公式。他起初以为自己找到了一个,但后来他证明了这是不可能的。

不过我认为真正的功劳,你得再往回退一步,谈谈拉格朗日。他找到了针对这个问题应当提出的那类恰当的问题。我只在很高的层面上讲一下。他在研究这个问题时认识到,能否求解这些多项式,与理解某些代数表达式的对称方式有很大关系。

如果我写下 a + b + c + d,就是把四个变量相加,然后我对这些变量做置换,表达式的值不会改变。而如果我写下 a + b c + d,有些置换不会改变它,但有些会。他有一个非常漂亮的洞见:如果你能找到含有四个自由变量的表达式,使得所有的置换只会取到三个不同的值,那么这与能否把四次降为三次之间存在一种出人意料的关系。

他开始着手研究能否找到五次多项式的求解公式,思路是想知道能否把这个方法推广。要推广这个方法,你就得有一个含有五个自由变量的表达式,使得当你对它们做遍所有五的阶乘(5!)种置换时,它只取四个或更少的值。你可以把这个放进谜题书里,也可以把它做成十二岁孩子就能动脑筋去想的脑筋急转弯。你很容易就会觉得这是一个不可能完成的任务。

拉格朗日坐在那里说:“这里有一个策略,可以解决寻找五次多项式公式的问题。看起来它可能是不可能的,至少从这个策略来看是这样。”但这是历史上第一次,人们本能地觉得,某种关于对称性的问题才是研究这些多项式的正确方式。在他的头脑里,这只是一种方式而已。当时还没有发现其实存在着更紧密的联系。还有,也许与其去寻找那个公式,我们应该问相反的问题:你能证明它是不可能的吗?他算是埋下了那颗种子。

大约五十年后,阿贝尔肯定读过拉格朗日并受到了他的影响。我们知道伽罗瓦在爱上数学的时候就很喜欢拉格朗日。很难想象这两位年轻的天才围绕这个问题得出相当相似的洞见,不是源自拉格朗日。

不过,回到你问的能否验证这是个好想法:拉格朗日并没有得到任何结果。他没有解决这个问题,所以并不是基于某个解答而知道这是个该问的正确问题。他只是提出了它。这里面有某种内在的趣味。而且它在当时对数学来说也不是很重要。大多数人更关心在物理上的应用。这几乎是一件旁枝末节的、消遣性的、业余爱好式的事情。

阿贝尔开始研究五次方程之类的问题,但后来有人建议他多花精力去研究椭圆函数,所以在他英年早逝之前,他的工作更多地集中在椭圆函数上。他二十六岁时死于肺结核。然后是伽罗瓦把这两条思路都推向了正确的方向,他真正理解了抽象的本质。他在狱中写了一篇非常漂亮的文章。我们可以聊聊他的整个人生故事。相当离奇。但他是个十几岁的少年,身在狱中,而且他曾试图提交自己的数学论文,却被拒绝了。

所以再回到可验证奖励的角度:当时作为验证函数的学院,拒绝了他写的东西。坦率地说,那些内容确实不太连贯。那不是一个完整的证明。他没有给出这个理论究竟是什么的清晰想法。他只是一位年轻的、初出茅庐的数学家,在摸索自己的方向。那里的验证奖励就是:“不行。”但他本能地觉得那里面有东西。

于是他写了这篇长篇大论,谈论数学的本质是会随时间经历这些转变的东西。他谈到代数本身的出现,以及如何从只用数字来思考,发展到能熟练运用纯粹的代数表达式,而不必受限于对这些表达式的解释。他本能地觉得,似乎还应该再往上建立一层抽象:与其思考公式本身,不如思考这些公式背后潜藏着什么样的对称性。但这仍然是一个定义相当不清晰的理论。

如果你想说验证奖励是他解决了别人没有解决的问题,那么阿贝尔已经证明了五次方程是不可解的。那伽罗瓦在做什么呢?原则上,伽罗瓦理论可以让你拿一个具体的多项式,并给出规则,判断这个具体的多项式的根是否能被你写下来。比如对于 x⁵ - 1,你知道一个解是 1。或者对于 x⁵ - 2,你可以写下二的五次方根。

所以并不是说你无法为每一个五次多项式写下解,而是说,你能否找到一个具体的多项式,证明你无法用根式写出它的解?他其实连这一点也没有完全解决。他没有针对某个具体的例子证明它不能。甚至要描述他解决了什么问题,都非常棘手。

然后他就死了。这是一个非常浪漫的故事:他参加了一场决斗。关于他据说在决斗前一晚写下了自己所有的想法,有很多传说,但实际上,他此前已经试图发表它们五次了。

研究五次方程似乎对健康没什么好处。

非常糟糕。如果你是年轻的天才,别去研究五次方程。他请他的弟弟和一位亲密的朋友把他的笔记交给高斯,交给当时重要的数学家们,因为他认为那里面有东西。即便如此,也没有真正产生反响。他的弟弟和朋友试图把它们传出去,但又过了二十年,刘维尔才看到这些笔记,看出里面也许有些东西,并试图把它们整理清楚,弄明白伽罗瓦想表达的是什么。即便如此,又过了大约二十年,若尔当才真正整理出某种类似于现代群论的论述,并将其归功于伽罗瓦。

你很容易想象历史走向另一条路:这些想法从数学的其他地方冒出来,而如果伽罗瓦不是一个那么华丽跌宕的人物,他可能就在历史中被遗忘了。从拉格朗日隐约感觉到根的对称性也许是正确方向,到一切看起来像现代群论,中间隔着很长的一段时间。很多时候,它甚至没有通过人类审稿人这一验证奖励。它摆到了某个人的桌子上,他们说:“我真不知道这里面有没有什么东西。”你需要有这么一个人认出它来。

即便如此,在那个时候它也并没有真正解决实际问题。你提到了密码学、物理学之类的东西。要到二十世纪,才出现盖尔曼(Gell-Mann)这样的人,认为也许理解某些群如何分解,与粒子是由什么构成的存在某种联系。他基于一个纯粹的群论问题预言了夸克。这是群论更有趣的应用之一:就连预测夸克的存在,也是一个群论问题。离拉格朗日已经过去那么久,才出现类似的东西。

所以你得问,有什么衡量进展的方式,不是基于解决一个问题,却能以某种方式捕捉到伽罗瓦头脑中说“我认为这里有东西”时的那种本能?拉格朗日头脑中说“我认为这是正确的思考方式”时的本能是什么?刘维尔头脑中说“这位早已去世的年轻人留下的零散笔记,也许有点东西”时的本能又是什么?这太难确切把握了。

我现在正在做的另一个系列视频,讲的是“压缩即智能”这整个想法。虽然这并不是我所采取的角度,但确实有这么一个观点:更小、更具预测力的表达,让人感觉更智能。所以我在想,你能在多大程度上围绕这一点设计某种可验证的奖励,不只是看你是否解决了问题、解决的是什么,而是看完成它所需概念的精简程度。

回到黎曼猜想的解法,如果由 AI 来解决,会是什么样子?我认为第三种可能是,它就是直接更卖力地干活。同样地,你也许可以得到费马大定理的一个初等证明,只不过它要铺陈数千页,会让人看不明白。但更清晰的看法是借助椭圆曲线等等。也许黎曼猜想有某个上千页的证明,没有人能从中真正得到什么,而你真正想要的是这些想法的简洁、压缩的版本,这样才有利于人类理解。

也许你可以把柯尔莫哥洛夫复杂度(Kolmogorov complexity)引入你量化“优雅”一词含义的尝试中。我不认为这很容易,但我确实认为,要想奖励那种类似伽罗瓦的本能,而不是只奖励你是否解决了一个问题,这是你必须做的事情。

要为科学找到这样的启发式非常困难。但很明显,人类一直在以某种方式做这件事,而且显然,AI 总有一天也会做到。

这不仅仅与验证奖励有关,而且想必最终的目标是理解,是人类的理解。即使你确实有某个数学问题的上千页证明,或者某个宏大的新物理理论,目标仍然是理解。

也许,如果目标是预测能力,你完全可以让自动化工程师去造火箭飞船,尽管我们完全不知道它们是如何工作的,但我们就是能飞到其他恒星之间。但会有很多人想要理解。你仍然会想要某种简洁性函数,把这种复杂的思维方式提炼成正确的那一种,就像牛顿的万有引力定律那样。你仍然会希望训练 AI 能够做到这一点,并找到那种被压缩的表示。

26:12人们尤其对数学有一种担忧:AI 会证明黎曼猜想,而我们对数学的理解并不会因此有任何增进。关于这一点我有几个问题。第一个是,这是不是你应当预期的事情。

人类在研究一个大问题时之所以会提出一般性的、自然的对象和子目标,难道不正是因为在处理一个复杂而重要的问题时,这样做本来就有用吗?从理论上讲,不借助这些自然抽象的做法,甚至真的会比直接提出与思考该问题相关的自然抽象概念,更简单地解决黎曼猜想吗?

其次,从经验上看,今天 AI 在问题上取得进展时,我们观察到的是这种情况吗?当 AI 提出那个单位距离猜想的反例时,你可以直接去读它的思维链。我是看不懂的,因为我对数学一无所知,但似乎其他数学家是能看懂的。它运用了数学中已知的概念,并证明了它们之间的关系,全程使用自然语言。结果,它加快了我们对这个对象与这个猜想之间联系的理解。

从经验上看,这是我们应该担心的事情吗?

我认为这取决于其本质……如果我们把解决黎曼猜想的三种可能方式拆开来看……今年另一个重大的进展是编号为 1196 的某个埃尔德什问题,涉及一种叫做本原集的东西。它具有那种把想法从一个看似不同的领域引进来的特点。你只要把基本想法讲给一位数学家听……你说:“如果我们尝试马尔可夫链过程,不是自上而下、而是自下而上地以概率方式证明这个东西成立,并使用冯·曼戈尔特函数,会怎么样?”

如果你对一个内行人这么说,他们就知道该怎么往下做。你有的是这样一个非常小的想法,它的形式是一个领域的专业知识加上另一个领域的专业知识,在两者之间划出一道小小的闪电。这些将是人类很容易解析的,因为你只需要展示这些联系的起点和终点。

如果它的特点是建山,那你就得花多得多的时间去理解建成的那座新山,因为那是一条新的脉络,而不仅仅是它们之间的一道闪电。而如果进展的本质只是单纯的苦干——一条超长的推理链,而没有新的理论——那么你就会有对整个消化过程的那种担忧。所以我认为没有一个明确的答案。这取决于解法会是什么样子。

在建山这一方面,真正看到会是非常有意思的。它默认就是人类很容易理解的吗,就像我们看到伟大数学家提出的新理论那样?还是说,建起来的是一座异类的、不同类型的山,以至于我们得重新处理自己所用的那类抽象?

最接近的例子就是对 abc 猜想的那次尝试性解决。我们也许不该深入谈那个,但它很可能不是一个正确的解法。基本上,那是日本一位本来声誉良好的数学家提出的一整套全新的思维方式。数学家们花了很长时间才解析出他到底在说什么,但它给人的感觉是一块异类的数学,是在构建理论,而不仅仅是一条很长的推理链。他把它称为宇宙际几何。

最大的担忧是,AI 做出了这样的东西,然后就像 abc 猜想那样,人们花上好几年去爬那座山,最后说:“糟糕,这就是不对。”结果证明它是错的,但它看起来确实像是对的。即便它是对的,爬一座新山也需要付出大量努力。

如果我们最终陷入那种境地,戴维·贝西斯(David Bessis)有一篇非常棒的博客文章,叫《定理经济的衰落》(The Fall of the Theorem Economy)。他谈到,从历史上看,正如你所说,数学就是提出这些定义和问题,然后证明关于它们的定理。证明定理的部分得到了所有的功劳,但它其实寄生于提出定义的那部分工作之上。

从历史上看,这在功劳分配方面并不是个问题,因为如果你提出了一个定义,你很可能也会是提出定理的那个人。但现在我们面临的局面是:如果有价值的工作是提出洞见,而 AI 把后半部分自动化了……

想象这样一个场景:AI 针对世界上一批重要的猜想,给出了类似阿贝尔式的直接论证,然后我们就有了这些证明。现在就要靠人类或未来的 AI 来做整合了。再说一遍,我对这个论证在对象层面上完全没有任何理解,但我敢肯定,如果你能拿到它,它会让你更容易思考到底发生了什么。是否有某种更深的方式,让我们理解这个证明为什么成立,从而更容易想出群论背后的那些想法?

我认为那会有极大的帮助。探索新数学,大部分时间都是在犯错。你在试图解决一个问题,而感觉并不是一直在正确地沿着山往上走。大多数时候感觉像是醉汉随机游走,你做了一件事,然后发现错了,如此不断地发现自己错了。如果至少你知道,消化手头已有的东西最终会通向一个正确的解,那就是一种进展,仅仅因为知道它通向一个解的那种感觉。

在数学近期的历史上,有很多例子让人感觉是够得着的超过了抓得住的,也就是东西在被理解之前很久就已经被证明了。我最喜欢的一篇论文的开头之一——它甚至不是研究论文,更像是一篇阐释性的文章——出自一位叫蒂莫西·周(Timothy Chow)的数学家,他当时想理解一个叫力迫法的概念。有一个叫连续统假设的问题,大致是在问:自然数有一种无穷的大小,实数有一种无穷的大小。两者之间还有别的吗?

答案既是有,也是没有。这取决于你的公理。它超出了我们通常的公理系统的范围,这是个有趣的答案。但描述它的方法真的很难理解。那就是叫做力迫法的东西。在这篇论文的开头,他写道,每个人都知道未解决的研究问题这个概念。我想提出未解决的阐释问题这个概念。当然,我们已经证明了它,但我们并不真正知道它为什么成立。

然后他对那个阐释问题提出了一个部分的解答。你可以想象我为什么喜欢这个说法,因为这就是我的全部人生。我不做研究数学。我做的完全是关于怎样才是理解这件事最清晰的方式,即使它已经被证明了。证明与解释之间是有区别的,我认为你说的正是这个区别的重要性。

是的。这将是主要的激励。或者说,激励必须发生改变,不仅在数学领域,在科学的其他领域也是如此,从证明关于世界的事情,转向把证明整合成问题或更高层次的洞见。

我们之前在午餐时讨论过你最近做的一场关于设计、以及设计如何帮助我们理解事物的演讲。在极限情况下,一个想法的概念化与想法本身之间真的有区别吗?想想狭义相对论和时空图,还有闵可夫斯基时空,这是我们用来说明为什么会有长度收缩和时间膨胀的一种方式。但那就是现实……所以,从某种意义上说,这里的阐述似乎就是解释本身。

这里有几件有意思的事情。一是,提出真正新颖洞见的人,与那些在表达上确实非常清晰的人,似乎有很强的相关性。你可能会设想相反的情况,因为大学生的体验往往是,教他们的专家未必是讲清这个主题的最佳人选,因为他们被自己的专业知识给惯坏了。但至少在某些情况下,情形似乎是这样的:那些真正提出相当新颖东西的人——比如爱因斯坦、克劳德·香农(Claude Shannon)这样的人——你读他们的论文,会发现它们非常清晰明了。

感觉并不是只写给专家看的,让你得挥着砍刀硬劈出一条路来读。他们都是非常出色的阐述者。费曼也有这个特点,他是一位非常出色的阐述者。也许,在研究层面上想出正确的新思考方式的那部分大脑,同样也擅长做出良好的解释。

我认为这与 AI 有关。我过去以为 AI 会成为这些自动定理证明器,而数学家的角色会转向我的工作,即解释这些东西。现在我怀疑,实际上它们在这方面也会相当出色,在解释和提炼方面很可能比大多数人类都强。所以,按照这些事情发展的本质,消化并解释所发生的事情,很可能实际上并不是留给数学家的工作。我们可以谈谈情况可能并非如此的几种方式,但很可能,想出解决某个新问题的真正好的新想法的那个东西,同样也擅长解释它。这是我的看法发生变化的一个地方。

你认为你最后会做的事情是什么?既指你自己,也指人类数学界。

我很可能会一直做类似我现在做的事情,直到死。

如果末日论者是对的,也许原因也是一样的。

是啊。你给一个人生一堆火,他能暖和一晚上。但要是把一个人点着了,他这辈子都暖和了。所以我对 AI 的态度就是这样。

解释者或老师的部分作用,是为某个人好奇的东西增添清晰度。这是一方面。但还有一部分更偏向关系层面,提供动机和一种策展的感觉。我听到过一种关于数学家最终会变成什么的有趣看法,那就是他们其实更类似于艺术博物馆的策展人,而不是别的什么。

AI 把那个问题解决了,所以这件艺术品就存在了。它们甚至知道如何把它解释得非常好。但你仍然希望有人帮助你在这个近乎无限的空间里,找到哪些想法值得去接触。即使 AI 在某种意义上在这方面做得更好,我认为我们总还是会更喜欢一个与我们有关系的人,因为我们被激发出对事物的兴趣的方式,是一种社会现象。

如果你有某个正在试图构建的具体技术,情况可能会不同。但听这个播客的人信任你对什么是有趣话题的策展。他们来到这里,并不是因为不管你的下一个主题是什么,那都是他们事先就想弄懂的东西。他们是把你当作策展人来信任的。

所以我的角色,可以说其他数学家的角色也一样,可能实际上只是微妙地转向这种策展的方向,即哪些想法值得追求。这正是我现在工作的很大一部分。我认为人们常常以为一个视频的大部分时间都花在了视觉效果上。确实如此,这并不是立刻就能做出来的。但实际上,很大一部分时间只是在决定首先什么是值得说的,什么是值得放在那里的。

我想参与其中,我认为我与某些人之间有一种信任,他们很好奇我会选择推出什么,即使 AI 在这方面更强。这与人类音乐家永远都会有一席之地是同样的原因:那种他们背后故事所带来的社会功能,即使某个模型生成的 MP3 文件在客观质量上更好。这就是我看到的发生在我这份工作上的事情。

38:08我想回到前面的一个问题。就在 AI 跨过了这道门槛、达成了这个重要基准,即能够把已有的想法联系起来,得出新发现或证明或证伪某件事的时候,我们会说:“好吧,但下一件事是什么?”

顺便说一句,这方面还有很多事可做。仅仅因为已经掷出了几道闪电……我认为在接下来的几年里,会有一个在真正建立联系方面蓬勃发展的未来。

对。所以在极限情况下,你甚至可以说——我不知道这是否准确,但有这种可能——很多最大的突破在某种程度上都是这样的。广义相对论就是把黎曼几何和狭义相对论连接在了一起。所以随着 AI 在这种连接上变得越来越强,也许很多重大突破在性质上并没有真正的不同。不知道你对此有没有什么看法。

很多讨论都集中在解决问题以及数学的那种性质上,比如逐个勾掉埃尔德什问题之类。但我要说,把自己的工作描述为真正以勾掉下一个问题为目标的数学家,甚至还不到大多数。你熟悉朗兰兹纲领吗?

不熟悉。

它与其说是数学的一个领域,不如说是一种研究精神。费马大定理就是它的一个端倪。你有两个看似毫不相干的东西,它们之间的一个联系导向了一个解。

朗兰兹是一位数学家。他有一封著名的信,基本上阐明了很可能还有更多这样的联系。他甚至对这些联系的性质讲得更具体了一点,以至于你可以想象一张巨大的地图,这边有个山谷,那边有座山,那一头有一片平原。有很多数学家会把自己的工作描述为试图理解这张地图上的那些脉络的一部分。

那里的进展,甚至不是“这里有一个具体的问题,我们知道它会被那个联系解决”。更多的是,一次又一次,有些大问题是靠发现联系而被攻克的,几乎就像是在预先地发现这些联系。这其实非常有意思。你每次遇到一位数学家,都可以问问他,自己工作的特点更接近朗兰兹纲领,还是更接近针对某一个特定问题。你会得到某种两极分化的答案。

AI 成为超级增强的连接者,这种可能性感觉上可能会成为这一追求中的放大工具。不过,这很难衡量。这就回到了我们之前说的:你怎么打分来说“是的,你做到了”?如果是攻克一个问题,你有明确的办法说“是的,你做到了”。你可以写头条。作为 AI 公司,你可以做公关宣传,说“我们做到了”。

而如果感觉那是一个正确的联系,你可以围绕它写出定理。那个领域的论文就是这个样子的。但我认为,这会需要更多的“人在回路中”去判断:“我们想要的是哪一类联系?”这是我对未来五年里这些模型大部分有用进展会是什么样子的猜测。那就是真正填满这幅联系的版图,即只要你是多个领域的专家就能画出的那些联系。正如你所指出的,我们居然还没有早就看到这一点,有点令人惊讶。

我很想从技术层面知道,是什么促成了那里的突破。一方面,你可以在脑海里勾勒出一种解释:为什么你可以是所有这些东西的专家,却没有画出那些联系。当推理方法是这种自回归的思维链现象时……如果你仔细想想,自回归其实是一种非常奇怪的产出方式。

你是个聪明人。想象我把你锁在一个盒子里,你与世界互动的唯一方式,就是收到一张纸条,有人说:“你能预测接下来是什么吗?”你预测了接下来是什么,然后你的记忆被清空。你再收到另一张纸条。想象这样做了很多很多次,然后另一端输出了一个结果。他们说:“看看你写的这篇文章。”你看了可能会说:“这太糟糕了。这不是我会写出来的那篇文章。”反复预测的过程,与你作为一个写作者构思并思考一篇文章的方式,是很不一样的。

尤其是,很可能发生的情况是,你成了上下文的奴隶。你也许在回答某个特定领域的问题,于是你会利用围绕它的所有上下文。但真正产生实质内容的那个联系,就其本质而言,是一个可能性很低的联系。你可以做你想做的所有强化学习,试图在某种意义上变得更好,但是,究竟是什么在专门提升权重并激励去建立这些低概率的联系呢?要知道其中绝大多数都不是在那个位置上可预测的下一个词元。

所以,情况可能是,你只是把这种智能锁在了那个盒子里,而与它互动的方式很奇怪。我好奇的是:通过质疑词元生成方式这一前提,你能不能得到什么成果?我不认为这会像调节温度那么简单,但有没有什么办法,可以在现有智能水平的基础上,找到恰当的方式去激发那些联系,从而解锁我们已经见到的这类成果?还是说你只需要再多一点点智能,使得在预测的层面上,它预测到自己应该向另一个领域划出那道闪电?

我认为,与其从架构甚至损失函数的角度推理,不如从数据的角度推理,这样更有成效。我们有做文本的扩散模型,它们产出的东西在性质上并没有完全不同。只是对它们的探索还没有那么多。我认为更相关的问题是:无论你用的是什么架构或损失函数,它所激励你去产出的数据是什么?它们看起来确实在变得更好。

先别管数学。我们确实有几个这类事情的例子,但如果你只看它们为什么在作为自主智能体方面变得更好……它们身处这样一个环境:它们以自回归的方式产出这样一步:“我们退一步,对整个代码库做一次搜索”,然后是“我们退一步,评估一下我的错误”,而这正是有效的做法。

我猜想,在科学乃至数学的进展中发生的情况是,你有前沿数学那样的问题。数学家们专门设计了它们,因为它们需要把两个不同的领域联系在一起。我猜有各种巧妙的、部分合成的方式,可以造出越来越难的、需要这类联系的问题——例如,去掉一些假设,但仍要求 AI 得出答案——这样一来,损失函数是什么,其实就不太重要了。关键在于,你能不能设计出一个激励这种能力的环境?

感觉你应该能做到。我当然无法说出做到这一切的正确方法是什么,但如果不是这样,会相当令人惊讶。你不觉得吗,如果在未来三年里,没有出现多得多的这类闪电,那会很令人意外?

我认为这是个值得思考的重要问题。我们常常思考单个系统有多聪明。而我们没有想到,AI 的优势更多是源于它们的其他特点。所以在这个语境下,它们的关键特点是,我们可以把它们并行化并任意扩展规模。无论它们的能力水平如何,它们都不只是数学史上某一个特立独行的天才,建立了几个联系,然后死于一场决斗。

而是把那条水位线普遍地应用到在该能力水平下可及的所有问题上。这是数字心智天生具有的众多优势之一,而我们对此思考得不够。其他的优势包括:它们可以把所有知识合并在一起——或者至少会有技术使之成为可能——以及你可以生成知识水平完全相同的副本。这种并行化是相当重要的特性。

我很想听听你的预测。即使它们不像人类数学家那么聪明,但出于公关原因,AI 公司正在向这件事砸下数十亿又数十亿美元,这意味着数量本身就带来了质的变化。

这个方向看起来是对的。如果拿蒙哥马利和戴森在 IAS 的那次谈话来说,它暗示了黎曼猜想——或者说黎曼ζ函数的零点——与随机矩阵之间的某种联系,这感觉就是你可以尝试自动化的那类事情。你有代表这些领域各自专业知识的智能体。我们都知道,一个研究所比一个个体更聪明。

让大家都待在同一个地理位置的原因,是你希望那些偶然的交谈能够发生。在智能体之间设计出这样的交谈,会是什么样子?这很有意思,因为你指出可以把所有知识汇集起来,但我真的在想,其中一个优势是否在于你可以做与此相反的事情。

有时 AI 失败,是因为它陷入了一条糟糕的思维链,很难把它拉出来。于是你说:“我重新开始吧。”人类也是一样。有时你以某种方式开始思考,而需要做的只是退回去。有这样的故事:有人长时间尝试证明某件事,然后某个时刻他们说:“等一下。如果我试着证明它是不可能的,或者证明相反的命题呢?”

解开你自己的上下文,以全新的头脑去做……你可以设想把这一点系统化,或者让多个不同的智能体被有意地给予不同的上下文片段,然后在那里进行比较和对照。我们对自己的上下文,并没有同样程度的操控能力。

在这个 AI 与数学系列里,我们要做的第一集会讲他们解决 IMO 的那一次。我想聚焦于一道他们没有做出来的具体的 IMO 题目,很多非常聪明的学生也没做出来。陶哲轩(Terry Tao)也没做出来。人们对这道题非常恼火,因为他们称之为恶搞题。我几乎不想剧透,因为我想围绕这一点来构建这一集:在对方不知情的情况下把人引进去,结果发现它有一个简单的解法。你真的可以体会到,作为一个解这道题的学生是什么感受。

基本上,基于它是一道国际数学奥林匹克题目的背景,有一条非常优雅的路径,让你真的觉得这会是解法。那种解法的特点非常诱人,但很难证明它是最优的。原因在于它不是。真正最优的,是一个几乎不用动脑的解法。

这与整个 AI 故事的关联在于,对人类来说,回答那个问题所需要的是跳出你的上下文。跳出身处 IMO 的上下文。跳出你被训练去解这些竞赛数学题的方式的上下文。如果你只是把它当作我随手丢给街上某个人的脑筋急转弯,他们很可能会答得很好。

在其他情境的人类研究中,有时你也希望如此:能够刷新自己的思维,以完全不同的方式去切入。在数字心智拥有的所有优势中,这也许恰恰是其中之一:一种更系统的刷新思维的方式。派生出两个智能体,一个试图证明它,一个试图证伪它,一个用这种方式尝试,另一个用别的方式。它们被有意地赋予不同的上下文。

我很想看看,如果三年后我们再进行这场对话,那些登上头条的重大成果里,有多少具有这种特点:基本上是抹去之前的上下文,尝试一堆不同的东西,而不是把一堆不同智能体的结果合并起来。

这非常有意思,因为人们对 AI 的一个常见担忧是这种熵坍缩,即它们都以同样的方式思考,因为它们是以相似的方式训练出来的。这就是它们写作很糟糕的原因。它们走同样的路径,有相似的说话模式,等等。

但也许 AI 拥有的关键优势在于,你可以系统地……听起来,单位距离问题猜想花了这么长时间才被证伪,原因之一是人们假定这个猜想实际上是真的,所以他们大多在想办法证明它。也许 AI 将拥有的关键优势之一,就是通过系统地对任一给定命题同时尝试其否定命题和证明其肯定命题来增加熵,或者能够系统地给不同的智能体赋予不同的偏向。

人类科学史上似乎有一件很重要的事:爱因斯坦深受这样一种偏向的驱动,即事物在不同的参考系中应当看起来是一样的。他还有其他几种类似的偏向,但那一种对他的思想影响尤其大。你可以系统地考察一批启发式,看看哪些在某个给定的问题上是富有成效的。

所以你的建议是在提示词层面系统地增加熵,尽管在自回归层面不可避免地会发生坍缩?爱因斯坦会是一个有意思的例子,因为他有一种偏向,认为事物是相对的。他还有一种偏向,认为“上帝不应该掷骰子”。你要确保不会不小心让你所有的 LLM 都变成爱因斯坦,因为那样你可能会让量子力学的进展停滞。

这恰恰说明,科学并不存在一种正确的启发式。你只需要多个各有自己启发式的独立研究纲领。

这感觉像是老派的软件。只要你能以某种方式把它描述出来。你有老派的软件来放大那种熵。如果你能为你想要提示的那些不同思维方式建立一个清晰的本体论,你就去探索整个本体论,然后每一个个体各自去做它该做的事。

这里有一个设计问题,即你究竟如何描述这些不同的方法。简单的一种是:你是在试图证明它,还是证伪它?更难的一种是,说出你可以采取的证明它的所有策略,并确保你在探索它们时有足够的广度。

53:48显然,数学中的 AI 进展比其他一切都快得多,人们把该领域的可验证性指为这一现象发生的关键原因。我认为这是两个重要原因之一,但人们确实忽视了另一个。我身在实验室之外,所以不知道实际情况如何。这是一个完全天真的理论。

顺带一个相关的问题:为什么 AI 在数学上进展如此之大,而在电脑操作方面却如此缓慢?电脑是非常可验证的。我的 Etsy 包裹会到吗?我的活动订好了吗?这些都是极易核查的事情。电脑操作缺少的是可磨性(grindability)。

因为网站有机器人检测器——而且运行并行 rollout 需要大量算力——所以很难在亚马逊上对同一个结账流程运行一千个并行 rollout。你会被安迪·贾西(Andy Jassy)关停。

他本人亲自来。他会按下“德瓦克什”按钮上的红色叉号。

没错。你可以尝试为每一个网站构建克隆版,但那非常耗费人力,还会拖慢你的速度。你目前之所以需要这么多并行 rollout 才能用深度学习学会一项技能,是因为我们还没有解决样本效率问题。

就像卡帕西(Karpathy)说的,是通过吸管吸取监督信号?

没错。当然,人们正在研究许多不同的技术,但从根本上说,我们训练 AI 的方式有一个很大的限制。对于代码,你可以把某个进度水平的代码仓库容器化,然后派生出数百个并行的容器,说“试着实现这个功能”,而且这完全是确定性的。因为是确定性的,你就能解决信用分配问题:你知道无论是什么导致这次 rollout 成功、那次失败,起作用的就是那份 diff。如果各个情境的起点各不相同,这个信用分配问题就会变得难解得多。

现实世界里的大多数事情,都很难以同样的方式容器化。编程和数学是这条规律的例外。但如果你想弄清楚如何创办一家成功的新企业,或者如何在市场上交易一天并赚到钱,那么你必须与现实世界互动、而且事情日复一日地变化,这意味着你无法反复重放、反复磨练、反复在模拟器里刷。

数学当然是例外,我觉得这是这个领域以及编程领域取得进展的一个重要驱动因素。不只是可验证性;它还必须是可磨的(grindable)。

人们指出的 AI 进展迅速的第三个原因,是他们很关注 Lean 和形式化。再说一遍,我对实验室里到底在发生什么毫无概念。我觉得就 AI 目前的进展水平而言,Lean 其实没那么重要。为什么 AI 能够证伪关于单位距离问题的那个猜想?他们公布了思维链,或者至少是思维链的改写版本。里面一点 Lean 也没有。我认为 Lean 所提供的那种基于过程的监督,即你知道每一步都是正确的,似乎不如拥有这种可磨的、可验证的结果来得重要。

可磨性更重要,这个观点很有意思。天真地想,你可能会觉得 Lean 为数学提供了某种独特的东西,因为你能看出它是否能证明。你有老派的软件可以告诉你是或否,并把它用作你的可验证奖励(VR)。能佐证你观点的是最初的尝试。我再回到 IMO。最初,DeepMind 基本上就是这么做的。一切都在 Lean 里,然后第二年全部变成了自然语言。所以按你的观点,它不是必需的。

不过我确实认为,形式化这个领域还有一个尚未被探索的好处:目前你仍然需要一个人去审核那个单位距离猜想的反例,然后说“看起来没问题”。这给事物能被无休止地探索的程度设定了某种界限。如果你想想 AlphaGo 或 AlphaZero 那样的系统,它们在自己的宇宙里下着大量的围棋、自我探索,有可能偏离到任何人类都需要去看的范围之外,但它们仍然拥有这种自动的、可验证的奖励。这不仅仅是你可以在上面做强化学习。还在于你基本上永远不需要去查看,你可以直接把算力倾注给它们,让它们去探索围棋的宇宙。

可能有意思的是——也许这行不通,但它是否会产出什么,陪审团仍应保持未定——有了 Lean,你可以设想有一个基本上永远运行的程序,不断尝试扩展 Mathlib。Mathlib 是一个 GitHub 仓库,基本上是把所有数学用代码写了下来。它离所有数学还很远,但他们希望它成为全部数学。它是用代码写成的,你可以问:“这个证明正确吗?”写这些证明非常耗费人力。围绕它有一个完整的子社区。

但你可以设想有一个 AI,你对它说:“只管尝试扩展 Mathlib。”也许是它的一个分叉,这样里面就不会有垃圾,因为人们对希望放进去什么有一定的品味。所以你有了纯 AI 版 Mathlib 的分叉,它就这么一直跑下去,不会停。不需要任何人去查看它。它可以一直运行下去。它可能会提出自己的猜想。它可能会提出自己的理论和不同的定义。也许其中很多都没有用,但它拥有这棵可以不断向外生长的无限的树。

这是数学独有的一点,其他任何领域都没有:你可以按下开始键,直接向它倾注算力,然后转头不管十年,再回来问:“你有什么成果?”总会有些东西。然后就有一个问题:它有用吗?你如何把这个弄清楚?能做到这件事本身就很有意思。如果它没有产出某种有趣的数学洞见,那会非常令人惊讶。

在这个故事里,Lean 的重要性有两种不同的方式。第一种是,你可以放手不管,甚至不用去查看,进展也会发生。你可以对围棋这样做。我不认为你可以对自然语言数学这样做。

这非常有意思。你有没有看到卡帕西(Karpathy)的自动研究(auto research)想法?他写了一个 Python 文件,做基本的 LLM 训练,然后有一个仓库,让 LLM 智能体尝试对该文件做修改,如果修改加快了速度竞赛(speed run),这个修改就保留。

埃里克·张(Eric Jang)——他来节目上解释过 AlphaGo 是如何工作的——在试图构建一个非常强的围棋机器人时做了类似的事情。他有一些有趣的观察。它非常擅长运行一个实验并沿着那条路径走下去,但不擅长在死胡同处停下来,也不擅长做高度并行的事情。总之,将来这很可能会改变。

思考它在极限情况下是什么样子,非常有意思。这从根本上就是数学研究这一人类制度的本质。它是一座以有趣而有用的方式不断扩展的图书馆。这样一来,你没有任何基于结果的监督。没有你试图去激励的结果,但你有一个过程。你知道每一步都是正确的,只是不知道它是不是朝着有趣的方向前进。

如果你要这么做,你不会希望它彻底偏离轨道,在逻辑空间里做随机游走。你大概会想要某个监督模型,试图提供关于它是否有用的启发式判断。你知道人们正在研究这个。这是那种“五年后”的事情之一,我很想听到未来版本的我们来谈谈它。

也许那条路走不通,但陶哲轩(Terry Tao)谈到过一个研究项目,试图穷举搜索可能的代数结构的空间。你可以设想应用于代数系统的各种不同公理。当我们提出群论时,有一套公理系统,除非你知道其动机,否则看起来就像任意的规则。如果你把所有的都试一遍呢?其中有没有产生有用东西的?绝大多数在某种程度上都是垃圾。一切都坍缩成没有任何有趣的结果。

但每隔一段时间,会出现这样一座小岛:一种完全不同类型的公理系统,至少从能推出的定理数量来看似乎很丰富。这正是你想象中自动证明器擅长的看家本领:探索那个空间,看看其中哪一个最终会成为点什么。也许其中某座岛最终真的会成为你可以事后赋予动机的东西,说这就是它试图触及的那种结构。

就像你可以想象,看着一个群的公理,并不知道它与对称性有关,但你事后意识到这与研究对称性非常相关。你可以设想这种风格的结果,只不过它不只是探索可能的代数系统,而是探索任何一种公理的所有可能的逻辑推论。

关于没有 Lean 是否也能提供基于过程的监督这一点,DeepSeek 有他们的 DeepSeek Math 模型。他们发表了一篇关于如何训练它的论文,相当有意思。

自然语言证明的问题在于,你不知道它是否正确。他们有一个验证器,而这个验证器由一个元验证器来训练,元验证器确保对于他们训练这个模型去解决的 Art of Problem Solving 上所有的问题,验证器都给出了良好的反馈。它有效。有意思的是,在已发表的文献中,带有某种元验证的自然语言验证目前看起来是行得通的。

在我们正在使用的已发布产品中,它似乎也行得通。如果你看编程智能体,它们在编写整洁代码和重构代码方面越来越好。我敢肯定,有基于过程的“LLM 作为裁判”(LLM-as-a-judge)系统在提供品味,并说:“这是写这个函数的整洁方式吗?有没有同类模块化形式的重复?”这对数学也应该有效,对吧?

即使你只用自然语言工作,你能信任一个验证器,这在数学上似乎也比在任何其他领域更可信。你和我之前聊过为什么它们写作很差。它们似乎是不错的裁判。如果我给它们两篇学生写的文章,它们能说出哪一篇更准确、更有洞见。那为什么你不能直接让一个验证器来说“这是不是一篇好文章”呢?

也许那里最终的失败在于,即使它们擅长区分 B 等文章和 A 等文章,它们其实并不擅长区分 A 等文章和你真正想读的东西,也就是在 Substack 上读得下去、又有洞见的东西。它们最后实际上更偏爱没有洞见的文章。

在数学方面,判断一个证明是否正确这一步,即使是自然语言的,也适合交给自动验证器。你大概仍然可以取得大量进展。我仍然喜欢 Lean 带来的那棵逻辑树,就在于你可以真的完全脱离轨道。对于之前事物的表述方式,没有任何约束。大家都在谈论 AlphaGo 的第 37 手。是什么促使人超出先前的启发式?在探索中与世界其他部分脱钩,似乎是有成效的,可以作为对自然语言数学这条战线的一种互补的研究追求。

Lean 的另一个相关性是这样的:假设你有纯自然语言的强化学习环境和一套纯自然语言的证明。人们说:“开始吧,AI 数学家们,”它们每天生成十篇论文。只要其中有任何错误率……亚历克斯·康托洛维奇(Alex Kontorovich)谈到过这一点。作为数学家,这会变得令人无法忍受。你每看到一篇这样的论文,都不知道它值不值得你花时间。即使一百篇里有九十九篇是对的,我也不知道它值不值得我花时间,因为要找出那个错误会是什么,是非常耗费人力的。把所有时间花在一篇垃圾论文上,真的很让人沮丧。

如果有某个东西能给你一个绿色的对勾,告诉你“即使这很难理解,即使这会很麻烦,你至少知道它是正确的”,那么其他所有领域都会为此拼命。数学有这个。如果模型还能把它们的自然语言证明拿来形式化,那似乎意义重大。每个领域都乐意拥有这样的东西。所以我认为你说得对,就 Lean 作为数学总体进展的可验证奖励环境的重要性而言,它也许被高估了。但我绝对不会把它从这个故事里划掉。

我还很喜欢把 Mathlib 的扩展当作隐喻,用来比喻我们的文明很快会发生什么。几千年来,人类建立了这个知识和理解的语料库,而我们拥有的一切现在都被提炼进了这些模型。到了某个时候,模型会不加限制地扩展它。

67:07顺便说一下,关于写作这一块,我有一个理论,解释为什么写作的进展比这些其他领域差。一个原因就是你说的,它们不仅在判断 A 和 B 方面很差,而且会被 B 彻底带偏,B 就是那种糟糕的文章,它把 A 本该具备的花哨点都堆上了。奖励破解这类问题就此完全失控。

但另一个重要的原因是,写作不像代码和数学那样是模块化的。你可以用很多种不同的方式写一个函数,它们做的事情是一样的。当然你希望它整洁,但归根结底,只要能运行,就是能运行。数学里的引理也是如此。你可以有一个最终产物,它与产生它的方式是不同的。代码是产生某种最终产物的东西,你想要的是一个能用的最终产物。

而在写作中,最终产物直接就是 AI 所产出的东西。每一段、每一句、每一个词都很重要,因为那就是实质。它不是从写作中产生出来的某个独立的东西。它不可能像代码那样粗制滥造,却仍然产出你想要的结果。

但你刚才还指出,我们在智能体编写的不仅是能用的代码、而且是整洁的代码方面,其实已经好了很多。为什么让你从仅仅能用提升到整洁、可合并的 PR 的同样进步,不会也带来更清晰的写作呢?

这个观点很好。而且,难道没有吗?我同意它们在很多方面是糟糕的写作者。但对于我阅读的很多文字,我发现直接复制粘贴到 LLM 里,说“给我解释一下这个”,效果更好。这个解释会比人类写出来的东西更好。有意思的是,我们说它们是如此糟糕的写作者,而我显露出来的偏好却是让 LLM 来解释。

即使我在通话中实时与一位人类专家交谈,如果那是只有他们才有的、没有编码进分布里的一块知识,我也希望他们亲自向我解释。但如果为了理解它,我需要先理解一个更基础的概念,那我更希望能在社交上被接受地直接说:“我们先在这里停一下。我先问一下 LLM 那是怎么回事,然后我们再回到你那块特殊的知识上。”

那是提炼,是解释。如果我是在考虑你作为文章写作者的水平——比如我给你一本书读,想要一份读书报告——我可能会相信 LLM 给我的读书报告更好。但人们说它们写得不好时,真正指的是:写作是什么?它不只是对已有想法的提炼。也不只是你解释得多清楚,因为它们确实是很好的解释者。关键在于洞见是什么。

这正是自回归作为一种生成方式非常奇怪的地方。当你写作时,你多少知道,要想写得好,就必须有一点不可预测的成分。这不只是在你脑子里调高温度。而是确切地知道在哪个恰当的时间点,你想走出一步不可预测的棋,而那一步将更有洞见。即便它在解释一个已有的东西时更强,那么一开始被你拿来要提炼的那本书,又是什么生成的呢?

生成它的并不是一个 LLM,然后你只是需要它。而是某位作者,通过对世界上各种想法的大量探索,决定了哪些方面有趣,以及用哪些呈现方式能构成一个连贯的、动机充分的叙述。他们以某种方式把这一切整合在一起。如果他们是个好作者,你大概会倾向于去读他们的书,而不是那份提炼。

归根结底,是什么让它首先值得去探索,让人想要把它上传到脑子里?人们说 LLM 不擅长写作时,援引的正是它的这一面。那就是不可预测的成分,是有意识地选择某种新颖的东西,而这与事物通常被产出的方式截然相反。

这个观点很好。我认为它们在对人建立真正好的心理模型方面也非常差,而这是写作中非常重要的一项技能。安迪·马图沙克(Andy Matuschak)和另一位合作者(我现在想不起他的名字)做过一份有意思的报告,他们尝试教 LLM 写出好的间隔重复提示卡。我很喜欢这个,因为尽管它看起来是一项完全随机的技能……就好像,人们在谈论一年后的递归自我改进,而我们却没法让这些东西写出好的记忆卡片。这是怎么回事?

他们尝试了许多不同类型的技术,而且他们都是很老练的人。他们尝试对开源模型做强化学习。他们尝试了各种办法,包括思维链,以及发给最好的闭源模型的一个很长的提示词。在我看来,关键的限制在于,写一张好卡片,就是要预判三个月后某个人的头脑里会是什么样。他们会以什么方式联想起这个问题?那一刻他们会想到什么样的答案?这个提问是否能引出你真正想从你要制作卡片的那段文字中带走的细节?

我认为写作与此类似。如果你在写东西,之所以它是一个如此耗神、耗时如此之长的过程,是因为对每一个词或每一句话,你都必须想:此刻我的读者脑子里在发生什么?

即使我把措辞颠倒一下,让结尾的短语放到开头,让它成为你读完整句话之前脑海中浮现的第一个画面……也许自回归不擅长这一点。这也许更像是扩散模型的特性,即考虑整体,而不是一句一句往下写。但我也认为那需要大量的心智化(mentalizing),而这些模型出人意料地不擅长这个。

这是个有意思的问题。它们不擅长这一点,奇怪吗?我可能会讲得一团糟。你知道你会引用你曾经读到过的研究,也许那项研究并不真实?有一个很令人难忘的。假设你想测试人们的情商。你出示一张某人面部表情的卡片,有人试图描述那种情绪。网上有非常好的测试,给一张脸,然后给四个可能的情绪。要准确描述出正确的情绪出人意料地难,但你同时也能感觉到确实存在一个正确答案。如果你在生活中对身边的人试一试,你会注意到那些在社交上比较“在线”的人做得很好,而那些更偏左脑的人则不然。这是你可以做的一种测试。

我隐约记得有一个这方面的实验,他们找来刚刚打过 Botox 的人,做了前测和后测。在后测中,他们解读别人表情的能力要差得多。这感觉很奇怪。

等一下,他们打了 Botox?

是参加测试的那个人。你先做测试,然后去打 Botox,你的脸全都僵住了,现在你对所见情绪的理解就变差了。这背后的想法是,理解你正在看的那种情绪,有一部分是你自己也在做出来的。在面部层面,你在动自己的脸部肌肉。你看到那个表情,你模仿它,在某种很潜意识的层面你会想:“哦,对,那是焦虑。”

所以从这个意义上说,如果模型确实心智理论很差,当然,它们什么都知道,因为它们读过所有人写的东西。但在真正能够设身处地替你着想的层面上——就像我的脸部肌肉在模仿你的脸部肌肉,那是帮助我理解你感受的东西——这一点一点也不奇怪。它们没有脸部肌肉。它们的大脑工作方式完全不同。这就像是一个外星人在试图共情。它怎么可能有心智理论?那会是一件非常涌现式的事情。

而我们可以直接把对方接入我们自己的头脑。我们有现成的硬件可以直接把它放进去。从这个角度看,这并不那么令人惊讶。

76:02关于使用 LLM 来学习,你有什么建议?正如我之前描述的,对于很多广为人知的概念,我觉得它们非常有帮助。但往往,才往下聊几条消息,我在试图理解某件事时,它们自己就已经那么困惑了,以至于把我也弄糊涂了。它们没有用正确的方式来解释。我知道,找对的人聊,三分钟就能解开我的困惑。

我们会越来越想用这些东西来学习。人们谈了很多关于教育和表征之类的话题。你有没有注意到更有成效地使用它们来理解概念的方法?

我很想听听你对此的看法。我先说说我的。即使在有 LLM 之前,我觉得学习中一个相关的洞见就是:认识到“谁”比“什么”更重要。

我对任何大学生在选课时的建议是:少关心一点你已有的兴趣,因为它们目前有点随意,而多关心一点教这门课的人是不是一位好的教育者,是不是一个能让你产生共鸣的人。在选择读什么书时,作者是谁也许比是不是你以前就感兴趣的主题更重要。如果有一本书你以前喜欢,就去读那位作者写的其他东西,而不是去读关于那个主题的另一本书。

这一点我要说到 LLM 上了。试图从维基百科页面学东西,和去(如果是哲学主题)斯坦福哲学百科全书,或(如果是数学主题)去《普林斯顿数学指南》,在感受上是有区别的。区别在于,那些文章是由一个人有意写成的,他会试图围绕这个主题真正构建出动机。

而在维基百科上,达到的是一种局部最小值,即每一句话都必须是正确的。在一篇好的阐述中,你对过程中的正确性不那么在意。你可以有意构造一些略微不对的说法,并在行文中加以修正,而这在众包环境中会被编辑掉。目前 LLM 的解释在我看来很像维基百科,也就是说,很了不起。想象一下没有维基百科的世界,要找到并弄清所有东西要花多长时间。

但尽管如此,维基百科页面最有用的部分是什么?往往只是底部的参考文献。你看看关键的参考文献,点进去阅读。有时那会给你一个好得多的概览。所以我常常喜欢直接问 LLM:“我应该读谁的东西?”也许我还可以给出一些我想学习方式的具体要求。

我其实有一次被这个“煤气灯”了(gaslit)。当时我想了解半导体之类的东西。我觉得这是一个非常视觉化的主题,但所有的资料都是文字的。我问:“有没有一个把你讲到的概念很好地可视化的视频?”Claude 说:“有,这里有几个”,排在最前面的一个是:“这是 3Blue1Brown 的一个”。我就想:“我可以保证,没有这个。”

那是一个真实的视频,一个真实的链接,只是它把别人的视频错误地归到了我名下。那个视频很好。我点过去看着学,体验比在那里继续追问好得多。从这个意义上说,我基本上是把它当成一个加强版的谷歌,用来锁定正确的人类写作的资源。你呢?你经常用这些。用它们最好的方式是什么?

我觉得你一语中的。我最有成效的学习,是当有某个由人类制作的成品——不管是一篇文章、一本书还是一个视频——以正确的方式组织了相关概念。它建立起动机:为什么下一个想法与解决你接下来会遇到的下一个问题相关,然后是再下一个想法,再下一个。然后你用 LLM 在这本书所确定的这条分支周围做一点修剪。我其实一直在读——我想可能是你推荐的——史蒂文·斯特罗加茨(Steven Strogatz)那本关于……的教科书

讲混沌的那本?《非线性动力学与混沌》(Nonlinear Dynamics and Chaos)?我爱那本书。

对,我一直在读,简直是极大的享受。就像是书本形式的你的视频。特别有意思。我学习的方式是,屏幕的三分之一放他的大学讲座,另三分之一放教科书中对应的那部分,最后三分之一放一个 LLM。我其实在想,如果我回到大学,现场听这堂课,肯定会听得云里雾里。这些孩子一定非常聪明,因为我是暂停、读教科书、跟 LLM 聊,然后再重新开始。但有他来策展理解概念的正确顺序,以及激发理解它们的正确习题……

这是 LLM 非常差的另一件事。一位真正优秀的人类能做到的事:当你问一个问题时,人类可以说:“其实,你对这个主题的思考方式并不正确。你想要问的问题、组织这些概念的正确方式是 X。”LLM 真的做不到这一点。

它有点太爱迎合了。这说到底就是那种谄媚的行为,总是“哦,多么有洞见的问题”。你想把这个剥掉。这个观点很好,我认为它多少触及了心智理论,即认识到提出某一类问题,就揭示了学生的心智结构与解释者的并不相同。

有时人们会把这做过头。拿一位真正优秀的老师来说,比如初中的数学课堂。如果一个学生提出的问题表明他是以不同的方式在思考,那么在当下认真对待这一点,并问“等一下,按那样想能得到正确答案吗?”,然后才说“不要那样,我们这样做”,其实是很难的。真正优秀的老师能够借力柔术般地利用学生那种有创意的思考方式,并把它引入进来。LLM 没有做到这一点。它们不会重新定义你的问题。相反,它们有点跑偏了。

至少,感觉这里有三个层次。LLM 在一个层次,好的解释者在另一个层次,但 A+ 级的解释者是那种能借力你的思考方式并说“你这种想法在这里就有用”的人。也许存在一个完整的循环,五年后,LLM 会做到这一点,而且做得更好。

对那些我敢肯定总是给你发邮件问这个问题的学生,你有什么建议:“我对从事数学很好奇。我对这门学科非常热爱,但看到 AI 取得的所有进展,我不知道把它作为职业来追求是否合理。”这不仅与数学领域的人相关,而且与任何注意到自己所在领域正从 AI 获得生产力提升的人相关。编程与此非常接近。你对这些人有什么建议?

我不会信任我给出的任何建议。我会这样先打个预防针。但即使在 AI 出现之前,对于你要进入的任何工作,真正弄清楚……如果我们谈的是一份工作——而不是做个业余绅士科学家去参与数学界之类的——你就应该了解钱从哪里来,你究竟在增加什么价值,以及这两者之间的联系。出人意料的是,人们在这方面花的心思非常少,尤其是学生。

他们身处这样一个环境:他们很可能想进入数学领域,因为他们一直擅长数学。他们在生活中因为正确地通过一个又一个关卡而得到过奖励。当他们觉得自己想成为数学家时,是因为他们认为那是继续做这件事的一种方式。他们想的是“人们在哪里可以做这个?”,而不是“我在为别人增加什么价值,在多大程度上这就是有薪水流向我的原因?”

不同情况下其实差别很大。有些情况下,是一位声望很高的数学家,他们在一所大学任职带来了某种品牌价值,这就是大学想要他们的原因。有些情况下,美国国家科学基金会(NSF)拨款,是因为我们对基础科学抱有公共利益的信念。围绕这一点有一个机构,还有一整套官僚体系,充当我们认为的那种公共利益的代理,并围绕如何让它们正确预测你的进展符合该资助的精神,有一整套繁琐的程序。有时候,就是纯粹的教学。人们喜欢把孩子送到由专家授课的学校。你通过作为专家提供品牌价值,通过作为教师提供直接价值。

不管 AI 是否在证明定理,也不管我们谈的是 2016 年还是 2026 年,这都是想“我要成为数学家”的学生中,没有足够多的人考虑的事情。我认为值得想一想。就我自己而言,我当时不一定想过这个,我是误打误撞进入了一条职业道路,在这条路上,数学探索可以作为娱乐被变现。我是偶然闯进去的,我非常感激自己这样做了,但那是个意外。并不是刻意为之。如果我当时对此有批判性的思考,我本可以避免依赖机缘巧合,更多地通过设计来实现。

回到你的问题——如果我们几乎实现了自动化的定理证明,并且假设它们也是非常出色的解释者,所以你甚至还能获得人类的理解——我认为数学家所承担的很多社会角色其实不会有太大改变。作为公众,我们仍然觉得基础科学有价值,并且信任数学家的判断,让他们来决定把时间花在哪里最好。声望来自那个群体内部。是其他成员说某个结果非常好,而不是写基金申请的人真的懂代数数论,从而理解那是个好结果。

会有一种内部文化,来界定什么算是有价值的贡献。也许它会从证明定理转向写出好的定义。也许就是那个博物馆策展人的想法。但只要整个社会仍然看重基础科学这个前提,你就会有同样的那个群体。而如果我们处在 AI 带来的富足世界里,在某种意义上,朝那个方向的资助可能还会更多。

至于机构因其讲师是谁而获得声望这一方面,我其实认为教学是后 AGI 时代最稳定的工作之一,因为它非常注重关系。如果家长拥有富足的财富,他们愿意把钱花在这上面:好的教学和好的教育。它远远超出了解释。即使 LLM 是很好的解释者,教师所做的事情是如此具有社会性、教练式、导师式,所以这很可能是未来五十年里最稳定的职业之一。