Grant Sanderson（@3blue1brown）——数学的过去、现在与未来

Dwarkesh Patel 开场就问，一个在国际数学奥林匹克（IMO）上夺金的AI模型，是否就该直接算作AGI，毕竟这样的成绩需要创造性的解题和思维链。Grant Sanderson 不接受这个前提。他说，如果你问十个人AGI是什么意思，会得到十个略有不同的答案，而且这个词似乎预设了一个离散的门槛，他不认为这样的门槛存在。

我不知道人们说“AGI”这个词时到底指什么。

他的另一种图景是连续的。GPT-4之所以已经让人觉得“通用”，是因为同一个训练算法适用于非常大量的任务，而六十年代的人们大概不会料到人工智能的编程方式会是这样。他认为，人们说“它还不是AGI”时通常指的是：它在某些基准上胜过大多数人，却没有胜过最顶尖的人。照这个理解，IMO金牌只是又划掉的一个领域。Sanderson 反问：AGI是否意味着把任何人可能擅长的所有领域都列举出来，而机器在所有这些领域都已胜过人类？

Patel 从经济角度推进：这样的系统可能取代相当大一部分人类工作，而且他见过 Sanderson 频道里的一些题目，认为它正冲着播客主播和视频动画师而来。Sanderson 称这是两码事。他把IMO金牌比作超越人类的围棋或国际象棋，其中的走法带有他所说的创造力的气息；他还指出，一旦图像生成器出现，其他所有人也都能看出有些东西配得上“创造性”这个词。

接着他猜测这一成绩会如何实现。很可能类似AlphaGo的自我对弈，因为数学比其他领域更适合使用合成数据。模型可以在Lean这样的证明检验语言中生成大量证明，根据每个证明是否有效来训练，并用英文书写的版本加以平衡。按他的说法，最终产出可能有两种风格：一种是正确但缺乏动机的证明，你能跟上每一步，却不明白为什么会有人想到这样做；另一种则是你能从道理上明白结果为什么应当成立的论文。

Sanderson 把这一成就与取代工作区分开来。他说，取代工作的障碍是另外一套东西：需要比一个很短的固定长度更长的上下文窗口，使系统能在很长的时间跨度上建立关系、理解对方的出发点，然后再去解决问题。能做IMO题的模型会是一个更有帮助的工具，就像 Mathematica 已经在帮助人们解数学题那样。

Patel 反驳说，国际象棋程序可以通过搜索缩小可能性范围，而 Sanderson 频道上的IMO题目取决于找到正确的抽象，这种抽象在题目本身或任何其他考试中都不明显。Sanderson 回答说，他想听听围棋和国际象棋专家的意见，因为考虑到组合爆炸，像AlphaGo这样强的棋手不会只依赖树搜索，所以它的理解中必然包含某种更高层次的结构。他预计自己会印象深刻，也承认其中有创造性。他唯一的主张是：这是又一个被打勾的格子，是类似国际象棋和围棋那样的历史性时刻，而不是类似工业革命。

Patel 觉得这出乎意料地不够有说服力，他问 Sanderson 是否怀疑：发现两种思维方式之间的同构并把它贯彻五十步，是许多有价值任务的上游。Sanderson 说他是被说服的，并把它比作自己对 Stable Diffusion 生成石英与宝石构成的山脉的惊叹：它抓住了风景的神韵，却不是字面意义上的风景。解一道有创造性的数学题需要横向思维，而不是从定义出发，这与我们从好的类比中得到的快乐相同。他把它归为同一类，并重申自己看不到泾渭分明的AGI前后界线，更不用说由一场数学竞赛来划定。

Patel 问，除了计算机科学和IT之外，应用数学家在社会的哪些地方能发挥最大的益处，并列举交通、物流和制造业作为候选。Sanderson 说自己或许是最不适合回答的人，他会转而解释这个问题为什么重要。他考虑过做一期不同寻常的视频，面向即将毕业的学生。

他的推理是，爱上数学或某个技术领域的人，默认会被学徒式地引入那个领域。大学的物理和数学专业由研究就在该领域的学者来教，所以很难不被训练成接班人。学生们在他的演讲之后告诉他，他的视频是他们学数学或去读研究生的原因。他很高兴，但不确定自己是否要负全责，并且问自己是否想要这样的结果。他毫无保留地希望更多人认同自己喜欢数学，但这样做的人会被分流到传统的出路上。

他同意 Patel 的看法：数学学术界、金融以及计算机科学或数据科学是非常常见的去处，人才几乎肯定被过度配置在这些地方，尽管这三者都有价值。他说，如果让他扮演上帝，他不知道自己会把人们重新引向哪里，他其实是在重述问题而不是回答问题。他建议去和做出这种转变的人聊聊，并举出 Eric Lander 和 Jim Simons 作为例子，他们从纯学术工作转向了截然不同的领域。

他提出过一种强制机制：可以要求纯数学家，比如通过NSF资助的一项条件，把大约10%的时间用于与其他院系合作，理由是他们是某一类问题上的强大解题者，把他们分散开可能会有帮助。数学家们的反应不一。有些人怀疑自己是否真有那么大用处。好的数学问题的审美植根于其纯粹性，而假定这种技能比别人的能力更具普适性，可能有点精英主义。他问，为什么应用生物学家不同样去物流领域工作，不过他内心仍有一部分觉得数学家是特别的，因为数学里有某种通用的东西。

Sanderson 说他没有答案，想听听那些学过数学或相近领域、之后通过问自己想对世界产生什么影响来决定做什么，而不是顺着擅长读书的学术之痒走下去的人怎么说。这样的故事对他的观众可能很有说服力，因为他们大概正走在进入传统数学领域的路上。他说不出更有效地分散他们会是什么样子，因为作为数学YouTuber，他没有物流或制造业的职业经历，也不了解哪里需要抽象的解题能力。Patel 为这一段收尾，建议推测一下，一个年轻的数学天才如何开始看到自己能在哪里占据优势。