Michael Nielsen: 迈克尔·尼尔森——科学究竟如何进步

00:00德瓦克什·帕特尔

今天我邀请到了迈克尔·尼尔森。你做过很多事情。你是量子计算的先驱之一,撰写了该领域的主要教科书,还投身于开放科学运动。你写过一本关于深度学习的书,克里斯·奥拉和格雷格·布罗克曼都说这本书把他们带进了这个领域。最近,你是 Astera 研究所的研究员,正在写一本关于宗教、科学与技术的书。

这些我一个都不打算问。我今天想聊的是:我们如何识别科学进步?这对 AI 尤其相关,因为人们正试图在科学发现上闭合强化学习的验证回路。闭合这个回路意味着什么?但在为这次访谈做准备的过程中,我发现,即便放在人类科学的历史里,它也是一种比我原先理解的更神秘、更难以捉摸的力量。

我想一个好的起点是迈克尔逊-莫雷实验,以及狭义相对论是如何被发现的,看看它与你在 YouTube 视频里看到的故事有什么不同。我就这样抛个引子,然后我们再深入。

迈克尔·尼尔森

迈克尔逊-莫雷实验是一个著名的结果,通常被描述为一项 19 世纪 80 年代完成的实验,它帮助爱因斯坦稍晚一些提出了狭义相对论,从而改变了我们对空间和时间的看法,以及我们对这些事物的根本认识。

我认为,迈克尔逊、莫雷和当时其他人看待这项实验的方式,与爱因斯坦看待或者说没有看待这项实验的方式之间,存在很大的差距。实际上,他晚年曾说过,他甚至不确定当时自己是否知道那篇论文。有很多证据表明他当时很可能知道那篇论文,但它对他的思考根本不具有决定性作用。当时发生的完全是另一回事。

迈克尔逊和莫雷以为自己在做的,是检验各种关于所谓“以太”的理论。回溯到 17 世纪,罗伯特·玻意耳提出了以太的概念。我们知道声音是空气中的振动。玻意耳和其他一些人开始关心光是不是某种东西的振动,可他们弄不清那究竟是什么。玻意耳做过一个实验,检验光能否在真空中传播。他发现可以。声音则做不到。他提出了以太这个概念,此后大约两百年里,人们围绕以太是什么、它的性质如何,展开了各种各样的讨论。

迈克尔逊-莫雷实验实际上是一项让不同的以太理论相互比较的实验,特别是要查明是否存在所谓的“以太风”。当时的想法是,地球也许正穿过这种以太风。如果它确实穿过以太风,而你沿着与以太风平行的方向射出一束光,光就会被稍微加速;如果光是沿相反方向传播,就会被稍微减速,你应该能在干涉实验的结果中看到这一点。令他们大为惊讶的是,他们发现实际上并不存在以太风。这排除了一些以太理论,但并非全部,而迈克尔逊无疑仍然继续相信以太。

德瓦克什·帕特尔

我在读你推荐的那本爱因斯坦传记时,这一点让我很震惊。作者的名字是……他叫什么来着?

迈克尔·尼尔森

亚伯拉罕·派斯。

德瓦克什·帕特尔

亚伯拉罕·派斯。《上帝难以捉摸》(Subtle is the Lord)。还有伊姆雷·拉卡托斯的《科学研究纲领方法论》。通常的讲法是,迈克尔逊-莫雷实验证明了以太不存在,因此在物理学中造成了一场危机,而爱因斯坦用狭义相对论解决了这场危机。

你指出的是,他实际上是想在许多不同的以太理论之间作出区分。比如,不论你是在太空中还是在地球上,以太的方向都是一样的;或者,也许以太风被地球带着一起运动,所以你在地球上其实感受不到它。但如果到足够高的海拔,你也许就能感受到。事实上,迈克尔逊最著名的实验是 1887 年那次,但他基本上持续做了这类实验二十年之久。

迈克尔·尼尔森

比那还要久。我记得他的第一次实验是在 1881 年,但他一直相信到去世。他大概是 1929 年前后去世的,就是 20 年代末。他在 20 世纪 20 年代还在做关于以太是否存在的实验。所以他到生命的尽头依然相信以太。我想他最后一次公开表态是在去世前一两年,基本上到那时他仍然相信。

德瓦克什·帕特尔

事实上,还有另一位物理学家米勒,在 20 世纪 20 年代一直在做这些实验。他认为,如果到足够高的海拔,比如加利福尼亚的威尔逊山……“哦,我所在的位置足够高,以太风不会被地球拖着走了。我已经测到了以太的效应。”爱因斯坦听说了这件事,然后说了那句著名的话:“上帝难以捉摸,但他并无恶意。”

总之,我认为这个故事有趣,原因有很多。真实的科学史不同于你从“科学方法”这一观念中得到的印象,其中一个方面就是:你其实没法像想象中那样轻易地运用证伪。并不清楚被证伪的到底是什么。被证伪的只是以太理论的另一个版本吗?可以肯定的是,你无法从某一个版本的以太似乎被这些实验否定了这一事实,归纳出狭义相对论。

迈克尔·尼尔森

这当然并不表明关于证伪的想法是错的或被证伪了,但它确实表明,最朴素的那些想法……事情往往比你想的复杂得多。迈克尔逊在 1881 年做了这个实验。他当时还是个非常年轻的人,后来其他人,我想瑞利就是其中之一,指出他的做法存在一些问题,所以他们不得不在 1887 年重做。到那时,当时许多领先的物理学家基本上接受了这个结果,即不存在以太风。但对此该怎么办呢?

没错,也许你证伪了一些以太理论。但在这个时点上,还有另一些理论你根本没有证伪,于是人们着手发展它们。有意思的是,人们会把它说成是证明了“以太”不存在。光是这里的“这个”一词就用得不准确。实际上当时有大量不同的理论,以及几个领先的竞争者。所以,是的,这里确实存在某种形式的证伪,但你如何回应这项新实验是非常复杂的。可以肯定,当时领先的物理学家们的回应是:“好吧,这给了我们大量关于以太必然是什么样的信息,但它并没有告诉我们不存在以太。”

德瓦克什·帕特尔

事实上,洛伦兹在 19 世纪末,也就是爱因斯坦之前,就推导出了如何从一个参考系换算到另一个参考系的数学,并得出了洛伦兹变换,而洛伦兹变换是狭义相对论的基础。但他的解释是,你是在从以太参考系换算到这些没有特殊地位的其他参考系,如果你相对于以太运动的话。

他对长度收缩和时间膨胀的解释是,这是穿过以太运动所产生的效应,你会受到这种压力。这种压力使时钟发生扭曲,也使长度的度量发生扭曲。有趣的地方在于,从实验上你无法区分洛伦兹的解释和狭义相对论。

迈克尔·尼尔森

我认为这是个很强的说法。洛伦兹引入了一个叫“地方时”的量,他把它看作……我的理解是,他并不是想给它一个物理解释,而它正是爱因斯坦后来所认定的另一个惯性参考系中的时间。他并不打算赋予它太多物理意义。我认为庞加莱后来更接近于意识到,这就是时钟所记录的时间。

大约四十多年后,人们开始做这些缪子实验:他们看到宇宙射线撞击大气层顶部,产生一阵缪子雨,你可以在大气层中不同的高度查看还剩下多少缪子。它们会随时间衰变,而一件非常奇怪的事情发生了,那就是它们衰变得太慢了。你会预计它们根本不可能一路穿过整个大气层。如果按经典理论,它们的衰变速率会太快。但如果它们的时间真的变慢了,那就没问题了。

事实上,1940 年测得的衰变速率(此后又有了更精确的实验)与狭义相对论的预期完全吻合。这类事情,如果洛伦兹还活着(那时他已经去世十年左右了),看上去很可能他会再一次通过修补来拯救自己的理论,但那将是一次巨大的挫折。这开始看起来就像是:时间,也就是洛伦兹出于数学上的方便而引入的这个东西,至少对缪子而言,它实际上就是时间本身。然后还有一大批其他实验显示了非常相似的现象。

德瓦克什·帕特尔

那个实验是什么时候做的?

迈克尔·尼尔森

我想是 1940 年。也可能是 1941 年发表的。

德瓦克什·帕特尔

也许我可以换个说法,修正一下我的主张:并不是说你无法区分它们,而是科学界在实验真正表明哪一种更可取之前,就已经采纳了我们事后看来更正确的那种解释。所以显然,人类科学有某种过程,能够区分不同的理论。

迈克尔·尼尔森

我能插一句吗?你用了“过程”这个词,想一想这个词是很有意思的。“过程”带有某种预先设定好的意味。实际情况要复杂得多。有洛伦兹这样的人,爱因斯坦对他绝对地、彻底地敬佩;有庞加莱,史上最伟大的科学家之一;还有迈克尔逊,另一位真正杰出的科学家,他们都始终没有与此和解。

并不存在某种我们所有人都在使用的标准程序来调和这些事情。在科学共同体的看法已经大体改变之后,伟大的科学家仍然可以在很长一段时间里保持错误。但并没有一个集中的权威,也没有一套集中的方法。

德瓦克什·帕特尔

这正是有趣的地方。尽管很难说清它是通过怎样的过程、用了哪些启发式方法发生的,但进步确实存在。

你提到了庞加莱。洛伦兹的数学是对的,但解释是错的。庞加莱似乎恰好相反,他明白同时性很难定义,因为这需要对时间作循环定义,或者需要某种能同时抵达中点的东西的速度,而速度本身又是用时间来定义的。我觉得这很有意思。

我们还可以举出另外几个例子。科学史上有这样一种现象:有人提出了正确的问题,却没能把它彻底解决。我很好奇,你认为这些情形里发生了什么。

迈克尔·尼尔森

你确实需要逐个案例去分析、去理解。未必能肯定他们在所有这些案例中犯的是同一种错误。庞加莱的案例令人惊叹。他似乎已经理解了相对性原理,也就是物理定律在所有惯性参考系中都相同的想法。他似乎也理解了光速在所有惯性参考系中都相同。他的表述并不完全是这样,不过这是我的理解,尽管我不懂法语。

这基本上就是爱因斯坦用来推导出狭义相对论的那些想法。但同时,他还有一个额外的误解,他认为长度收缩是一种动力学效应,仿佛粒子是被某种外力推挤到一起的,总之是有什么动力学的事情在发生。他没有理解这纯粹是运动学问题。实际上,空间和时间与我们原先想的不同,你需要从根本上重新思考这些事情。

这几乎像是他知道得太多了。他心里的图景几乎太宏大了。爱因斯坦做了减法,说:“不。空间和时间只是与我们原先想的不同,正确的图景是这样的。”有一篇论文,我想是 1909 年的,庞加莱对长度收缩仍然持这种动力学的图景。这其实是不必要的。从现代的观点来看,这是一个错误。

他为什么这样做?他为什么抓着这个想法不放?我不知道。我显然从没见过这个人。要是能和他谈一谈、试着去理解,那会非常迷人。他的专业知识似乎成了阻碍。他懂得那么多,理解得那么深,却无法放下这些东西。

一个真正有趣的事实是,几年前,也就是 19 世纪 90 年代,爱因斯坦还是个十几岁的少年,他也相信以太。他了解这些东西。但他不像那些年长的人那样执着。也许他们在某种程度上成了自己专业知识的囚徒。这是我的猜测。有些科学史学家肯定会不同意。

德瓦克什·帕特尔

然后还有一些显而易见的故事:据说爱因斯坦本人后来也因为自己的执念,没能抓住量子力学或宇宙学的正确解释。

迈克尔·尼尔森

是的。

德瓦克什·帕特尔

我有个更大的问题。缪子的例子很好地说明了这些漫长的验证回路,以及科学界的进步似乎比这些验证回路所暗示的要快。也许最清楚的例子是,公元前二世纪的阿里斯塔克斯提出了日心说。古代雅典人以这样的理由否定了它:如果太阳真的是太阳系的中心,那么随着地球绕太阳运动,我们应该看到恒星相对于地球发生移动。唯一可能看不到的原因,就是恒星离得太远,以至于观测不到这种现象。

直到 1838 年,恒星视差才真正被测量到。所以,我们并不需要等到 1838 年才接受日心说。我们不需要等待实验验证,才明白哥白尼在某种意义上更好。事实上,众所周知,哥白尼刚提出他的理论时,托勒密模型更精确,因为它有几个世纪里不断添加本轮的积累。

也许不那么为人所知的是,在某种意义上它还更简单。因为哥白尼实际上还得添加额外的本轮。他的模型比托勒密模型有更多的本轮,因为他有一种偏见,认为地球应该在相等的时间内沿着完美的圆形运动。总之,我觉得这个故事有意思,因为它既不是更精确的理论,也不是更简单的理论。那么,你怎么可能事先就知道哥白尼是对的,而托勒密不对呢?

迈克尔·尼尔森

问得好。我并不完全知道答案。我可以给你一个部分的答案,身处几个世纪之后的我,开始觉得它非常有说服力。我相信它至少是历史故事的一部分。对牛顿来说,一个巨大的冲击是:他最终确实理解了开普勒的运动定律,因此你能够解释天空中行星的运动。但同样出自这一个理论,也就是他的引力理论,他还能够解释地面上的运动。他能够解释为什么物体在地球上沿抛物线运动,他还能够用月亮和太阳对地球上水的引力作用来解释潮汐。

你看到三种看起来截然不同、互不相关的现象,都被同一套想法解释了。这开始让人觉得非常有说服力,至少对我来说是这样。我认为大多数人一旦最终领会到这一点,都会觉得非常满足。

17:51德瓦克什·帕特尔

你读过凯恩斯写的牛顿传记吗?

迈克尔·尼尔森

他写了一整本传记?

德瓦克什·帕特尔

不,是那篇文章。

迈克尔·尼尔森

哦,当然。我很喜欢。那个把他称作“最后一位魔法师”的描述太棒了。

德瓦克什·帕特尔

事实上,我觉得也许值得把它叠加在画面上。或者你可以把那一段读出来。

迈克尔·尼尔森

好的。这出自他在去世前不久在剑桥做的一次演讲。他不知怎么得到了牛顿的手稿,为此做过两次讲座,另一次是由他的弟弟杰弗里代讲的,因为他当时病得太重了。中间有一段非常非常精彩的话。整篇都很有意思,但我特别喜欢这句:“牛顿不是理性时代的第一人。他是最后一位魔法师,是最后一位伟大的头脑,他用与那些在不到一万年前开始构筑我们智识遗产的人相同的眼睛,注视着可见的世界和智识的世界。”

人们认为牛顿是第一位现代科学家,这个看法在某种程度上是错的。其中有一些道理,但他确实有一种非常不同的看待世界的方式,一部分迷信,一部分现代。那是一种奇特的混合体。从某种意义上说,他是一位过渡人物。“最后一位魔法师”这个说法确实点出了一些东西。

德瓦克什·帕特尔

关于牛顿,我非常好奇的是,他在炼金术工作中所用的,和他在理解天文学时所用的,是不是同一套方案、同样的启发式、同样的偏见。这是凯恩斯那篇文章里的话:“他的疯狂中有着极端的条理。他所有未发表的关于神秘学和神学问题的著作,都具有严谨的学识、准确的方法和极其克制的表述。如果不是它们的全部内容和目的都属于魔法,它们和《原理》一样理智。它们几乎全是在他研究数学的同一个 25 年间写成的。”

显然,存在某种审美,促使爱因斯坦这样的人拒绝先前的思维方式,并说:“不,另一种是错的,有更好的方式来思考问题。”牛顿也是如此。我的问题是,对简约、美感等方面的类似启发式,是否能在不同时代、不同学科中同样有用,还是说你需要不同的启发式。这之所以重要,是因为即使我们无法为科学建立验证回路,但如果各种品味检验指向同一个方向,至少你可以把这种偏好编码进 AI 里。那也许就够了。

迈克尔·尼尔森

关键在于,我们总是在以往的过程和启发式不适用的地方遇到瓶颈。这几乎是从定义上就导致了瓶颈。因为人们很聪明,他们知道什么方法以前行得通。他们研究它,运用同样的那类东西,所以他们不会再卡在和以前相同的地方。他们总是在不同的地方遇到瓶颈。我有点过度概括了,但我认为这是对的。

如果你试图把科学还原成一个过程,也就是还原成某种你只要应用就行的方法,转动曲柄,洞见就冒出来了。你可以做到一定程度,但你会在现有方法不适用的地方遇到瓶颈。从定义上说,那里没有你可以转动的曲柄。你需要很多人去尝试不同的想法。想法越难产生,瓶颈越大,但随之而来的成就也越大。

量子力学就是一个很好的例子。它是一套如此令人震惊的想法,是一个如此令人震惊的理论。进化论在某种意义上也是一个相当令人震惊的想法,令人震惊的不是自然选择原理,而是它竟能解释这么多东西。那是一个令人震惊的想法。

23:26德瓦克什·帕特尔

《自然哲学的数学原理》发表于 1687 年。《物种起源》发表于 1859 年。至少从直观上看,达尔文的自然选择理论在概念上似乎比引力理论更容易。

我问过陶哲轩这个问题。与达尔文同时代有一位生物学家托马斯·赫胥黎,他读到这个理论后说:“没想到这一点,真是蠢得可以。”从来没有人读了《原理》后会想:“天哪,我当初怎么没抢在牛顿前面?”所以这是怎么回事?为什么达尔文主义花了这么长的时间?

迈克尔·尼尔森

这个想法,动物育种者在某种程度上肯定早就知道了,或者至少这个想法的很大一部分早已为人所知,即人工选择确实是存在的。从某种意义上说,达尔文的天才不在于有了这个想法,而在于他理解了这个想法对生物学有多么核心。你可以回头用它来解释我们在世界上看到的各种多样性的大量内容,它不一定是唯一的原理,但肯定是一条核心原理。他写了那本精彩的书《物种起源》。书里有如此多的证据和例子,试图把这一点梳理出来,看看它的含义,并尽可能多地把它与其他东西联系起来,与地质学以及所有其他领域。

他在那里所做的,就是那种艰苦的工作:论证它实际上与整个生物圈都相关。他不只是有了这个想法,他还提出了令人信服的论证,说明它与其他一切事物都紧密交织在一起。

德瓦克什·帕特尔

我提出这个问题的动机来自卢克莱修,这位公元前一世纪的罗马诗人有一个看起来类似于自然选择的想法。它讲的是物种随时间推移越来越适应其环境,或者物种失去对环境的适应。那么,为什么这个想法在十九个世纪里毫无进展?

后来我去查了,更准确地说,是问了大语言模型,卢克莱修的想法究竟是什么。它与真正的自然选择极为不同。他认为过去有一个创生期,所有物种都在那时出现,然后有一次性的过滤,留下了今天存在的物种,它们变得适应了环境。

他没有这样的想法:这是一个持续的渐进过程,或者存在一棵把地球上所有生命形式连接在一起的生命之树。顺便说一下,地球上的每一种生命形式都有一个共同祖先,这是一个极其奇怪的事实。

迈克尔·尼尔森

这并不是极其奇怪。如果你认为生命的起源一定非常困难,那里存在一个瓶颈,那就没那么令人惊讶了。

德瓦克什·帕特尔

这里还有验证回路的这一层面:即使牛顿的理论在某种意义上可能更难,但一旦你把它敲定了,你就可以通过实验……我知道从哲学上说“验证”这个词不对,但你可以给这个理论加上很多基础分。

你可以说:“好,我有一个关于地球上物体为什么下落的想法。我有一个关于行星轨道周期为什么呈现某种规律的想法。让我们在绕地球运行的月球上试试。”结果,说来也怪,轨道周期与我的计算所暗示的相符。

迈克尔·尼尔森

而且潮汐也算对了。真是太神奇了。

德瓦克什·帕特尔

没错。而对于达尔文主义,达尔文需要花费大量工作去汇集所有累积的证据,但没有哪一个单独的证据是压倒性地有力的。

迈克尔·尼尔森

而且还有一大堆问题。他并不真正理解机制是什么。他不懂基因,诸如此类。

德瓦克什·帕特尔

达尔文主义的历史中非常有趣的一点是,这个理论上随时都可以想出来的想法,却在阿尔弗雷德·华莱士和查尔斯·达尔文之间几乎一模一样地被独立创造出来。以至于我记得华莱士把他的手稿寄给了达尔文,问:“你觉得这个想法怎么样?”而达尔文的反应是:“靠。”

迈克尔·尼尔森

我不认为那是原话,但大体上是对的。

德瓦克什·帕特尔

他们最后本着体育精神,一起发表了各自的想法。为什么 19 世纪 50 年代或 60 年代这段时期是这些想法形成的恰当时机?你可以想到不同的原因。一是地质学。19 世纪 30 年代,查尔斯·莱尔弄清楚了地球上已经存在了数百万年乃至数十亿年的时间。古生物学表明化石在整个这段时间里都存在。生命的历史非常悠久。事实上,你甚至可以找到中间物种的化石,向你展示生命之树。在人类和其他类人猿之间,也有中间形态的人类。

还有殖民时代,我们有许多航行在进行生物地理学研究。这一切一定都是必要的。事实上,科学史上有大量平行创新和发现的历史。所以也许这是另一条证据,说明一个想法要被发现,需要具备更多的条件。因为如果它很长时间都没被发现,然后突然间许多不同的人都想出了它,这就表明那些基石在某种意义上是必需的。

迈克尔·尼尔森

莱尔和 19 世纪初其他地质学家提出深时间这一想法的这个例子,看来确实至关重要。我知道达尔文深受莱尔的影响。如果没有至少数千万年或数亿年,进化论开始显得根本行不通。

如果要让它在 5000 到 10000 年的时间尺度上成立,或者按厄舍主教的说法 6000 年,你就需要看到进化在人类一生的时间里以极高的速度发生,而我们根本没有看到这种情况。这看来确实是一个阻碍。至于你问还有什么其他阻碍,有没有别的,我不知道。

德瓦克什·帕特尔

或者说,如果你聪明得多,原则上你能提前多久想出它?

29:52迈克尔·尼尔森

让我们退回去,把视野拉远,回到你最初关于 AI 中验证回路的问题。有一个例子应该能让你在这方面停下来想一想,那就是迄今为止最大的标志性成功,当然是 AlphaFold。AlphaFold 其实并不真的关乎 AI。那里的成功有很大一部分要归功于蛋白质数据库。是 X 射线衍射、核磁共振、冷冻电镜,以及为获得这 18 万个左右的蛋白质结构而花费的数十亿美元。

这基本上讲的是,我们花了几十年的时间,只是通过走出去、非常努力地对世界进行实验观察来获得蛋白质结构,然后在最后拟合了一个漂亮的模型,而这只占整个投入的极小一部分。这主要是一个数据获取的故事。AI 的那部分非常令人印象深刻,也相当了不起,但它只是整个故事的一小部分。

德瓦克什·帕特尔

AlphaFold 非常有意思,从哲学上说,我想知道你如何看待它作为一种科学理论或解释。我想,随着时间推移,世界变得越来越难以理解……我在说这些的时候,因为你是一位非常严谨的说话者,我每说一句话,就会想你是否真的会接受这个前提。

但在某些领域,我们需要的是把模型拟合到事物上,而不是提出能解释广泛现象的底层原理。比较一下广义相对论,或者任何最终归结为若干方程的理论,与 AlphaFold,后者在一亿多个参数中编码了各种事物之间的关系,而我们甚至无法解读这些关系。

这两者真的是一回事吗?广义相对论可以预测你从未预料到的、或者它本来就不是为此设计的东西,比如水星轨道为什么会进动。AlphaFold 不会有那种解释上的延展力。我想听听你对此的反应。

迈克尔·尼尔森

我认为这是一个极其有趣的问题,也许是一个真正关键的问题。如果你采取非常经典的观点,你想要的是深层的解释性原理。你想要尽可能少的自由参数。你想要能解释很多东西的非常简单的模型,而 AlphaFold 看起来完全不是那样。你也许会说:“作为一个模型,它很好,也许有用,但它不是科学解释。”这是一种保守的观点,是对这个问题的第一种回答。

第二种回答是说,也许你不应该把 AlphaFold 看作经典意义上的解释,但它内部也许包含着许多小小的解释。可解释性研究能带来的部分收获是,你可以深入 AlphaFold,开始提取某些东西。也许通过对 AlphaFold 做一次“考古”,我们实际上能更深入地理解这些原理。你可以开始提取出某个回路做了这件有趣的事情,然后我们从中学到东西。

我不知道 AlphaFold 在多大程度上做过这样的事,但在一些国际象棋模型上做过一点,比如 AlphaZero。似乎有一些策略被马格努斯·卡尔森借用了,他似乎就是直接从 AlphaZero 那里拿来的。我认为没有任何公开的确认,但一些专家注意到,在 AlphaZero 的工作方式被公开做了一些剖析之后,他的棋风发生了相当大的转变。这是一个人类开始从这些模型中提取意义的例子。

这就引出了把模型看作潜在的解释来源。你需要做更多的工作,因为它们一开始并不太易读,但你有可能把解释提取出来。这是一种有趣的中间状态:它们本身不是解释,但你可以从中提取出有趣的解释,并把它们当作来源来使用。

第三种、也是最有趣的可能性是,它们是一种新型的对象。它们应当被非常严肃地看作解释,不过过去我们没有能力真正对它们做什么,现在我们有了有趣的新操作可以进行。我们可以合并它们,可以蒸馏它们。这在科学哲学上是一个很大的机会。

这在某种程度上已有先声。今天一些数学家和物理学家在工作时……从历史上看,如果你有一个 100 页长的方程(这类事情确实会出现),在 1920 年你根本无计可施。到那时,你就放弃这个问题了。但今天,有了 Mathematica 这样的工具,你可以一直做下去。它现在是一个对象,一个你可以处理的东西。有些例子里,人们处理这些以前被认为太复杂的东西,有时最后会得到简单的答案。那只是一个中间的工作状态。

所以我想知道,在这种情况下是否会发生类似的事情:你可以拿这些模型,像人们使用 Mathematica 那样来使用它们,并认真对待它们。它们不是经典意义上的解释,但它们会是别的什么东西,可以对其进行有趣的操作。

德瓦克什·帕特尔

我担心的是,假设现在是 1500 年,你在训练一个模型,用……这是一段奇怪的历史,我们在有宇宙学之前就发展出了深度学习。假设我们生活在那样的世界里。你观察到恒星似乎并不移动。行星有各种奇怪的行为。然后你在这些数据上训练一个模型,并对它做某种可解释性研究,试图弄清楚其中的规律。

你只能在托勒密的模型上不断往上堆。你会看到还有一个我们没注意到的本轮。参数 X 到 Y 编码这个本轮,另外某些参数编码下一个本轮。如果你只是想根据观测数据弄清楚太阳系为什么是现在这个样子,你可以一直在本轮上再加本轮,但真正需要一个头脑把这一切整合起来,并说:“这样整体上更说得通。”

迈克尔·尼尔森

这正印证了我的观点:我们其实并不明白该拿这些模型怎么办。我们还没有相应的动词。有一个问题当然很有意思,就是你开始对模型施加约束,本质上是说:“最简单的可能解释是什么?”或者:“你能简化吗?你能给我一个 90/10 的解释吗?”然后在把它熬到精简的方向上越走越远。

情况可能确实是,它们起初提供的是一个非常非常复杂、有很多参数的模型。但你可以强制推进,而这基本上只是脚手架,也许是它们试图理解某件事的最初阶段。通过这个过程,它们被迫走向一种简单得多的理解。

德瓦克什·帕特尔

不好意思我可能理解有误,但听起来你是说,也许可以对一个非常复杂的模型做某种正则化或蒸馏,从而得到一个更真实、更简约的理论。拿托勒密和哥白尼来说。你一开始有很多托勒密的本轮,然后你尝试蒸馏这个模型,也许它会去掉一些越来越不必要的本轮,只要轨道的均方误差仍能匹配。

但在某个时刻,它必须做这样一件事,即把两样东西互换。就局部而言,它实际上并没有让结果更精确。只有在全局意义上,它才是一个更具进步性的理论。显然,人类在其漫长的历程中经历了某种过程,完成了那种正则化或那次替换。但对于原始的梯度下降,我真不觉得它会这么做。

迈克尔·尼尔森

想想从牛顿引力过渡到爱因斯坦广义相对论的例子。这是两个截然不同的理论,问题是什么引发了这次转变。据我所知的历史,事情是这样的:爱因斯坦发展出狭义相对论,几乎马上就明白了。这是一个非常明显的观察。在狭义相对论中,影响不能比光速传播得更快,而在牛顿引力中,作用是超距的。

在狭义相对论中,你马上就可以用牛顿引力来做超光速信号传递。你可以把信息送回过去。你可以做各种疯狂的事情。意识到我们这里有个大问题,并不是多大的飞跃。这就是那里的强制性因素。你意识到旧的解释不够用了。你需要新的东西。

然后你会从做最简单的尝试开始。结果发现其中很多并不太管用,所以你被迫经历这些步骤,逐渐变得更复杂,并且在各个方面都是错的。最终的理论看起来极其简洁而优美,但它经历过一些有点丑陋的中间阶段。

德瓦克什·帕特尔

如果你在思考让 AI 加速科学是什么样子,有一类是针对已被充分理解的领域,我们只想要局部的解决方案,比如这个蛋白质如何折叠。我们就用梯度下降直接训练一个原始模型。而另一类是像提出广义相对论这样的事情,你不可能只是在宇宙中的每一项观测上训练,然后指望广义相对论冒出来。

那需要什么呢?它当然也不是立刻就被发现的。那经过了几十年的思考。你需要独立的研究纲领,让人们从这些偏见出发,比如爱因斯坦最初是被这个思想实验所驱动:你能否区分引力的效应和仅仅是向上加速。你只需要让不同的 AI 思想者从这些最初的偏见出发,看看能从中萌发出什么。这方面的验证回路也许会很长,但你只需要让所有这些研究纲领同时保持存活。

迈克尔·尼尔森

你提到的让所有不同研究纲领保持存活这一点,我认为非常重要,也是核心所在。一个很好的例子是这样的情形:同一个答案在某些情况下是正确的,在另一些情况下却是错误的。

天王星的位置不太对,人们据此预测了海王星的存在,这很有名。这是牛顿引力的一次美妙而巨大的成功。水星的位置也不太对。你预测存在某颗别的造成扰动的行星。结果它并不存在。实际上,水星位置不对的原因是你需要广义相对论。

你追求了非常相似的想法,在一个案例中非常成功,在另一个案例中却彻底而完全地失败了。事先你无法判断这两者中哪一个才是该做的事,而你实际上需要两个都做。这在科学史上当然非常真实。

这种多样性,也就是让很多人各自出发,去追求很多潜在有前景的想法,你就是需要长期支持这一点。出于种种原因,这很难做到,但它确实似乎非常非常重要。

德瓦克什·帕特尔

天王星与水星的这个例子非常有意思。我认为它说明了证伪主义的困难。天王星的轨道在某种意义上证伪了牛顿力学。但随后你做出一个辅助性的预测,说:“哦,发生这种情况的原因一定是另有一颗行星在扰动天王星的轨道。”我记得是 1846 年的勒威耶。“把望远镜指向正确的方向,你就会发现天王星。”

迈克尔·尼尔森

海王星。

德瓦克什·帕特尔

抱歉。对,海王星。但对水星来说,人们观察到构成其轨道的椭圆每世纪比牛顿力学所预期的多转动 43 角秒,所以人们说水星轨道内侧一定有一颗行星。他们把它叫作火神星,并把望远镜对准那里。它并不在那儿。

但如果你是一个地道的牛顿主义者,你会说:“嗯,也许有某些宇宙尘埃遮挡了这颗行星,或者也许这颗行星小到我们看不见,或者让我们造一台更强大的望远镜,或者也许有某个磁场干扰了我们的测量。”在这些步骤中的任何一步——

迈克尔·尼尔森

而且这种事一再发生。有太多故事和这个一模一样。我很喜欢 20 世纪 90 年代的一个例子。有些人注意到,“先驱者号”航天器并不完全在它们本应在的位置。

你可能会为此非常兴奋。“天哪,广义相对论错了。也许我们要发现下一个引力理论了。”今天被接受的解释是,航天器只是存在轻微的不对称。结果发现,热辐射在一个方向上比另一个方向上略大,这导致了朝向太阳的一个微小加速度。大多数时候,出现这类表面上的例外,发生的就是这样的事情。

这非常像水星与火神星的案例。但偶尔,情况并非如此。事先你无法区分这些。科学中到处都是这样的情形。同样有趣的是,我们讲述科学史的方式听起来那么简单。你只要盯住正确的例外,意识到需要抛弃旧理论,瞧,诺贝尔奖就在等着你。但实际上,这些例外无处不在。99.9% 的时候,结果只是一些像“先驱者号”航天器那样的热加速度之类的效应。不幸的是,这些故事里混入了大量的选择偏差。

德瓦克什·帕特尔

问题在于,不存在任何事先的启发式能告诉你你处在哪种情况。为了说明我为什么认为这很重要:有些人认为,AI 会在科学上取得不成比例的进展,因为它在具有紧密验证回路的领域里取得不成比例的进展。它在编程上非常出色,因为你可以运行单元测试。

科学也许类似,因为你可以做实验。这种看法没有认识到的是,与任何一个给定的实验相容的理论有无穷多个。随着时间推移,我们为什么会抓住那个事后看来更正确的理论,正如我们所讨论的,是很难说清楚的。

拉卡托斯在那本书里有各种有趣的例子,讲述这些持续极其长久的、带有敌意的验证回路。他谈到的一个是普劳特。1815 年有一位化学家假设,所有原子核的重量一定都是整数。它们基本上都是由氢构成的。他这样想的原因是,如果你看所有元素的测量重量,似乎几乎所有元素的重量确实都是整数。但也有一些例外。比如,氯测出来是 35.5。

于是这个学派的人不断提出各种特设的理论,比如:“哦,也许有化学杂质。”但似乎没有任何化学反应能把它去除掉。也许它是整数的分数,所以 35.5 可以是二分之几。但实际上,如果你把氯测得更精确,它是 35.46,所以它离正确的分数越来越远。后来发现,你实际测量的是不同的同位素,它们无法通过化学方法区分,只能通过物理方法区分。

所以在我们意识到同位素是什么之前,有 85 年的时间,验证回路主动与正确的理论为敌。你只需要有这样一股残余力量在捍卫着……并没有任何事先的理由说明它是更受青睐的理论。作为一个共同体,我们应该让人们尝试整合新的观测,即使这些观测似乎并不符合他们的思想流派,并且希望这样的事情发生得足够多……总之,我想我试图表达的是自动化科学的困难。

迈克尔·尼尔森

问题是,在某种层面上,瓶颈在哪里?我们主要被一种东西卡住,还是被多种东西卡住?当然,和结构生物学的人交谈,他们似乎认为 AlphaFold 是一次巨大的进步。那是一次冲击。

在某种层面上,是的,AI 当然可以帮助我们加快科学。它正在帮助解决某一类瓶颈。但正如你所说,这并不意味着它必然会帮助解决所有类型的瓶颈。我想你所指向的问题是:还剩下哪些类型的瓶颈,以及越过它们的前景如何?

即使是编程的情形,和程序员朋友聊聊也很有意思。目前他们都处在这种震惊和高度兴奋的状态,情绪起伏很大。你确实会想,瓶颈将会转移到哪里。当然,现在他们中的很多人似乎被卡住的一点,是要有有趣的想法,尤其是有趣的设计想法。对于一个设计想法是否非常有趣,并没有真正的验证回路。

他们不再那么受限于产出代码的能力,但仍然被这另一样东西卡住。以前他们没有被它卡住,因为光是写代码就占了他们很多时间。他们在花三周实现原型的过程中可以产生很多想法,然后再去实现下一个版本。现在他们花三个小时就实现了原型,而在那之后,从设计的角度,他们就没有那么好的想法了。

50:54德瓦克什·帕特尔

你有一个非常有趣的观点。我想那是你某篇文章里的一条脚注,我没能再找到它,大意是,如果我们遇到外星人,他们很可能拥有与我们截然不同的技术栈。这与我一直有而从未质疑过的一个常见假设相矛盾,那就是科学是文明历史相对早期要做的事情。你到了某个阶段,花上几百年把基础的东西搞透,弄清宇宙如何运作,然后你就掌握了。你拥有了科学。接着所有人都会趋同于同一种“科学”。我觉得这是个非常有趣的想法,想请你多谈谈。

迈克尔·尼尔森

我至少在某种程度上认同的想法是,技术树,或者说科学与技术树,可能比我们意识到的要大得多。我们处在一个有趣的处境中。人们有时会谈到万物理论作为物理学的潜在目标,于是有一种预设,认为一旦到达那里,物理学就完成了。当然,这完全不是事实。

想想计算机科学,它始于 20 世纪 30 年代,当时图灵、丘奇等人奠定了“万物理论”是什么。他们只是说:“计算是这样运作的。”此后我们花了九十多年探索其后果,并逐步建立起越来越有趣的想法。这些想法在某种程度上你可以看作技术。但只要它们是在那个计算理论内部被发现的原理,我认为最好把它们看作科学,在某些情况下是非常基础的科学。

像公钥密码学这样的想法是极其深刻、非常不显然的想法,早在 20 世纪 30 年代就已潜藏在那里了。我的预期是,探索这棵技术树会有不同的方式,而我们仍然处于相对靠下的位置。我们仍处于刚刚理解这些基本理论的阶段,还没有真正去探索它们。

我觉得很有意思的一件事是看看物质的相。我上学时,老师教我们物质有三种相,有时是四种或五种,取决于你包括什么。作为成年人、作为物理学家,你开始意识到我们一直在往这份清单里添加东西。我们有超导体和超流体,也许还有不同类型的超导体,还有玻色-爱因斯坦凝聚体、量子霍尔系统、分数量子霍尔系统,等等。事情开始显现出来:有很多物质相等待发现,而我们将发现多得多的相。事实上,在某种意义上,我们将能够开始设计它们。我们仍将受物理定律的约束,但其中有着巨大的自由度。

在我看来,这表明我们还处在技术树的底部。我们在那里才刚刚起步,而我预期这种情况是普遍的。编程当然是一个很自然的观察对象。认为我们已经发现了编程中所有深刻的想法,这种想法显然很荒谬。我们不断发现看起来深刻、新颖、基础的想法。我们的能力非常有限。我们基本上只是稍微进化了一点的黑猩猩,所以我们很慢,需要时间。但是再过一百万年,在人们对如何操控计算机和信息的所有不同想法方面,我们会是什么样子?我认为我们很可能会发现,仍有大量非常深刻的想法有待发现。

我想是克努斯在《计算机程序设计艺术》的前言里说过类似的话。他在六十年代就开始写这本书。他和一位数学家交谈,那位数学家有点轻蔑,说:“听着,计算机科学还算不上一门学问。等有了一千条深刻的定理再来找我。”几十年后写前言时,克努斯评论道:“现在显然有一千条深刻的定理了。”

想想长期的未来会是什么样,这很有意思:当你在技术树上越爬越高,会面临关于我们走哪个方向、如何选择探索方式的选择。完全有可能的是,不同的文明或不同的选择,意味着我们最终会处在那棵树的不同部分。特别是,有一些非常基本的事情,比如我们是非常依赖视觉的生物,而某些其他动物则更多依赖听觉。这会不会使你的思想类型产生偏向?然后你把它延伸到更加奇异的文明,他们在感知和操控世界方面的偏向可能与我们大不相同。这可能会让他们探索技术树的方式发生重大变化。当然,这一切都是猜测。

德瓦克什·帕特尔

这个观点太有意思了。我想更好地理解它。一种理解方式是,可能有一些东西是如此基础,与现实的“碰撞面”如此之广,以至于它们必然会被发现,比如广义相对论。

迈克尔·尼尔森

数。数。在银河系所有的智能体中……也许这个数是一。嗯,其实可以说我们已经增加了这个数。但在所有这些智能体中,有多大比例拥有计数的概念?这看起来确实很自然。有多大比例发现了某种十进制位值系统的想法?这是个有趣的问题。也许我们遗漏了某种非常简单而明显、实际上比这好得多的东西。

有多大比例一下子就到了那里?有多大比例必须经过某种其他的中间状态?有多大比例使用线性表示,而不是二维或三维的表示?我认为这些问题的答案根本不显然。这里有很大的设计自由度。

德瓦克什·帕特尔

关于理论计算机科学,我接下来要说的会极其天真和傲慢,但我上过斯科特·阿伦森的复杂性理论课,而且我是他教过的最差的学生,没有之一。我记得有这样一个时期,你是其中的先驱之一,我们弄清了量子计算机能解决的那一类问题,以及它与经典计算机能解决的问题之间有什么关系。那是开创性的。这行得通真是不可思议。从那以后……真的有一个叫“复杂度动物园”的网站,列出了所有复杂度类。如果你有这个复杂度类,配上这种预言机,它就等价于另一个类。感觉我们是在把那个分类体系补全。

你说的话有几种理解方式。一种是,也许你不同意我的看法,不认为这个领域真的发生了这样的情况。另一种是,虽然这种情况可能发生在任何一个领域,但在 1880 年,除了巴贝奇之外,谁会想到计算机科学会成为一门学问?我们低估了可能还有多少个领域。或者也许你两者都认同,或者还有第三个秘密的想法。我很好奇。

迈克尔·尼尔森

这里一个很常见的论点是低垂果实论点,也就是说应该存在收益递减。

德瓦克什·帕特尔

事实上,从经验上我们看到了这一点。世界上的科学家数量呈指数增长。

迈克尔·尼尔森

我认为值得想一想,为什么你预期会有收益递减,以及这个论点在实践中到底适用到什么程度。我喜欢的一个类比是,想想去参加一个活动,比如婚礼,你走到甜点自助区。他们摆出了三十种甜点。很自然,人们的做法是最好的甜点最先被拿走。我们对此并没有完全良序的偏好,所以也许会有一些差异,但人类相当相似,所以最好的甜点会先被拿走。这个论证说明了为什么你预期在很多不同的领域会有收益递减。如果比较容易看清有什么可选,而且人们的偏好相似,那么最好的东西就会先被拿走,在那之后就越来越差。

如果你看科学进展在某个时间点上非常静态的快照,也许这里面有一些道理。但如果有人站在甜点桌后面,不断补充、重新上架甜点,并持续加入新的品种,那么结果可能是稍后出现了好得多的甜点,而你会转而去吃那些。

科学进步有一点这种味道。我们会经历一些有趣的时期。计算机科学就是一个很好的例子,它基本上是作为数学哲学和逻辑学中一些相当晦涩的问题的副产品而出现的。你看到这些人试图攻克一些相当深奥、看起来已经处于探索很高层次的问题,结果他们发现了这个基础性的新领域,于是那里突然爆发了。收益递减的论证在那里就是不适用。我们只是看不到那里有什么。

这种情况一再发生。新领域出现,突然间,砰,又很容易取得进展了。年轻人蜂拥而入,因为你二十一岁就可以取得重大突破,而不必花二十五年去掌握此前所有已做过的东西。这显然非常有吸引力。我不确定有谁真正很好地理解这里的动力学,或者该如何思考知识的结构为什么是这样,为什么这些新领域不断打开。但从经验上看,情况似乎确实如此。

德瓦克什·帕特尔

尽管情况如此……拿深度学习来说。显然,这是一个年轻领域的例子,二十一岁的人也能取得进展,而且它相对较新。从它重新进入高速发展期算起大约十五年。但我们已经处在这样一个阶段:要在前沿继续取得进展,需要数十亿、数百亿甚至数千亿美元。

对此有几种理解方式。一种是,它实际上确实比古人所必须做的那类事情更难,或者至少更耗费资源。第二种是,它也许本来并不更难,但因为我们文明的资源如此庞大,人口如此众多,资金如此充裕,我们基本上可以几乎立刻取得古人可能需要永远才能取得的进展。我们注意到某件事富有成效,就立即把所有资源都投进去。但同样奇怪的是,这样的例子并不多。我觉得深度学习之所以引人注目,是因为它是一个大例外,因为很难想到其他例子。

迈克尔·尼尔森

我认为那是注意力架构的结果。在任何给定的时刻,总有一个最成功的东西。如果深度学习不存在,也许你就会谈论 CRISPR。也许我们就不会把解决蛋白质结构预测问题看作 AI 的成功。也许我们会用曲线拟合(从更广义上理解)想出办法做到这一点,然后我们会说:“哇,那消耗了很多计算资源。”但蛋白质结构预测可能是一件极其重要的事情。

总有一个我们眼中最大的东西。你所指出的,更多是注意力被集中的方式所造成的结果。我的意思是,这基本上是时尚。不只是时尚,但那里确实存在某种动态。

德瓦克什·帕特尔

这个想法有一个非常有趣而重要的推论。分支如此之宽,如此偶然,又如此依赖路径,以至于不同的文明会偶然走上完全不同的技术栈。一个非常有趣的推论是,在极其遥远的未来仍会存在贸易带来的收益,而就文明如何组织、如何协调、如何对接而言,这也许实际上是关于遥远未来最重要的事实之一。并不是那种“出发去开发利用”的情形。从相邻的殖民地之类的地方获得的贸易收益将是极其巨大的。

迈克尔·尼尔森

算是吧。问题在于真正困难的是什么。如果只是想法,那么想法传播得相对较快。分享想法相对容易。如果是更多的东西,那几乎是丹·王式的想法,存在某种产能的概念。你需要所有正确的技术,需要所有正确的制造能力,等等。

所以文明 A 拥有一种非常不同的制造能力,而这在文明 B 里并不那么容易建立起来。即使文明 B 更先进,我认为这一点也仍然成立。存在一种比较优势,它会为双向的贸易带来巨大的好处。最终,你预期创新会有某种扩散。想想那里的障碍是什么,这很有意思。

我喜欢想的一个有趣的思想实验是“外星人的 GitHub”。有人把某个外星文明的所有代码都拿给你。我甚至不知道在那里“代码”意味着什么,总之就是他们对算法的规约。里面会有许多有趣的新想法,而人类要花上无穷无尽的时间去钻研并试图把这些全部提取出来。

对我来说,这个想法的起源是思考自然界中的蛋白质。我们被赠予了种类如此惊人的机器,而我们对它们几乎一无所知。我们只能逐个去尝试理解它们。我们至今仍在理解血红蛋白和胰岛素之类的东西。已知的蛋白质有数亿种。所以这有点像那样。生物学赠予了我们这座巨大的机器图书馆,毫无疑问其中包含着数量庞大的非常有趣的想法,而我们对它的理解才刚刚起步。

我想你的意思是(我需要稍微重新标注一下你的论点),你把它看作来自外星文明的礼物,当然它不是,但你这样看待它。天哪,里面有那么多东西,我们将去研究它。天晓得我们能继续研究多久。关于血红蛋白之类的东西有成千上万篇论文,而我们仍然不理解它们,但我们已经从中得到了这么多。单想想胰岛素就知道了。它是如此重要的东西。

德瓦克什·帕特尔

这是一个极其有用的直觉泵:在地球上你有……我请过尼克·莱恩做嘉宾,他有一个关于生命如何出现的理论,但不管你持什么理论,像 DNA 这样的东西已经有了四十亿年。想象一个外星文明来到这里,说:“关于材料科学,这里有好多有趣的东西可以学。”

迈克尔·尼尔森

想想驱动蛋白沿着轨道行走。我们对这些蛋白质几乎一无所知,而我们确实知道的那一点点事实就已经令人难以置信。核糖体是另一个例子,是一种神奇的装置,一座小小的工厂。

德瓦克什·帕特尔

这一切都源自地球上这种特定的化学,即核酸和碳基生命形式。这种化学催生了所有这些有趣的东西,外星文明会觉得它们非常有趣。那颗种子,在通用的智识想法的数万亿种可能的种子中只是其中之一,却带来了所有这些丰饶。这是一个非常有趣的直觉泵。

我想仔细琢磨一下这个“贸易收益”的问题,因为我觉得这里有非常有趣的地方:如果你持有这样一种关于技术如何进步、以及它在不同文明中可能有何不同的图景,那么它实际上对不同文明之间可能如何互动有重要的含义。也就是将会存在巨大的贸易收益这一事实。

迈克尔·尼尔森

它使友善更有回报?

德瓦克什·帕特尔

是的。这是一个非常重要的观察。

迈克尔·尼尔森

我完全没想过这一点。这是一个非常有趣的观察。说来也怪,比较优势是人们很爱援引的东西,显然是一个非常漂亮的想法。但它是有局限的。它是一个特殊的、有限的模型。

黑猩猩能做一些有趣的事情,但我们不和它们做贸易。想想其中的原因,我觉得很有意思。我认为部分原因只是权力。一旦存在足够大的权力失衡,很多时候(不是总是,但很多时候)人群似乎就会转入另一种模式,只想着支配对方。也许人类有某种特别之处,但也可能这是一种更普遍的现象。你需要所有这些特殊条件都成立,群体之间才会进行贸易。这未必是显而易见的。

德瓦克什·帕特尔

我认为这里起作用的主要有两点:第一是交易成本。第二,比较优势并不能告诉你,贸易发生时的条件对任何一个给定的生产者来说是高于维持生存水平的。人们经常在这样的语境下提到它:“好吧,即使在后通用人工智能的世界里,人类也会因为比较优势而有工作。”

这个论证有五种不同的破绽,但最容易理解的一个是:为什么我们的道路上不再到处是马?因为汽车和马之间存在某种比较优势。第一,建造同时兼容马和汽车的道路,交易成本巨大。同样,以 1000 倍速度思考、能够把彼此的潜在状态直接发射给对方的 AI,会发现与供应链中的人类打交道,其成本远高于收益。

第二,马在数学上具有比较优势,并不意味着每年花 10 万美元,或者在旧金山养一匹马需要的任何费用,是值得的。那样的维持生存成本,不值得你从马身上得到的收益。

迈克尔·尼尔森

我确实觉得这很有意思,就是这个事实本身……我的预期和直觉在这一点上显然与你有很大不同。技术树的大部分地方永远不会被探索。把各种东西组合起来的有趣方式实在太多了。等待被发现的深刻想法太多了,不仅是我们,而是任何人都永远不会发现其中的大部分。所以,关于如何进行探索的选择,实际上相当重要。

这正是我非常不喜欢技术决定论论证的地方。当进步相对简单时,在足够低的层次上,我愿意接受它。但在更高的层次上,你开始有机会塑造探索的方式。有意思的是,我们正开始以有趣的方式塑造它。

有各种技术基本上已被禁止。想想滴滴涕(DDT)、氯氟烃、对使用核武器的限制、《不扩散核武器条约》。这类事情并不是在事实发生之前就做出的,但在某些情况下已经相当接近了,我们只是预先决定:“哦,我们不走那条路。”所以这开始看起来像是一套制度,我们实际上正在借此影响我们探索技术树的方式。

德瓦克什·帕特尔

关于在哪里会看到这些贸易收益,显然在可以来回发送的纯信息上会看到最多,因为信息有这样的特性:生产昂贵,但验证和传送都很便宜。未来的生产力有多少可以被提炼为信息,这会很有意思。

现在,这很难做到。如果中国非常擅长制造某样东西,那么这种工艺知识就存在于中国制造业中 1 亿人的头脑里。但在未来,如果由 AI 来做,这可能会更容易。

迈克尔·尼尔森

问题是我们的制造会在多大程度上变得非常统一、真正商品化。3D 打印机至少 20 年来一直是“下一个大事件”。为什么它们仍然不太好用?为什么它们仍然不在制造业的中心,之后又会出现什么?相比之下,看看核糖体很有意思,它在很多非常有趣的方面确实处于生物学的中心。

制造业的未来,是否会是某种非常简单的东西,即一切都作为通量经过一个生物反应器之类的东西。你发送信息,然后培育出东西,或者你有某种真正好用的 3D 打印机。如果它们足够好,那么这就会更多地变成一个纯粹的信息问题,而一部分工艺知识会变得不那么重要。

75:26德瓦克什·帕特尔

我能问一个措辞很笨拙的问题吗?我们已经发现了几条深刻的原理。其一是这样的想法:如果在某个维度上存在对称性,它就对应于一个守恒量。这是一个非常深刻的想法。另一个(你写过很多,事实上还写过一本教科书)是关于如何理解你能计算哪些东西、你能用其他物理系统来理解哪些物理系统、通用计算机是什么样子,等等。

你的看法是,如果你深入到诺特定理或丘奇-图灵原理这个层次的想法,存在无穷多条极其深刻的这类原理吗?因为我觉得它们之所以特殊,是因为它们本身涵盖了世界可能的那么多种不同样子。但事实上,世界必须与这几条非常深刻的原理相容。

迈克尔·尼尔森

我不知道。我在这里有的只是猜测和直觉。我的直觉是,我们不断发现非常基础的新东西。对我来说,理解这一点具有很强的塑造作用:正如我之前举的例子,丘奇、图灵和其他人关于通用可编程设备的那些精彩想法。后来你明白,这里面也包含了公钥密码学的想法。再后来你明白,那里面又包含了人们称之为加密货币的想法。

这里有一组非常深刻的想法,关于集体维护一份大家公认的账本的能力,它就建立在这个基础之上。花了很多年才弄清楚这些想法的正确规范形式。你不断发现看起来深刻的、新的基础原语,仅这一事实对我来说就是一个非常重要的直觉泵。我举了那个特定的例子,但我认为在很多不同领域你都能看到同样的模式。

德瓦克什·帕特尔

那么你如何解释这个经验现象:无论你考虑科学过程或技术进步的哪种投入……经济学家用上百万种方式研究过这个问题。似乎总需要每年增加 X% 的研究人员,速率非常稳定。几年前有一篇著名的论文,作者包括尼古拉斯·布鲁姆等人,他们问:“半导体行业有多少人在工作,在摩尔定律的整个历史中这个数字是如何增长的?”我记得他们发现,摩尔定律意味着晶体管密度每年增加 40%,但要维持它,半导体行业的科学家数量每年增加了 9%。他们逐个行业地考察,都有这个观察结果。

你的看法是,这些深刻的想法确实存在,但它们越来越难找到吗?还是说,对这些经验观察所反映的现象,还有别的思考方式?

迈克尔·尼尔森

首先,他们所有的例子都是狭窄的。他们挑选一个特定的东西,然后看某个特定的指标。GPU 并没有出现在那里。突然间你有了并行化的能力,这非常有意思。会有许多外部的后果。基本上他们使用的是这些简单的量化指标。他们在农业生产率上这样看,也从很多其他不同的角度这样看,但你确实得把焦点放得很窄。

我当然对新类型的进步不断成为可能这一事实感兴趣。但我认为即使在那里,似乎仍然存在某种收益递减的现象。这是内在的吗?是世界结构本身的某种性质吗?到底是什么?有一件没有太大改变的事情,就是从事这类工作的个体头脑。也许这些也应该得到改进,或者那里正在发生某种反馈过程。也许那会改变事物的性质。

我看科学进步,直到比如说 1700 年,它一直非常缓慢,而且非常不规则。早在公元前五个世纪,爱奥尼亚人就做出了相当了不起的事情,然后许多知识丢失了,又被重新发现,然后又丢失了。你不得不说进步非常缓慢。部分原因只是与这样一个事实纠缠在一起:有一些非常好的想法,是我们当时还没有的。

即使有了想法,你还需要围绕它们建立制度。你实际上需要解决大量不同的问题,比如培养、资本分配,诸如此类。甚至只是研究者的基本安全,让他们不必担心宗教裁判所之类的事情。有所有这些复杂的问题。你解决了所有这些复杂的问题,然后突然间,砰,科学进步出现了巨大的爆发。

如果出现某种停滞,如果你没有改变那些外部环境,是的,你可能会重新开始出现收益递减。但这并不意味着这种情况有什么内在的原因。也许需要某种外部的东西再次改变。显然,很多人认为 AI 有可能成为一个驱动力。在某种程度上它当然会是。

就这一点而言,你可以把很多现代科学仪器在某种层面上看作真正的机器人。詹姆斯·韦布空间望远镜是什么?把它描述成机器人也许不合常规,但也并非完全不合理。它是一个高度自动化、非常精密的系统,带有电子介导的传感器和执行器,并使用机器学习来处理数据。在这个意义上,我们已经开始看到这种转变了。我们已经看了几十年。

德瓦克什·帕特尔

我有一个“抽一口大麻、吞云吐雾”式的想法,就是——

迈克尔·尼尔森

我想我们已经有过几个了。

德瓦克什·帕特尔

我想我们正聊到那一部分了,然后你可以帮我收回刚才的失言,找到一种更具体的思考方式。按你的说法,先有工业革命,有启蒙运动,现在有 AI,每一次可能是科学发生的不同节奏或不同方式。如果你想想这类转变发生的速度有多快,你可以在人类漫长的历史上画出一条双曲线式的增长率,而且这个增长率本身也在随时间增加。

十万年前,是石器时代。再往前追溯得更远,灵长类存在了多久?那会是数百万年。十万年前是石器时代,一万年前是农业革命,三百年前是工业革命,每一次都以指数增长率的提高为标志。然后人们认为 AI 会再次带来这样的变化。但那可能会发生得更快。

在工业革命开始时,没有人会想到,这一趋势中的下一个分界会是人工智能。所以,如果事情在加快,而又很难预料下一次转变会是什么。我想我们只是把从现在到 AI 之间的这个奇点,看作区分过去与未来的东西。但如果应用过去许多人本应有的那种启发式,也许“智能时代”本身也相当短暂,而在那之后的下一件事,我们甚至还没有本体论来描述它是什么,未来不会把过去看作前 AI 和后 AI 时代。

迈克尔·尼尔森

不,显然我们无法证明这一点,但它确实看起来相当合理。部分问题只是,我们用来构想的基底似乎完全不对。你没法和一群黑猩猩一起推测拥有语言会是什么样子。就拿过去的一次重大转变为例,转变本身就是那个东西。这似乎是很有可能的。

如果我们在聊“吞云吐雾”式的想法,我当然觉得有意思的是这样一个想法:使用经典计算机的通用人工智能会带来某种转变。但实际上,量子计算机也会带来一次有趣的转变。它们大概能够完成严格更大一类的、潜在有趣的计算。所以也许 AQGI(不管它该叫什么)的特征在性质上是不同的。所以也许在这两件事之间有一小段时期。正如我所说,这只是猜测,但它确实很有趣。

德瓦克什·帕特尔

有理由这样认为吗?据我所知,几十年来,像你这样的人已经对量子计算机能做的事情设定了相当严格的界限。它会在一定程度上加速搜索。它能极大加速的那些东西,比如肖尔算法,看起来……再说一次,也许这正是你所说的:我们无法事先预测技术树的下面有什么,但至少从这里看,似乎你能破解加密,但除此之外你还能用肖尔算法做什么?

迈克尔·尼尔森

我们才思考了大约 40 年。时间不算长,而且作为一个文明,我们也没有那么用力地去想过。结果会不会是它非常狭窄?也许。结果会不会是它非常广泛?那也是一次真正激进的扩展,看起来明显有可能。还要记住,我们是在没有这些设备的条件下做这件事的。这是一个相当大的瓶颈。

德瓦克什·帕特尔

如果你在 18 世纪思考计算机科学,你会说:“它能做与/或运算,能从中产生什么呢?”你无法预料到比特币。你无法预料到深度学习。

迈克尔·尼尔森

如果你足够聪明,也许可以,但这确实是个相当困难的处境。

86:25德瓦克什·帕特尔

作为 90 年代和 2000 年代量子信息与量子计算的亲历者和贡献者,你的内部视角是什么?你如何讲述当时瓶颈是什么的历史?是什么关键转变让它成为一个真正的领域?你如何给从费曼到多伊奇再到其他后来者的贡献排序?

迈克尔·尼尔森

我们先集中在究竟是什么改变了这个问题上。为什么量子计算在 20 世纪 50 年代没有成为一件事?本来可以的。约翰·冯·诺依曼这样的人就是个好例子。他绝对是计算的开拓者。他还写过一本关于量子力学的非常重要的书,并对它深感兴趣。他当时本可以发明量子计算,而且我认为当时有相当多的人都有可能做到。

那么,为什么是费曼、多伊奇这些人在 80 年代写出了那些论文?那些论文被公认为这个领域的奠基之作。稍早一点有一些部分的预见,但它们远不如那些全面,也远不如那些深刻。你应该去问大卫。你问不了费曼,很遗憾,但大卫会比我清楚得多。

我觉得有几件事很有意思。其一是,计算在 70 年代末和 80 年代初变得突出得多。它成了更多人感兴趣的东西,部分原因非常平淡。你可以去买一台个人电脑。你可以买一台 Apple II,可以买一台 Commodore 64,可以买所有这类东西。人们逐渐明白,这些是非常强大的设备,非常值得思考。

与此同时,在量子这边,那也是保罗阱和囚禁单个离子的能力出现的时期。在那之前,我们并没有真正拥有操控单个量子态的能力。于是你有了这两件事,由于历史偶然的原因,都在 1980 年前后成熟了。像冯·诺依曼这样的人本可以更早提出这个想法,但这仍是一个相当有趣的因素。

有一个关于理查德·费曼的故事。他在 1980 或 1981 年前后买了最早的一批个人电脑之一。据说他对这台设备兴奋得不得了,以至于在搬运他崭新的计算设备时绊了一跤,摔得相当严重。有一个非常有才华、又懂量子力学的人,同时还对这些新机器非常兴奋,这是一个极具历史偶然性的巧合。他在那时思考这个问题,也许就没那么令人惊讶了。10 年前你能讲出类似的故事吗?那时不具备相应条件。我的意思是,这是个相当平淡的故事,不过……

德瓦克什·帕特尔

我们原本要讨论的事情之一,是你提出的“后续跟进的市场”这个想法。我认为这个故事正好适合讨论它,因为你写了这个领域的教科书。“Mike and Ike”是量子信息领域的权威教科书。你想必是在多伊奇之后入场的。

但你在 90 年代不知怎么就认定了这是值得跟进和在其上继续构建的东西。与其抽象地讨论,我很想听听第一手的故事:你是怎么知道这是该做的事的?在物理学和计算领域发生的所有事情中,你是怎么决定要思考这个问题的?

迈克尔·尼尔森

理查德·费曼在 1982 年写了那篇很棒的论文。大卫·多伊奇在 1985 年写了一篇绝对出色的论文,勾勒了量子计算的许多基本思想。1985 年我 11 岁。我当时不会想这些。我在踢足球,做着各种别的事。但在 1992 年,我上了一门量子力学课,非常棒,授课的是杰拉德·米尔本。

有一天,大概是第五节课之后,我就去问了杰拉德。我说:“您有什么论文之类的可以给我吗?”他说:“过几天来我办公室。”我去了,他递给我一大摞论文,其中有多伊奇的论文、费曼的论文,还有一大堆其他关于量子计算和量子信息的非常基础的论文,而当时世界上基本上没有人在做这个。他在做。我想他写了第一篇提出量子计算实用方案的论文。它不是很实用,但确实是在一个真实的系统里。

所以在某种意义上,我受益于另一个人的品味。我一读到那些论文……那些论文令人兴奋。它们问的是非常根本的问题,而你意识到我能在这里取得进展。这些是人们有可能着手去做的事情。

多伊奇提出了一个猜想,或者论点,不管你怎么称呼它,即一个通用模型,也就是量子图灵机,应该能够高效地模拟任何物理系统。这是一个非常具有挑衅性的想法。我认为在那篇论文里,他或多或少声称自己已经证明了它。我不确定是否所有人都会同意这一点。关于能否有效模拟量子场论,存在一些疑问。这类问题非常有趣、非常令人兴奋。这显然是关于宇宙的根本性问题。

他在里面有一些关于量子算法的精彩想法,关于它们从何而来、意味着什么,以及它们与波函数的含义有何关联。这类问题在物理学家之间至今仍未达成一致。你会有一种感觉:“哦,我接触到了某种东西,它(A)非常重要,而且(B)我们作为一个文明还不拥有它。”当然,你就会开始把注意力稍微集中到那里。

德瓦克什·帕特尔

我不确定我是否得到了问题的答案……

迈克尔·尼尔森

也许我误解了问题。

德瓦克什·帕特尔

也许我先解释一下动机。在之前的一次谈话中,我们讨论过,在 20 世纪 40 年代,你怎么可能知道香农定理以及香农看待通信信道的方式是一个深刻的想法,它超越了贝尔实验室当时试图解决的脉冲编码调制问题,并且适用于从量子力学到遗传学再到计算机科学的一切。

你提到的、我们还没来得及谈的想法之一……香农发表了这篇论文。还有其他各种论文,但存在某种“后续跟进的市场”,人们被吸引过来,并在香农的工作之上继续构建。他们是怎么意识到这是该做的事的,这个过程又是如何发生的?我想你给出了你个人的局部答案。你读了这些论文,立刻意识到这里有工作可做。有低垂的果实。有某个深刻而具有挑衅性的想法需要我去更好地理解,而且我能切实地取得进展。

迈克尔·尼尔森

在某种程度上,你是在说:“好吧,我想加入这场为人类对宇宙的理解作贡献的游戏。”你运用的是这套低垂果实算法。你会想:“相对于我自己特定的兴趣和能力,我该在哪里拿起铲子开始挖?”当时就觉得:“哦,这看起来是个相当不错的开挖之处。”当然,不同的人选择差别很大。这在当时是一个非常不寻常的选择。那是 1992 年。很少有人在思考那个。

95:29德瓦克什·帕特尔

快进一点,我不知道你现在如何看待你在开放科学运动上的工作,但它成功了吗?那里的成功是什么样子?这场运动试图实现什么?

迈克尔·尼尔森

有意思。你在那里没有停下来定义开放科学,而 20 年前你是必须这么做的。人们认得这个词。人们对它有一些联想。大多数时候,他们的联想相对简单。也许意味着让科学论文开放获取。很多时候,他们也有一些关于让代码公开可得或让数据公开可得的想法。

让这些议题变得突出,这本身已经是开放科学运动的非常大的成功。这些是人们有看法的议题,也有相对常见的论证。这就像是模因版本:公共资助的科学应该是开放科学。这是对一组想法的提炼,你或许可以对其提出质疑。但如果你能让人们真正去思考并参与这类论证,那就是在整个科学的政治经济学中需要考虑的一个非常根本的问题。

如果你回溯三个世纪,曾有过一场非常相似的争论,问题是:我们是否公开披露科学成果?看看伽利略和开普勒这样的人,他们公开披露的程度是以一种非常奇怪的方式进行的。有时他们会做一些怪异的事,比如把某些成果以变位词的形式发表。他们发现了某项成果,把结果写成一句话,打乱字母,然后发表。之后如果别人也做出了同样的发现,他们就把变位词还原,说:“哦,对,其实是我先做出来的。”这并不是发现体系的理想基础。

我认为花了很长时间,一个多世纪,才获得了大致现代的理想:你以论文的形式披露知识。人们期待署名,并且建立起一套声誉经济。“某某做了这项工作,所以他们应该得到这个功劳”,这是他们职业生涯的基础。这就是科学底层的政治经济学。当你有了印刷机和办科学期刊的能力时,这非常合理。

然后你过渡到现代的状况,你可以开始分享多得多的东西。你可以分享你的代码、数据和进行中的想法。但没有与这些直接挂钩的功劳。应该给它们多少声誉,完全不明确。这一切都是社会性建构出来的。让它成为一个活跃的议题,是一件非常重要的事。我把它看作开放科学工作的主要积极成果之一。

我给你举一个非常实际的例子来说明这个问题。在物理学里,很长时间以来存在一种预印本文化,人们把预印本上传到预印本档案库,而在生物学里,这种情况并不存在。没有预印本文化。现在这正在改变,但很长一段时间都是这样。我过去常常以问物理学家和生物学家为什么会这样来自娱自乐。

我从生物学家那里听到的是,他们会说:“生物学的竞争比物理学激烈得多,所以我们需要保护自己的优先权,因此我们绝不可能上传到档案库。我们只能在期刊上发表。”而我有时从物理学家那里听到的是:“物理学的竞争比生物学激烈得多,所以我们需要通过尽可能快地上传到预印本档案库来确立我们的优先权。我们绝不可能等着通过期刊来做。”

我认为这突出说明了,这种署功经济在多大程度上只是我们建构出来的东西。它是我们通过约定来做的事情。任何试图改变这种经济的尝试,都会产生一个不同的、我们据以建构知识的体系。围绕科学的政治经济学,存在着这样一组非常根本的问题。我们有这个集体的事业,而我们如何居中调节它,取决于我们围绕想法所拥有的经济。

德瓦克什·帕特尔

你在这项开放科学事业中强调的事情之一,也是我们之前谈到的,是集体科学,即一群人在一个问题上取得进展,而其中没有任何一个人理解实现某次飞跃或建立某个联系所需的全部逻辑和解释层次。在数学之外,这类发现的最佳例子是什么?

迈克尔·尼尔森

我不确定我对它们有一个良序,能给你说出最好的。我认为一个非常有趣的例子是大型强子对撞机(LHC),它就是一个极其复杂的对象。多年前,我偷偷溜进了一个加速器物理学会议。我对加速器物理一无所知,只是好奇想看看他们在谈什么。

这群特定的人是数值方法的专家,特别是反问题方法的专家。在这些加速器内部,会有级联。一个粒子被极大地加速,也许它会发生碰撞,然后你会得到一阵粒子雨,不断衰变,衰变,再衰变。会有这种令人难以置信的、连锁后果式的粒子雨,而这最终才是你在探测器上看到的东西。然后你必须回过头来弄清楚是什么产生了它。需要解决这些非常复杂的反问题。你拿到的是最终数据,但你需要弄清楚是什么产生了它,这就是你寻找这些信号特征的方式。

这些人中有许多人是追踪粒子轨迹的模拟方法的极其深入的专家。这些真的是非常深奥而困难的东西。我当时想:“哇,你可以花一辈子只学习如何做这个,以及如何解决其中一些反问题,而你对量子场论、探测器物理、真空物理或数据处理却知之甚少,而所有这些对于理解比如希格斯玻色子都是绝对必不可少的。”

我认为不可能有一个人深入地理解所有东西。很多人大体上理解其中许多想法,但他们并不理解所有东西到实际被运用的那种深度。这就是为什么会有作者超过一千人的论文。这些人可以在高层面上彼此交谈,但他们对彼此的专业领域并没有理解得那么深入。像探测器物理、真空物理、求解反问题这些东西,彼此之间差别极大。要真正详细地理解它,是一项严肃的工作。

103:57德瓦克什·帕特尔

你怎么看多产与深度?也许达尔文就是一个例子,他对某件事酝酿了几十年。还有其他例子。爱因斯坦在提出狭义相对论的那一年,同时在做一堆不同的事情。而派斯谈到,它们都与最终的积累有关。

迈克尔·尼尔森

这是我非常焦虑的一件事。有时我觉得自己太慢了。不过有意思的是,达尔文的例子真的很有意思。多产于什么?天晓得他写了多少封信。数量一定非常庞大。所以他当然非常活跃。

任何创造性项目通常都涉及两类工作。有一类是例行工作,对此你只想避免拖延。你只想问:“我怎样才能把这件事做好?”或者“我怎样把它外包出去?”以及“我怎样才能尽可能快地完成它?”并且避免陷入拖延它的处境。

另一类是高方差的工作,你实际上需要愿意花很多时间。你需要愿意去不同的地方,和不同的人交谈,在任何一个具体情形里,大部分都不会成为投入。以某种方式平衡这两件事……我认为很多人非常擅长做其中之一,但喜欢哪一个几乎像是一种性格特质。人们往往最终做了很多这一类,而另一类做得不够。所以我当然会努力平衡这两件事。

爱因斯坦是个非常有趣的例子。1905 年是非同寻常的一年。你可以把狭义相对论整个删掉,它仍然是非同寻常的一年。你可以删掉狭义相对论,也删掉他因之获得诺贝尔奖的光电效应,它仍然是非同寻常的一年,很可能是够得上多个诺贝尔奖的一年。那么他在做什么?也许答案只是他比我们其他人聪明。当然还有很多运气。

至少对我自己而言,我试着识别出那些我应该做好的例行事务,然后尽可能快地把它们做完。我认为这带来了一定的回报。但同样,愿意在方差那一面多押注自己一点,也非常非常有帮助。这真的很难,因为从本质上说,你把自己放在了你不知道结果会如何的处境里。如果你非常渴望高产,而实际上大部分时候那边没有成果,你会想:“让我们减少这个。”这感觉不对。

我在旧金山工作时,我每天都有的一个习惯是,不走 15 分钟的路去上班,而是走更美的 30 分钟的路。部分原因只是因为它很美,但部分也是为了提醒自己:不追求效率是有真正的好处的。不过这不是对你问题的回答。我想,我真正想说的只是,我在这个问题上挣扎得很厉害。

德瓦克什·帕特尔

我想迪恩·基思·西蒙顿有一条著名的等概率法则,他说,对于某个人,他一生中发表的任何一件东西(任何论文、书籍,等等)成为极其重要作品的概率差别并不大。真正决定他们在哪个时期最高产的,是他们发表了多少东西。任何一件作品成为极其重要之作的几率都是均等的。我认为一些最成功的创作者或科学家,就是做得很多。莎士比亚就是发表了很多。

迈克尔·尼尔森

当然,也有反例。哥德尔几乎什么都没发表。但大体上说,你需要有非常好的理由才不这样做。有意思的是,这些年来我遇到过很多显然才华横溢的人,他们执迷于要做那个能让自己成名的伟大项目,却什么也没做。这似乎是相关的。这是一种回避心理。我认为很多时候他们只是不想被公开评判。

有一样东西我很希望看到……有大量关于取得巨大成就的人的传记、回忆录和历史。我希望有大量关于那些才华横溢却恰恰错失了机会的人的传记。我认识一些在国际数学奥林匹克之类比赛中拿过金牌的人,后来他们试图成为数学家却失败了。发生了什么?原因是什么?我怀疑在很多情况下,这实际上比其他任何东西都更有参考价值。

109:17德瓦克什·帕特尔

我在这次访谈之前读了你的一篇文章,讲的是你如何看待你所做的工作是什么。而“作家”似乎不是合适的标签。正如你所说,查尔斯·达尔文是作家吗?这个标签到底是什么意思?我是一名播客主持人。从某种角度说,显然我们的工作非常不同,但我也经常思考这项工作是什么,以及我如何做得更好。

特别是,我如何确保我在播客里访谈的不同人之间能产生某种复利?我担心的是,与其说有这种复利,不如说我对一个话题建立起某种有些肤浅的理解,然后它就贬值了。我转到下一个话题,它又贬值了。世界上有很多播客主持人采访的专家比我多得多,而我不认为他们因此变得更聪明或知识更渊博。所以显然有可能把这件事搞砸。

我想知道,对于如何从这类工作中更深入地学习,你有没有想法、看法或建议。

迈克尔·尼尔森

这是一个极其复杂而丰富的问题。问题似乎是,你如何让它成为一个更高增长的环境?你如何让它成为一个要求更高的环境?你可以用相对较小的方式去做,那样也许能带来复利式的回报,或者你可以做一些更激进的事。也许这意味着启动一个平行的项目,在其中做一些实际上相当不同的事情。

关于要求很高如何能简单地改变你对某件事的反应,有一些非常有意思的地方。我有时对学生、有时对自己做的一件事(其实更多是针对我自己),是他们会在某一周说:“我要试着在接下来一周完成这项工作。”然后下一周过去了,他们没有解决那个问题。如果当时赌注是一百万美元,你会投入同样的努力吗?答案无一例外是否定的。他们尝试了,但并没有真正尝试。

我认为这是我们所有人都非常熟悉的感觉。如果有一位恰好严格要求你的监工站在你身旁,对你说:“听着,你在这里几乎没有发力。”你可以做得多得多。我确实有点好奇,那位严格的监工是什么?他们能问你什么,才能让你的准备强度大大提高?

德瓦克什·帕特尔

老实说,最有帮助的是……对于某些主题,我该怎么准备是非常清楚的。我即将做一期关于芯片设计的节目,嘉宾是一家做芯片设计的公司的创始人,他还写了这方面的教科书。昨天我去了他的办公室,我们头脑风暴出五个我可以做的屋顶线分析。如果我理解了这些,我就有了一些不错的理解。

问题在于,几乎所有其他领域都没有这样的课程体系。三四年前我采访伊利亚的时候,是这样的:实现 Transformer,如果你实现了它,你就有了一点被你牢牢抓住的理解。对其他领域,则只是我模糊地理解这个。它没有被牢牢抓住。没有那种“做这个练习,做了你就会理解”的强制性因素。

迈克尔·尼尔森

你真正说的是,你可以不真正获得这种理解就把播客做得很好,而从你的角度看,这就是问题所在。你想要改变你的职位描述,以便你每次都能把这些块内化,并获得这种整合。在我看来,这意味着你实际上想要在某种层面上改变工作产出的结构。

很多人有一个糟糕的想法,认为自己应该一直处于心流状态。据我所知,高水平的表现者根本不相信这一点。他们只是有时处于心流中。你在运动员身上当然能看到这一点。当他们真正在场上打篮球或网球时,理想情况下他们大部分时间都处于心流中。但训练的时候他们不是。他们很多时候是卡住的,或者在把事情做得很糟。我想我好奇的是,对你来说这是什么样子。

德瓦克什·帕特尔

那样我会非常满意。问题是,我不知道相当于“跑 64 圈”的是什么。这是你可以通过选择有清晰课程体系的嘉宾来改变的事情。所以也许没有这样做是个错误。另外,准备采访陶哲轩没有真正的办法。不存在一个可信的课程体系。

失败模式有很多,但我担心的一个长期动态是:你可以做一个很好的播客并达到一个局部最大值,但对于任何一位特定的嘉宾或话题,你都没有挖得足够深。我的学习模型是,如果你没有真正理解更深层的机制,你就只是在映射一个黑箱的输入和输出。那会消退得极快,或者一开始就不值得。你就这样继续往前走,然后一切结束。你需要建立中间的联系。

AI 在某种奇怪的意义上正因此而非常容易,因为有一件清楚明确的事可以做。把它实现出来,然后你就理解了。如果我把这个标准用到别处,我是不是就不做历史类的节目了?

迈克尔·尼尔森

没错。艾达·帕尔默。和她交谈很美妙,极其有趣。但对你个人来说,有什么改变?

德瓦克什·帕特尔

我学到了一些东西。如果我分配了更多时间,尤其是在访谈之后,写上 2000 字,总结我学到的一切,以及它如何与我所知的其他东西相联系。也许这是一件值得做的事,把各期节目间隔得更开,并在之后花更多时间巩固。

如果有人真的很擅长设计课程体系、你需要做的练习题,以及访谈之后用来牢牢巩固所学内容的练习,我愿意付出无限多的钱。

迈克尔·尼尔森

你试过和某个人这样做吗?

德瓦克什·帕特尔

很难找到这样的人。我没有特别努力地找过,但要找到一个能为每一种学科都做到这一点的人,不是会很困难吗?也许我应该针对不同的话题分别雇不同的人。

迈克尔·尼尔森

也许吧。这里有个问题:你在每一期节目里要解决的是什么问题?据我所知,那是我真正理解任何东西的唯一方式。我对某件事产生了兴趣。起初,我甚至没有一个问题,只是隐约觉得这里有某种贡献可以做,然后你逐渐聚焦,于是就有了一个问题。

说来有趣,花时间卡住是极其重要的。过去那只是令人恼火。现在看来,它甚至可能是整个过程中最重要的部分。那种来之不易的特性,意味着我事后会把它内化。我写过几天就完成的 10000 字的文章,也写过花了三个月或六个月的。我觉得从那些只花了几天的文章里,我没有学到多少东西。而花了三个月的一些文章,15 年后我仍然会记得。

德瓦克什·帕特尔

在物理学之外,你能描述一下,在那些花了三个月的文章里,你是怎么学习的吗?

迈克尔·尼尔森

到目前为止最常见的情况是,总有某种创造性的产物。有时是一门课。有时是参与一群共同创作某个集体创造性产物的人的工作。你甚至可能没有意识到,但你在以某种方式充当他们创造目标的输入。有时是一篇文章或一本书之类的。

这也是我常常很喜欢做播客的原因之一。我答应来这里,部分是因为我知道你会问异常有难度的问题。那是试图从另一种强制性因素中获得这种视角。努力选出要求最高的创造性环境。

德瓦克什·帕特尔

为了这次访谈,我读完了萨斯坎德那本狭义相对论的书中的三讲。问题是,书里几乎没有练习题。所以我请了一位物理学家朋友。我还没做,但我希望每一讲都有一堆练习题可以做,我也打算接受应有的磨炼,被打磨得足够谦卑。

迈克尔·尼尔森

你怎样让它尽可能切中要害?你能把赌注抬得越高越好。

德瓦克什·帕特尔

访谈在某种意义上赌注很高,但它也未必能检验深入的理解。

迈克尔·尼尔森

我不认为访谈的赌注有那么高。你不是在写一本关于狭义相对论的书,也不是想写一本取代现有标准教科书的书。那才是真正的高赌注。

顺便说一下,有一个短语我觉得特别难办。人们会谈到对一个主题“深入研究”,而结果发现,不同的人对此意味着什么有不同的看法。对有些人来说,意思是他们读了几篇博客文章。对有些人来说,意思是他们读了一本关于它的书。对有些人来说,意思是他们写了一本关于它的书。你对自己所持的标准,在很大程度上决定了你以这种方式整合知识的能力。

德瓦克什·帕特尔

我发现,在某种意义上借助 AI,我在某些事情上能快得多,但我不知道自己是否学得更好。我认为大概是因为……最难的事,要求最高的事,是如此令人抗拒,以至于你会抓住任何借口来逃避它。仅仅是和大语言模型来回对话,你在其中一带而过……

迈克尔·尼尔森

那很有娱乐性,但未必有别的什么用处。

德瓦克什·帕特尔

这是逃避那件事的一种太容易的方式。事实上,它使逃避更容易了,因为与其做一些中间的思考,你总是可以向聊天机器人再问下一个问题。

迈克尔·尼尔森

是的。而且它也有一定价值。当然,这正是其诱惑性的一部分。它实际上并非毫无用处。但它可能会替代你本应去做的真正的事情。这很有意思。你应该在多大程度上把这类事情外包出去?这是一个有趣的判断。有一大堆你想要完成的例行工作。它们对你来说价值很低,所以如果你能让聊天机器人去做,那不妨就让它做。

多年前有人采访了计算机科学的先驱艾伦·凯,问他怎么看 Linux。如果我没记错他的回答,他基本上说:“它和计算机科学没有任何关系。它只是一个巨大的泥球。里面有几个有趣的想法值得理解,但大多数时候,你学到的都只是关于 Linux 的东西。你实际上没有学到任何可以迁移的东西。”我觉得这很有意思。

有些东西具有某种诱惑性,有点像鲁布·戈德堡机械。你可以把每一个零件都学一遍,这感觉很有趣。但如果你退后一步,想想你在这里到底在做什么,它可能实际上并没有实现你的目标。也许你想成为系统管理员,那么学习 Linux 就是对你时间的极好利用。这完全没有什么坏处。

但如果你的目标是理解计算的基本原理,那这是否是对你时间的良好利用,就远没有那么确定了。这确实是一个我思考了很多的回答:对于某一类头脑来说,仅仅学习各种系统有一种诱惑性,并把它与理解混为一谈。

德瓦克什·帕特尔

好的,我会随时告诉你进展如何。我欠你一条信息,一个月之内告诉你某种改进后的学习系统。

迈克尔·尼尔森

我会非常好奇的。而且确实,这方面哪怕是微小的渐进改进也非常值得。

德瓦克什·帕特尔

这是播客的主要投入。书架很漂亮,我还有块黑板之类的,这些很好,但真正让播客变得更好的,是我能改进自己所做的学习。所以是的,哪怕一点点改进也值得。好了,谢谢你做的这次心理咨询。这是个很好的收尾。谢谢你,迈克尔。

迈克尔·尼尔森

好的。谢谢你,德瓦克什。