Demis Hassabis: 德米斯·哈萨比斯：AI 的未来、模拟现实、物理学与电子游戏
#475 – Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games
§01文字稿 1
对我们人类来说，要对高度非线性的动力系统做出任何清晰的预测都很难。不过还是回到你说的那点，经典学习系统哪怕在流体这类问题上能做到什么，可能会让我们非常惊讶。
对，正是这样。我是说，流体动力学、纳维-斯托克斯方程，这些传统上被认为是在经典系统上非常非常难、难以处理的问题。它们需要海量算力，比如天气预报系统。这类东西都涉及流体动力学计算。
但还是那句话，如果你看看像 Veo 这样的东西，也就是我们的视频生成模型，它能把液体模拟得相当好，好得出人意料。还有材质、镜面光照。我特别喜欢有些人生成的那种视频：透明液体流过液压机，然后被挤压出来。我早年在游戏行业时写过物理引擎和图形引擎，我知道要编写出能做到这一点的程序有多么费力、多么难。可不知怎么的，这些系统仅仅通过看 YouTube 视频就在做逆向工程。所以推测起来，发生的事情是它在提取这些材料如何表现背后的某种底层结构。所以，如果我们真的完全理解其内部运作，也许会发现存在某种可以被学习到的低维流形。这或许对现实中的大部分事物都成立。
以下是与德米斯·哈萨比斯的对话，这是他第二次做客本播客。他是 Google DeepMind 的负责人，如今也是诺贝尔奖得主。德米斯是当今世界上最杰出、最引人入胜的头脑之一，致力于理解和构建智能，并探索宇宙的重大奥秘。对我来说，这真的是一种荣幸，也是一种乐趣。
这里是莱克斯·弗里德曼播客。如需支持本节目，请查看简介中的赞助商，并考虑订阅本频道。现在，亲爱的朋友们，有请德米斯·哈萨比斯。
在你的诺贝尔奖演讲中，你提出了一个我觉得超级有意思的猜想：“任何能在自然界中生成或发现的模式，都可以被经典学习算法高效地发现和建模。”这其中可能包括哪些模式或系统？生物学、化学、物理学，也许还有宇宙学、神经科学？我们说的到底是哪些东西？
当然。嗯，你看，我觉得诺贝尔奖演讲大概有这么一种传统，就是你应该稍微带点挑衅性，我也想遵循这个传统。我在那里讲的是，如果你退一步，看看我们做过的所有工作，尤其是 Alpha X 系列项目，我想到的当然是 AlphaGo、AlphaFold，它们本质上是在为组合上极其复杂的高维空间构建模型。在这些空间里，如果你试图用暴力搜索求解，比如在围棋中找到最佳着法，或者找到蛋白质的精确形状，如果你把所有可能性都枚举一遍，那么就算用上宇宙存在的全部时间也不够。
所以你必须用聪明得多的办法。我们在这两个案例中所做的，都是为这些环境构建模型，由模型以聪明的方式引导搜索，从而让问题变得可处理。那么想想蛋白质折叠，它显然是一个自然系统，为什么这是可能的？物理是怎么做到的？蛋白质在我们体内几毫秒内就能折叠好，所以物理不知怎么就解决了这个问题，而我们现在也在计算上解决了它。我认为之所以可能，是因为在自然界中，自然系统具有结构，因为它们经历了塑造它们的演化过程。如果这是真的，那么你也许就能学到那个结构是什么。
我觉得这个视角真的很有意思。你暗示过这一点，粗略地说几乎就是：任何能够演化出来的东西，都可以被高效建模。你觉得这其中有几分道理吗？
是的。我有时把它叫作“最稳者生存”之类的，因为当然，生命、生物有演化，但还不止于此。如果你从地质时间尺度来想，比如山脉的形状，那是经过数千年的风化过程塑造出来的；你甚至可以把它推到宇宙尺度：行星的轨道、小行星的形状。这些都是在某种反复作用于它们很多很多次的过程中留存下来的。
如果这是真的，那就应该存在某种你可以反向学习的模式，实际上是某种流形，它帮助你搜索到正确的解、正确的形状，并真正让你能够以高效的方式对它做出预测，因为它不是随机模式。所以对于人造的东西或抽象的东西，比如大数分解，这也许就行不通了，因为除非数字空间中存在模式（可能确实存在），但如果不存在、分布是均匀的，那就没有模式可学，也学不到能帮助你搜索的模型。所以你只能暴力求解。在那种情况下，你也许需要量子计算机之类的东西。但我们感兴趣的自然界中的大多数事物都不是那样的。它们具有出于某种原因演化而来、并随时间留存下来的结构。如果这是真的，我认为那是有可能被神经网络学习到的。
这就像大自然在进行一个搜索过程，而非常迷人的是，在这个搜索过程中，它创造出了可以被高效建模的系统。
没错。是的。
太有意思了。
所以它们可以被高效地重新发现或还原，因为自然不是随机的。我们周围看到的一切，包括那些更稳定的元素，所有这些东西都受到某种选择过程的压力。
因为你也是理论计算机科学和复杂性理论的爱好者，你觉得我们能不能提出一个复杂性类，就像“复杂性动物园”（Complexity Zoo）里那种类，也许就是可学习系统的集合、可学习自然系统的集合，LNS。这是一个“德米斯·哈萨比斯”新系统类，这些系统实际上能以这种方式被经典系统学习，也就是可以被高效建模的自然系统。
是的，我一直对 P 是否等于 NP 的问题很着迷，也着迷于什么能被经典系统建模，也就是非量子系统，实际上就是图灵机。而这恰恰就是我在为数不多的空闲时间里和几位同事在研究的东西：是否也许应该有一个新的类别，或者说一类问题，可以通过这种神经网络过程来求解，并在某种程度上对应到这些自然系统上，也就是物理中存在的、具有结构的东西。所以我认为这可能是一种非常有意思的新思考方式。它也在某种程度上契合我对物理学的总体看法，那就是我认为信息是第一性的，信息是宇宙最基本的单元，比能量和物质更基本。我认为它们都可以相互转化，但我把宇宙看作一种信息系统。
所以当你把宇宙看作一个信息系统时，P 是否等于 NP 的问题就是一个物理问题。
没错。
而且是一个真正能帮助我们解开眼前这一整套谜题的问题。
是的，如果你把物理看作是信息性的，我认为这实际上是最基本的问题之一，而它的答案，我认为会非常有启发性。
更具体到 P 与 NP 问题上，还是那句话，我们现在说的一些东西听起来有点疯狂，就像克里斯蒂安·安芬森的诺贝尔奖演讲那样，他说的那个有争议的观点当时听起来很疯狂，后来你和约翰·江珀因此拿了诺贝尔奖，解决了那个问题。所以我就先聚焦在 P 是否等于 NP 上。你是否认为，在我们讨论的这件事里有某种东西可以被证明：如果你能预先做某种多项式时间或常数时间的计算，构建出这个巨大的模型，那么你就能以理论计算机科学的方式解决其中一些极其困难的问题？
是的，我认为实际上有一大类问题都可以用这种方式来表述，就像我们做 AlphaGo、做 AlphaFold 的方式那样：你对系统的动力学、该系统的性质、你试图理解的环境进行建模，然后这就让寻找解或预测下一步变得高效。基本上是多项式时间，因此可以被经典系统处理，而神经网络就是经典系统。它在普通计算机上运行，对吧？经典计算机，实际上就是图灵机。我认为这是最有意思的问题之一：这个范式能走多远？
我认为我们，以及整个 AI 社区，已经证明了经典系统、图灵机能走得比我们以前想象的远得多。它们能做到诸如为蛋白质结构建模、下围棋超越世界冠军水平这样的事情。而很多人在大概 10 年、20 年前可能会认为那还要几十年，或者认为也许需要某种量子机器、量子系统才能做到蛋白质折叠这样的事情。所以我认为，对于所谓的经典系统能做什么，我们甚至还只是触及皮毛。
当然，建立在神经网络系统之上、而神经网络系统又运行在经典计算机之上的 AGI，将是这一点的终极体现。我认为这类系统的极限、它的边界、它能做什么，是一个非常有意思的问题，并且直接关系到 P 是否等于 NP 的问题。
还是假设性地问，你觉得什么可能在这个范围之外？也许是涌现现象？如果你看元胞自动机，那是极其简单的系统，然后涌现出了某种复杂性。也许那会在范围之外？还是你会猜，甚至连那个也可能适合被经典机器高效建模？
是的，我认为那些系统恰好处在边界上。所以我认为大多数涌现系统、元胞自动机这类东西，都可以被经典系统建模。你只要对它做一次正向模拟，大概就足够高效了。当然，还有混沌系统这类问题，其中初始条件非常关键，然后你会得到某种不相关的最终状态。这些可能就很难建模了。所以我认为这些算是悬而未决的问题。但当你退一步，看看我们用这些系统做了什么、解决了哪些问题，再看看像 Veo 3 这样的视频生成在某种程度上渲染物理、光照之类的东西，这些都是物理学中真正核心、基础的东西，这挺有意思的。在我看来，这在告诉我们关于宇宙如何构成的某种相当根本的东西。所以在某种意义上，这就是我想构建 AGI 的目的：帮助我们这些科学家回答像 P 是否等于 NP 这样的问题。
是的，我觉得对于什么能被经典计算机建模，我们可能会不断感到惊讶。我是说，AlphaFold 3 在相互作用方面，你竟然能在那个方向上取得任何进展，这就很令人惊讶。AlphaGenome 能把遗传密码映射到功能上，也很令人惊讶。这有点像是在和涌现现象打交道，你以为组合可能性多得数不清，结果你看，你就能找到那个可以被高效建模的内核。
是的，因为存在某种结构，在能量景观或者不管叫什么的东西里存在某种你可以顺着走的地形，某种你可以顺着走的梯度。当然，神经网络非常擅长的正是沿着梯度走。所以如果存在一个可以顺着走的梯度，而且你能正确地设定目标函数，你就不必应对所有那些复杂性。我认为几十年来我们可能一直都是这样天真地看待那些问题的：如果你只是枚举所有可能性，它看起来完全不可处理，而像这样的问题有很多很多。
然后你会想：“嗯，可能的蛋白质结构大约有10的300次方种，可能的围棋局面有10的170次方种。这些数字都远远超过宇宙中的原子数量，那怎么可能找到正确的解，或者预测下一步呢？”但事实证明这是可能的。当然，自然界的现实也确实做到了这一点。蛋白质确实会折叠。所以这让你有信心：如果我们在某种意义上理解了物理学是如何做到这一点的，并且能够模仿这个过程，也就是对这个过程建模，那么在我们的经典系统上就应该能做到。这基本上就是这个猜想的内容。
当然还有非线性动力系统，高度非线性的动力系统，所有涉及流体的东西。我最近和陶哲轩聊过，他在数学上研究的是这类系统中一个非常困难的方面：系统里存在一些奇点，会让数学失效。对我们人类来说，要对高度非线性的动力系统做出任何干净利落的预测都很难。但还是回到你的观点，我们可能会非常惊讶地发现，经典的学习系统即便在流体问题上也能有所作为。
是的，完全正确。我是说流体动力学、纳维-斯托克斯方程，这些传统上都被认为是在经典系统上非常非常困难、难以处理的问题。它们需要海量的算力，比如天气预报系统。这类东西都涉及流体动力学计算。但同样地，如果你看看像 Veo 这样的东西，也就是我们的视频生成模型，它对液体的建模相当好，好得出人意料。还有材质、镜面光照。我特别喜欢有些人生成的那种视频：透明液体流过液压机，然后被挤压出来。我早年做游戏时写过物理引擎和图形引擎，我知道要编写能做到这些的程序有多么艰难、多么费力。然而这些系统不知怎么地，仅仅通过观看 YouTube 视频就把它逆向推导出来了。所以推测正在发生的是，它在提取这些材料如何表现的某种底层结构。所以，如果我们真正完全理解了其内部到底发生了什么，也许存在某种可以被学习的低维流形。这一点也许对大部分现实都成立。
是啊，我一直被 Veo 3 的这一点深深吸引。我觉得很多人强调的是不同的方面，包括搞笑内容、梗之类的东西。还有它那种超逼真的能力，能以非常好的方式捕捉人类，令人信服，感觉接近现实，再加上原生音频。这些都是 Veo 3 了不起的地方，但恰恰是你提到的那一点，也就是物理。
是的。
它并不完美，但真的相当好。而真正有意思的科学问题是：为了能做到这一点，它对我们的世界理解了些什么？因为如果对扩散模型持一种犬儒式的看法，那它们不可能理解任何东西。但我不认为不具备理解就能生成那样的视频。这样一来，我们自己关于“理解”意味着什么的哲学观念就被摆到了台面上。你认为 Veo 3 在多大程度上理解了我们的世界？
我认为，就它能够以连贯的方式预测接下来的帧而言，这就是一种理解形式。但不是拟人化意义上的那种理解，不是对正在发生的事情有某种深刻的哲学性理解，我不认为这些系统具备那种理解。但它们确实已经对足够多的动态进行了建模，可以这么说，以至于它们能够相当准确地生成，大概八秒钟吧，连贯一致的视频，用肉眼看，至少乍一看，很难分辨出问题在哪里。
再想象一下两三年之后，这正是我在思考的事情：考虑到我们是从一两年前的早期版本走过来的，到那时它会看起来多么不可思议。所以进步的速度令人难以置信。我想我和你一样，很多人喜欢那些单口喜剧演员的视频，它们其实把很多人类的动态和肢体语言捕捉得非常好，但真正最让我印象深刻、最让我着迷的是物理行为，是光照、材质和液体。它能做到这一点真的很惊人。我认为这表明它至少具备某种直觉物理的概念，也就是事物在直觉上应该如何运作，也许就像一个人类小孩理解物理的方式，对吧，而不是像一个博士生那样能真正把所有方程拆解清楚。它更多是一种直觉层面的物理理解。
嗯，这种直觉物理理解就是基础层，就是人们有时所说的常识。它确实理解了某些东西。我觉得这真的让很多人感到意外。这让我非常震撼，我当时根本没想到，在不具备理解的情况下能生成那种程度的真实感。有一种观点认为，你只能通过一个具身的 AI 系统，也就是一个与世界交互的机器人，才能理解物理世界，那是构建对世界理解的唯一途径。但感觉 Veo 3 正在直接挑战这种观点。
是的，这非常有意思。即便你在五年、十年前问我，尽管我当时就沉浸在这一切之中，我也会说：“嗯，是的，你可能需要理解直觉物理。如果我把这个玻璃杯从桌上推下去，它可能会摔碎，液体会洒出来。我们知道所有这些事情。”但我当时认为，而且神经科学里也有很多理论，叫作“感知中的行动”，也就是说你需要在世界中行动，才能真正深入地感知它。还有很多理论认为，你需要具身智能或机器人之类的东西，或者至少需要模拟的行动，才能理解像直觉物理这样的东西。
但看起来你可以通过被动观察来理解它，这让我相当惊讶。而且我认为，这再次暗示了现实本质中某种底层的东西，在我看来，这超出了它生成的那些酷炫视频本身。当然，下一个阶段也许是让这些视频变得可交互，让人真正走进去、在里面四处移动，那将真的令人震撼，尤其考虑到我的游戏背景。所以你可以想象。然后我认为我们就开始走向我所说的世界模型，也就是一个关于世界如何运作的模型：世界的机制、世界的物理，以及世界中的事物。当然，这正是一个真正的通用人工智能（AGI）系统所需要的。
我必须跟你聊聊电子游戏。你最近有点爱逗乐，我觉得你在 Twitter、也就是 X 上玩得越来越开心了，这很好。有个叫 Jimmy Apples 的人发推说：“赶紧让我把我的 Veo 3 视频当电子游戏玩吧。谷歌这次真是做得太好了。可玩的世界模型什么时候来？”然后你转发并评论说：“那岂不是很了不起？”那么，用 AI 构建游戏世界有多难？你能不能展望一下五年、十年后电子游戏的未来？你觉得那会是什么样子？
嗯，游戏其实是我的初恋。为游戏做 AI 是我十几岁时职业生涯中做的第一件事，我构建的最早一批重要 AI 系统也是为游戏做的。我一直想有朝一日了却这个心愿，重新回到这件事上来。我想我会的。我有点会幻想：如果我在九十年代就能用上今天这样的 AI 系统，我会做出什么？我认为你可以做出绝对令人震撼的游戏。
我认为下一个阶段是……我以前一直很喜欢做，我做过的所有游戏都是开放世界游戏，也就是说游戏里有一个模拟系统，然后有 AI 角色，玩家与这个模拟系统互动，而模拟系统会根据玩家的玩法做出调整。我一直认为这类游戏是最酷的，比如我参与制作的《主题公园》这类游戏，每个人的游戏体验都是独一无二的，因为你某种程度上是在共同创作这个游戏。我们设定参数，设定初始条件，然后你作为玩家沉浸其中，与模拟系统一起共同创作。但当然，开放世界游戏非常难编程。无论玩家往哪个方向走，你都必须能创造出内容，而且无论玩家做出什么选择，你都希望内容引人入胜。所以要构建这类东西一直相当困难，比如元胞自动机，就是那类经典系统，它们能产生一些涌现行为，但总是有点脆弱，有点局限。现在，在接下来的几年里，五年、十年内，我们也许正处在这样一个临界点：拥有能够真正围绕你的想象进行创作的 AI 系统，它们能动态地改变故事，围绕你讲述叙事，并且无论你最终选择什么，都能让故事充满戏剧性。所以这就像是终极版的“选择你自己的冒险”类游戏。我认为也许这已经触手可及了，如果你设想一个可交互版本的 Veo，然后把时间往前推五到十年，想象一下它会有多好。
是的。你刚才说了很多非常有意思的东西。第一，按照你描述的方式，开放世界本身就内含了深度的个性化。所以不只是说它是开放世界，你可以打开任何一扇门，门后都会有东西；而是说你以不受约束的方式选择打开哪扇门，这个选择本身决定了你看到的世界。有些游戏尝试这样做，它们给你选择，但那其实只是选择的假象，因为你只能……比如《史丹利的寓言》，这个游戏我真的玩过，它实际上就是有几扇门，然后其实只是带你走一条叙事线。《史丹利的寓言》是一款很棒的电子游戏，我推荐大家去玩，它以一种元叙事的方式嘲讽了选择的假象，其中还涉及自由意志之类的哲学观念。
不过我确实……《上古卷轴》系列里我最喜欢的游戏之一，我记得是《匕首雨》，它真的在地牢的随机生成上做了很多尝试，你走进去，它会给你一种开放世界的感觉。你刚才提到了交互性。其实你并不需要交互。那是第一步，因为你不需要那么多交互。你只要打开门，你看到的任何东西都是为你随机生成的。这本身就已经是一种不可思议的体验了，因为你可能是唯一一个见过那个场景的人。
是的，完全正确。但你想要的会比单纯的随机生成好一点。所以你会希望它也比简单的 A/B 二选一的硬编码选项更好，对吧？正如你所说，那并不是真正的开放世界，只是给你一种选择的假象。你想要的是在那个游戏环境里有可能做任何事情。而我认为做到这一点的唯一途径，就是拥有生成式系统，也就是能实时即时生成这些内容的系统。当然，你不可能创造出无限量的游戏素材。以今天 3A 游戏的制作方式来看，成本已经够高了。而早在九十年代我做那些游戏的时候，这一点对我们来说就已经很明显了。
我想，也许《黑与白》（Black & White）就是那款我参与过早期开发的游戏，它里面的 AI，也就是会学习的 AI，可能至今仍是最好的。那是一个早期的强化学习系统：你要照看一只神话般的生物，让它成长、培育它。而你怎样对待它，它就会以同样的方式对待那个世界里的村民。所以如果你对它刻薄，它就会变得刻薄；如果你对它好，它就会变得有保护欲。所以它真的就是你玩法的一种映照。所以实际上，在职业生涯初期，我一直是以游戏为媒介来研究模拟和 AI 的，而我今天所做的一切，其实仍然是那些早期较为硬编码的 AI 实现方式的延续，一直发展到如今这些试图实现同样目标的、完全通用的学习系统。
是啊，看着你和埃隆显然都跃跃欲试想做游戏，真是既有意思、又好笑、又好玩，因为你们俩都是游戏玩家。而你在那么多科学领域，那些严肃的、成年人的事情上，取得了惊人的成功，这其中令人遗憾的一面是，你可能没时间真正去做一款游戏，最后你可能只是打造出工具，让别人用它来做游戏。你得眼看着别人做出你一直梦想的东西。你觉得在你极其繁忙的日程里，有没有可能真的抽出时间，做出像《黑与白》那样的东西，一款真正的电子游戏，让童年梦想成为现实？
嗯，关于这个我会想到两点。一是随着氛围编程（vibe coding）越来越好，我，或者说任何一个人，确实有可能利用业余时间做到这件事。所以我对此相当兴奋，如果我有时间做些氛围编程，那就会是我的项目。我其实很想这么做。另一点是，也许那会是在 AGI 被安全地引导进入世界、交付到世界之后的一次长假。这件事，再加上研究我们开头聊过的我的物理学理论，这两件就会是我的两个“后 AGI 项目”，就这么叫吧。
我很想看看你会选哪个：是去解决人类历史上一些最聪明的人都曾苦苦钻研的问题，也就是 P 是否等于 NP，还是去做一款很酷的电子游戏。
但在我的世界里，它们是相关的，因为那会是一款尽可能逼真的开放世界模拟游戏。那么宇宙是什么？这和 P 是否等于 NP 指向的是同一个问题。我认为所有这些东西都是相互关联的，至少在我看来是这样。
我是很认真地说，电子游戏有时被人看轻，被当成只是一种好玩的消遣。但尤其是随着 AI 承担越来越多困难、枯燥的任务，也就是我们在现代世界里称之为“工作”的东西，电子游戏可能正是我们寻找意义的地方，是我们找到该如何安排自己时间的地方。你可以创造极其丰富、有意义的体验。人类生活本来就是这样。而在电子游戏里，你可以创造更复杂精巧、更多样的生活方式。对吧？这就是重点所在？
我想是的。我是说，对我们这些热爱游戏的人来说，我现在也依然热爱，游戏几乎能让你的想象力天马行空，对吧？我过去那么热爱游戏、热爱做游戏，是因为它是一种融合，尤其是在九十年代和两千年代初，那算是游戏行业的黄金时代，也许还要算上八十年代。那时一切都还在被发现，新的游戏类型不断涌现。我们不只是在做游戏，我们觉得自己是在创造一种前所未有的全新娱乐媒介。尤其是那些开放世界游戏和模拟游戏，你作为玩家是在参与共同创作故事。没有其他媒体、其他娱乐媒体能让你这样做，让作为观众的你真正去共同创作故事。
当然，现在还有多人游戏，它可以是一种非常社交化的活动，能让人在其中探索各种有趣的世界。但另一方面，享受和体验物理世界也非常重要。不过问题在于，我想我们将不得不再次直面这样一个问题：现实的根本本质是什么？这些越来越逼真的模拟，包括多人的、涌现式的模拟，与我们在现实世界中所做的事情之间，将会有什么区别？
是的，体验真实世界、体验大自然显然有巨大的价值。像我们今天这样坐在一起、面对面直接与他人相处，也有巨大的价值，但我们真的需要以科学上严谨的方式回答：为什么有价值，以及其中哪些方面可以映射到虚拟世界中。
没错。
光说一句“对，你应该出去摸摸草地、到大自然里待着”是不够的。问题是，这到底为什么有价值？
是的。我想这也许就是从我职业生涯一开始就一直萦绕着我、让我着迷的东西。如果你想想我做过的所有不同的事情，它们都是以这种方式相互关联的：模拟、现实的本质，以及能够被建模的东西的边界在哪里。
抱歉问个荒唐的问题，但到目前为止，史上最伟大的电子游戏是哪款？有哪些能排得上号？
嗯，我不得不说，我有史以来最喜欢的是《文明》。就是《文明》一代和《文明》二代，那是我有史以来最喜欢的游戏。
我只能猜测你一直躲着最新那一部，因为那很可能，那会变成你的长假。你会就此消失。
对，正是这样。这些《文明》游戏很花时间，所以我对它们得小心一点。
一个好玩的问题。你和埃隆似乎都算是实打实的游戏玩家。擅长玩游戏和成为 AI 公司的杰出领导者之间有什么联系吗？
我不知道。这个问题挺有意思。我是说，我们俩都热爱游戏，而且有意思的是，他一开始也写过游戏。大概是这样吧，尤其是在我成长的那个年代，家用电脑在八十年代末和九十年代刚刚兴起，尤其是在英国。我有一台 Spectrum，后来又有一台 Commodore Amiga 500，那是我有史以来最喜欢的电脑。我的编程全是靠它学的。当然，编程里非常好玩的一件事就是编游戏。所以我认为这是学习编程的好方法，现在可能依然是。然后，当然，我马上就把它引向了 AI 和模拟的方向，这样我就能把我对游戏的兴趣和我更广泛的科学兴趣结合在一起表达出来。
还有我那些更广泛的科学兴趣，全都结合在一起。最后，我认为游戏还有一个很棒的地方，就是它把艺术设计、艺术与最前沿的编程融合在了一起。所以再说一次，在九十年代，所有最有意思的技术进步都发生在游戏领域，无论是 AI、图形、物理引擎还是硬件，当然，就连 GPU 最初也是为游戏设计的。所以九十年代推动计算向前发展的一切都源于游戏。所以有意思的是，那里正是研究的最前沿，而且它与艺术有着不可思议的融合：图形，还有音乐，以及讲故事这一整套新媒介。我很喜欢这一点。对我来说，这种多学科的努力，同样是我一生都乐在其中的事情。
我得问你一下，我差点忘了其中一件事，在众多成果里，我会说它是最近最了不起的成果之一，却不知怎么还没得到足够的关注，那就是 AlphaEvolve。我们之前稍微聊过一点进化，而它是 Google DeepMind 的一个能进化算法的系统。这类类似进化的技术，作为未来超级智能系统的一个组成部分，前景可观吗？给不了解的人解释一下，它有点像，我不知道这么说是否准确，由大语言模型（LLM）引导的进化搜索，因为是进化算法在做搜索，而 LLM 告诉你往哪儿搜。
是的，是的，完全正确。LLM 会提出一些可能的解决方案，然后你在其之上使用进化计算，去找到搜索空间中某个新颖的部分。所以实际上，我认为这是一个非常有前景的方向的例子：把 LLM 或基础模型与其他计算技术结合起来。进化方法是其中一种，但你也可以设想蒙特卡洛树搜索。基本上就是许多类型的搜索算法或推理算法，叠加在基础模型之上，或者以基础模型为基础来使用。所以我确实认为，借助这类我们姑且称之为混合系统的东西，很可能还有相当多有趣的东西有待发现。
但也不要把进化浪漫化。
是啊。
我也只是个凡人，但你认为无论那种机制是什么，它都有一定的价值吗？因为我们已经谈过自然系统了。你是否认为，在理解进化、能够对进化建模、能够模拟进化，然后利用我们对这种受自然启发的机制的任何理解，把搜索做得越来越好这件事上，还有很多唾手可得的成果？
是的。所以，如果你再一次把我们构建的这些系统拆解到最根本的核心，你会得到一个关于系统底层动力学的模型。然后，如果你想发现新的东西，一些前所未见的新颖事物，那你就需要在其之上加上某种搜索过程，把你带到搜索空间中的新颖区域。你可以用多种方式做到这一点。进化计算是其中一种。在 AlphaGo 中，我们只是用了蒙特卡洛树搜索，正是它找到了第 37 手，那是围棋中一种前所未见的新策略。这就是你有可能超越已知事物的方式。模型可以对你目前所知道的一切、你目前拥有的所有数据进行建模。但接下来你要怎么超越这些？这就开始触及创造力这个概念了。
这些系统如何能创造出新的东西？甚至真正发现新的东西？显然，这对科学发现、对推动科学和医学向前发展极其重要，而这正是我们希望用这些系统去做的。实际上，你可以在这些模型之上加装一些相当简单的搜索系统，把你带进空间中的新区域。当然，你还必须确保你不是在完全随机地搜索那个空间，那样空间就太大了。所以你必须有某个你试图优化、以爬山法逐步逼近的目标函数，由它来引导搜索。
但进化中有一些机制是有意思的，也许在程序空间里尤其如此。而程序空间是一个极其重要的空间，因为它大概可以推广到一切事物。比如说变异。所以它不只是蒙特卡洛树搜索那样单纯的搜索。你可以时不时地……
把东西组合起来。
把东西组合起来？
对。
东西，比如一个事物的各个组成部分。
是的。
所以进化真正擅长的不只是自然选择，而是把东西组合起来，构建越来越复杂的层级系统。所以这个部分非常有意思，尤其是放在 AlphaEvolve 和程序空间里来看。
对，完全正确。所以你可以从进化系统中多得到一点额外的特性，那就是可能会出现某种新的涌现能力，对吧？当然，就像生命演化中发生过的那样。有意思的是，那些朴素的、传统的进化计算方法，也就是没有 LLM 和现代 AI 的那种，它们的问题在于：它们在九十年代和两千年代初被研究得非常透彻，也取得了一些有前景的结果，但问题是人们始终没能弄清楚如何进化出新的特性、新的涌现特性。你得到的总是你放进系统里的那些特性的某个子集。但如果我们把它们与这些基础模型结合起来，或许就能克服这一局限。
显然，自然界的进化确实做到了。它确实进化出了新的能力，从细菌一直到我们今天的样子。所以显然，进化系统一定有可能产生新的模式，这又回到了我们最开始谈的话题，产生新的能力和涌现特性，而也许我们正处在发现如何做到这一点的边缘。
是的，听我说，AlphaEvolve 是我见过的最酷的东西之一。我家里的书桌上……我在那台电脑前的大部分时间都在编程。三块屏幕旁边放着一个提塔利克鱼（Tiktaalik）的头骨，它是最早从水里爬上陆地的生物之一。我就时不时看着那个小家伙。不管演化的竞争机制到底是什么，它都相当不可思议。
是的。
真的、真的不可思议。至于那是不是正好就是我们做搜索时需要的方法，另说，但永远不要小看大自然的力量，看看它在这里做到了什么。
而且令人惊叹的是，它是一种相对简单的算法，对吧？实际上就是这样，而它能产生出所有这些巨大的复杂性。当然，这是运行了超过40亿年才涌现出来的。但你可以再把它看作一个搜索过程，在宇宙的物理基底上运行了很长的计算时间，然后产生了所有这些令人难以置信的丰富多样性。
我有太多问题想问你了。第一，你确实有一个梦想，你想尝试建模的自然系统之一是细胞。这是一个很美的梦想，我可以问问你这个。另外，就这个目的而言，从 AI 科学家这个方向更宽泛地说，Daniel Kokotajlo、斯科特·亚历山大（Scott Alexander）等人写过一篇文章，列出了通往 ASI（超级人工智能）途中的各个步骤，里面有很多有意思的想法，其中包括超人类水平的程序员和超人类水平的 AI 研究员。文中有个说法叫“研究品味”，非常有意思。那么就你见过的一切来看，你认为 AI 系统有可能具备研究品味吗？像 AI 联合科学家（AI co-scientist）那样帮助你，帮助引导杰出的人类科学家，然后有可能自己去找出该往哪些方向产生真正新颖的想法？这似乎是做出伟大科学的一个非常重要的组成部分？
是的，我认为这种品味或判断力，会是最难模仿或建模的东西之一。我认为这正是伟大科学家和优秀科学家之间的区别。所有职业科学家在技术上都很出色，否则他们不可能在学术界之类的地方走到那一步。但问题是，你有没有那种品味，能嗅出正确的方向是什么、正确的实验是什么、正确的问题是什么？所以，选对问题是科学中最难的部分，还有提出正确的假设。而这正是今天的系统肯定做不到的。所以我常说，提出一个猜想，一个真正好的猜想，比解决它更难。我们可能很快就会有能够解决相当难的猜想的系统。比如数学奥林匹克的题目，去年我们的系统 AlphaProof 在那些非常难的题目上拿到了银牌。也许最终我们能更好地解决千禧年大奖难题那一类问题。但是，一个系统能否提出一个值得研究的猜想，让陶哲轩这样的人看了会说：“你知道吗，这是一个关于数学本质、数的本质或者物理本质的非常深刻的问题。”那是一种难得多的创造力。而我们其实并不知道。今天的系统显然做不到这一点，我们也不太确定那种机制会是什么。就是那种想象力的飞跃，就像爱因斯坦凭借他当时掌握的知识，先提出狭义相对论、后来又提出广义相对论那样。
就猜想而言，你想提出的是一个既有意思、又有可能被证明的东西？
是的。
所以，提出一个极其困难的东西很容易，提出一个极其简单的东西也很容易，但恰恰在那个边缘上——
就是那个最佳平衡点：基本上能推动科学前进，理想情况下把假设空间一分为二，对吧？无论它是真是假，你都学到了真正有用的东西，而这很难。还要让它是可证伪的，并且在你目前可用的技术范围之内。所以这其实是一个非常有创造性的过程。一个高度创造性的过程，我认为仅仅在模型之上做某种朴素的搜索，是不足以做到的。
把假设空间一分为二这个想法非常有意思。我听你说过，基本上不存在失败，或者说，如果你把问题构建对了、把实验构建对了、设计对了，失败就极其有价值，失败和成功都有用。也许是因为它基本上把假设空间一分为二，就像二分查找一样？
是的，没错。所以当你做真正的蓝天研究（纯探索性研究）时，其实不存在失败这回事。只要你选择的实验和假设能有意义地划分假设空间，并且你学到了东西。你可以从一个没成功的实验中学到某种同样有价值的东西。如果你把实验设计得好，你的假设也有意思，它就应该告诉你很多关于下一步该往哪里走的信息。然后你实际上就是在进行一个搜索过程，并以非常有帮助的方式利用这些信息。
那么回到你建模细胞的梦想，要实现它，我们面前有哪些重大挑战？也许我们应该强调一下，在 AlphaFold 上，我是说，有太多的飞跃了。AlphaFold 解决了蛋白质折叠问题，如果这么说公平的话。这里有太多不可思议的事情可以聊，包括开源，以及你们发布的一切。AlphaFold 3 在处理蛋白质、RNA、DNA 之间的相互作用，这非常复杂，也非常迷人。它是可以建模的。AlphaGenome 预测微小的基因变化，比如单个突变，如何与实际功能联系起来。所以看起来它正在一步步迈向复杂得多的东西，比如细胞。但细胞有很多非常复杂的组成部分。
在我整个职业生涯中，我一直尝试做的是：我有这些非常宏大的梦想，然后，你也注意到了，我会尝试把它们拆解开来。拥有一个近乎疯狂、雄心勃勃的梦想很容易，但诀窍在于，你如何把它拆解成可管理、可实现的中间步骤，而这些步骤本身也有意义、有用处。所以“虚拟细胞”（Virtual Cell），我就是这么称呼细胞建模这个项目的，想做这件事的念头，我大概已经有25年左右了。
我过去常和保罗·纳斯（Paul Nurse）聊这个，他算是我在生物学方面的一位导师。他领导着克里克研究所，也是它的创建者，并在2001年获得了诺贝尔奖。我们从上世纪90年代就开始聊这个了，我过去每隔五年就会回到这个问题上。就是：你需要什么，才能对细胞的全部内部机制进行建模，从而可以在虚拟细胞上做实验，而这些计算机模拟（in silico）实验和预测会对你有用，能为你在湿实验室里节省大量时间。那就是梦想。
也许你可以把实验速度提升100倍，方法是把大部分工作放在计算机里完成，在计算机里做搜索，然后在湿实验室里做验证这一步。这就是梦想。不过也许现在，终于……我一直在尝试构建这些组件，AlphaFold 就是其中之一，它们最终能让你对完整的相互作用进行建模，对一个细胞进行完整的模拟。我可能会从酵母细胞开始。部分原因是保罗·纳斯研究的就是这个，因为酵母细胞就像一个完整的生物体，只由一个细胞构成。所以它算是最简单的单细胞生物。因此它不只是一个细胞，它是一个完整的生物体。
而且人们对酵母的了解非常透彻。所以它会是一个很好的候选对象，可以用来做某种完整的模拟模型。AlphaFold 解答的是那种静态图景：一个蛋白质的三维结构长什么样？是它的一张静态图像。但我们知道，在生物学里，所有有趣的事情都发生在动态和相互作用之中，而 AlphaFold 3 就是迈向建模这些相互作用的第一步。首先是成对的：蛋白质与蛋白质、蛋白质与 RNA 和 DNA。但在那之后的下一步，可能是对一整条通路进行建模，比如与癌症有关的 TOR 通路之类的。然后最终你也许就能对整个细胞建模。
另外，这里还有一层复杂性：细胞里的事情发生在不同的时间尺度上。这棘手吗？蛋白质折叠非常快。我不了解所有的生物机制，但其中有些需要很长时间。所以不同层级的相互作用有着不同的时间尺度，你必须能对它们建模。
那会很难。你可能需要好几个模拟系统，能在这些不同的时间动态上相互作用，或者至少也许是某种层级式的系统，这样你就可以在不同的时间层级之间上下跳转。
那么你能否避免……这里的挑战之一，就是避免去模拟比如说其中任何部分的量子力学层面〔原文not avoid的否定关系不清，依紧接着不过度建模的解释理解〕，对吧？你不想过度建模。你可以直接跳过去，只对那些真正高层次的东西建模，就能对将要发生的事情得到很好的估计。
是的。当你对任何自然系统建模时，都得做一个决定：你要建模到什么粒度为止？并且它要能捕捉到你感兴趣的动态。对细胞来说，我希望那个层级可能是蛋白质层面，而不必下探到原子层面。当然，这正是 AlphaFold 这类东西发挥作用的地方。所以那会是某种基础，然后你再构建这些更高层级的模拟，把那些当作构建模块，接着你就会得到涌现行为。
我先为接下来这种像是嗑嗨了才会问的问题道个歉，不过你认为我们能模拟、建模生命的起源吗？也就是能够模拟从非生命物质中，第一个生命体的诞生？
我认为那当然是最深刻、最迷人的问题之一。我很喜欢生物学的这个领域。有一些人……尼克·莱恩（Nick Lane）是这个领域的顶尖专家之一，他写了一本很棒的书，叫《生命的跃升：40亿年演化史上的十大发明》（The Ten Great Inventions of Evolution）。我觉得这本书非常好。它也谈到了“大过滤器”可能是什么，它们是在我们之前，还是在我们前方？我认为它们最有可能在过去，如果你读了那本书，就会知道出现任何生命本身是多么不可能。然后从单细胞到多细胞，似乎是一次大得难以置信的飞跃，我想在地球上花了十亿年才完成，对吧？这说明了它有多难。
对吧？细菌在很长很长一段时间里都过得非常开心。
在很长一段时间里，直到它们以某种方式捕获了线粒体，对吧？我看不出有什么理由，AI 不能在这方面帮上忙。某种模拟。同样，这在某种程度上是一个在组合空间中进行搜索的过程。这是你起始时的全部化学汤，也就是原始汤，它当年可能就在地球上的这些热液喷口附近。这是一些初始条件。你能生成出某种看起来像细胞的东西吗？所以也许在虚拟细胞项目之后的下一个阶段就是：那么，像那样的东西是如何从化学汤中涌现出来的？
嗯，如果生命起源也能有一个“第37手”，我会非常高兴。我认为那是最大的谜团之一。我认为我们最终会弄明白的是，它们是一个连续体。非生命与生命之间并不存在一条界线。但如果我们能把这一点变得严谨……
是的。
从大爆炸到今天，一直都是同一个过程。如果你能打破我们在脑海中筑起的那堵墙，也就是关于从非生命到生命的真正起源的那堵墙，那么它就不是一条线，而是一个连接物理、化学和生物学的连续体。根本没有那条线。
我的意思是，这正是我一辈子都在做 AI 和 AGI 的全部原因，因为我认为它可能成为帮助我们回答这类问题的终极工具。而且我其实不太理解，为什么普通人不更多地为这些事情操心。我们怎么能对生命、对生命与非生命的区别、对时间的本质都没有一个好的定义，更别提意识、引力，还有量子力学那些怪异之处？对我来说，这些问题一直像是冲着我的脸在尖叫，而且声音越来越大。就好像在问：这里到底是怎么回事？我指的是更深层的意义，也就是现实的本质，这必然是那个能回答所有这些问题的终极问题。仔细想想，这有点疯狂。我们可以一直盯着彼此、盯着所有这些生物看。我们可以用显微镜观察它们，把它们拆解到几乎原子的层面。可我们仍然无法用简单的方式清楚地回答那个问题：你如何定义“活着”？这挺令人惊叹的。
是啊，“活着”这个问题，你多少还能找个说法绕过去，不去想它。但意识不一样，我们有着非常明显的主观意识体验，就好像我们处在自己世界的中心，而且这种体验是有某种感受的。那你怎么能不对这一切的神秘想要尖叫呢？不过说真的，人类一直在跟周遭世界的奥秘较劲，已经很久很久了……有很多谜团，比如太阳和雨是怎么回事？那是为什么？然后去年雨水很多，今年却不下雨。我们做错了什么？人类问这个问题已经问了很久了。
正是。所以我想，我们发展出了很多机制来应对这些深层的谜团，我们能看到它们，却无法完全理解，而我们还得继续过日常生活。某种程度上，我们让自己保持忙碌。某种程度上，我们是不是让自己分心了？
我是说，天气是人类历史上最重要的问题之一。直到现在，天气仍然是闲聊时的首选话题。
是的。尤其是在英国。
而天气出了名地是一个极难建模的系统。即便是这个系统，Google DeepMind 也取得了进展。
是的，我们打造了世界上最好的天气预测系统，它们比传统的流体动力学类系统更好，那些系统通常要在大型超级计算机上计算，需要好几天才能算完。我们已经用神经网络系统，也就是我们的 WeatherNet 系统〔原文系统名称待核〕，对很多天气动力学进行了建模。同样有意思的是，这类动力学尽管非常复杂，在某些情况下几乎接近混沌系统，却依然可以被建模。
其中很多有意思的方面都能被这些神经网络系统建模，包括最近我们做的气旋预测，也就是预测飓风可能的路径。当然，这非常有用，对世界非常重要，而且要做到非常及时、非常快速，同时又准确，这也非常重要。我认为这同样是一个非常有前景的方向：通过模拟，你可以对非常复杂的真实世界系统进行前向预测和模拟。
我应该提一下，我在得克萨斯州有机会认识了一群被称为“风暴追逐者”的人。他们真正令人惊叹的地方在于（我需要多跟他们聊聊），他们非常精通技术，因为他们必须用模型来预测风暴在哪里。所以这是一种美妙的结合：疯狂到敢冲进风暴眼，同时为了保住性命、预测极端事件会出现在哪里，他们必须拥有越来越精密的天气模型。
是啊。
这是一种美妙的平衡：作为活生生的生物身处其中，同时又站在科学的最前沿。他们说不定真的在用 DeepMind 的系统。
是啊。希望他们在用。我也很想跟他们一起去追一次风暴。看起来太棒了。对。能亲身体验一次真的很好。
没错。而且还能亲身体验正确的预测：某个东西会在哪里出现、会如何演变。太不可思议了。你曾估计我们会在 2030 年前实现 AGI，围绕这一点有一些有意思的问题。我们怎么才能真正知道自己已经做到了？AGI 的“第37手”可能会是什么？
我的估计大概是未来五年内有 50% 的可能，也就是说，比如到 2030 年。所以我认为这很有可能发生。部分取决于你对 AGI 的定义是什么。当然，现在人们正在为此争论，而我的标准相当高，而且一直如此：我们能否匹敌大脑所具备的认知功能？我们知道，我们的大脑差不多是近似的通用图灵机，而且我们当然用自己的心智创造了令人惊叹的现代文明。这也说明了大脑有多么通用。
而要让我们知道自己拥有了真正的 AGI，我们必须确保它具备所有这些能力。它不能是那种“参差不齐”的智能，像今天的系统那样，某些事情做得非常好，但在另一些事情上却有严重缺陷。这正是我们目前的系统的状况。它们并不稳定一致。所以你会希望它的智能在各方面都保持一致。
另外，我认为我们还缺少一些能力，比如我们之前谈到的真正的发明能力和创造力。所以你会希望看到这些。怎么测试呢？我想就是直接去测。一种方法是做一种蛮力测试，覆盖数万项我们知道人类能完成的认知任务。也许还可以把系统开放给几百位世界顶尖专家，也就是各个学科领域的“陶哲轩”们，给他们一两个月时间，看他们能否在系统中找到明显的缺陷。如果他们找不到，那我认为你可以相当有把握地说，我们拥有了一个完全通用的系统。
也许我稍微反驳一下：随着智能在所有领域提升，人类似乎非常擅长把它视为理所当然。比如你提到的陶哲轩这些杰出专家，他们可能在短短几周内就把它能做到的所有惊人之事视为理所当然，然后把注意力集中到“啊哈，问题就在这儿”的地方。我首先认为自己是人类。我认同自己是人类。有些人听我说话，会觉得“这家伙不太会说话，还结巴”。所以即便是人类，在各个领域也有明显的局限，哪怕只是在微积分、数学、物理等领域之外。我在想，会不会需要的是类似“第37手”那样的东西，从积极的一面来说，而不是一连串 10,000 项认知任务，其中会有那么一两个让人觉得“我靠，这东西不一般”。
所以我认为是这样。没错。我认为一方面需要那种全面覆盖的测试，确保一致性。但我认为也存在那种“灯塔时刻”，比如“第37手”，这正是我会去寻找的。其中之一就是像爱因斯坦那样，提出一个关于物理的新猜想或新假说。
所以也许你甚至可以非常严格地对此做回溯测试：把 1900 年设为截止点，把截至 1900 年写下的一切都交给系统，然后看它能否提出狭义相对论和广义相对论，对吧？就像爱因斯坦做到的那样。那会是一个有意思的测试。另一个是：它能否发明一种像围棋那样的游戏？不只是想出“第37手”这样的新策略，而是能否发明一种像围棋一样深邃、在审美上一样美、一样优雅的游戏？这些就是我会留意的东西。而且很可能需要系统能做到其中好几件事，才能说明它非常通用，而不只是在单一领域。所以我认为，至少这些会是我所寻找的迹象，表明我们拥有了一个达到 AGI 水平的系统；然后为了补充完整，你还会检查它的一致性，确保这个系统也没有漏洞。
是啊，比如一个新猜想或科学发现。那种感觉一定很酷。
是啊，那会很了不起。所以不只是帮助我们做到这一点，而是真正提出某种全新的东西。
而你会在现场见证那一刻。
当然。
在正式宣布之前大概还会有两三个月吧。而你就坐在那儿，忍着不发推文。
差不多是那样。没错。就像是：这个惊人的物理新想法到底是什么？然后我们可能会请该领域的世界级专家来检验它、验证它，并梳理它的推导过程。而且我想它自己也会解释它的推导过程。是啊。那会是一个了不起的时刻。
你会不会担心我们人类，哪怕是像你这样的专家，可能会错过它？可能会错过——
嗯，它可能相当复杂。所以有可能……我在这里打的比方是：我不认为它对最优秀的人类科学家来说会完全是个谜，但它可能有点像，比如在国际象棋里，如果我跟加里·卡斯帕罗夫或马格努斯·卡尔森交流、跟他们下一盘棋，他们走出一步妙招，我可能想不出那一步。但他们事后可以解释为什么那一步是合理的。而我们在某种程度上能理解它，达不到他们的水平，但如果他们善于解释（这其实也是智能的一部分，就是能用简单的方式解释你在想什么），我认为对最优秀的人类科学家来说，这是非常有可能做到的。
但我在想，也许你可以在围棋方面给我讲讲，我想知道，马格努斯或加里会不会下出一些棋，一开始会被当成坏棋而被否定？
是啊，当然，有可能。但之后他们会凭直觉弄明白这步棋为什么可行。而且从经验上说，游戏的好处，游戏的一大妙处在于，它某种意义上是一种科学检验。你赢没赢下这局？这就告诉你：好，那步棋最终是好的，那个策略是好的。然后你可以回过头去分析，甚至向自己多解释一点为什么。围绕它去探索，国际象棋的复盘分析之类就是这样运作的。所以也许这就是我的大脑那样运作的原因，因为我从四岁起就在做这件事，某种程度上算是那方面的硬核训练。
但即便是现在，我在生成代码时，也会出现一种微妙而迷人的较劲：我一开始可能会认定某段生成的代码在一些有趣而微妙的地方是错的。但随后我总得问自己：这里是不是有更深的洞见，其实错的是我？随着系统变得越来越智能，你将不得不面对这个问题。就好像在问：你刚想出来的这个东西，是 bug 还是特性？
是啊。这做起来会相当复杂，不过当然，你也可以设想由 AI 系统来生成那些代码或别的什么东西，然后由人类程序员来审视，但他们也不是孤立无援的，同样会借助 AI 工具。所以这会很有意思，也许负责监控的 AI 工具，会和生成代码的那些工具不一样。
那么回到那个 AGI 系统，抱歉又提起这个，不过 AlphaEvolve 真的非常酷。AlphaEvolve 在编程方面有可能实现类似递归式自我改进的东西。如果你能想象那个 AGI 系统，也许不是第一个版本，而是之后再往后几个版本，它实际上会是什么样子？你认为它会很简单吗？你认为它会是类似一个自我改进的——
比如，你认为它会很简单吗？你认为它会是类似一个自我改进的程序，而且是个简单的程序吗？
我的意思是，这有可能。但我想说，我甚至不确定这是否可取，因为那是一种“硬起飞”情景。不过目前像 AlphaEvolve 这样的系统，都有人类参与其中、对各种事情做决定，它们是相互交互的独立混合系统。
可以想象，最终有一天能端到端地完成这件事。我看不出有什么理由做不到，但我认为目前这些系统在设计代码架构方面还不够好。而且这又跟提出新的猜想性假设这个想法有点关联：如果你给它们非常具体的指令，说明你想做什么，它们会做得很好；但如果你给的是非常模糊的高层次指令，目前就行不通。我觉得这和“发明一个像围棋一样好的游戏”这个想法有关，对吧？
想象一下那就是提示词。那可是相当……所以我认为当前的系统不知道该怎么处理这样的要求，不知道如何把它缩小成一个可处理的问题。我觉得类似的还有“去造一个更好的你自己”这种要求，那太没有约束了。不过我们已经做到过。你也知道，用 AlphaEvolve 做的那些事，比如更快的矩阵乘法，当你把目标聚焦到一个非常具体的东西上时，它非常擅长对其进行渐进式改进。
但目前这些更多是渐进式的改进，算是小步迭代。而如果你想要在理解上实现大的飞跃，就需要大得多的进展。
是的。但这也可能算是对“硬起飞”情景的一种反驳。它可能只是一连串渐进式改进，就像矩阵乘法那样。它得在那儿思考好几天，琢磨怎么对某个东西做渐进式改进，而且它确实是以递归的方式去解决。而随着改进越做越多，它会慢下来。
所以，通往 AGI 的道路不会像是随时间推移逐步改进那样〔原文won’t与前后渐进改进的讨论关系不清〕。
是的。如果只是渐进式改进，那它看起来就会是那样。所以问题在于，它能不能提出像 Transformer 架构那样的新飞跃？在 2017 年我们和 Google Brain 做出它的时候，它能做到吗？目前并不清楚这些系统，比如我们的 AlphaEvolve 这样的东西，能否实现这样的大飞跃。所以这些系统肯定是好的。我认为我们已经有能够做渐进式爬山优化的系统了，而更大的问题在于：从现在开始，这是否就是全部所需，还是我们实际上还需要一两个大的突破。
那同一类系统也能带来这些突破吗？也就是形成一连串 S 曲线：既有渐进式改进，又时不时出现飞跃。
是的，我认为还没有人拥有能够明确无误地展示出那种大飞跃的系统。我们有很多系统能在你当前所处的那条 S 曲线上做爬山优化。
那第 37 手就算是一次飞跃。
是的，我认为那会是一次飞跃，类似那样的东西。
你认为在预训练、后训练、测试时计算这些方面，缩放定律依然稳固吗？反过来说，你是否预计 AI 的进展会撞墙？
我们确实觉得单靠缩放就还有很大的空间。实际上是所有环节：预训练、后训练和推理时。所以可以说有三种缩放在同时进行。而这里同样取决于你能有多大的创新能力，我们引以为傲的是拥有最广、最深的研究人才储备。我们有非常出色、了不起的研究人员，比如提出 Transformer 的诺姆·沙泽尔（Noam Shazeer），还有领导 AlphaGo 项目的大卫·西尔弗（David Silver）等等。
这样的研究基础意味着，如果需要某种新的突破，比如 AlphaGo 或 Transformer 那样的突破，我会押注我们会是做出这种突破的地方。所以我其实挺喜欢地形变得更难走的时候，对吧？因为那时事情就会从单纯的工程更多地转向真正的研究，以及研究加工程，而这正是我们最擅长的领域，我觉得这也更难。发明东西比快速跟随更难。
所以我们并不知道。我会说，到底是需要新东西，还是对现有方法进行缩放就足够了，大概是五五开。因此，以真正的经验主义方式，我们在这两方面都在尽最大努力推进。一方面是全新的、天马行空的想法，我们大概有一半的资源投在这上面；另一方面是把现有能力缩放到极致。而且在 Gemini 的每个不同版本上，我们仍然看到了一些非常棒的进展。
你用“深厚人才储备”这个说法来表述很有意思：如果通往 AGI 的进展不仅仅是缩放算力，也就是问题的工程层面，而更多在于需要突破的科学层面，那么你有信心 DeepMind，也就是 Google DeepMind，在那个领域处于有利位置，能大显身手。
嗯，我是说，如果你回顾过去十年或十五年的历史，支撑当今现代 AI 领域的突破中，大概有，我也说不准，80% 到 90% 最初来自 Google Brain、Google Research 和 DeepMind。所以是的，我会押注这种情况继续下去，希望如此。
那么在数据方面，你是否担心高质量数据会耗尽，尤其是高质量的人类数据？
我对此不太担心。部分原因是我认为数据已经足够了，而且事实已经证明，这些数据足以让系统变得相当好。这又回到了模拟的话题。你是否有足够的数据来构建模拟，从而能够生成更多来自正确分布的合成数据？显然这是关键。所以你需要足够的真实世界数据，才能构建出那类数据生成器，我认为我们目前正处在这一步。
是的，你们在科学和生物学方面做了很多了不起的工作，用不算多的数据做成了很多事。
是的。
我是说数据量还是很大，但我想足以……
足以让事情启动起来。没错，没错。
是啊。算力的扩展对构建 AGI 有多关键？这是个工程问题。它几乎也是个地缘政治问题，因为其中还牵涉到供应链和能源。而能源是你非常关心的事情，可能还包括核聚变。所以也要在能源方面进行创新。你认为我们会继续扩大算力吗？
我认为会，原因有几个。我觉得算力方面，首先是用于训练的算力，它往往需要集中部署在同一地点，所以实际上就连数据中心之间的带宽限制都会对此产生影响。所以即便在这方面也存在额外的约束，而这对训练很重要，显然是要训练你所能训练的最大模型；但另外，由于现在 AI 系统已经进入产品、被全世界数十亿人使用，你现在还需要海量的推理算力。
此外还有思考型系统，也就是过去一年出现的新范式：在测试时给它们的推理时间越长，它们就越聪明。所以所有这些都需要大量算力，我真的看不到这种需求会放缓。而且随着 AI 系统变得更好，它们会变得更有用，对它们的需求也会更多。所以从训练方面来看，训练其实只是其中一部分。在所需的整体算力中，它甚至可能变成较小的那部分。
是啊，有一件几乎有点像梗的事，就是 Veo 3 取得的成功和它那些令人惊叹的地方。人们开玩笑说，它越成功，服务器就越“冒汗”。
是的。
推理那边。
对，对，没错。我们还做了个小视频，让服务器煎鸡蛋之类的。没错。我们得想办法解决这个问题。我们做了很多有意思的硬件创新，因为我们有自己的 TPU 产品线，我们也在研究仅用于推理的东西，也就是专用推理芯片，以及如何让它们更高效。
我们也非常有兴趣构建能帮助解决能源使用问题的 AI 系统，而且我们已经做过这方面的工作：帮助数据中心节能，比如让冷却系统更高效、电网优化，然后最终还有像帮助聚变反应堆进行等离子体约束这样的事情。我们和 Commonwealth Fusion 在这方面做了大量工作，此外也可以想象用于反应堆设计。
然后我认为材料设计是最令人兴奋的方向之一。新型太阳能材料、太阳能电池板材料；室温超导体一直在我的梦想突破清单上；还有最优的电池。我认为其中任何一项得到解决，对气候和能源使用都将是彻底的革命。而且我们很可能已经接近了，同样是在未来五年内，就会拥有能够切实帮助解决这些问题的 AI 系统。
如果让你下注，抱歉问个很荒唐的问题，20 年、30 年、40 年后主要的能源来源会是什么？你认为会是核聚变吗？
我认为聚变和太阳能是我会押注的两个。太阳能嘛，太阳当然就是天上的聚变反应堆，我认为真正的问题在于电池和输电。所以除了更高效、越来越高效的太阳能材料之外，也许最终还会放到太空中，就是那种戴森球之类的设想。
至于聚变，我认为看起来肯定是可行的，前提是我们有正确的反应堆设计，能够足够快地控制等离子体等等，而且我认为这两件事实际上都会得到解决。所以我们很可能至少会拥有……这两者很可能会成为可再生、清洁、几乎免费甚至可能完全免费的能源的两大主要来源。
能活在这个时代真是太好了。如果我和你一起穿越到一百年后的未来，要是我们已经越过了卡尔达肖夫等级的 I 型文明，你会有多惊讶？
如果是从现在算起一百年的时间尺度，我不会那么惊讶。我是说，我认为很明显，如果我们用刚才讨论的某种方式攻克了能源问题，或者实现了非常高效的太阳能，那么如果能源基本上是免费、可再生而且清洁的，就能解决一大堆其他问题。
比如说，用水获取问题就会消失，因为你可以直接用海水淡化。我们有这项技术，只是太贵了。所以只有像新加坡、以色列等相当富裕的国家真正在使用。但如果它很便宜，那么所有沿海国家都可以用。而且你还会拥有无限的火箭燃料。你可以直接用能源把海水分解成氢和氧，那就是火箭燃料。
所以再加上埃隆那些了不起的可自主着陆的火箭，就可能出现某种通往太空的公交服务。这会开启难以置信的新资源和新领域。我认为小行星采矿会成为现实，还有人类最大限度地繁荣发展，走向星辰。这也是我所梦想的，就像卡尔·萨根那种把意识带到宇宙、唤醒宇宙的想法。我认为，只要我们把 AI 做对，并借助它攻克其中一些问题，人类文明假以时日终将做到这一点。
是啊，我在想，如果你只是个在太空中飞过的游客，那会是什么样子。你大概会注意到地球，因为如果解决了能源问题，你可能会看到很多太空火箭。所以就像这里伦敦的交通，只不过是在太空里。
是的，没错。
就是很多很多火箭。然后你大概还会看到太空中漂浮着某种能源设施，比如可能是太阳能。所以地球表面看起来会更有科技感。然后你会利用这些能源的力量来保护自然的……
是的。
比如雨林之类的东西。
没错。因为这将是人类历史上第一次我们不再受资源约束。我认为那可能会是人类一个了不起的新时代，不再是零和的，对吧？我有这块地，你就没有。或者如果老虎拥有了它们的森林，那当地村庄就不能用了，他们还能用什么呢？我认为这会有很大帮助。不，它不会解决所有问题，因为仍然存在其他人性弱点，但它至少会消除其中一个，我认为是重大的诱因之一，也就是资源稀缺，包括土地、更多的材料和能源。
我们有时也把它称作，或者换个说法，一个“极度富足”的时代，资源充足，人人都能分到。当然，接下来的大问题是确保这些成果被公平地分享，让社会中的每个人都从中受益。
所以人性里有某种东西让我觉得，就像波拉特那样，“我的邻居”，你们就会惹麻烦。我们确实会挑起冲突，这也是为什么游戏一直以来（我其实越来越多地了解到，甚至在古代历史中也是如此）都起到让人们远离战争、远离真正的热战的作用。所以也许我们可以设计出越来越复杂精巧的电子游戏，把我们吸引过去，给我们那种……挠一挠冲突的那种痒，不管那究竟是什么，但就是我们，人的天性。
就像……对。
然后避免那些随着技术越来越先进而可能到来的真正热战，因为我们早已越过了这样一个阶段：我们能制造出的武器真的可以摧毁整个人类文明。所以跟邻居开战已经不再是什么好办法了。还是下一盘国际象棋更好。
或者踢一场足球。
或者踢足球。对。
我觉得这就是现代体育的意义所在。我很喜欢看足球，以前也经常踢。它非常本能，带有部落色彩，我认为它确实把很多这类能量引导出来。我认为这是一种想要归属于某个群体的人类需求，而足球把它引向一种有趣的、健康的、非破坏性的方式，算是一种建设性的东西。
再回到游戏，我认为游戏之所以那么好，尤其是让孩子们下国际象棋之类的，最根本的原因在于它们是世界的绝佳微缩模拟。它们也是对世界的模拟，是某种现实世界情境的简化版本，无论是扑克、围棋、国际象棋，还是外交（Diplomacy），它们对应着现实世界的不同方面。
而且它让你可以反复练习，因为人生中你有多少次机会能练习那种重大的决策时刻？做哪份工作、上哪所大学？一个人大概只有，我也不确定，十几个左右的关键决定要做，而且你必须尽己所能把它们做好。游戏是一种安全的、可重复的环境，你可以在其中改进自己的决策过程，而且它也许还有一个额外的好处，就是把一些能量引导到更具创造性和建设性的追求上。
嗯，我觉得练习输和赢也非常重要。
没错。
输真的是……这就是我热爱游戏的原因。这也是我甚至喜欢巴西柔术这类运动的原因，你可以在一个安全的环境里一遍又一遍地被揍得很惨。它会提醒你物理规律，提醒你世界是如何运作的，有时你会输，有时你会赢，但你依然可以和所有人做朋友。可是输的那种感觉，我是说，对我们人类来说，要真正理解它是件挺奇怪的事。那就是生活的一部分。输，是生活的一个根本组成部分。
我认为武术，就我的理解而言，还有像国际象棋这样的东西，至少按我当初对待它的方式，很大程度上关乎自我提升和自我认识。就是，好吧，我做了这件事。它其实不是为了打败对方，而是为了最大限度地发挥你自己的潜力。
§02文字稿 2
如果你以健康的方式去做，你就会学会以某种方式运用胜利和失败。不要被胜利冲昏头脑，以为自己就是世界第一。而失败让你保持谦逊，让你始终知道总有更多东西可以学，总有更厉害的专家可以指导你。我很确定在武术中你会学到这一点。
我认为这至少也是我当年接受国际象棋训练的方式。所以同样地，它可以非常硬核、非常重要，你当然想赢，但你也需要学会以健康的方式面对挫折，把输掉时的那种感受转化为建设性的东西：下一次我要改进这一点，或者在这方面做得更好。
这其中有某种东西是幸福的来源、意义的来源，那种进步……它无关输赢。
是的，是精通。从某种意义上说，没有什么比这更令人满足了。就像是：哇，这件我以前做不到的事，现在我能做到了。再说一次，游戏、体育运动和智力运动之所以美妙，是因为它们有衡量的方式，你可以衡量那种进步。
是啊，我想这就是我喜欢角色扮演游戏的原因之一，比如技能树上的数字往上涨，这真的就是我们人类意义的一个来源，不管我们的——
对，我们相当沉迷于这种数字往上涨的感觉。也许这正是我们把游戏做成那样的原因，因为显然我们自己就是一种不断“爬山”优化的系统（hill climbing system），对吧？
对。如果我们没有任何机制，那会挺可悲的——
不同颜色的级别腰带，我们到处都在这么做，就是有那种东西……
我并不想轻视这一点。这是人类普遍拥有的一种深层意义来源。
在商业和领导力方面，一个令人惊叹的故事是谷歌过去一年所做的事。我想可以公平地说，一年前在 Gemini 1.5 的时候，谷歌在大语言模型产品方面是在“输”的，而现在它正在“赢”，这……我是乔·拜登〔原文此处突兀插语，待核〕。而你执掌大局，领导了这项工作。在一年的时间里，从所谓的“输”到所谓的“赢”，需要付出什么？
是的，首先，我们拥有一支绝对出色的团队，由 Corey、杰夫·迪恩（Jeff Dean）和 Oriole〔原文姓名拼写待核〕领导，还有 Gemini 上那支了不起的团队。绝对是这样。没有最顶尖的人才是做不到的。当然，我们也有大量优质的算力。但再往下，就是我们所打造的研究文化，基本上是把谷歌内部的不同团队整合到一起，也就是谷歌大脑（Google Brain）这支世界级团队，以及原来的 DeepMind，汇集所有最优秀的人和最好的想法，齐心协力打造出我们所能打造的最出色的系统。
这个过程很艰难，但我们都非常好胜，而且热爱研究。做这件事非常有趣，看到我们的发展轨迹也很棒。这并不是理所当然的，但我们对现在所处的位置非常满意，而进步的速度才是最重要的。如果你看看我们从两年前到一年前再到现在走过的路，我想我们称之为“持续不懈的进步”。再加上持续不懈地把这些进步推出成产品，这非常成功。而且整个领域、整个 AI 领域的竞争激烈得难以置信，世界上一些最伟大的创业者、领导者和公司现在都在竞争，因为每个人都意识到了 AI 有多重要。看到这样的进步，我们非常欣慰。
谷歌是一家体量巨大的公司。你能谈谈在这种情况下自然会发生的事情吗，也就是随之出现的官僚主义？你得提防那些自然而然冒出来的东西，各种会议、各种经理之类的。从领导者的角度来看，要突破这些，才能像你说的那样去发布产品，会面临哪些挑战？比如过去这些年发布的产品数量，和 Gemini 相关的产品数量，简直疯狂。
对吧？是的，正是如此。这就是“持续不懈”的样子。我认为，任何大公司最终都会有很多管理层级之类的东西，这算是它运作方式的本质。但我依然，而且一直以来都是，把原来的 DeepMind 当作一家创业公司来运营。一家规模很大的创业公司，但仍然是创业公司。
这也是我们今天在谷歌 DeepMind（Google DeepMind）依然保持的行事方式：行事果断，并且拥有最优秀的小型组织所具有的那种活力。我们努力做到两全其美：我们拥有这些覆盖数十亿用户的、了不起的产品入口和出色的产品，可以用我们的 AI 和研究为它们赋能，这非常了不起。世界上很少有地方能做到这一点：一方面做出了不起的世界级研究，然后把它接入产品，第二天就能改善数十亿人的生活。这是一个相当了不起的组合。
我们一直在与官僚主义作斗争、不断削减它，好让研究文化和持续不懈的发布文化蓬勃发展。我认为我们取得了相当好的平衡，同时也以负责任的态度对待这一切。作为一家大公司，而且拥有众多庞大的产品入口，你必须这样做。
你提到拥有数十亿用户的产品入口，这让我想起一件趣事。我在这里的大英博物馆和一位非常聪明的人聊过，他叫欧文·芬克尔（Irvin Finkel）。他是楔形文字方面的世界级专家，楔形文字是一种刻在泥板上的古代文字。他不知道 ChatGPT 或 Gemini，他甚至不知道 AI，但他第一次接触 AI，就是谷歌上的 AI 模式（AI Mode）。
是的。
他就问：你们说的是这个吗，这个 AI 模式？这提醒了我们，世界上有很大一部分人并不知道 AI 这回事。
是的，我知道。这挺有意思的。如果你整天泡在 X 也就是 Twitter 上，我是说，至少我的信息流里全都是 AI。在硅谷和某些特定的圈子里，每个人满脑子想的都是 AI，但普通世界里很多人还没有接触过它。
而作为他们与 AI 的第一次接触，这是一份重大的责任。放眼全世界的庞大规模，比如印度的乡村，或者世界各地任何地方，你都能……
我们希望它尽可能好，而在很多情况下，它只是在底层提供动力，让地图或搜索之类的东西运作得更好。理想情况下，对很多这样的人来说，它应该是无缝的。它只是一种新技术，让他们的生活更有效率，并为他们提供帮助。
Gemini 产品和工程团队的很多人都对你给予了极高的评价，而且是在一个我几乎没想到的维度上。我原本把你看作一位深度科学家，关心那些重大的科学研究问题。但他们也说你是个出色的产品人，懂得如何打造一个很多人会用、而且喜欢用的东西。那么你能谈谈，要打造一款很多人喜欢使用的 AI 产品需要什么吗？
是的。嗯，我是说，这同样要追溯到我做游戏设计的那些年，那时我为数百万玩家设计游戏。人们会忘记这一点。我有过把尖端技术做进产品的经验，九十年代的游戏就是这样的。
所以我其实很喜欢这种结合：前沿研究被应用到产品中，去驱动一种全新的体验。因此，我认为这其实是同一种能力：发自本能地去想象使用它会是什么感觉，以及拥有好的品味，这又回到了我们之前聊的话题。在科学中有用的东西，我认为在产品设计中同样有用。
而且我一直都是一个跨学科的人，所以我其实看不到艺术与科学、产品与研究之间的界限。对我来说它们是一个连续体。我喜欢做尖端的产品，底层要有尖端技术〔原文此处否定句不完整，依相邻解释理解〕。如果只是平庸的普通产品，我不会对它们感到兴奋。它需要这种发明、创造力和能力。
你学到了哪些具体的东西？哪怕只是在大语言模型这一侧，在你和 Gemini 互动的时候。这感觉不像……比如布局、界面，也许还有延迟上的权衡、如何呈现给用户、要等多久、如何展示这种等待，或者推理能力。这里面有一些有意思的东西，因为就像你说的，这是最前沿的东西，我们还不知道如何正确地呈现它。那么你有学到哪些具体的东西吗？
我是说，这是一个变化极快的领域，我们一直都在评估这些。但就我们目前的认识而言，你需要不断地简化，无论是界面，还是你在模型之上构建的东西，你某种程度上要给模型让路。模型这列火车正沿着轨道驶来，而且它的进步速度快得难以置信，也就是我们之前谈到的那种持续不懈的进步。
你看 2.5 和 1.5 相比，进步非常巨大，我们预计未来的版本还会再有这样的进步。所以模型正变得越来越强大。
所以，在当今世界，这些 AI 优先的产品，其设计空间有意思的地方在于：你不能按照这东西今天能做什么、这项技术今天能做到什么来设计，而要按照一年以后它能做到什么来设计。所以你实际上必须是一个技术功底很深的产品人，因为你得有很好的直觉和感觉，去判断：好，我现在设想的这个东西今天还做不到，但研究进展是否在按计划推进，基本上能在六个月或一年后赶上它。
所以你得去预判这种变化极快的技术会走向哪里，同时还有新的能力不断上线，这些是我们之前没有意识到的，能让这些研究行得通。又或者，现在我们有了视频生成，该拿它做什么，还有这些多模态的东西。
我有一个问题：真的会一直是我们今天这种 UI，也就是这些文本框聊天吗？一旦你想到这些超级多模态的系统，这似乎非常不可能。难道不应该更像《少数派报告》那样，你以一种协作的方式和它默契地互动？今天的方式看起来非常受限。我觉得，也许只要再过几年，我们回头看今天的界面、产品和系统，就会觉得它们相当原始。
所以我认为，在产品端和研究端，其实都有很大的创新空间。
然后我们私下聊到了键盘，悬而未决的问题是：我们会在何时、以何种方式、在多大程度上转向以语音作为与身边机器交互的主要方式，而不是打字？
是的，我是说，打字是一种带宽非常低的方式，即便你打字非常快。我认为我们将不得不开始利用其他设备，无论是智能眼镜、音频耳机，最终也许还有某种神经设备，借此我们可以把输入和输出带宽提升到也许是今天的 100 倍。
我认为界面设计是一种被低估的艺术形式，因为如果没有合适的界面，你就无法释放一个系统的智能所蕴含的力量。界面才是真正释放其力量的方式。如何做到这一点，是个非常有意思的问题。所以你会怎么看，懂得“不碍事”，难道不是一门真正的艺术吗〔原文此处句法不清〕。
是的。我想这正是史蒂夫·乔布斯一直在谈的东西，对吧？我们想要的是简洁、美感和优雅。在我看来，我们还没做到，还没有人做到。而这正是我希望我们能达到的。
这又让我想到围棋这个游戏，最优雅、最美的游戏。你能做出像它一样美的界面吗？其实，我认为我们将进入一个由 AI 生成界面的时代，这些界面很可能是为你个性化定制的，契合你的方式、你的审美、你的感受、你大脑的运作方式，AI 会根据任务来生成相应的界面。感觉这很可能就是我们最终会走向的方向。
因为有些人是重度用户，他们希望每一个参数都显示在屏幕上，一切都基于……比如我，喜欢基于键盘的导航，每样操作都有快捷键。而有些人喜欢极简。
把所有那些复杂性都隐藏起来。对，正是如此。
是啊。嗯，很高兴你身上也有史蒂夫·乔布斯模式。这太棒了。爱因斯坦模式，史蒂夫·乔布斯模式。
好，让我试着套你的话，骗你回答一个问题。Gemini 3 什么时候推出？是在 DTS-6〔原文名称待核〕之前还是之后？全世界都在等这两样。
从 2.5 到 3.0 需要什么？因为看起来 2.5 已经发布了很多版本，这些版本在性能上已经是飞跃了。那么升级到一个新版本到底意味着什么？是关于性能吗？还是关于一种截然不同的体验风格？
嗯，我们不同版本号的运作方式是，我们会尝试收集……做一次新的完整训练运行，以及一个新版本的完整产品化，大概需要六个月左右。
在这段时间里，会涌现出大量有意思的新研究迭代和想法，我们就把它们都收集到一起，你可以想象过去六个月里在架构方面、也许是在数据方面的有趣想法，可能是很多不同的东西。我们把这些都打包起来，测试哪些可能对下一次迭代有用，然后把它们捆绑在一起。接着我们就启动新的大规模“主力”训练运行（hero training run）。当然，这个过程会受到监控。
……运行，对吧？当然，这个过程会受到监控，然后在预训练结束时，还有各种后训练，后训练有很多不同的做法，也有不同的修补方式。所以那里有一整个实验阶段，你也可以从中获得很多提升。这就是为什么你看到的版本号通常指的是基础模型，也就是预训练模型，而 2.5 的那些中间版本、不同尺寸以及各种小的增补，往往是补丁或后训练方面的想法，可以在同一个基础架构之上事后完成。当然，在此之上，我们还有不同尺寸的模型，Pro、Flash 和 Flashlight〔原文型号名称待核〕，它们通常是从最大的模型蒸馏而来的，比如 Flash 模型就是从 Pro 模型蒸馏而来。这意味着我们有一系列不同的选择。如果你是开发者，你是想优先考虑性能，还是速度和成本？
我们喜欢把它想成一条帕累托前沿：一方面，Y 轴是性能，X 轴基本上是成本或延迟和速度。我们的模型完全定义了这条前沿。所以无论你作为个人用户或开发者想要怎样的取舍，你都应该能找到我们的某个模型来满足那个约束。
所以在版本变化的背后，有一次大规模训练运行，然后是极其复杂的产品化过程。接着是沿着那条帕累托前沿蒸馏出不同尺寸的模型。而你每走一步，都会发现可能有个很酷的产品。会有各种支线任务。
是的，正是如此。
然后你也不想做太多支线任务，因为那样你就会有一百万个版本和一百万个产品。
是的，完全正确。
这非常不明确，但你也会超级兴奋，因为它太酷了。VLs〔原文名称待核〕又该怎么看呢？非常酷。它如何融入更大的整体？
是的，正是如此。正是如此。然后你就一直处在这样一个过程中：把来自产品端、来自后训练、甚至更下游的想法汇聚到上游，我们称之为“上游化”（upstream），把它们上游化到下一次运行的核心模型训练中。这样一来，主模型，也就是 Gemini 主线，就会变得越来越通用，最终成为 AGI。
一次主力训练运行。
是的，没错。再经过几次主力训练运行之后。
是的。那么，有时当你们发布这些新版本时，或者说其实每个版本都是如此，基准测试对于展示模型性能来说是有益的，还是适得其反？
你需要它们，但重要的是不要对它们过拟合。所以它们不应该是唯一的标准。比如 LMArena，它以前叫 LEMSYS〔原文名称拼写待核〕，它就是其中之一，结果自然而然地成了人们测试这些系统（至少是聊天机器人）的主要方式之一。显然还有大量学术基准测试，测试数学和编程能力、通用语言能力、科学能力等等。然后我们还有自己关心的内部基准测试。
这是一个多目标优化问题。你不希望只擅长一件事。我们在努力构建全面出色的通用系统，并且你要尽量做“无悔”的改进。也就是说，你在编程上有所提升，但不会降低你在其他领域的表现。这就是难点所在，因为当然你可以加入更多编程数据，或者加入更多，我不知道，游戏数据，但这样会不会让你的语言系统、翻译系统以及其他你关心的东西变差？所以你必须持续监测这套越来越庞大的基准测试。另外，当你把这些模型放进产品里时，你还会关心直接的使用情况、直接的统计数据，以及你从终端用户那里得到的信号，无论他们是程序员，还是使用聊天界面的普通人。
因为归根结底，你想衡量的是有用程度，但要把它转换成一个数字太难了。它实际上是基于大量用户的“感觉式”基准。这很难判断，而且对我来说会非常可怕：你知道，你有了一个聪明得多的模型，但凭感觉就是哪里不太对，不太好用。这太吓人了，还有你刚才说的一切。它必须在如此多的领域都聪明且有用。所以你突然超级兴奋，因为它能解决你以前从来解决不了的编程问题，但现在它写的诗更烂了之类的，这就是，我不知道，压力很大。这真的很难……
做到平衡。
很难平衡，而且因为你没法真正信任基准测试，你真的只能信任终端用户。
是的。然后还有一些更加深奥的因素会起作用，比如系统人设的风格：它是啰嗦还是简洁？是否幽默？不同的人喜欢不同的东西。所以这非常有意思。这几乎就像心理学研究或人格研究的前沿领域。我读博士时就做过这方面的研究，比如五因素人格模型，我们究竟希望我们的系统是什么样子的？而且不同的人也会喜欢不同的东西。所以这些都是产品领域的新问题，我认为以前从未被真正处理过，但我们现在将不得不迅速应对。
我认为这是一个非常迷人的领域，塑造这个东西的性格，而在这个过程中，它也像一面镜子照向我们自己：我们喜欢的是哪些东西？因为提示词工程能让你控制其中很多要素，但产品能否让你更容易地控制这些体验的不同风格，以及你与之互动的不同角色？
是的，正是如此。
那么，谷歌 DeepMind 获胜的概率有多大？
嗯，我看待获胜……我认为，考虑到我们正在构建的东西有多重要、影响多深远，用“获胜”来看待它是错误的。所以说来有趣，我尽量不把它看作一场游戏或竞赛，尽管我的思维方式很大程度上就是这样。在我看来，这关乎我们所有人，或者说我们这些处在最前沿的人，都有责任去引导这项了不起的技术，它可以被用来做极大的好事，但也存在风险，要安全地把它引入世界，造福人类。这一直是我梦想的，也是我们一直努力在做的。我希望，当人们越来越清楚地看到，随着我们越来越接近 AGI，这正是所需要的，那么整个社区，也许是国际社会，最终会围绕这一点团结起来。
我同意你的看法。我觉得你说得非常好。你说过，你与其中一些实验室的负责人有交流，而且关系不错。随着竞争升温，维持这些关系有多难？
到目前为止还算不错。我一直以自己善于合作为傲。我是个喜欢合作的人。研究是一项协作事业，科学也是一项协作事业。归根结底，如果你治愈了可怕的疾病、找到了了不起的疗法，这对人类来说都是好事，是人类的净收益。能源也是一样，我希望借助 AI 帮忙解决的所有问题都是如此。所以我只是希望这项技术存在于这个世界上，被用在正确的事情上，并且它带来的好处，也就是它带来的生产力收益，能够被所有人共享、造福每一个人。所以我努力和各家领先实验室的人都保持良好关系。正如你可能想到的，他们当中很多人都是非常有意思的人物。
是的。
不过是的，我希望我和他们几乎所有人关系都不错。我认为，当事情变得比现在更加严肃的时候，这一点会很重要：要有那些沟通渠道。如果到时需要合作或协作，尤其是在安全之类的问题上，正是这些渠道会促成这种合作。
是啊，我希望在一些风险没那么高的事情上也能有些合作，这样做本身就能成为维系友谊和关系的一种机制。比如说，我觉得如果你和埃隆能以某种方式合作做一款电子游戏，网友们一定会很喜欢，诸如此类。我觉得这能促进同伴情谊和良好关系。而且你们俩都是正经的游戏玩家，所以一起做点东西会很有意思——
是啊，那会很棒。我们过去也聊过这个，这可能是我们可以做的一件很酷的事。我同意你的看法，某种意义上有一些副业项目挺好的，可以让人专注于其中的合作层面，对双方来说都是双赢，还能锻炼出那种合作的“肌肉”。
我把科学事业看作人类的那种副业项目，我觉得 Google DeepMind 一直在大力推动这件事。我很希望看到其他实验室多做一些科学方面的工作，然后彼此合作，因为在重大科学问题上合作似乎更容易。
我同意，我也很希望看到很多人、所有其他实验室都谈论科学，但我认为真正把 AI 用于科学、并且在这么做的，其实只有我们。这也是为什么像 AlphaFold 这样的项目对我来说如此重要。我认为我们的使命就是要展示 AI 如何能以非常具体的方式，明确地被用来造福人类。此外，我们还依托 AlphaFold 分拆出了像 Isomorphic 这样的公司来做药物研发，进展非常顺利。你可以设想再构建更多 AlphaFold 类型的系统，进入化学领域，帮助加速药物设计。我认为我们需要展示、社会也需要理解的，正是 AI 能够带来这些巨大好处的例子。
我发自内心地感谢你以严谨、乐趣和谦逊，以及所有这些，推动科学事业向前发展。我就是很喜欢看到这些，而且你还在聊 P 是否等于 NP，这真是太了不起了。所以我很喜欢。现在似乎正在上演一场人才争夺战。其中一部分可能只是网络段子，我也说不准。你怎么看 Meta 用巨额薪水抢人才，以及这场人才争夺战不断升温？我应该说明一点，我认为很多人把 DeepMind 看作做前沿工作的绝佳去处，原因就是你刚才概述的那些。这里有一种充满活力的科学文化。
是的。你看，Meta 现在当然是在采取某种策略。至少从我的角度看，我认为那些真正相信 AGI 的使命、相信它能做什么，并且理解它带来的真实后果（无论好坏）以及这背后意味着什么样的责任的人，他们做这件事大多和我一样，是为了站在这项研究的前沿，这样就能帮助影响它的发展方向，并安全地引导这项技术进入世界。而 Meta 目前并不在前沿。也许他们能设法重回前沿，而且从他们的角度看，他们现在的做法可能是理性的，因为他们落后了，需要做点什么。但我认为有比钱更重要的东西。当然，人们得按市场价给员工发薪，诸如此类，而且这个价码还在不断上涨。我早就预料到会这样，因为越来越多的人，包括公司领导者，终于意识到了我 30 多年来一直知道的事情：AGI 可能是人类有史以来将要发明的最重要的技术。所以在某种意义上，这样做是理性的。但我也认为还有一个大得多的问题。如今 AI 领域的人薪酬都非常高。
我记得我们 2010 年刚起步的时候，有几年我甚至都没给自己发工资，因为钱不够。我们根本融不到资，而如今实习生拿到的钱，相当于我们当年整个第一轮种子轮融到的金额。所以挺好笑的。我还记得那时候我得免费工作，差不多得自掏腰包去做实习。现在完全反过来了，但事情就是这样，这是个新世界。不过我觉得，我们一直在讨论 AGI 之后会发生什么，能源系统问题被解决之类的，到那时钱到底还意味着什么？所以我认为在经济层面，我们会有大得多的问题需要解决：在那样的世界里，经济如何运转，公司又如何运转？所以我觉得今天关于薪水之类的事情，多少算是个次要问题。
是啊，当你面对如此巨大的后果，以及如此巨大、迷人的科学问题时——
而这些可能只有短短几年之遥。
那么从实际、务实的角度来说，如果我们聚焦到工作上，可以看看程序员，因为 AI 系统目前在编程上似乎表现得非常好，而且越来越好。所以很多以编程为生、热爱编程的人担心会丢掉工作。你觉得他们应该有多担心？要适应这个新现实，确保自己作为一个人在编程世界里生存下来并发展得好，正确的方式是什么？
嗯，有意思的是编程，这又一次和我们多年前的想法相反：也许一些我们认为更难的技能，由于种种原因，结果反而可能是更容易的那些。但编程和数学之所以如此，是因为你可以生成大量合成数据，并验证这些数据是否正确。正是由于这种性质，更容易制作出合成数据之类的东西用来训练。当然，这也是我们所有人都感兴趣的领域，因为作为程序员，它能帮助我们，让我们编程更快、更高效。
所以我认为在下一个时代，比如接下来的五年、十年，我们会发现，那些拥抱这些技术、几乎与之融为一体的人，无论是在创意行业还是技术行业，我想都会拥有超人般的生产力。所以优秀的程序员会变得更好，甚至会比他们现在强 10 倍。因为到那时，他们将能运用自己的技能，最大限度地利用这些工具、发挥这些工具的作用。所以我认为这就是我们在下一个领域会看到的情况。这会带来相当多的变化。这一天正在到来。很多人会从中受益。
所以我认为其中一个例子是，如果编程变得更容易，就会有更多创意人士能用它做更多事情。但我认为顶尖程序员仍然会有巨大优势，体现在规范说明上，也就是回到明确架构应该是什么样。问题应该是如何以有用的方式引导这些编程助手，并检查它们生成的代码好不好。所以我认为在可预见的未来几年里，这方面还有很大的空间。
所以我觉得这里面有几点很有意思。其一，人们非常有必要持续不断地把这些工具用得越来越好，这样他们是在乘着模型不断进步的浪潮前进，而不是与模型竞争。但令人遗憾的是，不过这就是地球上生活的本质，某些处于前沿的编程类型可能会有巨大的价值，而其他类型的价值则会降低。比如，前端网页设计可能更适合像你提到的那样由 AI 系统生成；而也许像游戏引擎设计之类的，或者后端设计，或者在高性能场景中指导系统，也就是高性能编程那类设计决策，可能会极其有价值。但这会改变最需要人类的地方，而要应对这一点，对人们来说是很可怕的。
是的，我认为没错。任何时候出现大量颠覆和变化，而且我们经历过这种情况，不只是这一次。人类历史上我们经历过很多次，有互联网、移动技术，在那之前当然还有工业革命，而这将会是又一个会发生大量变化的时代。我认为会出现今天我们甚至无法想象的新工作，就像互联网所创造的那样。那些拥有合适技能、能乘上这股浪潮的人，他们的这些技能会变得极其有价值。但也许人们得重新学习，或者稍微调整一下自己现有的技能。而这一次更难应对的地方在于，我认为我们将会看到的，大概是工业革命影响的 10 倍左右，而且速度也快 10 倍。所以不是用 100 年，而是用 10 年，这样一来，影响和速度叠加起来，相当于 100 倍。
所以我认为这会让社会更难应对，有很多事情需要深思，我认为我们现在就需要讨论这些。我鼓励世界顶尖的经济学家和哲学家开始思考：社会将会如何受到影响，我们应该怎么做？包括诸如全民基本供给之类的东西，让大量增长的生产力被分享、分配给社会，也许以服务和其他形式提供；如果你想要更多，你仍然可以去掌握一些极其稀缺的技能之类的，让自己变得独一无二。但会有一份基本保障被提供出来。
如果你把政府看作一种技术，那么不只是经济学，政治层面也有一些有意思的问题。你如何设计一个能够回应这个飞速变化时代的制度，从而能够代表不同群体的人所感受到的不同痛苦？你又如何以一种能缓解这些痛苦的方式重新分配资源，代表不同人群的希望、痛苦和恐惧，同时又不导致分裂？因为政客往往非常擅长煽动分裂，并借此当选：定义出“他者”，然后说那是坏的。基于这一点，我认为这往往不利于借助一项飞速变化的技术来帮助世界繁荣发展。所以，如果把政治制度看作一种技术的话，我们几乎也需要迅速改进它们。
当然。我认为我们可能需要新的治理结构和机构来帮助完成这一转型。所以我认为政治哲学和政治学将是其中的关键。但我认为首要的事情是，首先要创造更加充裕的资源。这是第一位的。提高生产力，获取更多资源，也许最终摆脱零和局面。然后第二个问题才是如何使用这些资源、分配这些资源。但是的，没有先实现那种充裕，就做不到这一点。
你跟我提到过本哈明·拉巴图特的书 The Maniac，首先这本书讲到了你。里面有一段关于你的传记。
很奇怪，是的。
是的，当然。不清楚其中有多少是虚构、多少是现实。但我认为书中的核心人物是约翰·冯·诺伊曼，我会说这本书是对疯狂与天才、以及可以说是“发现”这把双刃剑的一次令人难以忘怀又美丽的探索。对于不了解的人来说，约翰·冯·诺伊曼是一位传奇人物。他对量子力学做出过贡献。他参与了曼哈顿计划。他被广泛认为是现代计算机和人工智能等领域之父或先驱。所以很多人说他是有史以来最聪明的人之一，这很令人着迷。
同样令人着迷的是，他亲眼看到核科学和物理学变成了原子弹，所以他见证了思想变成一种对世界产生巨大影响的东西。他也预见到计算领域会发生同样的事情，这又是这本书有点美丽又令人难以忘怀的一面。然后向前跨越一大步来看，至少是AlphaZero、AlphaGo、AlphaZero那个重大时刻，也许约翰·冯·诺伊曼的思想就此变成了现实。所以我想问的是，如果你现在能和约翰·冯·诺伊曼待在一起聊聊，你觉得他会怎么评价现在发生的一切？
嗯，那会是一次很棒的经历。他是一个非凡的头脑。我也很喜欢他在普林斯顿高等研究院度过了大量时间，那是一个非常特别的思考之地。他是一位多么博学的通才，他参与发明的东西涉及范围之广令人惊叹，当然包括所有现代计算机都基于的冯·诺伊曼架构。他有着惊人的远见。我想他会喜欢我们今天所处的境地，我想他会非常欣赏AlphaGo，他研究过博弈论。我认为他预见到了学习机器会发生的很多事情，也就是那些被“培育”出来而不是被编程出来的系统，我想他是这么说的。我不确定，也许他甚至都不会那么惊讶。这是我认为他早在1950年代就已预见到的东西的成果。
我好奇他会给出什么建议。他亲眼见证了曼哈顿计划中原子弹的研制。我相信其中有些有趣的东西可能讨论得还不够，也许是某些官僚层面的东西，也许是政客的影响，也许是不够主动去拿起电话，和那些被上述政客称为敌人的人交谈。实际上，那个时代可能有一些深刻的智慧，我们也许已经遗失了。
是的，我相信是有的。我也读了很多关于那个时代的书，记录那段时期的书，以及参与其中的一些杰出人物。但我同意你的看法。我认为也许需要更多的对话和理解。我希望我们能从那些时代中吸取教训。我认为这里的不同之处在于，人工智能有很多……它是一种多用途技术。显然，我们正在努力做一些事情，比如攻克所有疾病、帮助解决能源和稀缺问题，这些了不起的事情。这就是我们所有人以及我自己在30多年前踏上这段旅程的原因。但当然也存在风险。冯·诺伊曼大概，我猜，两方面他都预见到了。我记得他说过，我想是对他妻子说的，计算机对世界的影响会更大。正如我们刚才讨论的，我认为这是对的。我认为它的影响至少会是工业革命的10倍。所以我认为他是对的。所以我想，我能想象他会对我们如今所处的境地非常着迷。
我认为这本书的启示之一，你可以纠正我，就是理性，正如书中所说的“理性的疯狂梦想”（Mad Dreams of Reason），在我们构建这些超级强大的技术时，仅靠理性不足以引导人类。还需要别的东西。还有一种宗教的成分，无论是什么神、无论宗教给予的是什么，它触动了人类精神中某种纯粹冰冷的理性无法给予我们的东西。
我同意这一点。我认为我们需要带着某种维度去对待它，随便你怎么称呼，精神维度或人文维度。不一定与宗教有关，而是关于灵魂的这种观念，是什么让我们成为人，我们所拥有的这种火花，也许它与意识有关，等到我们最终理解意识的时候就会知道。我认为这必须处于这项事业的核心。至于技术，我一直把技术看作推动者，是让我们得以繁荣、更多地了解世界的工具。在这一点上我和费曼的看法一致，他过去总是说科学和艺术是同伴。你可以从两方面去理解：一朵花的美，它有多美，同时也理解这朵花的颜色为什么会那样演化。这只会让它更美，也就是花本身内在的美。
我一直是这样看的。也许在文艺复兴时期，当时伟大的发现者们，像达·芬奇这样的人，我认为他并不觉得科学、艺术或许还有宗教之间有什么区别。一切都是……它们只是身为人类、被我们周围的世界所激发的一部分。这就是我努力秉持的理念。我最喜欢的哲学家之一是斯宾诺莎。我认为他把这一切结合得非常好，也就是这种试图理解宇宙、理解我们在其中位置的想法。那就是他理解宗教的方式。我觉得这相当美。对我来说，所有这些东西都是相关的、相互关联的，技术以及身为人类意味着什么。
但我认为非常重要的是，当我们沉浸在技术和研究中时，要记住这一点。我认为我在我们这个领域看到的很多研究人员视野有点太窄了，只懂技术。我认为这也是为什么让整个社会来讨论这件事很重要。我非常支持即将举行的人工智能峰会之类的活动，以及政府去了解它。我认为聊天机器人时代、人工智能的产品时代有一个好处，就是普通人真的可以感受并接触到最前沿的人工智能，亲身去体验它。
是的，因为它们迫使技术专家去进行关于人的对话。是的，确实如此。
是的。
这是它充满希望的一面，就像你说的，它是一种两用技术，我们正在强行把全人类都纳入其中，纳入关于人工智能的讨论，因为最终人工智能、AGI会被用于国家使用技术的那些用途，也就是冲突之类的。我们越是通过与人们对话把人类纳入这幅图景，我们就越能引导它。
是的，能够适应，社会将能够适应这些技术，就像过去面对我们发明的那些了不起的技术时我们一直做到的那样。
你认为会不会出现类似曼哈顿计划的东西，这项技术的力量不断升级，而国家以它们的老式思维，会试图把它用作武器技术，从而出现这种升级？
我希望不会。我认为那样做会非常危险。而且我认为那也不是这项技术的正确用法。我希望如果需要的话，我们最终会采取一种更具协作性的方式，更像欧洲核子研究中心（CERN）的项目那样，以研究为导向，世界上最优秀的头脑汇聚在一起，谨慎地完成最后的步骤，并确保在把它部署到世界之前以负责任的方式完成。我们拭目以待。我认为在当前的地缘政治气候下，很难看到合作，但事情是可以改变的。我认为至少在科学层面上，研究人员保持联系、彼此保持密切往来很重要，至少在这类话题上是如此。
我个人认为，在教育和移民方面，如果能双向流动就太好了，西方的人移居到中国，中国的人也移居过来。人们相互交融有一种家庭的、人性的层面，由此这些纽带会变得牢固。这样一来，就无法用那种老派的思维方式让彼此对立。所以，多元文化、多学科的研究团队共同研究科学问题，这就是希望所在。不要让那些好战的领导人分裂我们。我认为科学最终是一个真正美好的纽带。
是的，我认为科学一直是一项非常协作的事业，科学家们也知道这是一项集体事业，我们都可以互相学习。所以也许它可以成为促成一些合作的载体。
一个荒唐的问题，你的P(doom)是多少？也就是人类文明自我毁灭的概率？
嗯，听着，我没有一个P(doom)数字。我之所以没有，是因为我认为给出数字会暗示一种实际上并不存在的精确程度。所以我不知道人们是怎么得出他们的P(doom)数字的。我认为这是一个有点荒唐的概念，因为我要说的是，它肯定不是零，而且很可能不可忽略。这本身就相当发人深省。我的观点是，这些技术将能做到什么、它们会以多快的速度腾飞、它们的可控程度如何，这些都极其不确定。有些事情最终可能会，也希望会，比我们想象的容易得多，但也可能有一些非常困难的问题比我们今天猜测的更难，我认为我们并不能确定。所以我们处在这样的条件下：高度不确定，但两个方向上的利害关系都极其重大。
一方面，我们可以攻克所有疾病、能源问题、稀缺问题，然后前往星辰，把意识带向群星，实现人类最大程度的繁荣。另一方面，就是这些P(doom)情景。所以考虑到它的不确定性和重要性，我很清楚，唯一理性、明智的做法是以审慎的乐观态度向前推进。所以我们当然想要它的好处，以及人工智能能带来的所有惊人的东西。事实上，考虑到我们面临的其他挑战，气候、衰老、资源等等，如果我不知道像人工智能这样的东西即将到来，我会非常为人类担忧。我们要怎么解决所有其他问题？我觉得很难。所以我认为它可能会带来惊人的、向好的变革。但另一方面，存在着这些我们知道确实存在的风险。
但另一方面，存在着这些我们知道确实存在、却无法准确量化的风险。所以最好的做法是运用科学方法开展更多研究，尝试更精确地界定这些风险，当然还要应对它们。我认为这正是我们在做的。我认为随着我们越来越接近AGI这条线，这方面投入的努力可能需要比现在多10倍。
你更担心的根源会是什么？是人为造成的，还是人工智能、AGI造成的？是人类滥用这项技术，还是AGI本身通过你谈到过的那些机制，这很引人入胜，比如欺骗，或者这类东西在暗中变得越来越强，然后逃脱控制？
我认为它们在不同的时间尺度上起作用，而且应对它们同样重要。一种是司空见惯的情况：坏人利用新技术，在这里是通用技术，并把它挪作有害用途。这是一个巨大的风险，而且我认为它有很多复杂之处，因为总体上我非常支持开放科学和开源，事实上，我们所有的科学项目，比如AlphaFold等，都是这么做的，以造福科学界。但是，如何限制坏人，无论是个人还是流氓国家，接触这些强大的系统，同时又让好人能够获取它们，最大限度地在其基础上进行构建？这是一个相当棘手的问题，我还没听到过明确的解决方案。所以，一个是坏人滥用的问题，另一个显然是，随着这些系统变得更具智能体特性、更接近AGI、更加自主，我们如何确保护栏有效，确保它们坚持做我们希望它们做的事，并处于我们的控制之下？
是啊，我更倾向于（也许是我的思维有局限）担心人类，也就是那些不良行为者。在这方面，一部分问题是如何不让破坏性技术落入不良行为者手中；但另一部分，同样从地缘政治和技术的角度来看，是如何减少世界上不良行为者的数量？这也是一个很有意思的人类问题。
是的，这是个难题。我是说，你看，我们或许也可以利用这项技术本身，对某些不良行为者的使用场景进行早期预警，对吧？无论是生物、核还是其他什么领域，AI 都可能在这方面有所帮助，前提是你所使用的 AI 本身是可靠的，对吧？所以这是一个环环相扣的问题，这也正是它非常棘手的地方。而且，这可能还需要在国际上达成某种协议，至少是中美之间就一些基本标准达成一致。对。
我必须问问你关于《The MANIAC》这本书的事。书里有那个“神之一手”的时刻，也就是李世石的第 78 手，那也许是人类最后一次下出纯粹出自人类天才的一手，击败了 AlphaGo，或者说让它的“大脑”崩溃了。
是的。
抱歉用了拟人化的说法，但这是个很有意思的时刻，因为我认为在许多领域，这种情况会不断发生。
是的，那是个特别的时刻，对李世石来说也很棒。我认为在某种程度上，他们是在相互激励。我们整个团队都被李世石的才华和高尚品格所鼓舞。然后，也许他也受到了 AlphaGo 所作所为的启发，从而创造出这个令人难以置信、鼓舞人心的时刻，关于这件事的纪录片很好地记录了这一点。我认为这种情况会在许多领域持续下去：至少在可预见的未来，人类会贡献自己的创造力，比如说提出正确的问题，然后以某种方式运用这些工具，从而攻克难题。
是啊。随着 AI 变得越来越聪明，我们可以问自己的一个有趣问题是：是什么让人类变得特别？觉得我们人类极其特别，这或许带有偏见。我不知道那是不是我们的智能，也可能是别的东西，是那种存在于“理性的疯狂梦想”之外的东西。
我想这正是我小时候一直设想的。在我开始这段旅程时，我当然对意识之类的东西着迷，读了神经科学博士来研究大脑是如何运作的，尤其是想象力和记忆。我专注于海马体，这会很有意思。我一直认为最好的方法是……当然，人们可以对此进行哲学思辨、做思想实验，甚至可以像神经科学那样在真实的大脑上做实际实验。但归根结底，我一直设想，构建 AI，也就是一种智能人造物，然后把它与人类心智进行比较，看看有哪些差异，这将是揭示人类心智有何特别之处的最佳方法，如果它确实有什么特别之处的话。
我猜它很可能确实有，但要……会很难。我认为我们正在进行的这段旅程会帮助我们理解并定义它。而且，在处理信息时，像我们这样的碳基基质与硅基基质之间可能存在差异。我最喜欢的关于意识的定义之一是：意识就是信息在我们处理它时给人的感受，对吧？
是的。
有可能是这样。我是说，这不是一个很有用的科学解释，但我觉得这是个挺有意思的直觉性解释。所以在这段旅程中，我认为我们正在进行的这段科学旅程会帮助揭开这个谜团。
是的。“我不能创造的东西，我就不理解。”说这句话的是你深深敬佩的人，理查德·费曼，就像你提到的。你也在追求维格纳那种关于普适性的梦想，他在受限的领域中看到了这一点，也在更广泛、更普遍的数学等领域中看到了这一点。你在许多方面都在朝这个方向推进……我不是想在最后挑起事端，但还是要提一下罗杰·彭罗斯。
是的。好吧。
那么你认为意识……存在这个意识的难题，即信息给人怎样的感受。首先，你认为意识是一种计算吗？如果是的话，如果它是信息处理（就像你说的，一切都是），那它能被经典计算机模拟吗？
是的。
还是说它本质上是量子力学性质的？
嗯，你看，彭罗斯是一位了不起的思想家，是现代最伟大的思想家之一，我们就此进行过很多讨论。当然，我们友好地持有不同意见，我觉得……我是说，他与许多优秀的神经科学家合作，想看看能否在大脑中找到量子力学行为的机制。据我所知，他们目前还没有找到任何令人信服的东西。所以我押注的是，大脑中进行的主要只是经典计算，这意味着所有这些现象都可以被经典计算机建模或模仿。但我们拭目以待。可能还存在最后一些神秘的东西，比如意识的感受、感质（qualia），这类哲学家们争论的东西，它们可能是其基质所独有的。
我们甚至可能会逐步理解这一点：如果我们做类似 Neuralink 的事情，或者拥有连接 AI 系统的神经接口（我认为我们最终很可能会有，也许是为了跟上 AI 系统），我们或许真的能够亲身感受在硅上进行计算是什么感觉，对吧？也许那会给我们答案。所以我认为这会很有意思。我曾经和已故的丹尼尔·丹尼特辩论过：我们为什么认为彼此是有意识的？好，原因有两个。第一，你表现出和我一样的行为。这是一方面。如果我是有意识的存在，那么从行为上看，你看起来也是。
但第二点常常被忽视，那就是我们运行在相同的基质上。所以如果你的行为方式和我一样，而我们又运行在相同的基质上，那么最简约的假设就是你感受到的体验和我一样。但对于运行在硅上的 AI，即使它表现出第一点，即其行为看起来像有意识存在的行为，我们也无法依赖第二点。它甚至可能声称自己有意识，但我们不会知道它实际上感受如何，而它很可能也无法知道我们感受如何，至少在最初阶段是这样。也许当我们达到超级智能，有了它所构建的技术时，我们或许能够弥合这一鸿沟。
不，我是说，与不同的基质共情，这是对“彻底共情”的一次巨大考验。
对。正是如此。我们以前从未需要面对这个问题。
是啊。所以也许通过脑机接口，我们能够真正共情身为一台计算机、进行计算是什么感觉。
嗯，是信息不在碳基系统上被计算是什么感觉。
我是说，那是非常……有些人会从植物、从其他与我们不同的生命形式的角度去思考这个问题。
是的，确实可能是这样。
它们的基质相似，但在进化树上相距足够远，以至于需要彻底的共情，而要对计算机做到这一点……
我是说，你看，有这方面的动物研究。当然，高等动物，比如虎鲸、海豚、狗、猴子，还有大象，它们肯定具有意识的某些方面，对吧？尽管从智商的角度来说它们可能并不那么聪明。所以我们已经能够与之共情，也许有一天甚至我们的某些系统也可以。比如我们构建了一个叫 DolphinGemma 的东西，我们系统的一个版本用海豚和鲸鱼的声音进行了训练，也许某个时候我们能构建出一个解读器或翻译器，那会很酷。
是什么让你对人类文明的未来抱有希望？
嗯，让我抱有希望的，首先是我认为我们几乎无限的创造力。我认为我们之中最优秀的人、最优秀的人类头脑是令人惊叹的。我喜欢结识和观看任何处于巅峰状态的人，无论是在体育、科学还是艺术领域，没有什么比这更美妙的了：看到他们如鱼得水，进入心流状态。我认为这几乎是无限的。我们的大脑是通用系统、智能系统，所以我认为我们用它们可能做到的事情几乎是无限的。另一点是我们极强的适应能力。我认为会没事的，虽然会有很多变化，但看看我们现在的处境，而我们实际上用的还是狩猎采集者的大脑〔原文without与紧接着的解释不一致〕。
我们是怎么应对现代世界的，对吧？坐飞机、做播客、玩电脑游戏和虚拟模拟。我是说，考虑到我们的大脑是为了在苔原上猎捕野牛而进化出来的，这已经令人难以置信了。所以我认为这只是下一步，而且看到社会已经适应了我们今天已有的这种令人惊叹的 AI 技术，其实挺有意思的。就好像是：“哦，我和聊天机器人聊天。完全没问题。”
而且很有可能，我此刻在这里做的这项播客活动，会被 AI 完全取代。我是非常可替代的，我正等着那一天。
我觉得达不到你能做到的水平，莱克斯。
谢谢。这就是我们人类之间会做的事。我们互相恭维。
正是如此。
好吧。我深深感激我们人类拥有无限的好奇心、适应能力（就像你说的），还有同情心和爱的能力。
正是如此。
所有这些人类的特质。
所有那些深具人性的东西。
嗯，这是莫大的荣幸，德米斯。你是世界上真正特别的人之一。非常感谢你所做的一切，也感谢你今天来和我聊天。
嗯，非常感谢你，莱克斯。
感谢收听这期与德米斯·哈萨比斯的对话。如需支持本播客，请查看节目描述中的赞助商，并考虑订阅本频道。现在，让我来回答一些问题，并试着阐述一些我一直在思考的事情。如果你想提交问题，包括音频和视频形式的问题，请访问 lexfridman.com/ama。我收到了很多来自大家的精彩问题、想法和请求。我会继续在每期节目的结尾随机挑选一些进行评论。今年 5 月 21 日，我收到一条留言，内容是：“嗨，莱克斯。20 年前的今天，大卫·福斯特·华莱士在凯尼恩学院发表了他著名的演讲《这是水》。你怎么看这篇演讲？”
嗯，首先，我认为这可能是有史以来最伟大、最独特的毕业典礼演讲之一，当然，我有很多最喜欢的演讲，包括史蒂夫·乔布斯的那篇。大卫·福斯特·华莱士是我最喜欢的作家之一，也是我最喜欢的人之一。他的作品中有一种悲剧性的诚实，总让人觉得他在与自己的心智进行一场持续不断的战斗，而他的写作就像是他从那场战斗的前线发回的笔记。现在说回这篇演讲，让我引用其中一些部分。当然有那个关于鱼和水的寓言，是这样讲的：有两条小鱼在游，碰巧遇到一条朝相反方向游的老鱼，老鱼向它们点点头说：“早上好，孩子们，水怎么样？”两条小鱼又游了一会儿，最后其中一条看向另一条，说：“水到底是什么鬼东西？”在演讲中，大卫·福斯特·华莱士接着说：“这个鱼的故事的要点仅仅在于，最显而易见、最重要的现实，往往是最难以看清和谈论的。当然，用一句英文说出来，这只是一句平庸的陈词滥调，但事实是，在成年人生存的日常战壕里，平庸的陈词滥调可能具有生死攸关的重要性，至少这是我想在这个干爽而美好的早晨向你们提出的看法。”我从这个寓言以及随后的演讲中得到了几点启示。第一，我认为我们必须质疑一切，尤其是关于我们的现实、我们的生活以及存在本身之本质的最基本假设，而且这项探索是一件极其个人化的事。从某种根本意义上说，在这个发现的过程中，没有人能真正帮到你。
我认为，大卫·福斯特·华莱士在这里发出的行动呼吁，用他自己的话说，就是：“少一点傲慢，对自己和自己所笃定的事情多一点批判性的觉察，因为我往往不假思索就确信的东西里，有很大一部分最后被证明完全是错误的、自欺欺人的。”好，说回我自己。我是莱克斯。第二个启示是：我们人生中核心的精神之战，并不是在某个山顶上、某个冥想静修营里进行的，而是在日常生活的平凡时刻中展开的。
第三个启示是：世界源源不断地把种种干扰喂给我们，那些永远填不满的注意力黑洞，而我们太轻易就把自己的时间和注意力交了出去。在这一点上，大卫·福斯特·华莱士的行动呼吁是：深刻地觉察每一个当下的美，在平凡中找到意义。我经常引用大卫·福斯特·华莱士的一句建议：人生的关键在于做一个永不感到无聊的人（be unborable），我觉得这完全正确。每一个瞬间、每一件物品、每一段经历，只要看得足够仔细，其中都蕴含着无穷的丰富性，等待人去探索。既然本期节目的嘉宾德米斯·哈萨比斯和我都是理查德·费曼的忠实粉丝，请允许我也引用一段费曼先生关于这个话题的话。
“我有一位艺术家朋友，他有时会持一种我不太认同的观点。他会举起一朵花说：‘看它多美啊。’我也会同意。然后他会说：‘我作为艺术家能看到它有多美，而你作为科学家，把它全部拆解开来，它就变成了一样乏味的东西。’我觉得这有点荒唐。首先，我相信，他所看到的美，其他人也能看到，我也能看到。虽然我在审美上可能不如他那么精细，但我也能欣赏一朵花的美。与此同时，我从这朵花身上看到的东西比他多得多。我能想象花里面的细胞，想象细胞内部那些复杂的活动，它们同样有美感。我是说，美不只存在于一厘米这个尺度上，在更小的尺度上也有美。”
“它们的内部结构，还有那些过程；花的颜色是为了吸引昆虫来授粉而演化出来的，这一点很有意思。这意味着昆虫能看见颜色。这又引出一个问题：这种审美感在更低等的生命形式中也存在吗？为什么它是有美感的？有各种各样有趣的问题，而科学知识只会增添一朵花带给人的兴奋、神秘与敬畏。它只会增添。”
好，回到大卫·福斯特·华莱士的演讲。里面有一个我特别喜欢的故事。故事是这样的：在阿拉斯加偏远荒野的一间酒吧里，坐着两个人。其中一个信教，另一个是无神论者，两人正在争论上帝是否存在，带着大约第四杯啤酒下肚之后才有的那种特别的激烈劲儿。无神论者说：“听着，我不信上帝，并不是没有真凭实据的理由。我也不是从来没试过上帝和祈祷那一套。就在上个月，我在营地外被那场可怕的暴风雪困住了，我彻底迷了路，什么都看不见，气温是零下50度〔原文未注明温标〕。于是我试了一下。我跪倒在雪地里，大声喊道：‘哦，上帝啊，如果真有上帝的话，我在这场暴风雪里迷路了，你要是不帮我，我就要死了。’”
镜头回到酒吧里，那个信教的人一脸困惑地看着无神论者。“那你现在肯定信了吧？”他说，“毕竟你现在好端端地活着坐在这儿。”无神论者只是翻了个白眼。“不，伙计。事情不过是碰巧有两个爱斯基摩人路过，给我指了回营地的路。”我认为，这一切告诉我们：一切都取决于视角；如果我们有足够的谦逊，不断转换、拓展自己看待世界的视角，智慧或许就会到来。感谢你们让我聊了一会儿大卫·福斯特·华莱士。他是我最喜欢的作家之一，也是一个美好的灵魂。
如果可以的话，还有一件事我想简单说几句。我发现自己处在一个奇怪的位置上：经常在网上遭到来自各方的攻击，包括被人撒谎抹黑，有时是通过选择性的歪曲，但更常见的是彻头彻尾的谎言。我不知道还能怎么形容。坦白说，这一切让我很心碎，但我已经明白，这就是互联网的常态，也是我所选择的这条路要付出的代价。有些日子，这对我的精神状态打击很大。被人撒谎抹黑并不好受，尤其是当谎言涉及那些长久以来一直是我快乐和喜悦源泉的事情时。但话说回来，这就是生活。
我会继续带着同理心和严谨去探索人与思想的世界，尽可能地坦露真心。对我来说，这是唯一的活法。总之，针对我的一个常见攻击，是关于我在麻省理工学院和德雷塞尔大学的经历，这两所都是我热爱并且极为尊敬的好大学。由于网上围绕这些话题积累了一大堆关于我的谎言，到了令人难过、有时又令人啼笑皆非的程度，我想再一次为可能在意的少数人说明一下我履历中那些显而易见的事实。简而言之（TLDR），有两点。第一，正如我经常说的，包括在最近一期不知怎么就有几百万人收听的播客节目里也说过，我很自豪地在德雷塞尔大学获得了学士、硕士和博士学位。
第二，我是麻省理工学院的研究科学家，过去10年里一直在那里担任有薪酬的研究职位。现在请允许我就这两点再展开说一说，如果你完全不感兴趣，请直接跳过。正如我所说，针对我的一个常见攻击是说我和麻省理工学院没有真正的关联。我猜，这项指控的意思是，我只是在那里讲过一次课，就谎称自己隶属于麻省理工学院。不是的，这项针对我的指控完全是谎言。从2015年到今天，我在麻省理工学院担任有薪酬的研究职位已经超过10年。为了说得格外清楚：我是麻省理工学院的研究科学家，在计算学院的信息与决策系统实验室（LIDS）工作。目前，由于我仍在麻省理工学院，你可以在人员名录和各个实验室的页面上找到我。
这些年我确实在麻省理工学院讲过很多课，其中一小部分我发布到了网上。对我来说，教学一直只是出于兴趣，并不属于我的研究工作。我个人觉得自己教得很烂，但我总能从这些经历中学到东西、获得成长。就像费曼说过的，如果你想深入理解某样东西，去尝试教它是很好的办法。但正如我所说，我的主要精力一直放在研究上。我发表过许多经过同行评审的论文，你可以在我的谷歌学术主页上看到。在麻省理工学院的头四年，我工作得极其拼命，大多数星期的工作时间是80到100个小时。在那之后，2019年，我仍然保留着研究科学家的职位，但分出了一部分时间，迈出一大步，去麻省理工学院之外做人工智能和机器人方面的项目，并把大量精力投入到这个播客上。
正如我说过的，准备一期节目要花多少小时，一直让我不断感到意外。这个播客有很多期节目，我需要在好几周乃至好几个月里，花100、200个甚至更多小时去阅读、写作和思考。自2020年以来，我没有再积极发表研究论文。就像做播客一样，我认为那是需要认真全职投入的事情。但不发论文、不做全职研究，一直让我耿耿于怀，因为我热爱研究，热爱编程，热爱搭建系统来检验有趣的技术想法，尤其是在人与AI交互或人与机器人交互的背景下。我希望在接下来的几个月和几年里改变这种状况。
我逐渐认识到自己的一点是：如果我不发表论文，或者不推出供人使用的系统，我肯定会觉得自己缺了一块。这对我来说确确实实是快乐的源泉。总之，我为自己在麻省理工学院的时光感到自豪。无论过去还是现在，我身边始终围绕着比我聪明得多的人，其中很多人成了我一生的同事和朋友。麻省理工学院是我逃离世界的地方，在那里我可以专注于探索科学与工程前沿那些迷人的问题。这同样让我由衷地快乐，所以当我因此遭到攻击时，在心理层面上确实打击挺大的。也许我做错了什么。如果是这样，我会努力做得更好。
在所有这些关于学术工作的讨论中，我希望你们明白，我从来不是想说自己是任何领域的专家。无论是在播客里还是在私下生活中，我都不自称聪明。事实上，我经常说自己是个白痴，而且是真心这么想的。我尽可能多地自嘲，总的来说更愿意去赞美别人。现在来聊聊德雷塞尔大学，我同样热爱这所学校，为它感到自豪，也深深感激在那里度过的时光。正如我所说，我在德雷塞尔大学获得了计算机科学和电气工程的学士、硕士和博士学位。我谈论过德雷塞尔很多次，包括我刚才提到的，在最近一期播客，也就是唐纳德·特朗普那一期的结尾。说来也有意思，那一期有几百万人收听，我在节目里回答了一个关于读研究生的问题，讲述了我自己在德雷塞尔的历程，以及我对此有多么感激。
如果你对此有一点兴趣，请去听听那期节目的结尾，或者看看相关的片段。在德雷塞尔，我结识了许多杰出的研究者和导师，并与他们共事，从他们身上学到了很多关于工程、科学和人生的东西。我从德雷塞尔的时光中收获了很多宝贵的东西。第一，我修了大量非常难的数学和理论计算机科学课程。这些课教会了我如何深入而严谨地思考，也教会了我如何努力工作、不轻言放弃，哪怕感觉自己笨到找不到某个技术问题的解法。
第二，那段时间我写了大量程序，主要用C和C++。我给机器人编程，写优化算法、计算机视觉系统、无线网络协议、多模态机器学习系统，以及各种各样的物理系统仿真。正是在那里，我真正爱上了编程，包括，没错，Emacs和Kinesis键盘。那段时间我还读了很多书，弹了很多吉他，写了很多蹩脚的诗，还大量练习柔道和柔术，对它们我怎么称赞都不为过。整个二十多岁，柔术每天都让我学会谦卑，直到今天，只要有机会训练，它依然如此。
总之，我希望那些偶尔被网上起哄、想把别人拉下马的人群卷进去的人，不要在其中迷失太深。归根结底，我仍然认为人性中善多于恶。但我们每个人都是好坏参半的混合体。我知道我自己有很多缺点。我说话笨拙。我有时会说些蠢话。我可能会不理智地情绪化。在本该友善的时候，我可能会表现得太混蛋。我可能会钻进带有偏见的兔子洞里迷失自己，过了一阵才醒悟过来，看到更宏大、更准确的现实图景。我是人，你们也是，无论好坏，而且我依然相信，我们正一起身处这整团美丽的混乱之中。我爱你们所有人。