Lex Fridman: 机器、创造力与爱 | 莱克斯·弗里德曼博士

本期节目一开场，就把这场交流定位为某种并非技术综述的东西。休伯曼介绍弗里德曼是 MIT 的研究者，专攻机器学习、人工智能以及人机交互，并把这次对话列为他职业生涯乃至一生中最引人入胜的对话之一。他说自己所发现的，是一个关于人与机器、关于这类互动如何改变我们看待自身与世界的方式的个人梦想。他有意把话题拓宽到各种各样的关系，随后又加上人与机器的关系，把会移动的机器与不会移动的机器区分开来，并描述了一类机器：它们能够以我们自己都无法理解自己的方式去理解我们，因而能让我们反过来认识自己。他最终的论断措辞审慎、留有余地：这些互动能够改变自我，而且很可能也会改变人类。他还把这档播客放在自己在斯坦福的教学与研究之外，视作向公众提供对消费者零成本的科学信息这一努力的一部分。

节目被介绍为一场关于科学、以及可用于日常生活的科学工具的讨论；弗里德曼以一句重复的问候开场，表明两人之间早已默契熟稔，而非初次见面。这种熟稔有助于解释接下来的话语基调：谈话一次次从技术定义转向个人愿景，毫无拘礼、毫无铺垫。

接着，休伯曼从听众的角度点出了这次提问的动因所在：这些术语被反复听到，可他判断大多数人——包括大多数科学家以及他自己——其实并不真正知道人工智能是什么，也不清楚它与机器学习和机器人学有何区别。他的请求是定义性的：请解释什么是人工智能，什么是机器学习。这个先后顺序很要紧，因为第一个技术段落通篇都是在尝试回答一个关于各个标签之间边界的问题，而同样这股对定义的执着，后面又作为一种关于该领域文化的论断再次出现。

弗里德曼拒绝给出单一定义，而是把人工智能的几层含义叠放在一起：(a) 一种哲学上的渴望，他援引帕梅拉·麦科达克（Pamela McCorduck）的说法——AI 诞生于「锻造诸神」这一古老愿望，以及我们想要创造出别的智能系统、也许比我们更强大的系统的欲望；(b) 一组狭隘的、用于把任务自动化的计算与数学工具；(c) 通过构建表现出智能行为的系统，来尝试理解我们自己的心智；(d) 以及它在从业者共同体实践中的实际所指——一套让你能够解决各类问题的计算技术。他坚持认为，所有这些含义同时成立，并把这个问题之所以难回答，归因于「智能」本身就难以定义。

沿着历史脉络，弗里德曼把机器学习描述为 AI 内部强调「学习」这一任务的那个群体：也就是如何让一台起初几乎一无所知的机器遵循某个过程，并在某项特定任务上变得越来越好。他把近期最有效的技术定位于大约过去 15 年间，归在深度学习与神经网络名下。他明确表示，这些技术只是非常松散地受到人脑结构的启发，并把它们描述为由称作「人工神经元」的基本计算单元构成的网络——每个单元有一个输入和一个输出，起初一无所知，被赋予的任务是去学出某种有意思的东西。

他给出的第一种划分，依据是所需人类监督的多少。在监督学习中，网络从一无所知起步，人们给它样例——在计算机视觉里就是猫、狗、汽车、交通标志——并一并给出图像里是什么的「真值」（ground truth），于是由大量这样带标注的样例构成的数据库，让它得以通过示例来学习。弗里德曼随即把这变成一个开放问题：你究竟该如何提供「某张给定图像里有一只猫」这个真值？

他列出一个逐级加码、要求越来越高的提供真值方式的阶梯：(1) 把整张图标注为「一张猫的照片」；(2) 在猫脸周围画一个粗略的边界框；(3) 做语义分割，沿着猫勾出清晰的轮廓。他附加的告诫是：这是一张 2D 图像，计算机对我们的三维世界一无所知，它看到的只是一组像素而已。由此引出他所说的计算机视觉最根本的开放问题之一：这到底算不算对真值的一种良好表示？接着他点出与之相对的另一类方法——过去叫无监督学习、如今通常叫自监督学习——其目标是让人类监督越来越少、越来越少、越来越少。

他说，自监督学习在语言模型和自然语言处理中已经非常成功，在计算机视觉中也越来越成功。其思路是：让机器在没有任何真值标注的情况下，去浏览互联网上的图片或文本，并学出某种关于语言或视觉核心观念的、可泛化的东西——人类在最好的情况下喜欢把它称作「常识」，那是一个庞大的知识底座，更深奥的知识就建在它之上。这个梦想很具体：让一个自监督系统在互联网上到处跑，看上几百万、几百万小时的 YouTube 视频，随后只需极少样例就能被「预热」着去学习，就像人类孩童只靠父母给的一两个例子就能学会一个概念那样。到那时，对「猫」的理解就不只是尖耳朵、或是橘色、或是毛茸茸而已。弗里德曼把这一雄心落在内省的一个局限上：若被问到猫与狗究竟靠什么区分，我们大多数人说不上来，可我们却能分得清；而整个梦想就在于，让机器自行学会人脑用来做这种区分的那一整套常识知识。他把这个与强化学习成功背后的自我对弈机制联系起来，点名了围棋（Go）以及在国际象棋上取胜的 AlphaZero。

休伯曼简短地确认了自己的理解——这些系统是在玩游戏，弗里德曼予以肯定，随后加以概括：自我对弈就是一个系统与自己对弈，起初一无所知，造出自己的一堆变体，再与那些版本相互竞争。他强调的机制是：与比自己略强一点的系统对弈，会让你自己变得更强——他把这条原则从武术推广到一般意义上的学习——而不断迭代这个过程，会推动所有参与者越来越强，直到该系统例如比国际象棋世界冠军强上若干个数量级。

弗里德曼把这称为一个「失控式系统」，并转述了 AlphaGo 与 AlphaZero 团队负责人大卫·西尔弗（David Silver）一个惊人的说法：他们还没找到 AlphaZero 的上限，也就是说它可以就这样任意地持续变强。他论证说，在国际象棋里这无所谓——那个领域里系统干脆把这项游戏远远甩开、比人类强太多——但倘若复制到对人类个体与社会有着更大、更深层影响的领域，就会变成一个令人恐惧的过程。他给出的、附带条件的解决之道是监督：只要你监督得当，这就是个令人兴奋的过程，办法是注入所谓的「价值对齐」（value alignment），确保 AI 正在优化的目标与人类、与人类社会保持一致。他把人类监督越来越少的自监督学习，点名为真正宏大、令人兴奋的开放领域。

弗里德曼从理论转向他口中「最令人兴奋的应用」：特斯拉（Tesla）的 Autopilot 自动辅助驾驶，恰恰因为这些都是运行在真实世界里的系统——这不是学术演练，这是人命攸关，这是安全至为关键的场景。他与休伯曼一段简短的交流，实时上演了这个领域术语上的不稳定：休伯曼先说「自动化车辆」，又说「自主车辆」，弗里德曼纠正为「半自主」（semiautonomous），并提到人们为这些说法争论不休、打过不少笔墨官司。实质性的要点是：尽管这个功能名叫 FSD、即「完全自动驾驶」（full self-driving），它目前却并非完全自主：仍需要人类监督，人被赋予监管系统的任务，而且在责任归属上，始终由人负责。弗里德曼把这视作人机交互内部的一个人因心理学问题，并把那个开放问题表述为：人类与机器人究竟如何共舞。

这里浮现出一处具体的分歧。弗里德曼转述说，埃隆（Elon）并不把半自主驾驶看作一种会长期持续的状态，而只看作通往完全自动驾驶的一块垫脚石，其依据是人与机器人没法好好共舞——让人类与人类跳、机器人与机器人跳就好了——而工程任务应当是设计出一个完美的机器人来把问题彻底解决。弗里德曼的反命题则是：这个世界将充满人类与机器人始终不得不互动的问题，因为机器人会和人一样永远带着缺陷，而这正是让生活之所以美好的地方：学习发生在你能力边界的边缘。用他的话说，目标是要弄明白有缺陷的机器人与有缺陷的人类如何互动，好让总和大于整体，而不是一门心思只去造那个完美的机器人。

接着，弗里德曼描述了 Autopilot 负责人安德烈·卡帕西（Andrej Karpathy）称之为「数据引擎」（data engine）的那个学习闭环，并指出它适用于很多机器学习场景：(1) 先造一个把事情做得还不错的系统；(2) 把它投放到真实世界，在那里它会撞上边缘案例（edge case）——也就是它搞砸了的失败案例；(3) 要认识到边缘案例有数以百万计，全是你没预料到的古怪情形；(4) 借助一个「古怪检测器」、在数十万辆车上把这些边缘案例收集起来，再把数据传回「母舰」用于训练与再训练；(5) 回到绘图板前，从这些案例里学习，发布一个更新过的新版本，如此循环往复，让系统不断变好。他的概括是：把一个相当聪明的 AI 系统放出去，让它刚好搞砸到足以让你摸清边缘案例都藏在哪里。

当休伯曼问更新是否由人来完成时，弗里德曼回答说，标注是由人来做的：那些古怪样本传回来后必须被打上标签，虽然也有一些自动标注的机制，但大多数情况下你终究得依靠人类去弄懂古怪案例里到底发生了什么。随后他把这个点重新折回到定义这一主题上——「什么是人工智能」同样也是「一群聪明人对智能是什么持有极为不同的看法」的问题——并用一句对该领域直白得毫不留情的概括收了尾。

说到底，AI 就是一个在任何事情上都无法达成共识的群体。

休伯曼直接点破了这个模式：以外人的眼光看，这个群体对于这些术语乃至操作性定义究竟是什么意思，似乎几乎没有什么共识；分裂不只存在于监督学习与无监督学习之间，还延伸到各种中间状态——机器先自主一阵，随后又回去接受更多指令——他打的比方是：孩子夏天从大学回到家，还由妈妈养着，最终才离巢独立。他追问，是不是工程师本身、或者这个工程领域里有什么东西，天生就容易滋生分歧。

弗里德曼的回答是一个渐变梯度：越具体，分歧越少。关于「人工智能是什么」分歧很多，关于机器学习就少一些，关于主动学习、机器教学或自监督学习更少，而关于 NLP 语言模型、transformer 以及具体的神经网络架构，则是越来越少、越来越少、越来越少。他把高层上的摩擦归因于：一碰到智能系统，工程就既有点像艺术又有点像科学；其中「艺术」的那部分，会让人对某个特定问题究竟是容易还是困难产生分歧。他举的例子是：很多人不认同埃隆对自动驾驶难度的判断，而且没人知道谁对；更宽泛地说，人们对这些技术的极限存在分歧，而术语本身就裹挟着这些分歧。

他还补充了结构性原因：作为一门大规模学科，它还是门很年轻的科学——成千、上万、乃至数十万的人涌入，巨额金钱在其中流动——这是非常晚近才有的事，所以术语仍在被慢慢厘定；此外还有自我、个性，以及大把可挣的名声。他最尖锐的一个历史论断是：神经网络已经存在了许许多多个十年，可追溯到六十年代、甚至可以说四十年代，而把它改名叫「深度学习」，是这个领域重振活力的一部分，骨子里却完全是同一个东西。

休伯曼以神经科学家的身份，从相邻领域印证了这次改名：计算与理论神经科学有自己的期刊，直到大约五到七年前都不太被实验派当回事，他还点名拉里·阿博特（Larry Abbott）是优秀的理论神经科学家之一。他坦承，自己此前并不知道神经网络在深度学习里发挥作用、也不知道这二者已经变得有点近乎同义。弗里德曼确认它们始终是同一个东西，并补充说，取决于具体领域，「网络」（networks）一词可能含义略有不同；他指出，神经科学与 AI 两拨人已经开始携手合作，在最近的、大概这十年里共舞得比以往多得多。

「不，它们一直……嗯，不，它们始终是同一个东西。」

「我是个神经科学家，可我竟然不知道这个。」

休伯曼念念不忘自我对弈那个「与自己的变异版本竞争」的画面，并把它映射到人类的学习上——反复练习、出错、偶尔成功；他举的例子是朝靶心投飞镖，甚至戴着视觉棱镜、与另一个自己比试飞镖。他紧接着追问生物学：变异有时会赋予我们「超能力」，比如某人拥有优于 20/20 的视力、比 99.9% 的人都看得更清楚；他因而问，机器的变异是否总是不利的，还是说也可能是适应性的、或是不适应的（maladaptive）。

弗里德曼的回答是：先变异，事后再弄明白，然后让各个变体相互竞争；休伯曼把这解读为机器得以实时地自我演化。弗里德曼进一步说明，通常你会冻结系统的某一个版本——取「昨天的安德鲁」、复制出 10 个克隆，变异或者不变异——再让「今天的安德鲁」们彼此竞赛，一路厮杀到只剩一个胜者为止。他开玩笑说，让过去一年里每一天的自己各出一个克隆，去比拼做播客、搞科学、在酒吧搭讪，或是柔术；但技术上的要点在于：通过自我对弈实现的强化学习，是一片埋葬了表现不佳系统的坟场，只有好的那些能活下来。