Elon Musk: 埃隆·马斯克：特斯拉 Autopilot
Elon Musk: Tesla Autopilot
Guests: Elon Musk
Full transcript · Read the full conversation in order, with its original context.
§01原文文稿 · 00:00–09:27
以下是与埃隆·马斯克的对话。
他是特斯拉、SpaceX、Neuralink 的首席执行官，
也是其他几家公司的联合创始人。
本次对话属于
人工智能播客系列。
这个系列邀请顶尖研究者，
来自学术界和工业界，
包括汽车、机器人、
人工智能和科技公司的 CEO 与 CTO。
这次对话发生在
我们 MIT 研究组发布
关于特斯拉 Autopilot 使用期间驾驶员功能性警觉度的论文
之后。
特斯拉团队联系了我，
提出安排一次与马斯克先生的播客对话。
我接受了，条件是我可以完全掌控所提的问题，
并决定哪些内容公开发布。
最终我没有剪掉任何实质性内容。
在这次对话之前，我从未与埃隆交谈过，
无论是公开还是私下。
无论是他还是他的公司，都不对我的观点
产生任何影响，也不影响
我所奉行的科学方法的严谨与诚信，
这是我在 MIT 任职时所坚持的。
特斯拉从未在经费上资助过我的研究，
我也从未拥有过特斯拉汽车。
我从未持有特斯拉股票。
这档播客不是科学论文。
它是一场对话。
我尊重埃隆，就像尊重我交谈过的所有其他领导者
和工程师一样。
我们在某些事情上看法一致，在另一些事情上有分歧。
我做这些对话的目标始终是
理解嘉宾看待世界的方式。
这次对话中一个具体的分歧点是，
基于摄像头的驾驶员监控
能在多大程度上改善结果，以及在 AI 辅助驾驶中
它还会在多长时间里保持相关性。
作为一个从事以人为中心的人工智能工作、
并对其着迷的人，
我认为，如果实施和整合得当，
基于摄像头的驾驶员监控在短期和长期内
都很可能带来益处。
相比之下，埃隆和特斯拉的重点
是改进 Autopilot，
使其统计意义上的安全收益
压过对人类行为与心理的任何顾虑。
埃隆和我也许并非在所有事情上意见一致，
但我深深尊重他所领导工作背后的
工程与创新。
我在这里的目标，是在工业界和学术界
推动一场严谨、细致而客观的、
关于 AI 辅助驾驶的讨论，
最终让世界更安全、更美好。
现在，请听我与埃隆·马斯克的对话。
Autopilot 的愿景、梦想是什么？在最开始，
从整体系统层面来看，
当它最初被构想出来，
并于 2014 年开始在车上安装硬件时，
它的愿景、梦想是什么？
——我不会把它描述为愿景或梦想，
只是显然有两场巨大的革命，
发生在汽车行业。
一场是电动化，
另一场是自动驾驶。
我很快就明白，在未来，
任何不具备自动驾驶能力的汽车
都会像马一样“有用”。
这不是说它完全没用，只是少见，
而且如今谁要是养一匹马，
会显得有点古怪。
很明显，汽车终将完全自己开，
只是时间问题。
如果我们不参与自动驾驶革命，
那么相对于自动驾驶汽车，
我们的车对人们就不再有用。
我是说，一辆自动驾驶汽车可以说
比非自动驾驶汽车值五到十倍的钱。
——从长期来看？
——这取决于你说的长期是多久，
不过至少未来五年吧，
也许十年。
——Autopilot 早期有很多
非常有意思的设计选择。
第一是在仪表盘上显示，
或者在 Model 3 上，在中控屏上显示，
组合传感器套件所看到的东西。
这个选择背后的想法是什么？
有过争论吗？
过程是怎样的？
——这块显示屏的全部意义，是为车辆对现实的感知
提供一次“健康检查”。
车辆从一堆传感器获取信息，
主要是摄像头，
也有雷达、超声波、GPS 等等。
然后这些信息被渲染成
向量空间，其中，你知道，
有一堆带属性的物体，
比如车道线、交通灯和其他车辆，
然后这个向量空间再被重新渲染
到显示屏上，这样你看看窗外，就能确认
车是否知道周围发生了什么。
——对，我认为这是极其有力的一件事，
能让人们获得理解，
也就是和系统融为一体，
了解系统能做什么。
那么，你有没有考虑过显示更多？
比如说，系统底层的计算机视觉，
像道路分割、车道检测、
车辆检测、物体检测，
在边缘处是存在一些不确定性的。
你有没有考虑过展示系统中的这部分，
不确定性，也就是——
——比如与图像识别相关的概率，
诸如此类？
——对，现在它显示的是
附近的车辆，画面非常干净清晰，
人们会确认前面确实有一辆车、
系统也看到了前面有一辆车，
但为了帮助人们建立直觉，
理解计算机视觉是什么，
可以展示一些不确定性。
——嗯，我觉得，在我自己的车里，
我总是看调试视图，
有两种调试视图。
一种是增强视觉，我相信你见过，
基本上就是在识别到的物体周围
画框并加标签，
另一种是我们所说的可视化器，
基本上是向量空间的表示，
汇总所有传感器的输入。
它不显示任何图片，
但它显示所有的，
基本上就是以向量空间呈现的
汽车眼中的世界。
但我觉得这对人们，
对普通人来说很难理解。
他们不知道自己在看什么。
——所以这几乎是个 HMI 挑战，
目前所显示的内容
是为了让公众理解
系统能做什么而优化的。
——就是说，如果你完全不懂
计算机视觉怎么运作，
你仍然可以看着屏幕，
判断车是否知道周围发生了什么。
而如果你是开发工程师，
或者像我一样有开发版本，
那么你可以看到所有调试信息。
但那些对大多数人来说完全是一团乱麻。
——你认为应该如何最好地分配精力？
我认为 Autopilot 有三个非常重要的
技术方面。
一是底层算法，
比如神经网络架构，
二是训练所用的数据，
三是硬件开发。
也许还有其他方面，
但就看算法、数据、硬件。
你的资金有限，时间有限。
你认为最重要的、
应当优先投入资源的是什么？
或者你认为这三者
基本是平均分配的？
——我们自动就获得了海量数据，
因为我们所有的车都配有
八个朝外的摄像头和雷达，
通常还有 12 个超声波传感器，
当然还有 GPS 和 IMU。
所以我们基本上有一个车队，
路上大约有 40 万辆车
具备那种水平的数据。
我想你其实一直在密切追踪这个数字。
——是的。
——对，所以我们正在接近路上有 50 万辆车
配备完整的传感器套件。
我不确定路上还有多少其他车辆
配有这套传感器，
但如果超过 5000 辆我会很吃惊，
这意味着我们拥有 99% 的数据。
——所以有这么巨大的数据流入。
——绝对是，海量的数据流入。
然后我们花了大约三年时间，
但现在我们终于开发出了
我们的全自动驾驶计算机，
它的处理能力高出一个数量级，
相对于英伟达（NVIDIA）系统，
也就是我们目前车上用的那套。
而且使用它其实很简单，
你把英伟达的计算机拔下来，
把特斯拉的计算机插上去，就这样。
而且实际上，我们甚至还没有，
我们仍在探索它的能力边界，
但我们能让摄像头以全帧率、
全分辨率运行，甚至不用裁剪图像，
而且即使只用其中一套系统，仍有余量。
全自动驾驶计算机实际上是两台计算机，
两个片上系统，完全冗余。
所以基本上你可以在这套系统的
任何部位打穿一个螺栓，它仍然能工作。
§02原文文稿 · 09:30–19:35
——这个冗余，它们是彼此的完美副本吗？
——是的。
——而且，这纯粹是为了冗余，
而不是那种“争论机器”架构，
由两者都来做决策。
这纯粹是为了冗余。
——我觉得它更像是，
比如双发商用飞机，
两套系统都在运行时系统运行得最好，
但只靠一套也能安全运行。
所以，就目前情况而言，我们可以直接运行，
我们甚至还没触到性能的边界。
所以，实际上没有必要把功能
分摊到两个 SOC 上。
我们可以在每一个上面各跑一整套完整副本。
——你其实还没有探索过或触到……的极限——
——还没有，现在就触到极限了。
——深度学习的神奇之处
在于它随数据增多而变好。
你说数据流入量巨大，
但关于驾驶，
真正有价值、值得学习的数据是边缘案例。
那么，你怎么——我听你在某处谈到
Autopilot 脱离（disengagement）
是一个重要的、值得利用的时刻。
还有其他边缘案例吗？
或者你能不能谈谈那些边缘案例，
它们哪些方面可能有价值？
或者如果你有其他想法，
如何在驾驶中发现越来越多的边缘案例？
——嗯，能学到的东西有很多。
确实有一些边缘案例，
比如说有人在用 Autopilot，然后他们接管了，
那就是一个触发信号，传给我们的系统，
系统要判断：他们接管是图方便，
还是因为
Autopilot 工作得不正常？
还有，比如说我们想弄清楚
通过一个路口的最优样条曲线是什么。
那么，没有任何干预的那些
就是正确的。
于是你就说：好，当情形看起来是这样时，
就这样做，然后你就得到了
通过复杂路口的最优样条曲线。
——所以这是，有常见情形，
你要采集大量某个特定路口的样本，
看事情进展顺利的时候，
然后还有边缘案例，正如你所说，
不是图方便，而是有些事情没有做得恰到好处。
——有人接管了，有人从 Autopilot 手中夺回手动控制，
而实际上，看待这件事的方式
是把所有输入都视为错误。
如果用户不得不输入，那就有问题了，
所有输入都是错误。
——这样想是一句有力的话，
因为它很可能确实是错误，
但如果你想下高速出口，
或者想，这是 Autopilot 目前
并不是设计来做的导航决策，
那么驾驶员就会接管。
你怎么区分这两者？
——对，随着“导航式 Autopilot”（Navigate on Autopilot）刚刚发布，这会改变，
而且无需再确认。
也就是说，基于导航的，比如，为变道
而夺回控制、下高速、
走高速枢纽立交，
这些绝大部分都将随着刚刚推出的版本
而消失。
——对，我觉得人们还没有真正理解
这是多大的一步。
——对，他们不理解。
如果你开这辆车，你就理解了。
——所以目前你在自动变道时
仍然需要把手放在方向盘上。
在 Autopilot 的发展历程中
有一些大的飞跃，
你觉得哪些是最突出的飞跃？
我会说这一个，无需确认的
导航式 Autopilot，是一次巨大的飞跃。
——这是一次巨大的飞跃。
——而且它还会自动超越慢车。
所以它既做导航，也寻找最快的车道。
它会超越较慢的车，
下高速出口，
走高速枢纽立交，
然后我们还有交通灯识别，
最初是作为警告引入的。
我是说，在我驾驶的开发版本上，
车可以在交通灯处完全停下和起步。
——这些就是发展的步骤，对吧？
你刚刚提到的一些东西
是迈向完全自动驾驶的某种苗头。
你认为实现完全自动驾驶
最大的技术障碍是什么？
——其实我不认为，我觉得我们刚刚，
我们刚做出的全自动驾驶计算机，
特斯拉所说的 FSD 计算机，
现在已经在量产了。
所以，如果你订购任何 Model S 或 X，
或者任何带全自动驾驶套件的 Model 3，
你就会得到 FSD 计算机。
拥有足够的基础算力是很重要的。
然后是改进神经网络和控制软件，
不过这些都可以通过空中升级（OTA）来提供。
真正意义深远的是，
也是我在我们将举办的
那场以自动驾驶为主题的投资者日上
要强调的一点：
目前正在生产的汽车，
或者说正在生产的硬件，
已经具备全自动驾驶的能力。
——但“具备能力”这个词很有意思，因为——
——比如说硬件是具备的。
随着我们改进软件，
能力会大幅提升，
然后可靠性会大幅提升，
然后它会获得监管批准。
所以，本质上，今天买一辆车
就是对未来的一项投资。
你本质上是在买，
我认为最意义深远的一点是，
如果你今天买一辆特斯拉，
我相信你买的是一项会增值的资产，
而不是会贬值的资产。
——这是一个非常重要的说法，
因为如果硬件足够强，
那通常是最难升级的部分。
那么其余的就是软件问题。
——软件基本上没有边际成本。
不过，你对软件方面的直觉是什么？
剩下的步骤有多难，
才能达到这样一个程度，
让体验，不只是安全，
而是完整的体验，
成为人们会喜欢的东西？
——我认为人们在高速公路上非常喜欢它。
它对生活质量是完全颠覆性的改变。
指的是在高速公路上使用特斯拉 Autopilot。
所以，接下来其实就是把这个功能
扩展到城市街道，
加入交通灯识别，
通过复杂路口，
然后能够在复杂的停车场里行驶，
这样车可以自己驶出车位
来找你，
即使是在完全像迷宫一样的停车场里。
然后它可以直接让你下车，
自己去找停车位。
——对，就好用程度和人们真正能用得上的
价值而言，停车场是一个真正的，
手动操作时让人非常烦恼的地方，
所以自动化在这方面
能带来很大好处。
那么，让我开始把人引入
这场讨论吧。
我们来谈谈完全自动驾驶。
看看目前在道路上测试的 L4 级车辆，
比如 Waymo 等等，
它们只是在技术上算自动驾驶。
它们其实是 L2 级系统，
只是设计理念不同，
因为几乎在所有情况下都有一名安全员
在监控系统。
你认为特斯拉的全自动驾驶，
在相当长一段时间内是否仍然
需要人的监督？
也就是说，它的能力强大到足以驾驶，
但仍然需要人
继续监督，就像
其他全自动驾驶车辆中的安全员
所做的那样。
——我认为，从现在起，至少六个月左右
都需要检测手是否在方向盘上。
实际上，这是一个监管层面的问题：
Autopilot 要比人安全多少，
才可以不再监控车辆？
这是可以争论的，
但是你需要大样本、
大量数据，这样才能以高置信度
在统计意义上证明，
这辆车比人要安全得多，
并且加入人的监控
不会实质性地影响安全。
所以它可能需要比人安全 200% 或 300%。
——你怎么证明？
——每英里事故数。
——每英里事故数，也就是碰撞和死亡。
——对，死亡是一个因素，
但死亡的数量不足以
在规模上达到统计显著，
但碰撞事故足够多，
碰撞的数量远多于死亡。
所以你可以评估发生碰撞的概率，
然后还有下一步，即受伤的概率，
永久性伤害的概率，
以及死亡的概率。
所有这些都需要比人好得多，
至少也许要好 200%。
——你认为有能力
与监管机构展开健康的对话，
§03原文文稿 · 19:38–29:18
就这个话题？
——我是说，毫无疑问，监管者
会把不成比例的注意力放在
能产生舆论热度的事情上，
这是客观事实，
而特斯拉会产生大量舆论。
所以，在美国，
我想每年有近 4 万人死于车祸。
但如果特斯拉出了四起，
它们得到的舆论关注大概会是
其他任何人的一千倍。
——所以，这背后的心理学其实很迷人。
我觉得我们没有足够的时间谈这个，
但我必须和你谈谈人的这一面。
所以，我和我们 MIT 的团队最近发表了一篇论文，
讲驾驶员使用 Autopilot 时的功能性警觉度。
这项工作我们从 Autopilot
三年多前首次公开发布时就开始做了，
收集驾驶员面部和身体的视频。
我看到你转发了摘要中的一句话，
所以我至少可以猜到你扫过一眼。
——对，我读了。
——我可以给你讲讲我们的发现吗？
——当然。——好的。
在我们收集的数据里，
看起来驾驶员保持了功能性警觉度，
我们看的是 18000 次
Autopilot 脱离，准确说是 18900 次，
并标注他们是否能够
及时接管控制。
也就是说，他们在场，看着路，
能够接管控制。
好，这与许多人根据
自动化条件下警觉度的文献所预测的相反。
现在的问题是，你认为这些结果
在更广泛的人群中也成立吗？
我们的只是一个小子集。
你认为，批评之一是，
可能有一小部分驾驶员
可能非常负责任，
而他们的警觉度下降
会随着使用 Autopilot 而增加？
——我认为这一切很快都会被一扫而空。
我是说，系统改进得如此之快，
这很快就会变成一个无意义的问题。
警觉度这件事，比如，如果某样东西比人安全许多倍，
那么再加上一个人，
对安全的影响是有限的。
事实上，还可能是负面的。
——这很有意思。
所以，一部分人，某个百分比的人群
可能表现出警觉度下降，
并不会影响总体的安全统计数字。
——不会，实际上我认为这会很快成为现实，
也许就在今年年底，
但我会说，如果最迟明年还不是这样，我会很震惊：
有人类介入
会降低安全性。
降低。
我可以想象一部电梯。
过去曾经有电梯操作员，
你不能自己一个人进电梯，
扳动拉杆在楼层之间移动。
而现在，没有人想要电梯操作员，
因为自动在各楼层停靠的自动电梯
比电梯操作员安全得多。
事实上，让某个人
拿着拉杆在楼层之间移动电梯
会相当危险。
——这是一个很有力、也很有意思的说法。
但我也必须问，从用户体验
和安全的角度，
对我来说，在算法上的热情之一
是基于摄像头的检测，也就是感知人，
检测驾驶员在看什么、
认知负荷、身体姿态。
在计算机视觉方面，这是一个迷人的问题，
但你是否认为——业内有很多人
相信必须有
基于摄像头的驾驶员监控——
你认为驾驶员监控
你认为是否可能从驾驶员监控中
获得益处？
——如果你的系统处于或低于
人类水平的可靠性，
那么驾驶员监控是有意义的。
但如果你的系统显著更好，
比人可靠得多，
那么驾驶员监控帮助不大。
而且，正如我说的，你不会想让电梯里有个人，
如果你在电梯里，
你真的想让某个拿着大拉杆的人，
某个随机的人，在楼层之间操作电梯吗？
我不会信任那种做法。
我宁可要按钮。
——好的，你对系统改进的速度很乐观，
对于系统的改进速度，
从你所见到的全自动驾驶汽车，
计算机来看，改进速度是指数级的。
——另一个非常有意思的设计选择是
早期，与此相关的是
Autopilot 的运行设计域（ODD）。
也就是 Autopilot 可以在哪里开启。
对比一下我们正在研究的另一种车辆系统，
凯迪拉克的 Super Cruise 系统。
就 ODD 而言，
它被严格限定在特定类型的高速公路上，
那些都是经过详细测绘和测试的，
但它比特斯拉车辆的 ODD 窄得多。
——就像 ADD（注意力缺陷障碍）。
（笑）
——这个说得好，这是句好话。
在这种不同的思路里，
当时的设计决策是什么？
当然有利有弊。
我们看到，宽 ODD 的好处是，
特斯拉的驾驶员能够更多地探索
系统的局限，至少在早期是这样，
而且他们会理解，
结合仪表盘显示，
他们开始了解系统有哪些能力。
这是一个好处。
坏处是你基本上让驾驶员在任何地方都可以使用它。
——嗯，任何能够有把握地检测到车道的地方。
——当时有没有某种理念，
或者在那里做出的、很有挑战的
设计决策？
还是说从一开始，
这就是有意为之的？
——嗯，我是说，我觉得，
坦率地说，让人们手动驾驶
一台两吨重的死亡机器，这相当疯狂。
那太疯狂了。
将来，人们会说：
我真不敢相信，居然有人被允许
驾驶这种两吨重的死亡机器，
而且想开到哪就开到哪。
就像电梯一样，你本来可以用那根拉杆
让电梯想去哪就去哪。
你想的话，它可以停在两层楼之间。
这相当疯狂。
所以，在未来，人们开车这件事
会显得很荒唐。
——所以我有一堆关于人的心理、
关于行为等等的问题，它们会变成——
——那种情绪完全无意义了。
——因为你对 AI 系统有信心。
不是信念，而是无论在硬件方面
还是在从数据中学习的深度学习方法上，
都会让它远比人类安全。
——对，没错。
——最近有几个黑客，
骗过 Autopilot 使其做出意料之外的行为，
用的是对抗样本。
我们都知道神经网络系统
对输入上的细微扰动，
也就是这些对抗样本，非常敏感。
你认为对于业界来说，
有可能防御这类问题吗？
——当然。
（笑）
——你能详细说说这个回答背后的信心吗？
——嗯，神经网络只是一堆矩阵运算。
你得是非常高明的人，
是真正懂神经网络的人，
基本上要逆向工程出这个矩阵是如何构建的，
然后再造出一个小东西，
恰好让这个矩阵运算
稍微出点偏差。
但要挡住这个很容易，
基本上就是加入“负向识别”。
就是说，如果系统看到的东西
像是矩阵攻击，就把它排除。
这事太容易做了。
——所以既要在有效数据上学习，也要在无效数据上学习。
也就是说，基本上要在对抗样本上学习，
从而能够把它们排除。
——对，你基本上既要知道
什么是车，也要知道什么绝对不是车。
你要训练“这是车”，也要训练“这绝对不是车”。
这是两件不同的事。
人们其实根本不懂神经网络。
他们大概觉得神经网络（neural net）涉及
渔网（fishing net）之类的东西。
（笑）
——所以，如你所知，把视野从特斯拉和 Autopilot
再往外扩一步，当前的深度学习方法
在某些方面似乎仍然离通用智能系统
很远。
你认为目前的方法
能把我们带到通用智能，
还是需要发明全新的想法？
——我认为我们还缺几个关键想法，
在通用智能方面，
也就是通用人工智能。
但它会很快来到我们面前，
然后我们就得想清楚该怎么办，
如果我们到时还有选择的话。
但令人惊讶的是，人们居然分不清
比如让汽车能够弄清楚车道线是什么、
§04原文文稿 · 29:22–32:38
并在街道上导航的窄 AI，
与通用智能之间的区别。
这就是非常不同的两件事。
就像你的烤面包机和你的电脑都是机器，
但其中一个比另一个复杂得多。
——你有信心特斯拉能造出
世界上最好的烤面包机吗？
——世界上最好的烤面包机，是的。
世界上最好的自动驾驶。
是的。
在我看来，现在这几乎是大局已定。
我是说，我不想自满或过度自信，
但眼下确实就是这样呈现的。
我可能是错的，但看起来的确是这样：
特斯拉遥遥领先于所有人。
——你认为我们会不会有一天创造出这样的 AI 系统：
我们能够爱它，它也能深深地、有意义地爱我们，
就像电影《她》（Her）里那样？
——我认为 AI 将非常有能力
说服你爱上它。
——那和我们人类的爱不同吗？
——你知道，我们开始进入一个形而上学的问题：
情感和思想是否存在于
不同于物理的另一个领域？
也许是，也许不是，我不知道。
但从物理学的角度，我倾向于这样看事情，
物理学是我主要接受的训练，
而从物理学的角度，本质上，
如果它以一种你分辨不出
是不是真的方式爱你，那它就是真的。
——这是一种物理学视角的爱。
——对。
如果你无法证明它不是，
如果没有任何测试可以用
来让你，
分辨出其中的差别，
那就没有差别。
——这和把我们的世界看作模拟类似。
可能没有任何测试可以区分
真实世界与模拟，
因此，从物理学的角度，
它们也许就是同一回事。
——是的。
而且也许有办法测试它是不是模拟。
也许有，我不是说没有，
但你完全可以想象，一个模拟
可以纠正这一点：一旦模拟中的某个实体
找到了检测模拟的方法，
它就可以重启、暂停这个模拟，
启动一个新的模拟，或者做许多其他事情中的一件，
从而修正那个错误。
——那么，也许当你或别人创造出一个 AGI 系统，
而你可以问她一个问题时，
那个问题会是什么？
——模拟之外是什么？
——埃隆，非常感谢你今天的交谈。
很荣幸。
——好的，谢谢。
（轻快的音乐）
（轻快的音乐）
（轻快的音乐）
（轻快的音乐）
（轻快的音乐）
（轻快的音乐）