← Lex Fridman

Chris Urmson: 克里斯·厄姆森:Aurora、谷歌、CMU 与 DARPA 的自动驾驶汽车

Chris Urmson: Self-Driving Cars at Aurora, Google, CMU, and DARPA

第2019-07-22期2019-07-22简体中文

嘉宾:Chris Urmson

收听本集00:00 / 44:59
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

§01原文文稿 · 00:00–10:32

00:00以下是与克里斯·厄姆森(Chris Urmson,原文转写为 Chris Sampson)的对话。

00:03他曾是谷歌自动驾驶汽车团队的 CTO,

00:06是卡内基梅隆大学参加 DARPA 大挑战赛

00:08的自动驾驶汽车项目背后的关键工程师和领导者,

00:12也是 DARPA 城市挑战赛的冠军。

00:16如今,他是自动驾驶软件公司 Aurora Innovation 的 CEO。

00:20(一家自动驾驶软件公司。)

00:21他与斯特林·安德森(Sterling Anderson)一起创立了这家公司,

00:23安德森曾是特斯拉 Autopilot 的前主管,

00:25还有德鲁·巴格内尔(Drew Bagnell),Uber 前自动驾驶与感知负责人。

00:30克里斯是世界上顶尖的机器人学家

00:32和自动驾驶汽车专家之一,长期以来

00:36在这个笼罩着神秘和炒作的领域里

00:38是一个理性的声音。

00:41他既承认解决自动驾驶问题

00:43所涉及的巨大挑战,

00:46也在努力去解决它。

00:49这里是人工智能播客。

00:52如果你喜欢,请在 YouTube 订阅,

00:54在 iTunes 上给五星,在 Patreon 上支持,

00:57或者在 Twitter 上联系我,

00:59账号 Lex Friedman,拼写为 F R I D M A N。

01:03现在,请听我与克里斯·厄姆森的对话。

01:09你参与过 CMU 与红·惠特克(Red Whitaker)一起

01:11参加 DARPA 大挑战赛

01:13和 DARPA 城市挑战赛的团队。

01:17从这些比赛中你学到了哪些

01:19技术上或哲学上的东西?

01:22我想最关键的一点是,这件事是能做到的。

01:26我想这就是第一届大挑战赛

01:30令人难以置信的地方,

01:34我记得当时我是卡内基梅隆的研究生,

01:38当时有这样一种两难:它

01:45看起来真的很难,所以做成了会很酷、很有意思。

01:46(会很酷、很有意思。)

01:48但在当时,我们是周围唯一的机器人研究所,

01:52所以如果我们参加了却摔个大跟头,

01:55那会很丢脸。

01:58所以我想,光是有意愿去做这件

02:01在当时被认为几乎不可能的事,

02:02(在当时被标记为几乎不可能,)

02:05然后在几次尝试之后,

02:06真的把它做成了,

02:08我想那真的非常令人兴奋。

02:12但你是在哪个时刻开始相信它是可能的?

02:15是从一开始就相信吗?

02:16你个人呢?

02:18因为你是首席工程师之一。

02:19实际上很多工作都得你来做。

02:21对,我是那里的技术总监,

02:23和一群其他非常优秀的人一起

02:26做了很多工作。

02:28我相信它能做到吗?

02:29当然相信。

02:31你为什么要去做一件你认为

02:32完全不可能的事呢?

02:34我们当时觉得它会很难。

02:36我们不知道自己要怎么才能做到。

02:37我们不知道自己第一次能不能做到。

02:42结果证明第一次没做到。

02:45那,对,我想你必须得相信。

02:48我认为天真有某种好处,对吧?

02:52如果你不知道某件事到底有多难,

02:55你就会尝试不同的东西,而这给了你

02:59一个那些更明智的人也许没有的机会。

03:04最大的痛点是什么?

03:05机械、传感器、硬件、软件、

03:08建图和定位的算法、

03:11一般的感知、控制?

03:13比如首先是硬件还是软件?

03:15我认为这正是这个领域的乐趣所在:一切都很难,

03:20你必须把每一部分都做好。

03:25所以就城市挑战赛而言,如果我从今天回头看,

03:32它今天应该很容易,因为那是一个静态的世界。

03:38意思是没有其他参与者在其中移动。

03:40(意思是这样。)

03:42它是在沙漠里进行的,所以 GPS 信号很好。

03:47所以那一点,我们可以大致把它测绘出来。

03:51所以现在回头看,它属于我们当时就能做到的事情范围之内。

03:55(我们当时就能做到。)

03:57光是把车辆弄好,

03:59有一大堆工程工作

04:00才能让车辆能被我们控制和驾驶。

04:04这在今天仍然是个麻烦,但当时更是如此。

04:09然后,他们究竟想让我们做什么的不确定性

04:14也是挑战的一部分。

04:17对,你一开始其实并不知道赛道的走向。

04:19你大致知道,但你其实并不

04:21知道会走哪条路线。

04:23没错,我们不知道路线。

04:24我们甚至,按照规则的描述方式,

04:28你得靠猜。

04:29所以如果你回想那场挑战赛,

04:33当时的设想是,政府,

04:36也就是 DARPA,会给我们一组路点,

04:40以及在连接每个路点的连线之间

04:43你必须保持的大致宽度。

04:46所以他们能做的最阴险的事,

04:49就是在一片灌木丛和岩石的旷野上

04:53划一条一公里宽的走廊,然后说:你们自己想办法。

04:58幸运的是,它实际上基本上变成了

05:01沿着一组小路行驶,这与他们所要寻找的

05:05应用场景更相关。

05:08但不管怎样,在当年那真是一件了不起的事。

05:12所以那位传奇人物红,大致上在领导着这项工作,

05:16笼统地说。

05:19你现在是一位领导者。

05:22关于领导力,你从红身上学到了什么?

05:25我想有几点。

05:26一是去尝试那些真正困难的事。

05:31那里才有巨大的机会。

05:34不过我想另一个重要的一点,

05:36是看一个人能成为什么样的人,而不是他现在是什么样。

05:41这其实是我

05:43从红身上学到的最深刻的教训之一,

05:46那就是他会看着本科生

05:50或研究生,赋予他们成为领导者的权力,

05:56让他们承担责任,去做了不起的事,

06:00而我想换一个人看着他们

06:04会想,哦,那不过是个本科生。

06:06他们能懂什么?

06:08所以我认为那种“信任但要核实”、

06:12对人能够成为什么样的人抱有信心,

06:14我认为是一件非常有力量的事。

06:16那么顺着这个,我们快进穿过这段历史。

06:20你能不能梳理一下自动驾驶汽车系统

06:24在技术上的演变,

06:26从头两届大挑战赛到城市挑战赛,

06:29再到今天,在你看来有重大的转变,

06:33还是说是同一类技术只是变得更稳健了?

06:37我认为有过一些非常非常大的跨越。

06:40就大挑战赛而言,

06:43真正解锁它的技术是高精地图。

06:51在那之前,很多越野机器人的工作

06:55都是在没有任何关于车辆将遇到什么的

06:58真实先验模型的情况下完成的。

07:01所以那项创新,我们能够得到

07:05分米级分辨率模型这一事实,确实是件大事。

07:13它让我们能够界定车辆所面对的

07:18驾驶问题的复杂度,

07:19并让它能够高速运行,

07:21因为我们可以对它将遇到的环境

07:23做出一些假设。

07:25所以那是那里的一大步。

07:31就城市挑战赛而言,

07:37那里的一大技术创新

07:39是多光束激光雷达,

07:41以及能够生成高分辨率的、

07:45中到远距离的世界三维模型,

07:48并用它来理解车辆周围的世界。

07:53那确实是一项颠覆性的技术。

07:58与此同时,

08:00我们看到一批其他技术,

08:04它们一直在逐渐成熟,

08:06迎来了各自的高光时刻。

08:08贝叶斯估计一直,

08:12SLAM 一直是机器人学中的一大领域。

08:17在那之前几年,你去参加一个会议,

08:20几乎每篇论文里都会有 SLAM 的影子。

08:24所以看到贝叶斯估计技术

08:30在一个非常引人注目的舞台上得到应用,

08:33我觉得看到这一点相当令人兴奋。

08:38而当时 SLAM 大多是基于激光雷达做的。

08:41对,事实上我们并没有真正实时地做 SLAM,

08:45因为我们事先有一个模型,

08:47我们有一张路网图,但我们在做的是定位。

08:51我们用激光雷达或摄像头,

08:53取决于具体是谁在做,

08:55来相对于一个世界模型进行定位。

08:57我认为相比于在那之前

09:00幼稚地信任 GPS 和 INS,这是一大步。

09:06而且同样,这个领域里已经有很多工作在进行。

09:09这当然并没有在 SLAM 或定位上

09:13做什么特别创新的事,

09:16但看到那项技术在一个大舞台上的

09:20真实应用中被需要,

09:21我觉得非常酷。

09:23所以就城市挑战赛而言,

09:24那些地图总体上是离线构建好的。

09:28那么人们是各自单独做的吗,

09:30各个团队是各自单独做的,

09:33所以他们有各自不同的方法,

09:36还是说大家多少会分享那些信息,

09:41至少在直觉层面上?

09:42DARPA 给了所有团队一个世界模型,一张地图。

09:49然后我们当时必须搞清楚的一件事,

09:53而且这至今仍然是

09:56会把人绊住的事情之一,

09:57其实就是坐标系。

10:00你拿到一个经纬度,

10:03精确到很多位小数时,

10:05你并不真正在意所使用的

10:07地球椭球模型。

10:09但当你想达到 10 厘米

10:12或厘米级分辨率时,

10:14你就会在意坐标系是 NAD83

10:18还是 WGS84,这些是描述地球非球形性的

10:24不同方式,

10:26同时也描述,我想,

10:31我记不清是哪一个了,

§02原文文稿 · 10:32–20:43

10:32正在发生的板块移动,

10:33以及如何据此转换全球基准。

10:37所以拿到一张地图,然后真正把它

10:41以厘米级分辨率匹配到现实,这在当年

10:42是件挺有意思、挺好玩的事。

10:44那么当时感知承担了多少工作?

10:46你们在多大程度上依赖基于地图的定位,

10:52而不用感知去配准到地图?

10:55我想问题是,感知在当时有多先进?

10:58(感知当时有多先进?)

10:59它当然落后于我们今天的水平,对吧?

11:01距离城市挑战赛已经十多年了。

11:05但它的核心已经有了。

11:08也就是我们在跟踪车辆。

11:13我们必须在 100 多米的范围内做到这一点,

11:15因为我们必须汇入其他车流。

11:18我们同样用贝叶斯估计

11:21来估计这些车辆的状态。

11:23我们必须处理一堆问题,

11:25也就是你今天也会想到的那些问题,

11:26比如预测那辆车将会在哪里,

11:29在未来几秒内。

11:31我们必须应对这样一个事实:

11:32对此存在多种假设,

11:35因为路口的一辆车可能右转,

11:37也可能直行,

11:38也可能左转。

11:41我们还必须应对这样一个挑战:

11:44我们的行为会影响

11:47那位其他驾驶者的行为。

11:48我们当时用相对幼稚的方式做了很多这类工作,

11:53但它多少还是奏效了。

11:54总还是得有某种解决方案。

11:57那么十年后,这把我们带到了哪里,

11:59今天把我们带到了哪里,

12:01从那种人工搭建的城市,

12:04到真实的城市、到城市环境?

12:07对,我认为最大的一点

12:09是那些参与者是真正不可预测的。

12:15大多数时候,路上的司机,

12:18其他道路使用者,行为都还规矩,

12:24但每隔一阵子就会有人不规矩。

12:27其他车辆的多样性,你会遇到所有种类。

12:32在行为方面、在感知方面,还是两者都有?

12:35两者都有。

12:38当时我们不用应付骑行者,

12:40不用应付行人,

12:42不用应付交通灯。

12:46你现在必须运行的尺度

12:49比我们当时所考虑的那个空军基地

12:51要大得多。

12:52那么,简单的问题,

12:56你认为驾驶中最难的部分是什么?

12:59简单的问题。

13:00对,不,我开玩笑的。

13:02我确信没有哪一件事会作为唯一的难点跳出来,

13:07但在从城市挑战赛跨入真实世界的过程中,

13:12是否有某件你预见到

13:15会是非常严重、非常困难的挑战?

13:18我认为最根本的区别

13:21是我们这次是来真的。

13:26在那个环境里,

13:28它既是一个复杂度有限的环境,

13:31因为某些参与者不在场,

13:33因为道路是有维护的,

13:35当时有屏障把人隔开,

13:37与机器人隔开,

13:40而且它只需要工作 60 英里。

13:43从 2006 年的角度看,

13:46它只需要工作 60 英里,对吧?

13:48而从现在的角度看,

13:51我们想要能够行驶

13:53五十万英里的东西,

13:57这完全是另一回事了。

14:00那么激光雷达有多重要,

14:03你说激光雷达很早就进入了这个领域,

14:06它确实是如今自动驾驶汽车

14:07作为传感器的主要支柱。

14:10那么在近期,激光雷达在传感器套件中的

14:11作用有多重要?

14:14所以我认为它是必不可少的。

14:17我相信,但我也相信摄像头是必不可少的,

14:20我还相信雷达是必不可少的。

14:22我认为你真的需要

14:26综合运用来自这些不同传感器的数据,

14:28如果你想让这套系统真正稳健的话。

14:32我想问的问题,

14:34看看我们能不能把它理清,

14:35是你怎么看埃隆·马斯克那句

14:39挑衅性的话:激光雷达是拐杖,

14:42它是一种,我想,成长的阵痛,

14:47而且大部分感知任务

14:49可以用摄像头完成?

14:52我认为不可否认的是,

14:55人们额头上没有激光也能四处走动,

14:59他们能上车并驾驶,

15:01所以这是一个存在性证明,

15:05证明你可以用被动视觉来驾驶。

15:10毫无疑问,这一点无法反驳。

15:12就传感器而言,对,所以有证据。

15:14对,就传感器而言,对吧?

15:16所以有一个例子,就是我们都在这么做,

15:20我们很多人每天都在做。

15:21至于说激光雷达是拐杖,没错。

15:28但就像内燃机

15:33是通往电动汽车路上的拐杖一样,

15:35就像任何技术最终

15:40都会在未来被某种更优越的技术取代一样,

15:44我真正看待这件事的方式是,

15:47我们在地面上出行的方式,

15:51我们使用交通的方式是失灵的,

15:55我们有这样一个,我想我今早看到的数字,

15:59去年有 3.7 万美国人死在我们的道路上,

16:04这是完全不可接受的。

16:05所以任何我们能够运用的、

16:09能加速这项自动驾驶技术

16:12走向市场、拯救生命的技术,

16:14都是我们应该使用的技术。

16:18而说这话感觉就是武断的:

16:20嗯,我不接受使用激光,

16:26因为那是什么什么,

16:27但我接受使用八百万像素

16:30或一千六百万像素的摄像头”,感觉就是武断的。

16:32这些都只是一些技术,

16:34我们应该从工具箱里拿出

16:36能让我们去解决问题的最好技术。

16:41我经常和,嗯,显然你也一样,

16:45和那些汽车公司谈这个问题,

16:48如果说有一个词出现得

16:51比什么都多,那就是成本,以及设法压低成本。

16:55所以虽然 3.7 万确实是个悲剧性的数字,

17:01问题是,而且提这个问题的不是我,

17:04因为我讨厌这个问题,

17:05但我们想找到最便宜的传感器套件,

17:09也就是能造出安全车辆的那套。

17:13那么在这个令人不适的权衡中,

17:18你预见激光雷达未来会降价吗,

17:23还是你认为会有一天,没有激光雷达

17:26也能实现 L4 级自动驾驶?

17:29这两种我都看得到,但那真的只是时间问题。

17:32我想,也许我会谈谈你问的

17:36关于最便宜传感器的那个问题。

17:37我不认为那其实是你想要的。

17:40你想要的是一套在经济上可行的传感器套件。

17:45在那之后,一切都是关于利润率,

17:49以及把成本从系统中挤出去。

17:52你还想要一套真正管用的传感器套件。

17:55所以,讲一个关于

17:59用 50 美元的传感器而不是 500 美元的传感器

18:03来做自动驾驶系统会更好的故事,是很动听的。

18:08但如果 500 美元的传感器能让它管用,

18:10而 50 美元的不管用,那谁在乎呢?

18:15只要你确实能有经济机会,

18:20那里就存在一个经济机会。

18:21而经济机会之所以重要,

18:23是因为那才是你真正拥有可持续业务的方式,

18:27也是你真正能看到它规模化、

18:31走向世界的方式。

18:32所以当我看激光雷达时,

18:35我看到的是一项本身没有

18:38根本性昂贵成分的技术。

18:42它会比成像器更贵,

18:46因为 CMOS 工艺或晶圆厂工艺

18:51比机械工艺的可扩展性要强得多。

18:56但我们仍然应该能够

18:58在那一侧大幅压低成本。

19:00而且我也确实认为,有了正确的商业模式,

19:05你可以吸收更多,

19:07当然是物料清单上更多的成本。

19:09对,如果传感器套件管用,就提供了额外价值,

19:12因此你不需要把成本压到零。

19:15这是基本的经济学。

19:17你谈到过你的直觉,

19:18认为 L2 级自动驾驶是有问题的,

19:22因为涉及人的因素:警觉度

19:25下降、自满、过度信任等等,

19:28就因为我们是人。

19:29我们过度信任系统,

19:31我们开始更多地去从事

19:34次要活动,比如玩智能手机之类。

19:38你在这一点上的看法有过变化吗,无论朝哪个方向?

19:43你能谈谈吗?

19:44那么,我想非常小心,

19:47因为有时候这会被以某种

19:50我绝不是本意的方式歪曲。

19:53主动安全系统是一项非常重要的技术,

19:58我们应该去追求它并把它集成进车辆。

20:02而且在近期有机会

20:04减少事故、减少死亡,

20:06我们应该在这方面推进。

20:11L2 级系统是指车辆

20:14控制两个轴的系统。

20:18也就是制动,以及油门/转向。

20:23而我认为有一些 L2 级系统的变体

20:25是在辅助驾驶员的。

20:27那些我们绝对应该鼓励它们出现在路上。

20:31我认为真正的挑战所在,

20:32是围绕这件事的人因部分,

20:37以及公众对它所带来的能力范围、

20:41和他们应有的信任程度

§03原文文稿 · 20:43–29:57

20:43所产生的误解。

20:46而这就是我,

20:50我其实对 L3 级系统

20:52稍微更担心一些,

20:54以及 L2 级系统究竟是如何被营销和交付的,

20:58以及人们在那些人因问题上投入了多少努力。

21:01所以关于这一点,我仍然相信几件事。

21:05一是人们会过度信任这项技术。

21:09过去几周我们看到

21:11一连串的人在自己的特斯拉里睡觉。

21:14我昨晚看了一集特雷弗·诺亚(Trevor Noah)的节目,

21:19谈到这个,他,

21:23这是一个聪明人,手头有很多资源,

21:26他把特斯拉描述成一辆自动驾驶汽车,

21:30还说人们为什么不能在自己的特斯拉里睡觉?

21:33而这就好比,嗯,因为它不是一辆自动驾驶汽车,

21:36它也不是设计成那样的,

21:38而这些人几乎肯定会在某个时刻丧命,

21:46或者伤害别人。

21:48所以我们需要真正审慎地考虑

21:50这项技术是如何被描述

21:51和推向市场的。

21:54我还认为,由于我们刚才谈到的

21:59经济上的挑战,

22:01这些 L2 级驾驶辅助系统,

22:05其技术路径会偏离

22:07我们要真正交付真正自动驾驶汽车

22:10所必须走的技术路径,

22:14也就是你可以上车让它来开的那种车。

22:16可以上车睡觉,并拥有不亚于

22:20甚至优于人类司机的安全性。

22:24因为同样,这两个世界里的经济学

22:28非常不同,所以这导致了

22:30技术的分道扬镳。

22:32所以你就是看不到那种经济学,

22:34即从 L2 逐步提升,

22:38并且做得足够快,

22:41快到不会引发安全、关键安全方面的担忧。

22:44你认为在这一点上它需要分叉,

22:48基本上走向不同的路线。

22:50而这真正要回到那些 L2

22:55和 L1 系统在做什么?

22:57它们是驾驶辅助功能,

22:59负责任地营销它们的人

23:04会讲得非常清楚,并把人因措施落实到位,

23:08使得驾驶员实际上对车辆负责,

23:12而技术的存在是为了辅助驾驶员。

23:15围绕这些系统建立的安全论证,

23:19依赖于驾驶员的注意力和专注。

23:24而到了那一步,出于经济原因,

23:29你可以在某种程度上放弃,

23:31你可以放弃,比如说,漏报(假阴性)。

23:34而思考这件事的方式是,

23:36对于一套碰撞缓解制动系统,

23:39如果有一半的时候,在驾驶员没注意到前车时,

23:43它踩了刹车,

23:46把车停了下来,

23:47那将是我们道路安全上一个

23:51了不起、了不起的进步,对吧?

23:53那将相当于安全带。

23:55但那意味着,如果那辆车

23:56没有被监控,它会每两辆车就撞上一辆。

24:00所以从经济上说,对于一套驾驶辅助系统,

24:05那是一个完全不错的解决方案。

24:06到了那一步你应该做的,

24:07如果你能让它有一半的时候管用,

24:09就是把成本挤出去,

24:10好让你能把它装到尽可能多的车上。

24:13但把成本挤出去

24:14并不能提升漏报情形下的性能。

24:18所以你仍然不会有一项

24:21真正可用于自动驾驶车辆的技术。

24:25所以显然,沟通,

24:28这大概对所有 L4 车辆也适用,

24:31关于……的营销和沟通,

24:34关于这项技术实际能做什么、

24:37它有多难、有多容易,

24:38所有这类事情都非常成问题。

24:41那么假设世界上每个人都被完美地告知,

24:45并被弄得完全清楚

24:48外面每一项技术,

24:50它能做什么。

24:52你的直觉是什么?

24:54现在我们也许进入了哲学的领域。

24:56有没有可能存在一辆 L2 级车辆,

25:00让我们不会过度信任它?

25:04我不这么认为。

25:05如果人们真正理解了风险并把它内化,

25:11那么当然,你可以安全地做到。

25:14但那是一个并不存在的世界。

25:16人们会,

25:18如果把事实摆在他们面前,

25:20他们就会把它和自己的经验结合起来。

25:24比如说他们在用一套 L2 系统,

25:28每天在 101 号公路上来回开,

25:30这样开了一个月。

25:32这一个月里它每天都管用。

25:36到那时候这就很有说服力了,

25:39即使你知道统计数据,

25:41你也会想,嗯,我说不好,

25:43也许那些数据有点蹊跷。

25:44也许他们开的是难开的路段。

25:46我可是亲眼看到了,它管用。

25:49而问题在于他们拥有的那个样本量,

25:52比如来回 30 英里,

25:53也就是 60 英里乘以 30 天,

25:56所以是 60、180、1800 英里。

25:58这和每起死亡事故之间大约

26:038500 万英里相比,不过是沧海一粟。

26:07所以他们其实并没有一个基于个人经验的

26:11对真实风险的真实估计,

26:14但他们还是会信任它,

26:15因为很难不信任。

26:16它管用了一个月,还会有什么变化呢?

26:18所以即使你一开始对系统有完美的理解,

26:21你自己的经验也会让它漂移。

26:24我是说,那是个大隐患。

26:25一年之内,甚至两年之内,

26:28不一定是几个月。

26:29我认为,随着这项技术

26:32从我会说的那种比较懂技术的

26:37车主群体走向大众市场,

26:42你也许能让其中一些

26:44非常熟悉技术的人,

26:46他们也许能更好地把它内化。

26:48而你对这种错误风险评估的

26:50那种“免疫力”

26:53也许能持续更久,

26:54但当那些不那么懂行的人

26:58读了资料,并把它和自己的

27:00个人经验作比较时,

27:02我想在那里它会变得更快。

27:08所以你的工作,你在谷歌

27:11以及现在在 Aurora 创建的项目,更聚焦于

27:16第二条路径,即创造完全自动驾驶。

27:18这太迷人了,

27:20我认为它是最有意思的 AI 问题之一,

27:24本世纪的 AI 问题,对吧?

27:25我刚和很多人聊过,

27:28就是普通人,我说不好,

27:29比如我妈妈,聊自动驾驶汽车,

27:31你会开始纠结于

27:34把自己生命的控制权交给一台机器这种想法。

27:38它在哲学上很有意思,

27:40在实践上也很有意思。

27:41那我们来谈谈安全。

27:43你认为我们如何向世界证明,

27:46你过去谈到过指标,

27:47你认为我们如何向世界证明,

27:51一辆自动驾驶汽车、一套 Aurora 系统是安全的?

27:56这是个困难的问题,

27:57因为没有一句话能说清的答案。

27:59我们必须展示我们勤勉而审慎地

28:05所做的一整套工作,

28:08而这正是功能安全流程之类的东西

28:10所发挥作用的地方。

28:11就好比说:这是我们做这项工作的方式,

28:15这意味着我们非常周密。

28:17所以如果你相信我们关于

28:20“我们就是这样做的”这番话,

28:21那么你就能有一定的信心,

28:22相信我们在工程工作上是周密的,

28:25也就是我们投入系统的那些工作。

28:26然后在此之上,

28:28为了证明我们不只是周密,

28:32而是真的擅长我们所做的事,

28:35会有一系列证据,

28:38用来证明这些能力

28:40如我们所想的那样运作,

28:42在统计意义上,以及在我们能够

28:45证明的任何程度上,

28:48既通过某种组合的仿真,

28:50某种组合的单元测试

28:53和分解测试,

28:54还有一部分将来自路测数据。

28:58我认为我们最终

29:02向公众传达这一点的方式,

29:04显然会有一些与公众的对话,

29:06关于这件事,

29:08但我们会借助那些可信的节点,

29:12也就是我们会花更多时间,

29:13和 NHTSA(美国国家公路交通安全管理局)

29:17以及其他联邦和州监管机构更深入地交流,

29:19鉴于他们是

29:22为公共利益行事、并且是可信的,

29:26如果我们能向他们展示足够多的工作

29:28让他们信服,

29:30那么我想我们的处境就相当不错了。

29:33这意味着你和那些

29:35本质上是安全专家的人合作,

29:36去尝试讨论和展示。

29:39你认为,答案大概是否定的,

29:41但以防万一,

29:42你认为存在一个指标吗?

29:44目前人们一直在用

29:46接管次数。

29:48而它很快就变成了一种营销手段,

29:50也就是你调整你所做的实验来适应它。

29:54我想你说过你不喜欢它。

29:56不喜欢。

§04原文文稿 · 29:57–39:39

29:57不,事实上,我曾公开告诉车管局(DMV),

29:59我认为这不是一个好指标。

30:01你认为有可能创造出一个指标、

30:05一个能在死亡数据之外

30:09证明安全性的数字吗?

30:12我认为可以。

30:13而且我认为它不会只是一个数字。

30:17所以当我们在内部纠结这个问题时,

30:21在某个时候我们能够

30:23更公开地谈论它,

30:25那就是我们如何看待人类的表现,

30:28在不同的任务中,

30:29比如检测交通灯,

30:32或者安全地穿过车流左转?

30:37我们认为人在这些不同能力上的

30:40失败率是多少?

30:42然后向我们自己,

30:44再向监管岗位上的人,

30:48最终向公众证明,

30:50我们有信心我们的系统

30:52会比那更好。

30:54所以这些单项指标

30:57最终会讲出一个有说服力的故事。

31:01我确实认为,归根结底,

31:03就安全而言我们关心的

31:06是挽救的生命和减少的伤害。

31:12最终还有那些“伤亡美元”,

31:16也就是人们不必再掏钱去修车。

31:19我确实认为,在航空业,

31:22他们会看一种“事件金字塔”,

31:25坠机在金字塔顶端,

31:28那显然是最糟的事件,

31:30然后是受伤和险情事件之类的,

31:34还有违反操作规程,

31:37你据此建立一个统计模型,

31:40反映低严重度和高严重度事件

31:44之间的相关性。

31:45我认为那也是

31:46我们将能够借鉴的东西,

31:48因为每 8500 万英里一起事件,

31:51在统计上是一件很难

31:54哪怕是在美国这个尺度上,

31:56也很难直接比较。

31:59而那起与之相关的死亡事件,

32:02也就是与自动驾驶汽车相关的死亡,

32:07至少目前被显著放大了,

32:09就它所受到的关注量而言。

32:12那说到了公众认知。

32:15我认为公众中关于自动驾驶汽车

32:16最热门的话题

32:19是“电车难题”这种表述,对吧?

32:23这个,我们别太深入,

32:27但它在很多方面是被误导的。

32:29但它说明了人们正在纠结于

32:32把控制权交给机器这种想法。

32:36那么你如何赢得人们的心,

32:41让他们相信自动驾驶可以成为

32:44他们生活的一部分?

32:45我认为你让他们亲身体验它,对吧?

32:47我认为这是对的。

32:50我认为人们应该持怀疑态度。

32:52我认为人们应该提问。

32:55我认为他们应该怀疑,

32:57因为这是新奇而不同的东西。

33:00他们还没有接触过它。

33:01我认为这完全合情合理。

33:03但与此同时,

33:07显然有机会让道路更安全。

33:09显然我们可以改善出行的可及性。

33:12显然我们可以降低出行的成本。

33:16而一旦人们尝试了它,

33:19理解了它是安全的,

33:22并能够在日常生活中使用它,

33:24我认为它就会成为那种

33:25理所当然的东西。

33:28我在自己做的演示中确实见过这一点,

33:32我让一些人进来,

33:35他们非常怀疑。

33:38同样,在车里,我最喜欢的一个例子

33:40是带某人上高速公路,

33:42我们在 101 号公路上以每小时 65 英里行驶。

33:46过了 10 分钟,他们会转过头来问,

33:48它就只会这些吗?

33:49而你会说,它是一辆自动驾驶汽车。

33:52我不太确定你以为它会做什么,对吧?

33:54但它变得平淡无奇,

33:58而这正是你希望一项技术成为的样子,

34:01像这样的一项技术,对吧?

34:02我们并不真的,当我打开这里的电灯开关时,

34:07我不会去想那些电子

34:12从某个地方被沿着电线推送过来、

34:14被发电出来的复杂过程。

34:15就好比,它不亮我才会恼火,对吧?

34:19而我所看重的,是这样一个事实:

34:21我可以在这个空间里做别的事。

34:23我可以看见我的同事。

34:24我可以在纸上读东西。

34:26我可以不怕黑。

34:30我认为那就是我们希望这项技术成为的样子:

34:33它在后台运行,

34:34人们得以拥有那些生活体验,

34:37并且安全地去体验。

34:38所以把这项技术交到人们手中,

34:42说到了部署的规模,对吧?

34:46那么你怎么看那个令人头疼的关于未来的问题,

34:50因为没有人能预测未来,

34:53但也许就诗意地说一说,

34:57你认为我们什么时候会看到自动驾驶汽车的

35:00大规模部署,上万辆那种规模?

35:06我们会在 10 年内看到。

35:09我相当有信心。

35:14什么样的规模算令人印象深刻?

35:16什么时刻,你做过 DARPA 挑战赛,

35:19那里只有一辆车。

35:20在哪个时刻它会变成“哇,这是真正的规模了”?

35:23我认为它变得严肃起来的时刻,

35:26是当我们真的有一辆无人驾驶车辆

35:32在公共道路上行驶,

35:35而且我们能够持续地做到这一点。

35:37没有安全员。

35:38车里没有安全员。

35:40我认为在那个时刻,

35:41我们就算跨过了从零到一的门槛。

35:45然后问题就在于我们如何继续扩大规模?

35:50我们如何建立正确的商业模式?

35:53我们如何围绕它打造正确的客户体验,

35:56好让它真正成为世界上一个有用的产品?

36:00我认为那真的,

36:03在那一刻它从

36:05一个科学与工程混合的项目,

36:09转变为工程与商业化,

36:12真正开始兑现我们都看到的那种价值,

36:15并把它在世界上变为现实。

36:20你认为那种部署会是什么样子?

36:22我们最先会在哪里看到没有安全员的苗头,

36:26这儿一两辆、那儿一两辆车?

36:28是在高速公路上吗?

36:29还是在城市环境的特定路线上?

36:33我认为会是城市、郊区这类环境。

36:37对,在 Aurora,当我们思考如何着手这件事时,

36:41当时流行把货运卡车

36:46而不是城市驾驶作为切入点。

36:47而同样,人们对此的直觉是,

36:51高速公路更好开,

36:57因为大家大体朝同一个方向走,

36:59车道也宽一点,等等。

37:01我认为那种直觉相当不错,

37:03只是我们真正在意的不是“大多数时候”。

37:06我们在意的是“所有时候”。

37:08而当你开着一辆卡车在高速公路上行驶,

37:10比如每小时 70 英里,

37:14还带着 7 万磅的载重,

37:16那是一股惊人的动能。

37:18所以一旦出事,就会非常严重。

37:22而你所看到的那些挑战发生得更少,

37:27所以你学得没那么快。

37:31它们比城市驾驶略微更难一些,

37:34但它们并不比城市驾驶更容易。

37:37所以我认为这会发生在中速的城市环境里,

37:41因为如果两辆车

37:45以每小时 25 英里相撞,这不好,

37:48但大概每个人都能走着离开。

37:51而那些有可能发生此类事件的情形

37:53经常出现。

37:55所以我们可以更快地学习。

37:58我们能以对所有人更低的风险来做这件事。

38:02然后我们就能为那些

38:04需要从一地到另一地的人创造价值。

38:05而一旦我们把那个解决了,

38:08那么其中的高速公路驾驶部分就自然而然地解决了。

38:11但我们能够在城市环境中

38:13更安全、更快地学习。

38:15所以 10 年,然后规模化是 20、30 年,

38:18谁知道呢,如果创造出足够有吸引力的

38:22体验,它可能更快,也可能更慢。

38:24你认为会有突破吗,

38:27会有什么样的突破

38:29能完全改变那个时间表?

38:32同样,我不仅是在请你预测未来,

38:35我是在请你预测那些

38:37尚未发生的突破。

38:38那么,我想换一种问法是,

38:41如果我能挥动一根魔杖,

38:44我会让系统的哪一部分今天就运转起来,

38:46以尽可能快地加速它?

38:52别说基础设施,拜托别说基础设施。

38:54不,绝对不是基础设施。

38:56真正是那种感知—预测能力。

39:00所以如果明天你能给我一个完美的模型,

39:04关于车辆周围已经发生了什么、正在发生什么,

39:06以及在接下来五秒内会发生什么,

39:10就在道路上一辆车的周围,

39:13那将相当显著地加速事情的进展。

39:15就夜里睡不着觉而言,

39:17你最困扰的是汽车、行人还是骑行者?

39:21所以我最担心的是脆弱的道路使用者,

39:25是骑行者和汽车的组合,对吧,

39:28或者骑行者和行人,因为他们没有护甲。

39:31汽车更大,它们对车里的人有保护,

39:36所以那里的最终风险更低。

§05原文文稿 · 39:41–44:47

39:41而行人或骑行者,

39:43他们暴露在路上,没有任何保护,

39:46所以我们需要对此格外注意。

39:49你会考虑一个非常困难的技术挑战吗,

39:55也就是行人这样一个事实:

39:58如果你试图通过小心、缓慢行驶

40:00来保护行人,他们就会利用这一点。

40:04那么这种博弈论式的“共舞”,它让你担心吗,

40:09从技术角度看,我们如何解决这个问题?

40:12因为作为人类,我们解决这个问题的方式

40:14有点像是一点点挤过人群,

40:17从技术角度看,这感觉

40:20不像是一个恰当的算法。

40:23但你会思考我们如何解决那个问题吗?

40:25对,我认为那里有两个不同的概念。

40:31一是,我是否担心因为这些车辆

40:35是自动驾驶的,人们就会走到路上

40:37占它们的便宜?

40:38我听过这种说法,但我其实不太信,

40:43因为如果我在路上开车,

40:45有人走到我面前,我会停下来。

40:50即使我很恼火,我也不会直接

40:53从一个站在路上的人身上碾过去。

40:56所以我认为,今天人们就可以占这个便宜,

41:00你确实会看到有些人这么做。

41:02我想存在一点额外的风险,

41:04因为也许相比自动驾驶车辆,

41:05他们对我会看到他们的信心更低,

41:07所以也许那会让情况

41:10稍微偏移一点。

41:12但我认为人们不想被车撞。

41:14所以我认为我不太担心

41:17人们走到 101 号公路上

41:18制造比今天更多的混乱。

41:24至于那种挤过一大群

41:27散场离开演唱会之类的人群,

41:30我认为那在技术管线里更靠后。

41:33我认为你说得对,那很棘手。

41:36我不认为它一定,

41:40我认为人们用来做这件事的算法相当简单。

41:43差不多就是缓慢前进,

41:44如果有人离得很近就停下。

41:46我认为那大概可以相当容易地复制,

41:50尤其是考虑到

41:54你不是以每小时 30 英里来做这件事,

41:55而是以每小时 1 英里,所以即使在那些情形下,

41:59风险也相对很小。

42:01但那不是我们正在考虑的事,

42:03不是我们在认真考虑的事。

42:04而且那大概与其说是个算法问题,

42:07不如说更多是在创造一种人的体验。

42:10所以是那些人机交互(HCI)的人去创造一个视觉显示,

42:14让你作为行人被愉快地

42:16请到一边去,那是一个体验问题,

42:20而不是算法问题。

42:22今天 Aurora 的主要竞争对手是谁?

42:25从长远看你如何胜过他们?

42:28所以我们真的很专注于我们自己在做的事。

42:31我想,我已经说过几次了,

42:34这是一个巨大而困难的问题,

42:37有一批公司在攻克它是件好事,

42:40因为我认为对社会来说,

42:42有人做成这件事太重要了。

42:43所以我们不会花很多时间

42:49从战术上去琢磨外面都有谁、

42:51以及我们如何单独击败那个人。

42:55我们为了最终走得更快在做什么?

42:59嗯,其中一部分是我们拥有的领导团队

43:02有相当惊人的经验。

43:04所以我们大体了解整个格局,

43:06也在一定程度上明白哪里是死胡同,

43:09我们尽量避开那些。

43:10我认为其中一部分,

43:14就是我们建立起来的这个出色的团队。

43:16人们,这是一项技术和一家

43:19人们相信其使命的公司,

43:22所以它让我们能够吸引

43:23非常棒的人来工作。

43:26我们有一种我认为人们所珍视的文化,

43:29它让他们能够专注,

43:30让他们真正能花时间去解决问题。

43:33我认为那让他们保持干劲。

43:35然后我们下了苦功,

43:38在我们认为最终能加速我们的

43:43基础设施和架构上投入了大量资源。

43:46所以,因为我们早期能够引进的人,

43:50因为我们拥有优秀的投资者,

43:53我们不必把所有时间都花在做演示、

43:56从一个演示跳到下一个演示上。

43:58我们被给予了自由去投资于

44:03做机器学习的基础设施,

44:05从我们的路测中提取数据的基础设施,

44:08利用这些数据来加速工程的基础设施。

44:11我认为那种早期投入,

44:14以及对那类工具的持续投入,

44:17最终将让我们能够加速,

44:19做出相当了不起的事情。

44:21克里斯,说得真好。

44:23这是个很好的收尾之处。

44:24非常感谢你今天的交谈。

44:26非常感谢。我真的很享受这次交谈。

— 读到这里,多懂一点。 —