← Lex Fridman

Steven Pinker: 史蒂芬·平克:理性时代的人工智能

Steven Pinker: AI in the Age of Reason

第2018-10-17期2018-10-17简体中文

嘉宾:Steven Pinker

收听本集00:00 / 38:23
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

全文文稿 · 按对话顺序保留完整内容,深入理解上下文。

本篇目录2 章节§01原文文稿 · 00:00–19:45§02原文文稿 · 19:45–37:33

§01原文文稿 · 00:00–19:45

00:00你研究过人类心智、认知、语言、视觉、进化、心理学,

00:05从儿童到成人,从个体层面一直到我们整个文明的层面。

00:11所以我觉得可以先从一道简单的选择题开始。

00:16生命的意义是什么?是 A. 如柏拉图所说,获得知识,

00:22B. 如尼采所说,获得权力,C. 如欧内斯特·贝克尔所说,逃避死亡,

00:27D. 如达尔文等人所说,传播我们的基因,

00:33E. 如虚无主义者所说,根本没有意义,

00:37F. 如史蒂芬·平克所说,知道生命的意义超出了我们的认知能力,

00:42这是我对你 20 年前观点的理解,还是 G. 以上都不是?

00:48我会说 A 最接近,但我会把它修改为

00:51不仅获得知识,而且更广泛地获得充实,也就是生命、健康、刺激,

01:00以及接触鲜活的文化与社会世界。

01:06这是我们的生命意义。如果你去问我们的基因,那就不是生命的意义了。

01:12它们的意义是复制自身,但这有别于

01:17它们所造就的大脑为自己设定的意义。

01:22那么对你来说,知识是一个小的子集还是一个大的子集?

01:27是一个大的子集,但它不是人类追求的全部,因为我们也想

01:35与人交往。我们想体验美。我们想体验自然世界的丰富,

01:39但理解宇宙如何运转的排位非常靠前。

01:47对某些人来说比对另一些人更重要,对我来说肯定是前五位之一。

01:54那么这是一个根本方面吗?你只是在描述你自己的偏好,还是说

02:00寻求知识是人性的一个根本方面?在你最新的书里你谈到了

02:05理性和推理的力量、用处等等。这是人类的根本

02:11本性,还是我们只是应当努力追求的东西?

02:17两者都是。我们之所以能够追求它,是因为它正是使我们成为我们的东西之一,

02:23也就是智人,“有智慧的人”。在获取知识并用它求生的程度上,我们在动物中是不寻常的。

02:32我们制造工具。我们通过语言达成协议。我们提取

02:41毒素。我们预测动物的行为。我们试图弄清植物的运作方式。

02:47当我说“我们”时,我不只是指现代西方的我们,而是指世界各地作为一个物种的我们,

02:52这就是我们如何占据了地球上的每一个生态位,如何把其他

02:58动物逼向灭绝。而为了追求人类的福祉、健康、

03:06幸福、社会的丰富和文化的丰富而精炼理性,是我们当下的主要挑战。也就是

03:14运用我们的智力、我们的知识,去弄清世界如何运作、我们自己如何运作,

03:19以便做出发现、达成协议,从长远来看让我们所有人都过得更好。

03:25对。你在最近的书里几乎无可辩驳地、以数据驱动的方式做到了这一点,

03:31但我想聚焦在人工智能方面,而且不只是

03:36人工智能,也包括自然智能。20 年前,你在一本关于

03:41心智如何运作的书里推测,我这样理解对吗?如果我错了你可以纠正我,

03:49你推测大脑中的人类思维可能是

03:54一个由高度互联的神经元组成的庞大网络的结果。也就是思维从这种互联性中涌现。

04:01与我们今天用于机器学习的人工神经网络相比,

04:06生物神经网络是否有某种从根本上更复杂、更神秘、甚至神奇的东西,

04:12有别于我们在过去 60 年里开始使用、

04:19并在过去 10 年取得成功的那些?人类神经网络确实有一点神秘之处,

04:24那就是我们每一个作为神经网络的人都知道

04:31我们自己是有意识的。这里的意识不是指感知周围环境,甚至也不是指

04:36感知我们的内部状态,而是指拥有主观的、第一人称的、现在时的体验。

04:42也就是说,当我看到红色时,它不只是与绿色不同,而是有一种我能

04:49感受到的“红”。人工系统是否会体验到这一点,我不知道,而且我认为我也

04:54无法知道。这就是它神秘的原因。如果我们有一个与人在行为上

05:00无法区分的、完全逼真的机器人,我们会认为它有意识吗?或者说我们应当认为它

05:06有意识吗?这是很难知道的事情。但把这一点放在一边,

05:12把这个主要是哲学性的问题放在一边,问题是,人类神经网络

05:19与我们在人工智能中构建的神经网络之间,是否存在某种差异,意味着

05:23按照目前的轨迹,我们不会达到一个与人无法区分的逼真机器人,

05:30因为它们所谓的神经网络的组织方式

05:35与我们的组织方式不同。我认为有重叠,但我认为也存在

05:39一些很大的差异:当前的神经网络,当前所谓的深度学习系统,

05:48实际上并没有那么“深”。也就是说,它们非常擅长提取高阶统计

05:53规律,但大多数系统没有语义层面,没有真正理解的层面,

06:00不理解谁对谁做了什么、为什么、在哪里、事物如何运作、什么导致了什么。你认为

06:07那种东西能像它在人身上那样涌现吗?人工神经网络要小得多,

06:11连接数等等都远少于当前人类的生物网络,但你认为

06:18要达到意识,或者达到这种关于事物的更高层次语义推理,

06:22只靠一个更大、互联方式更丰富古怪的网络就能涌现出来吗?

06:29把意识分开来谈,因为意识甚至不只是复杂性的问题。

06:33一个非常古怪的问题。

06:34对,比如你可以合理地问虾是否有意识,

06:38它们并不特别复杂,但也许它们能感到疼痛。所以我们先把那部分放一边。

06:44但我认为,仅仅是神经网络的规模不足以赋予它结构和知识,

06:52但如果它被恰当地设计,那为什么不行呢?也就是说,我们就是神经网络,自然选择

06:59对我们的大脑做了一种相当于工程设计的事。所以我不认为有什么神秘的东西,

07:04意思是说,没有任何硅制系统能做到人脑能做的事。我认为

07:11这在原则上是可能的。它是否会发生,不仅取决于我们设计这些系统有多聪明,

07:17还取决于我们是否想这样做,这是否是个合理的目标。

07:22也就是说,你可以问,有没有哪种运动系统和人一样好?

07:29嗯,就腿足运动而言,我们最终其实想做得比人更好。

07:35没有理由把人作为我们的基准。工具可能在某些方面

07:39做得更好。也许我们无法复制某个自然系统,因为到了某个时候,使用自然系统

07:49要便宜得多,以至于我们不会再投入更多脑力和资源。

07:54比如,我们其实没有木材的精确替代品。我们仍然用木材

08:00盖房子。我们仍然用木材做家具。我们喜欢它的外观。我们喜欢它的手感。它有

08:05合成材料所没有的某些特性。并不是说木材有什么神奇或神秘之处。

08:11只是复制木材一切特性的额外步骤,我们根本没去费那个劲,

08:17因为我们有木材。棉花也是一样。我现在穿着棉质衣服。它感觉

08:21比涤纶好得多。并不是棉花有什么魔力。也不是我们永远无法

08:29合成出和棉花一模一样的东西,只是到了某个时候,这根本不值得。我们有

08:35棉花。同样,就人类智能而言,制造一个

08:42和人脑一模一样的人工系统这个目标,我们大概知道不会被追求

08:47到底,我猜是这样,因为如果你想要比人做得更好的工具,你就不会

08:53在乎它做事是不是像人。比如诊断癌症或预测

08:58天气,为什么要以人为基准?但总的来说,我猜你也相信,

09:05即使人不应该是基准,而且我们不想在系统中模仿人,

09:10通过研究人,仍然可以学到很多关于如何创造人工智能系统的东西。

09:15对,我认为是这样。就像为了制造飞行器,

09:22我们要理解空气动力学定律,包括鸟类的,但不是模仿鸟,

09:27只是遵循同样的定律。你对 AI,即人工智能,以及安全问题的看法,

09:35在我看来,理性得令人耳目一新,或者也许更重要的是,带有

09:47积极的成分,我认为这能鼓舞人、赋予人力量,而不是让人瘫痪。

09:53对于许多人,包括 AI 研究者来说,AI 最终的存在性威胁是显而易见的,

09:59不只是可能,而是显而易见。而对另外许多人,也包括 AI 研究者来说,这种威胁

10:05并不明显。埃隆·马斯克是出了名的高度担忧 AI 一派,他说过诸如

10:14AI 比核武器危险得多,AI 很可能会摧毁人类文明之类的话。

10:21人类文明。所以在二月份,他(平克)说,如果埃隆真的认真对待 AI,对待 AI 的威胁,

10:29他就会停止制造他作为特斯拉一部分正非常成功地做着的自动驾驶汽车。

10:35然后他(马斯克)说,哇,如果连平克都不理解窄 AI,

10:40比如汽车,与通用 AI 之间的区别,而后者实际上拥有一百万倍的算力

10:47和一个开放式的效用函数,那人类就大难临头了。那么首先,你说

10:54如果埃隆·马斯克深感担忧就应该停止制造自动驾驶汽车,这话是什么意思?

11:00这不是埃隆·马斯克最后一次发出一条欠考虑的推文。

11:04嗯,我们生活在一个推特有力量的世界里。

11:07是的。对,我认为人们在人工智能方面讨论过两种存在性威胁,

11:16而我认为它们都是不连贯的。

11:20其中一种是对 AI 接管的模糊恐惧:就像我们征服了动物和技术上不那么

11:29先进的民族一样,如果我们造出比我们更先进的东西,它不可避免地会把我们变成

11:34宠物、奴隶或相当于家畜的东西。我认为这把智能

11:42与权力意志混为一谈了:恰好在我们最熟悉的智能系统,

11:49也就是智人身上,我们是自然选择的产物,而自然选择是一个竞争性的过程,

11:54所以与我们解决问题的能力捆绑在一起的,还有一些恶劣的特质,比如

12:00支配、剥削,以及对权力、荣耀、资源和影响力的最大化。

12:08没有理由认为纯粹的解决问题能力会把这当作它的

12:13目标之一。它的目标将是我们为它设定的任何目标,只要没有人在制造一个

12:18狂妄自大的人工智能,就没有理由认为它会自然地

12:24朝那个方向演化。你可能会说,那如果我们给它的目标是最大化

12:28它自己的能源呢?给一个自主系统设定这样的目标是相当愚蠢的。你不会给它

12:34那样的目标。我是说,那显然是白痴行为。所以如果你看看世界

12:40历史,有很多机会工程师本可以给一个系统

12:45灌输破坏力,但他们选择不这样做,因为那是工程的自然过程。

12:49嗯,武器除外。我是说,如果你在造武器,它的目标就是消灭人,

12:53所以我认为有充分的理由不去制造某些种类的武器。我认为制造

12:58核武器是一个巨大的错误。你这么认为。那也许在这一点上停一下,因为那是

13:06严重的威胁之一。你认为它是错误,是指它本应在早期就被

13:12阻止吗?还是你认为它被发明出来只是一个不幸的发明事件?

13:19我想问题是,你认为有可能阻止吗?很难让时光

13:23倒流,因为它当然是在第二次世界大战以及担心

13:28纳粹可能先造出来的背景下发明的。一旦因为这个原因启动,就很难

13:35停下来,尤其是因为战胜日本人和纳粹,是每一个负责任的人

13:42压倒一切的目标,以至于当时人们为了确保胜利

13:47没有什么事是不愿意做的。如果没有第二次世界大战,核武器很可能

13:52不会被发明出来。我们无法知道,但我认为这绝不是必然的,

13:57就像其他一些被设想过但从未实施的武器系统一样,

14:02比如像农药喷洒机那样在城市上空播撒毒气的飞机,或者试图

14:10在敌国制造地震和海啸的系统,把天气武器化,

14:16把太阳耀斑武器化,各种各样我们后来三思而放弃的疯狂计划。

14:21我认为把核武器与人工智能相类比从根本上是

14:25误导性的,因为核武器的全部意义就是摧毁东西。

14:30人工智能的意义不是摧毁东西。所以这个类比是误导性的。

14:36所以你提到了两种人工智能。我想第一种是高度

14:39智能或渴求权力的。

14:42对,那是一个我们自己设计、由我们给它设定目标的系统。目标外在于

14:46实现目标的手段。如果我们不把一个人工智能系统设计成

14:55最大化支配,它就不会去最大化支配。只是我们太熟悉

15:00智人,在他们身上这两种特质捆绑在一起,尤其是在男性身上,

15:06以至于我们容易把高智能与权力意志混为一谈,但那只是一个错误。

15:15另一种恐惧是附带损害:我们会给人工智能一个目标,

15:21比如制造回形针,而它会如此出色地追求这个目标,以至于在我们能阻止它之前,

15:27它就把我们变成了回形针。我们给它治愈癌症的目标,它会把我们变成

15:32致命实验的小白鼠;或者给它世界和平的目标,而它对世界和平的

15:38理解是没有人,因此就没有争斗,于是它会杀光我们所有人。我认为这些完全是

15:43异想天开。事实上,我认为它们其实是自相矛盾的。它们首先假设我们

15:49会聪明到能设计出一个能治愈癌症的人工智能,

15:53却又蠢到不能足够详细地说明我们所说的治愈癌症是什么意思,以免它

15:59在过程中杀死我们;它还假设这个系统聪明到能治愈癌症,

16:06却又白痴到不能明白我们所说的治愈癌症并不是杀死所有人。

16:12我认为附带损害的情景,也就是价值对齐问题,同样基于

16:18一个误解。所以挑战之一当然是,我们目前不知道如何构建这两种系统中的任何一种,

16:23甚至还远远谈不上接近知道?当然,这些事情可能一夜之间改变,

16:27但就目前而言,朝任何一个方向去理论化都很困难。所以

16:33问题的核心可能在于,如果没有能力对眼前真实的工程问题进行推理,

16:39你的想象力就会脱缰。正是如此。但让我问一下,

16:45你认为埃隆·马斯克的动机、思路是什么?我造自动驾驶汽车,

16:52我研究自动驾驶汽车,我研究特斯拉 Autopilot。我认为它是目前世界上

16:57规模最大的人工智能应用之一。它有可能对社会产生

17:04非常积极的影响。那么一个正在创造这种非常好的、所谓

17:10窄 AI 系统的人,怎么又似乎如此担心另一种通用 AI?你认为

17:19那里的动机是什么?你认为是怎么回事?嗯,你大概得去问他,

17:23但是,他出了名地浮夸、冲动,就像我们刚刚看到的,

17:31以至于损害了他自己关于公司健康的目标。所以我不知道他

17:37在想什么。你大概得去问他,但我不认为,我不认为

17:42专用 AI 与所谓通用 AI 之间的区别是相关的,就像专用

17:50AI 不会为了实现目标而做任何可以想到的事一样。所有工程系统

17:57都被设计成在多个目标之间进行权衡。当我们最初造汽车时,

18:02我们没有因为汽车的目标是跑得快就忘了装刹车。人们想到了:

18:08是的,你想让它跑得快,但不是一直都快。所以你也会装上刹车。同样,

18:13如果一辆车是自动驾驶的,你编程让它走去机场的最短路线,

18:20它不会走对角线,撞倒人、树和围栏,因为那是

18:24最短路线。我们编程时所说的最短路线不是那个意思。而这

18:29正是智能系统的定义。它会考虑多重约束。

18:36事实上,对于所谓的通用智能,这一点同样成立,甚至更加成立。也就是说,

18:41如果它真正是智能的,它就不会一根筋地追求某个目标,而忽略所有

18:48其他考量和附带影响。那不是人工的通用智能。那是

18:54人工愚蠢。顺便说一句,我同意你关于自动驾驶汽车有望

19:01改善人类福祉的看法。我认为这是了不起的。而我惊讶的是,很少有媒体报道

19:06指出,仅在美国,每年就有大约 4 万人死在公路上,

19:11远远多于被恐怖分子杀害的人数。我们花了一万亿美元打一场战争来对抗

19:18恐怖主义造成的死亡,每年大约六人。而年复一年,有 4 万人

19:24在公路上惨死,这个数字可以降到非常接近零。所以在

19:29人道主义收益上我和你一致。让我说一句,作为一个正在造这些车的人,

19:34说工程师会无知到不把安全设计进系统里,这让我感到有点被冒犯。

19:39我常常晚上睡不着,想着那 4 万个正在死去的人。

§02原文文稿 · 19:45–37:33

19:45我努力设计的一切,都是为了挽救那些人的生命。所以每一项

19:50让我非常兴奋的新发明,在所有深度学习文献和 CVPR、NIPS 会议上,所有

19:59让我非常兴奋的东西,都立足于让它安全、帮助人。所以我就是看不出

20:08这条轨迹怎么会突然滑入智能变得极其负面的境地。

20:13在这一点上你我当然一致。而且我认为那只是人工智能

20:17潜在人道主义收益的开始。人们非常关注

20:24我们该如何对待那些工作被人工智能淘汰的人,

20:28却很少关注这样一个事实:将被淘汰的工作是

20:32糟糕的工作。人们将不再需要摘庄稼、铺床、开卡车、

20:38挖煤,这些都是扼杀灵魂的工作。我们有一大批文献同情

20:45被困在这些卑微、使人麻木、危险的工作中的人。如果我们能消除

20:53它们,这对人类是巨大的福音。诚然,你解决了一个问题,又会有另一个问题,

20:58那就是,我们如何让这些人获得体面的收入?但如果我们聪明到能发明

21:05会铺床、收拾碗碟、照料住院病人的机器,我认为我们也聪明到能

21:12想出如何重新分配收入,把巨大的经济节省分一部分给

21:19那些不再需要去铺床的人。好。山姆·哈里斯(Sam Harris)说,

21:26AI 最终会成为存在性风险是显而易见的。他是说这显而易见的人之一。

21:31这种说法是,我们不知道什么时候,但最终这是显而易见的。而因为我们不知道什么时候,

21:38我们现在就应该为此担忧。在我看来这是一个非常有意思的论证。那么我们

21:45该如何思考时间尺度?当我们并不真正了解,我们对这个威胁

21:51知之甚少,不像核武器那样,对于这个特定的威胁,它

21:58可能明天就发生,对吧?但很可能不会。很可能要一百年以后。

22:04那么我们怎么忽视它?我们怎么谈论它?我们要担心它吗?我们该如何思考这些?

22:12“它”是什么?

22:13一个我们能想象的威胁。它在我们想象力的范围之内,

22:18却不在我们能够准确预测它的理解范围之内。

22:24但我们害怕的那个“它”是什么?

22:26抱歉。AI 成为存在性威胁。

22:30AI。怎么个威胁法?比如奴役我们,还是把我们变成回形针?

22:35我认为从山姆·哈里斯的角度看,最有说服力的会是回形针的情形。

22:39对。我是说,我就是觉得那完全是异想天开。我是说,那就别造这样的系统。

22:43别给,别,首先,工程的准则是,你不会在测试之前就部署一个

22:50拥有巨大控制权的系统。当然,也许工程文化会彻底改变。

22:55那样的话我会担心,但我看不到任何迹象表明工程师会突然做出白痴的事,

23:00比如让一个没有事先测试过的系统去控制一座发电厂。

23:07而且所有这些情景,不仅想象了一种近乎魔法般强大的智能,

23:15包括像治愈癌症这样的事,这可能本身就是一个不连贯的目标,因为癌症有

23:20那么多不同的种类,或者带来世界和平。我是说,你怎么可能把那个

23:25规定为一个目标?而且这些情景还想象了对宇宙中每一个分子

23:31都有某种程度的控制,这不仅本身不太可能,而且我们也不会在未经测试的情况下

23:39就把这些系统接入基础设施,就像我们对任何工程系统那样。

23:45当然,也许有些工程师会不负责任,我们需要实施法律、监管和法律

23:53责任,让工程师不去做按他们自己的标准都很愚蠢的事。

24:00但我从未见过一个足够可信的存在性威胁情景,值得投入大量

24:08脑力去预防它。所以你相信,正如你在最新那本关于理性与科学的书里所论证的,

24:14理性工程整体上的力量,

24:20正是那个引导新技术发展、使其安全、并保护我们安全的东西。

24:28你知道,当然,前提是保持如今比如飞机工程思维中

24:34已有的那种安全文化。所以是的,我不认为那应该被抛诸脑后,

24:40不应该突然部署未经测试的全能系统,但也没有理由

24:45认为它们会被这样部署。事实上,如果你看看人工智能的进展,它一直,

24:50你知道,一直令人印象深刻,尤其是在过去十年左右,但认为会突然

24:54出现一个阶跃函数,在我们意识到之前它就突然变得全能,

25:00会有某种递归式的自我改进,某种“暴涨”(foom),这种想法同样是异想天开。

25:06我们,当然就目前令我们印象深刻的技术而言,比如深度学习,

25:13你用几十万或几百万个例子去训练某样东西,

25:18而像治愈癌症这样典型的问题,并没有几十万个可供训练。

25:26所以在过去五年里让 AI 得以提升的那类技术,并不是

25:31会通向这种指数级突然自我改进幻想的那类。我认为这

25:40有点像魔法思维。它并不基于我们对 AI 实际如何运作的理解。

25:45现在给我个机会。你说异想天开、魔法思维。在他的 TED 演讲里,

25:51山姆·哈里斯说,思考 AI 毁灭整个人类文明,在智识上不知怎么的

25:55很有趣。我得说,作为一名科学家和工程师,我并不觉得有趣,

26:00但当我和不搞 AI 的朋友喝啤酒时,这确实有某种有趣而吸引人的地方。

26:08就像在聊一集《黑镜》,设想一颗大陨石正朝地球

26:14飞来,我们刚被告知一颗大陨石正朝地球飞来,诸如此类。你能

26:20理解这种乐趣吗?你理解其中的心理吗?

26:24是的。好问题。我个人并不觉得有趣。我其实觉得这有点浪费时间,

26:32因为有一些真正的威胁是我们应该思考的,比如大流行病、网络

26:39安全漏洞、核战争的可能性,当然还有气候变化。

26:46你知道,这足够填满许多场对话了。而且我认为山姆确实

26:54指出了一点,那就是有一个群体,有时被称为理性主义

27:00社群,乐于用他们的脑力想出一些凡人、

27:07不那么爱动脑的人想不到的情景。所以在找到别人还没担心过的

27:14新东西来担心这件事上,有一种智识上的快感。不过我其实认为,

27:19这不仅是一种我并不特别享受的乐趣,而且我认为它可能有

27:25有害的一面,那就是你让人们充满恐惧和宿命感,觉得

27:32有那么多种死法、那么多种毁灭我们文明的方式,以至于我们不如趁还能的时候

27:39享受生活。我们对此无能为力。如果气候变化没有干掉我们,失控的

27:42机器人也会。所以现在就享受吧。我们必须分清轻重缓急。我们必须关注那些

27:52近乎确定的威胁,比如气候变化,并把它们与那些仅仅是

27:58可以想象、但概率微乎其微的威胁区分开。我们还必须考虑人们的“担忧

28:05预算”。你不可能什么都担心。如果你播撒恐惧、害怕、惊惧和宿命感,

28:12就可能导致一种麻木:嗯,这些问题太压倒性了,工程师们

28:17就要把我们都杀了。所以我们要么摧毁整个科学和技术的基础设施,

28:26要么就趁还能的时候享受生活。所以有一条担忧的界线,我在工程上担心

28:32很多事。有一条担忧的界线,一旦跨过,你是可以跨过的,

28:36它就会变成令人瘫痪的恐惧,而不是有成效的恐惧。这就是

28:44你所强调的。完全正确。而且我们已经看到,我们知道人类的努力

28:50与风险的匹配并不好,因为认知心理学的一个基本原则是,

28:58对风险的感知,进而对恐惧的感知,是由可想象性驱动的,而不是由数据驱动的。所以我们

29:05把大量资源错配到避免恐怖主义上,而恐怖主义平均每年杀死大约六个

29:11美国人,9·11 是唯一的例外。我们入侵别国,我们新设整个政府部门,

29:18耗费巨量的资源和生命,来防御一个

29:25微不足道的风险。而那些确定无疑的风险,比如你提到的交通死亡,甚至

29:34那些尚未出现、但足够可信值得担心的风险,比如大流行病、核战争,

29:45得到的关注却太少了。在总统辩论中,没有任何关于如何最小化

29:51核战争风险的讨论。比如说,关于恐怖主义的讨论倒是很多。所以我认为,

29:58把我们的恐惧、担忧、关切和规划的预算,与实际的伤害概率相匹配,

30:08是至关重要的。对。那么让我问这个问题。说到可想象性,你说思考

30:15理性很重要,而我最喜欢的人之一,喜欢通过对自己想象力的迷人探索

30:23涉足理性的边缘地带,他就是乔·罗根(Joe Rogan)。哦,是的。他过去曾

30:32相信很多阴谋论,又通过理性以那种方式剥离了很多信念。

30:37所以看着他通过理性抛弃大脚怪和 9·11

30:43之类的想法,其实很迷人。我不太确定。化学尾迹(chemtrails)。我不知道他相信什么。是的。

30:50好吧。但他已经不再相信了。不,没错。不,他已经成了一股真正的向善力量。

30:55对。所以你二月份上过乔·罗根的播客,进行了一场很精彩的对话,

31:00但就我记得,没怎么谈人工智能。我过几周会上他的

31:05播客。乔非常担心 AI 的存在性威胁。我不确定你是否,

31:11这就是为什么我希望你们谈到那个话题。在这一点上,

31:17他代表了相当多从一万英尺高空看待 AI 话题的人。

31:22所以作为一次沟通练习,你说对这些事情保持理性、进行推理很重要。

31:29让我问一下,如果你来指导我这个 AI 研究者,如何与

31:34乔和公众谈论 AI,你会给什么建议?嗯,简短的回答是去

31:40读我在《当下的启蒙》(Enlightenment Now)里写的关于 AI 的章节,而更长的理由是,我

31:45认为要强调,而且我认为你作为工程师处在很好的位置去提醒人们

31:50工程文化,它真的是以安全为导向的。《当下的启蒙》中的另一处讨论是,

31:57我绘制了各种原因导致的意外死亡率,空难、车祸、

32:04工伤事故,甚至雷击致死。它们全都直线下降,因为

32:12工程文化关心的是如何挤出致命风险,火灾致死、

32:18溺水致死、窒息致死,全都因为工程的进步而大幅下降,

32:24我得说,在看到那些图表之前我并没有认识到这一点。这正是因为

32:29像你这样晚上睡不着、想着“天哪,我正在发明的东西会不会

32:37伤害人”、并运用聪明才智防止这种事发生的人。我不是工程师,

32:43虽然我在 MIT 待了 22 年,所以我对工程文化有所了解。

32:48据我理解,如果你是工程师,你就是这样思考的。而至关重要的是,

32:53这种文化不能在涉及人工智能时突然被关掉。所以,

32:59我是说,那可能会是个问题,但有什么理由认为它会被关掉吗?

33:02我认为没有。而一个问题是,没有足够多的工程师站出来

33:06这样发声,为这种兴奋、为对人性的积极看法发声,你们试图创造的

33:13是积极的东西。我们试图发明的一切都是为了给世界带来好处。

33:18但让我问问你关于消极的心理。客观地看,

33:23不考虑话题本身,似乎对未来持消极态度会让你听起来更聪明,

33:28而不是对未来持积极态度,无论什么话题。我这个观察对吗?如果

33:34是这样,你认为为什么会这样?是的,我认为确实存在这种现象,

33:40正如讽刺作家汤姆·莱勒(Tom Lehrer)所说,永远预测最坏的情况,你就会被奉为先知。

33:45这可能是我们整体负面偏向的一部分。作为一个物种,我们对负面的东西

33:52比对正面的更敏感。我们害怕损失甚于享受收获。这可能为

34:02先知们留出了空间,去提醒我们那些可能被忽视的伤害、风险和损失。

34:07所以我认为存在这种不对称。你写了一些我最喜欢的书,

34:16涉及各个领域。从《当下的启蒙》到《人性中的善良天使》,

34:21《白板》、《心智探奇》,还有那本关于语言的《语言本能》。比尔·盖茨

34:29也是忠实读者,他评价你最近的书说,这是我有史以来最喜欢的新书。

34:37那么对你这个作者来说,你人生早期有哪本书深刻影响了

34:43你看待世界的方式?当然,《当下的启蒙》这本书受到了大卫·

34:49多伊奇(David Deutsch)《无穷的开始》的影响,那是一部对知识以及知识

34:55改善人类处境之力量的相当深刻的反思。书中有一些智慧,比如问题是

35:02不可避免的,但只要有正确的知识,问题是可以解决的,而解决方案又会制造

35:07新的问题,需要依次再去解决。我认为这是一种关于人类

35:11处境的智慧,影响了这本书的写作。有些书非常出色

35:16但鲜为人知,我在网站的一个页面上列了其中一些。我读过一本叫《武力的历史》(The History of Force)的书,

35:22由政治学家詹姆斯·佩恩(James Payne)自费出版,讲的是暴力在历史上的减少,

35:27那是《人性中的善良天使》的灵感来源之一。

35:33那更早的时候呢?如果你回顾自己大概十几岁的时候?

35:38我很喜欢一本叫《从一到无穷大》的书。我年轻时读了

35:43物理学家乔治·伽莫夫(George Gamow)的这本书,书中以非常通俗、幽默的方式解释了

35:48相对论、数论、维度和高维空间,我认为

35:59在出版 70 年后仍然令人愉快。我喜欢时代生活出版社的科学丛书。

36:06这些书每个月寄来一本,是我母亲订阅的,每本讲一个不同的

36:11主题。一本讲电,一本讲森林,一本讲进化,还有一本

36:17讲心智。我很好奇居然可以有一门关于心智的科学,我也会把那本书

36:24列为影响我的书之一。后来……那就是你爱上

36:28研究心智这个想法的时候吗?是它吸引了你吗?我会说那是原因之一。我在大学时

36:35读了诺姆·乔姆斯基的《关于语言的反思》(Reflections on Language)。他职业生涯的大部分时间

36:41都在 MIT 这里。理查德·道金斯的两本书,《盲眼钟表匠》和《自私的基因》,

36:47影响极大,主要是因为内容,但也因为写作风格,

36:55能用生动的文字解释抽象的概念。斯蒂芬·杰·古尔德(Stephen Jay Gould)的第一本文集,

37:02《自达尔文以来》,也是生动写作的绝佳范例。乔治·米勒(George Miller),一位

37:10大多数心理学家都熟悉的心理学家,提出了人类记忆容量为

37:16七加减二个组块的观点。这大概是他最出名的成就。但他还写了几本

37:20关于语言和交流的书,我在本科时读过。同样写得很美,

37:25而且在思想上很有深度。太好了。史蒂芬,非常感谢你今天抽出时间。

37:31我的荣幸。非常感谢,莱克斯。

— 读到这里,多懂一点。 —