← Lex Fridman

Jack Dorsey: 杰克·多尔西:Square、加密货币与人工智能

#91 – Jack Dorsey: Square, Cryptocurrency, and Artificial Intelligence

第91期2020-04-24简体中文

嘉宾:Jack Dorsey

收听本集00:00 / 51:42
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

§01原文文稿 · 00:00–09:04

00:00以下是与杰克·多尔西(Jack Dorsey)的对话,

00:02他是推特的联合创始人兼 CEO,

00:05也是 Square 的创始人兼 CEO。

00:08鉴于当时与推特领导层相关的一些事态,

00:12以及我们可用的时间非常有限,

00:13我们决定把这次对话聚焦在 Square

00:16和一些更广泛的哲学话题上,

00:18而把深入对话

00:20留给推特的工程与 AI 部分

00:23留给他在本播客的第二次出场。

00:25这次对话录制于

00:27疫情爆发之前。

00:29对于每一位正在承受这场危机带来的医疗、心理

00:31和经济负担的人,

00:33我向你们送上爱。

00:35请坚强。

00:36我们同舟共济。

00:37我们会战胜它。

00:39顺便提一句,

00:41杰克把价值 10 亿美元的 Square 股权

00:45划出,占他财富的 28%,

00:47用来成立一个资助新冠救援的组织。

00:51首先,正如杨安泽(Andrew Yang)在推特上说的,

00:53这是一个了不起的承诺。

00:56其次,令人惊叹的是它的运作是透明的,

00:59把所有捐款都发布在一份 Google 文档里。

01:03对我来说,真正的透明是简单的。

01:06而这已经简单到不能再简单了。

01:09这里是人工智能播客。

01:11如果你喜欢,请在 YouTube 订阅,

01:13在 Apple Podcast 上给五星好评,

01:15在 Patreon 上支持,

01:17或者在 Twitter 上联系我,

01:18账号 Lex Friedman,拼写为 F R I D M A N。

01:22和往常一样,我现在会做几分钟的广告,

01:24中间绝不插入

01:26会打断对话流畅性的广告。

01:28希望这对你来说可行,

01:29不会影响收听体验。

01:32本节目由 Masterclass 赞助。

01:34在 masterclass.com/Lex 注册,

01:37可获得折扣并支持本播客。

01:40我第一次听说 Masterclass 时,

01:42觉得好得不像真的。

01:44每年 180 美元,

01:46你就能获得全站通行证,观看这些人的课程:

01:49列举一些我最喜欢的:

01:51克里斯·哈德菲尔德讲太空探索,

01:53尼尔·德格拉斯·泰森讲科学思维

01:55与传播,

01:57《模拟城市》和《模拟人生》的创作者威尔·赖特,

02:00这两款都是我最喜欢的游戏,讲游戏设计,

02:03珍·古道尔讲自然保护,

02:05卡洛斯·桑塔纳讲吉他,

02:07他是我最喜欢的吉他手之一,

02:08加里·卡斯帕罗夫讲国际象棋,

02:10丹尼尔·内格里努(Daniel Negreanu)讲扑克,还有很多很多。

02:13光是克里斯·哈德菲尔德讲解火箭如何工作

02:17以及被发射进太空的体验,

02:19就值回票价了。

02:20对我来说,关键是不要被

02:22过多的选择淹没。

02:24挑三门你想完成的课程,

02:26每一门都从头看到尾。

02:28并没有那么长,

02:29但这是一种会留在你心里的体验,

02:31而且会留很长时间。

02:32它绝对物有所值。

02:34你基本上可以在任何设备上观看。

02:37再说一次,在 masterclass.com/Lex 注册,

02:41获取折扣并支持本播客。

02:44现在,请听我与杰克·多尔西的对话。

02:48你上过好几档播客,

02:50乔·罗根、山姆·哈里斯、里奇·罗尔(Rich Roll)等等,

02:53都是很精彩的对话,

02:55但我认为有几个话题

02:57你没有谈到,而我觉得很迷人,

03:00我很想和你聊聊,

03:01比如机器学习、人工智能,

03:04窄的和通用的都有,

03:06还有规模化的工程。

03:08所以有大量了不起的工程在推进,

03:11而你是其中的一员,

03:12还有加密货币、区块链、全民基本收入,

03:16也许我们还会谈到各种哲学问题,

03:18关于生与死、意义和美。

03:21你参与构建了一些

03:25世界上最大的网络系统,

03:27每天有数万亿次的交互。

03:30其中很酷的一点是基础设施,

03:33规模化的工程。

03:35你最初是个程序员,用 C 语言开发。

03:38——对,所以。

03:39我是个黑客(hacker),不算真正的工程师。

03:41不是正儿八经的软件工程师,

03:43你骨子里是个黑客。

03:44但要实现规模化,你不得不做一些,

03:47很遗憾,正儿八经的大规模工程。

03:49那么你是怎么让这个魔法发生的?

03:52——首先是雇我能向他们学习的人。

03:57我是说,我是黑客,意思是,

04:00我的方法一直是不惜一切代价

04:02让它跑起来。

04:04这样我就能看到并感受到这个东西,

04:07然后了解接下来需要什么。

04:09而往往接下来需要的

04:13是能把它带给更多的人,

04:16也就是规模。

04:17外面有很多很棒的人,

04:21他们要么有经验,要么学得极快,

04:27我们很幸运地找到了他们,

04:30并共事多年。

04:33但我认为很大一部分是,

04:35我们从开源社区受益良多,

04:39受益于那里所有的经验教训,

04:41它们都公开摆在那里。

04:44所有的错误、所有的成功、

04:46所有的问题。

04:48开源通常是一个非常缓慢的过程,

04:53但非常审慎。

04:54而且因为节奏的缘故,你能看到

04:58要真正构建出有意义的东西

05:00需要什么。

05:02所以我学到的关于黑客技术、

05:06编程和工程的绝大部分,都归功于开源,

05:11归功于人们的慷慨:

05:19他们付出时间,牺牲时间,

05:21不期待任何回报,

05:24只是想成为某种

05:27远大于自己的事物的一部分,我觉得这很棒。

05:29开源运动太了不起了。

05:31但如果你只看规模,

05:33比如 Square 要应付的规模,

05:35这从根本上是软件问题

05:38还是硬件问题?

05:39你提到雇了一批人,

05:41但在我看来,很少被谈到的是,

05:45这有多么不可思议:

05:48有一个不常宕机、

05:52安全、能处理

05:54所有这些交易的系统。

05:55也许我骨子里也是个黑客,

05:58对我来说,能实现那种规模

06:01真是不可思议。

06:02有没有什么洞见、什么经验教训、

06:06什么有趣的点滴,你可以说说

06:10如何让那种规模成为现实?

06:12根本上是硬件的挑战吗?

06:14是软件的挑战吗?

06:19还是建立大型工程师团队

06:23并让他们协作的社会性挑战,诸如此类?

06:25那里有意思的挑战是什么?

06:28顺便说,你是我见过穿得最好的黑客。

06:31——我想……谢谢。

06:34——你刚才列举的那些,

06:36我认为没有哪一个单独成立。

06:37你得同时关注所有这些,

06:39而能同时关注所有这些,

06:43真正取决于你如何面对问题,

06:47以及你能否把它们分解成

06:51可以聚焦的部分。

06:53因为我认为最大的错误是试图一次解决

06:58或应对太多问题,

07:02或者对问题挖得不够深,

07:05或者对你找到的答案不够批判,

07:08或者没花时间形成可信的假设,

07:15也就是你可以真正检验并看到结果的假设。

07:19所以所有这些,归根结底都落在

07:25批判性思维能力和解决问题的能力上。

07:27如果有一项技能是我想每天提高的,

07:30那就是它,因为它促成学习,

07:34而我们能让这些东西进化的唯一方式,

07:38就是弄清楚它目前在做什么,

07:41以及如何把它推进到下一步。

07:44——还有质疑假设,

07:45第一性原理式的思考,

07:47似乎是整个过程的根本。

07:50——对,但如果你过度陷入,

07:53比如“这是个硬件问题”,

07:54你就会错过所有软件解决方案。

07:56反过来,如果你太专注于软件,

08:01有些硬件方案可以把事情提升十倍。

08:06所以我尽量抵制这种分类式思维,

08:13去寻找让所有这些东西运转的

08:16底层系统。

08:18但这些只有当你具备

08:22创造性思维、解决问题的能力,

08:27能提出批判性问题,

08:33并有耐心深入时才会浮现。

08:36——所以令人惊叹的事情之一是,

08:38如果我们看 Square 的使命,

08:40是增加人们进入经济体系的机会。

08:45如果我说错了,也许你可以纠正我,

08:46这是我的理解。

08:47从商户的角度,

08:49点对点支付,甚至加密货币,

08:52数字加密货币,你认为主要有哪些方式

08:56能让我们的社会提高对经济的参与度?

08:59如果我们看今天和未来十年、

09:01未来二十年,比如去非洲,也许在非洲

§02原文文稿 · 09:04–19:05

09:04以及北美以外的各种其他地方。

09:09如果有一个词我认为能代表

09:13我们在 Square 努力做的事,那就是“准入”(access)这个词。

09:19我们发现的一件事是,

09:21我们完全没有预料到。

09:23开始时,我们以为我们只是在造

09:25一个硬件,让人们

09:29插到手机上刷信用卡。

09:32然后,当我们与那些

09:34过去真正尝试过受理信用卡的人交谈时,

09:37我们发现了一个一致的主题:他们中许多人

09:40甚至没有被授权,不是没有能力,

09:44而是不被允许处理信用卡。

09:46我们再挖深一点,再次问这个问题。

09:50我们发现很多人会去银行

09:54或这些收单机构。

09:57等着他们的是信用审查,

10:01查看 FICO 分数(原文转写为 FICA)。

10:03而我们交谈过的许多企业,

10:07许多小企业,

10:09没有良好的信用或信用记录。

10:15他们是刚起步的创业者,

10:17承担着很大的个人风险和财务风险。

10:21而在我们看来荒谬的是,

10:24仅仅为了能够接受别人付来的钱,

10:31你就得接受信用审查。

10:33随着我们深入挖掘,我们意识到,

10:36那并不是金融业的本意,

10:38而是他们手头仅有的工具,

10:42用来了解真实性、意图,

10:46以及预测未来行为。

10:49所以那是我们实际上最先关注的事。

10:50于是,你知道,我们造了硬件,

10:52但软件真正发挥作用是在风险建模方面。

10:57也就是从那时起,我们走上了

11:00最终通向 AI 的道路。

11:03我们从一个非常强的数据科学学科起步,

11:08因为我们知道我们的业务

11:10不一定是关于造硬件。

11:13它更多是关于让更多人

11:17进入这个体系。

11:18——所以那里的根本挑战是,

11:21要让更多人进入这个体系,

11:23你就得降低核查的门槛,

11:26核查此人会是个合法的商家。

11:30这是根本问题吗?

11:31——是的,还需要一种不同的心态。

11:33我认为金融业的很多人有一种

11:36不信任的心态,总是不断寻找

11:41机会去证明为什么人们不应该进入

11:46这个体系,而我们采取了信任的心态,

11:50然后核实,核实,核实,再核实。

11:52——对。

11:53所以,你知道,当我们进入这个领域时,

12:00申请受理信用卡的人

12:03只有大约 30% 到 40% 能真正通过这个体系。

12:05我们利用这些认识,把它提升到了新的水平。

12:08如果我们申请受理信用卡,

12:11我们确实能通过这个体系。

12:13我们把那个数字提高到了 99%。

12:15这是因为我们重新界定了问题,

12:19我们建立了可信的模型,并且抱有这样的心态:

12:25我们不在商户层面去观察,

12:28而是在交易层面去观察。

12:30所以你进来,做一些交易,

12:35只要你做事

12:36诚信、可信、看起来不可疑,

12:40我们就会继续为你服务。

12:43如果我们看到你使用我们系统的方式有什么异常,

12:47那会被上报给人去审核,

12:50弄清楚是否有什么不法之事在进行,

12:53那时我们可能会请你离开。

12:56所以心态的转变带来了技术:

13:01我们需要它让更多人通过,

13:06让更多人能进入这个体系。

13:08机器学习在其中扮演什么角色,

13:11在这个语境下,你说,

13:15首先,这是一个美妙的转变。

13:17任何时候你把视角转变为

13:20认为人从根本上是善的,

13:24然后你只需要核实

13:25并抓出那些不是的人,

13:27而不是假设每个人都是坏的,

13:30这都是美好的事。

13:31那么,对你来说,

13:35在公司的整个历史中,

13:37机器学习在做这种核实中扮演了什么角色?

13:40——是立刻就有的。

13:41我是说,我们当时没有叫它机器学习,

13:43而是叫数据科学。

13:45然后随着行业的演进,

13:47机器学习成了更常用的称呼,

13:50再往后演进,它随着深度学习变得更复杂,

13:54而随着它继续演进,

13:58它又会变成别的什么。

13:59但它们都是一脉相承的。

14:02但我们在公司成立的第一年内

14:04就建立起了这门学科,

14:06因为我们还必须与一家银行合作,

14:11必须与 Visa 和万事达合作,

14:14我们必须证明,

14:16通过让更多人进入体系,

14:19我们能以负责任的方式做到,

14:21不会危及他们的系统,

14:23而且他们会信任我们。

14:25你如何说服他们,让这家

14:27只有一些酷炫机器学习技巧的新兴公司

14:30能够交付这样一批值得信赖的商户?

14:35——我们分阶段推进。

14:37我们先让 500 人使用,

14:41然后我们展示结果,

14:43然后是 1000,然后是 1 万,再是 5 万,

14:45然后限制就解除了。

14:49所以同样,就是把一些切实的东西拿出来。

14:54我想展示我们能做什么,而不是空谈。

14:58这给我们施加了很大压力,

15:00要求我们做正确的事。

15:02它也创造了一种问责的文化,

15:07多一点透明度,

15:10我想它以正确的方式激励了我们所有早期的人

15:15和公司。

15:18那么未来在增加人们进入经济的机会方面

15:19会是什么样子?

15:21或者看物联网(IoT),

15:25越来越多的智能设备。

15:27你可以看到甚至有人在谈论

15:29把我们的个人数据当作一种

15:32可以更显性而非隐性地变现的东西。

15:35差不多一切都可以成为经济的一部分。

15:38你怎么看,那么 Square 的未来会是什么样,

15:41以各种方式让人们参与经济,

15:45无论是作为商户还是作为消费者?

15:49我相信我们使用的货币

15:52是答案的重要部分。

15:55我相信互联网值得拥有

15:58也需要一种原生货币。

16:01这就是我为什么如此坚定地相信比特币,

16:07因为……

16:11我们作为一家公司目前最大的问题

16:13是我们无法像一家互联网公司那样行事。

16:16开拓一个新市场,

16:17我们必须与当地银行合作。

16:20我们必须关注

16:21不同的监管准入环境。

16:25而像比特币这样的数字货币

16:29把其中很多都去掉了,

16:31我们就有可能在全世界每个市场

16:35推出一款产品,

16:38因为它们用的都是同一种货币。

16:41而且我们对监管、

16:46准入及其含义有一致的理解。

16:49所以我认为,互联网持续对人们开放

16:54是第一位的。

16:57然后我认为货币是第二位的。

17:01它会允许更多的创新,

17:04让我们和其他人能构建的东西

17:07更快得多。

17:09这真的令人兴奋。

17:11所以,我是说,我想在有生之年

17:13看到并感受到这一点。

17:16——在这一方面以及其他方面,

17:19你对加密货币和一般的分布式账本技术

17:22都有深厚的兴趣。

17:24我昨天在这档播客上和维塔利克·布特林(Vitalik Buterin)谈过。

17:27顺便说,他向你问好。

17:29——嘿。

17:29他是个非常非常聪明的人。

17:33我们当然谈了很多比特币和以太坊。

17:36那你能否在这一点上多说几句?

17:38你觉得比特币、

17:42数字货币的吸引力在哪里?

17:43你认为它在未来 10、20 年会走向何方?

17:46与 Square 相关的挑战有哪些,

17:50以及更大范围的,对全球、对我们的世界、

17:55对我们思考金钱的方式而言的挑战?

17:59——我认为它最美妙的一点

18:01是没有哪一个人在设定方向。

18:05也没有哪一个人在另一端

18:07能够阻止它。

18:08所以我们拥有的东西本质上相当有机,

18:15而且最初的设计非常有原则。

18:19我认为比特币白皮书

18:22是计算机科学领域最具开创性的著作之一,

18:24而且是过去二三十年里的。

18:28它是诗。

18:30我是说,它真的是。

18:30——是啊,这是相当酷的技术。

18:32这一点常常没人谈。

18:33围绕数字货币有太多炒作,

18:36关于它的金融影响。

18:38但实际的技术从计算机科学的角度看

18:40相当美妙。

18:42——对,而且它背后的底层原则,

18:44它所蕴含的,甚至到了

18:46以化名发布的程度。

18:48我认为这是一个非常非常有力的表态。

18:51它发布的时机也很有力。

18:54那完全是一次行动主义式的举动。

18:58我是说,它在推动世界前进,

19:00方式我认为极其高尚和光荣,

§03原文文稿 · 19:05–29:02

19:05并让每个人都能成为这个故事的一部分,

19:08这也真的很酷。

19:10你问了一个关于 10 年和 20 年的问题。

19:13我是说,我认为令人惊叹的是没有人知道。

19:17而且它可以自行涌现。

19:19每个进入这个生态的人,

19:22无论是开发者还是使用者,

19:27都能以大大小小的方式改变它的方向。

19:31我认为它就应该是这样,

19:33因为互联网已经证明这是可能的。

19:36当然,这里有复杂之处。

19:38当然有些公司拥有互联网的大部分,

19:42能比别人更多地引导它。

19:44而且并不是世界上的每一个人

19:47都有平等的接入机会,至少现在还没有。

19:50但所有这些问题都足够显而易见,

19:53可以公开谈论。

19:54对我来说,这给了我信心,相信它们可以

19:57在相对较短的时间内得到解决。

20:00我认为世界应该能做到。

20:02我认为当这些卫星把互联网投射到地球上时,

20:08世界会发生很大变化,

20:11因为它消除了许多以前的限制,

20:15真正拉平了竞争环境。

20:18但一种全球货币——

20:20互联网的原生货币就是它的代理——

20:24是一个非常有力的概念。

20:27我不认为这个星球上有哪一个人

20:29真正理解它的影响。

20:31我认为它有很多积极的方面,

20:34也有一些消极的方面。

20:35但是……

20:36——你认为是否有可能,抱歉打断,

20:37你认为这种数字货币有没有可能

20:40重新定义货币的本质,

20:43成为世界的主要货币,

20:46而不是与各国的法定货币挂钩,

20:49并真正推动

20:51货币控制权的去中心化?

20:54——当然,但我认为更大的影响

20:58是它如何影响社会的运作。

21:02我认为在金钱之外,

21:06还有许多积极的影响。

21:07——在金钱之外。

21:08金钱是一个基础层,使得更多事情成为可能。

21:12我曾在埃塞俄比亚会见一位创业者,

21:14支付可能是要解决的第一大问题,

21:19在整个非洲大陆都是如此,

21:21无论是在大陆内各国之间

21:24跨境转移资金方面,

21:26还是当前体系内的腐败程度方面。

21:33但缺乏便捷的付款方式

21:39让创办任何事业都非常困难。

21:42我遇到一位创业者,她创办了埃塞俄比亚的 Lyft/Uber,

21:47她最大的问题之一

21:49是乘客不容易向公司付款,

21:54她也不容易向司机付款。

21:57这无疑阻碍了她的成长,

22:00让一切都更有挑战。

22:02所以她居然不得不去考虑支付,

22:07而不是去思考最好的乘客体验

22:10和最好的司机体验,这很说明问题。

22:15所以我认为,当我们拥有更持久、有韧性

22:20和全球通用的标准时,我们会在各地看到多得多的创新。

22:26我认为对此没有比非洲各国

22:29及其创业者更好的案例研究了,

22:32他们试图在健康、可持续发展或交通领域

22:35创办事业,

22:38或者我们在这里看到的很多公司。

22:42我在 11 月在非洲大陆待了一个月,

22:47遇到的大多数公司都是与支付相关的。

22:52——你提到,这稍微岔开一下,

22:54你提到比特币的匿名发布

22:58是一种深刻的哲学表态。

23:00——是化名发布。

23:02这到底是什么意思?

23:03有一个化名。

23:04首先,让我问一下。

23:05它背后绑着一个身份。

23:06它不只是匿名,而是中本聪(Nakamoto)。

23:10所以中本聪可能代表一个人,也可能代表多个人。

23:13但让我问,你是中本聪吗?

23:15只是确认一下,让你措手不及。

23:17——如果我是,我会告诉你吗?

23:18——是啊,也对。

23:19也许你会说漏嘴。

23:21化名是构建出来的身份。

23:25匿名只是某种随机的东西,

23:28比如放下东西就走。

23:32没有围绕它建立一个身份的意图。

23:34而被建立的这个身份虽然只存在于短暂的时间窗口,

23:39我想它本意是要留存下来、被人知晓的。

23:44社区也在以自己思考如何构建它的方式

23:50尊重这个身份,

23:50比如“聪”(Satoshi)这个概念,

23:55就是这样的一个例子。

23:56但我认为他不匿名发布是聪明的,

24:01也不用真实身份,

24:03而是用化名,

24:05因为我认为这建立了一种切实感。

24:07再加上一点同理心,知道背后是一个人,

24:13或者一群人。

24:14而且我能想象到那里有一种自然形成的身份。

24:19但这里也有对自我的牺牲。

24:22这件事相当有力量,

24:23从你的角度看是这样。是的,很美。

24:25那么,从哲学上说,

24:28我想问你一个问题:

24:29如果你的名字没有挂在上面,

24:32你还会做你现在做的所有这些事吗?

24:35换个说法,如果必须牺牲自我,

24:39你的自我是否深深牵涉

24:41你一直在做的那些决定?

24:44我希望没有。

24:45我相信我肯定会尝试,

24:49在不把我的名字

24:51附在上面的情况下做这些事。

24:53但在公司里,从法律上讲很难做到。

25:01问题就在这里。

25:02如果我多做一些开源的事情,

25:05那当然,我不需要特定的身份,

25:10不需要把我的真实身份和它关联起来。

25:12但我认为,做出一件好东西,

25:17并能亲眼看到它、

25:21看到人们使用它,所带来的认可感是非常强烈、非常有力量的,

25:26也许比在头条上看到自己的名字更强烈。

25:29我们来聊一聊人工智能,

25:33如果可以的话。

25:3470 年前,艾伦·图灵提出了图灵测试。

25:38在我看来,自然语言是人工智能所处理的问题中

25:41最有意思的领域之一,

25:44没有之一。

25:45它是关于“智能意味着什么”的

25:47经典问题。

25:48他把它表述为图灵测试。

25:50我先问一个宽泛的问题:

25:53你认为在语言领域通过图灵测试

25:56有多难?

25:58纯粹从实际角度来看,

26:00我认为我们现在所处的阶段,以及至少未来几年,

26:07是这样的:人工智能、

26:11机器学习、深度学习模型

26:13能非常非常快地把有趣的内容挑出来,

26:17再配上人类对严重程度、

26:22对深度、对细微差别与含义的判断。

26:27对我来说,通用智能要跨越的鸿沟,

26:33在于能够解释“为什么”,以及某件事

26:38背后的含义。

26:40某个决定背后的。

26:42某个决定或一组数据背后的。

26:45所以可解释性这一部分很关键,

26:48要能解释某件事背后的含义。

26:52用自然语言

26:54解释为什么做出这些决定,诸如此类。

26:56是的,我认为这是我们未来在人工智能方面

26:58最大的风险之一:

27:01我们正在构建大量黑箱,

27:03它们不一定能解释为什么做出某个决定,

27:06或者用了什么标准来做决定。

27:09而我们却越来越信任它们,

27:11从放贷决策到内容推荐,

27:14到驾驶,再到健康。

27:18比如我们很多人戴的手表会告诉我们

27:20该怎么做,我们得弄明白它是怎么判断的。

27:23当然这个例子还算简单。

27:25但你可以想象它们会变得多复杂。

27:28能够解释其中一些推荐背后的推理,

27:32似乎是必不可少的一环。

27:34尽管这很难。

27:35这是个非常难的问题,因为有时

27:37连我们自己也解释不了为什么做出某个决定。

27:40我想说的就是这个,我觉得我们有时

27:42对人工智能系统有点不公平,

27:45因为这些事我们自己也做得不太好。

27:48那么你觉得,先为这个荒唐而

27:52浪漫化的问题道个歉,顺着这个思路,

27:55你认为我们有朝一日能否造出一个系统,

28:00像电影《她》里那样,让你爱上它?

28:03也就是和它建立那种深层的联系。

28:06这不是已经发生了吗?

28:07日本不是有人爱上了他的 AI 吗?

28:13总会有人

28:14做这样的事。

28:15我的意思是在大得多的规模上,真正建立

28:19关系,建立更深的联系。

28:21不一定是爱,而是与人工智能系统之间

28:24更深的联系。

28:26你提到了可解释性。

28:27这与其说取决于人工智能本身,

28:29不如说更多取决于个人,

28:32取决于他们如何找到意义、在哪里找到意义。

28:34你认为我们人类能以这种方式

28:37在技术中找到意义吗?

28:38是的,是的,百分之百,百分之百。

28:40而且我不一定认为这是负面的。

28:43但它会不断演变。

28:50所以我也说不准,不过意义

28:54完全是主观的。

28:56我也不认为它取决于

28:59找到某种神奇的算法,

§04原文文稿 · 29:02–38:53

29:02让每个人都爱上它。

29:07但也许吧,我不知道。

29:09这个问题真正触及的是

29:10人与机器的区别。

29:12你和埃隆·马斯克有过一点交流。

29:17那基本上只是一个小儿科的版本,

29:20但我认为有一个更根本的问题:

29:22能否分辨出

29:24机器人账号和真人?

29:27如果我们展望未来,

29:31十年、二十年之后,你认为是否可能,

29:34甚至有没有必要,在数字空间里

29:36分辨人和机器人?

29:40我们能否与双方都建立起充实的关系,

29:42还是需要分清它们?

29:46我认为在某些问题领域,

29:49能分辨出来肯定有用。

29:52在另一些领域可能就没那么有用。

29:56你认为我们今天能否

29:58分辨出这种差别?

30:00反过来是不是图灵测试的“元”版本?

30:02有意思的是,我认为用来制造的技术

30:07总体上比用来检测的技术

30:10发展得快得多。

30:13你这么认为?

30:14如果你看对抗式机器学习,

30:17有很多系统试图

30:18去欺骗机器学习系统。

30:21至少对我来说,希望是防御的技术

30:23至少始终能紧跟在那里。

30:28你的感觉是……

30:30我不知道它们是否能紧跟。

30:31这是一场竞赛,对吧?

30:34所以检测技术必须领先

30:38制造技术两步甚至十步。

30:42我认为金融行业会越来越多地

30:44面对这个问题,因为我们的很多风险模型,

30:48比如,都是围绕身份建立的。

30:50支付归根结底取决于身份。

30:53你可以想象这样一个世界:围绕深度伪造的这些讨论

30:57走向驾照、护照

31:00或国家身份证件的方向。

31:06人们编造身份,

31:09以便通过像我们这样的系统,

31:11开始受理信用卡,或者进入 Cash App。

31:15而这些技术似乎进步得非常非常快。

31:19我认为我们检测它们的能力,

31:22目前大概是落后的,

31:25但只要投入更多关注,我们当然可以赶到前面。

31:29但这会波及所有领域。

31:33所以我觉得这和安全类似。

31:38我们永远不可能

31:39造出完美的检测系统。

31:42我们只能……

31:45我们应该关注的是它的演进速度,

31:50以及能否尽快获取表明正确

31:55或出错的信号,

31:58并据此行动,把这些

32:01融入我们更新的模型或自学习模型中。

32:04你还有别的担忧吗?

32:06比如有些人,像埃隆等人,

32:07担心人工智能

32:10带来的生存威胁,

32:11担心通用人工智能?

32:13或者如果你更窄地考虑

32:17狭义人工智能的威胁和隐忧,

32:20你在这方面怎么想?

32:23你是有担忧,还是更乐观?

32:26我想起尤瓦尔在他的书

32:29《21 世纪的 21 堂课》里,

32:31最后一章讲的是冥想。

32:34你看那一章的标题,

32:37会想,哦,原来全是冥想。

32:39但那一章有意思的地方在于,

32:42他认为今天出生、

32:48成长的孩子,谷歌对他们偏好的把握

32:53比他们自己更清楚,

32:57这一点你很容易想象。

32:59我很容易想象,今天谷歌大概比我母亲

33:04更了解我的偏好。

33:08也许不是我本人,但对于一个成长过程中

33:12只认识互联网、

33:13只知道谷歌能做什么,

33:16或者 Facebook、推特、Square 这些东西的人来说,

33:20自我觉察正在被转移给其他系统,

33:25尤其是这些算法。

33:28他担心的是我们会失去这种自我觉察,

33:32因为自我觉察现在在我们之外,

33:35而且它做得好得多,

33:37帮我们做各种决定,

33:41比如我该站着还是今天该走路?

33:43该选哪位医生?

33:45该和谁约会?

33:46这些事我们现在都看到在飞快地上演。

33:50所以他把冥想看作培养这种自我觉察的工具,

33:54把注意力拉回到:

33:56我为什么做这些决定?

33:58我为什么这样反应?

34:00我为什么会有这个想法?

34:02它是从哪儿来的?

34:04这是重新掌控的一种方式。

34:07或者说觉察,也许不是掌控,而是觉察,

34:10这样你就能意识到:是的,我正在,

34:13我正在,我正在,我正在。

34:15是的,我正把这个决定交给这个算法,

34:19而我并不完全理解它,

34:21它也无法告诉我为什么这么做,

34:24因为它太复杂了。

34:26这并不是说算法不能是好事。

34:29在我看来,推荐系统

34:31最好的作用是帮你引路,

34:34踏上学习新想法、学习本身的旅程。

34:39这可以是件很棒的事,但你知道自己在这么做吗?

34:41你是否意识到,是你在邀请它对你这么做?

34:45我认为这就是他指出的风险,对吧?

34:50这完全没问题。

34:51但你是否意识到自己发出了这份邀请,

34:55而且它正在被执行?

34:58所以你强调的担忧是,

35:02如果缺乏觉察,

35:04你就可能像在海上随波漂流。

35:06所以觉察在这些人工智能系统的

35:08未来中是关键。

35:10是的,电影《瓦力》。

35:12瓦力。

35:13我觉得它是皮克斯最好的电影之一,

35:15除了《料理鼠王》。

35:19《料理鼠王》太棒了。

35:20你说到《料理鼠王》之前我都赞同,好吧。

35:22《料理鼠王》太棒了。

35:26好吧,我们走到了第一个

35:28有分歧的点,好。

35:29那是以老鼠形式讲述的创业故事。

35:35我只记得配乐真的很好听。

35:38很好。

35:41你怎么看,继续聊人工智能,

35:43关于工作岗位被取代这件事?

35:45这是安德鲁·杨(Andrew Yang)这类候选人

35:48谈到的另一个角度。

35:50杨家军万岁。

35:53杨家军。

35:54说到杨家军,很遗憾,

35:56他最近退出了竞选。

35:57我知道,非常令人失望,也很沮丧。

36:00是啊,不过从好的一面看,

36:02我想他要开一档播客了。

36:05真的吗,太酷了。

36:06是的,他刚宣布的。

36:07我肯定他会设法劝你

36:09上他的播客。

36:11我会和他聊的。

36:12那么,聊聊《料理鼠王》。

36:14是啊,也许他会更欢迎

36:16《料理鼠王》这个论点。

36:18你怎么看他的担忧,

36:20关于工作岗位被取代、关于自动化——

36:22当然,自动化和 AI 也会带来

36:24积极的影响,

36:26但也可能带来负面影响。

36:29在这个框架下,你怎么看

36:31全民基本收入?

36:33这些有趣的新想法,

36:36探讨如何让人们在经济中获得力量。

36:40我认为他几乎在每个维度上都是百分之百正确的。

36:46我们在 Square 的业务里就看到了这一点。

36:48他指出了卡车司机。

36:52我来自密苏里。

36:54他确实指出了这种担忧,

37:00也就是我家乡的人

37:04每天都能感受到、却常常被忽视、

37:07谈论得不够的问题。

37:09接下来最大的一类是收银员。

37:12这就关系到 Square 的业务了。

37:15我们看到越来越多的销售点

37:19转移到顾客个人手里,

37:22以手机和应用的形式,

37:24以及预订和提前下单。

37:27我们看到更多自助终端。

37:29也看到更多像 Amazon Go 这样的东西。

37:32而零售业里做收银员的工人数量极其庞大。

37:40而且,目前并没有真正的答案,

37:43说明他们如何转变自己的技能

37:47和工作,去做别的事情。

37:51我认为这确实会带来

37:53很多非常负面的后果。

37:56他提出的重要一点,

37:59关于全民基本收入的,

38:01是既然这场转变必然到来,

38:04而且帮人们掌握新技能、

38:07开启新职业需要时间,

38:14他们就需要一条能维持生存的底线。

38:17每月 1000 美元就是这样一条底线。

38:22它不会激励你辞职,

38:25因为这笔钱不够,

38:26但它能让你不必那么担心

38:30日复一日的生计,

38:35从而能专注于我现在要做什么、

38:39我需要掌握哪些技能。

38:44我想很多人会指出,

38:48在工业时代,

§05原文文稿 · 38:53–49:08

38:53我们对自动化、

38:55流水线也有过同样的担忧,但最后一切都还好。

38:59但最大的变化是速度,

39:04以及让这一切运转的许多要素

39:08的集中化,也就是数据

39:11和处理这些数据的算法。

39:14我认为第二大可怕之处,

39:18就是围绕 AI,究竟谁拥有数据、

39:24谁能对数据进行操作。

39:26我们能否分享从数据中得到的洞察,

39:32从而也能构建满足我们需求、

39:36帮助我们业务之类的算法?

39:39所以我认为监管可以在这里

39:43发挥强有力的积极作用。

39:46首先是看 AI 的基础原语,

39:50以及我们用来构建这些服务的工具,

39:52这些服务最终会触及

39:54人类体验的方方面面。

39:56然后是数据归谁所有、如何共享。

40:05这些是作为社会、作为世界,

40:10我们需要给出更好答案的问题,

40:12而目前我们还没有。

40:13它们过度集中在

40:15少数几家极其庞大的公司手里。

40:19但我认为他在指出问题、

40:23提出真正可行的方案上非常准确。

40:26至少我们从中学到,你可以扩展

40:29或演进它,但我认为全民基本收入早就该推行了。

40:38马丁·路德·金就曾大力倡导过,

40:41在他之前也有人。

40:44而且正如你所说,具体的 1000 美元这个数

40:48也许并不是正确的数字,

40:50但应该迈出步子,尝试实施

40:54这些方案,看看什么有效。

40:56百分之百。

40:57我想你和我的饮食很相似,

40:59至少我曾经是这样。

41:01我第一次听到这个说法。

41:04是的,我之前就在这么做。

41:05至少在这件事上,这是第一次有人对我这么说。

41:08是啊,不过它越来越时髦了。

41:12但我在它还不时髦的时候就在做了。

41:13间歇性断食,以及一般意义上的断食,

41:16我很喜欢,我热爱美食,

41:18但我也喜欢受苦,因为我是俄罗斯人。

41:23所以断食多少会让你体会到,

41:29让你多少体会到作为人是怎么一回事。

41:33不过除了哲学层面的东西,

41:36我还有一个更具体的问题。

41:37它也帮助我这个程序员和深度思考者,

41:41从科学的角度,

41:43坐在那里好几个小时深度专注。

41:46也许你在当 CEO 之前是个黑客。

41:50关于饮食、生活方式、

41:55心态,你学到了哪些有助于最大化心智表现、

41:57让你能够专注、

42:00在这个充满干扰的世界里深度思考的东西?

42:03我觉得我只是把它当成理所当然太久了。

42:08哪个方面?

42:09就是我们一天吃三顿饭、

42:13中间还有零食的这种社会结构。

42:15而我从来没有真正问过:为什么?

42:18哦,顺便说一下,也许有人不知道,

42:20我想很多人知道,

42:22但你至少是出了名地一天只吃一顿。

42:26你现在还是一天一顿吗?

42:27是的,我吃晚饭。

42:29顺便问一下,是什么让你决定一天只吃一顿?

42:32因为对我来说,这是一场巨大的革命:

42:33原来你不必吃早餐。

42:35我当时觉得自己像个叛逆者,

42:37就像抛弃了父母之类的,

42:39成了无政府主义者。

42:41你刚开始的时候,头一个星期,

42:43感觉自己像是拥有了超能力。

42:45然后你意识到它其实不是超能力。

42:47但我想你会意识到,

42:50至少我意识到了,

42:53我们的头脑在多大程度上决定了我们能做到什么。

42:59有时我们周围存在一些结构,

43:02在激励着我们,比如这种一日三餐的做法,

43:05它纯粹是一种社会结构,

43:09而不是健康和身体的必需。

43:14我开始这样做,

43:17是因为我小时候常常折腾自己的饮食,

43:21当过两年纯素食者,

43:23各种方式都试过,只因为,

43:28健康是我们拥有的最宝贵的东西,

43:31而我们谁也没有真正理解它。

43:33所以,能通过在自己身上做的实验

43:37来提出这个问题并从中学习,

43:39对我很有吸引力。

43:44我在一档播客上听到一个人,温·霍夫(Wim Hof),

43:47他因洗冰浴、屏住呼吸

43:50这些事而出名。

43:54他说他一天只吃一顿饭。

43:56我想,哇,这听起来极具挑战,

43:59也很不舒服。

44:00我要试试。

44:02我发现,当我让自己——

44:06我不会说受苦,

44:07而是让自己感到不舒服的时候,我学到的最多,

44:10因为在那些时刻一切都会显现出来,

44:14你真正了解到自己是什么样的人、不是什么样的人。

44:21我一辈子都在这样做。

44:23比如我小时候,我不能,

44:25我不能说话,

44:27我得去看语言治疗师,

44:29这让我极其害羞。

44:31后来有一天我意识到不能再这样下去,

44:34于是报名参加了演讲社团。

44:39那是我能想象的最不舒服的事:

44:45拿到写在卡片上的题目,

44:49有五分钟时间写一篇演讲稿,

44:51不管题目是什么,

44:53讲的时候不能看卡片,

44:56然后围绕这个题目讲五分钟。

44:59但它带给我很多,

45:03让我对沟通的力量、

45:06对自己的不足,

45:08以及对“只要下定决心要做,

45:10我就能做到”有了很多新的认识。

45:14所以它给了我更多的信心。

45:16所以我用同样的眼光看待断食。

45:18这件事有趣、

45:21有挑战、令人不适,

45:23但最终给了我许多学习和益处。

45:30它还会引向我将要尝试、

45:32摸索的其他事情,不过,是的,

45:35有时确实有点像超能力。

45:39是你能想象到的最无聊的超能力。

45:42现在这真的相当不可思议。

45:44头脑清明这一点相当有意思。

45:47说到受苦,

45:49你谈到要面对艰难的想法。

45:53你冥想,思考生活、

45:58我们社会的宏观背景。

46:00让我问一个,再次为这个

46:02浪漫化的问题道歉,

46:03你会思考自己的必死性吗?

46:06你会想到死亡,

46:09想到人类存在的有限性吗?

46:13在你冥想、思考的时候?

46:15如果会,

46:18你如何理解这一切终将结束这件事?

46:22嗯,我不试图去理解它。

46:23但我每天都会想到它。

46:25我是说,每天都想,一天好几次。

46:29你害怕死亡吗?

46:30不,我不害怕。

46:32我认为它是一种转变,转变成什么我不知道,

46:36但它也是一种工具,

46:39让人感受到每一刻的重要。

46:44所以我把它当作提醒,比如我有一个小时,

46:48这真的是我要花这一小时去做的事吗?

46:52我能看的日落和日出只剩这么多了。

46:55如果我不为之起身,

46:58不努力去看它们,

47:02那它就让很多事情有了参照,

47:06也帮我分清轻重缓急。

47:09我不把它看作

47:13我所畏惧的、可怕的东西。

47:15它是每个人

47:18每天都可以使用的工具,

47:19因为它显示出生命多么珍贵。

47:21而且每天都有提醒,

47:24无论是你自己的健康,还是朋友、同事,

47:27或是你在新闻里看到的事。

47:30所以对我来说,问题只是

47:32我们如何对待每天的这种提醒。

47:34对我而言就是:我是否真的专注于重要的事?

47:40有时那可能是工作,

47:42有时可能是友情、家人

47:45或感情关系之类,

47:47但从这个意义上说,它是最终的澄清器。

47:51那么就“什么重要”这个问题,

47:53再问一个大得离谱的问题:

47:57当你试图理解这一切时,

47:58你认为这一切的意义是什么,

48:00生命的意义是什么?

48:02什么给你目标、快乐和意义?

48:07很多东西。

48:08仅仅是能意识到

48:14自己活着这个事实,就很有意义。

48:20我与一个个人之间感受到的联系,

48:23无论是刚认识的人,

48:25还是长久的友谊或我的家人,都有意义。

48:30看到人们使用我帮忙构建的东西,

48:33对我来说真的很有意义、很有力量。

48:38但那种感觉,我是说,

48:40我认为归根结底是一种联结感,

48:43是觉得我是比自己更大的

48:47某种东西的一部分,

48:49而且我能直接感受到它,

48:52无论是小的方式还是大的方式,

48:54不管它如何呈现,大概就是这样。

48:59最后一个问题。

49:00你认为我们生活在模拟之中吗?

49:05我不知道。

49:06如果是的话,那会很有趣,

§06原文文稿 · 49:09–51:14

49:09但也疯狂、随机,还充满了大量问题。

49:15不过,是的。

49:17你会希望它是别的样子吗?

49:19会的。

49:20我只是觉得,我们这个星球花了太长时间,

49:24才意识到我们同在一条船上,

49:27而且我们以非常重要的方式彼此相连。

49:34我觉得我们用自我把这种联系藏得很好,

49:38或者用当天碰上的各种事情把它藏起来。

49:42但这是我最想努力

49:46去改变的一件事,也是我希望它变成另一个样子的地方。

49:51因为如果我们做不到这一点,

49:52又怎么能连接到所有其他的模拟呢?

49:55因为下一步就是,

49:57看看另一个模拟里发生了什么。

49:58逃出这一个,然后,是的,

50:03横跨多个模拟,

50:05分享其中的乐趣。

50:07我觉得没有比这更好的结尾了。

50:09杰克,非常感谢你所做的一切工作。

50:12也许我们在其他模拟里,

50:13结束这次对话的方式可能更好。

50:16只能等着看了。

50:18非常感谢你今天的交谈。

50:19谢谢。

50:21感谢收听这期与杰克·多尔西的对话,

50:24也感谢我们的赞助商 Masterclass。

50:26请考虑通过访问 masterclass.com/lex 注册 Masterclass

50:29来支持这档播客。

50:34如果你喜欢这档播客,请在 YouTube 上订阅,

50:37在 Apple Podcasts 上给五星好评,

50:39在 Patreon 上支持我,或者在推特上联系我,

50:42账号是 Lex Friedman。

50:45最后,让我用保罗·格雷厄姆(Paul Graham)

50:47关于比特币的几句话作为结束。

50:50我对比特币非常着迷。

50:52它具备范式转移的所有迹象。

50:55黑客们喜欢它,但它却被说成是玩具,

50:58就像当年的微型计算机一样。

51:01感谢收听,希望下次再见。

— 读到这里,多懂一点。 —