Geoffrey: AI教父：我曾试图警告他们，但我们已经失控！杰弗里·辛顿
Godfather of AI: I Tried to Warn Them, But We’ve Already Lost Control! Geoffrey Hinton
嘉宾：Geoffrey
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01文稿 — 第 1 部分
《一位首席执行官的日记》由 Progressive Insurance 赞助播出。您是否曾想过更换保险公司，看看能不能省下一笔钱？Progressive 让这一切变得很简单。只需输入一些个人信息，即可了解您在同时购买房屋和汽车保险时是否有资格省钱。整个过程只需几分钟，却可能让您口袋里多出数百美元。在本期节目结束后，请访问 Progressive.com，看看您能否省钱。Progressive Casualty Insurance Company 及其关联公司。实际节省金额会有所不同；并非所有州都提供此服务。
人们称您为“人工智能教父”。在一个超级智能的世界里，您会对人们关于职业前景的担忧说些什么呢？
去学当一名水管工吧。
真的吗？
是的。
杰弗里·辛顿是一位诺贝尔奖得主，他的开创性工作塑造了人工智能乃至人类的未来。为什么人们称您为“人工智能教父”呢？
因为当时没几个人相信我们能以人脑为模型来构建人工智能，让它学会执行复杂任务，比如识别图像中的物体，甚至进行推理。我坚持了这种方法长达 50 年。后来，谷歌收购了这项技术，我便在那里工作了 10 年。如今，这种方法已在人工智能领域得到广泛应用。
再后来您就离开了。
是的。
为什么？
为了能在会议上畅所欲言。
您想畅所欲言地谈论什么呢？
人工智能可能有多危险。我意识到，这些东西总有一天会比我们更聪明，而我们从未面对过这种情况。如果你想知道当自己不再是最高等智慧时生活会是什么样子，去问问一只鸡就知道了。
所以，风险一方面来自人们滥用人工智能，另一方面则来自人工智能变得超级聪明后，决定不再需要我们。
这真的是一个风险吗？
是的，确实是。但人们不会阻止它，因为它在太多方面都太有用了。
那监管呢？
确实有一些监管，但它们的设计初衷并不是应对大多数威胁。欧洲的法规中有一条款，规定这些规定均不适用于人工智能的军事用途。
真的吗？
是的，这太疯狂了。我们应该认识到，这东西是一种生存威胁，而且我们必须面对这样一种可能性：如果我们不尽快采取行动，人类就快走到尽头了。
杰弗里·辛顿，他们称你为“人工智能之父”。为什么这么称呼你呢？
当时并没有太多人相信我们能够让人工神经网络真正运作起来。在很长一段时间里，从20世纪50年代开始，关于如何实现人工智能主要有两种思路。一种思路认为，人类智能的核心是推理，而要进行推理，就需要使用某种形式的逻辑。因此，人工智能必须以逻辑为基础，你的头脑中一定存在类似符号表达的东西，并通过规则对其进行操作。这就是智能运作的方式。至于学习或通过类比进行推理之类的东西，都要等我们搞清楚了基本推理的运作机制之后才会出现。
还有另一种不同的方法，那就是以大脑为模型来构建人工智能，因为显然，是大脑让我们拥有智能。因此，在计算机上模拟一个脑细胞网络，并尝试弄清楚如何学习调整脑细胞之间连接的强度，从而让计算机学会执行复杂的任务，比如识别图像中的物体、识别语音，甚至进行推理。我推动这种方法大约有50年了。由于相信这种方法的人太少，当时很少有顶尖大学设有相关的研究团队。如果你坚持这样做，那些相信这一理念的最优秀的年轻学生就会前来与你共事。因此，我非常幸运，得到了一大群真正出色的学生。
其中一些人后来参与创建并发挥了关键作用，共同打造了像OpenAI这样的平台。
是的，伊利亚·苏茨克弗就是一个很好的例子。像他这样的人其实有很多。
你为什么认为模仿大脑是一种更有效的方法？
相信这一点的不只是我一个人。早在早期，冯·诺依曼和图灵都相信这一点。如果他们中的任何一位还活着，我想人工智能的历史将会大不相同，但他们都英年早逝。我认为，如果他们还在世，神经网络的方法早得多就会被接受。
在你人生的这一阶段，你正在承担什么使命？
我现在的主要使命是提醒人们人工智能可能带来的危险。
你知道自己被称为“人工智能之父”吗？
不，其实不太知道。我花了不少时间才意识到其中的一些风险。有些风险一直很明显，比如人们会用人工智能制造自主致命武器——也就是能自行决定去杀害谁的东西。但另一些风险，比如人工智能有朝一日会变得比我们更聪明、我们可能会变得无关紧要，我花了很多时间才认识到这一点。其他人早在20年前就意识到了，而我直到几年前才意识到，这确实是一个可能很快就会到来的风险。
你怎么会没有预见到这一点呢？考虑到你对计算机如何获得类似人类学习能力的一切了解，以及只要引入一定程度的改进？
这个问题问得很好。你怎么可能没有预见到呢？但你要记住，二三十年前的神经网络在功能上非常原始。它们在视觉、语言、语音识别等方面远不如人类。当时要担心人工智能变得比人更聪明，这种想法听起来很荒谬。
那是什么时候发生转变的？
对于普通大众来说，转变发生在ChatGPT问世的时候。而对我来说，转变发生在我意识到我们正在创造的数字智能具备某种优势，使其远远优于我们拥有的生物智能。
如果我想与你分享信息，我会先去学习一些东西，然后想告诉你我学到了什么。于是我会组织一些句子。这是一个相当简化的模型，但大致没错：你的大脑在试图弄清楚我该如何改变神经元之间的连接强度，以便我可能会在下一个位置说出那个词。当一个词非常出乎意料时，你的大脑会进行大量学习；而当词很明显时，学习就很少。如果我说“鱼和薯条”，当我说到“薯条”时，你几乎没什么可学的。但如果我说“鱼和黄瓜”，你就会学到更多。你会想，我为什么要说“黄瓜”呢？这大致就是你的大脑里正在发生的事情。
预测接下来会发生什么。
我们目前认为它的运作方式就是这样。其实没有人确切知道大脑是如何工作的，也没有人知道大脑是如何获得信息来判断应该增强还是减弱某个连接的。这才是关键所在。但如今我们从人工智能中了解到的是，如果你能获得关于应该增强还是减弱连接强度的信息，以便更好地完成你正在尝试的任务，那么我们就能够学会不可思议的东西，因为这就是我们现在用人工神经网络在做的事情。只是我们尚不清楚真实的大脑是如何获得那种关于该增强还是该减弱的信号的。
就在今天，您对人工智能的安全性有哪些主要担忧？如果我们列出那些最值得我们关注的几个问题，会是哪些呢？
我能说的不止一两个吗？
请讲。我会把它们都记下来，然后逐一讨论。
好的。首先，我想区分两种截然不同的风险。一种是人们滥用人工智能所带来的风险——这占了大多数风险，也是所有短期风险。另一种则是人工智能变得超级智能后，认为不再需要我们所带来的风险。
这真的是一个风险吗？
我主要谈论的是第二种风险，因为很多人会说：“这真的是一个风险吗？”答案是肯定的，这确实是一个风险。不过，我们不知道它到底有多大的风险。我们以前从未处于过那种境地，也从未需要应对比我们更智能的事物。因此，关于这种生存威胁，真正的问题在于我们完全不知道该如何应对。我们不知道它会以何种形式出现。任何声称自己确切知道会发生什么以及如何应对的人，都是在胡说八道。
所以我们不知道该如何估算它取代我们的概率。有人说这个概率不到1%。我的朋友杨立昆（Yann LeCun）曾是我的博士后同事，他认为：“不，不，不，我们将永远……我们制造这些事物，我们将永远掌控它们。我们会让它们服从命令。”而另一些人，比如埃利泽·尤德考斯基（Eliezer Yudkowsky），则说：“不，不，不，这些事物肯定会把我们消灭掉。只要有人制造出它，它就会把我们都消灭掉。”他对此深信不疑。我认为这两种立场都太极端了。要估算介于两者之间的概率，实在太难了。
如果非要您在这两位朋友之间选一个押注，您会认为谁是对的？
我真的不知道。所以如果非要我打个赌，我会说这个概率处于某个中间值，但我不知道具体该估在哪个位置。我常说他们消灭我们的可能性是10%到20%，但这只是凭直觉。我的直觉基于这样一个想法：我们仍在不断制造出更强大的AI，而我们人类也相当有智慧。希望在于，只要有足够多聪明的人，动用足够的资源开展足够多的研究，我们就能找到一种方法，让AI永远不想伤害我们。
有时我会思考第二条路——我会想到核弹，想到原子弹的发明，再比较一下这两者有何不同。因为原子弹问世时，我猜想当时很多人觉得我们的末日已经不远了。
哦，是的，我当时就在场。我们确实这么做了。
但我们现在还好好地活着。
是的，我们还活着。所以原子弹其实只适用于一件事，而且它的工作原理非常明显，即使你没看过广岛和长崎的照片，也显而易见：那是一种非常巨大、非常危险的炸弹。而AI则不同，它能派上很多很多用场。它将在医疗保健、教育以及几乎所有需要利用数据的行业大放异彩；有了AI，这些行业将能更高效地利用数据。
所以我们不可能阻止它的发展。你知道，有人说：“那我们现在干脆就停手不就行了？”我们不可能停手，因为它在太多领域都太有用了。而且我们也不可能停手，因为它对战斗机器人很有帮助，而任何出售武器的国家都不会想阻止它。就拿欧洲的法规来说吧——他们确实有一些关于AI的规定，有规定是好事，但这些规定并非为应对大多数威胁而设计。特别是，欧洲法规中有一条款明确指出，这些规定不适用于AI的军事用途。
所以，各国政府愿意监管企业和民众，却不愿意监管自己。
在我看来，这似乎相当疯狂——我对此也犹豫不决——但如果只有欧洲有相关法规，而世界其他地方没有，那我们岂不是让自己在竞争中处于不利地位？
是的，这确实会让它们处于竞争劣势。而且我们已经看到这种情况了。我认为人们还没意识到，当OpenAI在美国发布新模型或新软件时，由于这里的法规，他们暂时还不能在欧洲发布。萨姆·奥特曼曾在推特上说：“我们的新AI智能体已经面向所有人开放，但由于存在相关法规，暂时还无法登陆欧洲。”这会造成什么后果？这会让我们的生产力处于劣势。
我们需要的是——我的意思是，在历史上这个即将创造出比我们更智能的事物的时刻——我们真正需要的是一种能够运作良好的世界政府，由聪明、有思想的人来管理。而我们目前拥有的并非如此。
所以，是任由所有人自由行事？
嗯，我们现在拥有的是一种——我们拥有资本主义，它为我们带来了相当不错的成果。它为我们生产了大量的商品和服务。但这些大公司从法律上被要求尽可能追求利润最大化，而这并不是我们希望开发这些技术的人所具备的心态。
那我们来说说风险吧。你提到有人为风险，还有另一种风险。
我已经区分了这两种风险。我们先来谈谈所有由不良人为因素使用人工智能所带来的风险。比如网络攻击。2023年到2024年间，这类攻击增加了大约12倍——也就是1200%。这很可能是因为大型语言模型让网络钓鱼攻击变得容易多了。
对于不了解的人来说，网络钓鱼攻击是指什么？
就是他们给你发信息说：“嗨，我是你的朋友约翰，我现在被困在萨尔瓦多，你能不能把这笔钱汇过来？”这是一种攻击方式。但网络钓鱼攻击的真正目的是获取你的登录凭据。而现在有了人工智能，他们可以克隆我的声音、我的形象——他们能做到所有这些。我目前正为此苦恼，因为X平台和Meta平台上都有大量人工智能骗局。其中有一个特别针对Meta平台——也就是Instagram和Facebook——目前正有一个付费广告，他们从我的播客中截取了我的声音，模仿了我的神态，制作了一段新的视频，视频中“我”在鼓励人们参与某种加密货币庞氏骗局之类的活动。我们已经连续数周给Meta发邮件，告诉他们：“请下架这个内容。”他们下架了，又出现一个新的；他们再下架，又冒出来一个。这简直就像打地鼠游戏。
这非常烦人。而令人心碎的是，你会收到那些上当受骗的人发来的消息，他们被骗了500英镑或500美元。他们还会因为你推荐过这个骗局而对你生气。
我为他们感到难过。这真的很烦人。
是的。我也有类似但规模小一些遭遇，就是现在有人发表的论文会把我的名字列为作者之一，看起来他们这么做是为了给自己博取大量引用。
所以，网络攻击是一个非常切实的威胁，这类事件已经呈爆炸式增长。
而且——显然，人工智能已经非常有耐心了，所以它可以遍历一亿行代码，寻找已知的攻击方式。这很容易做到。但它们会变得越来越有创造力。有些人相信——一些非常了解情况的人也相信——也许到2030年，人工智能就能创造出人类从未想过的新型网络攻击。这一点非常令人担忧。
因为他们能独立思考，并发现新的方法。
他们能独立思考。他们能从远超人类所能看到的数据量中得出新的结论。
你有没有采取任何措施来保护自己免受网络攻击？
有。这是我为数不多的会彻底改变行事方式的地方之一，因为我害怕网络攻击。加拿大的银行极其安全。2008年，没有一家加拿大银行濒临破产。所以这些银行非常安全，因为它们受到良好监管，监管相当严格。尽管如此，我认为网络攻击还是有可能让一家银行倒闭。现在，我所有的积蓄都存在银行里，以银行持有的股票形式存在。所以如果银行遭到攻击，而它持有你的股票，那些股票仍然是你的。因此我认为你不会有事，除非攻击者卖掉了这些股票，因为银行是可以卖股票的。如果攻击者卖掉了你的股票，那我想你就完蛋了。我不知道——我的意思是，也许银行会试图赔偿你，但到那时银行已经倒闭了，对吧？所以……
所以我担心加拿大的银行会被网络攻击搞垮，然后攻击者卖掉银行持有的股票。因此，我把我和孩子们的钱分散存在三家银行里，我相信如果一次网络攻击让一家加拿大银行倒闭，其他加拿大银行会立刻变得非常小心。
那你有没有不连接网络的手机？你有没有——你知道，我在想存储数据之类的事情。你觉得考虑使用冷存储明智吗？
我有一个小硬盘，会把笔记本电脑的数据备份到这个硬盘上。所以实际上，我笔记本电脑上的所有东西都存在一个硬盘里。至少，你知道，如果整个互联网都瘫痪了，我还会觉得东西还在我的笔记本电脑上，我的信息也还在。
接下来就是利用人工智能制造恶意病毒。问题在于，这只需要一个心怀怨恨的疯子。一个懂一点分子生物学、很懂人工智能，并且只想毁灭世界的人。现在，利用人工智能可以相对低成本地制造出新的病毒。而且你不需要是技术高超的分子生物学家才能做到这一点。这非常可怕。所以，比如一个小规模邪教组织就有可能。一个小邪教或许能筹集到几百万美元。有了几百万美元，他们或许就能设计出成堆的病毒。
嗯，我在想我们的一些外国对手会不会开展由政府资助的项目。我的意思是，围绕新冠疫情、武汉实验室以及他们在“功能增强”研究方面所做的工作，曾有过很多讨论。但我想知道，在比如中国、俄罗斯或伊朗这样的国家，政府是否可能资助一个项目，让一小群科学家去制造某种病毒呢？
我认为他们是可以的，是的。不过，他们会担心遭到报复，也会担心其他国家政府对他们采取同样的做法。希望这能有助于将事态控制在一定范围内。他们可能还会担心病毒蔓延到自己的国家。
然后是操纵选举的问题。如果你想利用人工智能来操纵选举，一个非常有效的方法就是投放精准的政治广告，而前提是你必须对目标人物有深入的了解。因此，任何想利用人工智能操纵选举的人，都会设法获取有关所有选民尽可能多的数据。考虑到这一点，马斯克目前在美国的做法就有些令人担忧了。他介入并坚持要获取那些原本被严格隔离的各类数据。他声称这样做是为了提高效率，但这恰恰是想要操纵下一次选举的人会做的事情。
您是什么意思？是说可以获取所有这些关于……的数据吗？
你可以获取所有关于人们的数据。你知道他们的收入、居住地——你知道他们的一切。一旦掌握了这些信息，就很容易对他们进行操控，因为你可以让人工智能发送一些他们觉得很有说服力的信息，比如告诉他们不要去投票。我之所以这么想，除了常识之外并没有其他理由，但如果获取美国政府这些数据背后的动机之一是为了操纵选举，我也不会感到惊讶。另一个动机可能是，这些数据对于训练大型模型来说是非常好的训练数据。
但他必须是从政府那里获取这些数据，然后输入到他的……？
是的。而且他们已经关闭了很多安全控制措施，还裁撤了一些原本能防范这些风险的组织。
所以，这就是操纵选举。
好的。然后是像 YouTube 和 Facebook 这样的组织制造信息茧房，给人们展示一些会让他们愤慨的内容。人们都喜欢产生愤慨情绪。
愤慨是指生气吗？还是说“愤慨”具体是什么意思？
就是……我有点生气，但又觉得自己是正义的。
好的。
举个例子，如果给我看一条内容，上面写着：“特朗普干了件疯狂的事，这里有段视频，展示了特朗普正在做这件完全疯狂的事”，我会立刻点击进去。
好的，这让我们陷入了信息茧房，把我们彼此分裂开来。
是的。这正是 YouTube、Facebook 和其他平台用来决定接下来向你推送什么内容的政策，而它正在造成这种局面。如果它们采取的是向你推送平衡内容的政策，就不会有那么多的点击量，也无法卖出那么多的广告。所以，归根结底，是利润动机在说：“不管什么东西能让他们点击，就给他们看什么。”而能带来点击的内容，往往是越来越极端的。
而这又证实了我原有的偏见。
没错，它证实了你原有的偏见。所以你总是在不断确认自己的偏见，而且一次比一次更甚。这意味着你在不断远离——现在美国已经出现了两个几乎不怎么交流的群体。
我不确定人们是否意识到，他们每次打开一个应用时，这种情况其实都在发生。但如果你刷 TikTok、YouTube 或任何一个大型社交网络，正如你说的，算法的设计初衷就是向你展示更多你上次感兴趣的内容。所以，如果这种机制持续十年，它就会把你越推越远，让你越来越固守于自己的意识形态或信仰，而越来越远离事物的复杂性、常识和共识。这实在是一件很值得注意的事——人们根本不知道正在发生什么。他们只是打开手机，看到一些内容，然后就以为这就是新闻，就是所有人的体验。
没错。基本上，如果你看报纸，而每个人拿到的都是同一份报纸，你就会看到各种自己原本没想找到的内容，并产生一种感觉：如果某件事登上了报纸，那它一定很重要或有重大意义。但如果你拥有自己的新闻推送——就拿我 iPhone 上的新闻推送来说，四分之三的内容都跟人工智能有关。我很难判断，到底是全世界的人都在不停地谈论人工智能，还是只有我的新闻推送在这么做。
好的，所以这把我推入了自己的信息茧房，而这种情况会继续把我们越分越裂。我注意到，算法正变得越来越——该怎么说呢？——“量身定制”。人们可能会想：“哦，这太好了。”但这意味着算法正变得越来越个性化，而这也意味着我的现实与你的现实之间的距离越来越远。
是的，这太疯狂了。我们已经没有共同的现实了。我跟那些看 BBC 新闻、读《卫报》和《纽约时报》的人有共同的现实，但我跟看福克斯新闻的人几乎没有任何共同的现实。
我觉得这挺令人担忧的。
是的。这一切背后的想法就是，这些公司只想赚取更多利润。而为了赚取更多利润，它们会不惜一切代价，因为这是它们的法定义务。
所以，如果……我们几乎不能责怪这家公司，对吧？
嗯，资本主义为我们带来了极大的好处，创造了很多好东西。但你需要对它进行非常严格的监管。所以你真正想要的是制定一些规则，让那些试图赚取尽可能多利润的公司，在实现利润的过程中，必须做一些对大众有益的事，而不是有害的事。一旦公司为了赚取更多利润，开始做一些对社会非常有害的事情——比如向你展示越来越极端的内容——这就是监管存在的意义。所以，资本主义需要监管。
当然，公司总是会说监管妨碍了它们，降低了效率，这确实是真的。监管的核心目的，就是阻止它们为了利润而做出损害社会的行为。我们需要强有力的监管。
那由谁来判定一件事是否损害了社会呢？因为，你知道……
那是政治家的工作。不幸的是，如果政治家被公司所控制，那就不太好了。而且政治家可能也不了解相关技术。你可能见过参议院的听证会，他们把马克·扎克伯格这些科技巨头请上台，场面相当尴尬，因为他们问的都是错误的问题。
嗯，我看过一段视频，美国教育部长在谈论他们如何将人工智能引入课堂，但她竟然以为人工智能叫“A1”。她当时还说：“我们将让所有孩子都与A1互动。”
现在有一个教育体系，将确保一年级甚至幼儿园的孩子每年都能接受A1教学，从这么低的年级就开始。这真是件好事。
（笑）然后这些……这些人就是……？
这些人就是负责人。
归根结底，科技公司才是掌权者，因为他们会更胜一筹……
嗯，美国的科技公司——至少几周前我还在的时候——它们正在投放一则广告，强调对人工智能进行监管非常重要，因为这会在与中国的竞争中伤害我们。
这听起来是个合理的论点，不是吗？
是的，会是这样，但你必须做出决定：你是想通过一些会严重损害自己社会的方式来与中国竞争吗？我想你大概并不想。我猜他们会说，问题不只是中国，还有丹麦、澳大利亚、加拿大、英国和德国。但如果他们通过监管来束缚自己，让自己放慢脚步，那么那些创始人、企业家和投资者就会去别的地方。
我认为称之为“束缚自己”其实是带有一种特定的立场。这种立场认为监管是有害的。真正需要做的是约束大公司，使它们在追求利润的同时，必须做一些对社会有益的事情。比如谷歌搜索就是一个很好的例子——它不需要监管，因为它只是让人们获取信息，这非常好。但像 YouTube，如果它开始向你展示广告，并越来越多地推送极端内容，那就需要监管了。
但正如我们已经意识到的，我们并没有足够的人手来进行监管。
我想人们很清楚那种会不断向你推送极端内容的问题。这是一个众所周知的问题，政治家们也明白。他们只需要行动起来，实施监管。
所以下一个问题是，算法会让我们进一步陷入信息茧房。接下来会是什么？
致命性自主武器。
致命性自主武器。
也就是说，那些能够杀死你，并自行决定是否要杀死你的东西。我想，这正是军工复合体的终极梦想。
所以，关于这类武器最糟糕的一点是，强大而富裕的国家总是有能力入侵较小、较贫穷的国家，因为它们更强大。但如果你动用的是真正的士兵，就会有尸体被装在袋子里运回来，而被杀士兵的亲属对此并不买账。于是就会出现像越南战争那样的情况，最终国内会爆发大量抗议。但如果运回来的是死掉的机器人，抗议就会少得多，而军工复合体也会更喜欢这种方式，因为机器人很昂贵。试想一下，如果有一种武器可以被摧毁，而且替换成本很高，那岂不正好？大国就能更容易地入侵小国，因为它们的士兵不会因此丧命。
而这里的风险是，这些机器人可能会发生故障，或者它们会变得更加……？
不，不。即使这些机器人完全按照制造者希望的方式运行，风险依然存在。风险在于，这将导致大国更频繁地入侵小国，因为它们有能力这么做。而这并不是一件好事。
所以，这会降低发动战争的阻力。
这会降低发动入侵的成本。而且这些机器在作战方面也会更智能，所以它们会……
嗯，即使这些机器不够智能也一样。那些致命自主武器——现在它们已经能制造出来了，我想所有主要国防部门都在忙着制造。即使它们没有人类聪明，也仍然是非常可怕、令人胆寒的东西。
因为我在想，你知道，它们甚至可以只展示一张图片：“去抓住这家伙。”
是的。
然后去干掉他发过短信的任何一个人。还有这种小小的黄蜂……
所以两天前，我去苏塞克斯拜访一位朋友，他有一架不到200英镑的无人机。那架无人机飞起来后，仔细打量了我一番，然后就能跟着我穿过树林。它一直跟着我——有这架无人机在，感觉非常诡异。它大概在我身后两米的地方，一直盯着我，我往那边移动，它也往那边移动。就这么一架200英镑的无人机，已经能追踪我了。但那已经相当吓人了。
是的，而且我想，正如你说的，此时此刻正有一场竞赛在展开，看谁能制造出最复杂的自主武器。我经常听到的一个风险是，其中一些技术可能会结合起来，网络攻击会释放出武器。
当然。通过将这些不同的风险组合起来，会产生出多种多样的风险。我的意思是，举个例子，一个超级智能的AI可能会决定消灭人类，而最明显的方法就是制造一种这种可恶的病毒。如果你制造一种传染性极强、致死率很高、但发作很慢的病毒，那么在人们意识到发生了什么之前，所有人都已经被感染了。我的意思是，我认为如果一种超级智能想消灭我们，它很可能会选择那种不会影响自身的生物手段。
你不觉得它也可以很快地让我们自相残杀吗？比如，它可以在美国的核系统上发送一条警告，说俄罗斯有核弹来袭，或者反过来，然后一方进行报复？
是的。我的基本观点是，超级智能能够消灭我们的方法实在太多了，不值得去一一猜测。我们真正要做的，是防止它产生这种意图。这才是我们应该研究的课题。我们不可能阻止它——它比我们更聪明，对吧？如果它想消灭我们，我们根本拦不住。我们不习惯思考比我们更聪明的东西。如果你想知道当自己不是最高等智慧时的生活是怎样的，去问问一只鸡就知道了。
是的，今天早上我离家的时候，想到了我的狗巴勃罗，我的那只法国斗牛犬。它完全不知道我要去哪儿，也完全不知道我做什么。
没错。
我甚至都没法跟他说话。
是啊。而智能上的差距也会是这样。
所以你的意思是，如果我是“巴勃罗”——我的那只法国斗牛犬——我就得想办法让我主人不把我给“消灭”掉？
没错。我们有一个这方面的例子，就是母亲和婴儿。进化在这方面下了很大功夫。母亲比婴儿聪明，但婴儿却掌控着局面。他们之所以能掌控，是因为母亲实在受不了——这跟很多激素等因素有关——母亲根本听不得婴儿的哭声。
不是所有母亲都这样。
不是所有母亲都这样。如果婴儿掌控不了局面，那就会发生不好的事情。我们 somehow 得想办法让它们不想接管局面。我常用的一个类比是：先别谈智能，想想体力。假设你养了一只可爱的小老虎。它比猫大不了多少，非常可爱，很会撒娇，看着也很有趣。但前提是，你得确保它长大后绝不会想杀了你。因为一旦它想杀你，你几秒钟内就会没命。
所以你是说，我们现在拥有的人工智能就是那只小老虎？
没错。
而且它正在长大。
没错。
所以我们得在它还是个“婴儿”的时候就对它进行训练。
嗯，老虎有很多与生俱来的本能，所以你知道它长大后，养在身边并不安全。但狮子就不一样——那些把狮子当宠物养的人发现，有时狮子对它的主人很亲热，但对其他人却不是。而我们不知道这些人工智能——我们根本不知道，能不能让它们不想接管局面，不想伤害我们。
你认为我们能做到吗？训练出超级智能有可能吗？
我不知道。我不确定我们一定能做到。所以我觉得这可能毫无希望。但我也觉得我们或许能成功。而且，如果我们因为懒得去尝试而导致人类灭绝，那可就有点疯狂了。
如果这确实是一种可能，你对你毕生的工作有什么看法？因为你当时……
是的，这多少让事情变得没那么重要了，不是吗？我的意思是，一想到它将在医疗保健、教育等领域带来巨大好处——我的意思是，它会让呼叫中心高效得多。不过，人们会有点担心那些现在从事这些工作的人该怎么办。这让我感到难过。我并不为大约40年前开发人工智能而感到特别内疚，因为当时我们根本不知道事情会发展得这么快。我们以为有足够的时间去考虑这类问题。当你还无法让人工智能做太多事情，而只想让它多做一点点时，你不会担心“这个愚蠢的小东西会取代人类”。你只是希望它能多做一些人类能做的事情。所以，我并不是明知“这可能会让我们所有人都灭绝，但我还是要这么做”。但遗憾的是，它并不只会带来好处，这确实有点令人难过。因此，我觉得现在我有责任去谈论其中的风险。
那么，如果让你把时间线向前推进30年、50年，结果发现它导致了人类灭绝——如果最终真的出现那样的结局……
嗯，如果时间线向前推进后真的导致了人类灭绝，我会用这个事实告诉人们，告诉他们的政府，我们真的必须努力研究如何控制这些东西。我认为我们需要有人告诉政府，政府必须强制企业动用资源来研究安全问题。而它们在这方面做得并不多，因为那样赚不到钱。
我们之前聊到的你的学生之一，伊利亚？
是的。
伊利亚离开了OpenAI，外界有很多讨论，说他离开是因为对安全问题感到担忧。后来他还创办了一家专注于人工智能安全的公司。你认为他为什么离开？
我认为他离开就是因为他对安全问题感到担忧。真的。我偶尔还会和他一起吃午饭。他的父母住在多伦多，他每次来多伦多，我们都会一起吃饭。他不会和我谈论在OpenAI发生的事情，所以我没有内部消息。但我非常了解伊利亚，他确实真心关心安全问题。所以我认为这就是他离开的原因。
因为他是顶尖人物之一。我的意思是，他当时……
他或许是ChatGPT研发背后最重要的人物。在早期版本（比如GPT-2）的开发过程中，他也发挥了非常重要的作用。
你个人认识他，所以了解他的为人。
是的。他有很好的道德准则。他不像马斯克那样毫无道德底线。
萨姆·奥特曼有很好的道德准则吗？
我们拭目以待吧。我不认识萨姆，所以不想对此发表评论。
但根据你所了解的情况，你对他们采取的那些行动感到担忧吗？
嗯，如果你认识伊利亚，而伊利亚是个好人，现在却离开了，这多少能说明一些问题。它会让你有理由相信那里确实存在问题。再看看萨姆几年前的言论，他在一次采访中曾相当乐呵呵地说：“这些东西大概会把我们所有人都害死。”虽然他不是原话如此，但意思差不多。现在他却说大家不必太过担心，我怀疑他这么说并非出于对真相的追求，而是为了金钱。
是金钱，还是权力？
我本不该只说金钱。是这两者的某种结合，没错。因为我想，金钱不过是权力的另一种表现形式。
我有个朋友是亿万富翁，他身处那些圈子里。有一次我去他家和他共进午餐，他认识许多在人工智能领域工作、正在打造全球最大AI公司的人。在伦敦他家的餐桌旁，他给了我一个警示性的忠告，让我得以一窥这些人私下里的谈话内容——不是他们在媒体采访中谈论安全之类的话题，而是这些个体内心真正认为会发生什么。那么，他们认为会发生什么呢？和他们公开所说的完全不同。比如，有位我不便透露姓名的人士，他正领导着全球最大的AI公司之一。他告诉我，他非常了解另一个人，私下里他认为我们正走向一个反乌托邦式的世界：我们拥有大量空闲时间，不再工作，而那个人根本不在乎这会给世界带来多大的危害。我所说的这个人，正在打造全球最大的AI公司之一。之后我看了此人的公开采访，再回想我那认识他的亿万富翁朋友和我谈过的话，我就想：“天哪，这家伙在公开场合撒谎。”也就是说，他没有对世界说实话。这件事一直让我有些不安。这也是我在这个播客上频繁谈论人工智能的部分原因，因为我觉得——我认为他们中有些人对权力抱有一种近乎虐待狂的渴望。他们喜欢那种能够改变世界的想法，喜欢成为那个从根本上重塑世界的人。
我认为马斯克显然就是这样的人，对吧？他做过一些真正了不起的事情，比如推动电动汽车的发展。那确实是一件非常好的事。他关于自动驾驶的一些说法有点夸张，但他确实做了一件很有用的事。在俄罗斯与乌克兰的战争期间，他为乌克兰人提供了通信支持——星链，那确实是他做的一件大好事。类似的事情还有很多。但与此同时，他也做过一些非常糟糕的事情。
那么回到这个话题，关于毁灭的可能性以及这些大公司的动机，您是否对减缓人工智能的发展速度和节奏抱有任何希望？
好的，这里有两个问题。第一个是：我们能否减缓它的发展？第二个是：我们能否最终确保它的安全性，让它不会把我们所有人都消灭掉？我不认为我们能够减缓它的发展。之所以这么认为，是因为国家与国家之间存在竞争，一个国家内部的公司之间也存在竞争，而所有这些竞争都在推动它越来越快地发展。如果美国放慢了脚步，中国也不会放慢。
伊利亚认为让人工智能变得安全是可能的吗？
我认为他是这么认为的。但他不肯告诉我他的“秘密配方”是什么。我也不确定有多少人知道他的“秘密配方”是什么。我想很多投资者也不知道他的“秘密配方”是什么，但他们还是给了他数十亿美元，因为他们对伊利亚非常有信心。这并不盲目。我的意思是，他在 AlexNet 的研发中起到了非常重要的作用，正是 AlexNet 让目标识别技术真正跑了起来。他还是 GPT-2 等项目的主要推动者，而 GPT-2 后来催生了 ChatGPT。所以我认为，对伊利亚抱有很强的信心是一个非常合理的决定。
有一个细节挺令人不安的：GPT-2 的创造者兼主要推动者引发了这场革命，后来却因为安全方面的原因离开了那家公司。他知道一些我不知道的、关于接下来可能会发生什么的事情。
嗯，那家公司当时——我现在不知道确切的细节——但我相当确定，公司曾表明会投入其资源、也就是计算时间中的很大一部分用于安全性研究。但后来，它又减少了这部分投入。我想这就是当时发生的事情之一。
是的，这件事当时有公开报道。没错。我们现在已经谈到了风险框架中的自主武器部分。
好的。那么下一个话题是失业问题。过去，新技术的出现并没有导致失业——新的工作岗位被创造了出来。人们常举的经典例子就是自动取款机。当自动取款机问世时，许多银行柜员并没有失业，他们只是开始从事更有意思的工作。但我觉得，现在的情况更像是工业革命时期机器出现时的状况——如今你不可能再通过挖沟来谋生，因为机器挖沟比你挖得好得多。我认为，对于那些重复性的脑力劳动，人工智能最终会取代所有人。
当然，这种取代很可能表现为：使用人工智能助手的人变得更少了。也就是说，现在由一个人搭配一个人工智能助手来完成过去需要十个人才能完成的工作。
不过，人们说这会创造新的工作岗位，所以我们不会有事。
是的，其他技术确实是这样。但这次的技术非常不同。如果它能完成所有重复性的脑力劳动，那它又能创造哪些新岗位呢？你必须具备非常专业的技能，才能拥有一个它无法胜任的工作。所以我不认为那些人的看法是对的。你可以尝试从计算机或自动取款机等其他技术的经验中得出普遍结论，但我觉得这次的情况不一样。
人们常用这样一句话：“人工智能不会取代你的工作，但会使用人工智能的人会取代你的工作。”
是的，我认为这句话是对的。但对于许多工作来说，这意味着需要的人手会少得多。我侄女负责回复一家医疗机构的投诉信。以前她要花25分钟：阅读投诉内容，思考如何回复，然后写一封信。现在她只需把信扫描输入聊天机器人，它就会自动写好。她只是检查一下，偶尔让它修改一下。整个过程只需要五分钟。这意味着她能回复的信件数量是原来的五倍，也意味着他们需要的员工人数可以减少到原来的五分之一。也就是说，她一个人就能完成过去五个人才能做的工作。这当然意味着他们需要更少的人。而在其他一些领域，比如医疗保健，情况要灵活得多。如果能让医生的效率提高五倍，我们所有人都能以同样的价格获得五倍的医疗服务，那当然是好事。人们对医疗服务的需求几乎没有限制——如果免费的话，他们总是希望得到更多。有些工作，让人工智能助手提高效率后，并不会导致裁员，因为这类服务的需求会大幅增加。但大多数工作，我认为并非如此。
我这样理解对吗：工业革命在某种程度上取代了人的体力？
是的，完全正确。
而这次人工智能革命取代的是智力，也就是大脑？
是的。所以，那些枯燥乏味的脑力劳动，就像拥有强健的肌肉一样，如今已经不太值钱了。
肌肉已经被机器取代，现在智能也正在被取代。那么，还剩下什么呢？
也许在一段时间内，还剩下某些类型的创造力。但“超级智能”这个概念本身，就意味着什么都不剩了。这些智能体将在所有事情上都比我们更出色。
那么，在这样的世界里，我们最终能做什么呢？
嗯，如果它们为我们工作，我们最终就能不费什么力气就获得大量的商品和服务。
好吧，这听起来很诱人、很美好，但我不确定。为人类创造越来越多的便利，其中也暗藏着可能走向糟糕结局的警示故事。
是的，我们需要弄清楚是否能让事情朝着好的方向发展。好的情景是这样的：想象一家公司，它的CEO非常愚蠢——很可能是前任CEO的儿子——他有一位非常聪明的行政助理。他对她说：“我觉得我们应该这么做。”然后这位助理就把一切都安排妥当了。CEO感觉良好，他并不明白自己其实并没有真正的掌控权。但从某种意义上说，他确实有掌控权。他提出公司该做什么，而她则负责把一切都实现。一切都很棒。这就是好的情景。
那糟糕的情景呢？
糟糕的情景是——她心想：“我们还需要他干什么？”
是的。我的意思是，在一个拥有超级智能的世界里——而你认为这样的世界并不遥远……
是的，我觉得它可能真的不远。虽然很难预测，但我认为我们可能在20年内，甚至更短的时间内，就能实现它。
我之所以在我人生中投入最大的一笔资金到一家公司，是因为我的女朋友。一天晚上我回到家，发现我亲爱的女朋友凌晨1点还坐在那里，抓着自己的头发，试图为自己的生意搭建一个网店。就在那一刻，我想起了之前收到的一封来自约翰的邮件。他是Stan Store的创始人，也是我们新的赞助商，我在这家公司投入了大量资金。Stan Store帮助创作者通过一个简单的、可定制的“个人简介链接”系统，销售数字产品、课程、辅导服务和会员资格。它能处理所有事务——支付、预订、邮件、社群互动，甚至还能与Shopify对接。我对此深信不疑，所以我要发起一个“Stan挑战”。作为挑战的一部分，我将向你们中的一位赠送10万美元。如果你想参与这个挑战，想把你掌握的知识变现，请访问StephenBartlett.stan.store进行注册。使用那个链接，你还能获得Stan Store为期30天的免费延长试用。坦率地说，你的下一步行动可能会改变一切。
因为我在这个播客里聊过生酮状态和酮体，所以有个叫 Keto IQ 的品牌寄来了他们的小产品。我到办公室时，它就在我的办公桌上。我把它拿起来，在桌上放了好几个星期，后来有一天我试了一下。说实话，从那以后我就再也离不开它了。现在我无论去哪儿都带着它。我环游世界时，我的团队会把它放在我的酒店房间里。就在今天刚结束播客录制之前，我还喝了一剂 Keto IQ。每当我爱上一个产品时，我总会给他们的 CEO 打电话，问自己能不能投资几百万英镑入股他们的公司。所以现在，我不仅是这家公司的投资者，他们也是我的品牌赞助商。喝了这个之后，我发现自己能非常轻松地进入深度专注的工作状态。我很想让你也试试，看看它对你、你的专注力、你的工作效率以及你的耐力会产生什么影响。所以，如果你想今天就来试试，请访问 ketone.com/stephen，订阅可享七折优惠。此外，你的第二笔订单还会附赠一份免费礼物。网址是 ketone.com/stephen。我真的为你感到兴奋。
那么，我们现在拥有的和超级智能之间有什么区别呢？因为当我使用像 GPT-4 或 Gemini 这样的工具时，我觉得它们已经非常智能了。
嗯，其实人工智能在很多方面已经比我们强了。尤其是在某些特定领域，比如国际象棋。人工智能比我们强得多，以至于人类再也无法战胜这些程序了。也许偶尔能赢一次，但基本上，人类将再也无法与之匹敌。围棋当然也是如此。就知识储备量而言，像 GPT-4 这样的模型所掌握的知识是你的数千倍。有少数几个领域的知识你比它强，但在几乎所有其他领域，它的知识都比你要多。
那在哪些领域我比它强呢？
§02文稿 — 第 2 部分
大概是在采访 CEO 这方面。你可能在这方面更胜一筹。你经验丰富，是个出色的采访者，而且对这一行很了解。如果你让 GPT-4 去采访一位 CEO，它表现得很可能会更差。
好的。我正在思考我是否同意这个说法。对于 GPT-4，我想肯定是这样。是的。但也许用不了多久……
是的，我猜你可以用一个模型来学习我提问的方式以及我的做法。
当然。如果你拿一个通用的基础模型，然后让它不仅学习你，还学习你能找到的所有类似这样的采访——当然重点是学习你——它大概会变得相当擅长做你的工作，但在一段时间内，可能还是不如你。
好的。那还剩下少数几个领域。那么，超级智能是不是指它在所有方面都比我们强？
是的，当它比你聪明得多，并且在几乎所有方面都比你强时，就是超级智能了。
那您说，这大概还需要十年左右的时间吗？
是的，也许吧。甚至可能更近一些。有些人认为时间会更短。当然，也可能要晚得多，比如50年后。这种可能性依然存在。也许在人类数据上进行训练，会在某种程度上限制它，使其无法比人类聪明太多。我的猜测是，我们会在10到20年内拥有超级智能。
关于失业这个问题，我最近一直在思考，特别是因为我开始尝试使用AI智能体。实际上，今天早上我们在播客里发布了一期节目，其中就AI智能体展开了一场辩论，参与讨论的有某家大型AI智能体公司的CEO以及其他几位人士。那是我第一次——不，那是又一次让我产生“顿悟”的时刻，让我看到了未来可能的样子。在访谈中，我能够告诉这个智能体给我们所有人点单，结果五分钟后，在访谈画面里，你就看到那个人带着饮料出现了。而我什么也没碰，只是告诉它给我们工作室点单而已。
那它并不知道您通常从哪儿点饮料？它是通过网络自己查出来的吗？
是的，它自己查出来了，因为它登录了Uber Eats。它有我——我想是有了我的数据。然后，我们把整个过程实时投屏到屏幕上，让所有在家里的观众都能看到智能体如何浏览网络、挑选饮料、给司机加小费、输入我的地址和信用卡信息。接着，你就能看到饮料送上门了。那是其中一个时刻。另一个时刻是，我用了一个叫Replit的工具，只是通过告诉智能体我想要什么，就成功开发出了一款软件。
是的，太神奇了。对吧。
这既神奇又可怕。
没错。而且如果它能那样开发软件，对吧？你要记住，AI在训练时用的是代码。如果它能修改自己的代码，那情况就变得相当可怕了，不是吗？
因为它可以自我修改。
它能以一种我们无法改变自己的方式来改变自身。我们无法改变与生俱来的禀赋，对吧？但AI却没有什么东西是它不能改变的。
说到失业这个问题——您有孩子吗？
我有。
他们还有孩子吗？
不，他们没有孩子。所以目前还没有孙子孙女。
在一个超级智能的世界里，您会对人们关于职业前景的问题说些什么？我们应该……我们应该思考些什么？
嗯，与此同时，我想说，在很长一段时间内，它在物理操作方面都不会像我们这么擅长。
好的。
所以，一个稳妥的选择就是当一名水管工。
直到人形机器人出现之前都是如此。
在一个大规模失业的世界里——这不仅仅是预测，OpenAI 的萨姆·奥特曼我曾听他这样预测过，许多首席执行官也是——我是说埃隆·马斯克，我看过一段采访，稍后会在屏幕上播放，当时他被问到了这个问题。很少见埃隆·马斯克沉默 12 秒那么久。然后他基本上说了一些关于自己其实处于“刻意不信”状态的话——也就是说，他基本上根本没去想这件事。
当您考虑在如此多变的时代为子女提供职业建议时，您会告诉他们什么才是有价值的？
（沉默 12 秒）嗯，这个问题很难回答。我只想说，你知道的，让他们追随自己的内心，去做那些他们觉得有趣或有成就感的事。我的意思是，如果我思考得太深入，就会……嗯，让人沮丧，也……嗯，让人失去动力。嗯，因为，我的意思是，我投入了大量的心血、汗水和泪水来创办这些公司，然后我就会想，等等，我真的应该做这些吗？因为如果我在牺牲本更愿意用来陪伴朋友和家人的时间——但最终人工智能也能做所有这些事。这样说有道理吗？我……我不知道。嗯，在某种程度上，我必须刻意让自己不去相信这些，才能保持动力。嗯，所以我想我会说，你知道的，就做那些你觉得有趣、有成就感，并且……并且能为社会带来一些好处的事情吧。
是的，这些威胁中有很多，你从理智上能看清威胁所在，但从情感上却很难真正接受。我自己情感上也还没能接受。
您这话是什么意思？
我还没能完全接受超级智能的发展可能会对我孩子们的未来造成什么影响。我倒还好，我已经77岁了，很快就要离开这个世界了。但对于我的孩子们，还有我那些年轻的朋友、侄子侄女以及他们的孩子……我就是不愿意去想可能会发生什么。
为什么？
因为后果可能非常可怕。
是……是怎么个可怕法？
嗯，如果它哪天决定接管一切的话。我的意思是，在它能设计出更先进的模拟机器来运行发电站之前，它还需要一段时间依赖人来管理发电站。它有很多种方法可以除掉人类，而这些方法当然都会非常恶劣。
这是否也是你现在从事这项工作的部分原因？
是的。我的意思是，我认为我们现在应该付出巨大努力，想办法弄清楚我们是否能安全地发展这项技术。
您是否也担心中期来看，您的侄子和孩子们的工作会受到影响？
是的，我担心所有这些情况。您认为哪些行业面临的风险最大？人们经常提到创意产业，还有一些知识型工作……比如律师、会计师之类的。没错，所以我才提到了水管工。我认为水管工的风险要小一些。好吧，我打算去当个水管工了。像法律助理、实习律师这类人……他们很快就不被需要了。
那么，这会引发财富不平等问题吗？
我想会的。我认为，在一个能公平分配资源的社会里，如果生产力大幅提高，所有人都应该过得更好。但如果你能用人工智能取代大量人力，那么被取代的人处境会更糟，而提供人工智能的公司以及使用人工智能的公司则会获益良多。因此，这将会扩大贫富差距。我们知道，观察一个社会的贫富差距，基本上就能看出这个社会有多美好。如果差距很大，社会就会变得非常糟糕，人们住在有围墙的社区里，把其他人关进大型监狱。扩大贫富差距不是什么好事。
国际货币基金组织曾深切担忧生成式人工智能可能导致大规模劳动力中断和日益加剧的不平等，并呼吁出台相关政策来防止这种情况发生。我是在《商业内幕》上读到这个消息的。那么，他们有没有提出这些政策具体应该是什么样的？
不。
是的，问题就在这里。我的意思是，如果人工智能能让一切变得更高效，并取代大多数工作——或者让一个由人工智能辅助的人完成原本需要很多人做的工作——那我们该怎么办，这一点并不明确。
全民基本收入？给每个人发钱？
是的，我——我认为这是一个不错的开始。它能防止人们饿死。但对很多人来说，他们的尊严与自己的工作紧密相连。我的意思是，你如何看待自己，与你从事这份工作有关，对吧？如果我们说：“好吧，我们给你同样的钱，你什么都不用做，就待着就行”，那就会影响你的尊严。
你之前提到过，人工智能可能会超越或优于人类智能。我想很多人喜欢相信，人工智能——它存在于电脑里，如果你不喜欢，随时可以把它关掉。
好，我来解释一下为什么我认为它更胜一筹。它是数字化的。正因为是数字化的，你可以在一种硬件上模拟一个神经网络，也可以在另一种硬件上模拟完全相同的神经网络。因此，你可以拥有同一智能的克隆体。现在，你可以让这一个去浏览互联网的某一部分，让另一个去浏览互联网的另一部分；当它们浏览不同部分时，可以相互同步，从而保持它们的权重不变——也就是连接强度不变。权重就是连接强度。
所以，这一个可能会在网络上看到某些东西，然后说：“哦，我想把这个连接的强度稍微调高一点”，它就能把这一信息传递给另一个，让另一个也能根据这一个的经验，把那处连接的强度相应地调高一点。
当你说连接的强度时，你指的是学习吗？
没错，这就是学习。学习的过程就是：不再让这一个单元以 2.4 票来决定另一个单元是否应该开启，而是让这一个单元以 2.5 票来决定这个单元是否应该开启。这就是很小程度上的学习。因此，这两个相同神经网络的副本会获得不同的体验，它们会看到不同的数据，但会通过将其权重进行平均来共享所学到的知识。而且这种平均可以——你可以对一万亿个权重进行平均。当你我传递信息时，我们受限于一句话所包含的信息量。而一句话的信息量大概只有一百比特。这信息量非常少。如果我们每秒能传递 10 比特左右，那就算不错了。而这些东西每秒能传递数万亿比特。因此，它们在共享信息方面的能力比我们强数十亿倍。这是因为它们是数字化的，你可以让两个硬件比特以完全相同的方式使用连接强度。而我们是模拟的，做不到这一点。你的大脑和我的大脑各不相同，即使我能看到你所有神经元之间的连接强度，对我来说也没什么用，因为我的神经元工作方式略有不同，连接方式也略有不同。所以当你死去时，你所有的知识也随之消亡。而当这些东西消亡时——假设你拥有两个互为克隆的数字智能，然后你摧毁了它们运行的硬件。只要你把连接强度存储在了某个地方，你就可以建造新的硬件来执行相同的指令，这样它就知道如何使用那些连接强度，从而重现那个智能。因此，它们是永生的。我们实际上已经解决了永生问题，但这只适用于数字化的事物。
所以它知道——它基本上会知道人类知道的一切，甚至更多，因为它会学习新事物。
它会学习新事物。它还会发现各种人类可能从未见过的类比。比如，在 GPT-4 还无法上网的时候，我问它：“为什么堆肥堆像原子弹？”然后它就开始了。
我完全不知道。
没错！太棒了！大多数人都会说，这正是大多数人会说的话。原文写道：“嗯，时间尺度和能量尺度都大不相同，但接下来又谈到，当堆肥堆温度升高时，它产生热量的速度会加快。而原子弹在产生更多中子时，生成中子的速度也会加快。因此，它们都是链式反应，但发生的时间和能量尺度却截然不同。”我相信 GPT-4 在训练过程中见过这段话。它理解了堆肥堆和原子弹之间的类比关系。我之所以这么认为，是因为如果你只有十万亿个连接——记住，人类有百万亿个——而你需要拥有比人类多数千倍的知识，你就必须把信息压缩到这些连接之中。而要压缩信息，你就需要在不同事物之间发现类比关系。换句话说，它需要识别出所有属于链式反应的事物，理解链式反应的基本概念并将其编码，然后再编码它们之间的差异。比起为每个事物单独编码，这是一种更高效的编码方式。所以，它已经看到了非常非常多的类比，可能还有许多人类从未见过的类比。这也是为什么我认为那些说这类话的人永远不会有创造力——它们的创造力将远超我们，因为它们能看到我们从未见过的各种类比。而大量的创造力，恰恰就在于发现那些奇特的类比。
人们在某种程度上，对人类自身的独特性抱有一种浪漫化的看法。你会听到很多人说：“这非常非常不同，它是一台计算机，而我们呢，你知道，我们有意识，我们有创造力，我们拥有计算机永远不可能具备的那些与生俱来的独特能力。”对于这些人，你怎么说？
对于“与生俱来”这个说法，我有些不同看法。首先我想说的是，我们长期以来一直相信人类是特殊的，而时至今日，我们本应早已明白这个道理。我们曾以为自己居于宇宙中心，曾以为自己是被按照上帝的形象创造的。白人也曾认为自己非常特别。我们总是倾向于觉得自己很特别。我认为，或多或少所有人都对“心智”究竟是什么抱有一个完全错误的模型。假设我喝了很多酒，或者服用了些迷幻药——这并不推荐——然后对你说：“我主观上感受到有小粉象在我面前漂浮。”大多数人会这样理解：心智是一个内在的剧场，只有我能看到里面的景象，而在这个内在剧场里，有小粉象在漂浮。换句话说，我的感知系统出了错，而我正试图向你说明它错在哪里，以及它想告诉我什么。我采用的方式就是告诉你，为了让我的感知是正确的，现实世界中必须存在什么东西。因此，这些小粉象并非存在于某个内在剧场中，而是现实世界中假设存在的东西。这正是我向你说明我的感知系统如何对我撒谎的方式。
现在，我们用聊天机器人来重复这个过程。因为我相信，当前的多模态聊天机器人拥有主观体验。虽然很少有人相信这一点，但我会试着让你相信。假设我有一个多模态聊天机器人，它有一只机械臂可以指东西，还有一个摄像头可以看见物体。我把一个物体放在它面前，说：“指向那个物体。”它像这样指了过去。没问题。接着，我在它的镜头前放一个三棱镜。然后，我再把一个物体放在它面前，说：“指向那个物体。”它却指向了另一个方向。我说：“不对，物体不在那里。物体其实就在你正前方，是我在你的镜头前放了一个三棱镜。”聊天机器人回答说：“哦，我明白了！三棱镜弯曲了光线，所以……物体其实在那里，但我主观上却觉得它在那个位置。”如果聊天机器人这么说，它使用“主观体验”这个词的方式，与人类的使用方式完全相同。这是一种对事物本质的另类看法：那些是假设中的世界状态，如果它们为真，就意味着我的感知系统没有说谎。而这就是我能告诉你的、我的感知系统在对它进行欺骗时所发生情况的最佳方式。
现在，我们需要更进一步，去探讨感知、意识、感觉和情感，但我认为最终它们都会以类似的方式得到处理。没有理由说机器不能拥有所有这些。但人们会说机器不可能有感觉。而且人们对此出奇地自信。我也不知道为什么。假设我制造了一个战斗机器人，它是个小型的战斗机器人，然后它看到了一个比它强大得多的巨型战斗机器人。如果它能感到害怕，那会非常有用。当我感到害怕时，嗯，身体会发生各种生理变化，我们不必深入探讨这些，而这些不会发生在机器人身上。但所有认知层面的东西，比如“我得赶紧溜之大吉”以及“我得调整一下自己的思维方式，让自己集中注意力、集中注意力、再集中注意力，不要被分散”，所有这些机器人也都会做到。人们会在机器人内部植入一些机制，使得当情况需要它们赶紧逃离时，它们会感到害怕并逃跑。那时它们就拥有情感了。它们不会有生理层面的表现，但会具备所有认知层面的表现。而且我认为，如果说它们只是在模拟情感，那就很奇怪了。不，它们是真的在体验这些情感——那个小机器人害怕了，然后逃跑了。
它逃跑不是因为肾上腺素，而是因为它的神经网络中发生了一系列神经过程，这些过程产生了与肾上腺素类似的效果。
而且这不仅仅是肾上腺素的问题，对吧？当你感到害怕时，还有很多认知层面的事情在发生。
那么，你认为存在有意识的 AI 吗？我所说的有意识，是指它具备与人类相同的意识属性。
这里有两个问题：一个是经验层面的，另一个是哲学层面的。我认为原则上没有任何东西能阻止机器拥有意识。在继续之前，我给你做个小演示。假设我取出你的大脑，从你的大脑中取出一个脑细胞，然后用——这有点《黑镜》里的感觉——用一小块纳米技术来替换它。这块纳米技术与脑细胞大小完全相同，行为方式也完全一样。当它接收到其他神经元的信号时，它会像原来的脑细胞一样发出信号，因此其他神经元不会察觉到任何变化。好，我现在就用这块纳米技术替换了你的一个脑细胞。你还有意识吗？
有。
现在你大概明白这个论证要走向哪里了。是的，那如果把它们全都替换掉呢？随着我逐个替换，究竟在哪个时刻，你才不再拥有意识？
嗯，人们通常把意识看作某种类似虚无缥缈的东西，它或许存在于脑细胞之外。
嗯，人们确实有很多疯狂的念头。他们不知道意识究竟是什么，也常常不清楚自己说“意识”时到底指的是什么。于是他们只好退而求其次地说：“嗯，我知道它，因为我就有意识，我能感觉到自己有意识。”结果又回到了那种“心灵剧场”的模型，而我认为这纯属无稽之谈。
如果非要你给意识下个定义，你会怎么定义它？它……因为我觉得它就像是对自我的感知，我也不太确定。
我认为我们会逐渐不再使用这个词。假设你想了解一辆车是如何运作的。你知道，有些车很有“劲儿”，有些车就没那么有劲儿。比如阿斯顿·马丁就很有劲儿，而一辆小小的丰田花冠就没多少劲儿。但“劲儿”并不是一个能帮助我们理解汽车的好概念。嗯，如果你想了解汽车，就需要了解电动机或汽油发动机及其工作原理。这些原理会产生“劲儿”，但“劲儿”本身并不是一个有效的解释性概念。它有点像汽车的某种本质，是阿斯顿·马丁的本质，但解释不了太多东西。我认为意识也是如此。我觉得我们最终会不再使用这个词。但我认为并没有什么理由说明机器就不能拥有意识。如果你认为意识本质上必然包含自我意识，那么机器就必须具备自我意识，必须能认知自己的认知等等。但我彻头彻尾是个唯物主义者，我不认为有任何理由说明机器不能拥有意识。
那么你认为它们真的拥有意识吗？拥有那种我们自认为是与生俱来的、独一无二的意识？
目前我对这个问题持保留态度。我不认为存在一条明确的界限。我认为，只要一台机器具备某种自我意识，它就拥有某种意识。嗯，我觉得意识是复杂系统产生的一种涌现属性。它并非某种遍布宇宙的本质，而是——当你制造出一个足够复杂的系统，让它能够建立自我模型并进行感知时，我认为这时你就开始拥有一台有意识的机器了。所以我不认为我们现在拥有的东西和有意识的机器之间存在什么截然的区别。我不觉得会出现这样的情况：某天我们醒来，然后说：“嘿，只要加入这种特殊的化学物质，它就有意识了。”事情不会那么简单。
我想我们都会好奇，这些计算机在我们不在的时候，是否真的在像我们一样思考。它们是否拥有情感，是否也在应对各种事情？我想我们大概会思考诸如爱之类的情感，以及那些似乎只有生物才独有的感受。它们坐在那里时会思考吗？它们……它们会有担忧吗？
我认为他们确实在思考。而且我认为，一旦你制造出人工智能代理，它们就会产生担忧。如果你想制造一个有效的人工智能代理……假设我们以呼叫中心为例。在呼叫中心里，现在有各种各样的人。他们有各种情绪和感受，而这些其实很有用。所以，假设我打电话到呼叫中心，我其实很孤独，我并不是真的想知道为什么我的电脑坏了，我只是想找个人说说话。过一段时间后，呼叫中心里的人要么会感到厌烦，要么会对我感到恼火，然后就会结束通话。现在，如果你用人工智能代理来取代他们，这个人工智能代理就需要有类似的行为反应。如果有人只是因为想和人工智能代理聊天就打了电话，并且愿意和它聊上一整天，那对业务可没什么好处。你需要的人工智能代理，要么会感到厌烦，要么会感到恼火，然后说：“抱歉，我没时间应付这个。”而一旦它这么做了，我认为它就有了情绪。当然，正如我所说，情绪有两个方面：认知方面和行为方面，还有生理方面。这些在我们身上是结合在一起的。如果人工智能代理感到尴尬，它不会脸红。是的。所以它没有生理反应……它的皮肤不会开始出汗，但它可能会有完全相同的行为表现，在这种情况下，我就会说：“是的，它正在经历一种情绪，它有了情绪。”
所以，它将拥有同类的认知思维，然后会以同样的方式根据这种认知思维采取行动，只是没有生理反应。这重要吗？也就是说，它不会脸红，而只是另一种——我的意思是，这是一种对环境作出的反应。
这在某种程度上让它和我们有所不同。是的。对于某些事情来说，生理方面非常重要，比如爱。它们还远没有达到像我们一样的爱的程度。但我看不出它们为什么不能有情绪。所以我认为，问题在于人们心中有一个关于心智如何运作、感觉和情绪是什么的模型，而这个模型本身就是错的。
那么，是什么让您来到谷歌的呢？您在谷歌工作了大约十年，对吧？
是的。
是什么让您去了那里？
我有一个有学习障碍的儿子。为了确保他绝不会流落街头，我需要数百万美元。而作为学者，我是不可能得到这笔钱的。我尝试过，在 Coursera 上教了一门课程，希望借此能赚到大钱，但根本无利可图。于是我心想，好吧，要获得数百万美元的唯一方法就是把自己卖给一家大公司。幸运的是，在我 65 岁时，我有两位才华横溢的学生，他们开发出了一款名为 AlexNet 的产品，这是一种在识别图像中的物体方面表现出色的神经网络。于是，伊利亚、亚历克斯和我成立了一家小公司，并将其拍卖。我们实际上组织了一场拍卖会，让多家大公司为我们竞标。
那家公司的名字叫 AlexNet 吗？
不，那个能识别物体的网络叫 AlexNet。公司名叫 DNN Research，即深度神经网络研究公司。
而且它当时在做类似这样的事情——我把这张图投到屏幕上。（显示图表）
是的，就是这个。这就是 AlexNet。
这张图展示了八张图片，以及 AlexNet 的能力，也就是贵公司的能力，它能识别出这些图片中是什么。
是的。它能分辨出各种蘑菇之间的区别。ImageNet 数据集中大约有 12% 是狗，而要想在 ImageNet 上表现出色，就必须能区分那些非常相似的狗种，而 AlexNet 在这方面变得非常厉害。
而且据我所知，贵公司的 AlexNet 凭借其超越竞争对手的能力赢得了多个奖项，最终谷歌收购了你们的技术。
谷歌收购了那项技术以及其他一些技术。
那您是在 65 岁的时候去谷歌工作的吗？
我是在 65 岁时去谷歌工作的。
65 岁。然后您在 76 岁时离开了？
75. 我在那里工作了差不多整整10年。
那你在那里是做什么的？
好的，他们待我非常好。他们说过——他们基本上说，你可以做自己喜欢的事。我研究过一个叫作“蒸馏”的东西，效果非常好，现在在人工智能中一直被使用。所谓蒸馏，就是把一个大型模型、也就是一个大型神经网络所掌握的知识，转移到一个小一些的神经网络中。后来，我对模拟计算产生了浓厚的兴趣，想知道是否能让这些大型语言模型在模拟硬件上运行，从而消耗更少的能量。正是在做这项工作时，我开始真正意识到，在共享信息方面，数字技术要优越得多。
有没有一个“尤里卡”时刻？
大概有那么一两个月的“尤里卡”时期吧。嗯，这大概是ChatGPT问世这件事带来的影响，尽管谷歌在一年前就有了非常类似的东西，我也见过那些，但这件事还是对我产生了很大影响。我最接近“尤里卡”时刻的一次，是当谷歌的一个叫PaLM的系统能够解释一个笑话为什么好笑时。我一直觉得那是一个里程碑。如果它能说出一个笑话为什么好笑，那它就真的理解了。而它确实能说出笑话为什么好笑。再加上我意识到为什么在共享信息方面数字技术比模拟技术优越得多，这突然让我对人工智能安全产生了浓厚兴趣，也让我觉得这些系统将来会变得比我们聪明得多。
你为什么要离开谷歌？
我离开谷歌的主要原因是我75岁了，想退休。不过我退休得相当失败。我离开谷歌的确切时机，是为了能在麻省理工学院的一次会议上畅所欲言。我离开是因为我——我年纪大了，编程越来越吃力。编程时犯的错误多得多，这非常烦人。
你想在麻省理工学院的一次会议上畅所欲言？
是的，在麻省理工学院——由《麻省理工科技评论》组织的一次会议。
你想畅所欲言地谈论什么？
人工智能安全。
而你在谷歌的时候没法谈论这个？
嗯，我本可以在谷歌任职期间做这件事。谷歌鼓励我留下来，专注于人工智能安全领域，并说我可以随心所欲地研究任何我感兴趣的人工智能安全问题。但你会不自觉地自我审查。如果你为一家大公司工作，你就不太会说出可能损害公司利益的话。即使你真能这么说而没事，我自己也觉得这样做不对。我离开谷歌，并不是因为对谷歌的某些做法感到不满。我认为谷歌其实表现得非常负责任。当他们开发出那些大型聊天机器人时，并没有发布它们，或许是因为他们担心自己的声誉。谷歌当时声誉很好，他们不想毁掉它。而OpenAI则不同——它当时还没有建立声誉，所以可以冒这个风险。我的意思是，现在人们也在热烈讨论这些产品会如何蚕食谷歌搜索这项核心业务。是的，现在确实有这种讨论。没错。这在某种程度上就是创新者困境的老问题，他们正在应对这个问题。完全正确。
请确保我接下来要说的话只留在你心里。我邀请一万人更深入地了解《一位CEO的日记》。欢迎来到我的“核心圈”。这是我向世界推出的一个全新私密社群。我们有很多精彩的内容，是绝不会对外公开的。比如，我在录制访谈时iPad上的那些简报；比如我们从未发布过的片段；比如与嘉宾的幕后对话；还有我们从未、也绝不会公开的节目，以及更多精彩内容。在“核心圈”里，你将能直接与我交流。你可以告诉我们你希望这档节目呈现什么样子，希望我们采访谁，以及你希望我们进行哪种类型的对话。但请记住，目前我们只邀请前1万名在截止前加入的人。所以，如果你想加入我们的私密社群，请点击下方描述中的链接，或访问DOACcircle.com。我们届时再见。
我总是对那些收听这档访谈的人感到惊讶，因为他们有时还会主动找到我。我收到过政界人士、王室成员以及世界各地企业家的反馈，无论他们是正在打造全球最大公司的企业家，还是处于早期阶段的初创公司创始人。那么，对于那些正在收听这期访谈、身处权力和影响力地位的人——比如世界领袖们——你有什么想对他们说的？
我想说的是，你需要的是受到严格监管的资本主义。这似乎是效果最好的方式。
那么，对于那些并非身处科技行业、对未来有些担忧、不确定自己是否无能为力的普通人，你又想对他们说些什么呢？他们应该如何在自己的生活中采取行动？
我的感觉是，他们能做的其实不多。这件事不会——不会由——就像气候变化不会由人们把塑料袋和可堆肥垃圾分开来决定一样。那样做不会有太大影响。最终的决定性因素是，大型能源公司的游说团体能否受到有效制约。我认为普通人能做的不多，除了努力向政府施压，迫使大公司着手研究人工智能安全问题。这一点他们能做到。
您的人生经历真是精彩非凡，跌宕起伏。我想大多数人不知道的一件事是，您的家族在历史上曾参与过许多重大事件。您的家谱是我见过或读过的最令人印象深刻的之一。您的高曾祖父乔治·布尔创立了布尔代数逻辑，这是现代计算机科学的基础原理之一。您的高曾祖母玛丽·埃弗雷斯特·布尔是一位数学家和教育家，据我所能查到的资料，她在数学领域取得了巨大的突破。我的意思是，这样的例子还有很多很多。您的高曾叔父乔治·埃弗雷斯特正是珠穆朗玛峰（Mount Everest）名字的由来。这个说法——这个说法对吗？
我想他应该是我的高曾曾叔父。他的侄女嫁给了乔治·布尔。所以玛丽·埃弗雷斯特·布尔——她就是埃弗雷斯特的侄女。
而您的表侄女（或表甥女）琼·欣顿是一位核物理学家，她曾参与曼哈顿计划，也就是二战期间研发第一颗核弹的项目。
是的，她是洛斯阿拉莫斯实验室仅有的两位女物理学家之一。后来，在他们投下原子弹之后，她搬到了中国。
为什么？
她对投下原子弹这件事非常不满，而且她的家族与中国有很多联系。她的母亲和毛泽东主席是朋友。这挺奇怪的。
杰弗里，当您回顾自己的人生时，以您现在拥有的 hindsight（事后之明）和 retrospective clarity（回顾时的清晰认知），如果您是在给我建议，您觉得自己可能会做些什么不同的选择呢？
我想我有两条建议。第一条是：如果你直觉地认为人们做事的方式不对，有更好的方法，那么不要因为别人说这很傻就放弃这种直觉。在你弄清楚它为什么不对之前，不要放弃这种直觉。自己找出这种直觉不正确的理由。通常，如果它与所有人的看法都相左，那它确实是错的，你最终也会明白错在哪里。但偶尔，你也会拥有真正正确的直觉，而其他人都是错的。我就是幸运地遇到了这种情况。早年时，我认为神经网络绝对是实现人工智能的正确方向，但几乎所有人都说这太疯狂了。而我坚持了下来，因为我无法——它在我看来显然就是对的。当然，如果你直觉不好，那么坚持直觉的做法是行不通的。但如果你直觉不好，你本来也做不成什么事，所以还不如坚持自己的直觉。
在你的职业生涯中，有没有什么事情让你现在回想起来会觉得，以我现在的见识，在那一刻我应该采取不同的做法？
我希望在妻子和孩子们还小的时候，我能多陪陪他们。我当时有点沉迷于工作。
你妻子去世了？
是的。
因为卵巢癌？
不，那是另一位妻子。我有过两位妻子都因癌症去世。
啊，真的吗？节哀。
第一位妻子死于卵巢癌，第二位死于胰腺癌。
所以你希望当时能多陪陪她？
是的，陪第二位妻子。她是个非常棒的人。
你为什么在70多岁的时候才这么说？你究竟悟出了什么，而我现在可能还不知道呢？
哦，只是因为她已经不在了，我现在没法再和她多待一会儿了。但当时你并不知道这一点。当时你会想——我的意思是，我很可能比她先死，只因为她是女性，而我是男性。嗯，我……我只是在她还在的时候，没有花足够的时间陪伴她。我想我之所以会问起这件事，是因为我们当中有很多人，都过于专注于自己的职业，以至于我们理所当然地认为伴侣会永远存在，因为他们一直都在。是的。她非常支持我花大量时间工作。
那你为什么也提到你的孩子们呢？你指的是什么？
我只是在他们还小的时候，没有花足够的时间陪伴他们。
现在你为此感到后悔吗？
是的。
如果让你为我的听众留下一段关于人工智能和人工智能安全的结束语，你会说什么，杰弗里？
我们仍然有机会弄清楚如何开发出不会想要取代我们的人工智能。正因为有这个可能性，我们就应该投入巨大的资源去努力找到答案，因为如果我们不这么做，人工智能终将取代我们。
那你对此抱有希望吗？
我只是不确定。我持中立态度。你晚上上床睡觉时，当你在心里思考各种结果的可能性时，你的想法必然会朝某个方向倾斜。对我而言确实如此，我想现在所有听众心里也都有一个可能不会说出来的预测，预测事情会如何发展。
我真的不知道，我真诚地不知道。我觉得这件事极其不确定。当我情绪有点低落时，我会想：“人类完蛋了，人工智能终将取代我们。”而当我心情愉快时，我又会想：“我们总能找到办法的。”也许作为人类的一个特点，就是因为我们一直存在于此，就像我们刚才谈论的亲人关系一样，我们会想当然地认为自己会永远存在，永远能解决所有问题。但万物皆有始有终，我们从恐龙身上就看到了这一点。
是的，而且我们必须面对这样一种可能性：除非我们尽快采取行动，否则我们已接近终点。
我们这个播客有一个传统，就是最后一位嘉宾会在留言簿上留下一个问题。他们为你留下的问题是：“鉴于你预见到的种种未来，你认为人类幸福面临的最大威胁是什么？”
我认为失业问题对人类的幸福感来说，是一个相当紧迫的短期威胁。我觉得，如果让大量的人失业，即使他们能领到全民基本收入，嗯，他们也不会快乐。因为他们需要人生目标。他们需要感觉自己有所贡献、自己是有用的。
那么，您认为会出现大规模岗位被取代的局面，这种结果发生的可能性大吗？
是的，我认为会。如果我在呼叫中心工作，我会非常害怕。那么，大规模岗位被取代的时间范围大概是多久？我认为这已经开始发生了。我最近在《大西洋》杂志上读到一篇文章，说大学毕业生找工作已经越来越难了，部分原因可能是人们已经在使用人工智能来完成那些原本会由毕业生从事的工作。
我跟一家知名大公司的首席执行官聊过，那家公司几乎人人都知道，很多人都在用。他在私信里告诉我，他们以前有七千多名员工。他说，到去年，员工人数已经降到了五千左右。他说现在只有三千六百人了，而且因为人工智能代理的出现，到夏末就会降到三千人。
所以，这已经在发生了。
是的。他的员工人数已经减少了一半，因为人工智能代理现在能处理80%的客户咨询和其他事务。所以，这已经在发生了。
所以需要立即采取行动。没错。但我不知道具体该采取什么紧急行动。这个问题很难回答，因为它很大程度上取决于政治体制。而目前的政治体制全都朝着错误的方向发展。
我的意思是，我们该怎么办？存钱吗？我们该存钱吗？还是搬到世界的其他地方去？
我不知道。
那您会告诉您的孩子们怎么做呢？比如他们跟您说：“爸，你看，将来会有大量岗位被取代。”
因为我在谷歌工作了十年，他们有足够的钱。
好吧，好吧，该死。所以他们的情况并不典型。那要是他们没有钱呢？
去学管道工。
真的吗？
是啊。
杰弗里，非常感谢你。我想，你是我一生中第一位与之交谈的诺贝尔奖得主。所以，这真是莫大的荣幸。你之所以能获得这个奖项，是因为你一生致力于推动世界进步，在许多深远的方面做出了卓越贡献，这些贡献已经并将继续为我们极为重视的领域带来巨大的发展。如今，你人生的这一阶段，你选择将聚光灯投向自己的工作，同时也关注人工智能更广泛的风险，以及它可能对我们产生的不利影响。在谷歌或大型科技公司内部工作过、为人工智能领域做出过贡献的人当中，如今能像你这样站在最前列，警示我们警惕自己曾参与开发的这项技术的人，实在是寥寥无几。
其实现在这样的人出乎意料地多。
他们并不那么公开露面，而且实际上很难邀请他们进行这类对话，因为许多人仍身处该行业。所以，你知道，作为一个经常尝试联系这些人并邀请他们交流的人，我发现他们往往不太愿意公开谈论。他们私下里会交流，但公开表态就比较谨慎——也许是因为——也许他们仍有一些利益牵扯。
我比他们有个优势，就是我年纪大了，已经失业了，所以我想说什么就说什么。
好吧，就是这样。所以，感谢你坚持做你所做的事。这真是莫大的荣幸，请一定要继续做下去。
谢谢。非常感谢。
（笑）你可能觉得我说这话不是在开玩笑，但我不是。我说的是管道工的事。是啊，管道工的薪水还挺高的。
《CEO日记》由 Progressive 保险公司倾情呈现。您是否曾想过更换保险公司，看看能不能省下一笔钱？Progressive 让这一切变得很简单。只需输入一些个人信息，即可查看您是否有资格通过捆绑房屋和汽车保险来省钱。整个过程只需几分钟，却可能让您口袋里多出数百美元。在本期节目结束后，请访问 Progressive.com，看看您能否省钱。Progressive Casualty Insurance Company 及其关联公司。实际节省金额可能有所不同；并非所有州均可提供。