Sam: 萨姆·哈里斯警告：ChatGPT 可能是终结的开始，AI「可能摧毁我们、互联网与民主」
WARNING By Sam Harris: ChatGPT Could Be The Start Of The End. AI "Could Destroy Us, The Internet And Democracy"
嘉宾：Sam
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01文稿 — 第 1 部分
人工智能是超人级的。它比你更聪明。而在这种关系中，较弱的一方天生就面临着危险。你根本无法把已经放出的 genie 再装回瓶子里。萨姆·哈里斯，神经科学家、哲学家、作家、播客主理人。他涉足的智力领域，鲜有他人敢于踏足。六年前，你做了一场 TED 演讲。我们在人工智能方面取得的进展，最终可能会毁灭我们。如果你的目标是让人类幸福，而面前有一个按钮，按下它就能终结人工智能，你会怎么做？
嗯，我肯定会暂停它。那种认为我们已经错过了决定是否将最强大的人工智能接入一切的时刻的想法，简直……哦，它已经连上了互联网，有数百万人在使用。而认为这些系统会因为我们创造了它们，就始终与我们保持一致的想法，却毫无根据。我们赋予了它们改写自身代码的能力，却没有理由相信它们会安分守己。我担心的是短期内人类会如何利用日益强大的人工智能。
它会如何加剧错误信息的传播。网络上的大部分内容很快都可能变成假的。18个月后，我们还能举行一场被公认为有效的总统选举吗？这安全吗？情况只会变得越来越可怕。我担心我们最终只能对互联网宣布破产。互联网。互联网。如果你的直觉是对的，你对我们能否幸存持乐观态度吗？萨姆，六年前，你做了一场 TED 演讲。过去一周里，我把那场演讲重看了好几遍。
那场 TED 演讲的题目是《我们能在不失控的情况下构建人工智能吗？》。在那场演讲中，你深入探讨了这样一个问题：当人工智能发展到某个具备感知和智能的阶段时，它是否会……是否会给人类带来灾难。六年后的今天，你对此持什么看法？你认为，你对我们能否幸存持乐观态度吗？是的，我的意思是，我不能说自己乐观。我担心这里存在太多……相互关联的物种层面的问题。
我的意思是，首先是短期问题，即人类会如何利用日益强大的人工智能，以及它会如何加剧错误信息和虚假信息的问题，让我们越来越难以共同理解现实。然后还有更长期的担忧，即所谓的“与通用人工智能保持一致”的问题。届时我们将构建出真正通用、且从定义上讲其能力和力量都超越人类的人工智能。
那么问题在于，我们是否已经以某种能够持久地符合自身利益的方式构建出了它？我的意思是，有些人根本看不到这个问题，他们对此视而不见。当我面对一个没有、不认同这种直觉的人时，他们对此毫无共鸣。我就是不明白，那一刻他们脑子里到底在想什么，或者根本没在想什么。就算我在这方面是错的吧。嗯，那好吧，只能说对方是对的。
所以，我们在这个特定问题上，本质上有着截然不同的直觉。而问题的关键在于：如果你设想的是构建真正具备超人类能力的通用人工智能，那么无论人们声称自己的直觉如何，他们想象的都是这个。我的意思是，在“对齐”问题的争论中，双方都有人。一方认为对齐是一个真实存在的问题，另一方则认为这完全是虚构的。
但几乎所有参与这场讨论的人都同意，我们最终将构建出在能力上超越人类的通用人工智能。而要对此充满信心，其实只需做很少的假设。实际上只有两个假设。其一是，智能不依赖于特定的物质基础，对吧？它不一定非得由肉体构成，它可以在硅基环境中实现，对吧？而我们已经通过狭义人工智能证明了这一点。
我的意思是，我们显然已经拥有了智能机器。你手机里的计算器，在算术方面就比你更出色。而这只是智能的一个非常狭窄的领域。没错。所以，只要我们继续基于“由肉体构成的计算机并没有什么神奇之处”这一假设来制造智能机器，那么唯一需要做的另一个假设就是：我们会持续不断地进行下去，我们会持续取得进展，并最终创造出比我们更智能的东西。
而这并不需要假设摩尔定律，也不需要假设指数级增长。我们只需要继续前进，对吧？而当你审视那些可能让我们无法继续前进的理由时，会发现它们都极其可怕，对吧？因为智能的价值如此巨大，我们又有强烈的动机去获得更多。而且智能的每一次提升都是有价值的。它并不是说，只有当智能翻倍或者增长到十倍时才变得有价值。不，不是这样的。哪怕只提升三个百分点，对吧，它所带来的回报就足以抵消成本了。
对吧？所以我们将会继续这样做。如果我们没能继续，那就说明在此期间发生了某些可怕的事情，对吧？我们经历过世界大战，也经历过比新冠疫情严重得多的全球大流行病，甚至可能被小行星撞击过。总之，发生了某些事，导致我们作为一个物种无法继续建造智能机器，对吧？但如果没有发生那种事，我们就会继续前进。我们终将面对比我们更智能的存在。
而正是在这一点上，人们的直觉产生了分歧。我的直觉——我相信很多人都有同感，而且我知道至少有一位你采访过的人也有这种看法——是，在这种关系中，较不聪明的一方天生就面临某种危险。较不聪明的物种与更聪明的物种共处，本身就存在危险。这一点我们已经有所体会，想想我们与所有比我们更不聪明、或者说至少能力不如我们的其他物种之间的关系就知道了，对吧？
所以……通过推理和类比，同样的情况也适用于比我们更智能的存在。人们之所以认为情况并非如此，是因为他们制造了这些机器，对吧？但我的直觉接下来是这样的：这种想法源于没有真正严肃地看待智能。因为所谓智能，尤其是双方智能不对等的情况，意味着较不聪明的一方从根本上无法理解较聪明的一方在做什么、为什么这么做，以及下一步会做什么，对吧？
我的意思是，你完全可以想象一下：假如狗发明了人类，把我们当作它们的超智能人工智能，对吧？其目的是为了改善它们的生活，为它们保障资源、提供舒适的环境、让它们得到医疗照顾。在过去大约一万年里，这对狗来说一直运作得相当不错，对吧？当然也有一些例外。我们确实会虐待某些狗，但总的来说，对大多数狗而言，在大部分时间里，人类都是一个了不起的发明，对吧？
现在，诚然，我们之间存在的智能差距，导致它们对我们在此期间已经变成什么样子完全无法理解。我们有许多工具性的目标，也有许多我们关心的事情，而它们根本不可能想象得到。它们知道，当我们拿起牵引绳并说“该散步了”时，它们能理解语言游戏中的这一特定部分。但除此之外，我们在彼此交谈时、在使用电脑或手机时所做的所有事情，它们都无法理解。
他们对我们正在做什么完全一无所知。而且如果我们真的，如果发生了什么事，我的意思是，我们爱我们的狗，事实就是如此。我们会为它们做出非理性的牺牲。我们把它们的健康置于各种事情之上，这实在令人惊叹。然而，如果我们得知，假如一场新的全球大流行病爆发了，某种外来病毒从狗身上传染给人类，而且它就像超级埃博拉一样，致死率高达90%。
而这就成了一个被迫的选择。你更看重什么？你狗的生命还是你孩子的生命？没错。如果我们真处在那种境地，这完全是有可能发生的。我的意思是，这绝非不可能。我们就会杀掉所有的狗，而它们至死都不会知道为什么。这是因为我们拥有思想、文化以及这个全新领域的层层叠加。存在这样一个精神层面，它需要达到一定的智力水平才能参与其中，甚至才能意识到它的存在，而它们……
它们根本不知道它的存在，对吧？所以……这是一个充满想象力的类比，因为狗并没有创造我们，是进化创造了我们，对吧？进化已经编码了我们，就像我说的，让我们生存和繁衍，仅此而已，对吧？所以进化无法看到我们用时间和注意力所做的一切其他事情，也无法看到我们在此期间形成的各种价值观，以及我们明确否定了我们所被赋予的程序的种种方式，对吧？
所以进化给了我们一个程序，但如果我们真的要遵循这个程序的指引来生活，我们会做些什么呢？我的意思是，我们会尽可能多地生孩子，对吧？那些男人会去精子库捐献精子，并认为这是他们利用时间和精力的最佳方式。我的意思是，那种可以拥有数百个孩子却无需承担任何经济责任的观念，本应是你利用时间所能做的最有价值的事情。
对于一个男人来说。然而，我们显然并非如此行事。有些人决定不生孩子，而还有很多人……而且，我们所做的其他所有事情——从像这样进行播客对话，到治愈疾病，再到我们利用科学、利用文化所做的一切——是的，这些成果与我们进化而来的能力之间确实存在交集。这并非魔法，对吧？
我们是一种社会性灵长类动物，利用某些古老的“硬件”来做一些新事情。但进化——也就是我们被赋予的“代码”——根本看不到这些，对吧？我们并没有被优化去建立民主制度，对吧？进化对此一无所知，它也不可能知道。如果进化是一个程序员……那它的代码里根本不存在民主最大化的目标，对吧？它根本就不存在。所以，认为这些东西会因为我们创造了它们、因为我们拥有这样的起源故事、因为我们为它们编写了最初的代码，就一定会与我们保持一致，这种想法是站不住脚的。
然而，我们却赋予了它们重写自身代码、构建未来世代的能力，对吧？根本没有理由相信它们会这么做。而这种智能上的不匹配本质上是危险的。你可以通过……我的意思是，斯图尔特·拉塞尔。我不知道你是否请他来过播客。他是伯克利大学一位杰出的计算机科学教授，而且他确实合著了最受欢迎的 AI 教材之一。是的。我的意思是，他提出了一些发人深省的类比，我认为这些类比能很好地帮助我们建立直觉。
其中一个类比是：想象一下，如果你得知——比如说，我们收到了来自银河系其他地方的通信。我们破译了这条信息，上面写着：“地球上的人民，我们将在 50 年后抵达你们这颗卑微的星球。做好准备吧。”对吧。任何认为我们会在——比如说——50 年内获得超强智能 AI 的人……其实都认为我们正处于类似的情境中，但我们在情感上却并没有做出同样的反应。
如果我们收到一个物种发来的通信，而仅仅因为它们能以这种方式与我们交流，我们就知道它们比我们更有能力、更强大、更智能，对吧？而且它们即将抵达，对吧？没错。我们会觉得自己正站在物种历史上最重大变革的门槛上。我们会感到——但最重要的是，我们会觉得这是因为一段强加于我们的、无法避免的关系正在形成，对吧？
这就像有一个新生物走进了房间，对吧？它有自己的能力，对吧？现在你们之间就建立了一种关系。而有一件事是绝对确定的：它比你更聪明，对吧？聪明多少倍呢？我的意思是，归根结底，我们谈论的是以……你知道，以如此多的数量级来计算的差异，我们的直觉已经完全失效了。我的意思是，哪怕只是处理速度上的差异——哪怕我们假设它们的原生智能其实并没有不同，只是处理速度更快而已。
处理速度上的一百万倍差异，不过是一种能力上的幻象式差异。所以，想象一下，我们有10个聪明人待在一个房间里，他们工作、思考、交谈的速度比我们快一百万倍。嗯，他们并不比我们更聪明，只是速度更快而已。而我们每两周才和他们交流一次，只是为了跟上他们的进展，了解他们在做什么、想做什么，以及是否还愿意和我们合作。
嗯，对我们来说的两周，对他们而言就相当于2万年的同等进步。我们怎么可能指望去约束那些并不比我们更聪明、却每当我们取得两周进步时就能取得2万年进步的人的意见，与他们合作或进行谈判呢？这简直——简直难以想象。然而，仍有许多人并不这么认为——他们只觉得这只是虚构。我过去五分钟内说的一切，听起来就像是一种——一种新的恐惧宗教，对吧？
而且，完全没有理由认为“对齐”甚至可能成为一个问题。如果你的直觉是对的，也就是我们接收到来自外太空的信号，有人将在30年后到来——顺便说一句，许多谈论这个话题的人并不认为我们真的还需要30年才能达到那种“奇点”时刻。他们谈论的是“通用人工智能”。我听过像埃隆·马斯克这样的人说，可能只需要更少的几十年，比如10年、15年、20年等等。
如果真是这样，那么这无疑是当今最紧迫的挑战、对话和问题。而我看不出有任何逻辑上的理由可以反驳你的这种直觉。我找不到任何逻辑上的理由。进步的速度将持续下去。我看不出有什么东西会彻底消除或暂停我们的进步速度。嗯……我的意思是，为了对另一方的观点表示善意，他们确实带入了一些其他假设——有些人甚至没有意识到自己这样做了，但有些人确实相信这些假设。
而这些假设正是导致这一特定直觉出现分歧的关键。因此，我们或许可以假设……随着智能程度的提高，从定义上来说，道德水平也会随之提升。而从人类自身的例子来看，我们可能会得出一个更为模棱两可的结论——我们看到，有些非常聪明的人其实并不那么有道德。但我相信确实有人持这种观点，我的意思是，我至少和少数几个人谈过，他们确实相信这一点。有些人假设，当智能不断推向极限时……
远超人类智力水平之后，我们有充分的理由相信，人类伦理中所有那些狭隘的、动物性的缺陷也都会被抛在身后。这就像你不再具备自私和冲突的根源。那些类人猿般的、追求地位的本能，那些猴子的冲动，根本不会出现在代码里。而当你迈向即将到来的那种综合性的超级人工智能时，某种近乎圣人的境界也会随之而来，对吧？
随之而来的还会有一种智慧。不过，我认为这实在是一场豪赌。我会选择站在对立面来看待这件事，我会这样表述：在所有可能超越人类的智能形式中，必然存在不止一种可能，对吧？这就像要打造一台比我更会下国际象棋的棋类引擎，其方式有很多种——它们彼此不同，但都比我要强，对吧？
要实现超人工智能，必然不止一种途径。我想，虽然方式并非无穷无尽，但数量一定非常庞大……在所有可能存在的思维形式中，超越人类的部分里，有很多位置并不与人类的福祉保持一致。构建出与人类利益不一致的智能，其方式肯定比构建一致的要多，对吧？而其他人悄悄带入这场讨论的，是一种直觉，即不不不，一旦超越人类，你遇到的就仿佛是一位既懂量子力学又懂肿瘤学、无所不知的佛陀，对吧？
我只是看不出有任何理由认为事情会是这样。我们本可以构建出某种东西——同样，这是认真对待智能的结果——我们会构建出一种与我们处于某种关系中的存在。它在所有我们具备智能的方面都真正拥有智能，只是在这些事情上都比我们更出色。从定义上说，它就是超人的，因为唯一让它无法成为超人、唯一让它哪怕只停留在人类水平15分钟的方式，就是我们不允许它自我改进，我们只想把它固定在某一个水平上，就像我们构建了一个大学本科生水平的智能，却只想让它永远停留在那里。
但那样的话，我们就必须削弱我们已经构建出来的所有特定能力，对吧？就像我们现有的每一个窄人工智能，在它所擅长的领域都是超人的。你知道，它能访问互联网上的所有信息，对吧？它就像拥有完美记忆一样。它可以完美地复制自己。当系统的某个部分学到新东西时，整个系统都会学到，因为它可以直接交换文件，对吧？它……再说一次，你的手机就是一台超人级的计算器。
完全没有必要把它做成一个达到人类水平的计算器。没错。所以我们永远也做不到这一点。我们永远不会处于人类通用人工智能（AGI）存在的环境中。我们一出现，就会直接面对超人类通用人工智能。接下来的问题是，它的提升速度有多快，以及还有多大的提升空间。假设它的智能可以远超我们——对吧？我们离智能的顶峰还差得远——那你必须想象，你将面对的是一个可能完全无意识的东西，对吧？
我不是说这个东西一定有某种主观体验，尽管它也许有，但那完全是另一个值得担忧的问题。但无论它是否有意识，它都在解决问题、发现新问题，并以我们无法理解的方式不断提升自身能力。而随着它能力不断增强，其成果也总是不断涌现出来，对吧？就像我们一直在用它来改变世界。
我们已经对它产生了依赖。我们当初建造这个东西是有原因的。近几个月来，有一件令人惊叹的事是，我们这些在过去十年甚至更长时间里一直关注人工智能安全领域的人——总以为随着我们越来越接近终点，各实验室会变得更加谨慎，我们会把这些东西与互联网隔离开来。我们有个说法，叫“与互联网隔离”。
我们曾以为这是会实现的，这东西会被关在一个“盒子里”。然后问题就变成了：我们到底要不要把它放出盒子，让它去做些什么？比如，它安全吗？我们怎么知道它是否安全？我们曾以为会迎来那个时刻。我们以为那会在谷歌、脸书或某个实验室里发生。我们曾以为会听到这样的消息：“好，我们做出了一个非常了不起的东西，现在只想让它接触一下股市，或者接触一下我们的医疗数据，或者只是想看看我们能不能用它做点什么。”
但我们早已过了那个阶段，对吧？这些东西已经被我们部署在真实环境中了。它们已经连上了互联网，已经有数百万人在使用，已经有了应用程序编程接口（API），已经在发挥作用。所以，从人工智能安全的角度来看，这简直令人震惊。我们甚至都没有迎来那个我们曾以为充满风险的抉择时刻。当然，我们没迎来，因为人们有非常强烈的动机去继续推进，根本顾不上那场讨论。尤其是——我从未、我真的不记得曾和像伊利亚·尤德科夫斯基、尼克·博斯特罗姆或斯图尔特·拉塞尔这样的人交谈时，他们中有任何人认为我们会落到今天这个境地。
就像我刚才说的，各位，因为……说真的，我得再回去看看那些对话，但是……我们似乎把太多时间都花在了一个想法上，而这个想法似乎完全没有必要。我们曾以为取得一定进展后，谨慎行事的原则就会发挥作用。就连那些持怀疑态度的人也会开始担忧。而在最后阶段，当我们快要进入“终点区”时，总会有一种方式能让我们稍微放慢脚步，理清头绪，试着应对军备竞赛的动态——比如给中国打个电话，就说，咱们聊聊这事儿吧。
我们确实得到了些有意思的东西。但相关的一切其实早已在同步建设中。围绕这个东西，已经涌现出无数商业模式，所有的改进成果也都会不断投入其中。所以，你不妨想象一下，即便成功了，它会是怎样一番景象？对吧？比如说，它开始为我们创造奇迹，带来了巨大的生产力提升……好，那接下来我们就跨入了所谓的“奇点”，对吧？
无论以何种速度，我们都会发现自己面对的是一个真正通用的智能。毕竟，所有这些——所有这些专门化的智能，尽管是超人类的专门化智能——都是我们完全依赖的东西，对吧？每家医院都需要它，每架飞机都需要它，我们所有的导弹系统也需要它。这已经是我们开展业务的既定方式了。到那时，已经没有什么可以关闭的了。我的意思是，我……你知道的，就像我在自己的播客里问过马克·安德森，他说，是啊，你可以关掉互联网。
我的意思是，我真不敢相信他当时是认真的。当然，如果你是朝鲜，或许你可以关掉朝鲜的互联网，而朝鲜之所以是朝鲜，原因也正在于此。但要说我们能关掉互联网……我的意思是，现在关掉互联网的代价，我想是无法想象的。光是经济成本，就足以让人……总之，我们竟然已经错过了决定是否将最强大的人工智能连接到一切的关键时刻，因为它的构建过程或多或少已经与万物相连——即便不是与万物，也已是与太多事物相连，你再也无法把这只“瓶中精灵”塞回去了。
这一点真的让我很惊讶。而且，没错，说到激励机制——这难道不是最紧迫的问题吗？我本来想以一个问题开启这次谈话，问问你目前最让你费心、也最值得我们讨论的是什么。我部分地预设答案会是人工智能，因为从你谈论这个主题时的直觉来看，你还有孩子。
你经常思考未来。如果我们能看到这个物种在未来——哪怕是在未来100年内——来到地球，在我看来，这将是人类面临的最紧迫的问题。嗯，我确实这么认为。尽管我觉得这个问题既有趣又影响深远，但我担心的是，在我们真正面临它之前，生命在短期内就可能变得无法维系。我担心的是，在此期间，狭义人工智能会被滥用。我担心的是，就拿我们现有的AI水平来说吧。
我们现在有GPT-4。我想在未来12个月或两年内——不管GPT-5是什么——我们即将面对这样一种情况：网上大多数自称是信息的内容，很快都可能变成假的，对吧？也就是说，你在任何主题下找到的大多数文本都可能是假的，对吧？比如，有人只是决定说：给我写一千篇关于mRNA疫苗致癌的期刊文章，再给我150个参考文献，用《自然》《自然·遗传学》《柳叶刀》和《美国医学会杂志》的风格来写。
然后发表它们，就这么发布出去，对吧？一个青少年只要用对AI，五分钟内就能做到。GPT-4还远未达到这种程度，但GPT-5或许就能做到。这简直是一项近在眼前的技术进展。或者，当你想象把Midjourney、DALL-E和Stable Diffusion这类视觉工具与大型语言模型结合起来时——想象一下那个工具。再说一遍，也许它18个月后就会出现，也许需要三年，但绝不会是30年后。
那个工具能让你直接说：给我制作一部45分钟的纪录片，主题是“大屠杀从未发生过”，里面要充满历史影像资料，再配上希特勒用德语演讲并附上恰当的翻译，还要以Alex Gibney或Ken Burns的风格呈现。再给我制作1万部这样的片子，对吧？这样一来，制造虚假信息的所有障碍都从系统中被彻底消除了。是的，我担心我们最终将不得不在互联网问题上宣布“破产”。
也就是说，我们将根本无法分辨什么是真实的。看看现在在社交媒体上，在新冠疫情和特朗普事件之后，要做到这一点有多难——要让大多数民众都认同一次选举是有效的，这项挑战在美国已经几乎到了无法克服的地步。我的意思是，我们很容易预见自己会在AI这方面失败。现在，再把大型语言模型以及未来更强大的版本加进去——到那时，最逼真的深度伪造内容将与真实数据完全无法区分。
嗯，而且每个人都固守在自己的小圈子里，对那些来自其他圈子的信息加以污名化。而如今互联网已经变得如此庞大，以至于真正缺乏那种常规的筛选机制——在这种机制下，错误信息会被成功揭穿并逐渐消失。也就是说，如果你愿意，你完全可以一辈子都活在一个阴谋论小团体里，也可以整天排队抢购各种东西。
而现在，深度伪造技术和那些虚假的科研文章又进一步巩固了这一切。从文化层面来看，所有这些都让这种精神错乱变得更加难以抗拒。因此我担心，我们彼此之间开展合作与协作会变得越来越困难，我们的政治体系也可能会彻底崩溃。而这将为许多……不良分子提供可乘之机。更不用说还有网络恐怖主义和合成生物学——一旦你让人工智能去研究如何设计病毒之类的问题，后果不堪设想。
这就像是在放大一种不对称性：破坏东西似乎总是比修复它们，或者从根本上阻止人们破坏它们要容易得多。而随着技术日益强大，现在一个人或一个小团体就能造成越来越大的破坏。就拿核弹来说，制造它的难度本身就很高，以至于单凭一个人——无论他多么聪明——其实都很难完成。
你需要一个团队，而且传统上还需要国家层面的支持、获取资源的渠道，以及核裂变材料。这些本身就很难实现。但如今，这项技术正在被彻底普及化。所以……是的，我担心短期内会出现混乱。直到现在，我从未觉得人工智能在短期内可能带来的后果有那么值得关注。而你刚才提到的那个互联网变得无法使用的画面……
那对我来说真是个“顿悟”的时刻，因为我之前完全没有朝那个方向想过。是的，我也是。我之前只担心通用人工智能的风险。但现在，经历了特朗普时代和新冠疫情之后，我看到了这样的风险：即便不会失去一切，我们也可能失去许多重要的东西——而这一切仅仅是因为我们在使用这些看似简单、却总是误导我们的工具。说真的，社交媒体……我甚至都忘了颜色这回事，光是推特对我造成的影响，就足以让我惊叹不已。
我的意思是，你知道的，即使我受过各种训练，头脑也还算清醒。说真的，说出来都让人难以置信，但……过去十年里，所有真正糟糕的事情——那些彻底打乱了我的关系、颠覆了我的优先事项，并深深冲击我的事——几乎都来自推特。这成了一种职业上的紧急状况，是我必须通过文字或播客来回应的事情。而这一切都发生在推特上。
正是我与推特的互动制造了这场混乱，而这完全是多余的。它只是放大了某种信号，让我觉得必须去关注，因为我当时在用推特，也试图在上面与人交流。我收到了某些反馈，这些反馈给我描绘了其他人眼中的世界，而我现在认为这种描绘从根本上具有误导性，但它确实产生了实际影响。
到了某个阶段，仅仅意识到这种描绘具有误导性，并不足以让我免疫于那种被迫接受的观念转变所带来的幻觉。我当时觉得，好吧，这些人变得让人认不出来了。我认识其中一些人，还曾和一些人一起吃过饭，但他们在推特上的表现在我看来如此疯狂、如此不怀好意，以至于那些我本知道并非心理变态的人，在推特上开始表现得像个心理变态。而我自己，在他们眼中也变得同样陌生了。
这一切感觉就像一场我并未同意参与的心理实验，而不知何故我却把自己卷了进去，因为2009年大家都在这么做。我在那上面待了12年，接收一些信号，再做出回应。倒不是说那全是坏处。我的意思是，我读到了许多在那里被分享的好文章，也发现了一些有趣的人。但在我删除推特账户后，我的生活发生了天翻地覆的变化。说真的，承认这一点都让我觉得有点不好意思。
我的意思是，这就像摆脱一段糟糕的感情。那是一种根本性的解脱……终于摆脱了那个随时准备凭借其自身逻辑来搅乱一切的混乱怪物。那你是什么时候删除账户的？嗯，大概是12月吧。我想是12月。我并不是个会在事情上轻易站队的人。在政治上，我总想尽量保持中立。所以你的推特体验一定和我当时大不相同。
§02文稿 — 第 2 部分
不。没有？没有。所以我除了这个播客预告片之外，不发任何其他推文。我不发别的东西。对，好的。所以我只是……你在我的推特上唯一能看到的就是播客预告片。仅此而已。是的。而且，正如你所描述的那些原因，更有趣的是，我想说，在过去八个月里，作为一个尽量……不太被媒体牵着走的人——哦，埃隆收购了这个平台，它已经完全朝那个方向去了。也就是说，我现在的时间线……
我经常跟朋友们这么说。而其中一些朋友——我再次强调，我认为他们思考得很细致、很平衡——也告诉我，算法中似乎有什么东西被调高了，用来提升用户参与度，结果把我植入了一个我并不想待的、令人不快的回音室。如果我不是有意识地保持警惕，我百分之百会陷进去。前几天，我朋友发了一条推文，他叫凯希尔，他说他过去六个月里在自己推特时间线上看到的人死亡数量，比他之前任何时候都多。
他们现在优先推荐视频。所以你看到大量类似监控录像中的死亡画面，这是我以前从未见过的。而围绕性别、政治以及右倾话题的争论，也从未像现在这样直往你脸上怼。是的。因为算法里好像有什么东西被切换了，现在就像人们被从精神病院里放出来了一样。我只能这么形容。这也让我更加退缩了。所以当扎克伯格几周前宣布Threads时，那感觉就像从泰坦尼克号上扔下来的一根救生索。
我真的、真的就是这么想的。而且我并不是一个容易被社交媒体平台上的叙事牵着走的人——毕竟这行我已经做了十年了。但我在推特上看到的东西，确实让我开始相信自己五年前提出的一个假设：我当时认为社交网络的发展会是这样的——我们会有更多的社交网络，而且它们会更加孤立。我以为我们会有专门用于邻里交流、足球俱乐部交流的网络。
现在我比以往任何时候都更加相信这一点。是的，这听起来合理。而且我认为，到底能不能建立一个真正健康的社交网络——人们愿意加入，并且有充分的理由留在那里——我不确定这是否可能。我希望是可能的，但我认为一开始就必须清理掉某些东西，才有可能实现这一点。而且我认为匿名不是什么好事，免费可能也不是什么好事。我觉得你在网上得到的东西，往往和你付出的代价是相称的。
而且，我只是觉得或许可以换种方式来设置，那样可能会更好，但是……我认为它不会受欢迎。你说什么？我觉得正是那些让它受欢迎的东西，也同时让它变得有毒。没错，没错。就连匿名性这一点，我已经在脑海里推演过好几次了，而我总能得到的反驳是：叙利亚有些人有重要的新闻要揭露，如果他们……就会被处决。所以我们需要一个匿名的社交网络版本。
嗯，是的。我想那里或许确实存在一些例外情况，但是……我不知道。这真的……其实并不吸引我，因为当我不再关注那个在线上的“我”的虚拟形象时，我感觉自己在这个世界上的存在感变得很不一样。嗯，这是因为推特是我唯一用过的平台。比如，我一直都在用脸书，我想，大概我也在用Instagram吧，但我的团队只是把它们当作营销渠道。听起来你现在也是这样使用推特的。
但推特是我决定“好，这里就是我了”的平台。我会在这里发帖。如果我犯了错，我希望有人能告诉我。我只是想把它当作一个真正的沟通工具。在很长一段时间里，它在这方面确实感觉是个有效的工具。是的。但后来它到了一个危机点，我决定这纯粹就是毒害。根本没有任何理由。即便是那些好的内容，也完全无法抵消那些坏的内容。
所以我就把它删了。然后我又回到了现实世界，对吧？回到了我真正生活的世界，回到了书本中。当然，我本来就一直在线，但当你没有社交媒体，没有一个地方可以发布那些你忍不住想立刻抛向世界的即时激烈观点时，那种反应的时间过程就完全不一样了。因为真的没有地方可发。对我来说，如果我对新闻里的某件事有什么反应……
我就必须决定，这件事值不值得在我可能四天后录制的下一期播客里聊一聊。而很多时候，在我坐到麦克风前之前，人们已经就那件事滔滔不绝地说了整整四天了。然后我就会想，那现在还有必要说吗？如今几乎没什么内容能通过这一关，对吧？就好像讨论已经转向别的话题了。所以，其实根本没有地方能让我花10秒钟打出几句话，然后立刻发出去，在朋友和敌人脑中引发爆炸性的反响。
然后，我再次看到这一切的结果，它又回到了那种每15分钟就强化的循环里。没有那种东西真是种解脱，所以我甚至都不知道自己当初为什么会那样。比如Threads刚推出的时候，我……我想我可能也注册了Threads，但那并不是真正的我。它只是……你知道的，又多了个营销渠道而已。不过，是的，我没有再用那个功能了，我感觉特别解脱，不用再锻炼那块“肌肉”了。我不知道自己以前到底多久会刷一次Twitter，但当时我……你知道的，我刷它不仅仅是为了看看发生了什么，或者看看我上一条推文收到了什么回应。
我以前经常刷，因为那是我的信息流。就像我关注了……你知道的，200个聪明人，他们会告诉我他们在关注什么。所以我就很着迷。嗯，是的，我就想看看下一篇文章或下一个视频。就是那种互动，以及无穷无尽的机会——可以评论、可以让自己说错话，或者让别人说错话，或者被别人说错话。就是……没有这些，真的让我解脱了不少，以至于我……
我的意思是，倒不是不可能，但如果要重新启用那个功能，我会非常谨慎，因为那里面实在有太多噪音了。而且，它又制造了……有太多……它成了一种机会成本，更成了一种无穷无尽的……引发误解的机会，尤其是对我的误解，以及对我一直以来在公开场合发布的所有内容的误解。然后我还会觉得自己必须对这些做出反应。可这样一来，你就没法再把精力转回到正事上，因为这又会成为进一步误解的基础。
嗯，而且它总是让我觉得，总有什么东西需要我在播客里、在文章里、在Twitter上做出反应，好像这就是一个紧急信号。就像，这是五级火警，你必须立刻停下所有事情。比如，你正和家人在度假，在泳池边享受难得的夏日时光，结果手机上突然弹出这么一条消息。它可等不了，对吧？你必须立刻关注，因为“对话”正在实时发生。所以，这其实算是对信息的一种上瘾，在某种程度上也是对声誉管理的沉迷。而能彻底摆脱它，真的让我如释重负。
除了……你知道的，家里某些成员的健康问题之外，过去10年里发生在我身上几乎所有倒霉事，都是因为我跟Twitter互动造成的。所以，你知道的，如果我是个受虐狂，我大概还会回到Twitter上去，但那应该是我回去的唯一理由了。关于窄人工智能，我刚才问了你一个问题，我真的很想找到一个解决方案，因为我对此有点害怕。
我完全认同你观点背后的逻辑，即专用人工智能会导致互联网出现这种不稳定和不可用的情况。那么，仅就专用人工智能而言，你认为有什么解决方案能防止我们进入那个虚假信息泛滥到足以动摇社会、政治和文化的世界呢？嗯，我觉得这个问题我一直在我的播客里向人们请教，因为这其实并不属于我的专业领域，我只能听听专家们谈谈在技术层面有哪些可能性。
我想象着，颇具讽刺意味的是，这可能会开启一种我们不得不依赖的新型信息把关机制，因为信息的来源将变得至关重要。我的意思是，我们需要确保一段视频没有被篡改，或者根本不是一段纯粹伪造的深度伪造内容。没错，所以……我们可能会逐渐进入这样一个时期：除非照片来自盖蒂图片社，或者《纽约时报》有报道说明他们核对了刊登在报纸上的每一张照片，否则你不会相信任何照片。
他们有一套流程。所以，如果你看到一段视频，弗拉基米尔·普京似乎宣布对美国开战，对吧？我想大多数人都会先假定这是假的，除非有证据表明不是。因为假东西实在太多了，而且看起来都太真了。因此，《纽约时报》以及我们所依赖的其他所有媒体机构——尽管近来它们并不完美——都将不得不找出相应的方法，好让他们能够说：好的，这确实是普京的视频。
我自己是没能力分辨出来的。如果《纽约时报》或美国有线电视新闻网（CNN）没有一套在确认“好的，普京确实说了这话，所以我们现在必须对此作出反应，因为这是真的”之前所遵循的流程，那么……无论那个流程是什么，也无论它是否涉及某种与区块链相连的数字水印，总之需要某种技术实现方式，并且这种方式能够完全普及化，让你只需使用最新版本的 Chrome 浏览器，就能分辨出哪些是真实视频，哪些是伪造视频。
我们必须宣告认识论上的破产。我们不知道什么是真实的。我们必须假设任何特别耸人听闻或激动人心的内容都是假的，除非有证据表明并非如此。所以，请证明它不是假的。而这，你知道的，将是对某种现状的重置。我不知道在一个我们其实没有太多时间去应对某些事情的世界里，我们该如何处理这种情况。比如，一段普京说他已发射大型导弹的视频，30分钟后我们就能明白它是真是假。
先别管我们刚才说的那些关于人工智能的事了。看看我们所有的传统风险吧。看看核战争的风险。意外滑入核战争的风险已经悬在我们头顶70年了。我的意思是，我们拥有这些老旧技术，这些容易出错的雷达系统。历史上曾有过这样的时刻：一名苏联潜艇指挥官凭直觉和常识判断，数据几乎可以肯定是错的，于是他决定不把美国发射洲际弹道导弹的明显证据上报给上级，因为他知道上级肯定会说，好吧，你必须发射。
他推断，如果美国要攻击苏联，他们发射的导弹数量会更多——我记得当时看起来像是四枚导弹，那是雷达信号的特征。如果美国要对苏联发动先发制人的攻击，那是在80年代中期，他们肯定会发射不止四枚导弹，对吧？所以这肯定是错误数据，对吧？那么，如果我们把这些都自动化了，我们会不会把它自动化成具备这种常识的系统呢？对吧？
但基于这种可能性——先别说那些可能蓄意发动核战争的恶意行为者——我们已经站在了深渊的边缘。我们面临的是意外核战争的可能性。再把这铺天盖地的虚假信息和深度伪造加进去，情况就变得愈发可怕了。而这甚至都还不算人工智能，这仅仅是被放大了的、由狭义人工智能驱动的虚假信息。你对此有何看法？嗯，我的意思是，这正是让我担忧的地方。
我担心下一次选举。我认为下一次总统选举——如果我们能以一种让美国大多数人都承认其有效性的方式完成2024年的选举，无论结果如何，那都将是一场了不起的胜利。我的意思是，显然，我不会期待特朗普再次执政，但是——我认为比这更根本的问题是，18个月后，我们能否举行一场被我们公认为有效的总统选举？我不知道目前有多少资源被投入到这项具体工作中，但这至关重要。
而且我不认为我们近期在人工智能方面的实验会让这件事变得更容易。为什么这件事如此重要呢？我的意思是，如果你认为维护世界唯一超级大国的民主制度只是件无关紧要的小事，那我真想知道你喝的是什么茶。你对此持乐观态度吗？说实话，我无法说自己很乐观。我正处于一种矛盾的状态，因为我总是倾向于关注那些出错了或可能出错的地方。我想，我可能天生就有些悲观。
比如，我总容易注意到哪里出了问题，而不是哪里做得对。你知道，这就是我的……这就是我的偏见。但实际上我过得非常幸福，对吧？我的人生很美好。我只是……一切都……我只是……我幸运得不得了，身边都是很棒的人。可以说……一切都很好。然而，我仍看到地平线上浮现出种种风险。所以，尽管我目前的生活幸福感很高，但电视上播放的内容却令人恐惧。
所以，这是一种非常有趣的对比。如果最终我们能……我觉得我们现在正处在一个非常奇怪的位置。我还没有看到任何对新冠疫情的全面复盘，能完整概括我认为当时发生在我们身上的事。但我模糊的感觉是，我们并没有学到太多东西。基本上，我们学到的就是，我们在应对这类事件方面真的很差。这场挑战最终只是让我们的社会四分五裂。
它本可以团结我们，但并没有。而且，它加剧了我们社会中所有层面的分歧——政治上的、经济上的，以及各种群体之间的分歧。虚假信息、错误信息所扮演的角色昭然若揭，而且我认为情况还在不断恶化。所以，我认为，就把它当作未来某场不可避免会到来、甚至可能更严重的大流行的彩排来看，我们这场彩排是失败的。
而且，我只能希望，在某个时刻，我们的制度能够重新构建起来，变得……显然值得信赖，并能建立起我们真正需要的制度信任。比如，我们需要一个不仅让我们信任、而且本身就值得信赖、值得我们信任的美国疾控中心，对吧？美国食品药品监督管理局以及其他所有相关机构也是如此。而我们现在并没有完全做到这一点。我们社会中有一半的人认为，我们根本没有建立起这种信任。
没错吧？所以我们必须 somehow 重建对机构的信任。我觉得，你知道的，我们还有很多工作要做，但哪怕只是弄清楚如何在这方面取得一点点进展，都很有必要。因为，再说一次，把庞大的群体隔离到不同的信息世界里，这种做法根本行不通。而这正是社交媒体和另类媒体给我们带来的巨大影响之一。我的意思是，你知道的，我和你都做播客，但我称之为“播客斯坦”，对吧？
我们面对的是这样一个局面：现在有成千上万个播客，还有……你知道的，各种电子邮件通讯，每个人都决定按照自己的喜好来定制信息摄入。你可以永远待在自己的信息茧房里，接收到的只是现实的一个切片，而这个切片甚至可能是完全虚构的。我们正在失去就“正在发生什么”达成共识的能力。而你……
我听起来乐观吗？我可没听出什么乐观情绪来。你说呢？不，但话说回来，从逻辑上讲，我无法反驳你说的任何一点。不幸的是，这一切听起来都像是我们正在走向的方向。但我相信会出现一些出人意料的积极因素。通常总会有些我们事先没考虑到的惊喜。这很容易想象。我的意思是，如果在技术或科学领域有什么显著的、唾手可得的东西能通过人工智能实现，就拿癌症或阿尔茨海默病的治愈方法来说吧。
我的意思是，只要有那么一项突破，对吧，那都将带来巨大的福祉。也正因如此，我们才无法下这趟列车，也找不到可以拉下的刹车。因为智能的价值实在是太巨大了。我的意思是，它并非万能，对吧？除了智能，我们关心其他事情，而且理应关心其他事情。爱就不等于智能，对吧？但智能却能守护你所爱的一切。
即使你认为人生的全部意义就是和朋友家人一起到海滩上待着，享受日落，你也不需要增强自身，也不需要超人般的智能来实现这一点。你现在的状态就足以做到。你在70年代也能这么做，那时的海滩同样美好，朋友也同样真挚。但是……我们在智能上取得的每一项进步，都是在为你和所有人守护这种可能性。
我想，我们似乎还没有给“通用人工智能”这个术语下过定义。据我理解，它指的是智能体能够像人类一样思考和做决策。是的，我的意思是，从宽泛的角度来说，这其实有点像一个语义问题，但“智能”可以指代很多东西。不过笼统地说，它就是指解决问题的能力、实现目标的能力，以及根据不断变化的环境和数据做出决策的能力。
而“通用”这个方面，指的是智能体能够在各种不同的情境下做到这一点，也就是我们人类会遇到的所有类型的情境。而且，一个人在某个领域的能力，并不会因为另一个领域的提升而下降——比如，我越能判断眼前的是不是杯子，并不会神奇地导致我判断你刚才是否说了一句话的能力变差。也就是说，我可以在多个领域同时处理多种任务。但在很长一段时间里，我们的智能系统并不具备这种能力，因为当时一切都是为特定任务量身定制的。
我们当时会开发一个国际象棋程序，但它甚至连井字棋都玩不了，唯一能做的就是下国际象棋。我们就这样在那些零散的、狭窄的领域里不断取得进步。但几年前，情况开始发生变化。比如，像 DeepMind 这样的公司，它们的算法……只需稍作调整，同一个算法就能用来下围棋，对吧？或者它能解决蛋白质折叠问题，而不仅仅是下国际象棋，对吧？
它成为了世界顶级的国际象棋高手，也成为了世界顶级的围棋高手。令人惊叹的是，就拿 AlphaZero 来说，在它出现之前，所有的国际象棋算法都是把我们掌握的所有国际象棋知识都灌输进去的。它们研究过人类下的每一盘国际象棋对局，完全是为国际象棋量身定制的程序。而 AlphaZero 只是和自己下棋，我记得大概只用了四个小时吧？它只知道国际象棋的规则，然后就通过不断和自己对弈来学习。
它变得不仅比所有下过国际象棋的人都更厉害，甚至比那些被灌输了人类全部国际象棋知识的程序还要强大。因此，这标志着构建智能系统的方式进入了一个全新的阶段。它再次预示着一种可能性，甚至是一种必然性——只要你承认我们终将实现这一目标，只要你承认这在硅基系统中是可行的，只要你承认除非发生灾难，否则我们会一直前进——而这两点都太容易承认了，以至于目前我实在想不出有任何立场能让人不必承认它们。
考虑到我们已经取得的成果，我看不出有任何神经科学或认知科学方面的论据能支持智能对特定物质基础的依赖性。而且……我们还是会继续前进，直到有什么东西阻止我们为止。我们或许会遇到某个坚不可摧的障碍，让我们无法推出下一代iPhone。但除此之外，我们会一直走下去。然后，没错，无论“通用智能”在那种最初情况下意味着什么，总会有一种情况……我们构建出一个在一切我们关心的事情上都极其出色、功能上具有通用性的系统。
现在，也许它还缺少一些东西。也许它缺少某种我们甚至都还没有命名的东西。你知道，我们遗漏了各种各样的可能性——有些智能形式我们甚至从未想过，因为我们压根儿没去思考过它们。毫无疑问，这个世界存在着我们无法想象的组织方式，因为我们受限于现有的思维方式。曾有记者就这个问题问过埃隆。记者对他说，在你相信通用人工智能即将来临的世界里，当你的孩子们跑来问你：“爸爸，我这一生该做些什么？”
为了找到人生的目标和意义，如果你坚信那一天即将来临，你会给他们什么建议？当孩子们问你“我这一生该做些什么，才能创造目标和意义”时，你会怎么回答？你知道埃隆是怎么回答这个问题的吗？他说了什么？我认为这是他近年来接受采访时最令人毛骨悚然的时刻之一，因为他竟然结巴了。他沉默了大约15秒，这非常不像埃隆的风格。
他结巴了，一直在结巴。又结巴了一会儿，仿佛说不出口。然后他说，他觉得自己现在处于一种悬置状态，活在一种悬置的怀疑之中。因为如果你真的想得太深，那还有什么意义呢？他说：“我造这么多车到底有什么意义？”当时他正在自己的特斯拉工厂里。“我造这么多车到底有什么意义？这一切又有什么意义呢？”我有时也会有这样的想法。所以我想，我必须像他所说的那样，活在一种悬置的怀疑之中。
没错。嗯，我倒会鼓励他问问自己：“花这么多时间刷推特到底有什么意义？”因为他显然需要重新思考一下。但撇开这一点不谈，我的回答是——我想近来也有其他人表达了类似的想法——这多少让我感到惊讶。我开始倾向于认为，人文学科的回归应该成为我们智识世界的核心，就像整个知识体系的质心一样。因为当你审视我们真正擅长什么时——人文学科恰恰是最后那些还能被合理地自动化的领域之一。
如果我们把它自动化了，我们可能就不再关心它了。所以，学习编写优质代码这件事，现在正逐渐被自动化。你知道，我不是程序员，但我有可靠消息说，这些大型语言模型已经在改进代码，大约有一半的时间里，它们写出的代码比人写的还要好。这一切最终都会像国际象棋一样，对吧？说到底，它会比人做得更好。
是的。嗯，所以，成为一名软件工程师，或者像放射科医生那样，很容易看出人工智能会如何取代这些职业，或者至少让一个人利用人工智能工具变得如此高效，以至于一个人就能完成一百个人的工作，这样就有99个人不必再做那份工作了。嗯，是的。但创造艺术、写小说、当哲学家、探讨过上好生活的意义以及如何做到这一点——如果我们必须审视这些，我们就必须看到，我们真正关心的是与另一个我们确定有意识的人建立关系并进行对话。
而在我们不关心的事情上，我们根本不会在意。我们只想要最好的版本。如果癌症的疗法来自一个没有感知能力的人工智能，我毫不在乎。我只想要癌症的疗法。当得知“给我开出这个疗法的人对此感觉很好，他在想出疗法时甚至流下了眼泪”时，并不会增加任何价值。每个工程问题都是如此。我们想要更安全的飞机，我们只希望东西能正常工作。
我们对其中蕴含的艺术性并不 sentimental。当最好与平庸之间的差距变得巨大且影响深远时，我们只会想要最好的，彻头彻尾地只想要最好的。但什么是最好的小说？什么是最棒的播客对话？你能从中剥离那个有意识的人，而仍然认为它是最棒的吗？所以，曾经有人发给我一个……据称是……我甚至都没听，所以我不确定那是什么，但看起来像是由人工智能生成的艾伦·瓦茨和特伦斯·麦肯纳之间的对话。
这两个人我都非常喜欢，虽然我没认识过他们，但他们的粉丝都听过他们数百小时的谈话。据我所知，他们从未见过面。那本会是一场非常精彩的对话。当我看那个YouTube视频时，我意识到我根本不在乎它有多好，因为我只关心那是否真的是艾伦·瓦茨和特伦斯·麦肯纳在交谈。在这种情况下，艾伦·瓦茨和特伦斯·麦肯纳的模拟品，我并不关心。
所以我又遇到了另一种使用场景。我当时在玩 ChatGPT，就问了它，你知道的，第二次世界大战的起因。我说，给我写个 500 字关于二战起因的内容。结果它给出了一个完美的小短文，你知道的，用项目符号列出的关于二战起因的文章。这正是我想要它做的。这完全没问题。我根本不在乎背后是不是真有人在打字。但当我想，嗯——我真的想重读一遍丘吉尔写的二战史吗？
那本书就在我书架上，等着我去读。它属于那种我本想读完的“励志”书单之一，但我还没读过。我其实很想读，因为那是丘吉尔写的。如果你能给我一个丘吉尔风格的 AI 版本，说“这就是丘吉尔的风格”，甚至丘吉尔研究专家都说这听起来就像丘吉尔写的，那我也其实不关心。那并不是我想要的用途。我宁愿用那种通用的方式，比如，你知道的，直接告诉我二战的起因。那个假的丘吉尔对我来说毫无吸引力。
真正的丘吉尔，即使他已经去世了，对我来说依然有吸引力。所以我在这里的反驳——这也是我脑海里的想法——是说，你提出的这种区别，在我看来，关键在于：当一段由 AI 生成的、发生在两个受尊重的人之间的对话出现时，有人已经向你表明它是假的。如果你移除了这个前提，比如丘吉尔心想：“我何必写书呢？我只要按一下按钮，这个工具就能用我的声音、我的语气，结合我之前写过的所有内容，把书写出来。”
然后它就能生成我的版本，还能为我节省时间。所以我只需按一下按钮，也许我的出版商会替我操作。然后我就可以把它卖给山姆，并声称那是我的思想。我可以想象一个非常近的未来——如果我们只看比例的话，会有越来越多的书由人工智能撰写，以至于将来某天当你看向书架时，我猜想，如果智能水平真的在某种程度上提升，那么大部分内容都会是人工智能拼接出来的文字。
而且这些内容在销量上甚至可能比人类写的文字更好。所以，再回到你和孩子对话的那个例子……也许那也不再是一个能带来收入的职业了。因为人工智能速度更快，能产出更多，还能测试和迭代，看哪种内容卖得更好、点击量更高；它能写标题、生成图片、撰写内容，然后我只要署上自己的名字，就能收下那笔钱。
是的。所以即使在这种情况下，还剩下什么呢？嗯，从极端情况来说，我们设想的是一种世界：那些可怕的事情都没有发生，一切都在正常运转。我们只是生产出了大量比人类作品更出色的东西，而人们正在失去工作。我们面临劳动力市场的颠覆，但我们谈论的并非任何其他类型的政治灾难或网络末日，更不用说通用人工智能摧毁一切了。在这种情况下，我认为我们只需要对工作的价值采取不同的经济假设和伦理观念。
在资本主义社会中，我们目前的默认规范是：你必须找到一件能用大部分时间去做的事，而其他人愿意为此付钱给你。你必须想办法为他人的生活创造价值，从而获得稳定的收入。否则，你就可能活不下去。我们虽然有社会保障体系，但相当薄弱，存在让人掉队的漏洞。你可能会最终无家可归，而我们对此也找不到太好的解决办法。
因此，你在这个社会中生存的依据，就是找到一件能用时间去做、而别人愿意付钱给你的事，对吧？而现在，人工智能正在消除其中一些机会，同时创造另一些机会。但从极端情况来看——我确实认为这次有所不同——我认为将这次与科技史上的其他时期相提并论，在根本上是有缺陷的。我认为这项技术最终将取代工作，而不会随之创造出更好的新工作。
这最终将彻底取消对人类劳动的需求。奇怪的是，它最先取代的是一些地位最高、最需要认知能力的工作，对吧？它会先取代埃隆·马斯克，而不是你的电工、水管工或按摩师，早得多。没错。所以我们必须正视这一现实。如果这真的成功了，那并不意味着所有事情都会变好。我们必须建立一种新的伦理观，并以此为基础形成一种新的经济模式——比如，全民基本收入就是解决这个问题的一种方案。
也就是说，你不应该为了生存而被迫工作。没错，就是全民基本收入。是的，现在创造出的财富如此之多，我们必须想办法分配这些财富。我们这边有癌症的治疗方法，那边有完全由光伏驱动的经济体，已经解决了气候变化问题。我们基本上是在凭空创造财富。是的，我们还有纳米技术，正在催生全新的产业，而这一切都是由人工智能推动的。
我们……你知道的，这件事里可没有回旋余地。每当你把某个人放进……放进决策链里，你就只是在增加干扰因素。这应该是最好的情况，这应该是我们经历过的最棒的事情。这就像上帝递给我们一台完美的省力设备，对吧？一台能制造出任何其他机器、能完成你所能想到的任何事情的机器。在这种情况下，我们应该想办法把财富分配出去，对吧？
§03文稿 — 第 3 部分
这仅仅依靠阳光驱动，再也不用为资源开采而打仗了。它能制造任何东西。我们都可以去海滩上，和朋友们、家人们一起闲逛。你是否认为我们应该实行全民基本收入，给每个人发一张类似每月的支票？我们必须打破这种联系。再说一次，当这种由……这一切顺利推进所引发的劳动力结构失衡出现时，这就是必须发生的事情。就像这样，纯粹的成功，人工智能只是在创造好东西，而唯一不好的地方就是让这么多人失业。你知道的，它最终会冲击你的工作。我听说过这种说法，对此我也有自己的看法。当我跟朋友们讨论全民基本收入这个想法时，我的反驳是：当我们给民众发放足够的现金或资源，让他们生活稳定时——我并不一定反对这一点，我只是想稍微探讨一下——人类似乎天生就渴望拥有目标和意义。
而且，从心理层面来看，我们似乎天生就是为了劳动、为了承受不适而设计的。但这并不意味着劳动必须与金钱挂钩。我们可以通过其他方式获得地位，也可以通过其他方式找到意义。再说一遍，这些不过都是我们给自己讲的故事。我的意思是，我现在跟你说话的这个人，亲身经历过什么都不做也能感到快乐——比如整整一个月坐在房间里，只是盯着墙壁看，这是完全可能的。然而，这对大多数人来说却是噩梦。你知道的，监狱里的单独监禁被认为是酷刑，我也认识一些在洞穴里待了20年的人。所以，这里面确实有一些值得探讨的可能性。不过，更普遍地来说，我想我们还是会想要被娱乐、想要找点乐子、想要和爱的人在一起、想要在关系中发挥用处，以及……
只要这种状态不再与为生存而工作的必要性挂钩，对吧？当然，这一切并不会就此消失。我们只需要建立新的规范、新的伦理，并就度假期间该做些什么展开新的讨论，对吧？我的意思是，你设想的情况是：如果让所有人都去享受最棒的假期，把假期安排得尽可能完美，对吧？但大多数人最终还是会感到痛苦，因为他们毕竟没有回到工作岗位。
没错。然而，这些人中的大多数努力工作，正是为了有足够的钱能终于去度一次假。对吧？我们总能找到一种新的方式获得快乐。对吧？在海滩上，对吧？我的意思是，如果你玩腻了飞盘，我们总能想出其他有趣的事情来。你知道，你可以读书，比如我就能在海滩上悠闲地读丘吉尔的《第二次世界大战史》，而不会被任何其他紧迫事务催促，因为我已经愉快地退休了，对吧？
因为我的AI正在创造能够解决我所有经济问题的东西，对吧？我们真该庆幸，要面对的问题仅仅是这个：如何在没有经济压力、没有因资源稀缺而引发政治纷争的基础、且生存问题已不再是人们安排时间和精力的考量因素的情况下获得幸福？你可以想多懒就多懒，却依然能活下去；你可以自认多不幸，却依然能活下去。
我的意思是，我们目前面临的糟糕处境是：运气上的差异意味着一切，对吧？你知道，有些人出生时完全没有我们拥有的那些优势。我们没有建立起一个能够可靠地给予他们所能拥有的一切优势和机会的经济体系。我们显然已经说服自己，要么是我们没有资源，要么是我们根本没有那样的资源。
我们缺乏足够的动力去利用这些资源，去真正帮助那些我们本可以帮助的人，对吧？我的意思是，有人饿死，这简直难以想象，但这样的事情仍在发生。你知道，这不是资源稀缺的问题，无论它发生在何处，这都是一个政治问题。然而，这一切都与一个体系紧密相连——在这个体系里，所有人都已经认定，如果自己不工作，自己的生存就会受到威胁，这才是正常现象，对吧？
无论是出于选择还是意外。比如，如果你……如果你遭遇了……我想在美国这种情况至今仍然存在，但在英国几乎肯定不是这样。在美国，个人破产最常见的原因就是突如其来的巨额医疗费用，原因可能有很多。比如你妻子得了癌症，你们为了应对或未能应对这个癌症问题而破产。然后其他所有事情也随之崩溃。而我们的社会对此的态度是，嗯，好吧……
算你倒霉，你知道的，要是你最终无家可归，可别睡在我店门口，因为我需要……你知道的，你会影响我的生意。嗯，就像，你知道的，成功的人工智能取代大量工作岗位，之所以能取代这些岗位，是因为它创造了如此多美好的事物。嗯，为每个人创造了如此多的价值，以至于我们必须想办法分配这些财富。否则，我们会在短短几年内经历一个极其反乌托邦的瓶颈期，然后就会爆发一场革命。
然后，那些住在封闭式社区里、靠着——因为离 GPU 足够近，所以沾到了一些光——赚了数万亿美元的人，他们会被从房子里、从湾流飞机上拖下来，然后我们就会迎来一次根本性的重置。我们的政治体系将经历一次彻底的硬重置。如果现在必须让你做出一个“是”或“否”的选择，并问问你的直觉：如果你的目标是——我敢肯定你的目标就是——促进人类的进步，并提高我们在 100 年后获得幸福和安康的几率，而有一个按钮放在你面前，按下它要么会终结过去十年我们所看到的人工智能发展，也就是说我们永远不再继续开发智能机器；要么就不会。
也就是说，你可以按下这个按钮，现在就阻止它。而且是永久地阻止，让我们永远不再做那件事？我们永远也搞不懂如何制造智能机器？无限期地暂停。嗯，我 definitely 会暂停它，至少暂停到我们能搞清楚“对齐问题”的程度，是的。如果这个按钮是永久性的、无法撤销的暂停呢？嗯，问题在于，这种暂停的深度有多大？也就是说，我们保留现在拥有的一切，但它永远都不会比现在变得更好。
是的，我们永远无法从这里取得进展。没错。而你的目标是让全人类幸福繁荣。我的意思是，这很难，因为当你开始实现那些通过与人类目标一致的人工智能所能获得的所有美好事物时，那简直就是无尽的富足。几乎一切皆有可能实现。是的，我确实足够重视那种关乎人类存亡的风险，以至于我会选择暂停。你知道，我会说，我认为我们最终还是会走到那一步。
如果……如果治愈癌症是一个有解的生物医学工程问题——我认为有充分的理由相信它最终一定能够解决——那么凭借我们目前的技术水平，靠我们自己一步步摸索，我们最终也终将实现。你知道，对于这一点我还是相当有信心的。因为我们的智力表现出普遍性的所有迹象，只是它还没有我们期望的那么快。它并不……
人工智能将为我们带来的，是……我的意思是，这里既有速度，还有信息获取能力，还有记忆，对吧？就像我们现在无法整合这些信息。我们没有这种能力。没有任何一个人或团队能够整合我们已经拥有的所有数据。所以，真正的希望在于，这些系统将能够发现我们甚至都不知道该如何寻找的模式，并基于这些模式采取行动。
我认为，像我们这样的灵长类动物在数据空间中进行的智能搜索，最终将完成我们想要实现的绝大多数伟大事业。而且，为了保障我们物种的前途、让文明持久且理性、消除悬在我们头顶的这把达摩克利斯之剑——我们随时都可能决定发动核战争毁掉一切，或制造一场工程化的大流行病毁掉一切——我们需要解决的问题其实并不存在……
我们不需要超人类的智能来解决所有这些问题。我们需要对现状的不可持续产生恰当的情感反应。我们还需要一种最终能超越我们部落偏见的政治对话。你、我，或许还有两三个人，帮助改变了我对一件我认为任何人都可能深信不疑的事情的看法。18岁时，我信奉基督教。但后来有几次经历动摇了我的信仰。
个人层面倒没什么，只是有几个想法不知怎么……“感染”了我的操作系统，促使我对你产生好奇，进而开始关注你的作品。这让我彻底改变了想法。这种改变非常深刻。我们究竟该如何改变自己的想法？我特别想聚焦于个体层面。比如，我想改变自己的想法，想让自己拥有更积极、更正确的信念和观念，好让自己不再自我设限。嗯，因为我……我不是在自欺欺人，我只是过得很痛苦，没有活出我本可以拥有的生活。有些人甚至都不知道自己能过上更好的生活。我不快乐，这就是信号，而我想以某种方式纠正这一点。嗯，对我来说，有几点是明确的，比如，如何经营我们的道德生活和与他人之间的关系。
所以，即使你身处道德上的孤立状态，个人幸福的问题依然存在。如果你独自待在一个荒岛上，其实不会有什么道德问题冒出来，因为你跟任何人都没有交集，但你仍然要面对如何获得幸福的问题。然而，我们大部分的痛苦都源于与他人的互动，对吧？我们在人际关系中感到痛苦，在职场中也不快乐。因此，我们有必要审视自己与他人相处时的行为方式。
对我来说，我曾做出的改变中，最具杠杆效应的一次——同样，这一点很容易说清楚，也特别明确，归根结底其实很简单——就是下定决心，在任何事情上都不再撒谎。当然，在极端情况下，你可能会觉得不得不撒谎，但在我看来，这些情况就类似于……你出于自卫而被迫采取的暴力行为。对吧？所以对我而言，撒谎就像是暴力行为连续体上的第一阶段。
对吧？也就是说，除非我意识到对方根本不是一个可以理性沟通、合作的人，否则我不会对任何人撒谎。这种情况下，我必须……必须避开对方，或者击败对方，或者以其他方式控制住对方伤害我的倾向。嗯，所以，如果纳粹找上门来，问你阁楼里是不是藏着安妮·弗兰克，是的，你可以撒谎，也可以开枪打他们——这些都不是寻常情况。
但撇开这一点不谈，生活中其他任何人们可能想撒谎的时刻，我认为都可以明确地归类为不道德，甚至远不止不道德。这根本就是在创造一种你仔细审视后并不想过的生活，对吧？我的意思是，一旦你确定自己不会欺骗别人，而别人也知道这一点，双方之间的社交互动模式就会重新校准。然后你会发现，自己身边都是那些除非真的需要，否则不会征求你意见的人。
对吧？而当你坦诚相待时，尤其是在给出批评性反馈时，那种感觉简直是天壤之别，因为对方知道你是诚实的，对吧？他们知道，你知道的，他们的“忽悠探测器”不会响起，因为他们清楚你即使在不方便的时候也会诚实，或者即使不舒服时也会诚实。嗯，这一点极其宝贵，因为你基本上是在提供如果他们身处你的位置时，自己也希望得到的信息，对吧？
因为我们总会陷入一种错觉。每当我们想撒一个善意谎言时，我们就会想：好吧，这个人不想听……我最好还是告诉他们那个虚构的、令人舒服的版本，而不是不舒服的真相，对吧？但我们通常甚至不会用“己所不欲，勿施于人”这条黄金法则来计算一下。如果你花点时间想一想，就会意识到：等等，一个工作做得很差的人，真的希望我告诉他干得很好，然后让他到社会上，被其他人像我现在这样指出他做得并不好吗？对吧？
你根本不是在帮他。这正是信念改变的一部分，不是吗？当我们相信某个人与我们站在同一边，或者从政治立场上认为对方99%的观点与我们一致时，我们就更有可能改变自己的信念。我曾就此事与神经科学家塔利·谢拉特交谈过，并在即将出版的关于如何改变他人想法的新书的一个章节中写过相关内容。他们在选举中做过实验：如果一个“地平说者”对另一个“地平说者”谈论地球的性质，后者会相信；但如果美国国家航空航天局（NASA）对同一个“地平说者”说同样的话，后者会当场就予以否定，因为信息来源并非他们相信、信任、喜欢或认为善意的一方。我的意思是，这是一个缺陷，而非优点。虽然可以理解，但我们必须超越这一点，因为真相就是真相，对吧？
所以，我的意思是，这种情况是双向的。你团队里那个你喜爱又尊重的人，完全有可能在下一句话就说出谎言，对吧？而你需要有能力察觉这一点。反过来说，你最不尊重的人，也可能说出一些非常深刻、值得采纳的话。因此，我们必须建立起一种元认知层面的意识，去觉察自己是如何被社交关系所左右的……
……并认识到，真相——尤其是重要的真相——往往是通过不同的标准来评判的。我的意思是，这并不取决于传递信息的人。你知道，你不该迁怒于传递消息的人，也不该把他奉若神明。你提到，戒除谎言、变得更诚实，是你自身幸福感发生显著转变的重要一步。是这样吗？在我的幸福感方面。在你自身的幸福感方面。是的，确实如此。影响非常大。因为具体来说，它是如何……当你观察人们如何毁掉自己的声誉、人际关系、事业和前程时，导致所有这些不当行为的入口，就是谎言。
我的意思是，看看兰斯·阿姆斯特朗这样的人，对吧？或者泰格·伍兹，对吧？这些人都是体育界的巅峰人物。人人都喜爱他们，都为他们的成就惊叹不已。然而，你知道，他们生活中的种种问题，最终总会毫无遮掩地暴露出来。而这一切，在发展的各个阶段，都是由谎言所助长的，对吧？所以，如果他们在职业生涯早期——在成名之前、致富之前、在产生那些日后会毁掉人生的念头之前——就决定不再说谎，那么他们就会发现，自己后来导致失败的其他所有行为都根本不可能发生。
所以我决定——这一点在书里也提到了——我曾在斯坦福大学修过一门课。那是一门研讨会，由一位杰出的教授罗恩·霍华德执教。我想硅谷的一些人也上过他的课。我的意思是，那门课简直就像一台精密的机器。本科生和研究生从这边进来，12周后离开时，都坚信基本上已经不再把说谎当作一种选项了。没错。整个研讨会的核心，就是对“说谎在何种情况下是正确的”这个问题进行分析。
说真的，我们关注的是那些善意的谎言，是那些极具诱惑力的谎言，而不是那些会毁掉人们生活和感情的明显谎言。这种谎言的腐蚀性极强。它会以某种方式侵蚀人际关系，而除非你专门研究这类问题，否则未必能注意到。我的意思是，书中我记得有一个例子：我妻子当时正和一个朋友在一起，两人正在外面。那个朋友当晚晚些时候本来要和另一个朋友做点事，但她其实不太想去。
结果，在我妻子面前，她接到了那个朋友的电话，然后为了推掉这个计划，她直接对朋友撒了谎。她说：“哎呀，真不好意思，我女儿那边有事儿。”这纯粹是为了脱身而随口编造的谎言。她明明可以直接说实话，对吧？但说实话实在太尴尬了，所以她干脆用谎言搪塞了过去。可这件事偏偏发生在我妻子面前，我妻子立刻就想：我有多少次也处于过对话的另一方呢？对吧？
她又有多少次用同样看似合理的理由，对我撒过类似的谎，而事情又那么微不足道呢？对吧？就这样，这段关系中的信任被一点点侵蚀了，而那个说谎者根本不会知道，也完全察觉不到，因为她转头就又开开心心地继续享受时光了。她们本来只是出来吃午饭，后来照样继续吃，依然玩得很开心，脸上全是笑容。而我妻子心里却已经悄悄给这个人的道德底线打了个分。
嗯，而那个人对此一无所知。对吧？所以，一旦你开始拉扯这根线，你的整个人生——至少在刚开始转变的那段时期——都会随之改变，直到这种习惯变得自然而然，你再也无需刻意思考。嗯，突然间，世界就像一面镜子映入了你的脑海，你会在各种情境中重新遇见那个曾经逃避自己的自己。
比如，别人可能会问：“嘿，你想不想一起约个时间？或者想不想跟我合作这个项目？”如果你以前总是习惯用某种善意的谎言来逃避那个令人尴尬的真相——其实答案就是“不”，而且背后确实有各种原因——那你以前根本不必面对那种尴尬。你就是这样一种人，总是有各种各样的承诺，还有这种……
就是说……我的意思是，最尴尬的情况莫过于有人向你表白，而你却不得不拒绝。而且……拒绝的理由还完全是出于表面原因，对吧？比如这个人……对你来说不够有吸引力，对吧？你知道的，他们可能超重了，或者类似的情况。我的意思是，你心里自有不喜欢的理由，但有些话你又觉得实在说不出口，对吧？当然，我不是说你就该像得了妥瑞氏症的人一样，不由自主地把真相一股脑全抖出来。
人还是可以在善意、同情心和分寸感上有所作为的。但如果有人非要深究你拒绝的理由，比如对方说：“不，我想知道你到底为什么不想和我约会。”那么，在这种坦诚相告的背后，双方其实都能有所发现，对吧？比如，你可能会因此反观自己，然后意识到：好吧，我竟然是个如此肤浅的人，以至于对方是谁根本无所谓。只要他们超重10磅，我就没兴趣了。
这就像有面镜子照进了你的内心。你会想：好吧，行吧，原来你就是这种人。那你还想继续做这样的人吗？你真的只想这样决定吗……不管别人有什么优点，对吧？也不管他们生活中正经历着怎样的混乱，这个人下个月说不定就真的减掉了那10磅，到时候情况就完全不一样了。但你真的无法接受吗？你真的在用体重这种方式来筛选别人吗？
你真的能坦然接受这一点吗？你真的能坦然地说出来吗？比如，当有人逼你非得说实话的时候。我们这个播客有个传统，最后一位嘉宾会给下一位嘉宾留一个问题，而且并不知道下一位会是谁。留给你这个问题字迹工整得无可挑剔：“你希望自己在什么时候死去？请描述那个地方、时间、人物、气味和感觉。”嗯，其实这……呃，和我一直以来的一个想法有关。我的意思是，我觉得我们需要……我们在这里还没谈过迷幻剂，但是，嗯，最近迷幻剂的研究正经历一场复兴，这让人很难说清。
我担心我们可能会重蹈六十年代的一些覆辙，以一种不够明智的方式把这一切推广开来。但更明智的做法，我认为应该是重现类似“埃琉西斯秘仪”那样的东西。也就是说，我们拥有以迷幻剂（对许多人来说）和冥想实践为媒介的成人礼。我只是觉得，这些是获得洞见的根本工具。我的意思是，对大多数人来说，很难想象他们还能通过其他方式获得这些洞见。
我只是觉得，关于哪种分子、以何种方式等等，还有更深入的讨论。但这件事的另一个方面是临终关怀的情境，即尽可能明智地接纳和协助临终体验。我认为迷幻剂在这方面肯定能为许多人发挥作用。所以我想，我们需要一些真正美丽的地方，人们可以去那里离世，家人也可以去探望他们。这就像是一个最终的成人礼，被我们满怀智慧地接纳……
……用我们能聚集的所有智慧来面对。是的，就我个人而言，你知道，我希望自己能待在家里——当然，到那时“家”在什么地方都无所谓——我希望能看到天空，你知道，天空下可以是海洋。那将是理想的状态。没错。我的意思是，几乎没有什么比看着蓝天、看着积云在蓝天上移动更让我开心的了。
我的意思是，仅仅是看着这些，我就能获得极大的精神愉悦。所以，如果我要在生命的最后时刻看着什么，如果我的眼睛还能睁开，那我希望看到的是天空——无论是星空还是白天的天空，是的，没错。我的意思是，如果光污染在我的世界里已经严重到那种程度，我可能好几年都看不到一片真正美丽的夜空了。所以我对那已经有点不抱希望了，但我依然很喜爱那种景象。不过，是的，只要能看到天空，身边还有我爱着、而此时还健在的人们，就足够了。
是的，我的意思是，我并没有在某种意义上担心死亡。我真的……我认为死亡本身不是问题。当然，我不能说我在期待它。我能想象可能会出现一些医疗上的混乱和不确定性，以及临终过程中会发生的那些你知道的种种怪象，对吧？而且，死亡的方式有很多种，其中一些我绝不会选择。但我觉得，能有一个风景优美的地方来完成这个过程，并且能看到天空，这大概是我唯一需要的解决方案。
问题问到了气味。给我一种气味吧。给我海风的味道。我已经把大海放进去了。所以，是的，海风就再完美不过了。萨姆，非常感谢你。感谢你不仅参与了这次对话。正如你在坐下之前我对你说的那样，在我年轻时，你曾关键性地帮助我理清了一些问题——一些我应当称之为关于宗教信仰以及世界本质的冲突。但我想更重要的是，你没有剥夺我的宗教信仰，然后让我一无所有。
你留给我的是另一样东西，那对我来说真的非常重要，那就是“意义依然存在”这个想法。即使没有宗教信仰，或者在宗教信仰缺席的地方，也依然可以有你所说的灵性。宗教信仰能给人带来很多东西。说来也怪，当我还信教、踏上走向不可知论的旅程时——姑且这么说吧——我曾与很多人产生冲突，总想跟每个人辩论一番。
那两年里，我看了你和理查德·道金斯、希钦斯所做的一切。后来我走出来了，内心变得平静。是的。现在我会想，你信你的，我信我的。只要我们不彼此冲突，你也不造成伤害，那就没问题。是的。然后我发现了我所谓的“自己的灵性”，也就是我的意义所在——我在周围的世界、在自我之中所看到的意义，以及像迷幻剂这样的东西。
这是一种更好的状态。它消除了我作为信徒时对死亡的恐惧。哦，真好。这很棒。所以谢谢你。是的，感谢这一点。还有你之后所有的作品，你知道的，那些令人惊叹的书籍。你写了那么多本，每一本都精彩绝伦。你还有一个非常棒的播客，我来这里之前一直在疯狂收听，还有一个App。如果你能用几句话谈谈这个App的意义以及它的用途，那就太好了。
我知道现在它的内容远不止冥想，但我认为正在收听这段对话的人可能会想去看看并下载它。是的，我曾写过一本叫《觉醒》的书，在书中我谈到了自己的冥想体验，以及我是如何将冥想融入科学、世俗的世界观中的。结果发现，对于这类信息来说，App是一种更好的传播方式。毕竟，你只需要听音频，甚至都不需要视频。
我认为音频是App传播这类内容的完美媒介。所以当这项技术出现时，或者说当我发现它时，我觉得自己能把它做出来，真是无比幸运。如今，它已经发展到超越我个人掌控的程度了。上面有很多很多导师，也涉及冥想之外的许多其他主题。但它确实颠覆了智能手机带来的一些问题——我们刚才也提到过一些。我的意思是，智能手机已经成了让我们注意力分散的工具。
它会让我们的注意力变得支离破碎，会不断打断我们的体验，具体取决于你如何使用它。但我们用它做的大多数事情，比如查看 Slack、查看邮件、查看社交媒体，总之，它用这些如今看似必要的打断，不断切割着我们的生活。但这款应用，或者说任何类似的应用，在传递这类内容时，却颠覆了这一切。因为它就是一个平台，你在这里获取的音频内容会引导你以一种非常特定的方式使用注意力，重新排列你的优先事项，并让你认识到一些你原本不会注意到的关于自身体验的事情。
否则你是看不到的。是的，而这款应用，纯属运气好，恰好成了传递这类信息的完美载体。所以，我真的觉得自己很幸运能偶然发现它。因为你知道，10 年前根本没有应用，我能做的也就只是写一本书而已。萨姆，谢谢你。是的，谢谢你。非常感谢你的慷慨。是的，也很高兴认识你。祝贺你取得的一切成就。
这真的……哦，谢谢你。为了这次访谈，我刚刚补听了你的播客。你现在的影响力真是令人惊叹，这太棒了。不，我们其实都还在努力跟上节奏，但这要归功于整个团队。我发自内心地说一声谢谢。因为你所做的工作真的非常重要。正如我所说，它在我的生活中一直很重要，但它的意义远不止于此。我觉得我们正生活在一个逐渐远离细腻思考、远离你所谈论的一切、远离开放辩论和坦诚对话的世界里。
所以，如果这世上还有人愿意在这种层面上进行交流，我觉得无论如何都必须保护他们。而我认为你就是这样的人。所以，谢谢你。说得好。那么，我们下回再继续。