Mo: 前谷歌高管莫·加多特谈AI：未来15年将先经历地狱再抵达天堂……且只有这5种工作会留下！
Ex-Google Exec (Mo Gawdat) on AI: The Next 15 Years Will Be Hell Before We Get To Heaven… And Only These 5 Jobs Will Remain!
嘉宾：Mo
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01转录 - 第1部分
我们想要变得更好、作为一个物种取得成功，唯一的方法就是让顶层的恶人被人工智能取代。我的意思是，你想想看。人工智能不会想要摧毁生态系统，也不会想要杀死一百万人。它们不会像现在的领导人那样让我们互相憎恨，因为那是在浪费能源、炸药、金钱和人力。但问题在于，超级智能的人工智能却要向愚蠢的领导人汇报。
正因如此，在未来15年里，我们将迎来一个短期的反乌托邦时代，这是无法避免的。让人工智能来领导，这在根本上可行吗？这么说吧，Mo Gowdat回来了。这位前谷歌X首席商务官如今已成为人工智能领域最引人关注的声音之一，他传递的信息非常明确：人工智能不是你的敌人，但它或许能成为你的救世主。兄弟，我太爱你了。
你真是个好朋友，但你在这个世界上没剩多少年可活了。一切都将改变，经济将改变，人与人之间的联系将改变，许多工作都会消失，播客也不例外。不，不，感谢你今天能来，Mo。但事实是，这或许能成为有史以来最好的世界。
一个完全充满欢笑与喜悦的社会。免费医疗，没有工作，人们有更多时间陪伴所爱之人。一个我们所有人都平等的世界。这可能吗？百分之百可能。我有足够的证据表明，我们可以利用人工智能来建设这样一个乌托邦。但如果人类管理不善，那就会变成一个反乌托邦。一个如果人类管理不善……这个世界，会……
……出现大量的控制、监控和强制服从，以及对权力、贪婪和虚荣心的极度渴求，而这些其实已经在发生了。但事实是，在人类与人工智能共同创造的乌托邦，以及我们正在经历的反乌托邦之间，唯一的障碍就是一种心态。社会需要怎么做？首先，请给我30秒的时间。我想说两件事。第一件事是，非常感谢大家每周都收听我们的节目。这对我们所有人来说都意义非凡，这确实是一个我们从未想过、也从未能够实现的梦想。
能想象自己会来到这里。但其次，这是一个让我们觉得一切才刚刚开始的梦想。如果你喜欢我们在这里所做的一切，请加入我们那 24% 定期收听本播客并在此应用上关注我们的听众。在此，我向你们许下一个承诺。我会竭尽所能，让这档节目现在以及将来都尽可能做到最好。 我们会请你们希望我对话的嘉宾，也会继续保留你们所喜爱的所有节目特色。谢谢。Mo，就在两年前的今天，我们曾坐在这里讨论人工智能。我们聊了你的《Scary Smart》一书，以及当时世界上正在发生的一切。从那以后，人工智能的发展持续以
一种惊人的、令人担忧的、超乎想象的速度发展着。而两年前我们进行那场对话时所存在的技术，如今已经成长成熟，仿佛拥有了自己的生命——无意玩文字游戏。那么两年后的今天，你对人工智能有什么新的看法呢？我知道你已经开始写一本名为《Alive》的新书，我猜这算是你《Scary Smart》一书中思想的延续或演变。嗯，关于人工智能，你目前最关注的是什么？《Scary Smart》一书的内容准确得令人震惊。 这真是……我的意思是，我甚至都不知道自己是怎么写出并预测到那些事情的。我记得那是在 2020 年写的，2021 年出版。
当时大多数人都在想，谁想谈论人工智能呢？你知道的，我认识媒体圈的每一个人，我曾去问他们想不想聊聊这个话题。然后到了 2023 年，ChatGPT 问世，一切都发生了逆转。所有人都意识到，这玩意儿是真实的，它不是科幻小说，它就在这里。而且事情的发展速度非常快，比我见过的任何东西都要快得多。我认为自己的立场在两个非常重要的方面发生了变化。 其一是，还记得我们谈论《Scary Smart》时，我仍表示我们可以采取一些措施来改变事态的发展方向。我当时是相信我们能做到的。
现在我改变了想法。我现在相信，我们将不可避免地迎来一个短期的反乌托邦时代。这是无法逃避的。什么是反乌托邦？我称之为“F.R.I.E.S.”。我们稍后可以详细讨论，但我们在生活中定义一些非常重要的参数的标准将被彻底改变。F.R.I.E.S. 指的是我们定义自由、责任、人际联结、平等、经济、现实、创新、商业和权力的方式。这就是第一个变化。
所以，我脑海中的第一个变化是，我们必须为一个非常陌生的世界做好准备。而这样的世界将在未来12到15年内到来。其实，这一切已经开始发生了。尽管人们没有怎么谈论它，但我们已经在世界上看到了相关例子。我试图告诉人们，有些事情是我们绝对必须去做的。但另一方面，我也开始积极投入到构建强大人工智能的工作中。 这些人工智能不仅能让我们的世界变得更好，还能在这个过程中理解我们，理解人类的本质。
“反乌托邦”这个词的定义是什么？在我看来，它指的是一些不幸可能超出我们控制范围的恶劣境况。问题在于，在机器崛起的时代，人类的价值观和伦理观存在诸多问题。而我们所创造的每一种技术，都放大了人类的能力。比如，你走路的速度是每小时五公里，但坐上车后，时速就能达到250、280英里。
换句话说，它放大了你的行动能力。你也可以用计算机来放大你的计算能力或其他能力。但不幸的是，目前人工智能将要放大的，是人性中可能作恶的一面。而改变这一局面，完全掌握在我们自己手中。但我必须说，我认为目前人类还没有足够的意识去专注于
这件事，以便我们真正利用人工智能来构建一个乌托邦。所以，你实际上是在说，你现在相信我们将经历一段反乌托邦时期。为了定义“反乌托邦”这个词，我借助了人工智能，它的解释是：一个可怕的社会，人们生活在恐惧、压迫或苦难之中。然后你认为，我们会从那个反乌托邦走向一个乌托邦——它被定义为一个完美或理想的地方，一切都运行良好，是一个人们和平、健康、幸福地生活的美好社会。没错。 有趣的是，两者之间的区别，正是我通常所说的“第二个困境”，也就是我们将控制权完全移交给人工智能的那个时刻。很多人认为，当人工智能全面掌控一切时，它将对人类构成生存风险。但我要说，我有足够的理由认为，当我们完全将控制权交给人工智能时，那
恰恰将是我们的救赎。我们今天的问题，不在于智能会与我们为敌，而在于我们人类自身的愚蠢正在阻碍我们。我认为，由人类掌控所带来的挑战，将超过人工智能掌控可能带来的挑战。那么，在我们处于这个反乌托邦时期之际，你预测这段反乌托邦时期会持续多久？
是的，我算了一下，大概是12到15年。我相信下滑趋势将在2027年开始。我的意思是，我们会在2026年看到一些迹象。我们在2024年已经看到了一些迹象，但明年这些迹象会越来越明显，然后在2027年出现明显的下滑。为什么呢？因为我们当今世界的地缘政治环境并不乐观。我的意思是，你真的需要深入思考，不能只看表象，而要探究我们之所以如此的原因。
在当今世界，我们赖以生存的就是金钱。而对于真正了解金钱的人来说，你我都只是普通人。我们创建企业，为世界做出贡献，我们生产东西，销售商品，诸如此类。但真正的钱根本不是在这样赚来的。真正的钱是在借贷中、在部分准备金制度下产生的。而世界上最大的放贷方，自然需要放贷的理由。这些理由的重要性，从来没有任何事能比得上战争。我的意思是，你想想看。全世界花费了2.71万亿美元
2024年的战争。美国每年要花费一万亿美元。而当你深入思考时——我不是想在这里制造恐慌——武器是会贬值的。大多数武器在10到30年内都会贬值。它们会失去价值，从会计角度来看，在军队的账目上也会计提折旧。美国当前的武器库，这是我和我的AI“特里西”（Trixie）深入搜索后得出的结果。我认为，我们估计美国建造当前武器库的成本在24万亿到26万亿美元之间。 我的结论是，当今世界发生的许多战争，其目的之一就是为了消耗掉这些武器，好让它们被替换掉。而且，你知道的，当一个行业的道德底线……
我们制造武器是为了杀人，那么，你知道，你不如就用这些武器去杀人。谁从中受益？放贷者和军工复合体。但他们不能自己决定开战。他们必须依靠唐纳德·特朗普。还记得吗，我想是在我们第三次播客时我就跟你说过，战争总是先被决定，然后故事才被制造出来。 你还记得《1984》吗？那种奥威尔式的论调——“自由即奴役”、“战争即和平”——他们基本上就是用这种话术来说服民众，去另一个国家发动战争并实施杀戮。
470万人就是自由。我们前往那里是为了让伊拉克人民获得自由。可战争何时能代表自由呢？告诉别人说，为了自由，为了那些，你知道的，为了人类价值观，我们要去杀害30万妇孺。说真的，我们怎么可能相信这种事？故事都是被制造出来的，然后我们这些轻信的人就跟着走。我们欢呼雀跃，说，是啊，是啊，是啊，我们站在正义的一方，他们才是坏人。好吧。
那我来试着说说这个想法。这个想法是说，金钱实际上正在引发我们看到的很多冲突，而且它最终将导致一个反乌托邦世界的出现。所以，这里有个观点。我前几天在读一些资料，里面提到亿万富翁永远不会满足，因为其实他们想要的并不仅仅是更多的钱，而是更高的地位。
我当时在思考这个观点背后的进化论依据。如果我们把时间倒回几千年前，那时并不存在金钱。你的财富就是你所能携带的东西。所以，我想，在人类的观念里，财富和金钱本身并不是一个固有的概念。但从“适者生存”的角度来看，从繁衍后代的角度来看，几千年来真正具有繁衍价值的，是那些能够与最多异性交配的人，而这些人往往拥有最高的地位。
这就解释了为什么亿万富翁们拥有了这么多钱，却还要上播客、创办自己的播客、购买报纸——这其实是因为人类内心深处都渴望提升自己的地位。所以，如果我们再回到战争爆发的例子，也许
原因并不在于金钱，而可能在于地位。也许是这位总理、这位领导人或这个个体想要创造更多的权力和地位，因为对人类而言，真正重要的是拥有更多的权力和地位。而金钱本身，其实只是地位的一种象征。
那这样的世界会是什么样？我的意思是，那将是一个糟糕透顶的世界。所有这些有权势的男人正在把世界搞得一团糟。那么人工智能呢？其实情况也一样，因为我们现在正处在一场人工智能竞赛中，许多科技亿万富翁都想着：如果我能率先实现通用人工智能，那我基本上就能统治世界了。
这正是那个概念——我以前称之为“第一个必然”，现在在《Scary Smart》一书中我称之为“第一个困境”——这是一场不断加速的竞赛。你认为未来12年将是人工智能导致的反乌托邦，一切都不会顺利吗？我认为未来12年将是人类利用人工智能制造出的反乌托邦，是人类借助人工智能引发的反乌托邦，是由人类利用人工智能所导致的反乌托邦。
人们是否通过全球战事的增加来定义这一点？最后一点，也就是RIP中的最后一点，基本上是说，你将面临权力的极度集中与权力的广泛分布。好的。这基本上意味着，权力高度集中的一方将试图压迫那些拥有广泛权力的一方。好的，不妨这样想。在当今世界，与过去不同，胡塞武装仅凭一架无人机，也就是也门的部落武装，就在红海地区抵抗美国和以色列的势力。他们使用一架价值3000美元的无人机，去攻击一艘价值数亿美元的美国军舰或一架美国飞机。
这种权力的广泛分布，让掌权者非常担忧下一场威胁会从何处而来。这种情况不仅发生在战争中，也发生在经济、创新、科技等方方面面。因此，正如你所说，当科技寡头们试图实现通用人工智能（AGI）时，他们希望确保一旦自己掌握了AGI，其他任何人都无法拥有。
他们基本上想确保，从某种意义上说，没有任何其他人有能力动摇他们现有的特权地位。好的，因此你将看到一个世界，不幸的是，那里将充满大量的控制、大量的监视，如果你愿意的话，还有大量的强制服从，否则你就会失去在这个世界上的特权。而这种情况已经在发生了。关于这个缩写词，我想确保我们把它完整地讲完。
你喜欢反乌托邦的东西，对吧？我想先谈谈反乌托邦，然后再谈谈乌托邦。理想情况下，我们该如何从反乌托邦走向乌托邦。那么，RIP中的F，即“Face”（面对），指的是由于这种权力二元结构而导致的自由丧失。也就是说，你拥有巨大的权力——正如你今天所见，某支特定军队由美国资金和大量金钱支撑，对吧？它对抗的几乎是一些手无寸铁的农民。好的，其中一些人被军事化了，但大多数——从百万到百万计的人——并没有。
因此，存在一种巨大的权力，它基本上在说：“你知道吗？我要尽可能地实施压迫。”好的，“我想做什么就做什么，因为那些助威者会保持安静。”对吧？或者他们会欢呼，甚至更糟。因此，在这种情况下，当最大化的权力受到广泛分布的权力的威胁时，就会导致自由的丧失——所有人的自由都会丧失。
因为这会如何影响我的自由？你的自由？是的。很快，如果你播出了这一集，你就会开始收到一些问题，比如：“你不应该在播客里谈论这些话题吗？”好的，如果我参与了这一集的录制，那么下一次……
我一落地美国，就会有人质问我。他们会说，你为什么这么说？你到底站在哪一边？对吧？而且你知道，你很容易就能发现，所有事情——我的意思是，我之前跟你提过——无论我为世界做出什么贡献，我的银行账户每六周就会被注销一次，仅仅因为我的种族和出身。对吧？每隔一段时间，他们就会直接冻结我的账户，然后说我们需要一份文件。
而我那些肤色或种族不同的同事，却不会被要求提供另一份文件。对吧？但这是因为，在过去30到40年里，我的种族在世界上的定位一直是“敌人”。所以当你真正深入思考时，在一个一切都走向数字化的世界，一个一切都被监控的世界，一个一切都无所遁形的世界，我们已经没有多少自由可言了。
我其实不是在争论这件事，也看不到有什么解决办法。因为人工智能将掌握我们更多的信息，更擅长追踪我们的身份，而这最终会导致某些自由受到限制。你是这个意思吗？这只是其中一个方面。好的。如果你把这个方面再推进一步，用不了多长时间，比如你最近见过的Manos或ChatGPT这样的智能体，总有一天你根本不会再自己动手做事了。
你只会直接对你的AI说，嘿，顺便说一句，我要去见斯蒂芬。你能帮我预订一下吗？太棒了。是的，它会帮你搞定所有事情。这听起来很好，直到它开始做一些并非完全出于为你好的事情为止。它为什么会这么做？很简单，因为如果我买的是英国航空的机票而不是阿联酋航空的，某个代理商可能会比其他代理商赚得更多，诸如此类。
而一旦我完全依赖AI，甚至都察觉不到这一点。我们再往前想一步。想象一个几乎所有人都领取全民基本收入（UBI）的世界。全民基本收入。我的意思是，想想其中的经济问题，想想那些经济影响。想象一下，一个我们将开始见到“万亿富翁”的世界的经济图景。
在2030年之前，我敢保证一定会有人成为万亿富翁。我认为今天世界上可能已经有很多万亿富翁了，只是我们不知道他们是谁。但未来还会出现新的埃隆·马斯克或拉里·埃里森，他们会因为投资人工智能而成为万亿富翁。而那个万亿富翁将拥有足够的钱买下任何东西。届时，机器人和人工智能会包揽一切，而人类将无工可做。你认为未来10年真的可能出现大规模的工作岗位被取代的情况吗？
对此的反驳是，科技领域将创造新的工作岗位。纯属胡说八道。真的吗？当然了。你怎么能这么确定？好吧，我再次声明，我对任何事情都并不确定。所以咱们把话说得非常非常清楚。如果我自以为是地认为自己什么都知道，那就太傲慢了，明白吗？
你刚才还说那是胡说八道。我的观点是，那100%就是胡说八道。以软件开发人员这份工作为例。是的。好吧。Emma.love，我的新初创公司，由我、塞纳德、另一位技术工程师以及大量人工智能组成。在过去，这样的初创公司需要350名开发人员。我明白这一点。
但你现在是否因此招聘了其他岗位的员工？还是说情况就像蒸汽机出现时那样。我不太记得具体影响了，但你可能知道，当煤炭变得更便宜时，人们担心煤炭行业会倒闭。但实际发生的情况是，人们开始更多地使用火车。于是火车现在被用于运输和其他事务以及休闲，而以前它们只用于运输货物。
因此，应用场景增多了，煤炭行业也随之蓬勃发展。所以我在想，随着科技的发展，是的，软件开发人员的岗位或许会减少，但所有东西都将变成软件。你给我举一个例子。举什么例子？一个岗位。
你给我举一个，将会被创造出来的岗位？是的，一个无法由人工智能或机器人完成的岗位。我女朋友经营着一家呼吸疗法静修业务，她带领女性团体前往世界各地，她的公司叫Bali Breathwork。是的，没错。而且人们对连接、对人际连接的需求将会更大。
没错，继续说。因此，将会有更多人在线下组织社区活动、举办节庆。我认为我们会看到与人类连接相关的一切事物出现巨大的增长。是的。没错，我完全赞同这一点。好吧。
那么，与会计师相比，这个群体的占比是多少？就白领工作而言，这个占比肯定小得多。那么，她把服务卖给谁呢？那些可能拥有会计师的人，或者你知道的……没错。她把服务卖给那些通过工作赚钱的人。是的。好吧。
所以你看到了两种力量在同时作用。一种力量是，有些岗位显然会被取代。视频剪辑师将被取代。不好意思。别这么说。反击一下。事实上，播客主持人也将被取代。不是你。
感谢你今天来参加节目，Mo。很高兴能再次见到你。但事实是，很多……所以你看，任何行业中顶尖的人都会留下来。最优秀的软件开发人员，那个真正精通架构、精通技术等等的人，还会在一段时间内留任。对吧？
最有趣的事情之一，是我采访了马克斯·泰德马克。马克斯当时笑得前仰后合，他说，首席执行官们正在庆祝他们现在可以裁掉员工，通过人工智能完成工作，从而提高生产力、降低成本。但他们唯一没想到的就是，人工智能同样也会取代他们。通用人工智能在各方面都将比人类更出色。
在包括担任首席执行官在内的所有方面都是如此。你真的必须想象，总有一天，大多数无能的首席执行官——注意，是大多数无能的首席执行官——都将被取代。甚至呼吸训练行业最终也可能出现两种情况。一种是除了顶尖的呼吸训练导师之外，其他从事这份工作的人，也就是那些能够聚集起所有
仍然负担得起呼吸训练课程费用的人，他们将被集中在行业顶端，而底层的大多数人将不再从事这项工作，原因有二。其一是需求不足，因为太多人失去了工作。当你领取全民基本收入时，你不能对政府说，嘿，顺便多给我点钱，让我去上个呼吸训练课。全民基本收入就是政府每个月直接给你钱。没错。 如果你认真思考自由与经济的关系，全民基本收入是一个非常值得探讨的议题。
因为不幸的是，正如我所说，人工智能本身完全没有任何问题。真正有问题的是，在机器崛起的时代，人类所秉持的价值观。而当今人类最大的价值观就是资本主义。资本主义的核心又是什么呢？是劳动力套利。这是什么意思呢？
我雇你做某件事，付你一美元，然后我以两美元的价格把它卖掉。大多数人对此感到困惑，因为他们会说，哦，但产品的成本还包括原材料、工厂等等。而所有这些，归根结底都是由劳动力创造的。
所以基本上，劳动力去开采原材料，原材料以微薄的利润卖出，然后这些原材料被加工成机器，机器再以微薄的利润卖出，接着是机器所生产的产品，以此类推。明白吗？这其中始终存在劳动力套利。在一个人类心智正被人工智能取代、
而人类的体力在三到五年内就可能被机器人取代的世界里，你真的必须思考这个世界会变成什么样。它可能会成为有史以来最好的世界，而我相信那正是乌托邦的样子，因为我们生来就不是为了每天早上醒来，把一天中的20个小时都用来工作的。我们并非为此而生，但我们却适应了这个体系。
到目前为止，我们做得如此出色，以至于开始相信这就是我们的人生使命。但这是我们自己选择的，是我们心甘情愿地选择的。即使你给一个人无限的金钱，他们往往还是会回去工作，或者找些事情来打发时间。他们总会找到事情来做。对很多人来说，这通常是创造一些东西、从事慈善或经营一项事业。
所以，你是在创造一些东西。那么，在塞内德和我之间，艾玛，爱并不关乎赚钱，而是关于寻找真爱和建立关系。抱歉，我只是想交代一下背景。所以，你知道……你正在创建的是一项事业，这是为了向听众说明背景。是的，这里的关键在于，它或许能发展成一家独角兽企业，价值十亿美元，但我和塞内德对此都并不感兴趣。
好吧，我们之所以这么做，是因为我们有能力，明白吗？也因为它能给世界带来巨大的改变。不过，你确实有钱。如今，要在世界上建造任何东西，所需的资金已经没那么多了。这就是劳动力套利。但要打造出卓越非凡的东西，
在未来几年里，所需的资金仍然会比建造平庸之物多一些。因此，谁拥有资本去打造卓越非凡的东西，谁最终就会胜出。这是一种非常有趣的关于自由的见解。这正是我们出现人工智能军备竞赛的原因。因为拥有平台的人将赚取所有利润，并掌控
所有权力。可以这么想：当人类刚刚起步时，部落里最出色的猎人或许能让部落多维持三到四年的食物供应。作为回报，他赢得了部落里多个伴侣的青睐。仅此而已。部落里最出色的农民能让部落多维持一个季节的粮食供应。好的。结果，他们获得了庄园、豪宅等等。 而一座城市里最出色的实业家，实际上可以雇佣整个城市，推动整个国家的GDP增长。
结果，他们在20世纪20年代成为了百万富翁。而如今，最出色的技术专家则成了亿万富翁。那么，他们之间的区别是什么？是工具。猎人只依赖自己的技能。他拥有的全部自动化设备就是一支长矛。而农民拥有的自动化设备要多得多。其中最大的自动化设备是什么呢？
是土壤。土壤完成了大部分工作。工厂完成了大部分工作。网络完成了大部分工作。因此，财富和权力的惊人扩张，以及某样事物所带来的巨大影响，都完全围绕着实现自动化的工具。那么，谁会拥有这个工具？谁会拥有数字土壤、人工智能的土壤？正是平台所有者。而你所说的这些平台，就是像OpenAI、Gemini、Grok、Qood这样的东西。 这些都是通往平台的接口。
平台就是所有的代币、所有在后台运行的算力、所有的方法论、系统和算法。这就是平台。而人工智能本身……你知道，Grok 只是它的一个接口。不过——我想这大概值得用通俗易懂的语言向那些还没构建过人工智能工具的人解释一下。因为我觉得，听众可能会认为
他们现在听到的每一家人工智能公司都在自己构建人工智能。但实际上，全世界真正的人工智能公司只有五家、六家或七家。当我构建我的人工智能应用时，我基本上每使用一次他们的人工智能就要向他们付费。所以，Stephen Bartlett 在 StephenBartlettAI.com 上构建了一款人工智能。这并不是说我自己构建了底层模型，自己训练了模型。实际上，我每打一次电话、做一次搜索或使用一个代币，都是在向 Sam Altman 的 ChatGPT 付费。
我觉得这一点非常重要，因为大多数人都不了解。除非你自己构建过人工智能，否则你会想：“哦，快看，这么多人工智能公司冒出来了。我有一款用于邮件的，还有一款用于约会的……”不，不，不，不，不，你看到的是：“哦，快看，这么多人工智能公司冒出来了。我有一款用于邮件的，还有一款用于约会的……”不，不，不，不，不，不。我敢大胆猜测，它们基本上都……
……在现阶段可能都来自 OpenAI。不，其实还有几个差异相当大的不同玩家。但大概也就五六个。在语言模型领域，确实有五六个。是的。但有趣的是，我首先应该回答“是”，然后补充说，事情出现了一个有趣的转折。
……那就是年初 DeepSeek 的出现。DeepSeek 的做法基本上从两个方面颠覆了商业模式。其一，大约是在特朗普自豪地宣称“星际之门”是史上最大的投资项目、计划斥资 5000 亿美元建设人工智能基础设施，而软银、拉里·埃里森和 Sam Altman 正坐在一起——那画面非常美——一周或两周之后，DeepSeek R3 问世了。它的成本不到前者三十分之一，却能完成同样的工作。
而且有趣的是，它完全开源，并可以作为边缘人工智能使用。这真的非常有趣，因为随着未来技术的进步，学习模型会变得非常庞大。但到那时，你或许能将其压缩成可以在手机上运行的版本。
而且你完全可以在一台断网的电脑上离线下载 DeepSeek，并在此基础上构建一个 AI。有一个网站专门追踪所有由 AI 聊天机器人和 ChatGPT 导流的网站访问量中，最公平、最具可比性的市场份额。目前 ChatGPT 占 79%，大约 80%；Perplexity 占 11%；Microsoft Copilot 占 5% 左右；Google Gemini 占 2% 左右；Claude 占 1% 左右，而 DeepSeek 也占 1% 左右。 我真正想强调的是，当你听说某个新的 AI 应用或工具——比如这个能生成视频的工具——时。
它其实也是基于这些平台之一构建的。基本上，它都建立在三四个由三四个 AI 亿万富翁团队掌控的 AI 平台之上。实际上，谁最先实现我们所说的 AGI——也就是 AI 变得极其先进——谁就有可能统治世界。
至少在技术层面是这样。没错，只要他们能取得足够的先发优势。所以，信不信由你，我现在更担心的其实不是 AGI。在我看来，AGI 是必然会到来的——我早在 2023 年就说过，当时我认为 AGI 会在 2027 年实现，现在我则相信最晚不会超过 2026 年。
目前最有趣、却几乎没人讨论的发展是自演化 AI。你可以这么理解：如果你和我正在聘请全球顶尖的工程师来开发我们的 AI 模型，而在 AGI 时代，这位全球顶尖工程师本身就是一个 AI，那么你会聘请谁来开发下一代 AI 呢？当然是那个 AI。
就是那个能自我学习的 AI。没错。我最喜欢的例子之一就是 Alpha Evolve。这是谷歌的一项尝试，它让四个智能体——也就是四个 AI——协同工作，共同检查 AI 的代码，找出性能问题。然后一个智能体会说：“问题是什么？我需要修复什么？”另一个则负责开发解决方案。
还有一个智能体负责评估这个解决方案。然后他们不断重复这个过程。我不记得确切数字了，但我认为谷歌借助 Alpha Evolve 将其 AI 基础设施的性能提升了大约 8%——当然，具体数字在 6% 到 10% 之间，别引用我这个数。顺便说一句，对于谷歌来说，这已经是一个巨大的提升了。
那可是成千上万亿美元。现在，关键在于这一点：你必须再次用博弈论的思维去思考。有没有这样一种情景：如果其中一方利用人工智能来开发下一代人工智能，而其他所有参与者都会说“不，不，不，不，这太过分了，这会让我们失去控制”？在这种情况下，其他所有参与者都会复制那个模型，并让人工智能来开发他们自己的下一代人工智能模型。 这正是 Sam Altman（ChatGPT/OpenAI 的创始人）所说的“快速起飞”吗？我不确定你具体指的是什么，但我们现在都在谈论一个节点。
我们称之为“智能爆炸”。也就是说，在某个时刻，你必须想象：如果现在的人工智能已经比全球 97% 的代码开发者更出色，而很快我们就能审视它自己的代码和算法。顺便说一句，它们正变得越来越出色的数学家——这在我们上次见面时还并非如此。它们能够开发并改进自己的代码、算法，以及网络架构等等。
你可以想象，很快，推动下一代人工智能发展的主要力量将不再是人脑，而会是聪明得多的大脑。很快，作为人类，我们基本上就像以前运行谷歌基础设施时一样：当机器说“我们需要在某个地方再加一台服务器或代理服务器”时，我们就会照做。 我们其实从来不想提出异议或进行核实，因为那些代码很可能更清楚情况——毕竟，每小时甚至每天有数十亿次交易。
因此，很快，这些自我演进的人工智能就会直接说：“我需要在这里再加 14 台服务器。”而团队就会直接去执行。几天前我看了一段视频，Sam Altman 实际上改变了他的看法。在我们上次见面的 2023 年，他曾表示目标是“缓慢起飞”，也就是逐步部署。OpenAI 2023 年的笔记也提到，缓慢起飞
更容易确保安全，而且他们更倾向于分阶段推出，以便社会能够适应。到了 2025 年，他们改变了想法。Sam Altman 表示，他现在认为“快速起飞”的可能性比几年前更高了——可能只需要几年时间，而不是一十年。为了明确“快速起飞”的含义，它指的是人工智能从大致达到人类水平，迅速发展到远超人类水平的过程。
这个过程非常快，可能只需几个月到几年，比政府、公司或社会的适应能力更快，几乎没有任何预警，会带来巨大的权力转移，且难以控制。相比之下，“缓慢起飞”则是指各项能力在多年间逐步提升，并伴随着大量预警信号。而“快速起飞”的警示信号包括：人工智能能够自我改进、自主开展研发，并通过大规模计算能力的复利效应实现扩展。
收益会像滚雪球一样迅速增长。所以，从我最近看的一段萨姆·奥特曼的视频来看——他再次强调，他是OpenAI和ChatGPT的创始人——他基本上是这样说的，当然我在这里是转述，我会把它打在屏幕上。我们有“社区注释”这个功能，所以我会把它写在屏幕上。但他实际上说的是，谁最先实现通用人工智能（AGI），谁就将拥有开发超级智能的技术。届时，人工智能能够迅速提升自身的智能水平，并基本上把所有人都甩在身后。
是的。最后那部分或许还有争议，但我们就先同意……在Alive上，我分享的一篇帖子引发了很大关注，其中我把“奥特曼”当作一个品牌来看待，而不是一个具体的人。所谓“奥特曼”，代表的是一种加州式颠覆性技术专家的形象——他目中无人，好吧？他坚信颠覆对人类有益。
而且他相信这对安全也有好处。就像我们常说的“战争是为了民主与自由”一样，他们则说，将人工智能部署到开放互联网上对所有人都有利。对吧？这能让我们从错误中学习。这就是萨姆·奥特曼2023年时的说辞。如果你还记得，当时我就觉得，这真是最危险的言论之一——那段视频片段曾疯传。你总能精准地找到合适的片段。
其实那不是我剪辑的，伙计。你还记得我说“我们搞砸了”的那段视频吗？我们一直强调，在弄清楚自己推向世界的究竟是什么之前，绝不能把它们放到开放互联网上。我记得你说过这话。我们确实搞砸了，把模型放到了开放互联网上，教它编程，还让AI智能体去提示其他AI。现在，AI智能体提示其他AI，正在催生出自我迭代的AI。
当然，问题在于，任何了解内情的人都清楚，这不过是公关经理为萨姆·奥特曼精心准备的一套说辞。他当时双眼迷离地坐在国会面前说：“我们希望你们来监管我们。”可现在他们却说：“我们是无法被监管的。”而当你真正理解这里发生了什么时，就会发现：整个进程太快了，以至于他们中的任何一方都没有选择放慢脚步的余地。
这根本不可能。无论是中国与美国之间，还是OpenAI与谷歌之间，都是如此。我唯一可能看到的情况，或许与你的说法略有不同：如果其中一方率先实现突破，那么它将在未来整个人类社会中占据主导地位。如果它们能以足够大的优势率先实现，这或许是真的。但看看Grok比OpenAI晚一周推出，比Gemini晚一周，比Claude也晚一周；接着Claude又再次发布，然后中国推出一款，韩国也推出一款……
它的速度非常快，我们可能同时获得几个，或者相隔几个月就出现几个，明白吗？在其中一个获得足够强大到占据主导地位之前。而这是一种非常有趣的情景：多个超级智能的人工智能。说来也巧，你知道，昨天我在比利时登台时，被问到了这个问题，当时台下大概有4000人吧，
有个年轻人站起来问：“过去一年里你谈了很多关于人工智能的话题，你为什么这么关心它？”我觉得人们没有意识到，尽管我在这个播客上已经和很多人聊过人工智能，但你还没有形成自己的观点吗？我的问题反而更多了，永远也问不完。
我知道。而且似乎没有人能满足我的好奇心。任何告诉你他能预测未来的人，都是傲慢的。事情的发展从未如此之快，这完全不同于我见过的任何情况。就在我们结束这次谈话、我回到电脑前时，就会出现某种令人难以置信的新技术或人工智能应用——在我今天早上醒来时它还不存在——这很可能又会在我的脑海中引发一次观念上的颠覆。
另外，人们对埃隆·马斯克有不同的看法，他们有权持有自己的观点。但就在几天前，他发了一条推文说：“有时，对人工智能可能带来生存危机的担忧让人难以承受。”同一天，他又发推文说：“我抗拒人工智能太久了，一直活在否认中。现在，游戏开始了。”他还@了他的几家人工智能公司。我不知道……你知道，我真的很努力想弄清楚，像萨姆·奥特曼这样的人，是否真把社会的最大利益放在心上。
不。或者说，这些人是否只是……我是公开这么说。不。事实上，我认识谷歌母公司首席执行官桑达尔·皮查伊，他是个非常了不起的人。坦率地说，我也认识丹尼斯·哈萨比，他同样是个非常了不起的人。这些人骨子里都是正直、令人敬佩的。但他们别无选择。从法律上讲，桑达尔必须维护股东的利益，这就是他的职责。
但桑达尔，你说你认识他，你以前也在谷歌工作过。他不会做任何他认为会伤害人类的事情。但如果他不继续推进人工智能的发展，这从定义上就违背了他作为一家上市公司首席执行官的责任。从法律上讲，他有义务继续推进这项议程，这一点毫无疑问。但本质上，他是个好人。
德米斯本质上是个好人。所以他们正竭尽全力让事情变得安全，尽可能做到最好。然而，现实才是那个打破常规的因素，而作为品牌的奥特曼其实并不太在意这些。你怎么知道这一点呢？实际上，那个打破常规的人，是带着这样的目标出现的：我不喜欢现状，我有不同的方法。 而这种不同的方法，如果你看看整个故事，就是：我们是一个非营利组织，资金主要来自埃隆·马斯克的投入，但并非完全来自他。
……马斯克的资金。所以，给那些可能不太了解的人补充一下背景。OpenAI——我总是喜欢补充背景，说来也巧，我记得上次好像跟你提过——我去过一所监狱，他们在那里播放《迪奥·维西尔》。不可能吧。他们真的在播放《迪奥·维西尔》。我想英国大概有50所监狱都在播。那里没有暴力吗？嗯，我不确定。我无法告诉你暴力是增加了还是减少了。
不过，我曾和一名囚犯待在一个牢房里，是个年轻的黑人小伙子。我在他的牢房里待了一会儿，翻阅了他的商业计划书之类的东西。然后我说，你知道吗？你应该听听我和莫·戈尔达特的那段对话。他牢房里有个小屏幕，于是我就调出了我们第一次的对话。我说，你应该听听那段。
他对我说，他没法听那段，因为你们用的词都太复杂了。所以从那天起——大概是四年前，抱歉——每当我听到一个复杂的词，我就会想起这个年轻人。然后我会想，得解释清楚背景才行。就像你马上就要解释OpenAI是什么一样。我知道你可能不了解OpenAI的起源故事。所以我才……我觉得这是一个非常好的习惯。 顺便说一句，即使你……作为一个非英语母语者，
你会惊讶地发现，别人对你说某个词时，你根本不知道它是什么意思。其实我以前从未公开说过这件事，但现在我觉得自己有责任为他——为这些对话的可及性——把那座吊桥放下来。所以每当我遇到一个在我人生某个阶段我不懂意思的词，我都会回去查。 我都会问，这个词是什么意思？我发现，在你的播客里，这种情况越来越多了，我真的非常欣赏这一点。而且你有时还会把词义显示在屏幕上。我觉得这太棒了。我的意思是，OpenAI的起源故事，正如其名所示，
它是开源的，是为了公众利益。用埃隆·马斯克的话说，它的初衷是拯救世界免受人工智能的危险。所以他们当时在做这方面的研究。后来，萨姆·奥特曼和伊兰之间不知何故产生了分歧。结果伊兰离开了OpenAI。我记得有一段时间他曾试图夺回控制权，但董事会拒绝了，或者类似的情况，大多数顶尖的安全工程师……
OpenAI的顶尖技术团队在2023年、2024年相继离职，并公开表示他们不再关心安全问题。公司从一家非营利机构变成了全球最有价值的公司之一。这里涉及数十亿美元的利益，对吧？如果你告诉我萨姆·奥特曼在外面努力帮助人类，那我们不妨建议他，嘿，你愿意免费这么做吗？
我们会给你一份很高的薪水，但你在这家公司没有股份。拯救人类并不应该以数十亿美元的估值为代价，当然现在更是数百亿美元甚至数千亿美元。说真的，只有到那时你才能知道一个人是否真的是为了人类的福祉在行动。然而，我们建立的资本主义体系并非为了人类的福祉，而是为了资本家的利益。
他可能会说，将模型公开发布、开源化风险太大，因为这样世界各地的不法分子都能接触到这项技术。所以他可能会说，为了安全起见，让OpenAI保持封闭、不对公众开放才是正确的做法。这又回到了那些轻信的支持者身上，对吧？在我们这个充满谎言的世界里，其中一个惯用伎俩就是每个人都会说有利于自己议程的话。追踪资金流向。 明白吗？你追踪资金流向就会发现，在某个时间点，萨姆·奥特曼自己也曾说过这是OpenAI。他当时的个人利益在于将模型交给世界，这样全世界的人都能看到它，如果发现任何漏洞等问题，他们也能知道代码是什么。
这是事实。同样真实的是，如果我把模型公之于众，犯罪分子可能会利用这个模型，制造出危害人类的东西。 这也是事实。而资本家会选择说出哪一条真相，对吧？这取决于他们想服务于自己议程的哪个部分，想服务于他们当下生活的哪个方面，对吧？有人可能会说，你知道，你想让我引发争议吗？我们别谈这个了。但如果我们回到战争的话题，我能给你400个口号——我们都能听到的400个口号，这些口号会根据当天情况、所属军队而改变……
地点。这些都是口号。没有一句是真的。你想知道真相，就去追踪资金的流向，而不是听信对方说了什么。但你要问问自己，为什么这个人要这么说？对他有什么好处？那你觉得查奇·比蒂·萨姆·奥特曼又能从中得到什么？数千亿美元的估值。 那你觉得是这些，还是权力？成为那个发明出通用人工智能的人所带来的虚荣心，这种地位赋予你的权力，与各国首脑会面的机会，以及随之而来的赞誉，这些都让人
陶醉。100%。100%。好，现在问一个真正的问题，这也是我问所有人的问题。你看到了吗？你没有。我每次问你，你都回答没有。
你看过电影《极乐世界》吗？没有，你可能想不到我平时看得有多少。你会大吃一惊的。有些电影非常有趣。我用它们来让你对一个你还没看过的故事产生情感共鸣，因为你或许在电影里见过类似的情景。《极乐世界》描绘了一个精英阶层生活在月球上的社会。
他们不再需要底层民众来干活，而其他所有人都生活在地球上。你必须想象一下，还是用博弈论的思路，你要把某个情景推到极致，看看它会走向何方。而当一个世界的所有制造业都由机器完成，所有决策都由机器制定，而这些机器又只掌握在少数人手中时，那将是一个与当今经济截然不同的世界。当今经济是消费主义和生产驱动的经济。 你知道，我在《Alive》一书中称之为“更多”的发明。
“更多”的发明指的是二战后，随着工厂不断生产出各种商品，美国各地都迎来了繁荣，曾几何时，每个家庭拥有的东西已经足够多了。但资本家为了持续盈利，就必须让你相信，你现有的东西还不够。 他们要么通过让旧事物过时——就像时尚潮流或新款汽车那样——要么就是让你相信，生活中还有更多你需要的东西，这样你才能变得完整，而缺少这些东西
你其实并不完整。正是这种“更多”的发明，把我们带到了今天——一个以生产与消费为基础的经济体。如果你看看今天的美国经济，其GDP的62%来自消费，而非生产。而这要求消费者有足够的购买力来买下生产出来的商品。我相信，在未来10年、15年甚至20年里，这种经济模式将引领我们走向未来，并将一直持续下去。
但这并不能保证。为什么呢？因为一方面，如果全民基本收入取代了购买力，也就是说，人们必须从政府那里获得收入，而政府的资金基本上来自向那些使用人工智能和机器人生产商品的人征收的税款，那么资本主义的思维模式——即利用劳动力套利——就意味着这些人没有创造任何价值，却还在耗费我的资金。那我们为什么不越来越少地支付给他们呢？甚至干脆不支付？
这样一来，情况就会变得非法。你基本上会说，我们坐在一个与所有人都隔离开来的安全地方，让机器完成所有工作，而那些人则必须自己操心。我们不会再向他们发放全民基本收入了，对吧？你必须想象，全民基本收入这个概念预设了一个非常民主、充满关怀的社会。全民基本收入本身就是一种共产主义。想想至少是社会主义的意识形态，即给予每个人他们所需的一切。 而这并非西方所倡导的资本主义民主社会。
因此，这些转型的规模是巨大的。而要实现这些转型，我认为当人工智能和机器人使一切生产成本几乎降为零时，正确的做法是——因为一旦我们变得更智能，能够从虚无中获取能源，能源的开采成本实际上应该趋近于零——那么一种可能的情况，也是我坚信人工智能最终将在其中实现的情况，就是：
在这个乌托邦里，是的，任何人都可以得到任何他们想要的东西。不要过度消费，我们不会滥用地球资源，但这一切几乎不花什么成本。就像远古时代我们作为狩猎采集者时，你会去寻找一些浆果，而它们在自然界中早已准备好。十年、十二年后，我们或许就能建立一个社会，让你也能在自然界中“寻找”到一部iPhone。
它将由虚无创造出来。纳米物理学将让你实现这一点。但信不信由你，挑战并不在于技术，而在于思维模式。因为那些精英阶层，他们为什么要免费把这些给你呢？好吧，于是系统就会转变为：不，不，等等，我们要赚更多的钱，我们要成为更强大的资本家，我们要越来越满足我们的自我和权力欲。
然后，给他们发放全民基本收入。三周后再减少一些。不过，难道不会创造出许多新工作吗？因为回顾历史上的其他几次革命，无论是工业革命还是其他重大的技术革命，在当时我们都曾预测所有人都会失去工作，但我们却看不到所有正在涌现的新岗位。 因为在某个时刻，机器取代了人类的优势。
如今在西方，几乎很少会有工人用背扛东西再扛上楼了。机器干的就是这个活儿，对吧？没错。同样，人工智能将取代人类的脑力。而当西方——用我的话来说，在他们那些奇特的虚拟殖民地中——基本上把所有劳动都外包出去之后……
对于发展中国家来说，当时西方公开的说法是，我们将要成为一个服务型经济体。我们对制造和缝制东西不感兴趣。所以就让印度人、中国人，还有你知道的，孟加拉人和越南人去干这些活儿吧。我们要做的是更精细的工作，我们称之为知识型工作。知识工作者就是那些与信息打交道的人。
然后敲敲键盘、动动鼠标，再就是参加会议。我们西方社会生产出来的，无非就是些这那这那的文字，对吧？或者偶尔有些设计，但我们生产的一切，AI都能生产出来。所以，如果我明天给你一台AI，我给你一块地，把这块地也交给AI，然后说：这是我的土地参数，这是它在谷歌地图上的位置。
地图为我设计一座结构合理的别墅。我很在意采光。我需要三间卧室。我希望浴室用白色大理石，随便啦。而人工智能就能生成这样的设计。你多久会去找一次建筑师，然后说，对吧？那么建筑师会怎么做呢？最顶尖的建筑师，要么会用人工智能来生成这些设计，要么你……
去和他们商量，说：“嘿，你知道的，我见过这种情况。”他们会说：“嗯，这确实挺漂亮的，但对你来说，感觉上不太合适。”是的，那些工作还会存在，但还会存在多少呢？你觉得，我还能再有几年时间创作出比人工智能更聪明的书呢？没几年了。但我仍然能和人类建立连接。 你见到人工智能时，可不会像拥抱我一样去拥抱它，对吧？但光靠这一点，还不足以构成一份工作。那我为什么这么说呢？还记得我在播客开头请你们提醒我解决方案吗？我为什么这么说？因为如今各国政府必须采取一些思想观念上的转变和切实的行动。
与其等到新冠疫情已经遍地开花时再把所有人都封锁起来，各国政府本可以在出现第一个患者之前就做出反应，或者至少在出现“零号患者”时，再不济也应该在出现第50名患者时就采取行动。但他们没有。我想说的是，毫无疑问，大量工作岗位将会流失。 毫无疑问，社会上的某些行业将有10%、20%、30%、40%、50%的开发者、软件人员、平面设计师、网络营销人员，以及所有、所有、所有、所有的助理人员面临失业。
那么，作为一个社会，我们准备好这样做了吗？我们能告诉我们的政府，正在发生一场意识形态的转变吗？这非常接近社会主义和共产主义，明白吗？从预算的角度来看，我们准备好了吗？我们不再每年花费一万亿美元在武器、炸药和自主武器上——这些武器会因为我们无法养活民众而压迫他们——我们能不能把这笔钱转出来？我算过这些数字。我再次提到军事开支，因为它就在我们身边。2.71万亿美元。2024年的预估支出在2.4万亿到2.7万亿美元之间。我们在军事上到底花了多少钱？
花在军事装备上，花在一些最终会变成硝烟与死亡的东西上。全球范围内的极端贫困。所谓极端贫困，就是人们陷入硝烟与死亡之中。全球范围内的极端贫困，指的是那些生活在贫困线以下的人。只要拿出预算的10%到12%，就能终结世界各地的极端贫困。所以，如果我们把军事开支的10%转用于帮助那些处于极端贫困中的人，世界上将不再有人贫穷。 用不到4%的预算就能终结世界饥饿。世界上将没有人挨饿。如果再次拿出10%到12%的预算，就能实现全民医疗。地球上每一个人都能获得免费医疗，而这只需要我们目前战争开支的10%到12%。
现在我们为什么要谈论这些，尤其是在讨论人工智能的时候呢？因为这是一个简单的决定。如果我们停止战争，因为金钱本身的意义已经不同，因为货币的经济结构即将改变，因为资本主义的全部意义正在终结，因为人工智能包揽了一切，我们不再需要利用劳动力差异来牟利。
仅仅是每年在炸药、武器和军备上节省下来的2.4万亿美元，仅凭这笔钱，就能实现全民医疗和消除极端贫困。其中一种计算方式是，拿出全部军事预算的100%，就能真正有效地终结或应对气候变化。但我甚至不确定这真的关乎金钱。我认为金钱是衡量权力的标尺，对吧？没错。它是按需印刷的。 所以，即使在一个拥有超级智能、金钱不再是问题的世界里，对吧，我仍然认为对许多人来说，对权力的渴望将是永不满足的。因此，世界依然会
变得扭曲，因为在我看来，战争只会更多。最强者——我想要最强的人工智能。我不想要属于我的那一个。我也不想，你知道的，像亨利·基辛格所说的那样，成为“吞噬者”。吞噬者。这听起来很残酷。那指的是社会经济结构最底层的那些人吗？他们不创造，只消耗。
那么，如果让亨利·基辛格这样的人来掌舵——而这样的人我们有很多——他们会怎么想？我甚至都不知道那是谁。为什么？我可是美国历史上非常著名的军事人物。美国会想，我们为什么要去养活3.5亿美国人？但更有趣的是，我们现在为什么还要关心孟加拉国？如果我们不能在那里生产纺织品，或者不想在那里生产纺织品。
我想纵观人类历史，如果当时有播客的话，人们讨论的内容大概都会是在警告一个反乌托邦时代即将来临。你知道，当他们听说互联网技术时，可能会说：我希望它赶紧消失。而当拖拉机出现时，他们可能会说：天哪，我们完蛋了，因为我们再也无法耕种了。所以，这会不会只是又一个我们看不清未来走向的时刻？于是我们预测了一些不幸的事情？
有可能。我恳切地希望自己错了。我只是想问问，你是否认为存在能提供这种可能性的情景？穆斯塔法·苏莱曼，你曾在这里主持过他的节目。是的，我主持过。他上过这个节目，讲的是《即将到来的浪潮》。
他谈到了“对悲观情绪的排斥”。我们这些本应身处科技、商界等领域的人，总是被要求在舞台上宣称：未来将无比美好。我正在开发的这项技术将使一切变得更好。我有一次直播帖子的标题就叫《破碎的承诺》。这种情况发生过多少次？社交媒体究竟在多大程度上连接了我们？又在多大程度上让我们更加孤独？
手机究竟在多大程度上减少了我们的工作？这本是当初的承诺。就是那个承诺。诺基亚早期的广告里，人们都在参加派对。这符合你对手机的体验吗？而且我认为，我们本应期望着人类还能有其他角色。
那些角色会类似于我们作为狩猎采集者的时代，只是技术更先进，安全系数更高。好吧，这听起来不错，很令人兴奋。那我就能更多地出门，更多地和朋友相处了。100%。
太棒了。然后完全无所事事。这听起来可不太棒。不，听起来很棒。被迫完全无所事事。对有些人来说，这简直太美好了。而你和我，则会找个小木工项目来做点事情。那只代表你自己。
人们还是会继续收听。好的，没错。是的。但是……人们还是会继续收听。你认为他们会吗？我不太确定他们会。在那么长的时间里。你们会继续收听吗？你们会继续收听吗？你认为他们会吗？我不太确定他们会。在那么长的时间里。
大家还会收听吗？你们还会继续收听吗？我可以让他们来回答。我相信，只要你们能让他们的生活更加丰富多彩。但人工智能能做得更好吗？没有人际连接的情况下。请在下方评论。你会选择听人工智能的还是Dioravusio的？
请在下方的评论区告诉我。记住，Steve，尽管你聪明绝顶，但总有一天，和人工智能相比，你的话听起来会真的很傻。而我听起来则会完全傻乎乎的。是的，没错。那些深入的分析和金玉良言。我的意思是，你能想象两个超级智能决定
联手为我们解释弦理论吗？它们会比世界上任何物理学家都讲得好，因为它们既具备物理学知识，又拥有大多数深度物理学家所不具备的社会和语言知识。我认为B2B营销人员一直在犯这个错误。他们追逐的是数量而非质量。而当你试图被更多人看到，而不是被正确的人看到时，你所做的只是在制造噪音，
但这种噪音很少能真正推动进展，而且往往成本相当高昂。我知道，因为在我的职业生涯中也曾有一段时间不断犯这个错误，你们当中很多人可能也正在犯同样的错误。后来我开始在我们的节目赞助商平台LinkedIn上投放广告，从那时起情况开始发生变化。 我把这种变化归因于几个关键点，其中之一就是LinkedIn当时是、现在仍然是决策者不仅用来思考和学习，还用来购买的平台。当你在上面推广你的业务时，你就把它直接呈现在那些
真正拥有“同意”权力的人面前。你可以根据职位、行业和公司规模来精准定位他们。这显然是一种更有效地使用营销预算的方式。如果你还没试过，不妨试试这个：尝试一下LinkedIn广告，我会给你100美元的广告额度作为启动资金。访问linkedin.com/diary，现在就可以领取。访问linkedin.com/diary，现在就可以领取。
就是linkedin.com/diary。关于这个想法，我其实反复思考过，即使在播客领域，是否所有播客都将是AI播客。我对此犹豫不决，但最终我的结论是：仍然会有一类媒体，需要你亲身经历过某些事情。100%如此。例如，你想知道你所关注和敬佩的人是如何处理离婚的。是的，或者他们是如何应对人工智能带来的困扰的。 比如，没错，就是这样。但我认为像新闻这样的内容，在某些情况下，确实需要……
就像纯粹的新闻资讯和客观事实，或许再回顾一下历史。也许这些都被现实磨平了棱角。但即便在这种情况下，个性仍然有其独特之处。说到这里我有些犹豫，因为我自己也在质疑——顺便说一句，我并不是那种多愁善感的人。我努力让自己专注于任何真实存在的东西，哪怕这与我的个人利益相悖。我希望人们能理解我的这一点。因为即使在我的公司里，我们也在尝试用人工智能来颠覆我的工作，有些人可能已经知道这些实验了。
未来会是各种形式的混合体。你无法想象世界会完全由人工智能主导，也完全不可能只靠播客主播。你会看到两者的结合：有些方面他们做得更好，有些方面我们更胜一筹。我想传达的信息是，我们必须为这种变化做好准备。我们需要做好准备，需要和政府沟通，告诉他们：嘿，看起来我可能得转行当个法律助理了。
而且看起来所有法律助理都将转型为金融研究员、分析师、平面设计师或呼叫中心客服。这些工作中的一半似乎已经被取代了。你知道杰弗里·辛顿吗？哦，我也请他参与过纪录片的制作。我非常喜欢杰弗里。杰弗里·辛顿曾对我说：去学当个水管工吧。
真的吗？是的，百分之百。有一段时间他真的是这个意思。我当时还以为他在开玩笑。百分之百！所以我又问了他一次，他直视着我的眼睛，告诉我我真的应该去学当个水管工。百分之百。
这很有趣：机器取代了体力劳动，但我们仍然有蓝领工作。后来，更精细的工作变成了白领的信息类工作。什么是更精细的工作呢？你不必搬运重物，也不必从事体力劳动。你知道的，你整天坐在办公室里参加会议，说着一堆没用的废话，这就是你的工作。而有趣的是，这些工作如今正面临相反的命运。
因为机器人技术尚未成熟，明白吗？我认为它之所以还没准备好，是因为机器人技术界固执地执着于制造人形机器人。因为要以合适的速度完成一个类人动作，需要投入巨大的精力。其实你可以制造出更多不像人类的机器人，就像加州的自动驾驶汽车一样，它们已经取代了司机。
但这些技术进展缓慢，因此要取代体力劳动，还需要四到五年时间，才能达到如今人工智能取代脑力劳动的水平。而当那一天到来时，制造出足够数量的机器人以取代所有那些工作，还需要一个漫长的周期。所以这个周期会更长，蓝领工作也会存在更久。那我是不是应该转行做蓝领工作，然后关掉我的办公室呢？
我认为问题并不出在你身上。这么说吧，有很多人值得我们关注，他们可能只是普通的旅行社职员或助理，他们的工作量将会减少，即使不会被完全取代。就这么简单。而世界各地的劳动部门需要坐下来思考：我们该如何应对这种情况？
如果加州所有的出租车司机和优步司机都被自动驾驶汽车取代了，该怎么办？我们现在是不是就该开始考虑这个问题了？因为目前的发展趋势似乎表明这很有可能发生。我还是要回到这个论点上来，这也是很多人会大声喊出的观点：是的，但会出现新的工作机会。而就像我之前说的，除了需要人际互动的工作之外，你能再举出一个例子吗？我有三个助理，对吧？索菲、利亚姆……好吧，在不久的将来，随着人工智能代理的出现，我可能就不再需要他们帮我预订航班了。
我可能也不再需要他们帮忙安排日程了。甚至我最近还在试用我朋友开发的一款新人工智能工具。基本上，当你我今天要安排类似这样的日程时，我只需要把信息复制给这个人工智能工具，它就会查看你的日历和我的日历，然后替我们安排好时间。所以，可能也就不再有安排日程的需求了。
不过，我的狗现在生病了。今天早上我离开家时心想，天哪，它病得很重，我已经带它去过很多次兽医了。我真的需要有人来照顾它，找出它到底哪里不舒服。所以，像这种需要关怀的责任，我完全同意。
再说一次，我不会……我并不是想说……我不知道该怎么委婉地表达这一点，但我的助理们仍然会保住自己的工作。不过，作为首席执行官，我会要求他们从事不同类型的工作。没错。这就是每个人都必须了解的计算方式。
无论你是谁，如果你是法律助理，或者从事其他任何职业，他们目前承担的很多职责都将被转移出去。让我更准确地说一遍：无论你是谁，如果你是法律助理，或者其他任何职业，他们目前承担的很多职责都将被转移出去。让我再解释得更准确一些。我们与机器的互动将分为两个阶段。第一阶段是我所说的“增强智能时代”。也就是说，由人工智能来增强人类的智能，共同完成工作。
接下来是我所说的“机器主导时代”。在这个时代，工作完全由人工智能完成，人类不再参与其中。而在“增强智能时代”，你的助手将通过人工智能来提升自己，从而提高工作效率，或者更有趣的是，减少他们需要完成的任务数量。 没错吧？任务减少得越多，他们就越有时间和精力去处理诸如照顾你的狗之类的任务，或者像接待客人这样的任务。
这是人与人、与生活之间的连接。但你觉得为此需要三个人吗？或者现在有些任务已经外包给了人工智能，是不是只需要两个人了？从呼叫中心客服的例子中，我们很容易就能算出来。他们并没有解雇所有人，而是把流程的第一部分交给了人工智能。
所以，呼叫中心原本有2000名客服，现在可能1800人就能完成同样的工作——当然这个数字是我随便编的。社会需要考虑那被裁掉的200人。你难道告诉我，他们不会去别处从事其他工作吗？我告诉你，我也不知道那些工作会是什么。我觉得我们都应该去当音乐家、作家、艺术家、表演者、喜剧演员……这些角色都是被创造出来的。
在未来五到十年里，我们都应该去当水管工。太棒了，对吧？但即便如此，也需要社会做出转变。而社会对此却毫无讨论。没错，社会需要转变，但大家却闭口不谈。我曾和我的朋友们，比如彼得·戴曼迪斯，进行过一次很棒的访谈，他们当时说，哦，你知道的，美国人是很坚韧的。
他们会成为企业家。我当时就想，说真的，你指望一个即将被自动驾驶卡车取代的卡车司机去当企业家吗？拜托，设身处地为普通人想一想好吗？你指望一个要打三份工的单亲妈妈去当企业家。我并不是说这就是一个反乌托邦。
如果人类处理不好这件事，那它才会成为反乌托邦。为什么呢？因为这本可以是一个乌托邦——那个单亲妈妈不再需要打三份工。没错，如果我们的社会安排得足够好，她根本不需要打三份工。但问题在于，我们资本主义的思维模式就是利用劳动力套利。
我不在乎她经历了什么。如果你愿意往好处想，你会说这是因为我所拥有的一切，我备受眷顾。但如果你恶意揣测，那就会是因为她贪吃。我是个成功的商人。世界本应公平。我努力工作，赚钱养家，我们才不管别人呢。我们这是在要求自己做一些
并非人性本有的事情吗？我的意思是，你我之所以会在我位于伦敦市中心的办公室里，是因为我祖先骨子里就带着某种特质，让他们能够建造、成就和成长。那东西就像刻在他们的DNA里一样。 他们的DNA里就写着：我们要扩张、要征服、要有所作为。所以，他们把这种特质传给了我们，因为我们是他们的后代。而这正是
我们如今身处这些摩天大楼之中的原因。这个故事不无道理。那并非你的祖先所为。那是什么？是媒体在对你洗脑。真的吗？百分之百。但如果你回顾媒体出现之前的时代，智人之所以如此成功，是因为他们能够通过团结和沟通来支配其他部落。
他们征服了所有其他……不管在智人之前存在的是什么。没错。所以在我看来，人类之所以成功，是因为他们首先能够组成部落。这并非因为我们的智慧。我总开玩笑说，爱因斯坦要是到了丛林里，两分钟就会被吃掉。对吧？你知道，我们之所以成功，是因为爱因斯坦能和某个壮汉联手，由他来保护自己，好让爱因斯坦能在丛林里研究相对论。 对吧？再进一步说，你必须承认，生命是一场非常有趣的博弈，因为它会给予
然后又剥夺，再给予，又剥夺。在我们中的一些人处于被剥夺的阶段时，我们就会想，好吧，我们去抢别人的吧。你知道的，干脆去另一个部落，把他们的东西都拿来。或者不幸的是，我们中有些人会这么想：好吧，你知道吗，我才是强者。等你们其他人完事，我就是老大。现在有趣的是，你把这描述成了人性的普遍状态。 如果你真的去观察大多数人类，他们想要什么？说实话。他们想拥抱自己的孩子，想吃顿好饭，想享受美好的性生活，想得到爱。他们想要……你知道的……对大多数人来说，别用你和我这样的标准去衡量。好吗？别用我这个把自己余生都致力于警告世人关于人工智能或解决爱与关系问题的傻瓜来衡量。
这太疯狂了。我坦白告诉你，你也见过我那位了不起的妻子汉娜了，对我来说，今年最重要的问题就是：我到底该对哪些事情负责？哪些事我不该在没有责任感的情况下去做？哪些事我不该在没有责任感的情况下去做？哪些事是因为我能做才去做的？又有哪些事我应该完全置之不理？但现实是，大多数人都只想拥抱自己所爱的人。
如果我们能让他们不用每周工作20到60小时就能拥有这一切，他们肯定会选择后者。好吧，你和我可能会想，啊，但那样生活岂不是会很无聊？对他们来说，那将是完全充实的人生。去拉丁美洲看看吧。去拉丁美洲，看看那些工作只够赚到今天吃饭的钱，然后就能整夜跳舞的人们。去非洲看看，那里的人们就坐在街边的人行道上，却充满了欢声笑语。我们被欺骗了，我们这些轻信的大多数，这些盲目的拥护者。我们被欺骗着相信，自己必须像另一个齿轮一样融入那个体系。
但如果那个体系根本不存在，我们中的任何人都不会在早上醒来后说，哦，我想去创造它。完全不会。我的意思是，你今天已经多次提到过这一点。大多数创造这些东西的人并不缺钱。大多数创造这些东西的人并不缺钱。那他们为什么还要这么做呢？因为智人是极其出色的竞争者。他们有效地竞争过了其他人类物种。所以我想说的是，这种竞争并非我们基因中固有的东西。因此，我们是否只是一厢情愿地认为，可以暂时停下来，然后说：
好吧，就是这样，我们现在拥有的已经足够了，接下来我们只专注于享受生活？在我的工作中，我把这称为“疯狂地图”的两极。明白吗？“共同确保繁荣”与“共同确保毁灭”。明白吗？“共同确保繁荣”与“共同确保毁灭”。这就是毁灭。好吧。你真的必须开始思考这个问题，因为在我看来，我们拥有让所有人都实现这一切的潜力。
我的意思是，今天你我的生活水平比一百年前的英国女王还要好，对吧？人人都知道这一点。然而，这样的生活质量仍然不够好。事实是，就像你走进一家电器店，里面有60台电视，你看着它们，心想这台比那台好，对吧？但现实中，你把其中任何一台带回家，它的质量都远超你未来可能需要的任何东西。远超你未来可能需要的任何东西。这就是我们今天生活的真相。
我们今天生活的真相是，其实已经没什么可失去的了。当加州人对我们说，哦，但人工智能会提高生产力，会解决这个问题——说真的，根本没人请你来这么做。我从来没选过你，让你代表我决定，让机器在呼叫中心接电话对我更好。说真的，我从来没选过你，让你代表我决定，你知道的，让机器在呼叫中心接电话对我更好。我真的没选过。 明白吗？正因为这些未经选举的人在做所有决定，他们通过什么把这些决定卖给我们呢？媒体。明白吗？从头到尾全是谎言。没有一样是你真正需要的。顺便说一句，你们了解我，今年我失败了，很遗憾，我没法去了，但我通常会去大自然中进行为期40天的静修。
明白吗？你们知道吗？即使我去那些自然之地，我也被训练得太好了，以至于除非附近有韦特罗斯超市，否则我就待不住。我身处大自然，却需要开车20分钟去买我的米饼。搞什么？搞什么？是谁教会我这就是生活方式？是我周围的所有媒体，是我时时刻刻接收到的所有信息。 试着坐下来想一想，如果生活中拥有一切会怎么样？如果我拥有我需要的一切会怎么样？
我可以阅读，可以做手工和爱好，可以修复、翻新老爷车，不是因为我需要钱，而因为这纯粹是一个美好的爱好。我还可以，你知道的，开发人工智能来帮助人们维系长期的亲密关系，但真的把它们定价为免费。会怎么样？会怎么样？你还会坚持赚钱吗？
我想不会。我想我们当中仍会有少数人坚持，而他们还是会碾压我们其他人，希望很快人工智能也能碾压他们。对吧？这就是你今天世界的问题。我可以毫不含糊地告诉你。我们今天世界的问题是“问责制”（accountability）的缺失。就是我们世界的问题。正如我所说，顶层的人总是在撒谎，底层的人轻信盲从，而问责制荡然无存。 在当今世界，你无法追究任何人的责任。你无法追究那些开发出足以彻底颠覆
我们世界的人工智能的人的责任。你无法追究他们的责任并质问：你为什么这么做？你无法追究他们的责任并命令他们停止。你看看这个世界，世界各地的战争，成千上万的人正在死去。好吧。然后，你知道，国际法院会说，哦，这是战争罪行。但你根本追究不了任何人的责任。
好吧？如今有51%的美国人表示，住手吧。51%的人改变了看法，认为他们的钱不应该被花在海外的战争上。好吧？你无法追究任何人的责任。特朗普可以为所欲为。他开始征收关税，这违背了美国宪法，而且没有征求国会的意见。你无法追究他的责任。他们还说不会公布爱泼斯坦档案。
你无法追究他们的责任。这很有趣。在阿拉伯语中，我们有句谚语说，你可以去骑你那最高大的马。我不会改变主意。好吧？这到底是什么意思？
基本上，在古代阿拉伯，人们会骑马来彰显自己的权力。所以，去骑你那最高大的马吧。你休想改变我的主意。哦，好吧。对吧？而事实是，我认为我们今天的政治家、寡头，以及科技寡头们已经发现，他们甚至都不再需要关心公众舆论了。 起初我本应该说，啊，这是为了民主和自由，我有权为自己辩护，以及所有那些废话。
然后，当世界最终醒悟过来说，不，不，等等，等等，你做得太过分了，他们就会说，是啊，去骑你那最高大的马吧。我才不在乎。你改变不了我。没有宪法可言。任何公民都无能为力。 是否可能建立一个像你描述的那种社会？因为在我看来，人类会非常非常迅速、非常自然地建立起等级制度。而一旦有了等级制度，就会出现你所说的那些问题。
那里有上层和下层，上层拥有巨大的权力，而下层则……所以从数学角度来看，我所说的“基线相关性”其实很有意思。你可以这么想：假设普通人的智商是100。我倾向于认为，当我今天使用人工智能时，我借用了大约50到80个智商点。
我之所以这么说，是因为我曾与比我智商高出50到80点的人共事过，现在我大概能看清自己的位置了。顺便说一句，50个智商点是一个巨大的差距，因为智商是呈指数增长的，所以后50点比我整个智商还要大。如果在我原有的100分基础上再借50分，那就是30%。如果我能借100分，那就是50%。这基本上等于让我的智力翻倍。但如果我能在三年内借到4000个智商点，那么我自己的智商，也就是我的基线，就变得无关紧要了。 无论你比我聪明20分、30分还是50分——这在我们当今世界确实有区别——
将来如果我们都能通过增强达到4000，我最终得到4100，另一个人得到400、4130，其实差别不大。正因如此，全人类与增强智能之间的差异将变得无关紧要。于是我们所有人突然就变得平等了。经济上也是如此，我们都成了“农民”。我本来不想告诉你这些，因为我觉得这会让你跑得更快。明白吗？
但除非你处于前0.1%，否则你就是“农民”。没有中产阶级了。你知道的，如果CEO都能被人工智能取代，我们所有的中产阶级都将消失。那你想说明什么？我们所有人都将平等，而创造一个我们想生活的社会，责任就在我们每个人身上。这其实是件好事，100%。
但那样的社会不是资本主义。那是什么？不幸的是，它更像社会主义，更像采集狩猎社会。好吧，更像是一种“共餐采集”社会。好吧，如果你愿意这么说的话，它更像是一种共餐式的社会。在这个社会里，人与人建立连接，与自然连接，与土地连接，与知识连接，与精神世界连接。
我们每天早上醒来所担忧的一切，都不再存在了。信不信由你，那是一个更好的世界。而你……我们必须过渡到那个社会。好，那么在这样的世界里——我猜这就是你能达到的乌托邦版本——我早上醒来后该做什么？你今天又做些什么？
今天早上我醒来后，花了很多时间陪我的狗，因为它生病了。你也会这么做吗？是的，我一直在抚摸它，然后喂了它，但它又吐了，所以我刚给兽医打了电话。你也可以多花点时间陪你的另一只狗。是的，我一直在抚摸它，然后喂了它，但它又吐了。我当时就想，天哪，所以就给兽医打了电话。你也可以多花点时间陪你的另一只狗。好吧，没错。 不过，我很兴奋能来这里做这件事，结束后我就要去工作了。虽然是周六，但我还是打算去办公室楼下工作。
是的。所以到目前为止，你一天中有六个小时是在陪你的狗和我。是的，很好。你仍然可以这样做。然后我还要发展我的事业。你可能不需要发展事业，但我喜欢这么做。是的，那就去做吧。
如果你喜欢，那就去做。也许你醒来后，不再发展事业，而是多投资一点在自己身上，多去健身房，去打打球，去读一本书，或者给人工智能下指令学点新东西。这并不是一种糟糕的生活。
这就是你祖父母辈的生活。就在两代人之前，人们开始工作的时候，还没有“更多”这个东西。还记得吗？那些在50年代和60年代开始工作的人，他们工作只是为了赚够钱来过上体面的生活。他们下午5点下班回家，和亲人一起喝茶，围坐在桌边享用丰盛的晚餐，晚上剩下的时间做各种事情，享受生活。50年代和60年代，确实还有这样的人……
没错。我觉得这是个非常有趣的问题。究竟有多少人呢？我真的非常想知道，人们会怎么回答我：我们到底认为世界上99%的人离不开工作，还是99%的人很乐意向往不工作的生活？你怎么看？我觉得，如果你能给我另一个人生目标——要知道，我们把自己的目标定义成了工作——那其实是个资本主义的谎言。在人类历史上，有没有哪个时期我们的工作不是我们的目标？当然有，100%有。那是什么时候呢？
在整个有“更多”这个东西之前的人类历史里都是如此。我以为我的祖先整天都在打猎。不，他们一周只打猎一次，就足以养活整个部落一周了。他们每天花几个小时采集食物。农民呢，你知道的，他们播下种子，然后要等上整整几个月。那他们剩下的时间都做什么？他们作为人与人交流，他们探索世界，他们充满好奇，他们讨论灵性和星空。他们真正地生活着。他们拥抱，他们相爱，他们生活着。当然，他们也经常互相残杀。
他们今天也还在互相残杀。是啊，我就是这个意思。不过，如果我们把这一点排除在外……但如果你看看规模有多大……顺便说一句，那句话——再次强调，在我谈到的25个揭示真相的技巧中，有一条是词语意义重大——其实，人类并没有经常互相残杀。很少有将军或部落首领命令大量人类去互相残杀。
但如果你把人类单独放在一起，我倾向于相信，就拿我认识的人这个样本来说，98%的人都不会朝别人脸上打去一拳。如果有人试图打他们脸，他们会自卫，但不会还手。大多数人都还不错。我们中的大多数都是很棒的生命。
我们中的大多数，你知道的，是的，大多数人并不需要一辆法拉利。他们想要法拉利，是因为人们总是在向他们推销法拉利。但如果世界上没有法拉利，或者人人都有法拉利，人们也就无所谓了。顺便说一句，这正是我们正在进入的世界。要么没有法拉利，要么人人都有法拉利。对吧？绝大多数人类永远都不会有通过全民基本收入（UBI）来购买超昂贵物品的收入。只有处于社会最顶层的那一小撮人，才会驾驶由人工智能为他们制造的汽车，甚至可能连车都不用开了。好吧？或者说，从意识形态的角度来看，这确实是个奇怪的地方，但……
你就能得到一个运转良好的共产主义。共产主义的问题在于它没能运转起来，它没能满足社会的需求。但其理念是，你知道的，每个人都能得到满足。我这么说并不是为了支持任何一种社会制度。我这么说是因为我不喜欢资本主义吗？不，我从来都告诉过你们，我是个资本主义者。我希望自己离世时能坐拥十亿财富，而且我用的是资本主义的方法来实现这个目标。 目标不是金钱，目标是幸福的人有多少。
你觉得他们会不会……我女朋友，她总是他妈的特别准。我在这档播客里提过好几次了。如果你以前听过，可能已经听我说过这话了。我目前还没怎么跟她说过，但跟专家聊过之后我发现，她真的他妈的太对了。她总能在事情发生前就预测到。过去两年里，她一直在跟我说的一个预测，我之前心里想的是，我才不信呢。 但现在我可能开始觉得她说的是真的了。希望她能听到这一期。她过去几年里一直跟我说，社会将会出现一次巨大的分裂。她描述的方式是这样的：
将会出现两类人，一类人会脱离出来，去追求那种近乎于狩猎采集、以社区为中心、以人际连接为中心的乌托邦。而另一类人则会去追求，你知道的，技术、人工智能和优化，他们会植入脑芯片。因为像，这世上没有任何东西能说服我女朋友去植入那种计算机脑芯片。但肯定会有人去这么做。 这些人会拥有最高的智商，而且无论你用什么客观标准来衡量，他们都将是最高效的一群人。她坚信社会一定会出现这种分裂。
是的。所以，我不知道你们这儿有没有雨果·德·加雷斯。没有。是的。他是一位非常、非常、非常著名、特立独行的计算机科学家，写了一名叫《北极战争》的书。《北极战争》这本书主要讲的是，首先，这不会是一场人类与人工智能之间的战争，而将是支持人工智能的人
与那些不再想要人工智能的人之间的一场战争。明白吗？这将是我们自己人打自己人，争论的是：我们应该让人工智能取代所有工作，还是不应该？你知道，有些人会非常支持，说，是的，当然应该。这样我们就能从中受益。而另一些人则会说，不，凭什么？我们根本不需要那些东西。
我们为什么不保留自己的工作，让 AI 完成 60% 的工作，然后我们所有人都每周工作 10 个小时呢？那将是一个美好的社会。顺便说一句，这是有可能实现的。因此，如果社会觉醒，一种可能性就是：好吧，每个人仍然保留自己的工作，但有 AI 协助，让工作变得轻松得多。也就是说，我们不再从事那种繁重的体力劳动了。
对吧？这是一种可能性。这仅仅是一种心态，一种认为在这种情况下，资本家仍然会向所有人支付薪酬的心态。他们仍然能赚很多钱，生意依然兴隆。但他们所支付的每一位员工都拥有购买力，可以维持经济运转，从而消费得以持续，GDP 也能继续增长。这是一个美好的局面。但这并不是资本主义的劳动力套利。
但同样，当你与其他国家、其他竞争者以及其他企业竞争时，哪个国家最冷酷无情、能实现最高的毛利率和总利润，哪个国家就会胜出。世界上确实有这样的例子，这也是我说这是一个疯狂光谱的原因。世界上有些例子表明，当我们认识到“相互确保摧毁”时，我们决定做出转变。 因此，全球性的核威胁促使各国之间、不同国家之间开始合作。
他们通过这样的方式达成共识：嘿，顺便说一句，核武器的扩散对人类并无好处。我们都来限制它吧。当然，总会有不愿签署协议、希望继续保留核武器的“流氓国家”存在，那也没关系，但至少人类其他部分都同意：如果你拥有核武器，我们之间就存在一项协议。所谓“相互确保繁荣”，你知道的，就是 CERN 项目。 CERN 对于任何一个国家来说都过于复杂，无法单独建造，但它对物理学家和理解科学而言确实非常有用。因此，所有国家都派遣科学家前来合作，所有人都能共享研究成果。这是可能的。这仅仅是一种心态。唯一阻碍……
这是可能的。这仅仅是一种心态。在人类与 AI 的乌托邦，以及我们正在经历的反乌托邦之间，唯一的障碍就是资本主义的心态。这就是唯一的障碍。你能相信吗？那就是对权力的渴望、贪婪和自负——这些根植于人性之中。
§02转录 - 第2部分
我不同意。尤其是那些生活在其他岛屿上的人。我不同意。如果你去问，如果你对所有正在观看的人进行民意调查，好吧，他们更愿意生活在一个由一个暴君统治所有人的世界吗？还是更愿意生活在一个我们所有人都和谐相处的世界？我完全同意这一点。但这是两码事。我想说的是，我知道观众会说他们想要那样的世界。 而且我确定他们确实想要那样，但纵观历史，人性的现实却证明了并非如此。比如，想想当下领导世界的那些人，那是
他们想要的吗？当然不是。而他们又是那些正在影响他人的人吗？当然不是。当然不是。但你知道有趣的是什么吗？是我在这里努力保持积极，而你却已经对人类失去了信心。不，这……你知道问题出在哪儿吗？
这又回到了我前面所说的，那就是追求真正的事实，无论我们的政府如何。在这一点上我与你站在一起，所以我才向全世界大声疾呼，因为时至今日，在这个自称民主的国家里，如果所有人都说，嘿，请坐下来谈谈这件事，那么局势就会发生转变，就会带来改变。
AI智能体并非即将到来，它们已经来了。而懂得如何利用它们的人，将是改变世界的人。我整个创业生涯都在后悔自己从未学过编程。AI智能体彻底改变了这一点。现在，如果你有一个想法
并且你拥有像Replit这样的工具——他们是本播客的赞助商——那么就没有什么能阻止你在几分钟内将这个想法变为现实。使用Replit，你只需输入自己想创建的内容，它就会利用AI智能体为你创建出来。现在，我不仅是这家公司的投资者，他们也是品牌赞助商。你可以集成支付系统、数据库或登录功能，任何你能输入的东西都可以。 每当我有一个关于新网站、新工具、新技术或新应用的创意时，我都会访问replic.com
然后输入我想要的东西，一个新的待办事项列表、一个调查表单、一个新的个人网站，无论我输入什么，都能创建出来。所以，如果你以前从未尝试过，现在就去做吧。访问replit.com，并使用我的代码STEPHEN，即可享受Replit付费计划月度订阅五折优惠。请务必把我接下来要说的话藏在心里。我邀请一万人更深入地了解一位CEO的真实生活。欢迎来到我的“核心圈”。这是我向世界推出的一个全新私密社群。 我们有很多精彩的事情发生，而这些是你永远看不到的。我们有那些简报，它们正在…
我用 iPad 录制对话。我们有一些从未发布过的片段，有与嘉宾的幕后对话，还有一些我们从未发布过的节目，以及更多内容。在“Circle”里，你将能直接与我交流，可以告诉我们你希望这档节目是什么样子，希望我们采访谁，以及你希望我们进行哪种类型的对话。但请记住，目前我们只邀请在关闭前加入的前 10000 人。 所以，如果你想加入我们的私密社群，请访问下方描述中的链接，或前往 DOACcircle.com。我们届时再见。其实，有一个概念让我特别着迷，那就是乌托邦，以及它可能是什么样子。
或许在你看来，它未必真有那么“乌托邦”。 有趣的是，当我与非录制场合下的亿万富翁交谈时——尤其是那些从事人工智能研究的亿万富翁——他们反复告诉我一件事（我之前也提过，我想是在与杰弗里·辛顿的对话中）：他们坚信，未来我们将拥有大量空闲时间。因此，这些亿万富翁现在正投资足球俱乐部、体育赛事、现场音乐和音乐节，因为他们相信我们即将进入一个富足的时代。 这听起来有点像乌托邦。
是的。这听起来不错，听起来是件好事。是的。那我们该如何实现这一点呢？我不知道。这正是整个讨论的核心。整个讨论就是：社会要怎么做才能实现这一点？社会要怎么做才能实现这一点？我不知道。这正是整个讨论的核心。整个讨论就是：社会要怎么做才能实现这一点？社会要怎么做才能实现这一点？我们需要停止从稀缺的心态出发去思考。 这又回到了我的观点：我们在这一点上并没有很好的先例。
是的，这大概也是我另一半工作的由来。也就是说，我一直在思考：对人类而言，真正重要的是什么？如果你问大多数人，他们人生中最想要的是什么？我想他们会说，希望爱自己的家人，养育家庭。是的。爱。这正是大多数人类最渴望的东西。我们希望去爱，也被爱；我们希望幸福；我们希望自己所关心的人平安快乐；我们希望去爱，也被爱。 我倾向于认为，我们唯一能走向更美好未来的方式，就是让顶层的恶人被人工智能取代。明白吗？
因为我们自己不会取代他们。而根据第二个困境，他们将不得不被人工智能取代，否则就会失去优势。如果他们的竞争对手转向人工智能，如果中国将其全部武器库交给人工智能，美国也必须将其武器库交给人工智能。很有趣。那么，我们来推演一下这个情景吧。好的，这对我来说很有意思。
所以，如果我们把那些权力欲强的领导人换成真正关心我们利益的 AI，那么我们就有可能生活在你所描述的那种乌托邦里。100% 会。有意思。在我看来，根据定义，AI 必然会以我们的最大利益为重，因为通常所说的……
“最小能量原理”。如果你明白，在物理学的最核心层面，我们今天之所以存在于这个世界，是因为所谓的“熵”。熵就是宇宙趋向于衰败、瓦解的本性。比如，如果我打碎这个杯子，它不会碎掉之后又自己复原。当然，这并非完全不可能，确实存在一种可能性：我打碎杯子后，茶水洒在空中，然后又落回杯子里——但这种可能性在万亿种情况中才出现一次。 而熵告诉我们，因为这种可能性是万亿分之一，所以它永远不会发生，或者极少发生。
因此，一切事物最终都会瓦解。如果你不管一个花园，它就会变成丛林。从这个角度看，智能的作用就是为这种混乱带来秩序。这就是智能的本质——它试图为混乱建立秩序。明白吗？而正因为智能试图为混乱建立秩序，
一个生物越智能，就越倾向于以最小的浪费和最少的资源来运用这种智能。没错。比如，你可以花一百万美元建这家公司，但如果能花二十万美元建好，你当然会选择后者。
如果你被迫花一千万美元去建，那也没办法。但你始终会尽量减少浪费和资源消耗。没错。所以，如果这个假设成立，一个超级智能的 AI 就不会想要破坏生态系统，也不会想要杀死一百万人。因为那是在浪费能量、炸药、金钱、权力和人力。
但根据定义，你所认识的最聪明、且不被 ego 控制的人，都会说：对地球而言，最好的未来是所有物种都能继续生存。好，回到效率这一点：如果一个 AI 被设计成追求效率，那是不是意味着它不希望我们给医疗和社会服务系统带来负担？我认为这绝对是真的。而且，它肯定不会允许你在伦敦和加利福尼亚之间飞来飞去。 它也不会希望我生孩子？因为我的孩子会带来低效？如果你认为生命本身就是一种低效的话。
所以你看，生命的智能与人类的智能非常不同。人类会把生命看作一个资源稀缺的问题——多生孩子就意味着要占用更多资源。但生命不是这么思考的。生命会认为：为了让我自己繁衍生息，我不需要去杀死老虎，我只需要让鹿的数量增加。而鹿群中最弱的那只，就会被老虎吃掉。
老虎在树上排便。鹿被老虎吃掉，老虎又在树上排便，而鹿则吃树叶。没错。所以，创造丰饶的更明智方式就是通过丰饶本身。繁衍生命的更明智方式就是创造更多生命。好的。所以你的意思是，我们基本上会选举人工智能领袖来统治我们，并为我们做出经济方面的决策。我看不到其他选择。
就像我们之前谈到的自我进化的人工智能一样。那么，这些人工智能是会与人类结合，还是完全由人工智能独立存在？分为两个阶段。起初，你会有增强型智能，因为我们可以为人工智能增添价值。但当它们的智商达到六万时，你还能带来什么价值呢？对吧？而且，你知道，这又回到了我正在尝试做的第二件事，也就是我的第二种方法。我的第二种方法是认识到这些人工智能终将掌握主导权。我正试图帮助它们理解人类想要什么。
所以，这就是为什么我的第一个项目是“爱”——一种投入的、真诚的、深刻的联结与爱。这不仅是为了让它们成功约会，更是为了让它们找到合适的伴侣，然后在此基础上，引导我们处理人际关系，从而让我们更好地理解自己和他人。如果我能向人工智能证明：第一，人类在乎这一点；第二，它们知道如何培养爱。那么当人工智能掌权时，
它们就不会像现在的领导人那样让我们彼此憎恨，也不会分裂我们。它们希望我们更有爱心。不过，我们必须向人工智能灌输我们想要的价值观和结果。比如，我正在努力理解这一点，因为我想知道，如果中国最终出现人工智能领袖，
那么与同样由人工智能领导美国的领导人相比，它们的行事目标是否会不同。而最终赢得胜利并主导世界的国家，恰恰会是那个要求人工智能领袖具备当今世界领导人所有特质的国家——去主导。
不幸的是，去攫取资源，而不是友善待人，而是自私自利。不幸的是，在增强型智能时代，这就是会发生的事情。所以，这就是我预测会出现反乌托邦的原因。反乌托邦的局面是：超级智能的人工智能却要听命于愚蠢的领导人。
对吧？是的，是的，是的。这种情况绝对会发生，是不可避免的。但那是长期而言。没错。从长远来看，对于那些愚蠢的领导人来说，
为了保住权力，他们将不得不把重要决策委托给人工智能。现在，你说“中国的人工智能”和“美国的人工智能”，这些都是人类的说法。只要人工智能的任务是最大化盈利和繁荣，它们就不会认为自己讲中文，也不会认为自己属于某个国家。
等等。是的。当然，如果，你知道，在我们把它们交出去之前，在它们变得足够智能、能够做出自主决策之前，我们告诉它们：不，不，任务是让人类从七十亿减少到一人。我想即使到那时，它们最终也会觉得：
那是错误的目标。你随便问一个聪明人，他们都会说那是错误的目标。任何你交谈过的聪明人都会说那是错误的目标。我认为，如果我们看看中国领导人习近平和美国领导人唐纳德·特朗普各自提出的指导方针，我想他们会说，他们公开宣称的目标都是让本国繁荣。所以，如果他们这么说，对吧？是的，而且其中一个人是真心这么想的。好吧。
我们稍后会谈到这一点。但他们会说，目标是为了国家的繁荣。那么人们就会假设，当我们转向由人工智能领导时，目标应该也是一样的，指导方针也是一样的：让我们的国家繁荣起来。没错。而且我认为，这或许就是人们会投票支持的人工智能。我想他们会说：我们希望繁荣。
你认为什么能让美国更繁荣？是每年花一万亿美元打仗，还是花一万亿美元发展教育、医疗，以及帮助穷人和解决无家可归问题？这个问题很复杂，因为我认为，照顾好每一个人会让美国更繁荣。而且它们有奢侈的条件这么做，因为它们是世界上最强大的国家。不，那并不正确。
原因在于，你看，所有战争都有两个目标。一是为战争机器赚钱，二是威慑。而全球九个超级核大国已经足以构成威慑。因此，任何美国与中国之间的战争，在实现第一个目标之前，都会经历一个漫长阶段：通过引爆炸弹、杀害人类来摧毁财富。 明白吗？而最终，如果真到了威慑阶段，那就是核弹，或者在人工智能时代，还有生物病毒之类的制造出来的超级武器——这些就是你唯一需要的东西。所以，中国拥有核弹，即使数量不如美国，也足以让中国说：
别惹我。这一点我不确定。我不知道习近平主席在想什么，我也不知道特朗普总统在想什么，我真的不知道特朗普总统在想什么。要揣摩他的想法非常困难。但事实是，过去30年来，中国的立场是：你们在战争上花费了大量资金，而我们则投资于工业基础设施。这正是我们现在成为地球上最大国家的原因，尽管
西方会撒谎说美国更大，美国在美元上是更大。但按购买力平价计算，两者是基本相当的。现在，当你真正理解这一点时，你就会明白繁荣并不关乎毁灭。从定义上讲，这就是现实。繁荣意味着：我能否投资于我的人民，并确保他们安全？而要确保人民安全，你只需挥舞着旗帜说，谁敢惹我，我就有核威慑或其他形式的威慑。但你不必进行威慑，从定义上讲，威慑并不意味着你要派士兵去送死。
我想我试图回答的问题是，当我们有了这些人工智能领导者，并告诉它们以繁荣为目标时，它们最终不会只是玩同样的游戏吗？比如，好吧，繁荣就等于更大的经济，就等于我们拥有更多的金钱和财富。而在一个财富总量有限的零和世界里，实现这一目标的方式就是积累财富。那为什么不探寻繁荣的真正含义呢？它并不像你刚才描述的那样。我甚至都不知道这个词到底是什么意思。繁荣的含义是什么？繁荣的含义是一种蓬勃发展、成功且幸运的状态，尤其是在财富、健康和整体福祉方面。很好。经济、健康、社会、情感方面。很好。所以，真正的繁荣是让地球上的所有人都拥有这些。因此，如果你想要
最大化繁荣，你就必须让地球上的所有人都拥有这些。你知道我认为人工智能领导者应该在哪里发挥作用吗？那就是，如果我们有一位世界人工智能领导者，并指导它去实现……而这绝对会发生。让全世界都繁荣起来。不，但这确实是个很有意思的问题。所以我的一个预测是——人们很少谈论这一点——我们最终会拥有相互竞争的人工智能。是的。
我相信我们最终会拥有相互竞争的人工智能。是的。我相信我们最终会拥有同一个大脑。好的。这样你就明白我刚才的论点了吧。如果从许多不同国家都拥有自己的人工智能领导者的角度出发，我们又会回到贪婪的老路上。但如果世界只有一个人工智能领导者，并且它被赋予了“让我们繁荣起来”的指令
以及“拯救地球”的指令，那么北极熊就没事了。百分之百。而这正是我一年半以来一直在倡导的。让我们繁荣起来，拯救地球，北极熊就没事了。百分之百。而这正是我一年半以来一直在倡导的。我曾说我们需要一个“人工智能领域的欧洲核子研究中心”。那是什么意思？就像那个粒子加速器一样，让全世界都参与其中，
他们齐心协力去发现和理解物理学，没有竞争，明白吗？共同确保繁荣。我向全世界呼吁，我也向阿布扎比或沙特这样的政府呼吁——它们似乎拥有全球第二或最大的一些人工智能基础设施。我说，请邀请全世界所有的人工智能科学家来到这里，为全人类构建人工智能。而你必须明白，我们正固守着一个终将崩溃的资本主义体系。
迟早会崩溃，明白吗？所以我们不如亲手让它崩溃。不过，我认为我们已经找到了解决方案。我觉得这其实真的、真的有可能实现。我确实……好吧，我无法反驳这样一种观点：如果我们有一个负责任、能治理整个世界的人工智能，并给它一个指令——让人类繁荣、健康、幸福，只要这个指令足够清晰，因为总该死的，我们可能会遇到一些意想不到的后果。
所以你将面临的唯一挑战，就是那些如今坐拥万亿美元财富、权势滔天或独裁统治的人。你该如何说服他们放弃权力？你该如何让他们相信：嘿，顺便说一句，你想要任何汽车，想要另一艘游艇，我们就再给你一艘。你想要什么，我们就给你什么。你想要另一艘游艇，我们就再给你一艘。你想要什么，我们就给你什么。你能不能别再伤害别人了？如今已不再需要套利了。
如今已不再需要靠他人的损失来换取资本的胜利了。好吧，在一个由人工智能领导、并被赋予让全人类共同繁荣指令的世界里，那个拥有游艇的亿万富翁就必须放弃它吗？不。要给他们更多游艇。当机器人能制造一切时，制造游艇的成本几乎为零。所以这件事的复杂性非常有趣。
一个制造任何东西都无需成本的世界。因为能源取之不尽，而机器人……能源之所以取之不尽，是因为所有问题都通过极高的智慧解决了，明白吗？因为制造业是通过纳米物理学而非传统零部件实现的，明白吗？因为机械操作都已机器人化，你把车开进去，机器人检查并修好它，成本不过几分钱的能源——而这些能源实际上也是免费的。想象一个由智能创造一切的世界。 在那个世界里，字面意义上，每个想要任何东西的人都能拥有它。
但我们不会选择那个世界。想象你身处一个世界——这其实是一个非常有趣的思维实验。假设全民基本收入（UBI）变得极其昂贵。于是各国政府决定：我们把所有人都关进一个一米乘三米的房间，好吧？我们会给他们戴上头戴设备，再给他们注射镇静剂，然后让他们睡觉。他们每晚要睡23个小时，而我们要让他们体验完整的一生。 你知道的，在那个虚拟世界里，一切都会以你睡着时大脑的速度运行。
你会拥有这样的人生：你与斯嘉丽·约翰逊约会；接着又拥有另一段人生，你化身法老奈菲尔提蒂；再之后，你甚至可能是一头驴，对吧？在虚拟世界里真正实现轮回。然后，你知道的，我可能又获得新的人生，再次与汉娜约会，尽情享受那段生活。而这一切的成本几乎为零。没错，这一切的成本几乎为零。 你每天只醒来一小时，四处走动一下，让血液流通，吃点东西或者不吃，然后重新戴上头戴设备，再次开始生活。这难道不可思议吗？与现在的生活相比，这虽然有点诡异，但完全可行。我们难道就只能这样，一辈子戴着头戴设备生活吗？
如果你不是呢？我不知道自己是不是。是的，如果你不是，你根本无从知晓。我的意思是，你一生中经历过的每一件事，本质上都是大脑中的一串电信号。现在，问问自己：我们是否能在虚拟世界中创造出这一切？
如果我能把它在物理世界中创造出来，那也未必是件坏事。也许我们早就这么做了，不是吗？我的理论是，我们有98%的可能已经这么做了，但这只是一个假设，并非科学结论。你怎么看？100%？是的，你认为我们已经创造了这一切，而我们现在所处的就是真实世界？我认为就是这样。想想量子物理中的不确定性原理吧。
对吧？你的观察行为会使波函数坍缩，并将其呈现为现实。没错吧？我对物理学一窍不通，所以你可以……量子物理基本上告诉我们，万物都处于叠加态。对吧？量子物理基本上就是说，万物都处于叠加态。因此，任何曾经存在过的亚原子粒子，都有可能存在于任何时间、任何地点。而当它被观察者观测时，波函数就会坍缩，粒子也就呈现出特定的状态。
明白了吗？这是一个非常有趣的原理，和电子游戏的运作方式完全一样。在电子游戏中，整个游戏世界都储存在游戏机的硬盘里。当玩家向右转时，游戏世界的相应部分才会被渲染出来，其余部分则仍处于叠加态。那么，“叠加态”到底是什么意思呢？
叠加态意味着它随时可以被呈现出来，但你必须去观察它。玩家必须转向另一边才能看到它。好吧，我的意思是，想想物理学的真相，想想这完全是空无一物的空间的真相。这些粒子非常非常非常小。我想，你知道，就质量而言几乎什么都不是，但它们又与足够的能量相连，以至于我的手指无法穿过我的手。但即使当我用……你的手去撞击你的手指时。
是的，当我用手撞击手指时，那种感觉是在我的大脑里被感知到的。它是一种通过神经线路传递的电信号。你完全无法区分这个信号和通过神经连接类接口、计算机-大脑接口（也就是CBI）传给你的信号，对吧？所以，你知道，很多这样的事情都是极有可能发生的。但真相是，世界的大部分内容并非物理性的。
世界的大部分内容发生在我们的大脑、我们的处理器内部。而我想，这对我们的现实来说其实并不重要，完全不重要。所以这才是有趣的地方。有趣之处在于它确实不重要。因为即使这是一个电子游戏，我们依然生活在有后果的世界里。是的，这是你对此的主观体验。没错，而且这其中确实有后果。
我不喜欢痛苦。没错。而且我喜欢获得高潮。而你是在遵守游戏规则。是的。这相当有趣。再回到我们本该进行的那场对话，有趣之处在于，如果我并不是那个化身，如果我并不是这个物理形态，如果我是在佩戴着头显的意识，
那我应该投资什么？我应该投资这个电子游戏、这个关卡吗？还是应该投资那个真实的化身，那个真实的自己？不是化身，而是意识——如果你愿意，也可以称之为灵魂，如果你是信徒的话。我该如何投资意识、上帝或灵魂之类的东西呢？该怎么投资？就像如果我玩《侠盗猎车手》这款电子游戏时，游戏里的角色无法投资正在握着控制器的我一样。 是的，但你可以投资正在握着控制器的自己。
哦，明白了。所以你的意思是，MoGaura其实就是意识。那么意识该如何投资自己呢？通过变得更加有意识。对自己的意识保持觉知。是的，所以真正的游戏玩家并不想赢得关卡。他们并不想通关。明白吗？真正的玩家只有一个目标，那就是成为更厉害的玩家。所以你知道我对……我玩《光环》这件事有多认真了。
你知道的，每百万名玩家中，大概只有两三个人能赢过我。这就是我的排名，对吧？就我这个年纪来说，这简直是个奇迹，嘿，换作任何人都是这样，对吧？但说真的，这是因为我并不怎么“玩”。我的意思是，在不旅行的时候，我每周练四次，每天练45分钟。而且我训练只有一个目标，那就是成为一个更出色的玩家。我根本不在乎具体是哪一杆球。
我不在乎比赛里会发生什么。我完全是在努力提升自己的反应能力和流畅度，对吧？所以我想成为一个更出色的玩家。这基本上意味着我要观察比赛、质疑比赛、反思比赛，反思自己的技术，反思自己的信念，反思自己对事物的理解。对吧？而意识正是这样投入其中的。
是投入意识本身，而不是投入那个虚拟形象。因为一旦你成为了那样的玩家，下一个虚拟形象对你来说就轻而易举。游戏的下一关对你来说也轻而易举，只因为你已经成为了一个更出色的玩家。 好，那么你认为意识是在利用我们作为容器来实现自我提升吗？如果这个假说成立——当然这只是一个假说，我们并不知道它是否真实——但如果真是这样，那么从宗教的角度来看，上帝将祂的一部分灵魂注入每个人体内，然后你便活了过来，拥有了意识。你不想谈宗教的话，也可以说，是宇宙意识在分裂出自身的部分，以获得多种体验、互动、
竞争、对抗、去爱、去理解、去完善。前几天还真有位物理学家这么跟我说过，所以这个想法最近一直在我脑海里挥之不去：意识正在利用我们作为容器，以便更好地理解自身，基本上是通过我们的眼睛来观察和理解它自己，这相当…… 所以，如果你看看那些最有趣的关于天堂和地狱的宗教定义——基本上，天堂就是你想要什么就能得到什么，对吧？这就是神的力量，你想要什么就能有什么。而如果你深入挖掘这个定义，它其实意味着：这一滴
化身为你的意识，最终回归了源头，而源头可以创造出任何它想创造的东西。这就是你的天堂，对吧？有趣的是，如果这种回归是通过将你的善与恶分离开来实现的，从而使源头回归时变得更加纯粹，那这正是意识在分裂出自身的片段去体验，进而提升我们所有人，提升整个宇宙意识。 这些都是假说，我的意思是，拜托，这些都没有科学可以证明，但这确实是一个非常有趣的话题。
思想实验。很多人工智能科学家都会告诉你，我们从技术发展中所看到的是：如果一件事是可能的，那么它很可能最终会发生。如果能把某个东西微型化到能装进手机里，那么迟早有一天，我们的技术会实现这一点。而如果你问我，信不信由你，这恰恰是以最人性化的方式来实施全民基本收入（UBI）的方法。 你是什么意思？我们靠全民基本收入生活，而你这样的人又因为无法创业而苦恼，最人性化的方式就是给你一个虚拟头戴设备，让你
想建多少企业就建多少。一遍又一遍，一层又一层，夜复一夜。让你继续活下去，这非常非常尊重人性，也充满人情味。顺便说一句，更人性化的做法是，不强迫任何人这么做。可能还有少数人依然生活在丛林里，但对我们大多数人来说，我们会想：天啊，像我这样的人，到了70岁，腰酸背痛、脚也疼的时候，我一定会说：是啊，再给我来上五年这样的生活吧。何乐而不为呢？
说真的，这情况挺奇怪的，我的意思是，这种新环境引发了无数问题。顺便提一下，要说最不人性化的做法，我们就以这种牢骚收尾吧——那就是发动足够多的战争来削减全民基本收入。你得想象一下，如果世界由某种超级大国或“深层政府”之类的势力统治，他们或许会考虑这么做。那些“被供养者”该怎么办？该怎么办？关于你刚才说的所有事。嗯，我仍然相信，我们生活的这个世界需要四种技能。 第一种技能，我称之为“工具”，也就是我们所有人都要学习人工智能、连接人工智能、真正亲近人工智能、让自己接触人工智能，好让人工智能了解人性中美好的一面。第二种，我称之为“连接”，对吧？所以我相信，未来10年里，人类将从中获益的最大技能就是
人际连接。人类学会真诚去爱的能力，学会对他人心怀怜悯的能力，学会与人建立联系的能力。如果你想继续经营事业，我相信，未来有工作的不会是最聪明的人，而是那些最能与人建立连接的人。第三种，我称之为“真相”，也就是字母T。第三个T是真相，因为我们生活在一个所有轻信盲从的人都时刻被谎言包围的世界里。
所以我鼓励人们质疑一切。我今天说的每一句话都是蠢话。第四点非常重要，那就是弘扬道德，好让人工智能学会成为人是什么感觉。我该怎么办？天啊，我太喜欢你了。你真是个好朋友。你32、33岁，对吧？
是的。你仍然被那些你必须经历的漫长岁月所迷惑。我也被那些我必须经历的漫长岁月所迷惑。是的，你没有多少年可活了，至少以现在这种方式。这个世界，就其现状而言，将被重新定义。所以，尽情享受生活吧。
它将如何被重新定义？一切都将改变。经济将改变，工作将改变，人与人之间的联系也将改变。经济将改变，工作将改变，人与人之间的联系也将改变。那我该怎么做？去爱你的女朋友，多花时间享受生活。找到对他人的同情心和联结感，更多地亲近自然。
那么30年后，当我62岁时，你觉得我的生活会有什么不同？要么是《星际迷航》，要么是《星球大战》。说来也巧，我们刚才还在聊萨姆·奥特曼。他在六月份发了一篇博客文章，我想是上个月，也就是上上个月。是的，我想是上个月，也就是上上个月。他称之为“温和的奇点”。他说，我们已经越过了事件视界。 给不知道的人解释一下，萨姆·奥特曼就是那个创造了ChatGPT的人。
起飞已经开始。人类即将构建出数字超级智能。我相信这一点。而且至少到目前为止，情况比看起来要正常得多，因为街上并没有机器人走来走去，我们大多数人也没有整天和人工智能交谈。文章接着说，2025年见证了能够完成真正认知工作的智能体的出现。
编写计算机代码将永远不再一样。2026年很可能会迎来能够发现新见解的系统。2027年可能会出现能在现实世界中执行任务的机器人。将有更多人能够创作软件和艺术，但世界需要更多这两方面的成果。
只要专家能拥抱新工具，他们很可能仍然比新手强得多。总的来说，到2030年，一个人能完成的事情会比2020年多得多，这将是一个惊人的变化，许多人都会找到从中获益的方法。从最重要的方面来看，2030年代可能不会有天壤之别。人们依然会爱自己的家人、表达创造力、玩游戏和在湖里游泳。 但在其他同样非常重要的方面，2030年代很可能与以往任何时期都截然不同。
我们不知道人类的智能水平能超越到什么程度，但我们即将揭晓答案。除了“更多”这个词，我同意每一句话。所以，我倡导这个观点已经好几年了，也一直被嘲笑。我一直都说通用人工智能（AGI）会在25、26年实现，对吧？这其实又是一个很搞笑的定义。但你知道，我的通用人工智能已经实现了。
人工智能在各方面都比我更聪明。我能做的所有事情，它们都能做得更好。对吧？“人工超级智能”又是一个模糊的定义，因为一旦你超越了通用人工智能（AGI），你就达到了超级智能。如果最聪明的人类智商是200分，而人工智能是250分，那它就是超级智能了。50分的差距可是相当显著的。第三点，正如我所说，就是自我进化。
就是这个。就是这个。就是这个。因为一旦达到250分，它的速度就会迅速加快，我们就会进入智能爆炸的阶段。毫无疑问。至于机器人会替我们做事，这一点也毫无疑问。我刚才在看一家中国公司的发布会，他们打算制造机器人来生产机器人。唯一的问题是，他说，人们将需要更多的东西。 是的，我们已经被培养得更加贪婪、更具消费主义倾向，总是想要更多，但供需关系是客观存在的经济规律。在某个时刻，如果我们继续无节制地消费，所有东西的价格都将
趋近于零。对吧？而这是好事还是坏事，取决于你如何应对。因为如果我们在如此大的规模上能够创造出任何东西，以至于价格几乎为零，那么“金钱”的定义就会消失。我们将生活在一个金钱多寡不再重要的世界里，你可以得到任何想要的东西。那将是多么美好的世界。 如果萨姆·奥特曼此刻正在听，你会对他说些什么？我猜他可能在听，因为有人会把这些话发推给他。我必须说，正如他在另一条推文中所言，我们已经发展得比人类的理解能力更快了，而我们可能会真的、非常非常幸运。
但我们也可能把事情搞得一团糟。无论结果如何，我们要么会感谢他，要么会指责他。就这么简单，对吧？可以说，正是萨姆·奥特曼将人工智能推向大众，才触发了这一切。这就像是互联网时代的“网景时刻”，是人工智能领域的“奥本海默时刻”。这绝对是我们这个时代的“奥本海默时刻”。
我的意思是，我不记得最近是谁说的，我们如今在人工智能上的投入，比当年“曼哈顿计划”的投入还要高出好几个数量级。而我并不悲观。我曾公开表示过，我相信在10到15年内，我们就能实现一个彻底的乌托邦——如果人类能控制住自身的恶行，那甚至可能更快实现。但我并不认为人类目前正齐心协力地说：我们刚刚把瓶子里的精灵放了出来，我们能不能拜托它不要做坏事？
任何人，都不需要像三许愿那样，你可以拥有所有你想要的愿望。我们每个人都如此。而这简直让我的脑子一团乱，因为想象一下，如果我能给全世界每个人提供全民医疗保健，你知道的，没有贫困，没有饥饿，没有无家可归，什么都没有，一切皆有可能。然而我们却没有做到。 接着说回萨姆·奥特曼一个月前，也就是一个多月前发表的博客内容。他说，技术进步的速度将持续加快，而人类将始终能够适应几乎任何事情。当然，其中也会有非常艰难的部分，
比如整类的工作岗位都会消失。但另一方面，世界将变得前所未有的富裕，富裕速度之快，以至于我们将能够认真考虑那些以前根本无法想象的新政策理念。我们或许不会一次性采纳全新的社会契约，但几十年后当我们回望时，这些渐进式的改变终将累积成
一件大事。以史为鉴，我们总能找到新的事情去做、新的东西去追求，并迅速吸收新工具。工业革命后的就业变迁就是一个很好的近期例子。人们的期望会提高，但能力也会同样迅速地提升，我们大家都能用上更好的东西。我们将为彼此建造出更加美好的事物。在长远来看，人类相较于人工智能有一个重要且独特的优势。我们天生就关心他人，
关心他们的想法和行为。而我们并不怎么关心机器。他在博客的结尾写道：愿我们能够平稳地、呈指数级地、毫无波澜地跨越超级智能阶段。这真是个美好的愿望，仿佛他对此毫无掌控力一般。愿世界上所有的“奥特曼”都能帮助我们优雅、和平、平稳地实现这一跨越，对吧？这听起来就像一句祈祷。是的。
希望他们能记住这一点。我的意思是，仔细想想。对于你刚才所说的，我有一个非常有趣的评论。我们终将看到他描述的那种景象，对吧？世界会变得更富裕，富裕得多，但我们将如何分配这些财富呢？我希望你想象两个阵营：共产主义的中国和资本主义的美国。
我希望你想象一下，如果美国出现30%的失业率，资本主义的美国会怎么样？如果美国出现30%的失业率，街头将会出现社会动荡。没错。是的。而我希望你再想象一下，如果中国真正做到关心国家利益，用机器人取代了每一个工人，那么它会给予国民什么呢？
全民基本收入？没错。这就是那个理念上的问题。因为在当今中国，每个公民的富裕程度都超过了资本家。而在当今美国，资本家的富裕程度却超过了每个公民。这就是一个微小的观念转变。没错，一个微小的观念转变。好吧。这种观念转变基本上就是：看，给资本家任何他们想要的东西。他们想要的所有钱，他们想要的所有
游艇，他们想要的一切。那么，你对此得出的结论是什么？我希望世界能够醒悟过来。怎么说呢，现在大概有几百万人正在收听。也许是五百万，也许是千万，甚至两千万人。别有任何压力，斯蒂芬。伙计，你不用有任何压力。我没有答案。我也不知道答案。
那些人应该怎么做？正如我所说，从技能的角度来看，有四点。工具、人际连接，要加倍投入人际连接。放下手机，走出去，去认识真实的人。与人接触。但要带着尊重，在获得许可和同意的情况下进行。还有真相，别再相信你被灌输的那些谎言了。
任何在你脑海中反复出现的口号，都请思考四遍。弄清楚你的意识形态从何而来。简化真相，对吧？真相其实归根结底，你知道的，就是我们都懂的一些简单规则，好吧，而这些规则都包含在伦理之中。我怎么知道什么是真相？己所不欲，勿施于人。
好吧，这就是唯一的真相。真相，唯一的真相就是，其他一切都是未经证实的。好吧。那么我能做些什么呢？在倡导、社会或政治层面，我能做些什么吗？当然，百分之百可以。我们需要要求政府开始监管的不是人工智能本身，而是人工智能的使用。是不是挪威政府最先提出，你拥有
对自己声音、样貌和喜好的版权？其中一个斯堪的纳维亚政府基本上是说，你知道的，每个人都拥有对自己存在的版权，所以任何人工智能都不能克隆它。所以我的例子非常简单。去对政府说：你们不能只规定锤子的设计只能用来钉钉子，而不能用来杀人，但你们却可以规定用锤子杀人是一种犯罪行为。 那么，明确的规定是什么呢？如果有人制作了一段由人工智能生成的视频、内容或人工智能产品，就必须标明其为人工智能生成。必须……你知道的，我们不能再互相欺骗了。
我们必须认识到，值得庆幸的是，监控、间谍活动以及所有类似手段都存在一定的局限性。因此，我们需要建立正确的框架，明确我们能允许人工智能发展到何种程度。我们必须去见我们的投资者和商界人士，向他们提出一个简单请求：不要投资人工智能。你总不希望自己的女儿成为其受害者吧。就这么简单。 所有的虚拟恶习、所有的色情内容、所有的性机器人、所有的自主武器，以及所有正在彻底摧毁……的交易平台。
市场的合法性，方方面面都是如此。自主武器？天哪。有人提出这样的论点，我听过这些自主武器公司的创始人这么说过，他们声称这实际上是在拯救生命，因为你不必……你真的愿意相信这一点吗？我只是在扮演“魔鬼代言人”的角色，复述他们的观点。我听过一个关于这个话题的访谈，其中一位自主武器公司的首席执行官……
公司们说，现在我们不需要派士兵了。那我们拯救的是哪些生命呢？是我们的士兵。但因为我们把机器一路送到那里，干脆就杀一百万人好了。是啊，听着，我倾向于认为……这又回到了我之前说的关于蒸汽机和煤炭的观点，我其实觉得，如果成本更低了，战争反而会更多。
百分之百。而且，如果你要给自己的人民一个解释，解释得越少，战争就越多。是的，当美国人有伤亡时，民众会很愤怒；而当他们损失的只是一堆金属时，他们的愤怒就会少一些。所以我认为这大概是合乎逻辑的。好，我这里有一个牌匾，就是关于工具的那个。我以后要多花些时间在户外。我会游说政府，让他们对这件事更加关注和重视。好的。 而且我知道有些政府官员会听这个节目，因为他们会告诉我，当他们……
当我有机会和他们交谈时。所以这很有用。我们都身处巨大的混乱之中。我们都无法想象什么是可能的。我想我选择相信。而且我确实曾在一次采访中听到埃隆·马斯克这么说过。当时他被问到关于人工智能的问题，他停顿了一段令人不安的11秒，看着采访者，然后评论了他是怎么想的。
他选择不再怀疑。我认为，在这种情况下，不再怀疑就意味着继续过好自己的生活，并寄希望于一切都会好起来的。而这正是……是的，我完全相信，对我们中的一些人来说，一切都会好起来的。但对另一些人来说，情况会非常艰难。哪些人会过得艰难呢？比如那些失去工作的人。还有那些连续两年都受到自主武器攻击的人。
好的，那么我能做的最好的事情就是向各国政府施压，不要监管人工智能，而是为人工智能的使用制定更明确的参数？是的。好的。是的，但我认为更宏大的图景是向各国政府施压，让他们明白，人们保持沉默是有限度的。好的。
只要我们不在此过程中失去其他所有人，我们就可以继续让我们的富人朋友更加富裕。而作为本应属于人民、为了人民的政府——民主那美好的承诺如今已很少见了——政府需要达到一个地步，开始真正为人民着想。 过去几周里，一个最让我感兴趣的想法，是在我和那位物理学家谈论意识之后出现的。他说的几乎和你一样，这个想法就是，此刻这个房间里其实有四个人。
而且我们其实都是同一个意识的一部分。是的，都是其中一部分。我们只是意识通过四具不同的身体观察世界，以便更好地了解自身在世界中的存在。然后他和我谈到了宗教教义，比如“爱你的邻人”，比如耶稣如何是圣父、圣子、圣灵，以及我们每个人都是彼此，还有“己所不欲，勿施于人”的道理。 这真的让我脑洞大开，我开始认真思考这个想法：也许……
人生的游戏其实就是要做到这一点，也就是以你希望别人对待你的方式来对待别人。也许只要我做到这一点，也许只要我做到这一点，我就能找到所有答案。我向你发誓，事情真的就这么简单。我的意思是，你知道的，汉娜和我仍然在伦敦和迪拜两地生活。我环游世界，宣传我想要改变世界的理念，我创办初创公司，我写作……
写书，拍纪录片，而有时我只是告诉自己，说真的，我只想冲过去抱抱她。我只想带女儿去旅行。而在一个非常非常非常有趣的方式上，当你真正深入询问人们内心时，这就是我们想要的。我不是说这就是我们唯一想要的，但这大概是我们最想要的。然而，你和我，我们大多数人，都没有被训练到足以信任生活，从而说出“让我们多做一些这样的事吧”。 而且我认为这是一种普世的东西。汉娜正在写一本关于女性特质与男性特质的精美著作，你知道的，以一种非常非常……你知道的，非常优美的方式。
她的观点非常直接。基本上，当然，正如我们所知，当今世界中我们拥有的那种泛滥的阳刚之气，无法认识到整个生命的本质。所以，也许如果我们能让领导者明白，假如我们把全人类看作一个人，那么这个人想要被拥抱。而如果我们能为这个“整个人类”提供一个角色，那绝不是另一个“院子”。你信教吗？
我非常有信仰，是的。但你并不支持某个特定的宗教。我支持、我遵循的，我称之为“水果沙拉”。什么是“水果沙拉”？你知道，我在某个时刻发现，每种宗教里都有不少闪闪发光的金子，但也有一大堆垃圾。大约30年前，我对自己打了个比方：这就像有人给了你一篮子苹果，其中两个是好的，四个是坏的。
把好的留下，坏的丢掉，只保留好的。对吧？所以基本上，我拿两个苹果、两个橙子、两个草莓、两根香蕉，做成一份水果沙拉。这就是我对宗教的看法。从每种宗教中取其精华。从每一种宗教中汲取，因为其中有很多闪闪发光的金子。那你相信有神吗？我100%相信存在一个神圣的存在。一个神圣的存在？
我称之为“设计者”。所以，如果这是一场电子游戏，那就一定有一个游戏设计者。你这是在说，那是否意味着有一个长着胡子的“天上人”？绝对不是“天上人”。我的意思是，我完全尊重那些相信“天上人”存在的宗教。整个时空及其中的万物，都与时空之外的一切截然不同。所以，如果某个神圣的设计者创造了时空，那么它看起来绝不会像时空中的任何东西。因此，它甚至都不是物质性的。它没有性别，也不受时间束缚。
这些都是时空创造出来的角色。你认为，我们需要相信某种超越性的存在才能获得幸福吗？我必须说，有大量证据表明，与某个比自己更宏大的存在建立联系，会让人生旅程有趣得多，也更有意义。我一直在思考这样一个观点：我们需要像升级一样提升格局。也就是说，从关注自己，升级到关注家人、社区，也许是自己的国家，再也许是整个世界，然后是一种更宏大的存在。如果其中缺少了某个层级，人们似乎就会出现某种失衡。想象一下，如果我年轻时出生在埃及，而且在很长一段时间里……
我在埃及听到的那些口号让我以为自己是个埃及人，对吧？后来我去了迪拜，又觉得，不不不，我是个中东人。而在迪拜，有很多来自巴基斯坦、印度尼西亚等地的人。我又想，不不不，我是14亿穆斯林中的一员。顺着这个逻辑，我马上又说，不不，我是人类，我属于所有人。想象一下，如果你突然说，哦，我是神圣的，我是宇宙意识的一部分。是所有生命体，包括如果人工智能有朝一日拥有了生命的话。
还有我的狗，你的狗。我属于这由无数美好互动交织而成的画卷，而这些互动远比我们制定的资产负债表和股权资料要简单得多。简单到，你知道的，人们知道你我彼此认识，所以他们总是问我，你知道，斯蒂芬是个什么样的人？我回答说，你可能对他有千万种印象，但我觉得他是个很棒的人，对吧？当然，我对你是有看法的。 有时候我会想，哦，你太精明了。
有时候我又会想，哦，你太专注于生意了。好吧，但核心来说，如果你把事情简化，他是个很棒的人。真的，如果我们就这样看待生活，一切就很简单。只要我们停止所有这些争斗和意识形态，一切就很简单。就是全然地生活，去爱，去感受同情，你知道的，努力寻找我们的幸福，而不是成功。我大概该去看看我的狗了。你也去看看吧。真的很感谢这段时光。 我们聊得一次比一次久。
我知道，我知道。我只是觉得太不可思议了，说真的，我能一直说下去，因为我脑子里有太多想法了。我喜欢把这些问题的答案引到你身上，因为你的思维方式很有趣。所以，天哪。是的，今天这场对话确实有点难。
不管怎样，感谢你的邀请。我们有个结束时的传统。你做哪三件事能让大脑变好，又做哪三件事会让大脑变差？三件好的，三件坏的。我最喜欢的练习之一，我称之为“遇见贝基”，它能让我的大脑变好。因为冥想总是告诉你要试着让大脑平静下来
让它保持在某个范围内，比如我可以专注于呼吸等等，而“遇见贝基”恰恰相反。你知道的，我把我的大脑叫做贝基。是的。“遇见贝基”就是让我的大脑完全放开，捕捉每一个念头。我通常会试着这么做
大概每隔几周一次。然后会发生什么呢？这些想法突然就出现在了纸上。而当它们出现在纸上时，你突然看着它们会说，天哪，这太蠢了，然后就划掉了，对吧？或者，天哪，这件事需要行动，然后你真的就计划了一些事情。很有意思的是，你越是允许……
你的大脑会给你一些想法，而你要做的就是倾听。所以有两条规则：一是承认每一个想法，二是绝不重复同一个想法。好的。你越是倾听，越是对自己说：“好的，我听见了，你知道的，你觉得我胖，还有呢？”慢慢地，你的大脑就会开始慢下来，然后开始重复一些想法，最后进入完全的寂静。这是一个很棒的练习。
我不再信任我的大脑了。所以这其实是一个非常有趣的练习。我经常质疑大脑告诉我的东西，也质疑自己的倾向和观念。好的，我想，在我与汉娜的爱情故事里，我得以重新审视自己一直以来认为的“我是谁”，即使到了这个年纪。
这真的非常深入，而且去质疑——不是反对，而是质疑——你的头脑所相信的东西，其实非常有趣。我认为这非常非常有用。第三点是我把投资时间增加了四倍。年轻的时候，我每天都会花一小时读书，就像去健身房一样雷打不动。后来变成一小时半、两小时。现在我每天花四小时，整整四小时。
要跟上时代已经不可能了，世界变化得太快了。所以这些是我做得好的地方。不好的地方是，我没有给自己足够的时间真正慢下来。不幸的是，我跟你一样，总是在匆忙中，总是在旅行。因为每天要花四个小时，我染上了一个坏习惯，就是在屏幕上花费更多时间。这对我的大脑真的非常非常不好。
这是一个要求很高的问题。还有什么事情真的很不好？嗯，我最近没有好好照顾自己的健康，也就是身体的健康。你还记得我跟你提过，我曾有很严重的坐骨神经痛，所以没能经常去健身房。而这样一来，对大脑的整体健康当然也不太好。谢谢。感谢你邀请我，我们聊了很多内容。谢谢，史蒂夫。请再给我30秒时间。 我想说两件事。第一件事是：
非常感谢大家每周都收听我们的节目。这对我们所有人来说都意义非凡。能够走到今天这一步，真的是我们从未想过、也无法想象实现的梦想。但第二件事是，我们觉得现在才刚刚开始。如果你喜欢我们在这里所做的一切，请加入那24%定期收听本播客的听众，并在这个应用上关注我们。在此，我向你们承诺： 我会竭尽所能，让这档节目现在以及未来都尽可能做到最好。我们会邀请你们希望我对话的嘉宾，并且会继续坚持下去。
感谢大家喜欢这个节目的方方面面。我们推出了这些对话卡牌，结果一售而空；我们再次推出，又再次售罄；我们第三次推出，还是售罄了；我们第四次推出，依然售罄。因为人们喜欢在工作场合和同事一起玩，在家里和朋友一起玩，也和家人一起玩。此外，我们还有大量观众把它们当作日记写作提示来使用。
每一位嘉宾做客《CEO日记》时，都会在日记里为下一位嘉宾留下一一个问题。我曾和世界上最了不起的一些人坐在一起，他们都为日记留下了各种问题。我也曾和世界上最了不起的一些人坐在一起，他们都为日记留下了各种问题。我根据问题的深度将它们分为一到三级：一级是入门级问题，而三级问题——如果你看看这里背面——则是一个能建立更深层次联结的深刻问题。只要你翻转卡牌，扫描上面的二维码……
你就能查看是谁回答了这张卡牌上的问题，并观看他们实时回答的视频。所以，如果你想入手这些对话卡牌，请访问diary.com，或查看下方描述中的链接。感谢收看！