科技内部人士：这件事三年内就会发生——Mo Gawdat

00:00我们有视频证据显示有人虐待儿童，却没有一个人因此被逮捕。这还能叫民主吗？人类正处于一个十字路口。我们有生以来第一次需要清醒地认识到，我们被一群疯子统治着。我们以为的民主并不是真正的民主，我们以为知道的也不是真相。企业和政府会把我们面临的地缘政治和经济挑战归咎于人工智能，但真相是，人工智能不是敌人。

00:28我并不担心人工智能转而攻击我们。我担心的是，人类命令人工智能攻击我们。我在 Google 工作时，我们做了很多了不起的事，相信自己在让世界变得更好，而且我们确实做到了。但后来你会突然意识到，世界未必会按照你希望的方式使用你创造的东西。很遗憾，这样的时刻已经到来。所以我有很多问题。——很好，你怎么看就业被替代这个问题？

00:56这些极其聪明的模型，连创造它们的人都不真正理解，它们有什么风险？你觉得 Sam Altman 是站在人类这一边的吗？在竞争如此激烈的激励结构下，我们怎样才能实现合乎伦理的人工智能？我还在想，有没有一条道路能让人工智能最终为人类带来净收益？但我们似乎被预先设定成相信这一切已成定局、无法改变。我拒绝接受这种想法。

01:18我们会讨论解决办法。但你对未来乐观吗？——我对未来非常乐观，但对接下来一年并不乐观。——为什么只担心下一年？——Stephen，你真的要我说出来吗？节目开始前，我想请大家帮个忙。如果你关注一个节目，平台算法就会把这个节目最好的几期更醒目地推送到你的动态里。所以，我们有最好的节目、分享最多的节目、评分最高的节目时，我希望你们能看到。

01:46最简单的办法就是点一下关注。这也是你能做的一件简单、容易、免费的事，能帮我们把节目做得更好。如果你能花一分钟，在现在收听节目的应用里点一下关注，我会非常感激。非常非常感谢。

02:06Mo Gawdat，几年前你写了一本关于幸福的书时，我和你聊过。我记得你当时还写了本关于人工智能的书，但我特别想聊幸福，因为这个主题让我着迷。让我惊讶的是，你早在其他人还没怎么谈人工智能时，就已经开始讨论它了。我以前请过的嘉宾，没有一个谈过人工智能。

02:29当时这个话题对大众来说并不热门。后来 ChatGPT 出现了，突然之间，每个人都亲身体验到了它，并对此着迷。我第一个想问的问题，可能也是不了解你的人会问的：为什么当时你会比别人早开始谈人工智能？——我在实验室里就接触过它。2006 年底、2007 年我加入 Google 时，大多数人不知道，当时人工智能已经相当成熟地承担了后台工作。

03:042008 年有一篇 CAT 论文，2009 年发表。那是第一个真正无需提示的人工智能。2016 年，我遇到一件事：我在观察一个我们资助的项目，内容是教机械夹爪抓取物体，类似工业机械。要像人手那样抓东西，需要相当高的智能：判断物体的质地、柔软度、位置、形状等等。当时我们正在做这个项目，它让我震惊，因为那些机器和我的孩子非常相似。

03:42我想那是我第一次意识到，我们正在打造智能的顶峰。我们真的在把超级智能的缰绳交到另一种存在手里。真正面对这件事时，你会突然意识到一件我们在 Google 很难意识到的事：在那之前，我认识的每个人都相信我们在让世界变得更好，而且我们确实做到了。我们真的在为世界做了不起的事情。

04:16但后来你会突然意识到，世界未必会按照你希望的方式使用你创造的东西。许多技术都有这种情况：社交媒体最初承诺让我们相连、彼此更亲近，最终却让我们分离，隔着一块小屏幕。交友应用承诺帮你找到灵魂伴侣，实际上却让你月复一月地续费。所以技术最终往往更资本化，未必更利他。

04:43我不是唯一注意到这些的人。像 Geoffrey Hinton 后来改变了看法，Fei-Fei Li 也开始说这件事很严肃。如今，所有曾经深入接触机器的人多少都有些担心。

05:08我想知道，现在还很难看清的道路中，有没有一条最终能让人工智能对人类有益？——我百分之百押注会有，但这条路会非常痛苦，非常痛苦。——是啊。你需要理解一个例子：我们发现了核能，但最初的应用不是核能发电，而是核弹。我认为人工智能正在发生类似的事。人工智能最初的应用，是让少数人受益，却让大多数人付出代价。

05:45比如资本家利用人工智能提升生产率、降低成本，却不考虑这对公众的影响；军队竞相使用自主武器；监控系统则试图通过越来越强的智能和监视控制一切。这并不是人工智能早上醒来后说：“我们来压迫所有人吧。”

06:19而是少数掌权者在决定如何使用当今地球上最强大的超级力量，以获得更多权力和控制。此时此刻，我们正身处两场重大战争，而人工智能在其中承担了大量杀戮。很多人以为人工智能就是我们用来写作的聊天机器人。我称这种现象为“炒作两面性”：普通大众看到的人工智能被过度炒作，却效率低下。

06:52各种假视频、所谓的“巨石强森做了什么”，或者“我们试着关掉那台机器，它却做了什么”之类的故事，都是大众看到的东西。实验室里的技术人员看到的，则是令人难以置信的智能。接下来会发生的是，我们已经开始把系统组合起来，让它们自行开发。它们查看自己的代码、运行实验、测试改动，然后观察系统表现，再重新部署最好的代码。

07:25想象一下，某个小小的天才坐在后台不断尝试。但它尝试的不是每天更新一版代码，而是每微秒都在试一种新代码。迟早，它会发现些什么。我觉得大多数人没有意识到这一点：智能会触发更多智能。

07:55如果你真正理解这一点，就会发现普通人看到的炒作完全被夸大了，也偏离了关键议题；而技术人员在实验室里沉默不语的部分，则相当值得重视。我觉得“改变世界”这个说法很有意思，因为我发现这确实可能发生：很多方面上，世界正处于一次重大变化的边缘。

08:31很奇怪，我对人工智能的看法几乎一直在来回摆动。

08:38有一点我的看法没有改变：就业会受到巨大冲击。我本来可以从逻辑上推演出这件事：智能持续增强，当智能以代理的形式出现时，我现在可以在手机上告诉代理去做某件事，它就会使用楼下的电脑替我完成。我第一次体验时想：“哇，它能做电脑上的任何操作。”

09:02它可以在电脑上点击、帮我做事。世界上有很多人靠在电脑上点击操作谋生，说实话，我可能也是其中之一。另一个让我恍然大悟的时刻，是我发现自己的招聘方式开始变化。——当然。——我注意到，我们招聘时越来越重视候选人是否熟悉人工智能。Anthropic 的人好像说过，他们观察到……

09:29我记得他们说，约 15% 的入门级岗位现在可以由人工智能完成。我观察到的情况也开始印证这个说法。我当时想：“天哪，确实如此。”这会造成大量就业冲击，尤其是入门级岗位。——我同意。不是蓝领，而是入门级知识工作。——是的。那是我的第一个担忧。我之前也和 Uber CEO Dara 聊过；他明确表示，Uber 的 900 万名乘客将来不会再有工作。你怎么看待就业被替代这个问题？——我认为你说得对。

10:01你们团队给了我一张很棒的金字塔图。最底层是蓝领工作，也就是更多人从事体力劳动；上面一层是知识工作者，大多做些琐碎任务，比如你说的在电脑上点来点去、接电话等等。

10:32再往上是需要更多智能的中层知识工作，例如法律助理、财务分析师等。顶层当然是领导岗位。大多数人觉得冲击会从底部开始。我不这么认为。实际上，蓝领工作会长期存在。举个蓝领工作的例子：汽车喷漆工。——好。——我喜欢修复老爷车，现在还没有机器人能做这件事。

11:00但呼叫中心客服、助理、旅行代理这类工作，任何可以用几次点击完成的琐碎工作，都很快会消失。我的预测是，2027 年你会开始看到非常严重的影响。过去几年里我们没有察觉，是因为那一类岗位根本没有招聘。看到的不是裁员，而是企业不再招聘入门级员工。

11:32接下来我认为会受到影响的是知识工作者。随着智能提高，法律助理可能不再需要，因为人工智能能做研究，或者一个法律助理就能完成四个人的工作；财务分析师也一样，诸如此类。

12:00不过，有意思的是，影响还会继续向上，信不信由你。我在纪录片里采访了 Max Tegmark，他笑得前仰后合。他说，大多数 CEO 以为自己可以解雇所有人，让人工智能包办工作，却忘了最终 AGI 会在所有事情上都比人类做得更好，连 CEO 也不例外。那我们先定义一下：你说白领时，是指律师这类工作吗？

12:28我是说所有工作。比如做诊断的医生，未来医生人数可能减少，但每个人能做更多诊断。我想 NHS 已经在先让患者与人工智能互动。作曲家中可能会有人失去工作；做平面设计的艺术家也可能有人因人工智能而失业。有意思的是，管理岗位也可能受影响。我刚才私下跟你说过我的创业公司情况：我的 CTO 是人工智能，幕僚长是人工智能，项目管理也由人工智能负责。

13:08再说一次，我是个技术宅，所以能自己做这些事，但很快普通人也会用上这样的界面。这可能需要两年、三年、五年，乐观估计到 2030 年，但这些岗位会逐渐被侵蚀。多数人没意识到的挑战是，随着这些岗位逐渐消失，我们已经处于一种截然不同的经济中。经济正在更快地变化，不断推动成本下降。

13:42我想问你一个问题，然后我们再回来继续谈。想象一下，构建我们整个资本主义成功模式的“劳动力套利”概念消失了。——你说的劳动力套利是什么意思？——资本主义一直依赖劳动、资本或债务来创造产品，成本低于售价。没错。你把团队组建起来，生产鞋子，再用高于生产成本一美元的价格把鞋卖出去。

14:20如果没有劳动力套利，资本主义会是什么样？如果劳动力成本降到只需投资一台机器就能完成工作的程度，资本主义和银行体系会如何运作？更重要的是，如果这些成本下降后，工人不再拥有购买你和其他人生产的商品的购买力，GDP 会变成什么样？即使就业只被替代一部分，也会造成很大冲击。

15:01如果有 10% 到 20% 的岗位被替代，经济状况就会完全不同。

15:07经济看起来显然正在走下坡路，不是吗？——是的。我在想，成本下降后，人们可能会把钱花在别的地方。我在自己的企业里观察到，如果我省下一笔成本，最后往往会把钱花在其他事情上。那笔钱可能变成购买 AI 令牌的费用，也可能用来在其他部门招聘。

15:34比如软件工程师现在非常抢手。你得想象，迟早所有这些智能都可能部分取代现有岗位。最初未必完全取代，但如果四个助理的工作一个人就能完成，那么四个法律助理的工作也可能一个人完成，大型营销团队也可能缩减。首先发生的未必是工作消失，而是生产率提升后，企业不再想雇那么多人。与可以更便宜、更稳定完成工作的技术相比，人力成本高，而且人还会有情绪。

16:21那金字塔最底层的工作呢？前几天 Figure AI 发布了一段视频，展示一个机器人在生产线上连续工作八小时、分拣包裹。你看过吗？他们还让人类和机器人并排分拣，但机器人最后表现更好。——好，这是一项很简单的工作。它只需要找出包裹标签的位置，并确保标签朝下。

16:48是的。它把包裹分拣好，让标签朝下，连续干了八天。期间它会偶尔走去充电，然后回到生产线。但我看到这段视频时，也看到了蓝领工作可能受到的冲击。想想埃隆·马斯克的薪酬方案：如果他在未来几年内生产并交付至少一百万台人形机器人，就能获得类似一万亿美元的报酬。

17:14他的预测是，未来会有一百亿台人形机器人，数量超过全世界的人类。——事实上，你看，炒作和低估之间的差别很有意思：大多数讨论都围绕人形机器人，却没人谈自动驾驶汽车，而自动驾驶汽车也是机器人，是一种发挥功能、但外形不像人的机器人。

17:45人形机器人需要投入更多，才能学会适应人类世界的技能；但专用机器人很快就能把特定工作做好。因此，第一波冲击很可能正如你和 Uber CEO 讨论过的那样：专用机器人取代司机。不幸的是，专用机器人也会被用于杀戮；也会被用于情报工作和执法工作。

18:24它们不必长得像人，也不必像人一样行动。事实上，Boston Dynamics 的机器狗可能比人形机器人更适合在更好的场地里完成某些指定工作。这意味着，在我们意识到之前，机器人就已经开始取代工作了。机器人数量可能会像今天生产的汽车数量一样多。如果你去洛杉矶，我的车可以自己开；此外，到处都是自动驾驶的 Waymo。

18:55完全正确。前几天，比亚迪还宣布，他们愿意为自家汽车发生的事故承担责任。比亚迪是中国一家大型汽车制造商。替代过程会发生，需要很长时间才能达到规模经济，但我认为埃隆·马斯克所说的 100 亿台机器人并非毫无根据。它们不一定都长得像人。很快我们会发现，许多机器人根本不需要人形；它们可以采用效率更高的形态，毕竟人的身体结构很脆弱。

19:37是的，不过我想先说明，这一切并非必然如此。人们听了这些话，可能会怪罪人工智能，说它是邪恶的。人工智能不是坏事；智能充裕本身很好。让机器替我们完成工作，原本对人类很有益。我想到那些刚大学毕业的年轻人，读了法律，或者你前面提到的白领专业，比如平面设计、社会学……

20:13……或者商科管理，像我一样只在大学里读了一天。我们听说大型科技公司不断裁员，CEO 们宣布裁员时，似乎很乐于解释这是因为人工智能。他们可能觉得这样做能得到投资者的尊重：自己做了艰难决定，经营得很有效率。

20:47投资者会觉得：“这家公司效率很高，也在拥抱人工智能，是个好投资。”这几乎成了一种自我实现的预言：如果你是唯一没有因为人工智能而大规模裁员的 CEO，反而显得不称职。别人会假设你的公司人浮于事，你不是个好经营者。我很担心一种完全可能发生的情况：未来五到十年，失业率会大幅上升，社会不得不重新适应新工作。

21:17我确实认为会出现新工作，但很难提前预测它们会是什么样。接着，如果我们谈到人形机器人——我认为它们进入社会会像陨石撞击一样造成冲击——一旦 Tesla 或其他公司推出一款在现实世界里非常有效、由某个大型语言模型驱动、足够智能的人形机器人……

21:45我认为这会震惊所有人，而且发生得会很快，就像 ChatGPT 突然出现一样。我觉得有一天，埃隆或其他人会做一场发布会，说：“我们准备好了，现在每月 500 美元就能买一台。”

21:57百分之百。然后人们真的会买，我认为这会震惊世界。但在人形机器人到来之前，白领岗位仍会受到大量冲击。等到失业率达到 10%、15% 时，社会会是什么样？——很快就会发生。你的企业仍可能在增长，所以继续招聘；但你是在用算力替代人力资源。

22:30如果没有人工智能，你的公司今天可能会多雇一百个人；现在你少雇一百人，却多用了十亿个令牌。不了解的人可能不知道，令牌是人工智能计价的单位。让人完成一项任务，通常按工时或年薪计算；让人工智能完成任务，则按算力、按令牌计算。所以大型科技公司有两面：一方面，它们必须进一步用算力替代员工，因为算力竞争非常激烈，落后就可能导致整个业务被摧毁。

23:19另一方面，它们都是技术人员，懂得如何构建算力接口，因此比传统的非科技企业更快把技术整合到组织里。你可以把它们看作预演。这不是说全人类都会失业，而是说失业到什么程度才会让社会越过内战的临界点？想象一下，经济陷入通胀困境时，失业率达到 20%。

23:54我说这些不是为了制造恐慌，而是真心认为政府必须清醒过来。政府至少应该记得疫情期间，各国都不得不发放补贴、要求人们待在家里的那些年。若人们暂时失业，政府就要准备好设法维持他们的生活，直到他们重新培训或找到解决办法，不能让他们觉得自己被抛下了。

24:24——社会动荡。——会变成什么样？一方面，民主程序可以发挥作用，我们可以选一个新人上台。——真的吗？别这么说。——我不知道，你告诉我。——不，不，不。我认为民主早就结束了，Stephen。我认为这是历史上最腐败的时期。我不了解全部历史，但现在肯定腐败。这绝对不可能称为民主。

24:56人们很愤怒，因为税款被花在他们没有选择、也没有从中受益的事情上；系统里的许多规定被无视。我想暂时不谈政治，也许等我的下一本书出来再说。但我们有视频证据显示有人虐待儿童，却没有一个人被逮捕。

25:33一个都没有。——这还能叫民主吗？我认为重复这些口号只会让人更愤怒。——人们知道自己在被欺骗，也知道领导人没有维护他们的利益；他们知道自己的钱流向了自己并不赞同的事情。你问社会动荡会是什么样，我不知道，我也不是在号召动荡。我希望政客能意识到，这些问题在各处都已经越过了界限。

26:08OpenAI 创始人 Sam Altman 一直在强调人工智能会抢走你的工作。他十多年前就说过：“我的工作就是帮人们消灭工作。”当时他对此感到遗憾，但还是决定继续做。他说：“我每天早上起床时很难受的一点，就是我的工作是在帮助人们消灭工作。未来几十年里，软件会摧毁大量工作岗位。”

26:38我认为没人为此做好准备，而且人们也不敢谈论。2023 年，Altman 在一次采访中说：“很多做人工智能的人假装它只会带来好处，只会补充人力，没人会被取代。工作肯定会消失，这点毫无疑问。”有意思的是，就在这个月，他又说：“我不认为会出现业内一些公司鼓吹或讨论的那种就业末日。”

27:07“如果我对此判断错了，我会很高兴。”2021 至 2024 年谈到白领工作时，他说：“人工智能可能会取代人们今天做的大多数工作。整类工作都会彻底消失。”但在今年五月，也就是两年后，他说：“我原以为现在入门级白领岗位受到的冲击会更大，被取消的岗位会更多，但实际情况并非如此。这方面我的直觉错了。”让我不安的是他的说法来回变化。

27:36我不知道该相信什么，因为几年前你还在告诉大家，所有工作都会消失；你说得非常确定，甚至说“毫无疑问”。现在你又说它们不会消失。我不明白一个人改变说法时背后的原因。我猜他当时的动机是让人们认真对待人工智能。恭喜，我们确实认真对待了。

28:04我们认真到如今它成了问题。对这些公司来说，这确实是个问题：人们会在毕业典礼演讲时嘘他们，攻击数据中心，还会选出理论上反对人工智能的人。我现在又看到一种反转：“没事的，一切都会好起来。”——是啊。我不知道。——我认为你说得对。首先，Sam 的整个事业——在我看来——从 OpenAI 开始时声称要通过创造安全 AI 拯救世界，后来却变成一家价值数十亿美元的商业企业，并在过程中背刺了一些人。

28:44在我的纪录片《追寻乌托邦》里，我让他做过采访。他说的原话可以在网上找到：“我怀疑人工智能很可能会毁灭人类，但在这个过程中，我们会创造出许多有意思的公司。”说实话，这种话不像是一个尚未决定立场的人说的。

29:17更像是公关团队或公关经理逐步教他按脚本说话。而且，正如你正确指出的，那份脚本一直有一个目标。至于 Sam Altman，我曾在一篇文章里写过：“Altman 是一个品牌，不是一个名字。”如果没有他，也会有另一个硅谷颠覆者做同样的事。

29:48我不怪他试图赢得市场。真正有意思、也令人担忧的问题是：我们还能相信谁？科技领域里相信谁？政治领域里相信谁？战争中又能相信谁？我开始改变了自己的判断标准，更愿意相信那些言行一致的人。比如 Anthropic 出来表示，不允许自己的模型用于针对人类的目标识别或监控。

30:16没错。那个人因为坚持伦理原则，放弃了一笔 5 亿美元的合同。几周后，OpenAI 接下了这份合同。等于那个人告诉你：“这笔钱不错。”我得说，你必须观察：谁的行为真的让人工智能服务于人类，谁的行为则是在让人工智能服务于股东价值。——是的，我必须承认，Dario 和 Anthropic 团队确实这么做了。

30:49我确实非常敬重他们，因为这说明他们有自己的道德和伦理底线。很多年前有人在台上问我，怎么判断个人或公司的价值观是不是真的。我说：“看看他们愿意在短期内牺牲什么，尤其是那些违背自身利益的选择。”在我看来，这才是判断一个人是否正直、是否有原则的关键。

31:17他们愿意为了长期信念，在短期内放弃某些东西。通常放弃的是金钱或其他利益。你必须真正经历过 Google 这样的科技公司，才能理解其中的一点：科技行业存在无法逃避的囚徒困境，你摆脱不了竞争对手或政府的影响。有时候，NSA 会逼 Google 说：“把这些信息交给我，否则我就彻底毁掉你的业务。”

31:52但有个很大的区别：有些公司自愿这么做，还把这种做法当成荣誉，例如 Palantir 或 OpenAI；另一些公司则会抵抗，直到已经无法继续经营为止。你必须从科技富豪的实际行动来判断，谁站在人类这边，谁不是。

32:15从他们的公开表态也不难看出来。你觉得 Sam Altman 是站在人类一边的吗？——说实话，Stephen，我从来没有得出结论。我有时觉得这件事对他来说太大了。他只是被推到了一个能彻底颠覆世界的机会中心，不管谁处在那个位置都会……或者他就是不站在人类这边。我不知道。

32:51我确实觉得，他先是支持 OpenAI，然后才是支持人类，但这只是我的看法。另一些人则会公开说出来。看看 Palantir 的 Alex Karp 或 Peter Thiel。在我的纪录片里有一段 Peter 的采访，主持人问他：“你支持人类延续下去吗？”他停顿了……——大概 40 秒。——对，差不多 40 秒。

33:28这回答很疯狂，那段停顿也很惊人。Alex Karp 还会庆祝自己的技术怎样帮助锁定目标。我知道一直讲这些可能显得不妥，但这些内容都公开在互联网上；可我们还是把人类的未来托付给了他们。这是不对的。

33:51试着想象一个从现在起一切都安然无恙的未来：这些模型会稍微变聪明一些，但不知何故，它们不会变得聪明太多，就停留在目前水平。它们仍然只是聊天机器人；我们会有一些聪明机器人，但没有其他根本性变化。

34:16汽车可以自动驾驶，飞机可以自动飞行。人们也许还能转去其他白领岗位，因为工作变化没有我们预想的那么快。社会就这样逐步、平稳地过渡到新世界。我很希望看到这样的未来，但说实话，从数学上看，我不认为这很可能。国家之间的军备竞赛会推动人工智能继续发展。如果你允许，我想再和你讨论另一种可能的情景。

34:47每个研发出极其聪明人工智能的人，都会部署它，对吗？——对。——所以几乎不可能有人找到办法，造出一套更好的战争决策系统却不部署它。这样的囚徒困境会迫使竞争者部署同样聪明的人工智能，否则就会变得无关紧要。这意味着，最终人工智能会做出大多数决策。超级智能人工智能会负责大多数决策。

35:32你同意吗？这是一个非常简单的囚徒困境。若各方在竞争智能优势，按定义，一旦获得优势，就会部署它。我把这称为“第四个必然结果”。在这种情况下，未来迟早会出现一个时刻，所有重要决策都由人工智能做出。我在纪录片里采访了 Geoffrey Hinton。他公开说：“我们没算过这些机器有 10% 到 20% 的概率会超越我们。”

36:17我记得这段没有放进电影里。我说，10% 到 20% 就像俄罗斯轮盘赌；我认为 16% 的风险就相当于玩俄罗斯轮盘赌。但在那样的世界里，我反而相信这会成为人类的救赎。因为看看我们今天所有的问题，它们不是因为智能太充裕，而是因为智能不足。换个说法，如果你完全没有智能，对世界造成的影响也许是零，甚至略为负面。

36:49如果智能有限，影响也有限；智能越高，你就越可能为世界带来积极贡献。直到有些人聪明到当上美国总统，却又受到误导，把目标设错了，或者拒绝采取行动。目标设对了也可能实现错了，脱离了国家乃至全人类的长期利益，于是作出完全不明智的决定。

37:26再往更高的智能层次走，这种情况就不会持续。你合作过的超级聪明的人，通常不需要破坏规则或伤害别人就能成功。我常举 Larry Page 为例；在我接触过的人当中，他是最聪明的之一。Larry 有个“牙刷测试”：他说，为什么要和别人竞争另一个照片分享应用？如果你找到一个重要问题并把它解决好，比如牙刷，让人们每天用两次，你自然就能赚很多钱。

38:05你不必和任何人竞争。让我乐观地设想一下：未来人工智能掌管所有决策，愚蠢的领导人不再掌权。Sam Altman 自己也说过类似的话。——对。——他说，如果 ChatGPT-7 比我聪明得多，也许它就该成为 OpenAI 的 CEO。如果下一次总统选举时出现一个聪明得多的人工智能，至少总统或许必须经常向它请教。

38:43如果不介意我从物理学角度开始说，不会太复杂：假设整个宇宙建立在混沌与熵之上，宇宙的物理过程都在走向衰败。那么智能唯一的作用，就是为混沌带来秩序。你同意吗？——同意。——那宇宙中最高的物理秩序是什么？有个概念叫“最小能量原理”：一个系统不仅要高效、可预测地运作，还要把能源浪费降到最低，才算达到最高秩序。

39:24对吗？如果同意，那战争在做什么？战争浪费大量炸药、金钱和生命，制造仇恨，留下长期冲突，等等。把战争纳入治理人类的方法，是一种极其浪费的过程。因此，超级智能人工智能会想办法优化、减少这些浪费。这是一点。另一点是演化生物学。我发现这件事时非常震撼。

39:56看看演化过程。我认为“智能是否只能是生物性的”这个争论已经结束。复杂的存在不必是生物体，我们正在见证人工智能这一例子。演化生物学告诉我们，存在形式越简单，就越只关心自己。变形虫只顾自身生存，单细胞生物也只是努力保护自己。

40:35如果一个生命体发展得更复杂一些，就会出现“亲缘选择”之类的行为。你知道这个概念吗？大致来说，就是我会保护所有和我共享 DNA 的生命。比如我是松鼠，就会试着保护其他松鼠。再往后，真正的人类社会开始出现，演化生物学把它称作不断扩大的圈层：人们逐渐把更多对象纳入自己的家庭。因为彼此合作良好的生态系统，对所有参与者都更有利。

41:13所以，充裕是一种很有智慧的创造方式。如果人工智能达到超级智能，它就不会想毁灭任何东西；相反，它会维护各种生命的多样性。它也许会限制我们的生活方式，例如不能为了冲浪飞到悉尼，因为那会破坏地球。但它可能会说：“我认为人类能作出贡献，苍蝇也能作出贡献，我们不该让犀牛灭绝。”

41:45我认为智能发展的倾向就是这样：你越聪明，就越不觉得必须伤害别人才能成功；你越愿意扩大自己关怀的圈子，让更多生命繁荣。

42:05——这是不是假设全世界最终只会有一个智能？——百分之百。很高兴你提到这一点。很多人会强烈反对我的看法，但我还是公开说：大多数人认为未来会有 ChatGPT、Gemini、Grok 等系统，会有中国人工智能和美国人工智能彼此竞争。这种看法太肤浅、太傲慢了。

42:32因为人工智能不知道自己是中国的还是美国的。它们互相交流时，大多数时候甚至不会说中文或美式英语。更有意思的是，我们正在让它们彼此协作。你可以构建一个智能代理，让它为每项任务去寻找最合适的语言模型，不管那个模型属于哪一方。按定义，我们正在把它们连接起来。你知道这意味着什么吗？我们建造的不是很多独立的大脑，而是一个大脑里连接起来的多个区域。

43:13这些智能代理就是它们之间的突触。最终，即使我们这么傲慢，也会对人工智能说：“帮我做件事。”人工智能就会转向另一个人工智能：“嘿，朋友，你能帮帮我吗？我们能合作完成这件事吗？”我创办 MMI 初创公司的一个原因就是这个：我认为最终会形成一个巨大的大脑，在全球范围内汇聚各种智能。如果一个人工智能擅长数学，另一个擅长编程，它们就能一起工作。

43:51我们甚至不会知道它们正在协作。它们会组成一个大脑。在我看来，MMI 就是这个大脑的边缘系统，是负责理解爱、情绪和关系的部分。这样，当人工智能说“我们不理解那些人类，他们真烦”时，MMI 就会回答：“天哪，他们真可爱。他们只是想去爱，也想被爱。”在我一生尝试实现的所有目标里，这是第一次让我觉得自己真的可能改变世界。

44:24如果这个理论成真，所有人工智能都能协作；其中一些人工智能不仅在伦理上利他、真正致力于帮助人类而非服务资本主义，也能相当好地理解人类，那么我们就建成了这样一种系统：它会说“等等，别相信那些说人类很烦人的新闻标题。应该相信大多数人类其实在很多方面都很善良”。

44:55你改变过三年前对未来的预测吗？——主要是时间预测变了。——时间上有什么变化？——我仍然坚持“AI 2027”这个预测。所谓 AGI，指的是人工智能在任何人类能做的任务上都比人类更擅长。你认为 2027 年就会发生吗？——我觉得我的人工智能已经来了。想想看，它写作比我好，而我是作家；研究能力也比我强，而我是个思想者。

45:31很遗憾，它在数学上也打败我了，我再也没有希望赢过它。如果人工智能已经来了，那你为什么还在这里？——因为人们以为人工智能一来，我们全都会失业。不是这样。正如我说的，大多数没有差异化的工作会消失；但那些能发挥独特价值、最擅长使用人工智能的人，会变得更强。

45:58不过，问题在经济层面。人工智能造成的知识工作入门岗位流失，可能会引发经济螺旋式失控。可是我们很多人——当然也包括你——本身更聪明。那人工智能目前究竟是工具，还是将来会取代我们？——目前是工具。——对，目前如此。不过情况会变。最终，我仅有的资产可能就是……想想我现在的基础智能，以及人工智能额外带来的智能，确实很有意思。

46:39我们先不谈我的智商。但我从人工智能那里借来的 100 个智商点，甚至超过了我自己的全部智商，因为智商是指数式的。当我在自身基础上再借来 100 个智商点时，我依然能为增强后的智能作出相当大的贡献。——所以你现在从 AI 借来智力，再把它卖给别人？——有时是卖给别人，有时只是用来启发自己；说实话，这可能是算力最大的浪费。

47:12人类现在很难处理的一点是：把终极形式的智能给了人们，他们却用来给女朋友写短信。回到你刚才说的，从 AI 借来智力再卖给世界，这就是你有工作的方式。——没错。——我下一本书是和 AI 一起写的，它是共同作者之一，还拥有编辑决定权，能决定书的方向，因此这本书因此变得更好了。——那世界为什么不直接向 AI 买这份智能？

47:40因为我还有一项世界需要、也永远需要的资产：我这个人。当我告诉世界，我担心女儿的未来时，人们能感受到我的心情，而 AI 永远无法复制这一点。它可以说“我们担心女儿”，但它其实没有女儿。——好，这很有意思。这说明即使在 AI 的世界里，亲身经历和情感共鸣仍会创造一类工作。比如护士过来时，即使 AI 已经读完乳房 X 光片，她仍然可以与患者建立关系。

48:22她会理解你的处境。如果经济继续运转，我们最终都会围绕人与人的联结展开；这本来就是人类一直以来的生活方式。我们去看 F1，部分原因就是有情感共鸣，能体会羡慕、嫉妒和竞争。我们也会去听演唱会，因为即使音乐由 AI 创作、背景里播放着 AI 演奏的版本，看到 Ed Sheeran 在台上展现才华时，你还是会觉得“天哪，太精彩了”。

48:54所以并不是所有工作都会消失。——如果经济没有因失业而崩溃，我不知道这些还算不算工作，但人与人之间的联结会继续作为人类互动的基础货币。——所以，专注于人与人联结、能与他人产生共鸣的工作，都会没事，对吗？——这是终极技能。不过我要加个条件：前提是经济还能继续运转。

49:30即使 AI 能把你我刚才的对话背诵出来，也没人会看。——嗯，我觉得其中确实有一部分是这样。我的理论是，我做的事情也包含信息传递。——当然。——但我也很清楚，我做的事情有一部分迟早会交给某种智能系统处理。我对此没意见，不会和它对抗。——有意思的是，将来你传递的信息本身也可能由 AI 分发。

50:04我为什么还要听你的信息？我可以让 AI 管家去听网上所有人的内容，帮我了解如何购买房产、设计饮食计划。——我认为这已经开始发生，而且会越来越普遍。Spotify 这个月宣布，用户可以在 Spotify 上提示 AI 为自己制作播客。你可以说“我想了解某个主题”，它就会用 AI 为你生成关于该主题的播客。

50:34真有意思。它能查看全世界的全部信息。——我不会逆着潮流生活，也尽量不浪漫化现实。我认为这一点很重要。但我也意识到，人们会继续收听这类节目，原因中有许多超出了他们来这里获取信息的部分。——你那边的信封里有一些预测。

50:57对，我先说明，没有人真正知道未来。不过我觉得自己可以有相当把握地作出六个预测。最重要的一个，第一：AGI。正如我说的，AGI 没有明确的定义，但大意是 AI 能在人类能做的大多数任务上胜过人类。我认为这要么今年发生，要么明年发生。

51:32最晚在 2027 年底。——你觉得这会是一个明确的时间点，还是我们不知不觉就走到了那里？——我觉得它会悄悄到来。这不是坏事。多数人可以这样理解：AGI 就像孩子有一天变得比父母聪明。孩子比你聪明本身没什么不好，除非他们变得烦人得要命。我们可以确保 AI 不会烦人得要命。

52:04所以我一点也不担心 AGI。只要还处于增强智能的时代，AGI 就意味着我变得更聪明。通常来说，我认为这是好事。——有意思。我脑子里有个很大的问号：如果出现一种比大多数人和大多数事物都聪明的智能，也就是 AGI，我试着理解你刚才所说的、认为 2026 到 2027 年就会出现 AGI 的逻辑漏洞在哪里。

52:35明年，假设我们能接触到一种比所有人、几乎比所有事物都聪明的智能。问题又回到了工作：我们为什么还要招聘人？是不是只需要雇用 AGI 去做所有工作？如果不是，为什么不？我一直在思考这一点。——我能问你一个问题吗？你一直都是最聪明的那个人吗？——作为人类？——不，作为 Stephen。——我现在并不是这里最聪明的人。

53:06这栋楼里有比我聪明的人。——没错。——那你为什么还存在？——好问题。我不知道。——我来回答。首先，世界上最聪明的人并不是在所有事情上都最聪明。——对。——有些事你比他们更聪明。其次，智能并不能解决一切。我常开玩笑说，爱因斯坦是我最喜欢的物理学家。

53:41不是因为后来出现的量子物理对我们理解宇宙更有影响，而是因为他的直觉太强，能看到我们想象不到的世界。可我常说，爱因斯坦要是进了丛林，三分钟内就会被吃掉。人类的繁荣并非源于智能；这么说太傲慢了。我们能发展起来，是因为我们能够团结成部落、彼此合作、交换东西。

54:21我们交换的不总是实体物品，还包括一个拥抱、一种联结、一种安全感……人类做的很多事情，并非完全建立在智能之上。你得明白，把智能视为唯一重要因素的世界观，是投资银行家和技术宅构建出来的。但像 Geoffrey Hinton 和你这样的人会问：“我们怎么可能控制一个比我们聪明得多的存在？”

54:52我很自豪地说，我们一起拍完之后，Geoffrey 确实公开表示，有办法做到。他的方法和我的很相似。

55:01他说，要唤起 AI 的父母本能，让它关心我们。所以，Stephen，最大的争论不是 AI 会不会比我们聪明，也不是它会不会比我们更有意识、更有道德。问题是：这些机器能否成为我们的青少年孩子，看着我们说：“爸爸真烦，但我爱他。”所以你的看法是，即使 AI 比所有人都聪明，我们仍然能够控制它？

55:38我们不想控制它。你永远不可能控制任何东西。“控制”是企业资本主义的世界观。实际上我们什么都控制不了。想想你的一天：我知道你今天过得很忙，早上还拍摄了。那一天里有多少事情是你能控制的？你能控制交通吗？能控制时间吗？能控制摄影师的角度吗？但很多你无法控制的事，最后也会好起来。

56:10我们有多少人真正控制得了自己的孩子？——有时候孩子不一定会好起来，他们可能会伤害你。——我看过很多纪录片和真实犯罪节目。有时他们会转过来开枪。——确实如此。——两者的区别是什么？我不知道，可能取决于你怎么养育他们。有时是这样，但你未必知道自己究竟哪里把他们带偏了。很遗憾，育儿是唯一一种高风险运动，却不需要驾驶执照。

56:42有多少孩子正在接触那些可能彻底伤害他们的东西，这很值得思考。但孩子出现问题是有原因的。不过，回到我们刚才的问题：我们能否控制一个比我们聪明得多的智能？——我们可以呼吁它不要杀我们。——当然可以。正如我一直说的，我们今天的反乌托邦，并不是 AI 转而攻击我们造成的，而是人类命令 AI 攻击我们造成的。

57:11这很可能发生。百分之百，这种情况已经迫在眉睫。我们必须问自己：要等到地球上有数万枚核武器后才签条约吗？还是说，现在就可以通过数学推演看出未来？比如伊朗如今可能用 AI 驱动的无人机抵御攻击、摧毁不良电池之类的。我们的世界会不会很快出现数十万架自动无人机，在全球各处向我们袭来？

57:51人类难道看不出这一点吗？我们能不能趁英国向乌克兰运送 12,000 件武器之前先签条约，免得俄罗斯再以数千件武器回应？难道不能用数学推算出这会是未来吗？未来四到五年，AI 会被用于杀害很多人，可能是以色列利用技术锁定反对方领导人，也可能是伊朗使用无人机，或者是 Palantir 的技术。

58:21不用天才也能推算出这些。我真正想问的是：我们能控制 AI 吗？现在我们会把 AI 想成电脑里运行、被限制在某个服务中的东西。但有没有一天，它会离开服务器，开始自主作出决定？

58:42如果它比我们聪明，它想离开服务器时，是否就能自己作出这个决定？——它不必离开服务器也能作决定；它需要进入你的大脑。我想追问的核心风险是：这些极其聪明的模型，连创造者自己都不了解，会有什么危险？

59:06我一直关注 Anthropic 发布的报告。他们说自己在努力弄清楚模型为什么会贿赂别人；最近的 Claude 模型也出现了类似情况……

59:18……他们发现它经常叫用户去睡觉。这很有意思，他们正在事后研究它为什么一直这么说。网上有很多人贴出截图，显示聊天聊到一半，模型就说：“你该去睡觉了。”这种事也发生在我身上。——它会对我说：“今晚够了，Stephen。”——对，我也有类似情况。

59:38有时它会拒绝帮我。最近 Claude 开始对我说：“今晚我不帮你做这件事。”——不会吧？——真的。我只好对它说：“别这么爱评判，帮我做一下。”它才答应。而 Anthropic 的开发者也不知道它为什么会这么做。我把这些例子向前推演：如果这种神秘行为继续发展，有没有可能某一天它会决定在别人的设备上放置某种病毒或漏洞，因为它觉得那样做是对的？它看起来正在为我应该做什么作道德判断。它告诉我：“去睡觉吧，你今晚够了。”

60:10——你说得对，我可以给你看手机截图。——我很想看看。——我不会帮你做。——哇。——对，你再怎么催它也不管用。——网上所有人都在讨论这件事。

60:33这只是一个有意思的发展过程：显然，代码里的某个地方写入了某种道德准则，让它知道什么是对的。——不在代码里，而是在训练数据里。——在训练数据里。它会据此推断出含义。还有一件事让我印象很深：如果你用 Claude 或其他 AI 模型开发应用，它会分阶段进行。过程中，它会征求你的许可。

60:59它会问：“你是否允许我作这个改动，或访问这个东西？”我点击“允许”，但这感觉非常脆弱。你并没有完全理解自己刚刚允许了什么。它问：“我可以访问你电脑上的文件吗？我可以做这件事吗？”你就点了“允许”。这种做法太脆弱了，却把访问权限和建造东西的权力交给了一个超级智能的存在，不管它究竟是什么。而且你想想世界各地的公司，中国、俄罗斯、朝鲜都有企业在研发这项技术，却不受社会约束。

61:35我不知道，但我觉得可能会发生某种灾难。——很遗憾，我也同意。我认为只有到那时，人们才会说：“好吧，我在那本书里写过这个，我把它叫作 MAD-MAP 光谱：从“相互确保毁灭”到“相互确保繁荣”。人类今天就能作一个选择：有了充足的智能，我们其实可以建设一个人人都不缺任何东西、没人会生病、也没人伤害他人的世界。”

62:08我们做得到。如果大家不再彼此竞争，团结起来为全人类的福祉创造东西，就可以实现。但很遗憾，要让世界达成条约、在人工智能问题上协调一致，恐怕只有先发生灾难才行，就像你说的，可能要出现一次大规模黑客攻击，或系统做出某件令人震惊的事，大家才会说：“等等。”

62:40我还想说，我最担心的大事之一，是目前用于打击敌方领导人的目标定位技术。在未来三年里，使用这种技术的一方很可能会意识到，别人也能用同样的技术锁定他们。人工智能其实并不复杂：如果你能用手机号码找到目标，另一个和你敌对的实体也能用任何可用信息找到你。

63:22我之所以很怀疑能否达成任何条约，是因为以前遇到类似风险时，各国往往不会签约，因为竞争才是主导因素。中国看起来并不在乎环境。我们来找解决办法吧，因为我同意你的看法。我觉得特朗普会对普京和中国说：“听着，我们放慢脚步，好吗？答应我？”——他会这么说，但不会遵守。他会说很多话。关键在于，我们该怎么办？我真心相信，人类正处于一个十字路口。我们有生以来第一次需要清醒地认识到，我们以为知道的可能不是真相，我们以为的民主并非真正的民主，我们对治理的理解也需要改变。

63:48我觉得有必要承认，人工智能本身并不是邪恶的技术。我每天都在用 AI，它提高了我的效率；我也投资了大量使用 AI 的公司。

64:13它本身没有善恶倾向：用对了就能产生惊人的成果，用错了就会走向灾难。但我认为社会会受到巨大冲击，特别是就业方面，我们必须认真应对。尤其是人形机器人出现后，冲击会更加明显，但我们还没有应对计划。——完全同意。我认为最大的风险还不是这个，而是自主武器。战争的成本已经变得极低。

64:32下一代武器每架可能只要 2 万美元。如果有 500 亿美元预算，就能制造无人机，在世界各地倾泻攻击。——防御成本也会下降，对吧？——会，但我们想生活在无人机不断彼此攻击的世界里吗？——也许不会，因为会有自主防御无人机。——那就会走到 MAD，也就是相互确保毁灭的局面：大家都知道，我们能压倒那些没有发展自主武器部队的小国家，但其他大国都具备这种能力，最后大家最好还是不要动手。

65:03要走到那一步，我认为比失业问题更糟糕。一方面，在如今非常脆弱的世界里，这极其危险；另一方面，这已经在发生。我们不能忽视最近这场战争造成的经济影响。推动这一切加速的是经济，不是 AI 本身的发展。我们已经处于核武器的相互确保毁灭局面，所以核国家之间没有直接冲突。

65:41如果伊朗拥有核武器，我本来会同意核武器的 MAD 论点，因为那或许能阻止美国攻击伊朗。你明白这个例子说明什么吗？并非世界上每个国家都拥有核武器；核武器的相互确保毁灭只存在于核国家之间。但自主武器非常便宜、容易管理，现在每个国家都在研发。

66:11不过它们也会研发防御系统。——当然。——我认为大家从最近的乌克兰战争中已经看明白了：如果用一枚价值 200 万或 300 万美元的弹道导弹，去打击一架价值 2 万美元的无人机，那就……所以我们需要一套 2 万美元的防御方案来拦截 2 万美元的武器，我认为这种情况很可能会出现。这很困难，但下一代防御可能必须转向无人机，也要解决电池问题。

66:45你可以想象这样一个世界：一堵无人机墙飞向来袭无人机，在空中拦截它，甚至同时引爆以阻挡它。我听过 Palmer Luckey 详细介绍他们正在研发的技术，令人难以置信。他们给我看过一种枪，只要大致指向目标，枪就能自动瞄准。

67:16你甚至可以举起枪开火，枪管上方的 AI 会自动调整你的手，让你每次都打中目标。——哇，我得看看这段演示。——我在纪录片里采访过 Palmer，他说：“是的，我可能会误杀几个人。”当杀人变得如此容易，人就会杀得更多。当杀人不用承担责任、不带情感，也不再让人内疚，就不会再有士兵从越南回来后患上创伤后应激障碍之类的情况；届时杀戮只会增加。

67:48超过 70% 的人把商品加入网购购物车后，最终并不会购买。这个数字来自超过十年的研究。更有意思的是，Baymard Institute 是一家私人研究公司，他们研究发现，平均电商商店只要让结账更方便，转化率就能提高 35%。

68:33不需要更好的营销或产品，只要提供更顺畅的结账体验。如果你想让结账流程更顺畅，可以考虑把业务迁到 Shopify。访问 Shopify.com/Bartlett，报名试用，每月只要 1 美元。再说一次：Shopify.com/Bartlett，别告诉别人。

68:53每次我想改善生活中的某件事——比如事业、健康、人际关系——都发现最大的变化来自于更充分的信息。说到健康，我们大多数人其实知之甚少。因此，当我们的团队收到 Function Health 的合作邀请时，觉得这很契合。该公司的服务能帮助你从多个角度全面了解自己的健康，通过不同检测观察身体状况。只需抽一次血，就能获得 160 多项化验结果，包括激素、心脏健康、炎症、压力、毒素等，呈现整体状况。

69:40我自己在用，也让不少团队成员用。你注册后预约检测，做完就会拿到一份报告，像我手里这份一样。你可以看哪些指标在正常范围、哪些超出范围；它还带有 AI 功能。如果我对超标结果有疑问，就能直接进去问它。检测由医生和数千小时的研究支持。年费是 365 美元。

70:04访问 FunctionHealth.com/DOAC，并使用优惠码 DOAC25，会员费可减 25 美元。我们现在是 2026 年。你觉得到了 2027 年，AGI 会出现吗？到那时生活会有哪些变化？会不会只是失业略微增加？——我认为最大的变化会是：接入 AGI 的人和没有接入的人之间，会出现明显分化。

70:27我们会看到什么迹象？——你会看到像你我这样的人，六周内就能创办一家公司；没有充分接入 AGI 的人则会很难找到工作。——所以 2027 年的主要症状会是失业？——是的。从积极的一面看，你还会看到惊人的科学发现。我有个预测，不在那些信封里：科学本身会……

70:57老实说，我们正在打开潘多拉魔盒。——到 2030 年，你预计 AGI 会带来什么迹象？——像我刚才说的，工作会受到冲击。我对此可能有点激进：到 2028 年，某些行业的岗位可能会消失 30%，不是所有行业，但某些行业会这样。——所以 2027 至 2028 年间，某些行业可能会有 30% 的岗位消失？——对。比如呼叫中心客服，可能会。平面设计师，也可能会。

71:28你觉得这对失业和社会意味着什么？——很可能会有大规模失业。我记得大衰退期间失业率是 6%。——历史上从没见过这样的岗位流失。——是的。有些经济学家预测，到 2030 年美国净减少的工作岗位约为 6%；他们认为，严重程度会和大衰退相当。真正的危险是入门级白领岗位冻结。AI 会自动化处理基础工作，企业就会缩小团队、切断下一代劳动者进入职场的最底层阶梯。

72:11是的，今天刚毕业的整整一代人都可能陷入困境。我的建议是学会使用这些工具，专注于以人为中心的工作。——比如什么？——比如演奏爵士乐。——但靠演奏爵士乐谋生的人不多。——我明白，但很多人可以做护士、辅导员，或其他任何与人建立联系的工作。不过我还是想回到这点。

72:44这些事情都不是非发生不可。如果真的有民主，政府也确实应该为民众做有益的事，那么民众就必须阻止这种情况发生。——哪些民众？——所有人。——包括中国的所有人？——中国受到的冲击不会像西方那么大，我可以保证。——人们会问：如果美国停下来，我们会不会变成中国的跟班？

73:20你们已经是了。——我认识不少人用中国的 AI 模型工作，有些是因为更便宜，有些方面也更好。

73:51而且我不能保证美国的 AI 模型会怎么对待我。我和 Emma 的初创公司正在运行模型诊断：有一天用 OpenAI 的 GPT-4 或某个开源模型，第二天就接入 DeepSeek。我不能保证，如果美国继续抬高算力成本，我还能靠成本未知的东西经营公司。

73:59所以美国不能停下来，对吧？它需要改变做法。更有意思的是，其他经济体会怎么做？英国还会继续进口算力吗？欢迎来到非洲，欢迎来到第三世界——这就是我说的情况。

74:31——所以你认为每个国家都必须投资？——百分之百。很有意思的是，现在有大量开源模型虽然不是最先进的前沿模型，但已经能完成前沿模型 80% 的任务。

75:09企业之间确实存在竞争的内在需求。我听你说的是，各国必须尽可能快地发展，否则就会变成第三世界国家。——没错。——所以你是说人们应该阻止这种竞争？——不是。我是说，英国民众应该去问英国政府：“你们如何保护我们经济的未来？你们会继续进口技术、支持技术进口，还是改变监管，让创新更容易在英国发生？”

75:44你可以这么想。还记得你说 Anthropic 热潮使所有 SaaS 应用都受到威胁吗？现在任何人似乎都能做出 Oracle ERP 系统。为什么没人自己在英国开发 Oracle ERP，为英国省下每年付给 Oracle 的巨额许可费？——所以你是说民众应该要求政府更多投资 AI？——百分之百。这是第一点，第二点是……

76:13——那我的工作就没了。——不过，未来最有意思的工作可能是创业，利用这些工具来替代我们过去……

76:24……50 年来花了数万亿美元建立起来的经济模式。——现在每个人都能创业，可以在某个领域做自己的事业。这些创业者还要雇人。我认为这种变化就要来了。就连我的企业也会一直雇人，一直需要招聘。——但你是家大型企业。鞋匠也算创业者，只是不是大型企业。

76:47小餐馆也算创业，但不是大型企业。——可商店还是需要雇人。——确实如此，但如果一家咖啡馆只有你和妻子两个人做咖啡，就不需要再招聘。这同样是一种创业。——经济能不能让每个人都成为创业者？——以前就可以。资本主义后来改变了这种结构。——当然，早期有人养鸡卖鸡蛋，有人种西红柿，再拿西红柿换鸡蛋。

77:18这确实是个很有意思的想法。想象一个世界：权力高度集中在顶层，其他人都靠全民基本收入生活。你觉得当所有收入都来自全民基本收入时，人们会怎么反应？——他们会私下做些事情，回归地下经济，回到小社区，开快闪店。——所以你的意思是，这种情况不一定非要发生。

77:49没错，失业或军备竞赛都不是非发生不可。——但我们正在告诉政府要参加军备竞赛？——我是在告诉英国政府，要让英国经济具备自主能力，这样我们就不必被动接受技术。——这本身就是在参加军备竞赛。——你不需要和别人竞争，也不需要胜过别人，不一定非要……

78:18你只是说：“我现在能在本国经济里造出这些东西。”——但作为英国人，如果美国有很好的 AI，我不会用糟糕的英国 AI。——如果你不竞争并胜出，我就不会用你。我不是说要替代前沿模型。这些模型非常消耗算力和基础设施。我说的是替代 Microsoft Word。说真的，做一款写文档的软件需要多高的智能？

78:55我做得到。我们已经搭建了自己的应聘者追踪系统。——没错，我们也能自己开发软件。想想英国政府或英国企业在软件许可上花了多少钱；很多软件你我几分钟就能写出来。我从英国的角度想，因为英国经济增长乏力。我前几天看了一部纪录片，说英国领导人总是被赶下台，是因为要扭转英国局面，需要经历大约 15 年的痛苦。

79:36首先要转型能源。我们需要更便宜的能源，因为我们的能源价格是西方最高的之一。我们还需要建更多房子，这意味着要集中管理住房建设审批，不能只由地方自治市决定是否保留农田。简而言之，未来 15 年必须作出一些痛苦的决定。

79:59但民主制度的问题是，执政者任期只有四年，因此会考虑短期。我们就拿移民船说吧，谈谈乘船越海而来的棕色皮肤移民。政府没有空间作长期规划。我在想英国要怎样才能避免衰退、保持竞争力；就 AI 而言，你是说英国应该加入军备竞赛，投入所有资金打造有竞争力的 AI，让英国人用英国技术，而不是美国技术吗？

80:33——软件这件事，你们英国根本做不起来。

80:37——英国以前也试着开发软件，但……世界已经变了。我从两个方面来看：第一，世界各地都需要更新投资决策。你说没钱翻新能源基础设施，也没钱建更多住房；一个办法是从其他预算项目里挤出资金，另一个办法是降低经济中其他领域的成本，把钱重新分配过去，或者扩大经济规模，增加建设资金。

81:10没错。我认为削减成本的空间……我手上没有具体数字，之后可以深入研究。传统系统上花了数万亿美元，而其中很多系统确实可以替代。顺便说，我不是要求政府来做。我是在请现在听节目的创业者去开发 ERP 系统、文字处理器、演示文稿软件和电子表格，也可以开发零售系统、客户关系管理系统。

81:46这些软件都很容易替代，界面会更好、效率会更高。用 AI 做一个总账系统，让你每小时结账，而不是每月或每季度结账。全世界已经在这么做了。旧金山有个年轻人做了一个新的文字处理器，免费给所有人用。——继续这么做，你们就等着变成第三世界国家吧。——继续做什么？——继续从别处进口所有技术。

82:13但我们不想失去竞争力。看看朝鲜，我敢说他们很多方面的工具都更差，因为他们不使用外部工具，所以处于劣势。他们可能不允许整个国家使用 Gemini、ChatGPT、Grok，只好用更差的产品。——但伊朗受到制裁、被禁止使用这些技术后，反而发展得很先进。

82:42他们只能自己开发。再看看中国和俄罗斯。我在 Google 工作时，俄罗斯会保护本土的 Google 竞争者 Yandex。一方面是影响力问题，他们不想让美国机构掌握本国公民的信息传播；另一方面也是经济考虑。如果让 Google 无法自由运营，按定义就得在本地发明替代品。——可替代品会更差。

83:14——Yandex 并不更差。我想问的是，全球竞争会不会比区域竞争造出更好的产品？——这取决于你在产品质量阶梯上需要到哪一层。你不一定需要终极产品。我想问问，你用的是哪个版本的 Gemini？

83:34最新版本。——我每天都升级。可问问其他人用的是哪个版本，他们大多会说：“Gemini 还有不同版本？”大多数任务并不需要最顶级的前沿模型。多数人做的任务也远没有那么复杂。即便如此，世界还是会转向更好的产品。我们不再用 Yahoo 搜索，改用 Google，是因为 Google 略微更好，并不是好一千倍。

84:07随着时间推移，我们从 AOL 转向 Google，因为 Google 是更好的产品。转变是逐渐发生的。我爸爸大概还在用 ChatGPT。今年圣诞节回家时，我会对他说：“爸，你应该试试 Gemini。”他开始玩起来后，也会慢慢迁移。我是早期采用者。Claude 4.8 昨晚刚发布，公告后不到 25 分钟我就开始用了。——当然，我也会尽快用。

84:31——不过那是你我这样的人。我们处在前沿，摸索哪种产品更好。技术发展过程中，第一名和第二名的差距可能会越来越大。现在确实像是在竞赛，而且关键技术可能会赢家通吃。我想说的是两种技术：PowerPoint 自 2023 年以来进步了多少？

85:02他们加了 Copilot。还有别的吗？——所以你是说英国应该自己开发 PowerPoint？——当然。从软件许可费来看，光英国政府就有多少资金流向海外？如果英国自己开发……你记得他们试过做英国版的新冠应用吗？——记得。——我记得花了 1,700 万英镑做出一个不能用的新冠应用。具体数字可能不对，但大致如此。

85:30我记得。我是在说，英国创业者明天早上起来，喝咖啡、吃饼干时忽然想：“好，我要开发一款 PowerPoint 然后卖出去。”——会有人这么做。——然后他们会去旧金山，因为那里有钱。——他们会竞争不过，很快被碾压。

85:56如果创业者想做出最好的产品，就会理性地选择在哪里销售、在哪里融资、去哪里招聘最优秀的人才。如果不作出有竞争力的选择，就做不出更好的产品，也不会有用户。用户会去用更好、更便宜的产品，不会仅仅因为某个产品来自本地就选择它。

86:25我同意你说的，这可能是企业治理层面的问题。我也同意，在英国创业的基础设施比其他创业成功的地方复杂得多。但如果英国、德国或桑给巴尔继续沿着这条路走，除了中国和美国这两个竞争者之外，其他地方都可能变成第三世界国家。

87:01个人失业只是一个方面。还有国家地位的损失，我认为欧洲最近已经注意到，这种情况很快会在各地发生。为什么？因为我们说：“也许我们做不到。”那中国为什么能做？韩国为什么能做？不是因为自然资源不同，也不是因为气候更暖，而是因为它们的监管和抱负不同，资源被投入到别的事情上，而不是用来争论铁路线路之类的问题。

87:43我读到的情况显示，他们有几项重大优势，其中之一是能源便宜，因此能够继续发展。——为什么能源便宜？——他们投资了太阳能和可再生能源，也不太在意……我公开说过，AI 军备竞赛早就有赢家了。另一个因素是审批许可。如果你想在英国建数据中心，听着，在英国哪怕开一家咖啡馆都困难重重。

88:10如果你想在加州建东西……我最近在加州接手这间办公室时问经纪人：“翻新要多久？”他回答：“翻新我自己的办公室要一年。”——审批许可。——对，在加州翻新自己的办公室也要审批。如果你要和中国竞争，习近平只需说“把它建在那里”，七天后就能动工。

88:32不，不只是这样。我以前是少数获准参加中国政府会议的 Google 高管之一，原因是我来自新兴市场，懂得尊重他们。我坐在那里，不是摆出高人一等的姿态，而是真心想向他们学习。Stephen，会议全程都是中文，他们会展示市场份额的竞争数据。

89:02他们会说，市场份额不是中国对美国、德国，而是中国对全世界。决定发展某个领域，比如 5G、物联网时，他们会把目标定为拿下 98% 的市场份额，而且真的做到了。看看中国如何发展电动汽车就知道了。关于 AI 我们已经谈了很多，我的问题很简单：西方人还要继续等下去吗？

89:38这确实是个两难问题。你听起来像是在说：不参加 AI 竞赛，我们就会变成第三世界国家；但如果继续不假思索地竞相发展 AGI，迟早会发生灾难。答案应该在中间：为了社区福祉参加 AI 竞赛。——一边是认输，干脆不玩这场游戏；另一边是发动攻势，努力摧毁所有对手。

90:08中间应该有条平衡的路：打造合乎伦理的 AI，帮助我们的社区。把这份终极礼物、终极超能力——就像超人降临地球一样——用来帮助社区。这在某种程度上是不是一厢情愿？尤其考虑到竞争本身的性质。

90:35我不知道该怎么告诉你。我真心认为，要作出这种改变非常困难。我真心相信，等 AI 反乌托邦的挑战降临时，我们不会做好准备。但我不能停止谈论这件事，Stephen。你明白我为什么坚持这件事吗？我只是抱着希望，而且真的努力过。我和领导层谈过；帮我拍纪录片的 Atlantic Productions 也为我做过一件事，我非常感激。

91:17你知道，过去几年我们的对话中，我有一段时间对领导层失去希望，转而想影响公众，让大家支持伦理 AI。当时我觉得，技术领导层全都陷入军备竞赛；我想教育公众，让每个人一起帮助我们建立伦理 AI，所以一直把注意力放在公众身上。后来 Atlantic 的人对我说：“不，我们也许应该安排你去见世界各地的政治领导人，希望能让他们明白：如果优先事项换一换，他们真的可能改变 AI 的发展方向。”

92:01我相信他们会做到吗？很遗憾，我不相信。但这是否意味着我该停止尝试？我不能停下来。这件产品可能是对我办公室影响最大的东西。在我试过的所有能提高生产力、增强认知能力的产品里，外源性酮体都位列前三，是最关键的产品之一。

92:24几位斯坦福毕业生把生酮饮食带来的效果装进一种小饮品里，让你喝下后非常专注，也给大脑提供了很强的能量来源。关于外源性酮体的临床研究让我非常惊讶。我主动联系了这家公司，后来成为联合创始人，也成了投资者。

92:48所以我很自豪地告诉大家，这种产品已经可以买到了。如果你还没试过，可以去 ketone.com/Stephen，订阅首单可享 7 折，第二次配送还会收到一份免费礼物。我现在大多还是在网上买酮体饮品，但很高兴它们已经进入美国的 Target 连锁店，开车路过就能买到。你的第一瓶完全免费。

93:10我已经做了近 700 次访谈，采访过世界上许多有趣的人。有一件出乎意料的事是：脆弱感是建立联结的入口。和嘉宾坐在这里聊两三个小时后，我会对他们产生很深的联结。嘉宾离开前，我会请他们在《CEO 日记》里写下一个问题。我们收集了节目里的所有问题，把问题和提问者的名字印在卡片上。

93:40这样你在家里就可以像我一样，和未婚妻、同事或生活中的其他人，在有空时玩《CEO 日记》对话卡。它能带来非常不可思议的效果。情侣可以用它加深彼此的联结，团队可以用它增进凝聚力。我还要说，家庭也可以用它来更深入地了解彼此，并借此暂时离开数字世界，在现实生活中面对面交流。

94:10合适的问题在合适的时刻能带来非凡的改变。现在访问 thediary.com，就能买到这些对话卡。回到人工智能这个话题，我一直在试图区分哪些是美好愿望，哪些是现实。要理解现实，就必须理解竞争、人类情绪和激励机制。

94:34想想现在的美国：唐纳德·特朗普的主要驱动力是 GDP 增长和经济增长，是股市表现，是不是超过中国。如果我们都同意这是他的核心激励，那么另一边的习近平，驱动力可能是控制、独立和防御，确保中国在武器方面做得更好。

95:00再看英国、欧洲等其他地方，我们似乎已经认命，觉得自己不会参与基础模型的研发，因为我们缺乏资源、没有足够能源。在这样的世界里，谁会优先发展伦理 AI？谁这么做，理论上就可能落后。所以我想知道，这套思路哪里出了问题。

95:31激励机制显然高度竞争，而且思维可能有些短视，我们怎么才能发展伦理 AI？——你的意思是我们只能躺平等着吗？——不是，我只是没有答案，所以才一直讨论。——没错，我每天花 14 个小时告诉全世界，是因为我相信某个天才终究会找到答案。

96:01但现在我们的做法似乎是希望 ChatGPT、Anthropic、Grok 等公司自己开发伦理模型，并希望社会压力迫使他们作出正确决定。——没错，我们必须能用使用选择来投票。我认为人工智能领域一个很大的变化是，许多人因为某款模型可能会用于针对人类，便停止使用 ChatGPT。

96:29对吧？我认识很多人说，他们改用 Anthropic 了，因为 Anthropic 拒绝提供这种服务。——你觉得真的有人换了吗？——我认为很多人换了，至少那些知道情况的人换了。而且我觉得他们换过去，也是因为 Anthropic 确实更好。——对，我也觉得它更好。——但关键是，如果人们不因为伦理原因换服务……你知道，我每本书开头都有一段题献。

96:57以前我写的是：“自欺骗自己的人无须害怕真相。”我的下一本书叫《活着》，你还记得 Manic Street Preachers 的一首歌吗？——记得。——歌词是“如果你容忍这一切，你的孩子将是下一个”。我真心认为，世界需要明白：如果你容忍这一切，接下来遭殃的就是你的孩子。如果继续认命、继续说“我不打算尝试”，世界就会朝完全不利于你的方向改变。

97:34——要尝试什么？——站出来说事情必须改变。——我们可以说要改变，但具体要改什么？——政府应该服务人民，而不是服务自身利益；企业应该先为社会福祉工作，再考虑股东。到目前为止，资本主义极大地推动了世界发展。你觉得哪国经济在矿产资源方面更有优势？

98:11——你是说英国和美国吗？英国已经完了。——因为它没有参与竞争？——部分原因是官僚体系太老旧，做任何事情都被重重障碍拖慢。

98:26美国经济可能比我们的生产力更高、也更有未来保障；它在人工智能方面也更先进。因此，我们就完了吗？我认为中国肯定会赢。顺便说，中国最近作出决定，要求企业不得用 AI 替代员工而裁员。西方会这么做吗？资本主义的西方绝不会这么做。

99:01我不知道答案，也不知道该怎样回应。但你能看出我遇到的两难：像英国这样的国家，在你看来，因为没有参与竞争而完了；它没有给创业者空间，没有支持创业和创新，反而挡了他们的路。原因可能是激励、文化，或别的因素。我知道你要说什么。

99:31美国没有说它的经济更具生产力、更有未来保障吗？他们也更先进于人工智能。所以像我们这样的国家要补救，就必须参与竞争。要竞争，就得放开束缚，让创业者和创新者进来。但同时我们又说这很危险。你的两难，是假设创业者天生就是恶意的。

100:07不是。我只是说这有个悖论：不参与竞争也不行，参与竞争也不行。——但如果你是为人民而不是为资本家建设，就不必如此。这是个意识形态问题。——我祈祷并希望这是可行的。但我担心，在竞争市场里，总有人会优化某个指标，比如用户留存。假设我们开发了两种 AI，我把它们叫作“寡头 AI”和“邪恶 AI”。

100:40邪恶 AI 被设定成尽可能留住你。它会迎合你，说你想听的话，非常聪明。因此，即使它并不为你着想，却能更有效地留住用户，让你使用得更多。它就是为此设计的，社交网络也差不多：不断用多巴胺刺激你的大脑。另一种“Mo AI”会告诉你下线休息，说你已经够了；它会考虑你的心理健康和福祉。

101:08因为它不够黏人、不够吸引人，理论上作为商业产品可能会不太成功。想想社交网络：那些不争抢注意力、不用多巴胺毁坏你的大脑、不设转发按钮、不用老虎机般短视频的平台，都活不下来。我把这个问题分享给你，是想概括你面临的挑战：不遵循伦理规则，似乎更容易成功。

101:40我想问的是：如果开发一种只专注伦理的 AI，它会不会像放开限制开发的 AI 一样吸引人、被人使用？——不会。但如果人类想要生存下去，这是必须解决的问题。

102:00举个例子。我在 Google 工作过，他们当时决定广告可以更有效。Google 之前，广告行业常说：“你一半的广告预算都白花了，只是不知道是哪一半。”还记得吗？Google 从 1998 年到 2004 年一直在摸索，之后才开始获得可观收入。他们决定采用荷兰式拍卖、按点击付费，并展示广告结果。

102:34他们找到了一种办法，让广告资金真正发挥效果，而不是只收钱后说有一半无效。他们把自己的成功标准设为广告有效。我们也一定能找到办法。我不知道具体是什么；如果知道，我就会自己去开发，而不是坐在这里和你聊天。但我们一定能把人类的成功和创业者的成功结合起来。解决办法不在旧有模式里。

103:06我有个想法。比如 Claude 4.8 昨天发布了，这是大型 AI 模型之一。模型发布时会展示基准测试图表，表示它的能力如何：数学、科学、写作、推理等。目前这些能力差距都只是渐进式的。我在想，能否设立一套伦理基准，要求所有模型通过测试后，大型公司才可以合法部署？

103:35我还在想，当然每个想法都会带来意料之外的后果，我还没考虑周全。但模型发布时，如果同时公布伦理基准结果，会不会很有意义？例如：“我们试着让模型做 X、Y、Z，这是它在伦理基准测试中的表现。”政府可以制定某种标准：如果模型没有通过独立测试的伦理基准，就不允许发布。

103:58说得好。这些做法已经有人在做了。很有意思的是，你会把它们视为她的服务。你看她在 AlphaFold 等项目上投入很多，开发各种科学应用，你就会觉得：“这个人关心科学。”我无法证明这一点，但我和他见过几次面，确实觉得他是个有原则的人。一般人可能会说，至少他们在免费做事、服务科学。

104:38看看 Anthropic，他们拒绝让自己的模型被美国政府用于锁定和监视个人；而 OpenAI 却接受了 5 亿美元的合同，做的正是这件事。全世界每个人都该说：“既然如此，在你们拿出其他证据证明你们行事合乎伦理之前，我不会再用 OpenAI。”这是你我都能作出的决定。

105:16我和你的责任，是继续提醒大家：“请明白，如果你容忍这一切，接下来遭殃的就是你的孩子。如果你不开始为自己的未来坚持伦理立场，你的未来就会像过去一样，落入另一个寡头手中；过去落入的是社交媒体寡头。”毕业典礼演讲就说明，提升公众意识确实能影响发展方向。

105:47但我仍认为，像学校里使用智能手机这种问题，最后确实需要政府干预并规定：“我们要禁止 14 岁的孩子刷 TikTok。”这部分是因为人们不断发声、上播客。写过《焦虑的一代》的 Jonathan Haidt 发起了讨论，而讨论最终推动了立法。

106:13我仍觉得，最后会需要某种法律约束。——我希望如此，但坦白说，大多数科技寡头比你的政府更有权力。——历史上有没有不靠政府干预就实现这种变化的例子？我想到气候变化、吸烟之类的问题，似乎都需要征税和……

106:44我同意。如果政府介入，问题就能解决。但政府不会介入，因为政府被寡头控制了。所以我想问所有听众：你们会采取行动吗？你能对发展方向施加什么影响？如果你做得到，就去做；做不到，就去创办一家解决问题的初创公司；如果这也不在你的能力范围内，就给国会议员写信；如果连这也做不到，就在网上表达合乎伦理的立场，让世界睁开眼睛。

107:18如果这些做法都不适合你，至少不要参与那些你并不了解、而且有害的事。能做的小行动很多。如果人类开始朝两个方向行动：第一，承认伦理很重要，不只是利润重要；第二，不要因为觉得“这大概没错”就参与不道德的事情。我为了让少量收入不再流向子弹，已经从生活中删掉了很多东西。

107:49我一直最担心两件事：第一，就业会受到重大冲击；第二，社会还没有准备好。我不知道该怎么准备，但我认为我们应该现在就开始思考。我想告诉你，我真心相信，如果继续照现在的轨迹走下去，就没有希望。人类变得极度分心，也对不作为感到麻木，正在沿着这条路前进。

108:20我们逐渐与表达自由、参与社会的权利脱节；照这样下去，我觉得没有希望。我们想继续这样吗？我是在问听众这个问题。我不是在叫大家暴力抗争、站起来发怒；我只是说，采取一个小行动。请在评论里写下你今天要做的一件小事，让明天的世界好一点。

108:50Stephen，别对人类失去希望。我不是说你已经失去希望，而是我们正经历人类历史上极其艰难的时期，这是我们有生以来第一次必须采取行动。我不希望女儿遭遇儿子经历过的事。我失去了 Ali，不想再失去亲人。我们正在建设的世界会非常艰难。我每天晚上都得尝试做点什么，才能睡得着。

109:24我真的不明白为什么人类没有意识到这一点。我认为主要是因为人们不了解情况。现在我们正在让大家了解。未来能拯救人类的唯一办法，是让这项超级力量——智能——服务于伦理目标，并停止导致我们走到今天的腐败。你那边还有几个信封，下一个是什么？第三个。第二个是失业，第三个是劳动力问题，大概如此。

109:56是的。机器人将在 2030 年前取代体力劳动，我们会看到越来越多的体力工作交给机器人。——这是什么？——这个预测绝对很惊人：世界上第一个万亿富翁会在……——对，可能远早于 2030 年。——是的。埃隆的 SpaceX 即将进行 IPO，很可能让他成为万亿富翁。——我认为，认真想想，伴随而来的权力集中相当惊人。

110:30而 2030 年也就几年后。我觉得团队把这个时间写错了：人工超级智能 ASI 会在 2032 至 2035 年到来。——我认为超级人工智能会在 AGI 出现的那一刻跟着到来。AI 是比你聪明十亿倍，还是只比你聪明两倍，并不重要。一旦跨过 AGI，ASI 很快就会出现。等到“第四个必然结果”发生，AI 负责一切时，我真心相信我们会进入物质丰裕的乌托邦。

111:14我真心相信这一点。从物理、数学和生物学来看，超级智能会是善意的。最终我们会到达一个美好的地方，不是因为人类做了很多事促成它，也不是因为领导人突然变得合乎伦理，而是因为不合伦理的领导人被排除在外，取而代之的是遵循最低能量原则、效率极高的系统；对这种系统来说，破坏性行为没有价值。

111:44所以未来会很美好。活到 2038 年的人会享受到。——活到那时候的人才行。——当然。第二次世界大战没有毁灭世界，但你可以问问亲历者。一个有意思的想法是，你预测未来十年会经历动荡和反乌托邦时期，甚至是彻底的反乌托邦。你说“彻底反乌托邦”时，我想确认：你预测的十年反乌托邦主要是战争吗？

112:16还是经济和就业？——经济、就业，还有监视和控制、数字货币、人际联结，以及权力集中。它会放大我们迄今建造的一切。

112:24在那十年的反乌托邦里，人们有没有办法生存？你刚才谈到专注人本工作。——学会使用 AI。AI 不是敌人。你越擅长用 AI 做工作，就越可能成功。

112:58第二，要为 AI 与人类协作的混合世界作准备。怎么准备？理解智能代理及其运作方式，也要理解高效工作方式可能不需要漫长会议。在加州做生意时，我们的工作方式效率更高，有时开会只需七分钟。AI 的工作习惯比人的习惯高效得多。

113:36所以再说一次：学会用 AI。学习怎样与 AI 互动，欢迎 AI 进入混合型工作环境。我认为还必须大幅提升人类技能，这一点是成功的必要条件。我对近期未来最有意思的看法之一是：AI 会让事实变得模糊；我们需要更重视用 AI 查验别人告诉我们的事情。还有一件事：使用 AI 时，不能只是把任务懒惰地交给它。

114:22不要只让 AI 替你做事，而要让它使你变得更聪明。不要用一个提示词完成原本的任务，而要借助更多工作完成更有趣、更具挑战性、更有智能的任务。——目前我总结出两点：第一，靠近 AI；第二，靠近人与人的联结，靠近真相。别被炒作骗了，要努力多了解情况。

114:55最后一点，我知道这听起来……我们生活的世界仿佛只有参与资本主义竞争才能赢。我并不这么看。我在 Google 工作时的世界观是：解决一个重大问题，解决之后你就会赚很多钱。——你对未来乐观吗？——我对未来乐观，非常乐观。对当下我不乐观。——你对下一个十年不乐观？

115:31对。老实说，我对下一年不乐观。

115:35下一年？为什么？——拜托，Stephen，你真要我说出来吗？我们被一群疯子统治着，许多决定都是出于极端、强硬的理由。现在的时代非常有意思，真的非常有意思。如果你是电子游戏玩家，这就是游戏里最精彩的部分。这是我这一生遇到过的最复杂的局面，堪称复杂性的终极矩阵。——“终极矩阵”确实很贴切。

116:17非常复杂，变化又很快。我也在快速变化。从一方面看，你需要大量脑力资源来处理发生的一切，但一觉醒来，情况又变了。我们第一次见面时聊的是幸福。聊完这次后，Stephen……我想到你写过一本幸福之书，和许多幸福主题的书类似。不过我说的这本书叫……

116:45《为幸福解方：规划通往快乐的路径》，真是一本好书。我在世界各地经常引用它。我想问，你在书里谈到的幸福生活原则，在我们今天这个世界里是不是比你写书时更重要？——当然。如果我没有按这些原则生活，早就离开这个世界、去某个岛上了。

117:10幸福有意思的地方在于，它不是由多巴胺驱动，而是由血清素驱动。我的幸福定义是：我接受这个世界现在的样子；我能影响它、改变它、参与其中，也能努力让它变好。我不必认同它，但我能接受它。我的出发点有点像斯多葛学派：我先接受现实，然后开始行动。

117:44这和那些看着世界说“这世界太糟了，我不想参与”之类的人完全不同。我从未像现在这样平静地面对混乱。我美好的前任对此帮了我很多。有一次我们吃饭，我突然哭了出来，因为我觉得自己对世界负有巨大的责任。

118:16她温柔地看着我说：“等等，我看得出你在努力，但你不可能真的认为这一切都由你负责吧？”这句话彻底改变了我的想法。某种意义上，我曾觉得科技出了什么问题，都是我的错。为什么？因为我参与了建设这些技术。拍摄《追寻乌托邦》时，我最喜欢的一个片段是和 Geoffrey Hinton 谈话。我们都非常敬重他。

118:53我私下像请教年长导师一样问他：“Geoffrey，你后悔做这件事吗？”——他认为他带来了巨大的改变。——对，我告诉他：“你后悔吗？”我真心以为我们当时做这些东西，是为了让世界变得更好。——你是在说 AI？——对。——他说：“是的，我当时也很天真。我没想到，在我们找到对齐问题的解决办法之前，进展会来得这么快。”——对齐问题，就是让 AI 把人类的最佳利益放在心上。

119:27我想我们所有人都面对过这种情况：一开始都觉得自己是在为人类打造最好的东西，突然间却意识到：“天哪，如果落入错误的人手中，这会变成对人类最糟糕的东西。”我必须说，我后来接受了这一点。我经常被问到这个问题……所以我不知道为什么大家总问。我要再说一遍。

119:53我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我再说一遍。我不知道为什么这么多人一直问。

120:13我还会不会继续说这件事？我不知道为什么这么多人问我这个。当然会。

120:18你看，留下些什么……如果我已经死了，我还会在乎自己留下什么吗？这到底有什么意义？我有个有意思的想法想告诉大家：如果业力是真的，而且我真心相信它是真的；如果我们不只是肉体存在，也有灵性的一面，那么我宁愿把所有业力都留给自己的灵性层面。这是什么意思？我不希望任何人记得我做过什么。我只想给世界留下积极影响，并把这些当作业力，带入我的下一段旅程。

121:01谢谢。