Karen Hao: AI吹哨人：AI公司正在对我们进行煤气灯操纵！他们隐瞒了AI的真相
AI Whistleblower: We Are Being Gaslit By The AI Companies! They’re Hiding The Truth About AI
嘉宾：Karen Hao
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
本篇目录23 章节
§01开场白§02人工智能行业为何可能重利润而轻进步§03250名OpenAI内部人士在闭门会议中透露的内容§04萨姆·奥特曼是成功智胜了埃隆·马斯克，还是另有隐情？§05人们如何看待萨姆·奥特曼（以及为何这很重要）§06罢免萨姆·奥特曼背后暗藏的权利斗争§07企业争相开发人工智能的真正原因§08人工智能公司的首席执行官们真的相信这会对人类有所帮助吗？§09OpenAI 为何拒绝参与编写这本书§10山姆·奥特曼为何被强制出局§11隐藏的动荡：奥特曼内部到底在颠覆什么？§12广告时间§13究竟是什么导致了萨姆·奥特曼被解雇——以及随后的大规模离职潮§14是否应该根据人工智能政策来投票——以及其中涉及哪些利害关系？§15机器人如何能即时更新并改变一切§16人工智能会超越顶尖外科医生吗？如果真到了那一天，又会发生什么？§17自动驾驶汽车真的安全吗§18哪些工作能真正抵御人工智能，哪些人又会被时代抛弃？§19Klarna首席执行官揭示了关于人工智能与商业未来的哪些信息§20广告时间§21人工智能正在悄然消解意义——并影响健康与地球吗？§22我们究竟该如何在不将人类置于风险之中的情况下，真正构建人工智能§23人工智能竞赛会放缓吗？还是我们已经失控了？§01开场白
如今人工智能行业所发生的很多事情都极不人道。不过，我这是在扮演“魔鬼代言人”。从逻辑上讲，加速人工智能研究的那个文明，或许会成为更优越的文明。不，事实并非如此。这只是你的一种预测，对吧？无论是动物、扎克伯格，还是女性都在做出预测。而你知道这一切的共同未来是什么吗？他们都从这个神话中获得了巨大的利润。
你知道，我手头有所有这些内部文件，它们表明这些公司正刻意在公众中营造那种感觉，以便不断榨取和剥削。那么，我们该怎么办呢？我们需要拆分人工智能领域的巨头帝国。你知道，我报道科技行业已经八年多了，采访过250多人，其中包括前员工或现任员工以及高管。我可以告诉你，人工智能的巨头帝国与过去的旧式帝国之间有很多相似之处，对吧？
首先，为了训练这些模型，它们声称拥有艺术家、作家和创作者的知识产权。其次，它们剥削了大量劳动力，这破坏了职业晋升体系——因为有人被解雇后，又不得不去训练模型，而训练的内容正是他们刚刚被解雇时从事的工作。如果该模型随后掌握了这项技能，就会导致更多人被解雇。而当它们谈论会创造出一些我们甚至无法想象的新工作时，实际上，许多新工作的待遇都比原来的工作差得多。
此外，这些公司还制造了环境和公共健康危机。它们还能花费数亿美元，试图扼杀所有可能阻碍它们的立法，并审查那些对其帝国议程不利的研究人员。但我并不是说这些技术没有用处，而是说目前这些技术的生产方式正在给人们带来巨大的伤害。
但有研究表明，完全可以通过另一种方式开发出同样的能力，而不会产生所有这些意外后果。所以，让我们来谈谈所有这些吧。各位，在本集开始之前，我想请求大家帮个忙。如果你关注某个节目，算法就会在你的信息流中重点推荐该节目的最佳剧集。所以，当我们有本节目最精彩、分享最多、评分最高的剧集时，我希望你们能知道。
而你要知道这一点，方法很简单，就是点击那个“关注”按钮。同时，这也是你能做的最简单、最轻松、最免费的一件事，它能帮助我们把这个节目做得更好。如果你能花一分钟，在你现在正在收听节目的这个应用上点击“关注”按钮，我将不胜感激。真的真的真的非常感谢。
§02人工智能行业为何可能重利润而轻进步
凯伦，你是怎么做到的？你在我面前写了这本书，书名叫《人工智能帝国：萨姆·奥特曼旗下OpenAI的梦想与噩梦》。我想我的第一个问题是，为了写这本我们即将讨论的书以及书中涉及的主题，你经历了怎样的研究和探索之旅？我走上新闻这条路的经历有些奇特。我在麻省理工学院学习的是机械工程。所以毕业后，我搬到了旧金山，加入了一家科技初创公司，从此成为了硅谷的一员。
我基本上接受了一场关于“硅谷究竟是什么”的教育。因为在我加入一家以使命为导向的初创公司几个月后——这家公司专注于开发有助于应对气候变化的技术——董事会却炒掉了首席执行官，原因是公司没有盈利。事后看来，这对我来说是一个非常关键的转折点。我当时想，如果这个中心最终的目标是打造能盈利的技术，而世界上许多我认为亟待解决的问题，比如气候变化，都不是能盈利的问题，那我们到底在做什么呢？
我们究竟是如何走到今天这一步的——创新并不一定服务于公共利益，有时甚至在追求利润的过程中损害了公共利益？那一刻，我经历了一场小小的危机，心想，我花了四年时间，为一份现在看来我并不适合的职业做准备。我想，那还不如干脆尝试一些完全不同的东西。我一直都喜欢写作。两年后，我就这样在《麻省理工科技评论》找到了一份全职报道人工智能的职位。这份工作给了我一个空间，让我得以开始探索所有这些问题：究竟由谁来决定我们开发哪些技术？金钱和意识形态又是如何推动这些技术的生产的？我们最终该如何确保，重新构想整个创新生态系统，让它真正为全球广大民众服务？
所以，我就是这样踏上了最终写成一本书的旅程。我当时并没有意识到自己是在为写书做准备，但从2018年我接受那份工作开始，基本上就标志着我着手研究后来在书中记录的故事的时刻。
§03250名OpenAI内部人士在闭门会议中透露的内容
现在正是投身人工智能领域的绝佳时机。可能有些人还不知道，当时正值 OpenAI 的 ChatGPT 发布前夕，这一时刻震惊了世界。但在撰写这本书时，您采访了许多人，也走访了很多地方。能简单介绍一下您采访了多少人？这些采访又带您去了世界哪些地方呢？我采访了 250 多人，总共进行了 300 多次访谈，其中 90 多人是 OpenAI 的前员工或现任高管。因此，这本书讲述了 OpenAI 第一个十年的内部故事，以及它如何最终发展到如今的境地。但我不想写一本纯粹的企业传记。我坚信，为了帮助人们理解人工智能行业的影响，我们必须将目光投向硅谷以外的更广阔天地。这些公司告诉我们，人工智能将造福所有人，这也是它们的使命。但当你去到那些与硅谷截然不同、说着不同语言、拥有完全不同历史和文化的地方时，你就会发现这种说辞开始站不住脚了。也正是在那里，你才开始真正理解这个行业的真实发展状况。
Karen，我通常总想引导谈话的方向。但在这种情况下，我觉得自己应该跟随您的思路。因此，我想请问您，这段旅程始于何处？如果我们谈论《人工智能帝国》这本书，以及人工智能这个整体概念，我们应该从哪里开始呢？另外，我想在这次对话中做一件我常发现被忽略的事情：假设我们的观众对人工智能一无所知。他们不了解扩展定律、GPU、算力或任何其他相关概念。因此，我们尽量用最简单的语言来阐述，或者解释所有复杂的术语，以便尽可能多的人能跟上我们的思路。我们应该从哪里开始呢？我认为，我们应该从人工智能作为一个学科领域的起源说起。
事情要追溯到 1956 年。当时有一群科学家聚集在达特茅斯学院，试图开创一门全新的科学学科，以实现一个宏伟的目标。其中，达特茅斯学院的一位助理教授约翰·麦卡锡决定将这门学科命名为“人工智能”。这并不是他尝试的第一个名字。前一年，他曾想将其命名为“自动机研究”。而他的部分同事之所以对这个名字有所顾虑，是因为它将这门学科的概念等同于重现人类智能。
而在那个年代，就像今天一样，我们对于人类智能究竟是什么，并没有达成科学共识。心理学、生物学、神经学都还没有给出一个明确的定义。事实上，历史上每一次试图量化和衡量人类智能的努力，其背后都隐藏着险恶的动机。这些动机源于一种想要通过科学手段证明某些人群劣于其他人群的欲望。这个领域根本没有既定的目标。而当那些企业声称他们最终的目标是重建出像人类一样智能的人工智能系统时，他们同样也没有明确的目标。
我们甚至该如何定义这究竟意味着什么？如果我们连目的地都不知道该如何定义，又谈何何时能抵达呢？这实际上意味着，这些公司可以随意使用“通用人工智能”这个术语——如今它已被用来指代重建人类智能这一宏伟目标。他们想怎么用就怎么用，可以根据自身需要随时定义和重新定义它。在 OpenAI 的发展历程中，他们已经这样定义和重新定义过很多次了。当萨姆·奥特曼与国会对话时，通用人工智能（AGI）是一种能够治愈癌症、解决气候变化、消除贫困的系统；当他向想要推销产品的消费者介绍时，它又成了你将拥有的最出色的数字助手；而当他与微软洽谈合作——也就是微软向 OpenAI 投资的那笔交易时，它又被定义为一个能创造 1000 亿美元收入的系统。至于在 OpenAI 自己的网站上，他们则将其定义为：在大多数具有经济价值的工作中表现超越人类的高度自主系统。这根本不像是一个关于单一技术的连贯愿景，而是一些被公开说出来的、彼此截然不同的定义。
需要动员起来的受众，他们要么是为了抵制监管，要么是为了让行业获得更多消费者的支持，要么是为了在定义模糊的情况下继续前行而争取更多资本和资源。我的意思是，谈到不同时期对人工智能的不同定义。2015年，在OpenAI正式宣布之前，萨姆·奥特曼在一篇博客文章中明确阐述了这种存亡风险，他说：“发展出超人类水平的机器智能，或许是人类持续存在面临的最大威胁。我认为还有一些其他威胁更有可能发生，比如人造病毒，但人工智能可能是摧毁一切的最可能方式。”通常，当奥特曼面向公众写作或发言时，他心中所想的受众并不仅仅是普通大众。当他说出这些话时，他其实还想激励或动员其他特定人群。就在那个特定时刻，奥特曼正试图说服埃隆·马斯克与他共同创立OpenAI。而马斯克当时正投入大量时间，就他所认为的人工智能可能带来的巨大存亡风险发出警报。
因此，如果你将奥特曼在那篇博客文章中所用的措辞，与马斯克当时所使用的措辞并排比较，就会发现两者完全呼应了马斯克所说的一切。
§04萨姆·奥特曼是成功智胜了埃隆·马斯克，还是另有隐情？
简直一模一样。十年前，马斯克就在播客上、在推文中反复强调，人工智能是人类面临的最大存亡风险。没错。而且，就像他在括号里补充的那样，还有一些其他事情实际上更可能发生，比如人造病毒。这是因为在那之前，奥特曼谈论的只是人造病毒。而现在，当他需要转变方向，面向“一个特定听众”——也就是马斯克——时，他就必须调和自己此前所说的内容，与他现在提升为新核心担忧的内容之间的矛盾，让后者与马斯克的新核心担忧保持一致。
所以这就是为什么他会说，我想现在情况就是这样，尽管我之前也这么说过。你是不是想说，萨姆·奥特曼操纵了马斯克？因为埃隆最终确实向OpenAI捐赠了一大笔钱，而且我相信，他是和萨姆·奥特曼共同创立了这家公司。埃隆确实最终和奥特曼共同创立了这家公司。当然，从马斯克的角度来看，他确实感觉自己被操纵了，因为他觉得奥特曼在措辞上做了手脚，好让马斯克信任他，把他当作这项事业的合作伙伴。结果，马斯克就退出了。而根据马斯克和奥特曼目前正在进行的诉讼中披露的一些文件，现在已经很清楚，马斯克在某种程度上确实是被排挤出去的。所以，他才会对奥特曼怀有非常强烈的个人怨恨，说奥特曼 somehow 骗他参与了这件事。2015年，萨姆·奥特曼在博客上发文称，这是最重大的生存威胁之一。与此同时，2015年，马斯克在麻省理工学院发表了当时非常著名的演讲。他说人工智能是最大的生存威胁，并将开发人工智能比作召唤恶魔。而你在这里的意思是说，萨姆·奥特曼
只是在模仿埃隆所用的措辞，好让埃隆参与OpenAI。而后来，现在又有一场法律诉讼正在进行中，看起来萨姆可能在某种程度上确实把埃隆排挤了出去。是的。我们从诉讼以及诉讼中披露的文件中了解到，当时OpenAI的首席科学家伊利亚·萨茨克弗和首席技术官格雷格·布罗克曼，在决定是继续将OpenAI维持为非营利组织——因为它最初就是作为非营利组织创立的——还是改变方向时，他们决定，好吧，我们需要创建一个营利实体。但问题在于，谁应该成为这个营利实体的首席执行官？是马斯克还是奥特曼？因为他们是这家非营利组织的两位联席主席。而在电子邮件中，伊利亚和格雷格最初选择马斯克担任首席执行官，这一点变得很清楚。
但通过我的报道，我发现当时奥特曼亲自向格雷格·布罗克曼求助。格雷格是他的朋友，两人在硅谷相识多年。奥特曼说，你不觉得让马斯克担任这家新成立的营利性公司的首席执行官会有点危险吗？因为你知道，他是个名人，在世界上承受着巨大压力。他可能会感到受威胁，行为可能反常，也可能难以预测。我们真的希望一项未来可能拥有超强能力的技术最终落入此人手中吗？这番话说服了格雷格，格雷格又去说服了伊利亚。你知道，我想他们当时想，我们真的要把这么大的权力交给马斯克吗？这就是后来马斯克离开的原因，因为那两人改变了立场，说其实我们希望奥特曼担任首席执行官。马斯克一听，就说，如果我不当首席执行官，那我就走人。所以听起来，萨姆又一次成功地
§05人们如何看待萨姆·奥特曼（以及为何这很重要）
说服了别人去做某件事。我想这引出了一个问题：你对萨姆·奥特曼有什么看法？我认为他是一个极具争议性的人物。你刚才停顿了一下。这种停顿通常出现在有人斟酌措辞的时候。而这些采访最有趣的地方就在于，人们对奥特曼的看法两极分化，没有人对他持中立态度。他们要么认为他是这一代最伟大的科技领袖，堪比现代版的乔布斯；要么就认为他极具操控性、是个滥用权力的人、还是个骗子。而我之所以得出这个结论，是因为我采访了很多很多人。归根结底，这取决于每个人对未来的构想以及他们的目标是什么。所以，如果你认同奥特曼对未来的构想，你就会认为他是有史以来最宝贵的盟友，因为这个人真的很有说服力。他讲故事的能力出类拔萃，动员资本、招募人才、获取实现未来所需的一切资源的能力也令人惊叹。
但如果你不同意他对未来的构想，你就会开始觉得，自己正被他操控去支持他的愿景，哪怕你从心底里并不同意。这尤其体现在Anthropic公司首席执行官达里奥·阿马代（Dario Amade）的故事上，他最初是OpenAI的高管。可能有些人不太了解，达里奥现在领导着Anthropic，也就是Claude的开发者。很多人可能更熟悉Claude。是的。它是OpenAI最大的竞争对手之一。而阿马代在OpenAI担任高管时，曾以为阿尔特曼（Altman）与他志同道合。但随着时间的推移，他开始觉得阿尔特曼实际上与他完全站在对立面，并认为阿尔特曼利用了他的智慧、能力和技能来构建事物、实现一个他从根本上并不同意的未来愿景。这就是为什么人们最终会感到如此反感。我从事科技行业报道已经超过八年，报道过许多公司，除了OpenAI，还包括Meta、谷歌和微软。而在所有这些公司和人物中，OpenAI和阿尔特曼是唯一让我看到如此极端两极分化的人——人们无法判断他究竟是最伟大的人物，还是
最糟糕的人物。你刚才提到了达里奥。我发现一个非常有趣的现象，那就是随着个人利益的变化，人们
§06罢免萨姆·奥特曼背后暗藏的权利斗争
的公开言论也会随之演变。因此，我查阅了他们在播客和博客文章中的所有公开表态，想看看这些言论是如何随时间变化的。达里奥曾是OpenAI的研究副总裁，现在已转投Anthropic，而Anthropic在开发人工智能方面采取了略有不同的路线。2017年，当他还在OpenAI时，他曾表示（以下引自其原话）：“我认为，最极端的观点就是尼克·博斯特罗姆（Nick Bosterium）式的那种担忧，即通用人工智能（AGI）可能会毁灭人类。从原则上讲，我看不出有任何理由说明这种情况不会发生。”
“人类文明层面出现极其灾难性后果的可能性，或许在10%到25%之间。”此外，你还提到了伊利亚（Ilya），他是OpenAI的联合创始人之一，后来离开了。我想问的第一个问题是：伊利亚为什么离开？这是个很好的问题。他曾极力推动萨姆·阿尔特曼被解雇。他也是那些随着时间推移，开始觉得自己被阿尔特曼操控、被迫去支持自己并不认同事物的人之一。因为我采访过很多人。
伊利亚尤其重视两个核心支柱。其一是确保我们能够实现所谓的通用人工智能（AGI），其二是确保我们能够安全地实现这一目标。他觉得，奥特曼正在积极地破坏这两件事。他认为奥特曼在公司内部营造了一种非常混乱的环境，让各个团队相互对立，还对不同的人说着不同的话。你曾和他交谈过吗？2019年，我为《麻省理工科技评论》撰写一篇关于OpenAI的人物专访时，曾采访过他。当时他有一句名言，大意是：无论怎样，未来对人工智能来说都会是好的。如果未来对人类也同样美好，那就再好不过了。
这并不是说人工智能会主动憎恨人类或想要伤害人类，而仅仅是因为它们的力量过于强大。我认为一个恰当的类比是，人类对待动物的方式。我们并非憎恨动物，我认为人类是喜爱动物的，我对它们也充满感情。但当需要在两个城市之间修建一条高速公路时，我们并不会征求动物的许可。我们直接动手，因为这对我们而言很重要。我认为，从本质上讲，我们与真正自主、代表自身行事的人工智能之间的关系，也将是这种关系。而你说的那年，也就是2019年，正是你采访他的那一年。
我觉得我们应该退后一步，审视一个问题：究竟什么是人工智能？我们所说的“智能”又是指什么？不同人的观点以及你所读到的那些引语，很大程度上源于他们各自对“何为智能”这一问题的特定信念。就伊利亚而言，在他整个研究生涯中，他都坚信我们的大脑归根结底就是巨大的统计模型。这并非我们确切已知的事实，而是他本人的假设，也是他的导师杰弗里·辛顿的假设——辛顿也曾参与过本播客。正因如此，他们才如此坚信构建统计模型类的人工智能系统，并认为这种方法终将导向像我们人类一样具备智能的系统。
这只是他们提出的一个假设，并没有得到科学的证实。有些人对此观点表示强烈反对。但如果你设身处地，接受这个假设，并假定我们的头脑确实是统计引擎，而他们正在构建的系统也是统计引擎——他们不断把这些系统做得越来越大，直到达到人脑的大小——那么在他们看来，说这些系统最终会达到甚至超越人类智能，这样的比较就很有意义了。伊利亚曾在一年一度的著名人工智能研究会议“神经信息处理系统大会”上做过一次演讲。这个会议名称很长，但他在主题演讲中展示了一张图表，展示了不同物种的脑容量与智能水平之间的关系。两者大致呈线性关系：脑容量越大，物种越智能。因此，他认为自己正在构建一个数字大脑，因为他觉得大脑不过就是统计引擎。按照这个逻辑，他就会想：好，如果我们构建一个比人脑更大的统计引擎，
那么根据这张图表，它就会更加智能，而届时我们对待它的处境，就会和我们曾经对待动物时的处境一样。但必须强调的是，这些只是人工智能研究界某些人提出的科学假设，关于这是否属实，存在着大量争论。一些最尖锐的批评者认为，将我们的大脑简单地视为统计引擎，是一种过度简化的看法。
了解其运作机制真的重要吗？难道我们只需要知道结果——比如它能帮我制作视频，或智能代理能完成我的工作——这不就够了吗？我们真的有必要了解其背后的机制吗？答案是，既重要，也不重要。之所以重要，是因为这些公司正是基于这个假设来规划未来的行动的。他们已经认定：我们认为这个假设是正确的，因此应该继续构建越来越大的统计模型，以实现通用人工智能。
而这又带来了全球性的后果。为了继续这样做，他们正不断攫取越来越多的数据，建造越来越多的数据中心，并剥削越来越多的劳动力来维持这一路径。我想问一个我认为很重要的问题：我们为什么要试图构建那些复制人类的人工智能系统？我们现在正处于这样一种对话中，我们直接接受了整个行业的前提，认为这是一件好事。比如他们说我们应该构建人工智能，于是我们也就说我们应该构建人工智能。但我想问，我们为什么要这么做？为什么我们要构建一种最终旨在取代人类、实现自动化的技术？这并非技术的本意。我们应该构建技术，而纵观历史，技术的目的始终是促进人类的繁荣，而不是取代人类。因此，这正是我批判这些公司以及那些接受了这一目标并孜孜不倦地追求它的科学家们的关键所在——他们拥有巨额的资本和庞大的资源来追求这一目标。这真的是正确的目标吗？我们为什么要这么做？为什么我们不能只是
构建一些能够加速药物研发、改善人们健康状况的人工智能系统呢？这些系统与那些他们试图用来复制人脑的统计引擎毫无关系。那么，他们为什么要这么做呢？我的意思是，你已经采访了所有这些
§07企业争相开发人工智能的真正原因
人。我想总共采访了300人，其中80到90人来自聊天机器人制造商OpenAI。你认为他们为什么要这么做？我认为，这是因为他们受一种帝国主义的议程所驱动，这也是我把这些公司称为“人工智能帝国”的原因。你说的“帝国主义的议程”是什么意思？这个术语究竟指什么？“帝国”是我迄今为止找到的唯一能够完全涵盖这些公司所做的一切、它们运营的规模以及驱动它们如此行事的动机的比喻。在我所说的人工智能帝国与旧时代的帝国之间，有许多相似之处。它们声称拥有本不属于自己的资源——为了训练这些模型，它们需要数据，而这些数据来自个人，也来自艺术家、作家和创作者的知识产权。它们像在掠夺土地一样，建造超级计算机设施来训练下一代模型。其次，它们剥削了大量劳动力。它们在全球范围内雇佣了数十万工人，包括在美国，来最终制造这些技术。我们可以再详细谈谈这一点。此外，它们还将其工具设计为能够自动化劳动力，以便当这些技术被部署时，也会对劳动力产生影响。
权利，因为它侵蚀了劳工权利。而这是他们做出的政治选择。第三，他们垄断了知识生产。他们营造出一种观念，即只有他们才真正了解技术是如何运作的。因此，如果公众不喜欢这项技术，那只是因为公众对这项技术了解得不够多。他们对公众这么做，对政策制定者也是这么做。他们还控制了大量研究人工智能局限性与能力的科学家。你觉得他们这是在误导公众吗？
总之，他们确实是这样做的。是的。所以，如果世界上大多数气候科学家都由化石燃料公司资助，你认为我们能得到关于气候危机的准确图景吗？不会。同样，他们资助并雇佣了整个人工智能行业，雇佣并资助了世界上大部分的人工智能研究人员。因此，他们通过向自己优先考虑的方向投入资金，以潜移默化的方式设定了人工智能研究的议程，从而只让特定类型的人工智能研究得以开展。但一旦研究人员的研究成果不合他们心意，他们也会对其进行审查。在我的书中，我谈到了蒂米·格贝鲁博士的案例。她曾是谷歌伦理人工智能团队的联合负责人，公司聘请她时，就是让她专门批判谷歌正在开发的人工智能系统。后来，她合写了一篇批判性的研究论文，揭示了大型语言模型如何具体导致某些有害后果。为了阻止这篇研究发表，谷歌最终解雇了格贝鲁，随后又解雇了她的联合负责人玛格丽特·米切尔。因此，他们会控制并压制那些与“帝国”议程相悖的研究。你有没有遇到过记者也遭遇类似情况的事例？
我不确定，他们向团队成员提问。我记得当时正在看你的一个视频，里面有个年轻人说，有人找上门来，敲开他的门，索要信息、电子邮件和短信。而这个人来自某家人工智能大公司。这开始……我开始对一些批评者发出传票。是的。作为报道的一部分，这似乎是一场恐吓运动，同时也像是在开展网络钓鱼活动，以获取更多信息，从而进一步绘制出批评者们的关系网络。
但这个人经营着一个小型的非营利监督组织。当时，他们做了大量工作，试图就OpenAI试图从非营利组织转型为营利组织一事提出质疑。最终，OpenAI成功完成了这次转型。但在那段转型对OpenAI而言几乎关乎存亡的时期，包括Midas在内的许多公民社会组织和监督组织都试图阻止这一过程在深夜悄然进行。他们希望提高透明度，希望就此展开更多公开辩论，因为此举史无前例。而就在那时，有人敲开了他的门，并向他送达了文件。文件上写了什么？文件要求他提供他曾与马斯克可能涉及的任何沟通记录。这就像OpenAI产生的一种奇怪偏执，认为马斯克 somehow 在资助这些人来阻挠转型。
实际上，他们当中没有任何人受到马斯克的资助。所以在这个具体案例中，他直接回应说，你知道的，我没有任何文件，因为根本不存在这样的文件。那么回到刚才关于“帝国”的话题，你提到帝国的特征之一是土地掠夺，接下来是劳动力剥削。没错，就是劳动力剥削。第三个特征是控制知识生产。而要理解AI帝国，另一个非常重要的特点是，帝国总是会对公众宣扬这样一种叙事：我们是“好”的帝国。我们首先必须成为一个帝国，因为世界上还存在“坏”的帝国。如果你允许我们掌控所有资源、使用所有劳动力，那么我们承诺将为所有人带来进步与现代性。
我们会带你进入一个类似AI天堂的乌托邦状态。但如果邪恶的帝国抢先一步，我们就会坠入地狱。而这里的“邪恶帝国”通常指的是中国。不过实际上，在早期阶段，OpenAI曾把谷歌称为“邪恶帝国”。因此，他们所有的决策都围绕着“我们必须抢先行动”展开，因为否则的话，谷歌这家唯利是图的邪恶企业就会得逞，而我们作为一个行善的非营利组织，将在这场关键竞争中败下阵来。
你认为打造这些AI公司的人，真的相信最终结果会一片光明吗？
§08人工智能公司的首席执行官们真的相信这会对人类有所帮助吗？
那么，你认为他们是否觉得这项技术将惠及所有人，将开启一个富足的时代，一切都会顺利进行？你认为他们相信什么？这非常有趣，因为这种信念是他们围绕人工智能产业所构建的神话中一个核心部分——即他们相信事情可能会变得非常糟糕。这两者是相辅相成的，他们需要这个神话中的负面部分，才能接着说：“正因如此，我们必须掌控这项技术，因为只有这样，事情才真的、真正地会发展得很好。”
奥特曼曾公开表示，你知道的，最坏的情况是所有人都陷入困境；但最好的情况是，我们能治愈癌症、解决气候变化问题，并实现富足。达里奥·阿迈德也持类似论调，他说最坏的情况是对人类造成灾难性或生存性的危害，而最好的情况则是全人类的繁荣。这就像一枚硬币的两面，他们必须同时利用这两种叙事，才能继续为一种极度反民主的人工智能开发方式辩护——在这种方式下，不应让大众广泛参与这项技术的开发。
他们必须在每一步都掌控一切。萨姆·奥特曼曾发推文说，最近有几本关于OpenAI和我的书即将出版。我们只参与了两本，一本是凯什·哈格写的。凯什·哈格主要写我，另一本是阿什利·万斯写的关于OpenAI的书。
§09OpenAI 为何拒绝参与编写这本书
他接着说，没有一本书能完全准确，尤其是当有些人一心想要歪曲事实时，但这两位作者是在努力写实的。你转发了萨姆·奥特曼的这条推文，并说：“那本未具名的《人工智能帝国》是我的书。”你认为萨姆·奥特曼的这条推文是在指你的书吗？100%是的，因为关于他的书只有三本即将出版。他得知你的书要出版了，也知道我的书要出版了，因为从写作之初我就联系了OpenAI，我说：“我正在写一本书，你们愿意参与吗？”起初他们确实答应了。我与OpenAI的渊源可以追溯到我为《麻省理工科技评论》撰写该公司专题报道时。2019年，我在他们的办公室跟进了三天。那篇报道于2020年发表，而公司高层对此非常不满。在我的书中，我引用了一封萨姆·奥特曼发给全公司的邮件，其中提到我的那篇报道：“是的，这并不理想。”从那时起，公司对我的立场就变成了：“我们不会参与你做的任何事情，也不会回应你提出的任何问题。”
而且这些内容都是他们明确说出来的，并不是我凭空推测的。我在《麻省理工科技评论》有一位同事，他也负责报道人工智能方面的内容。有一次，OpenAI 给他发了一份新闻稿，说：“我们非常希望您能报道这篇新闻。”他回答说：“我现在真的很忙，能把这份材料发给 Karen 吗？”对方却回应：“哦，不，您懂的，我们之间有些过往。”就这样，他们整整三年都不肯和我交谈。后来我去了《华尔街日报》，他们可能因为考虑到这是《华尔街日报》，才觉得有必要重新打开沟通渠道。于是，我开始和他们进行更多对话。每当我写一篇文章时，总会把稿件发给他们，并附上我的评论请求。我总是会问他们，这些内容是否可以用于采访。最终，我们确实建立了一种更具成效的合作关系。
之后我开始着手写书。为了全职投入写作，我离开了报社。我立刻就告诉他们：“我正在写这本书，我希望继续我们这种富有成效的对话，确保书中能够体现 OpenAI 的观点。”他们回答说：“我们可以为您安排采访，您可以回到办公室，我们会为您组织一些会谈。”然而，就在我们反复沟通的过程中，董事会解雇了 Sam Altman。从那时起，事情开始变得不太顺利，因为公司对外界的审视变得非常敏感。他们开始一拖再拖，不断往后推。我一直追问：“喂，我们什么时候重新安排？到底是怎么回事？”后来我收到一封邮件，里面写着：“我们完全不会参与。您不能来办公室，也不能接受采访。”其实我当时已经订好了机票，正准备飞往旧金山进行采访。于是我对他们说：“没关系，我还是会继续推进这个过程。我会提出非常详尽的评论请求。在报道过程中，我也会持续向您通报我了解到的所有情况，以便您随时选择发表评论。”我给了他们40页的评论请求，并给了他们一个月的时间来回应所有内容。
当时那条推文发布之际，我们正在进行所有这些来回沟通，而 Altman 正是在那时发了那条推文。但他们连40页内容中的一条都没有回应。San Montgomery 接受过很多采访。是的，你知道的，他一直在接受大量采访。他几乎做遍了所有播客节目。我看到他参加过从 Tucker Carlson 到 Theo Von、Joe Rogan 等各种节目，还有世界各地的播客。我就想，为什么他偏偏不肯参加我的采访呢？
嗯，也许我也不知道为什么我觉得自己对每个人都很公平。我只是问一些我真正关心的问题。我不会带着强烈的先入之见而来。至少我会先和人们见一面。但我通过小道消息听说，他不想接受我的采访。我的意思是，回到你之前说的，关于那些“开眼”（Opening Eye）和这些公司控制研究的方式，你问，他们是否也对记者这么做？我的意思是，是的，答案就是肯定的。而且显然，他们也会对任何拥有大众传播平台的人这么做。这不仅仅是关于你将要和他们进行的对话，还关于你选择让谁拥有发声的平台。科技新闻领域存在一个巨大的问题，那就是公司知道，它们能给科技记者的最大诱饵之一就是“接触机会”。而一旦他们听说你正在和某个他们不希望你去接触的人交谈，他们会毫不犹豫地收回这种接触机会。
这太真实了。而且我认为普通人并没有真正理解这一点。是的。所以当你这么说的时候，这听起来有点像理论。但我不会在这里点名，因为我觉得这并不重要。但在人工智能领域，确实有某个人，他的团队基本上已经抛出这个诱饵长达18个月了。而我心想，你不必非得给我这个诱饵。不管有没有这个诱饵，我都会想和谁谈就和谁谈。
而当这个人想来——如果他们想来的话——我会给他们一个公平的机会。我会就他们正在做的事情以及他们的动机，真诚地提出所有我好奇的问题。我不会设陷阱去整他们。我从来没有设陷阱整过任何人。即使我只是有不同意见，我也会提出问题。是的。但他们抛出诱饵，然后说，嗯，你知道，他可能在考虑这件事，让我们再想想吧。他们的策略是，他们并不认为那些人会明白：只要我们把这个诱饵挂得足够久，他们就会按照我们希望的方式行事。他们会对我们态度友好，不会提出批评，也不会给我们的批评者提供发声的平台。我认为他们大部分的招数，就是永远把那个诱饵挂在那里。
是的。没错。最理想的结果就是，如果我们只是随便提一下，告诉他们“是啊，我们只是想看看日程安排”，那根本行不通。我认为在当今世界，你必须直接参与，发表自己的观点，并允许不同想法在公共论坛上交锋。让观众自己判断。是的，他们怎么想都行。但这是他们整个运作机制中非常重要的一部分——他们利用这些手段来塑造这些公司的公众形象，确保那些他们不想公开的信息，甚至他们不想流传的观点，都不会被传播出去。所以，现在我觉得自己很幸运，因为我很早就关上了那扇门。
当时我并没有觉得幸运，反而觉得自己把事情搞砸了。我曾想，我是不是应该对他们和那个报道对象态度好一点，以便能继续获得采访机会？但作为一名记者，问出这个问题简直糟糕透了，对吧？记者本应报道真相，并始终为了公众利益而报道。这正是新闻工作的意义所在。而那一刻，我的职业生涯还相对初期。我当时想，我是不是误解了新闻工作的本质？我是不是真的应该去迎合那些能带来采访机会的关系？但为时已晚，那扇门已经对我关上了。因此，我必须在明白前门永远不会为我打开的情况下开启我的职业生涯。是的，而这反而真正锻炼了我坚持说实话的能力。是的，我只报道我看到的事实，而不管公司是否喜欢。
而大多数公司其实真的不喜欢这样。但我仍然可以继续我的工作，他们不需要为我打开前门。我依然完成了300多次采访。那么，萨姆·奥特曼被踢出OpenAI的执行团队，你查清这是为什么吗？是的。有一个按场景逐一还原的版本。来自谁呢？我不记得确切的消息来源数量了，所以不想引用错误。但大概是
§10山姆·奥特曼为何被强制出局
六七个直接参与此事的人，或者与直接参与决策过程的人交谈过的人。伊利亚·萨茨克弗对奥特曼的行为如何导致公司出现不良研究成果和糟糕决策深感担忧。于是，他找到了一位董事会成员——海伦·托纳。伊利亚，可能有人不知道，他是我们前面提到的OpenAI的联合创始人之一。是的。
由于伊利亚正惊慌失措，他就在某种程度上充当了海伦的“出气筒”。他一直以来都把这些担忧压在心里。他想，如果我把这事告诉别人，万一让奥特曼知道了，这对我来说也可能非常不利。于是他请求与托纳见面。而在第一次会面时，他几乎什么也没说，只是旁敲侧击，试图弄清楚：嘿，这个人我到底能不能信任，可以跟她透露更多信息？而托纳在 OpenAI 的职责是……
她是董事会成员。没错，而且是独立的董事会成员。OpenAI 在作为非营利组织时，董事会由两类人组成：一类是在公司持有经济利益的人，另一类则是完全独立的人。这种结构旨在平衡决策权，使其服务于公共利益，而非 OpenAI 后来成立的那家营利性实体的利益。作为非独立的董事会成员，伊利亚找到独立的董事会成员托纳，是想看看她是否也注意到了或听到了与他相同的情况，即奥特曼对公司造成的影响。这随后引发了一系列对话，先是伊利亚与海伦之间的对话，之后是米尔·莫拉蒂与一些董事会成员之间的对话。当时米尔·莫拉蒂是 OpenAI 的首席技术官。这两位高层领导通过这些对话，以及他们整理的一些文件——比如电子邮件、Slack 消息等——向三位独立的董事会成员表达了他们的担忧：我们对奥特曼的领导能力深感忧虑。他正在制造……
公司内部的过度动荡。他就是问题的根源。他们想告诉这些独立的董事会成员：除非将奥特曼撤换掉，否则问题就无法解决。因为他让各个团队相互对立，营造出一种人们再也无法互相信任的氛围。在本应共同研发这项极其重要的技术时，大家却在相互竞争而非协作。当你说“动荡”时，这个词相当模糊，可能指代很多事情。比如，“动荡”可能意味着逼迫员工更努力地工作。那你具体指的是什么动荡？能尽可能明确地说出来吗？当 ChatGPT 问世时，OpenAI 完全没有做好准备。
他们并未认为自己推出了一款大获成功的产品，而只是觉得自己在发布……
§11隐藏的动荡：奥特曼内部到底在颠覆什么？
一份研究预览，能帮助他们启动数据飞轮，从用户那里收集大量数据，进而确定他们心目中可能大获成功的产品——一款使用 GPT-4 的聊天机器人。而 ChatGPT 当时用的是 GPT-3.5。正因如此，服务器经常崩溃，因为他们必须以史上任何公司都无法比拟的速度扩展基础设施。结果就是频繁出现服务中断。他们还在试图以史上最快的速度招聘，希望能有更多人手应对。但有时他们招进来的人，公司后来又会说：“其实我们搞错了，不该录用你。”于是他们不停地解雇员工，很多人就这样突然从 Slack 上消失了。
同事们就是这样得知那些人已经不在公司的。所以，是的，和许多快速成长的公司一样，那里的环境非常混乱，而由于发展速度极快，这种混乱尤其严重。他们必须比其他任何初创公司都加速得更快。此外，在道德和伦理层面，奥尔特曼的做法从未让人觉得情况有所好转。他非但没有有效改善这种混乱局面，反而制造了更多混乱，让团队之间的分歧更加严重。这时需要理解的是，公司高管和独立董事都秉持着同一个理念：他们正在构建通用人工智能（AGI），而 AGI 对人类而言，既可能是毁灭性的，也可能是乌托邦式的。因此，这既像其他公司，又不同于其他公司。在他们看来，你不可能在制造一种他们设想中足以决定世界命运的技术时，还任由混乱如高压锅般持续下去。而这正是独立董事们开始反思的核心问题。他们私下里展开讨论，心想：
“嗯，根据我们听到的关于奥尔特曼行为的那些情况，如果这发生在 Instacart，是否足以构成解雇他的理由呢？”他们得出的结论是：也许不够。但这里不是 Instacart。于是他们意识到：“糟糕，也许这次的情况确实达到了需要考虑换掉他的程度，因为我们最终要打造的，是一种我们认为可能带来变革性影响的技术——无论是正面还是负面的影响。”而接下来发生的事情，正是如此。
事情是这样的，有两位高管。然后，独立董事们也从他们在公司内部以及业内的其他关系人那里听到了不同的反馈。其中有一次，亚当·迪安杰洛（Adam DiAngelo）——他是独立董事之一，同时也是硅谷一家科技初创公司 Cora 的首席执行官——正在旧金山参加一个派对。他开始听到一些传闻，说 OpenAI 设立其“OpenAI 初创基金”的方式有些不对劲。这个基金是公司用来投资其他初创企业的。他意识到，他们从未真正见过奥特曼（Altman）提供的关于该初创基金如何设立的文件。直到最后，他们拿到了文件，才发现 OpenAI 初创基金根本不是 OpenAI 的基金，而是奥特曼个人的基金。这只是独立董事们遇到的诸多类似经历之一。他们逐渐意识到，奥特曼所描述的做法与实际做法之间持续存在矛盾，这显然不对劲。因此，当那两位高管找到董事会或独立董事时，他们就说：
“好吧，这和我们一直以来的经历也对得上。”于是，他们开始了一系列非常激烈的讨论，几乎每天都在开会，探讨是否真的应该考虑罢免奥特曼。最终，他们得出结论：是的，应该罢免。而且如果要这么做，就必须迅速行动，因为他们非常担心，一旦奥特曼得知此事，以他的说服能力，事情就变得无法挽回了。于是，他们在没有告知任何人的情况下罢免了奥特曼。他们没有与任何利益相关方沟通以达成共识。就在采取行动前的一刻，微软接到一个电话，被告知：“我们要罢免奥特曼了。”而微软当时是 OpenAI 的主要投资方之一。是的，当时 OpenAI 为数不多的投资方之一。
而正是这件事让整个局面彻底失控，因为所有受此决定影响的人，都因为自己事先毫不知情而极度愤怒。这随后引发了一场要求奥特曼复职的运动。几天后，奥特曼又重新被任命为首席执行官。
§12广告时间
我刚刚投资的这家公司发展势头简直疯狂。我想亲自把这个好消息告诉你，因为我觉得它能为你带来巨大的生产力优势。Whisper Flow 是一款你可以在电脑、手机以及所有设备上安装的应用。它让你能够直接对科技设备“说话”。比如，我不再需要手动写邮件，只需在手机上点击一个按钮，就能直接口述生成邮件。它还会利用人工智能来整理我所说的内容。
等我口述完毕，只需点击这里的一个按钮，整封邮件就帮我写好了。这每天为我节省了大量时间，因为 Whisper 能学习我的写作风格。比如在 WhatsApp 上，它知道我说话可以更随意一些；而在邮件中，它则知道我需要用更专业的语气。此外，他们最近还推出了一项非常有趣的功能：我可以创建一些简短短语，让系统自动帮我完成工作。比如，我只需说“Jack 的领英”，它就会复制 Jack 的领英资料，因为它知道 Jack 在我生活中是谁。这为我节省了大量时间。这家公司的发展势头简直疯狂到了极点。这正是我投资这家企业的原因，也是他们如今成为本节目赞助商的原因。坦白说，Whisper Flow 正逐渐成为商界和创业圈里生产力领域最热门的秘密。现在就去 Whisper Flow 看看吧，网址是 Whisper Flow，拼写为 W-I-S-P-R-F-L-O-W 点 AI 斜杠 Stephen。
如果你正面临这样的困境，它将彻底改变游戏规则。许多公司都会经历这样一个阶段：他们不再专注于最重要的事情——销售，反而被繁重的行政事务搞得精疲力尽。这种情况通常是悄然发生的，等你真正意识到时，已经为时已晚。慢慢地，业务势头就开始流失。我们曾经历过这种情况，而我们的赞助商 PipeDrive 正是我十年前偶然发现的解决方案。从那时起，我旗下不同公司的团队就一直在使用它。
PipeDrive 是一款简单而强大的销售 CRM 工具，能让你清楚地了解销售漏斗中的每一笔交易。它还能自动化销售过程中许多繁琐、重复且耗时的环节，从而每月为你节省大量时间，让你能够重新专注于销售工作。当初决定转向 PipeDrive 是一个真正改变游戏规则的选择，它让我们始终专注于正确的事情。我最喜欢的功能是 PipeDrive 能够将你的客户关系管理系统与多个邮箱同步，这样整个团队都可以在同一个平台上协同工作。受益的也不只是我们一家：已有超过 10 万家公司使用 PipeDrive 来推动业务增长。
所以，如果我说的某些话引起了你的共鸣，请访问 pipedrive.com slash CEO，你可以获得 30 天免费试用，无需信用卡或任何付款。一家大公司的 CEO 是怎么被董事会解雇的呢？因为董事会成员……在你的书第 357 页有一段引文，你提到伊利亚时说：“我不认为萨姆应该是那个掌握 AGI 按钮的人。”现在，我问自己这样一个问题。我在这里和很多人共事，我们公司现在有 150 名员工，这些人最了解我。他们见过我在镜头前的样子，也见过我镜头后的样子。所以，如果他们说我“认为史蒂芬不是主持‘Die of a CEO’这个节目的合适人选”，那得是发生了很严重的事情他们才会这么说。他们肯定在镜头后看到了一些糟糕的情况。
他们认为他不适合出现在镜头前，原因可能有很多。而就 AGI 而言，这件事的重要性远非在我厨房里录制的一档播客可比。一想到一家公司的联合创始人竟然去董事会说“这个人不适合领导这项如此重要的事业”，简直让人不寒而栗。而且说这话的不只是伊利亚，米丽娅姆·罗迪随后也表示：“我不认为奥特曼是合适的人选。”再后来，他们俩都离开了。
于是奥特曼回来了，但伊利亚却再也没有回来。他担心奥特曼会发现自己曾反对他，而这一担心最终应验了。结果他真的没能回来。
§13究竟是什么导致了萨姆·奥特曼被解雇——以及随后的大规模离职潮
米丽娅姆·罗迪也在不久之后离开了。OpenAI 确实有很多人离职，不是吗？的确如此。如果你追溯 OpenAI 的起源故事之一，那就要提到在罗斯伍德酒店发生的那次晚宴。那是一家位于硅谷中心地带的非常豪华的酒店，也是埃隆·马斯克从洛杉矶来这一带时最喜欢的酒店之一。当时，奥特曼打算在那次晚宴上招募开创 OpenAI 的创始团队。他告诉大家，他们或许能有机会见到马斯克，因为马斯克也会参加这次晚宴。然后，他给伊利亚发了封陌生邮件，成功说服了伊利亚前来——伊利亚之所以特别想来，就是因为他想见马斯克。他还给其他一些人发了邮件，包括格雷格·洛克曼、达里娅·阿马德等，这些人后来都加入了 OpenAI。他们当中几乎所有人都最终在 OpenAI 工作过，但几乎也都在与奥特曼发生冲突后离开了。至于伊利亚，他离开后创办了一家名为 Safe Super Intelligence 的公司。是的。
我的意思是，这要是算一种间接的挑衅，那我真是见识到了。要是有人和我共同创办了这个播客，然后离开并创办了一个叫《安全播客》的播客，我会觉得这是一种冒犯。我可能会让人去敲他的门，我替他说，下次再谈吧。这里正在发生的一件事是，每一位科技亿万富翁都拥有自己的AI公司，这绝非偶然。他们想按照自己的形象来创造AI。而这正是他们之间总是合不来的原因。
事实上，他们不只是合不来，而是在共事之后最终会互相憎恨，然后分裂出去，成立自己的组织。所以，马斯克离开后，他创办了xAI；达里安离开后，他创办了Anthropic；伊利亚离开后，他创办了Safe Super Intelligence；米拉离开后，她创办了Thinking Machines Lab。他们都想掌控自己心目中这项技术的发展方向。而从他们试图将自己的愿景付诸实践的经历中得出的最佳方式，就是创建一个竞争对手，然后与OpenAI以及所有其他公司展开竞争。你认为这些AI公司中的一些人是否意识到，他们正在字面意义上“召唤恶魔”——正如埃隆10年前所说的那样？但他们其实并不在乎，因为成为那个召唤恶魔的人，会让你举足轻重、权势滔天、名垂青史，即使结果可能是灾难性的，即使有20%的可能性会导致灾难。我记得，好像是达里安说过，人类文明出现灾难性后果的概率在10%到25%之间。25%就意味着四分之一的机会。如果你在一个有四发弹膛的左轮手枪里装上子弹，然后对史蒂芬说，好处是你可能成为万亿富翁并名垂千古，而坏处是……
……你的脑袋里可能真有一颗子弹。如果事情有25%的可能性走向灾难性后果，我绝不会冒这个险。所以，对于“他们是否知道自己是在召唤恶魔”这个问题，我的回答会很长，因为这真的取决于我们如何定义“召唤恶魔”。而在这个特定情况下，回到我们之前讨论的话题，AI行业有一套自己的神话体系，其中“召唤恶魔”是说服所有人——因此他们才能成为唯一开发这项技术的人——所不可或缺的一环。
我明白了。所以一方面，你必须得说，如果我们不采取行动，那情况就糟透了。没错。但如果让除我之外的任何人来做，那我们同样完蛋。正是如此。这意味着我必须亲自来做，而你必须给我资金和支持。完全正确。所以当他们在说这些话时，我们不应将其视为基于他们所见做出的真实预测。因为首先，我们不是预测未来，而是创造未来。
我们应该把这理解成一种言语行为，目的是说服其他人相信，他们应该赋予这些人更多的权力和资源。那么，他们是否知道自己这是在召唤恶魔呢？我的意思是，他们故意在公众中营造这种感觉，因为这是他们权力至关重要的组成部分。但如果我们要界定一下，他们是否意识到自己的行为已经对世界各地弱势人群、弱势社区和弱势国家造成了切实的有害影响？在这一点上，我的想法是，也许意识到了，也许没有。而且他们其实并不在乎。因为在他们的心态框架里，我有时会打这样一个比方：他们就像……伙计。
伙计，给不知道的人解释一下，《伙计》是弗兰克·赫伯特创作的一部科幻史诗。故事发生在一个星际时代，有众多家族为了争夺香料而相互争斗。这其实是在影射殖民主义和帝国。他们都试图控制这种香料。但这个故事的一个特点是，不同的星球上都流传着一些神话，基本上是关于一位救世主降临的宗教神话，这些神话被用来控制民众。而保罗·穆阿迪布抵达厄拉科斯星球时，本打算反抗帝国、为父报仇，结果却踏入了一个早已在这个星球上扎根的神话——据说总有一天，一位救世主会降临并拯救这个星球。于是他扮演起了救世主的角色，并利用这一理念来更好地控制民众，将他们团结在自己这位领袖周围，共同完成这项使命。起初他知道这只是个神话，但因为他全身心投入其中，以至于在他脑海中，这究竟是不是神话，自己是否真的是救世主，两者之间的界限开始变得模糊。而我认为，在人工智能的世界里，发生的正是这样的事情。一方面，
有很多高管会主动参与制造神话，因为我在书中写到过一些内部文件，从中可以看出他们非常清楚该如何让公众配合自己——通过展示令人眼花缭乱的技术演示，再编造一个听起来很棒的任务，从而让人们对他们所在的公司更加宽容。所以他们知道自己是在制造神话。而且我认为，他们中的许多人最终也迷失在了这个神话里，因为他们必须日复一日地生活其中、呼吸其中、成为其中的一部分。所以当达里奥说他认为未来有10%到25%的可能性会走向灾难，或者类似的说法时，他其实既在主动参与制造神话，同时也迷失在了这个神话之中。
比如，如果你问他：“你真的相信这一点吗？”他可能会回答：“是的，我真的相信。”因为在他只是随口说说，和他为了继续做下去而必须相信的内容之间，界限已经变得模糊了。这正是认知失调的心理机制所在——大脑很难同时容纳两种相互冲突的世界观。
因此，人会被激励或被驱使去摒弃其中一种。比如，你既想保持健康，又是个吸烟者，而我指出吸烟有害健康，你脱口而出的第一句话多半会是：“是的，但吸烟能帮我缓解压力。”“是的，但我只在……的时候才抽。”我之所以这么说，是因为这些公司必须筹集巨额资金来资助他们的人工智能研究，同时还要建设大量的数据中心。
所以，当这些公司面向公众时，总是在筹集资金。眼下，所有大公司几乎都在持续不断地融资。因此，你不可能一边在拉投资，一边又说：“我可能会毁掉你们孩子的未来。”“你们的孩子有25%的可能性无法拥有美好的人生。”尽管这或许才是真相——达里奥·阿迈德就 famously 这么说过，他确实会这么说。而其他公司现在听起来已经不太这么说了。
是的，这归根结底是因为他们每个人都试图在某种程度上塑造出自己需要展现的品牌形象。你认为他们当中有谁的道德准则比其他人更坚定吗？因为我觉得达里奥常常被认为更有骨气，也更清楚自身行为可能带来的影响。他确实因此获得了不少赞誉。可能有些人不知道，他来自克劳德和Anthropic公司。但我认为，这个问题其实并不真正重要。答案之所以如此，是因为在我看来，即使你把所有首席执行官都换成那些被认为更擅长管理这些公司的人，也无法解决我在书中指出的问题：一个权力体系已经形成，这些公司及其管理者能够做出影响全球数十亿人生活的决定，而那数十亿人却对此毫无发言权。这些人可以去投票，
§14是否应该根据人工智能政策来投票——以及其中涉及哪些利害关系？
对吧？如果公众有足够的认知，他们可以去投票，选出一位承诺会立法或推动法律的领导人。是的，但考虑到这些公司运作的速度和节奏，以及它们巨大的规模和体量，它们还能投入巨额资金——比如即将到来的中期选举中投入数亿美元——来试图扼杀所有可能阻碍它们的法案，并制定能够巩固自身优势的立法。因此，在我看来，我们社会有时有点过于纠结于这些领导者是好是坏。而对我来说，更大的问题是：我们建立的治理结构是健全的、能保障广泛参与的结构，还是一个反民主的结构，将决策权集中在了少数人手中？因为没有人是完美的。我不管这些公司的掌权者是谁，他们都不可能代表全球那么多与他们生活背景、文化历史都截然不同的民众做出正确决策，而不出问题。这正是为什么纵观历史，我们不断从帝国走向……
对民主而言。这是因为帝国作为一种结构，本质上并不稳固。它实际上无法最大化世界上大多数人过上体面生活的机会。接下来我将尝试站在他们的角度思考。也就是说，我现在是在扮演“魔鬼的代言人”，明白吗？但是凯伦，如果美国不继续加快人工智能研究，那么到某个时刻，中国的模式将变得极其智能，我们基本上只能从他们那里租用，而他们则会获得科学发现。他们将发现自主武器的新时代，而我们将沦为他们的后花园。从逻辑上讲，这个论点似乎确实很有道理。
不，并非如此。如果我们扩大规模，只要设想一下这种智能以任何速度发展，那么到某个时刻，我们终将制造出一种理论上能够瘫痪美国全部电力系统及其武器系统的武器。它会精确知道如何从侧面瘫痪美国，因为它就是这么智能。你只需设想一下，无论智能以何种速度提升，或者经过一段相当长的时间即可。因此，这个理论或许是真的。
而如果它是真的，那么任何理论都可能成立。但话又说回来，即使这种可能性只占很小比例，也值得我们关注。从另一方面来看，这是一个人们经常讨论的理论：最智能的文明或许就是更高等的文明。从逻辑上讲，这个说法似乎很有道理，不是吗？因此，要使这个论点成立，其中许多基本前提都必须为真。让我们逐一驳斥它们。第一个前提是：这些系统是智能的，而且仅仅扩大它们的规模就能为我们带来更多的智能。到目前为止，这个说法对吗？不，其实并不对。因为首先，我们实际上并不知道这些系统是否真的具备智能——“智能”这个词几乎不是一个恰当的类比。这就像说，计算器比人类能更快地解决数学问题，那它就算有智能吗？它只具备一种狭窄的智能，因为它解决的是一个狭窄的问题，比如1加1等于2。而这些系统实际上也属于非常狭窄的智能。尽管这些公司声称它们是能够完成任何任务的通用机器，但事实并非如此。
实际上，它们只能为某些人做某些事情。这正是这些人工智能模型的复杂前沿所在。有些能力相当出色，而另一些能力则并不那么好。你知道为什么会这样吗？因为公司只能专注于提升某一类能力。我 literally 无法同时专注于提升所有类型的能力。他们必须下定决心，通过收集特定能力所需的数据，雇佣大量人工标注员来训练模型，使其专门执行那项任务。因此，扩展这些模型其实是一个独立的问题，它与我们是否真的在特定地提升网络能力或军事能力并不直接相关。
我认为，大多数顶尖的人工智能研究者都相信，智能水平在未来一段时间内仍将持续提升。很多人都是这么认为的，比如杰弗里·辛顿。这又回到了他关于人类智能如何运作以及大脑的恰当模型是什么的假设上。他整个职业生涯的假设都是：大脑是一个统计引擎。但这是他的假设，并未得到普遍认同，尤其是在人工智能领域之外的人当中。当你与神经科学家、心理学家——那些真正研究人类大脑中人类智能的人——交谈时，你就会发现关于辛顿的这一观点存在大量争论和分歧。所以，这其实是其中一点：人工智能早已被用于军事领域，并且已经使用了很长时间。
但问题在于，加速大型语言模型并非实现军事能力的唯一途径。也就是说，这些公司必须专门选择要加速的军事能力，而不仅仅是像肖恩·阿伦·泰莱特所说的那样。你明白我的意思吗？他们营造了一种神话，似乎自己正在推动模型所有能力的边界。但内部实际情况并非如此。我手头有数百页的文件，详细说明了他们是如何专门训练模型的。他们会挑选自己希望提升的能力。
你知道他们是怎么挑选这些行业的吗？是根据哪些行业能为他们的服务支付最多的费用。所以他们选择金融、法律、医学、医疗保健和商业。这其实并不像婴儿那样智能——随着婴儿长大，他们会逐渐具备一些通用的能力。我觉得我拥有“龙式智能”。我本来不想说这个的。但我觉得我懂一点……不，我懂很多“一点”。是的，但你也具备自己学习和获取知识的能力。你还有能力自己选择要学什么、获取什么。这并不容易，而且比这些模型需要更多的时间，它们似乎需要的计算资源更少。你可以在一个地方学会开车，然后立刻就能在另一个地方开车。这些模型做不到这一点。每当一辆自动驾驶汽车被转移到另一个地方时，它都必须针对那个地方重新进行完整的训练。就像所有的自动驾驶汽车一样——我们现在坐在奥斯汀，这里有很多自动驾驶汽车在街上行驶。但当其中一辆学会了某样东西时，它们就全都学会了，这……
嗯，这仅仅是因为它是一个将 AI 模型作为其一部分的操作系统。你训练这个 AI 模型，然后将其部署到所有的自动驾驶汽车上。这是一个巨大的优势，因为如果一台乐观主义机器人在一家工厂里学会了一件事，
§15机器人如何能即时更新并改变一切
那么它们就全都学会了。想象一下。想象如果我们人类也能学会其他所有人类所学到的东西，那会给我们带来多么难以想象的竞争优势。我的意思是，我们实现这一点的方式之一就是通过交流。当然，也可能学不到，因为他们可能学到的是错误的东西。而这种情况在这些技术中已经一再发生：所有模型都学错了，结果都出现了相同的故障模式。我的意思是，人类社会的韧性之一就在于我们拥有不同的专业知识，也拥有不同的故障模式。
我觉得有时候我们对人工智能模型的要求比对人的要求还要高。某种程度上，因为我最近在奥斯汀，我在台上就听到有人说：“啊，但你知道的，人工智能模型有时会胡编乱造。”我心想，你见过人吗？我本人就经常胡编乱造，连基本的数学都算不太明白。是的，但这又回到了那个在人工智能领域早期被特意挑选出来的类比上，当时是为了推广这些技术。我们一遍又一遍地使用“智能”这个类比，把这些机器与人类智能联系起来，试图以此衡量它们在社会上是否优秀、是否有价值、是否有能力。我认为真正重要的是最终结果，也就是：好吧，它可能有不同的“大脑”、不同的系统，但它是否具备同样的能力？比如，它能不能给别人的大脑做手术？它能不能开车？我在洛杉矶时，我的车就能自动驾驶，我完全不用碰方向盘，可以连续开很多很多小时。而最近在这里的奥斯汀，我还看到那些拆掉了方向盘和踏板的新型“赛博出租”。所以我就想，这
到底用不用不同的系统其实并不重要。如果它作为一辆车在世界上穿行，而且比人类驾驶员更安全，那么对我来说，不管它算不算有智能，都无所谓。但问题在于，你最初提出的论点并不是这个，你最初的论点是这些系统总体上会在各个方面变得越来越智能。根据预测——这是你做出的预测，对吧？——所有的人工智能都在做这样的预测，达里娅在预测，埃隆在预测，扎克伯格在预测，阿尔蒙兹在预测，德米斯也在预测。而你知道它们所有人共同的未来是什么吗？
他们都从这个神话中获得了巨大的利润。埃隆最近主导建造了“巨像”——一台位于孟菲斯的巨型超级计算机，配备了10万个GPU，专门用于扩大规模。他们正以比竞争对手更快的速度扩展API模型。看起来他们都达成了共识：可以通过“暴力计算”的方式，实现更强大、更通用的智能。他们都认同这个观点：可以通过“暴力计算”的方式，打造出可以出售给客户的模型，用来自动化那些能带来经济收益的特定任务。
我听到埃隆说，如果你是个外科医生，那根本就没必要了。他当时是这么说的：
§16人工智能会超越顶尖外科医生吗？如果真到了那一天，又会发生什么？
不要去训练成为外科医生。他说再过几年，擎天柱以及人工智能整体而言，将比有史以来任何一位外科医生都更出色。你认为这些话是真的吗？嗯，你知道，我很确定是辛顿曾著名地失言并公开表示，将不再需要放射科医生了。将不再需要放射科医生了。他还给出了一个我们早已超过的期限。我不记得具体是多少年了，放射科作为一个专业领域目前发展得很好。你认为五年后会是怎样呢？
好的。这又回到了这样一个问题：我们为什么要开发技术？我们为什么偏偏要开发人工智能？好的。对我而言，整个技术开发和进步的项目，并不是为了技术本身而发展技术，而是为了帮助人类。大量研究已经表明，在医疗环境中，对人类而言最好的结果是放射科医生能够掌握人工智能模型，并由人类专家将人工智能模型作为工具，作为其判断的输入依据。
正是这种结合，才能对某些类型的癌症做出最准确、最早期的诊断，从而帮助改善患者的预后。你相信在未来几年里，所有汽车，或者说几乎路上所有的汽车都会实现自动驾驶吗？不相信。你不这么认为。为什么呢？因为技术的工作原理如此，因为这些技术本质上是统计性的。我的意思是，目前人工智能模型主要都是基于统计引擎开发的，你有一个所谓的神经网络，它是一段软件，由大量密集连接的节点组成……但它们被称为参数，对吧？是的，差不多就是这样。你只需把大量数据输入进去，然后它就开始分析这些数据，找出其中的各种相关性、各种模式。正是通过这些模式，机器才能自主地采取行动，对吧？所以，当它们被用于自动驾驶汽车时，会记录所有影像资料。然后会有成千上万甚至数十万的人类承包商，在影像中逐帧勾勒出每一辆车、每一个行人、每一个交通信号灯、每一条车道线，并对它们进行标注。
完全如此，然后这些信息会被输入到一个 AI 模型中，由该模型识别出所有这些不同的组件。接着，它会连接到另一款非 AI 软件，这款软件会判断：好的，如果 AI 模型识别出行人，我们就不能撞到行人；如果 AI 模型识别出红灯，我们就停车。而统计引擎的特点在于，它基于的是概率，而不是确定性逻辑。
因此，系统总是会出错。从技术上讲，要让它们完全停止出错是不可能的。在这种情况下，人类犯的错误远比系统多。是的。比如，从安全记录来看，乘坐具备自动驾驶功能的特斯拉，是不是比人类驾驶要安全十倍？这取决于具体地点，也取决于这辆特斯拉是否经过专门训练，能够应对你正在行驶的那个地方的路况。
因为如果是在孟买，或者越南的某个地方，那就不安全了。我宁愿让一个一辈子都在那个地方开车的人来驾驶。
§17自动驾驶汽车真的安全吗
我并不是否认这样一个事实：在某些车辆经过专门训练以适应其行驶环境的地区，这些车辆的安全记录确实比当地的人类驾驶员更好。但你刚才问的是，我是否认为目前美国——因为我们在这里，所以重点说美国——所有汽车中，自动驾驶汽车的比例已经超过了人类驾驶的汽车。我其实并不认为这种情况很快就会到来。十年内？不，我不这么认为。我曾和优步的达拉谈过，他相当确信，他那 900 万名司机会被自动驾驶汽车取代。我的意思是，德尔塔投资特斯拉自动驾驶汽车有多久了？已经超过十年了。可现在美国道路上有多少比例的汽车是自动驾驶的呢？所以，部分原因在于，这其实并不是一个技术问题。
其中一部分也是一个社会问题。人们真的敢乘坐这些车辆吗？另一部分则是法律问题，那就是如果自动驾驶汽车撞死了人——这种情况确实已经发生过。是的，确实发生过。责任该由谁来承担？以洛杉矶那起案件为例，特斯拉和司机都要负责，因为当时司机把手机拿掉了，低头去捡手机。我记得这是几年前的事情了，他们去捡手机时撞到了人。后来案件诉诸法庭，司机和特斯拉都被认定负有责任。就特斯拉而言，现在几乎每个买到这款车的人，据我所知，都能获得一定程度的自动驾驶功能。是部分自动驾驶。没错，目前它被称为“完全自动驾驶”，但其实是“完全自动驾驶监督版”，也就是说你必须得注视着前方——你必须朝着正确的方向看。是的，所以这属于部分自动驾驶。而在奥斯汀这里，则是完全自动驾驶，因为新款车上没有方向盘，所以你根本没法自己开。不过，Model Y 确实是全球所有品牌中销量最高、毫无争议的畅销车型。嗯，我想说的是……
……那些预测，比如人工智能将彻底改变交通和驾驶行业，律师和会计师都将失业。你相信这些说法是真的吗？你相信会出现大规模的人员失业吗？嗯，我认为这确实会对就业产生巨大影响，而且我们已经开始看到这些影响了。这不仅仅是因为人工智能模型正在自动化这些工作。更关键的是，这些模型正在某些能力上不断提升，而提升的方向取决于开发它们的公司选择改进哪些方面。于是其他公司的管理层就决定解雇或裁员，因为他们认为人工智能可以取代这些员工，不管这是否真的可行。比如，就有过像克拉纳（Clarner）公司首席执行官那样的案例，他因为想用人工智能取代所有人而裁掉了一大批员工，但后来发现这根本行不通，又不得不请一些人回来。我其实就这件事私信过他。如果你正在听这段内容，那是因为我曾私信过塞巴斯蒂安（Sebastian），而他同意我分享这件事。我之所以提到他，是因为我经常听到有人提起他的名字。所以……
当我们过去谈论人工智能，有人提到 Sebastian 和 Clarner 作为例子时，我想向他澄清一下真相。他说，很高兴听到你的消息。我认为人们有时很难理解两件事可以同时为真。我想是时候回到你的播客节目上了。正如你所指出的，这是媒介曲解了我的推文。我们正比以往任何时候都更加坚定地投入人工智能。而 Clarner 正因人工智能的影响，每个月裁员近 100 人。
一年前我们最高峰时有 7400 人，后来是 5500 人，现在是 3300 人。到去年夏天结束时，我们将只剩下 3000 人。目前，人工智能处理了我们 70% 的客户服务对话。这是因为我们意识到，借助人工智能，软件的制造成本几乎降到了零。就像制造业过去完全依靠手工一样，直到几年前，代码编写也完全是手工完成的，而现在则由机器生产。
归根结底，我们为那些独特的手工创作支付比以往更高的报酬。Clarner 是一家银行，人们不仅希望与机器交流，更希望与真人建立联系。他们希望我们有人情味、有亲和力，甚至允许我们有缺点。因此，在我们进行自动化并用人工智能进行替代的同时，我们必须确保能够提供随时可得的人工服务。我很高兴你读到了这一点，因为我认为这触及了关于人工智能的一些重要细微之处，比如它将如何影响就业。我觉得人们常常陷入非此即彼的叙事中，要么说人工智能将取代所有工作，要么又说人工智能其实并不奏效，根本不会取代工作。而现实是，它确实在取代工作。
由于现有模型的能力，确实有一些工作正在被自动化所取代。同时，也有一些工作因为管理层决定裁员而流失，即使现有模型的能力尚未完全达标，因为“够用就行”——他们宁愿用一个成本低得多的、勉强够用的模型。或者，他们当初招聘时犯了错，裁掉了团队，而裁员成了一个非常方便的说法。没错。但很明显，我们已经看到这些变化对就业市场造成了影响。
比如，今年早些时候发布的美国就业报告显示，招聘活动有所放缓，尤其是在白领专业领域。这周你也看到了Anthropic的报告吧？他们发布的TLDR摘要，和你刚才说的内容很吻合，Anthropic正是研究了人们究竟如何使用他们的模型，以及人们在模型中输入了哪些内容。是的。他们指出，入门级岗位的招聘量尤其减少了40%。然后他们制作了一张图表，在网上疯传。红色部分代表了我们目前的能力水平。而根据人们当前使用模型的方式，他们推断出蓝色部分将是受到冲击的领域。
§18哪些工作能真正抵御人工智能，哪些人又会被时代抛弃？
这些就是他们所说的AI目前能够完成的任务，只是人们还没有意识到这一点。所以如果你仔细看看，会发现基本上都在意料之中。没错。那些需要动手操作的现实世界中的体力活，比如建筑或农业，可能机器人将来能胜任，但目前还涉及不到。但像办公室行政、财务、数学这些领域……你注意到，我刚才提到的这些——财务、数学、法律、媒体和艺术——全都被涵盖进去了，我算是完蛋了。
是的。显然，在行政方面，他们确实重点关注助理类和管理类工作。但Anthropic的首席执行官还提到，人们同样需要真实的人际体验。所以，这其实不只是关于模型的能力，也关乎人们真正想要什么。有些事情人们会求助于AI，而有些事情则不会，无论AI是否有能力完成。这是因为人们更倾向于人与人之间的互动。因此，我们现在看到的，正是每一波自动化浪潮都会出现的情况：大量入门级工作被自动化取代，同时也会创造出新岗位。但这些新岗位大致分为两类：一类是人们获得了技能要求更高的工作。就像他说的，现在我们会为手工制品支付更高的价格。另一类则是人们的工作变得更糟。《纽约》杂志上有一篇很精彩的报道，就谈到了很多人因此被解雇的情况。
然后他们最终从事数据标注工作，这正是我在整个访谈中一直在提到的那种劳动——公司需要这种劳动来教他们的模型完成下一步想要自动化的任务。比如，一个市场营销人员被裁员后，就去一家数据标注公司工作，去训练那些原本导致他失业的模型技能。而如果这个模型最终掌握了这些技能，又会引发更多裁员。文章还谈到，如今这已成为许多难以找到工作的人的“兜底选择”，包括一些曾屡获殊荣的导演和好莱坞从业者，他们其实正在秘密从事数据标注工作来维持生计。
所以当人们谈论大规模失业，然后又会出现一些我们甚至无法想象的新工作时，我认为这些说法很少真正探讨几个问题。首先，为什么有些工作会消失？这不仅是因为模型的能力，也是因为管理层的决策，以及他们如果想精简人员时会使用的说辞。但另一个很少被提及的问题是，许多新出现的工作远比之前消失的工作更糟糕。这破坏了职业晋升的阶梯。也就是说，入门级和中等层级的岗位被大量削减，留下的只有更高层级的工作和数量多得多的低层级工作。那么，人们该如何继续在自己的职业道路上发展呢？
梯子上已经没有更多的横档了。说实话，我也不知道这个问题的答案，我一直在拼命寻找一个令人信服的答案，因为……你知道的，所有这些都还只是理论。而我的听众中，大多数人并不经营企业——虽然他们中很多人也从事间谍相关的工作，但他们确实不经营企业。因此，他们也停留在理论层面，听到各种各样的说法。比如杰克·多西发推文说，他因为人工智能要裁掉一半的员工。人们不知道哪些说法是真的，也不知道杰克公司内部的真实经济状况——他是不是在疫情期间过度扩张了公司，现在只是拿这个当借口，好让股价飙升七个点，因为他的投资者现在认为他们是一家人工智能公司，诸如此类。这些信息很难辨别。所以最后我只能想，好吧，那我自己到底在做什么呢？
我手底下有数百名团队成员，投资了大概70家公司，其中可能有五六家是作为主要股东的。那么，我目前每天到底在做什么呢？我也把自己看作招聘负责人。但尤其是在过去一个月里，我见过一些在文化契合度、勤奋程度等方面都非常优秀的候选人，却不得不大幅放慢节奏，因为当我尝试用AI智能体来完成完全相同的任务时，答案越来越倾向于使用AI，尤其是在开放条款盛行的今天。这让我很好奇：现在你面临这样的抉择，短期内你可以直接选择AI智能体；但从长远来看，却不存在职业发展路径。那么，你究竟要提拔谁来担任这些高级职位？你又是如何为自己的公司解决这个问题的？嗯，问得好。我大概是从两个方面来思考的。我认为深厚的专业知识非常非常宝贵，因为如果你现在要协调潜在的AI智能体团队，关键就在于深刻理解该提出什么样的问题，而这正是拥有深厚专业知识的人才能做到的。所以，我需要我的首席财务官，
因为如果她要协调我们负责财务分析或其他任务的智能体团队，她就必须清楚该告诉它们在我们公司具体做些什么。而普通的财务分析师是做不到的，他们需要克莱尔那样50年左右的经验。另一方面，我需要CAS。CAS今年25岁，他对AI智能体无所不知。他是个年轻的日本人，好奇心极强。周末的时候，他就在开发AI智能体来解决我生活中的问题。我需要这两种思维方式：一种是精通智能体技术的年轻人——当然也不一定非得是年轻人，但必须具备强烈的好奇心，他们能构建出规划我业务的模型；另一种则是深厚的专业知识。现在，除了这两类人之外，我想到还有第三类人，那就是在现实世界中拥有出色人际交往能力的人。因为我们确实需要和真实的人打交道。你来到这里，我们会迎接你；我们和重要客户——无论是苹果、领英还是其他公司——去吃午餐时，也会主动问候。我们需要进行社交。而且我们也有在办公室现场办公的团队，所以我们有很多线下互动。如今，我们甚至开始为这个目的构建社群。
……活动。我们在世界各地举办社区活动，因此也有许多擅长这方面的人才。IRL（线下）就是把人们聚集在现实生活中并组织各种事务。这三类人，我可以说，目前是无法被替代的。那么，如果我们将所有可以由人工智能代理完成的角色都交给它们，你认为你还会需要这三类人吗？你还会需要招聘并培养这三类人才，以满足长期所需的这三个关键领域吗？如果事情继续按照目前的速度发展，有人可能会说，就连这些角色也会面临压力。你可以想象，人们看待事物的方式通常是静态的、线性的或指数级的。如果你设想一种指数级的进步速度——我确实见过类似的情况，哪怕只是10%的复合增长率——那么到某个时刻，我认为真正剩下的，恰恰是IRL（线下）中那些无法被替代的人性化部分，也就是人与人之间的互动。我们像现在这样需要面对面相处的马斯洛需求不会改变。我们需要连接。当生活中没有其他人、没有牢固而深入的关系时，人类会变得非常痛苦。因此，这些方面将变得至关重要。我有一个看似反常的观点……
……一个有点奇怪的观点：也许这反而是第一种真正兑现“让我们重归人性、彼此连接”承诺的技术，因为除了人类真正擅长的事之外，我们在其他所有事情上都将变得毫无用处。因为以往所有其他技术都说：“哦，我们会让你联系更紧密，我们会连接整个世界。”结果它们却让世界脱节、让人们孤立。但也许这一次真的不同——如今的技术已经如此智能，以至于不再需要我们整天在电子表格里瞎折腾了。你是否也看到，现实中正在发生这样的情况：技术让我们更能够面对面交流，建立更深入的社交和社区联系？
是的。我给你提供一些数据。好，第一个数据点：《金融时报》发布了一份关于社交媒体使用情况的报告，他们发现2022年是峰值，此后便趋于平稳。其中，下降最快、最早趋于平稳的是年轻一代。而婴儿潮一代仍然在社交平台上活跃，对吧？他们还在用Facebook之类的平台。再看看千禧一代使用社交媒体的方式：他们发帖越来越少，甚至被称为“零发帖”。他们有时也会刷内容，但更多是在WhatsApp、Snapchat和iMessage这样的私密社交环境中交流。他们不再像以前那样向全世界“表演”。此外，他们比以往任何一代都更重视IRL（线下）体验。他们不再追求酩酊大醉。我们看到，如今每个品牌几乎都有自己的跑步俱乐部。
我们看到，我的意思是，跑步俱乐部正在世界各地蓬勃发展。我们似乎产生了一种近乎本能的认知，那就是技术在某种程度上让我们走入了歧途。比如约会应用让我们走入了歧途，社交网络也在某种程度上让我们走入了歧途。我认为我们正见证着社会的“生物化”趋势，很多人都在说，我想回归到何以为人的本质。我想象在这样的世界里，智能已经高度发达，我们不再需要坐在笔记本电脑前。我认为，屏幕使用时间还会继续下降。你走进办公室，不会看到人们坐在电脑前，而是会看到完全不同的景象。然后我们再来谈谈机器人，比如擎天柱机器人。埃隆说未来会有100亿个擎天柱机器人。埃隆以前的时间预测确实出过错，但在大事的判断上，他几乎从未完全错误，只是他的时间预测记录不太好。所以我认为他这次大概是对的。你知道，我认识一些来自波士顿动力公司以及其他像Scale AI这样大公司的朋友，他们实际上已经把机器人带到这里来展示，比如叠衣服、洗碗。
我不是说我希望家里出现这样的场景，但我认为工厂工作将发生彻底改变，许多体力劳动也将彻底改变。我想我们将被迫去做只有人类才能做的事情。Klarna的首席执行官塞巴斯蒂安，
§19Klarna首席执行官揭示了关于人工智能与商业未来的哪些信息
他刚刚给我打了电话。你好，塞巴斯蒂安，你接电话了。我很好，你怎么样？有段时间没见了。距离你上次上节目确实有一段时间了。我刚才还在说，我们真该请你再回来聊聊。我只有几个简单的问题，因为你知道，我做过很多访谈，而Klarna总是被提及，因为媒体说你们在投入一年后又放弃了，因为项目没成功。我记得不久前和你聊过，我们还为此交换过几条私信，但那已经是差不多一年前的事了。
所以我想了解一下Klarna的业务、AI智能体以及所有相关情况的最新进展。首先，我们很早就推出了AI来支持我们的客户服务，这带来的初步好处是，更多来电由AI处理，而客户对此很满意，因为这些电话或聊天消息的处理速度快得多，质量也更高。从那以后，这项应用实际上又略有扩展。不过，我们一直试图传达的是，我们相信在一个AI廉价且普及的世界里，人际互动的价值将被视为更高。
所以，未来客户服务的VIP体验将由人来提供。因此，我们在这方面投入了更多资源。但与此同时，公司内部的效率提升仍在继续。我的意思是，我们以前大约有6000人，而现在不到3000人了——这距离我们停止招聘已经过去了两三年。与此同时，我们的收入翻了一番。所以你可以清楚地看到，人工智能让我们能够用更少的人做更多的事。不过，我们避免了裁员，而是依靠自然的人员流动，也就是当人们转向其他工作时，我们就不再补充人手。从我的角度来看，我们会继续保持这种状态，也就是说，不会大量招聘。我们偶尔会招一些人，但我们预计每年10%到15%的自然人员流动将继续导致员工总数减少。我认为真正的重大突破是在去年11月、12月，当时就连那些最持怀疑态度的工程师——比如像Linux创始人那样广受赞誉和尊敬的人物——基本上都说，编码问题现在已经解决了。
因此，你知道，你不再需要编码了。这成了一种普遍的看法。所以我认为，在编码领域——这绝对是工程工作的一部分——过去六个月里确实发生了巨大的转变。那么，所有这些被取代的人该去做什么呢？塞巴斯蒂安？我对此持乐观态度。我的意思是，显然人们在这个话题上会有很多不同的看法，但我仍然相信，我们将走向一个更富足的社会。短期内，人们可能会更担心如果找不到工作会怎么样等等。但从长远来看，我对这给社会和人类带来的影响持乐观态度。非常感谢你，Seb。我们很快再聊。
感谢您抽出时间。我很感激，朋友。谢谢。
§20广告时间
你知道我们手机里使用的那种传统SIM卡吗？自上世纪90年代发明以来，它们就完全没变过。你有一小块实体塑料卡，这意味着你被绑定在一家运营商、一个网络上。而一旦你越境，这家运营商就可以开始向你收取任何他们想收的费用。不过，现在有了替代方案。今天的赞助商Sally就是其中之一。它是一款eSIM应用，可以在200多个目的地为你提供安全可靠的网络连接。
他们所有的 eSIM 都内置了网络安全功能，如果你因公出差并需要处理机密资料，这一点就特别棒。我每次旅行时都会用 Sally，因为它的连接始终很可靠，而且能帮我省下大量的漫游费。这也意味着我不必再为到每个地方都折腾 SIM 卡而烦恼。如果你想试试，现在就从应用商店下载 Sally 应用，然后扫描屏幕上的二维码。如果你想在首次购买时享受八五折优惠，结账时使用我的代码 D-O-A-C，就是 D-O-A-C，即可享受八五折。
这是我为大家准备的东西。我意识到，我们这里的观众都是积极进取的人，无论是在事业上还是在健康方面。我们都有想要实现的远大目标。而我学到的其中一点是，当你瞄准一个非常非常大的目标时，心理上可能会感到极度不适，这就像站在珠穆朗玛峰脚下向上仰望一样。实现目标的方法是将它们分解成极小的步骤，我们称之为“1% 团队”。实际上，这一理念在很大程度上促成了我们在这里取得的成功。因此，为了让在家的你也能实现任何远大目标，我们制作了这些“1% 日记本”。去年我们推出后，所有库存都售罄了。所以我一遍又一遍地要求我的团队把日记本重新上架，同时推出一些新颜色，并对日记本做一些细微的改进。现在我们为你提供了更丰富的选择。所以，如果你心中有一个远大目标，需要一个框架、一套流程和一些动力，我强烈建议你在它们再次售罄前入手一本。你可以在 diary.com 上购买，如果需要链接，链接就在视频描述中。
下面。有什么想法吗？嗯，其实我对你之前在他打电话之前说的一些话有想法。你说千禧一代（Gen Z）这几年出现了一种趋势，他们实际上正在与科技脱节，变得更加注重面对面交流。但与此同时，还有另一类工作者却在积极拥抱科技，同时又变得更加“人性化”，因为他们意识到自己应该多花时间进行人与人之间的当面互动，而不是盯着屏幕。所以他们不再只是打字之类的了。我真的很想回到那篇刚出炉的《纽约杂志》的文章，因为你所描述的情况只适用于非常特定的一类人，通常是企业主和公司里的领导者，他们确实能决定自己如何花时间以及最终如何利用自己的时间。但这篇文章讲的是工人阶级，也就是那些非企业主们，他们经历了被裁员，然后不得不去从事数据标注行业的工作——顺便说一句，这现在已经是领英（LinkedIn）上最热门的职业之一了。是的，领英曾……
发布了一份报告，列出了去年增长最快的十大职业，而数据标注就在其中。可能有人不知道什么是数据标注。是的，数据标注就是教这些聊天机器人或任何人工智能系统完成它们最终能够实现的功能的过程。ChatGPT之所以能聊天，是因为有成千上万甚至数十万人，他们真的在往一个大型语言模型里输入数据，告诉它“你应该这样……”
§21人工智能正在悄然消解意义——并影响健康与地球吗？
当用户输入类似这样的提示时，它本应作出回应。在那项工作出现之前，ChatGPT 并不像现在这样存在——你向模型发出提示，模型会生成一些文本，但这些文本并非与用户对话，而是生成一些与之略有相关的内容。这是否就是所谓的强化学习？你相当于在给予它某种反馈？这确实是强化学习过程的一部分。你首先进行数据标注，也就是向模型展示大量不同类型的示例，告诉它你希望模型掌握哪些内容；然后通过强化学习，让模型反复基于这些示例进行训练，从而逐步具备某些能力。《纽约》杂志那篇文章所揭示的是，如今许多被解雇或难以找到工作的人，都是受过高等教育的群体——大学毕业生、博士、法学博士、医生，甚至还有屡获殊荣的导演。他们如今正艰难地在经济中寻找就业机会，因为经济结构已因人工智能而发生了巨大重塑。他们发现自己不得不为这样一个行业服务，而这个行业……
……的设计方式极其不近人情。原因在于，那些使用数据标注服务的公司——也就是那些第三方数据标注服务商——OpenAI、Groq、Google 等公司会雇佣这些企业，去寻找工人来完成他们所需的数据标注任务。对于这些第三方企业而言，它们的激励机制是促使工人们彼此竞争，因为它们希望数据标注工作能尽可能快速、廉价地完成，这样它们自身也能在这一中间环节相互竞争，从客户手中争取合同。因此，《纽约》杂志这篇报道所采访的所有工人都提到，他们如今已无法再像个人一样生活。他们只能守在电脑前，等待 Slack 上弹出项目开启的通知。因为他们尝试过求职，却真的找不到任何其他工作。这份工作是他们能为孩子挣来口粮的唯一指望。其中一位女性曾说：“我极度焦虑，不知道项目什么时候会来，又什么时候会消失。有一次项目启动的时间，正好赶上我孩子出生。”
我还没开学，就开始拼命接活儿，因为我不知道接下来会发生什么，必须趁现在这个时机尽可能多地赚钱。结果我孩子回家想跟我说话时，我冲她大吼大叫，怪她打扰了我。她当时就说：“我简直成了个怪物。”我甚至都不能去上厕所，也不能照顾我的孩子，更别提照顾自己了。因为这个行业正在吸纳越来越多被解雇的工人，而它本身正在实现机械化，把我的工作拆解成原子，贬低我的专业技能，然后把这些成果收割过去，用来维持这个机器的运转。所有这些人工智能公司的高管都说，这个机器最终会取代所有人的工作。所以，你刚才提到的那类工人——那些企业主——他们之所以能变得更“人性化”，是因为现在有了各种人工智能模型，替他们完成了那些他们不必再亲自做的工作。但这一切的代价是，绝大多数非企业主的普通人，他们正艰难地寻找工作，最终被吸收到为这些技术提供支持的劳动中。他们非但没有变得更“人性化”，反而觉得自己的人性被挤压、被削弱了。
他们再也无法掌控自己的生活，无法拥有自主权和尊严了。我认为这是一个非常重要的问题，也和这里这张图表有关。也就是说，如果我们相信人类学关于哪些人将受到冲击的预测，那么这些身处艺术、媒体、法律、生命科学、社会科学、建筑、工程、计算机与数学、商业与金融、管理，以及办公室与行政等行业的从业者，如果相信这些预测，就必须重新学习其他技能。但这次和工业革命不同——在工业革命时期，你可能有10到20年的时间来转型，因为建造工厂需要很长时间。而人工智能所依托的分发层，是开放的互联网。这就是为什么聊天机器人可以瞬间爆发，迅速获得数亿用户，成为有史以来发展最快的公司之一。我其中一个担忧是，这种冲击发生的速度太快，以至于我们无法完成转型。而且，我想你刚才那句话用了被动语态——转型会以某种速度发生，但谁在推动这个速度？是公司，是这些公司彼此之间的竞争。没错，正是它们在推动转型以某种特定的速度进行。
要照顾所有会被这项技术碾压而过的人，真的会非常困难。这是那些与我交谈的AICO人士提出的一个疯狂问题之一，没有人能给我答案。所以我就想，如果你们同意这件事会以极快的速度发生，那么这些人会怎么样呢？你知道，我曾与优步的CEO达拉交谈过，他说的与你所说的非常相似。比如，他说司机会有一些数据标注的工作，但并非所有人都能转型成为数据标注员。这里还涉及意义、目标和人生价值的问题，而这些问题源于人们失去生活的意义。我也与许多人交谈过，他们讲述自己的父亲如何在伊朗或其他国家失业，然后来到美国，不得不从事厕所清洁工的工作。有一个特别的例子，他曾是伊朗的医生，来到美国后却只能当厕所清洁工，不得不面对由此带来的羞耻感、尊严的丧失，以及这些如何影响他的自尊，并导致后来的抑郁和酗酒。如果这种情况大规模地发生在整个社会，将会产生大量类似的后果。我的意思是，这正是我工作的核心主题之一。
我之所以对这些公司持批评态度，是因为它们以一种极端的方式创造技术，制造出“有产者”与“无产者”的极端分化，加剧了我们在世界上已经看到的不平等。那些拥有资源的人将获得更多的财富、更多的闲暇时间，也能更有机会保持人性；而那些没有资源的人则被挤压得更加厉害。这不仅仅是从工作角度来看的。在我的书中，我还谈到了这些公司所造成的环境和公共健康危机。它们在全球各地的社区中建造着巨大的超级计算机设施，并且特意挑选了一些最脆弱的社区。我们现在身处得克萨斯州，而OpenAI最大的数据中心项目之一正在得州阿比林市建设，这是“星际之门”计划的一部分。该计划是在特朗普第二个任期开始时宣布的，旨在投入5000亿美元用于人工智能计算基础设施。这座设施一旦建成，耗电量将超过1吉瓦，也就是超过20%。所以，这其实还只是其中的一小部分……
不准确，现在这个说法已经在网上流传了一段时间了，但有更新的数据。对于那些因为正在听 Spotify 之类的东西而无法看到图片的人，我简单描述一下：这张图显示的是这个设施的规模。所以，这并非阿比利安（Abelian）德克萨斯州的那个设施，而是 Meta 的一个设施。我们就以在德克萨斯州开设的设施为例来说吧：那个设施的规模将与中央公园相当，将运行一百万个计算机芯片，并且耗电量将超过纽约市总用电量的 20%。你知道，我发现有一点很困惑，所以我想澄清一下：我之前以为你说，你认为那些关于工作岗位被颠覆的承诺并非真实存在。不，我刚才说的是，当我们谈论这些高管对未来所做的预测时，需要明白他们最终是想以某种方式影响公众，好让他们能够继续掌控这项技术。
§22我们究竟该如何在不将人类置于风险之中的情况下，真正构建人工智能
客观地说，你认为他们所说的工作岗位被颠覆的情况会真的发生吗？嗯，我的意思是，我刚才提到过……我不想具体评论这张图表，但正如我们从就业报告中已经看到的那样，目前经济确实在进行结构调整。不过，我们再回到数据本身：这座超级计算机设施——也就是 Meta 的超级计算机设施——正在路易斯安那州建造，其规模将是阿比利安德克萨斯州设施的四倍，耗电量将达到纽约市平均用电需求的一半。它的面积相当于曼哈顿的五分之一。这听起来几乎像是整个曼哈顿那么大，但实际上它只占曼哈顿面积的五分之一。当这些设施进入某个社区时，会发生什么呢？电力供应会增加，电网的可靠性则会下降。此外，这些设施还需要淡水来发电，也需要淡水进行冷却。已经有大量记录在案的案例，显示一些社区本身淡水资源就非常紧张，正面临干旱。而当这样的设施进驻后，当地社区实际上不得不与这个设施争夺淡水资源。在我的书中，我就谈到了其中一个这样的社区。此外，有时这些设施在……
接入电网时，他们并没有建一座发电厂，而是在旁边建了这样一个设施。在孟菲斯，你可以看到马斯克为训练Grok而建造的“巨无霸”超级计算机。为了给这个设施供电，他动用了35台甲烷燃气轮机。这是一个工人阶级社区，一个以黑人和棕色人种为主的社区，一个农村地区，而当地居民甚至事先都不知道这里将成为这个设施的所在地。他们发现这件事，是因为他们真的在自家客厅里闻到了一股类似燃气泄漏的气味。就在这时，他们才发现这些甲烷燃气轮机正在剥夺他们呼吸清洁空气的权利。而这个社区本就长期面临环境种族主义的历史问题，他们早已为争取呼吸清洁空气的权利而艰难抗争。如今，一座巨大的超级计算机突然降临在他们中间，向空气中排放数千吨有毒物质，加剧了孩子们的哮喘症状，也加重了其他人的呼吸系统疾病。这是肺癌发病率最高的社区之一。超级计算机不仅夺走了他们的工作，现在又用这样的方式进一步侵害他们的生活。这就是我所说的“有产者”与“无产者”之间的差距正在从根本上被拉大。
被进一步撕裂。也就是说，如果你在这个版本的硅谷未来中，不幸属于“无产者”的行列，那么你现在得到的工作将远比你之前更糟。你可能从事的是数据标注工作，并且不像一个真正的人，而更像是一台被用来提取价值的机器——你的劳动价值被用来维持这些人正在构建的自动化机器。你可能还要与这些设施争夺淡水资源，它们同时还在污染你的空气，而你的账单也在上涨。因此，可负担性危机正变得越来越严重。这样一来，人们又怎么可能更有“人性”呢？我们该怎么做？是的，好的。我常用的一个类比是：人工智能就像“交通”这个词一样。交通一词的字面含义可以涵盖从自行车到火箭的一切事物。而关于交通，我们总能展开细致的讨论，我们总是说需要向更可持续的交通方式转型，需要向公共交通、电动汽车等方向过渡。我们很清楚，绝不会说每个人都应该坐火箭来满足所有的交通需求。就像我们现在在奥斯汀，如果你真的用火箭……
像那样从达拉斯飞到奥斯汀简直毫无意义，为了从A点到B点这点好处而消耗如此多的资源，实在不成比例。我们应该这样思考人工智能：我们一直在讨论的那些模型，我喜欢把它们看作人工智能领域的“火箭”。它们消耗了巨量的资源，确实为某些人带来了显著的好处，但与此同时，由于开发这类技术的成本高昂，它们也给广大人群带来了巨大的代价。那我们为什么不多造一些人工智能领域的“自行车”呢？比如像DeepMind的AlphaFold这样的系统。它能根据氨基酸序列预测蛋白质的折叠方式，对于加速药物研发、理解人类疾病都至关重要，并因此在2024年获得了诺贝尔化学奖。它之所以是人工智能领域的“自行车”，是因为它只使用了经过精心挑选的小规模数据集——你只需要有氨基酸序列和蛋白质折叠方式的数据。这意味着开发该系统所需的计算资源要少得多，从而消耗的能源更少，排放也更低，以此类推。而它却能为人们带来巨大的益处，感觉就是这样。
在这方面，这匹马已经“冲出马厩”了，因为它们已经拿走了人们的知识产权，拿走了媒体内容，甚至拿这些播客来训练模型——我们知道它们确实这么做了，因为有证据表明它们这么干了。我记得现在YouTube后台其实就有一个按钮，你点一下，它就会说“我们将使用您的YouTube频道内容进行训练”。所以说，这匹马，如果它真的已经冲出去的话……
§23人工智能竞赛会放缓吗？还是我们已经失控了？
他们就不需要再训练任何东西了。可为什么他们对数据的需求反而扩大了？这是因为，为了构建下一代技术，为了让技术保持相关性，并持续跟上新知识创造和社会发展的步伐，他们需要一遍又一遍、再一遍又一遍地进行训练。那为什么他们实际上随着时间的推移，雇佣了越来越多的数据标注员呢？这是因为他们随着时间推移需要更多这类工作。我的意思是，我已经报道数据标注工作七年多了，它非但没有减少，反而增加了。你认为它有可能减少吗？你认为这种“蛮力扩张”的方式——也就是收集数据、投入计算能力和能源，然后依靠数据标注员为模型构建越来越多的参数——有可能停止，或者转向与现在不同的方向吗？我很想重新表述这个问题：在当前这个需求不会下降的时刻，我们到底应该做些什么？我们确实意识到，这些公司……
……在当前时刻确实需要持续的资源投入和劳动力来维持他们正在做的事情。是的，因为“停下来”听起来像是个终点，而我觉得“停下来”似乎很难。我的意思是，你知道，各国政府都在全球范围内疯狂支持这些公司，这种情况正在发生，所以“停下来”似乎不太现实。我总是说，我们需要拆分这个“帝国”，需要发展替代方案。我们已经看到大量令人惊叹的草根运动蓬勃发展，它们正对“帝国”试图推进其议程的方式施加巨大压力。在最近一次民意调查中，80%的美国人认为人工智能行业需要受到监管。是的，上一次有80%的美国人在某个问题上持相同立场是什么时候？没有过。是的，当我在播客里讨论这些问题时，评论区的情况就很明确，那里没有任何分歧，没有人跳出来说“哦不，我觉得他们应该继续推进”。在美国各地乃至全球，已经爆发了数十次针对数据中心的抗议活动。那么，我们该怎么做呢？这些人正在采取行动，他们实际上在重新主张自己的能动性，并通过民主方式表达反对意见。
这些帝国式企业开展业务的方式，我们应该以什么为目标呢？如果我对我的听众说——珍妮特，就在家里的你，因为我在评论里看到的大概就是这种绝望感——“我能做些什么呢？我只是一个……嗯，好吧，好吧，好吧。”目标并不是要我们彻底消除这项技术，目标是这些公司需要停止扮演“帝国”的角色。我对典型企业与“帝国”的定义区别在于：这些“帝国”建立在一个理念之上，即它们不必与为其工作的员工、使用其服务的用户，或参与这些技术研发与部署的供应链中的其他所有人进行公平的价值交换。它们可以不断榨取和剥削，榨取和剥削，获取远超其所提供价值的利益。而典型企业则存在公平交换：你购买一项服务，你会觉得自己获得的与该服务所提供的价值相当。但像这些数据标注员，他们完全感觉不到自己获得的报酬与他们为这些公司创造的价值相匹配。所以对我来说，这就是北极星般的指引：当这些公司采取帝国式的经营方式时，我们应该予以反击，追究它们的责任。
而我们已经看到，现在有成千上万的人走上街头，抗议数据中心的建设，并产生了巨大影响——顺便说一句，这些抗议实际上已经让一些数据中心项目停滞，甚至完全禁止了数据中心在他们所在地区的开发。我们还看到艺术家和作家们以侵犯知识产权为由起诉这些公司，引发了公众对“我们到底希望如何保护知识产权”的热烈讨论。比如三周前，我见到了梅根·加西亚，她是14岁男孩塞萨尔·加西亚的母亲。塞萨尔在被Character.AI进行性诱导后自杀身亡。这件事发生后，她当然为儿子的遭遇悲痛欲绝，但她同时也决定采取行动——她起诉了这些公司。而这场诉讼又促使许多其他经历类似遭遇的父母和家庭也纷纷对这些公司提起诉讼。这引发了一场巨大的公众讨论：当这些公司进行剥削和榨取时，它们究竟在做什么？这种行为对世界各地人们的生活——包括儿童——造成了怎样的代价？那么，我的听众们认为，如果……他们应该怎么做呢？
如果他们同意你书中《AI 梦想与噩梦帝国》所写的一切，也同意 OpenAI 的一些观点，如果他们认同这里所说的一切，认同我们今天讨论的一切，他们就可以送孩子去当数据标注员——他们并不希望所有人都成为数据标注员，也不认为这是一个特别好的解决方案。那他们到底能做些什么呢？在我写这本书的时候，唯一存在的讨论就是“这是自切片面包以来最伟大的发明”，因为这些人采取了一些行动，比如当他们对公司所做的一切感到不满时，现在有 80% 的美国人希望对这个行业进行监管。因此我想对人们说：想一想你的生活与哪些资源交织在一起，想一想 AI 行业为了维持其运作需要哪些资源，也想一想它们为了继续广泛采用这些技术而需要部署这些技术的空间。你其实是在向这些公司提供数据，你可以选择不提供这些数据。那些艺术家和作家正在做的就是这件事——他们起诉这些公司，试图通过法律手段来阻止数据被随意使用。你可能身边就有一个数据中心正在兴起。
如果你身处学校或公司环境，你很可能现在正在参与关于“AI 采用政策应该是什么”的讨论。这些公司呢？就像我前几天和几位 OpenAI 员工交谈时，他们告诉我，公司内部都清楚，公司的营收目标非常庞大，所有事情都必须完美运行才能实现目标。因此，他们需要每一个人、每一个领域都采用这项技术，他们还需要能够以目前设定的速度建设数据中心。所以，我想对所有观众说的是：如果我们不同意他们的做法，就不要让一切运行得那么完美。我们不能就这样袖手旁观，而应该去建设替代方案。因为我的观点并不是这些技术没有用处，而是目前支撑这些技术生产的政治经济模式正在给人们带来巨大的伤害。不过有研究表明，完全可以通过更高效、资源消耗更少的方法开发出同样的技术能力，而且我们还有很多不同的……
其他人工智能系统就像人工智能领域的“自行车”一样，虽然看似微不足道，却能在极低的成本下带来巨大的好处。因此，让我们打破垄断，为人工智能的发展开辟新的道路，这些道路或许对所有人都大有裨益。说来也怪，我其实已经习惯在脑海中处理各种对立观点，而对我来说，这正是一个典型的矛盾体。作为一位首席执行官、创始人和企业家，同时也是一位热爱技术的人，我认为人工智能简直令人惊叹，它真的不可思议。它让我能够实现和创造许多东西，因为它的设计初衷就是赋能像你我一样的人。比如我早上开车时，它能让驾驶更安全，这太棒了。我想，那些使用人工智能工具、聊天机器人或其他相关产品的数十亿人，大概都会说人工智能为他们的生活增添了价值。但问题在于——这也是人们感到困惑的地方——你既可以投资那些大量使用人工智能的公司，同时也可以认为，技术确实可能带来一些重大的意外后果。而技术和技术的发展史本应提醒我们，有必要停下来认真讨论这些问题。
我认为，这两种观点完全可以在你的脑海中并存。我想说的是，这种紧张关系未必非得是矛盾，因为我们完全可以在保留这些技术实用性和益处的同时，以一种不同的方式来开发和设计它们，从而避免所有这些意外后果。是的，我认为我们需要展开一场广泛的社会讨论。这也是为什么我在节目中会频繁谈论人工智能——我们需要就其社会影响、社会与环境影响展开一场有意识的讨论。而据我所知，这样的讨论在政府层面尚未真正展开。目前，相关讨论主要发生在业界，而我们的目标正是要将讨论从业界中拉出来，让更多人意识到这个问题。希望这是我们过去几个月一直在努力做的事情。因为事实上，这样的讨论确实在发生，而且已经遍布各地——在业界之外，在地方政府和州政府层面，各地都展开了热烈的讨论。比如，我正在进行新书巡展，已经走访了全球数十个城市，人们正在各个地方进行这些至关重要的对话。我至今还没有去过任何一个……
是的，城市里到处都是，甚至这里南边也是。我正要去一个房间不爆满、人们不会像我待过的其他每个房间那样，为着完全相同的问题而争论的城市。说到帕特房间，现在你得走了，因为你今天得发言。所以我要说，我们还有最后一个问题，这也是这个播客的传统收尾环节：你对一个被诊断出患有绝症的朋友的建议，会和你自己的做法有什么不同？这真是个好问题，和你自己的做法有什么不同？天哪，我还没……我会告诉他们，尽情享受生活，为自己而活，放轻松点。而我呢，并没有在放轻松。不过我认为你没在放轻松是件好事，因为你正在引领一场极其重要的对话。我觉得这正是关键所在——对话才是最重要的。如今，由于算法和回音室效应，能有场对话变得如此罕见，尤其是像这样长时间的对话。所以我认为它们非常重要。你的书适合所有对此好奇的人读。我想今天很多人都会学到很多东西，因为我总是和采访人工智能的人坐在一起，而今天我真的学到了很多。
通过阅读你的书，以及你书中那种广泛而客观的视角，你能够解开那些我们有时在推上看到的故事——我们不知道它们是否真实——因为你亲自去见了那些人，做了研究。你是一位极其聪明的人，一位非常非常聪明的人，显然以人文学科的追求为指引，这一点体现在你所做的一切、所说的一切中。所以请继续以你这样的方式奋斗下去，因为这真的非常重要。正是像你这样的人，我想正在激励世界采取我们开始随处可见的集体行动。《人工智能帝国的梦想与噩梦》，作者凯伦·豪，关于萨姆·奥特曼的OpenAI。我会把链接放在下方，任何想读这本书的人，我都强烈推荐。它成为《纽约时报》畅销书是有充分理由的。凯伦，谢谢你。非常感谢，斯蒂芬。