AI 末日论与繁荣论之争、有效利他主义“邪教”卷土重来、BBB 的利好、美国钢铁与黄金投票权

节目开头是关于一件衬衫的闲聊，以及为第四届 All-In 峰会做的宣传，峰会定于 9 月 7 日至 9 日举行。随后讨论转向 AI 末日论。主持人概述了达里奥·阿莫代伊（Dario Amodei）向 Axios 发出的警告：未来一两年内，失业率可能从目前的约 4% 升至 10% 到 20%。阿莫代伊表示，AI 公司和政府应停止粉饰即将到来的局面；其预测科技、金融、法律和咨询行业将出现大规模岗位消失，入门级员工受冲击最重，并呼吁立法者采取行动，呼吁更多 CEO 公开发声。

主持人还补充了一个市场信号。Polymarket 给出的美国在 2025 年通过 AI 安全法案的概率为 13%，主持人据此认为，通过此类法案实现监管俘获的可能性很低。主持人也列出了共识：AI 导致的岗位替代是合理的担忧，自动驾驶出租车已经上路，主持人认为十年后开出租车将不再是一种职业。抛给嘉宾们的问题是：末日论是否正被一群可能另有目的的人进一步推动？

第一位回应者承认，AI 是一项深刻且具有变革性的技术，对其走向的担忧是合理的。其异议在于精确度。这位发言者表示，像“两年内 50% 的白领工作将消失”这样的预测，所声称的内容超出了任何人所能知道的范围。

我认为这种程度的具体性根本无从知晓，更像是为了博取头条。

这位发言者将此描述为 Anthropic 发布内容中的一种模式。主要例子发生在大约三年前。据这位发言者所说，该公司提出了 AI 模型可能帮助制造生物武器的担忧，并展示了据称是 Claude 生成的、可供生物恐怖分子使用的输出样本。发言者说，这一说法引起广泛关注，引起了英国里希·苏纳克（Rishi Sunak）的兴趣，并促成了在布莱奇利园举行的首届 AI 安全峰会，但该输出后来被证明不可信。发言者并不排除 AI 某天被滥用于制造生物武器的可能。其观点是，这一威胁并不像所描绘的那样迫在眉睫。

发言者将同样的推理应用于超级智能脱离人类控制和大范围失业这两个问题。两者都被称为合理的担忧，但被炒作得超出了现有证据。这就引出了“为什么”的问题，发言者表示，其中存在一个值得人们警惕的议程。

主持人问嘉宾们是否同意，大多数驾驶工作，包括卡车、Uber、Lyft 和 DoorDash，将在五到十年内实现自动化。回答的嘉宾没有接受这一框架，而是提出了一个关于资本配置的论点。如果 AI 能让一名软件工程师产出大约二十到五十倍的软件，CEO 从这名工程师的薪水中获得的回报就会高得多。当已投入资本的回报上升时，例如从两倍升到二十倍，这位发言者认为，公司会投入更多资本，而不是更少。发言者将此视为自人类最早使用工具以来技术发展的规律。

发言者将这一点应用于初创公司。有些人预期，如今一个人就能在没有风险投资的情况下创办公司。发言者的预期恰恰相反：由于回报更高，会有更多风险资金流入新的初创公司。其结论是，投入的资本越多，创造的就业就越多，完成的工作也越多；发言者说，如果不退一步看，很难看到这种效应。

认为 AI 会摧毁就业的前提是错误的，因为它没有考虑到显著更高的投资资本回报

同一位发言者部分认同此前关于动机的观点。重大社会转型会留下权力真空。随后，人们会蜂拥而入，声称自己更聪明、受过更好的教育、更有道德，或在其他方面更有资格设计新体系，发言者预计会出现相互竞争的、建立新控制体系的努力。发言者说，恐惧是通往这种权力的常见途径：“通常，恐惧是获取权力的绝佳方式”。

主持人指出，关于司机的问题还没有得到直接回答，于是再次提问。主持人提到，入门级白领岗位似乎正在消失，大型科技公司因押注 AI 而不再招人。下一位发言者公开把这个问题搁在一边，提出了另一个观点。

这些安全警告往往与 Anthropic 发展历程中的关键融资时刻相当巧合地同时出现。

发言者说，让 LLM 核查这一说法会发现它相对准确，但在节目中没有给出具体日期或融资轮次。其论证是结构性的。Meta 和 Google 拥有能产生现金的业务，可以无限期地为模型开发提供资金。没有这种条件的基础模型公司，如 OpenAI 和 Anthropic，必须找到一个切入点，而发言者认为每家公司的切入点各不相同。在发言者看来，这一模式解释了部分媒体报道框架和夸大的说法。当主持人暗示其中有不良动机时，发言者拒绝使用这个词，称这一策略很聪明。

主持人介绍了一篇文章及配图，内容关于文章所称的“AI 生存风险产业复合体”。根据节目中对该文的描述，约 16 亿美元资助了众多制作危言耸听内容的组织，包括 YouTube 视频和 TikTok 短视频。文章称这一生态系统被人为夸大，重复程度很高：同样的名字、缩写和几乎一模一样的标志，同样的极端论点，同样的人挂着不同头衔，以及同样的资金来源。主持人将此比作“人造草根”（astroturfing）。

被点名的资金来源是开放慈善（Open Philanthropy），其资金来自 Facebook 联合创始人出身的亿万富翁达斯汀·莫斯科维茨（Dustin Moskovitz）。一位嘉宾将莫斯科维茨描述为有效利他主义者，并称开放慈善是其他组织的资金输送方，这位嘉宾称这些组织是同一种 EA（有效利他主义）意识形态的不同幌子。这位嘉宾还说，创立开放慈善并负责分配其资金的霍尔登·卡尔诺夫斯基（Holden Karnovsky）与达里奥·阿莫代伊的姐妹结婚，而这位姐妹与 EA 有关联，并且是 Anthropic 的联合创始人。这位嘉宾总结道：“所以这些都不是巧合。”

这位嘉宾将该议程描述为全球 AI 治理：既在国家层面监管，也在国际或超国家层面监管。这位嘉宾说，快速搜索“全球算力治理”，就能得到其主要内容：

对计算资源的监管，包括 GPU 的获取 AI 安全与安保监管 国际协议，这位嘉宾指出有人会称之为全球主义的 将伦理与社会考量纳入政策

这位嘉宾将这些内容与拜登政府的政策联系起来。所举例子包括：一份约一百页的 AI 行政命令，被描述为负担沉重并附带 DEI（多元、公平与包容）要求，这位嘉宾将其与“觉醒 AI”以及 Google 图像生成器生成黑人乔治·华盛顿联系起来；扩散规则，被描述为一个限制全球 GPU 销售的全球许可框架；AI 安全研究所；以及对国际 AI 峰会的支持。在人事方面，这位嘉宾说，被称为过去四年拜登政府中在 AI 问题上最有权势的幕僚塔伦·查布拉（Tarun Chabra），以及 AI 安全研究所创始所长伊丽莎白·凯利（Elizabeth Kelly），如今都在 Anthropic 工作。