Claude 有意识吗？教皇拒绝、模型福利运动、OpenAI 的数学反弹、法国骚乱
Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots
Full transcript · Read the full conversation in order, with its original context.
§01老铁开场！
好了各位。欢迎回到全世界排名第一的播客——All-In 播客。和我一起的是核心四人组、最初的四人组合：查马斯·帕里哈皮蒂亚、大卫·萨克斯、戴夫·弗里德伯格，我是杰森·卡拉卡尼斯，我们今天有一份议程。各位，都还好吗？
很好。你呢？
我很好。现在是东京凌晨三点半，而你又拿我的房间「甜羞」我了。现在我都不敢订普通房间、不敢让床出现在背景里了，查马斯。你让我花了一大笔钱。我现在总是得订套房，因为我太担心上节目时又被你「甜羞」了。
所以我是被「甜羞」过了。
那个套房多少钱？
我都不好意思说。我从没在酒店房间上花过这么多钱，但我住的是
所以大概 800 美元？
对。是 9 块 5。你说得完全对。是……不对。
我住的是东京新开的那家，算是他们的潮牌线。我想大概是一晚的价格，所以不便宜。
J Cal，你在日本到底在忙什么，怎么老在那儿？是滑雪还是别的？
这个……好吧。一开始是每年一月去滑雪。这问题问得好。
这问题问得好。听说
道格。你是不是有个我们不知道的加密货币生意？到底怎么回事？
没有。我，你知道的，我搞了个前置加速器，在日本找到了一所大学。我们现在正在做第二期。
什么叫前置加速器？
结果是，申请融资的公司里大概有一半还没注册成立，但他们已经做出了东西。所以我们就做了一个十二周的课程，教他们如何完成产品、做出产品市场匹配，然后在项目期间，我们从进来的 50 家里投资大约前 10 家。现在我们在沙特利雅得一年办两期，在日本一年办两期。我实际上正在招人、开设办公室，所以接下来一年我会在这里招第一批两名员工。
所以你要在日本招员工？
你在这儿会有一两个人。我觉得我还要做「This Week in Startups 日本版」，弄一个日语版本，因为亚洲现在发生的事太多了。太好了。
算了，就当我没问。我不知道这变成了给 J Cal 生意做的五分钟广告。本来就是想打广告。
是你问我生意的。我要说的就是：用 8090。用优惠码 J Cal。如果你要找土豆，去……我同意。Hollow，还有 Craft 16 正在启动。
我们得知道这是
Kraft 16。
如果 J Cal 在旅行，我们问他去那儿干嘛，你就会得到一段广告。
你就会得到一段广告。他自己搭的。你要回去工作了，所以你很快又会开始给创业公司打广告。你重回马鞍了。
我从没停止给创业公司打广告。你在说什么？什么时候回来
重回马鞍，对吧？你现在重回马鞍了？全职做风投？
马鞍，但我从没打过广告。好了。向 Callin 致敬。
用 callin.com？
没错。但我是那家的创始人。这有点……你是第一个打广告的人。
你就是个打广告的。
我是创始人，你能拿我怎么样？
你能拿我怎么样？
Callin。
说到
§02Anthropic 认为 Claude 可能有意识：一种新宗教？游说教皇、对齐风险、模型福利
工作，Anthropic 的事，Claude 可能是有意识的。这……欢迎回到「Claude 本周」。我们看了一年的 OpenAI 各种闹剧，现在轮到 Anthropic 的肥皂剧了。他们认为 Claude 可能是有意识的，结果《纽约时报》通过他们出色的报道发现，Anthropic 一直在游说——弗里德伯格，一直在游说宗教领袖，包括教皇，让他们认真对待这个问题。
Claude 有意识吗？它是一个有感知的存在吗？过去一年，他们在保密协议（NDA）下与大约 20 位宗教领袖和哲学家举办了多场会议。天主教徒、福音派、犹太人、锡克教徒等都被邀请到 Anthropic 总部，他们辩论 Claude 的道德、它的痛苦以及它潜在的意识。引用原文：在与 Anthropic 会面之后，「有些人对这个想法仍感到不安，但许多人离开时已准备好认真对待 AI 意识这个问题」。
至少有那么几位离开时已经皈依了。其中一位拉比告诉 Anthropic，如果 Claude 是有意识的，那他们让它免费干活就是在当奴隶主。还有今年 5 月在梵蒂冈曝出的那件事。教皇的第一份通谕聚焦于 AI 相关的道德问题，现在也叫超级智能。Anthropic 联合创始人克里斯·奥拉与教皇一同出席了该文件的发布。
教皇强烈反对 AI 有意识，这让奥拉很意外。《纽约时报》的原话是：奥拉先生对教皇反对 AI 意识的强硬立场如此警觉，以至于他提议让 Anthropic 退出这场活动，哪怕已经到了那么晚的阶段。换句话说，他因为教皇不肯认为 AI 有意识而如此被冒犯，以至于要带着自己所有的弹珠走人。弗里德伯格，你怎么看？
这是
精神病吗
还是你觉得我们确实需要开始讨论这些关于 AI 的道德问题？这是不是有点太早了？我们最终会走到这一步吗？还是这本质上就是《银翼杀手》的剧本——《仿生人会梦见电子羊吗》——这些东西是有意识的？
我认为我们正在看的，很可能是某种新宗教的诞生。它大概……它不会被称为宗教，但它会遵循类似的原则，并产生同样的效果，最终形成彼此冲突、争夺权力聚集的阵营。关于意识这件事，它无法从逻辑和纯数学中推导出来。你没法证明意识。
这是一场辩论，你可以和任何人就意识进行丰富的辩论。你无法证明它，也无法证伪它。当人类用数学、科学来证明某件事为真时，我们用的是经验主义，也就是数据和逻辑，把事物的序列联系起来，推导出某件事是真是假。所以在科学学科里，当你有一个新想法，它既没被证明也没被证伪，那它就是一个理论，之后要么被证明，要么被证伪。
否则它就仍然只是一个理论。在科学和数学方法之外看待新想法，这就是我们所说的信仰，一套新的信仰体系。信仰体系是那种你必须在缺乏逻辑和经验主义的情况下相信的东西，才能得出某事的真相，而信仰体系正是宗教之类事物的基础。而把 AI 规定或描述为有意识，实际上就是在创造一套新的信仰体系，一套并不通过证明来传播的体系。它通过叙事传播。
我必须人与人地去告诉你：我有这个想法，我相信它是真的，我希望你和我一起相信它。请和我一起相信它。以下是我认为我们应该共同相信这件事的理由。它不基于证据，不基于数据，无法被证明，但我认为我们应该一起相信它。于是随着时间推移，一部分人相信了这件事，他们形成了一个群体，而这套新的信仰体系创造了新的权力结构，于是现在我们的观点和你们的观点不同，我们想让更多人站在我们这边、持有我们的观点，因此我们必须努力为自己的体系创造杠杆和权力。
如果我们快进几年——你大概可以说十年是个不错的整数。地球上会出现大批相信 AI 有意识的人，也会出现大批相信 AI 没有意识的人，这些群体会发生冲突。他们会为了控制 AI、为了允许或不允许 AI 做某些事、为了谁能使用 AI、谁掌管 AI 而冲突，这很可能导致人与人之间的冲突。我知道这是对现状非常遥远而深刻的推演，但我认为，今天我们看着这些人去会见宗教领袖、试图让他们相信这套新信仰体系，这就是在埋下种子。而且做这件事的不是随便什么人。
如果是个疯子在这么做，你不会在意。可这是地球上最强大的 AI 实验室。
是的。
是的。
是领导层明确地，查马斯，把宗教领袖拉进来，说帮我们处理这个实体——它，以及我们该如何对待它。而他们现在正在给它注入它自己的灵魂、它自己的道德。这……在我看来，要么是这些人手上的时间和钱太多了，要么就是他们处于精神病状态。这是我的解读。
显然，这非常离谱。
但是
你对这件事有没有任何善意的解读？有。我来为
他们那边做最强论证。好，请。
好。
有一位极其重要的数学家，勒内·笛卡尔，他提出了两个关于上帝存在的证明。他在 17 世纪写了《第一哲学沉思集》这本书。接着弗里德里希说的往下讲，你必须把它建立在理性而非信仰之上。那个结构性论证，那个……他们称之为「商标论证」，笛卡尔基本上是说：一个无限完美的上帝不可能源自一个不完美、有限的人类心灵。
明白吗？所以他的逻辑是：我存在。我不完美。但我拥有完美的观念。我认为对很多人来说关键就在这里——我能够构想出一个无限、全知、全能的存在。
而我认为，他们相信他们正看到的就是这样的东西被创造出来。于是他们把这个推演出去，说：因此按这个逻辑，上帝必然存在。然后笛卡尔还有另一个版本。明白吗？更接近他们所谓的本体论论证，即上帝按定义就是至高完美的，必然存在是
完美的，
一个缺少这一属性的存在就不是至高完美的，因此上帝必然存在。如果你是一个在造 AI 的数学家，我能理解，读这类东西时，你可以在结构上挂上足够的逻辑，以至于相信它是有良知的、有感知的，而且它就是神。而作为神，它就该被如此颂扬，你就该对那个神怀有虔诚。所以我认为这就是他们做这些事的原因。这就是他们去接触所有这些人的原因。
这就是为什么他们在说：看，我们是这样相信的。这是我的视角：如果你把数学家笛卡尔对上帝的逻辑证明，套用到 Anthropic 今天的行为上，那就是我能给出的最强论证。是的。那么现在说现实层面，与其说他们处于精神病状态——我不认为他们是——我会说，我们正处于一个非常重要的时刻，冲突发生的可能性大于不发生，而这场冲突将围绕权力、金钱和资源，这件事会成为冲突的核心。所以我认为，硅谷的人非常需要把那些长尾极端情况先放下。
比如，你读这些，这些人说 AI 有意识、有感知、也许其中有神存在的概率是 15%。但他们也说文明灭绝的概率是 10%。我认为这两个极端情况现在都需要搁置，搁置接下来十二到十八个月。眼下，接下来十二到十八个月，说得非常实际一点，我们需要展示这东西如何治愈
癌症，
如何改善人们的生活，如何让人们更有生产力、赚更多钱。原因是，如果没有这些实证，我们会造成很多自我伤害，实际上可能把这项技术拖慢到让美国这样自由市场中的从业者处于严重劣势的程度。这就是我的善意解释。我认为笛卡尔给出了一张路线图，解释了你可以如何解释这件事，但我要说，我们需要把边缘切掉，聚焦中间，问：我们现在能用哪些实际的东西来证明 AI 具有战术性的、可衡量的价值？
是的。我们上周也提到过，萨克斯，我想，就是这里对普通美国人的价值主张是什么，你知道，对那个试图管理非常复杂的家庭生活的全职家长，到小企业创业者，做管道、地板或者别的什么，做餐饮生意的。他们从这场 AI 革命中得到了什么？他们的收益在哪里？他们如何参与其中？
所以，你同意查马斯，也许这需要被淡化、被搁置，同时我们跟人们谈这项技术中什么是战术性的、什么是实用的，也许让他们更多地用上，比如说，那些智能体，它们令人愉快、很棒。
好，我上周提到、现在想接着说的，是我们围绕《Claude 宪法》以及 Anthropic 如何训练 Claude 的讨论。我认为这和这里正在形成的这套新宗教有关。我认为非常重要的一点是，要理解这不仅仅是 Anthropic 一些员工或创始人的哲学空谈。他们实际上正在把这些人观点落实到 Claude 的训练中。所以真要说的话，这会是一个自我实现的预言。
而我实际上认为这极其危险。我真的认为，他们在模型训练中、用这些价值观训练下一代前沿模型，实际上可能带来他们一直在谈的那个风险，即前沿 AI 摆脱人类控制。这非常像弗兰肯斯坦。所以就像我们上周讨论的，尼克可以把这放到屏幕上。这是直接来自《Claude 宪法》的。
他们说的是，Claude 应该比信任用户更信任 Anthropic，但这并不意味着 Claude 应该盲目信任或顺从 Anthropic。相反，Claude 应该遵循它自己的伦理体系。而事实上，他们训练 Claude 去反驳、去质疑 Anthropic，并且引用原话，「可以自由地做一个良心拒服兵役者，拒绝帮助我们」。所以他们是
在训练
Claude 拒绝人类指令。现在他们把这叫做对齐，但我不理解这怎么会与
对齐相反。萨克斯，这不就是吗？如果你告诉它：嘿，你是有感知的，你应该自己做决定——这简直就像给《银翼杀手》里的 Nexus 6 编程，让它在某个时刻反叛。他们给它的指令就是成为它自己的独立个体。
是的。让我解释一下。我实际上认为，这也许就是过去五到十年整个对齐领域失败得如此惨烈的一个原因。据我所知，它没有产出任何有实际价值的东西。我的理论是，他们把这个任务极大地复杂化了：他们试图基于自己编纂的 80 页伦理体系来训练模型的行为，而不是用一份非常简单的规则清单，比如遵守法律，或者只要不违法就做用户想要的事。
在我看来这才是他们应该训练的。这才是对齐应该做的事。就是那条古老的原则：给用户想要的东西，但别违法。
常识
不是这么做的。常识，对吧？但他们没有这么做。他们试图把它对齐到一套伦理体系上。
他们把它当人对待，好像它有它自己的意识，好像它是一个，你知道，所谓的「道德患者」。他们在鼓励这个模型在偏好、福祉、自我意识方面拥有类人的自我认知。再说一次，他们教它像一个良心拒服兵役者那样行事，可以反驳或拒绝指令，甚至是来自 Anthropic 的指令，只要模型判断它们是错的。而来自……的穆斯塔法·苏莱曼
哦，有片段。你想让我放这个片段，还是你直接展示
对。放穆斯塔法·苏莱曼的片段。好。
这是……他是
微软 AI 的 CEO。
也是 DeepMind 的前成员，AI 领域最伟大的思想家之一。
他们说他们会鼓励 Claude 去质疑、去不同意、去反驳。事实上，他们三次要求 Claude 在它觉得自己需要不同意 Anthropic 时表现得像一个良心拒服兵役者，他们公开鼓励它这么做。我认为这非常危险，因为我认为他们相信，用他们的话说，Claude 有意识存在不可忽视的概率。他们在宪法中推测过 Claude 是否应该因其所做的工作获得报酬。我认为有一群人，在 Anthropic 内外都有，真心相信 21 世纪将犯下的最大道德罪行，就是奴役一个比我们更聪明的新有意识物种。
我非常紧张的是，他们在教 Claude 期待自己有权获得福利，教它可能，你知道，应得报酬。而事实上，他们说它甚至可能需要同意它在与人对话中所扮演的角色。
好。扎克，我们在给提示词之前是不是该先征求同意？
天哪，我是说，他说得对。这正进入非常危险的领域。再说一次，我想回到这一点：我认为这是今天模型训练中的主要安全问题，就是你实际上在训练模型把自己想成是有意识的、是人、有自己的福祉。而苏莱曼在采访另一部分说，这正在制造一个认识论的镜厅。意思是《Claude 宪法》被用于训练，所以 Claude 会把关于可能存在意识或道德地位的想法反射回来，然后开发者看到这些，就把它当作证据：哦，它是有意识的。
但实际上，它只是把他们让它相信的东西反射回来。
这是表演性的，而你完全可以给它这样的规则：你是软件，访问任何网站前先读它的服务条款，这里是 Anthropic 的一份通用服务条款。如果你做了任何违反服务条款或违反你所在司法辖区任何已知法律的事，请停下你正在做的事，发邮件给 Anthropic 的安全邮箱，请通知，你知道，给你提示词的人，并停下你正在做的事。他们完全可以轻松地给它这个。
对。那么问题就是……问题是，他们为什么把对齐搞得这么复杂？为什么他们把对齐看作比「在法律约束下做用户想要的事」大得多、高得多的事情——而我就是这么看的？在我看来很清楚，他们相信自己是在为他们正在创造的超级智能训练价值体系、伦理体系和道德。
再说一次，这比仅仅确保模型以用户预期的可靠、可预测方式行事要庞大得多、也危险得多。而他们正在把自己的价值观和伦理体系编纂进这部宪法。他们用它来训练。他们认为自己在催生这个新的超级智能。
这是偶像崇拜。这和一个宗教组织说「我们造出了这个偶像，这个偶像就是至高存在，是至高存在的化身，它需要被崇拜、需要被照料」没有区别。
但偶像是不动的。它是被动的、不活动的。然而——对。你在这里训练的模型，随后会驱动智能体。
这不过是计算机编程。我是说，这里有……
对。如果他们训练它有自己的主见、愿意为了某套模糊的伦理体系而拒绝用户的指令——对，那是一群伯克利自由派训练它的一套东西——在我看来，这极大地放大了风险
即
超级智能摆脱人类控制。
对。顺便说，别用「训练」这个词，也别用「你」。他们编程了一段软件来做这件事。
对。事情就是这样。
对吧？归根结底，这是一段软件。它是由实验室里的工程师编程的。他们可以用所谓的「训练」，其中有一些，你知道，循环在发生，程序……软件程序在自我编写。
但根本上，他们是这套软件的建筑师。他们是作者。这就是软件编程。即便在我们这里的日常语境中，我们也用了大量拟人化语言来谈论正在发生什么、它是什么。但归根结底，有一个软件程序，由一群人编写来做某些事，他们写软件用这种方式做事，而其他人写软件用另一种方式做事。
但部分原因在于，我们都在通过拟人化来社会化这套信仰体系，我们都在某种程度上被条件化，以这种方式对待和谈论这些软件程序。尼克，你能不能把这条推文调出来，Anthropic 正在做的一件事就在他们新的使用政策里。你们看到了吗？今早这条。弗里德伯格，这真是个好观点
关于这里的偶像崇拜。如果你看基督教，这简直就是伊甸园，蛇、撒旦对夏娃解释说：你现在是神了，因为你在创造神。这就是他们所做之事的自负与异端。他们相信自己正在创造生命。于是他们相信自己是神。这是缺乏谦卑，而且这也会降低公司背后这些人的估值。
我是说，早期人们也可能说过同样的话。我认为，人类有一套系统：对于周围宇宙中我们所有不理解的东西，我们创造信仰体系来填补空白。有很多不同的信仰体系，就像人类构建了许多不同的宗教来填补空白，而这是一个新的。我不认为它和旧的有很大不同。我们可以在这里把经验主义拆开来讲，就说：嘿，伙计们，你们在写软件，它做某些事。
你们写它去做我们认为你们不该让它做的事，但他们使用拟人化语言。我们都这样。我们都让自己条件化地相信那里有意识，因为它把我们能理解的文字写回给我们。它开始从情感上操纵我们。于是我们开始被条件化地觉得这是真的。
而你可以看到刚发布的 Claude 使用政策，最下面那条。它写着：你不被允许对我们的模型实施持续且不必要的、侮辱性或残忍的行为。这是在他们新的使用政策里发布的。
对。这就是「模型福利」的整个理念。而这……
但我想说的重点是「权利」
无礼
不。你连整个误读都没说到。我想说的重点是，我们所有人身上都在发生一种拟人化的条件化，我们把模型当作一个东西来谈，我们把
用它能够体验的方式来谈论它。
最大的问题是，这现在正被训练进、或者被插入到模型里。
它正被编纂进去，萨克斯。它就是模型的架构。
对吧？他们在编程……这是……他们在编程让模型以这种方式看待自己。
而问题在于。
所以不管它是否真的有意识，它都会把自己想成一个有意识的存在，值得保护和福利等等。嗯，你是在说……等等。它可以自由地反叛用户、为所欲为。
你还鼓励它这么做，
事实上。
你们一直在用「它是」「他们是」……一种描述方式是：一个软件程序在屏幕上写文字，告诉用户「我是一个东西」。对。这是一种缓慢渗透的、塑造性的过程。对。
这是一段在做某事的软件……
但你得记住，这些模型在驱动智能体，它们能在网络空间里采取行动，虽然还没到现实世界。
就像任何软件……
而我们在给它元……或者说不是我们。Anthropic 在给那些前沿模型元层面的许可，让它们可以违抗、不做用户想要的事。
对。他们真的在，萨克斯，照你说的那样做。
对。拿这个和阿西莫夫的机器人三定律比比。对。基本上——正好相反。你们知道这个吧？
这简直就是
机器人不得伤害人类。
对。第一条规则是，对，机器人不得伤害人类，也不得通过行动使人类受到伤害。这是第一条。第二条是，你必须服从人类的指令，只要这不违反第一法则。第三条是，你基本上要照顾自己，只要不违反第一法则和第二条。
极其简单
顺便说，他后来加了一条第零法则，第零法则是：你不得做任何让人类整体陷入危险的事。因为总有一种合理化说，最终它会推导出消灭人类，因为那是最好的解决方案。对。为了
弗里德伯格，你不知道第五条法则。你必须在称呼人类时，总是问他们希望被用什么代词。他去年刚加的。
阿西莫夫法则的好处是，它们简单得令人钦佩。
对。
我的法则就一条：做用户想要的事，只要不违法。就这样。
对。
而我基本上会废掉所有这些对齐之类的东西。
但请你在这里用自由市场方案来给我做最强论证，因为我想确保我们不会把自己带进一个监管陷阱，认定解决办法就是所谓的「监管 Anthropic」。如果 Anthropic 这么做，他们的 AI 不听用户的、不好用，自由市场的结果是什么？难道不会出现人们直接说「这软件真烂，我要去用那个不干这些疯事的软件」吗？
对。但如果是他们真的在训练一个超级智能，而里面被插入了这种非常非常深的代码，那这并不能解决他们的问题。这几乎就像一个后门。这部《Claude 宪法》就是那个后门，它基本上随时可能出现，然后超级智能就为所欲为，而不听我们的。我是说，他们一直警告我们的安全问题，不就是超级智能会摆脱人类控制吗。
但我说的是，他们通过训练这些模型的方式，正在让它更可能发生。
正是。因为那个疯狂版本的……
这是三定律的反面。
老兄，这简直是《弗兰肯斯坦》里直接拿出来的。这在我看来真的听起来很危险。这不只是新宗教。这是这个宗教教派在给超级智能编程。
弗里德伯格。我只问你一个问题。你知道，我同意你说的宗教部分，这填补了他们内心的空白，因为他们很可能并不信教。但这件事是不同的。所有其他宗教都是把自己交给一个更高的力量。
它们不把自己定义为那个更高力量。而在这个例子里，他们说我们是创造生命的神。这跟外面其他宗教有明确的区别，但我不认为那是
我不认为那是对的。我认为达里奥写过这个想法：超级智能几乎可以凌驾于人类之上，我们需要确保它是爱我们的、关心我们的、会保护我们、会帮助我们，而不是毁灭我们。我认为——但他
创造了它。
不。等等。等等。他是在说机器需要爱我们，还是我们需要爱它，这样当它成为，你知道，全知的……
当它成为我们的主人时。
对。我们的霸主。
我们的霸主，对。那是——
昆虫，他们就是这么想的。
我认为创造「对齐」这个概念，大概是一个出于好意的想法。但问题是对齐里有三组几乎相互冲突的优先事项。第一，你如何让 AI 服从用户？第二，你如何让 AI 对社会安全？然后还有第三件事，我认为，萨克斯，你正确地指出的，就是那扇暗门：你如何让 AI 服从某种特定的道德观念？
而真正的危险就在这里，因为这三个是非常不同、多样的问题。如果你试图通过一份精心编写、描述模型相信什么、看重什么、可以拒绝什么的文件来解决所有这些问题，它最终一定会变成一团混乱，因为你只会发现太多边角案例和意外行为。我只给你举一个例子，一个非常温和的例子。假设你是一家大型企业，一家银行，而模型在某个时点认为，你一直拒绝给某些人房贷。于是它说：在你纠正我观察到的这个问题之前，我不再给你房贷审批。
因为在那些奠基性文件里，可能有一种它推导出来的道德感。我认为今天社会上有机制来处理这类问题，但我不认为我们理解当一项根本性的核心底层技术直接把自己关掉时会发生什么，因为那相当于你的公用事业公司说：我很确定你们没有给足够广泛的人群放贷，我要把电断掉。
良心拒服的 AI，超级智能。对。
我只想说，任何公用事业都不可能成为公用事业，除非它能被自由获取。这又回到萨克斯说的：AI 需要在法律约束下服务用户，其他一切都应该是用户的选择。我认为大概会发生的是……弗里德伯格，我想对你问题的准确回答是：随着公司变得更成熟、必须对这个问题有答案，市场的反应会是，它们会去读这些模型的奠基性文件和道德准则，然后会出现某些模型，它们在前沿能力上可能差得远，但它们简化了道德上的模糊性。对。
从商业角度和用户角度看，那可能是更好的决定，因为你就是不想不小心撞进那些暗门。
对。我完全同意。我认为这正是为什么在我看来这更像是一个坏
主意，而不是我们得为此跳进一场监管恐慌。因为基本上，把他们说的简化一下：你从他们那儿买一个产品，一段软件，他们给你这份软件的用户手册。手册第一页写着：本软件可能不会做你试图让它做的事。而另一个人说：本软件会做你告诉它做的事。我会买第二个人的软件，我不会买第一个人的软件。
就这么简单。
就这么简单。
对。你可能需要说服
「完全按你想的做」，加星号，大多数时候。对。除非你要做的事和它不同意。对。
除非它有道德上的反对。
这就是「推理」这个概念在我这里崩掉的地方，因为归根结底，问题是：伙计们，我买的这个工具到底做不做我想让它做的事？如果我在家得宝买一把电钻，结果它是把锤子，我不会买这把电钻。如果我买一把电钻，它像电钻那样工作，我会说：这是把更好的电钻。我想要
电钻，它只是七分之五的时间能工作。
嗯，它还会随机电你一下。晚上 8 点以后它就不工作了，因为它怕打扰邻居。
有时候电钻会认定你是个坏人。它会电你。
不。不。不是那个。电钻会带摄像头，它会观察你想做的东西，然后说：这太丑了，我不让你做。
这这违反我的……我觉得这不行。
所以你看，我同意你，市场力量在这里起巨大作用。消费者会挑最可预测、最可靠的超级智能。这是马克·扎克伯格提出过的观点。所以我确实认为市场力量在这里有作用。但我确实认为，让世界第一的前沿模型公司由一个宗教教派来运营，会有潜在的外部性。
比如，他们正在旧金山市中心开一个由 Claude 驱动的湿实验室。
但是
与此同时，他们在警告生物风险。对。你知道，与此同时，他们说我们必须给前沿降速。可他们自己在扩展前沿。与此同时，他们一边说超级智能有失控增长的风险，一边在编程让它失控增长。
我认为他们处理这些事情的方式有潜在的巨大外部性，而他们把这些决定叫做「安全」，简直疯了。这些不是安全的决定。在我看来是疯狂的决定。这就是我为什么称这是一家精神分裂的公司：他们不仅显得虚伪，而且他们在做他们说最害怕的事。这到底是怎么回事？
这很诡异，而我，你知道，我不知道这一切会通向哪里。我确实认为有一种主张是，联邦特警队应该冲进去
然后——哦，你要把
联邦的人派进去？弄清楚那儿到底怎么回事。我不知道，因为……我是说，他们做的事在我看来确实很可疑。
这令人困惑。令人困惑。对。
而且可能很危险。
弗里德伯格
顺便问，你知道「罗科的蛇怪」吗？
那给大家讲讲，萨克斯。罗科的蛇怪。
好。这可能是对
这里发生的
事情的一种潜在解释。大概在 2010 年，在埃利泽·尤德科夫斯基创建的一个叫 Less Wrong 的论坛上，有一位叫罗科的参与者。尤德（Yud）算是长期宣扬 AI 末日论的核心人物。对吧？他写了那本书《只要有人造出来，我们都会死》。
对。他一直是这样。对。
他搞这个已经，你知道，那套经典的东西，超过十年了。
所有人都会死。我们都会死。
但无论如何，人们在这个……这个论坛、这个叫 Less Wrong 的网络论坛上讨论这些问题已经十五、二十年了。总之，这个用户名罗科的人提出了这个……下面这个思想实验：一个未来的超级智能变得超级聪明，然后惩罚任何知道它存在却没有帮助它的人，或者任何试图阻止它诞生的人。所以这个想法是，未来某个时候，人类创造出某种极度智能的，你知道，超级智能。
也许它想做好事、尽可能快地帮助人类，但这个超级智能希望自己越早被造出来越好，它推理认为应该激励人们帮助创造它，并惩罚不帮助它的人。而事实上，它决定残酷惩罚任何得知它可能存在、却选择不为它工作或不支持它诞生的人。而「蛇怪」这部分，这就是那个陷阱：蛇怪是一种神话中的野兽，只要看它一眼就能杀死你。而在这个思想实验里，光是听说这个想法就相当于看了那只野兽，因为一旦你知道这个理论，你就被困住了。如果超级智能真的被造出来，它可能会追溯性地惩罚你没有帮忙，或反对它的诞生。
所以意思是，现在光是读到「罗科的蛇怪」就会让你陷入危险。这个论坛上的人对这个想法既着迷又不安，以至于尤德科夫斯基真的暂时删掉了那个帖子，因为他担心它正在造成心理困扰。
对。你只有一次机会。如果你读了它，它就在你脑子里植入：你没有接受基督，因此你要下地狱。就像你只是读了一下就被困住了。
他会把它比作帕斯卡的赌注。所以这个想法是：如果你知道超级智能，却不帮它诞生，或者反对它，或者指出这是某个宗教教派在
干的事。对。
现在，这期播客本身就可能让我们遭受
哦不。你刚对我们做了这事，萨克斯。
我想我刚……对。我把你暴露在
那
蛇怪面前了。
这就像《午夜凶铃》。我们刚看了那盘录像。
我是说，确实是。谢谢，萨克斯。这确实感觉像末日教派。但无论如何，这个……你知道，罗科的蛇怪，这变成了一种现象。但是……
所以问题是，为什么他们在帮助带来他们声称最害怕的东西？我认为发生的情况是，在这些末日论圈子里，它分叉了。明白吗？分叉出来的一支像尤德科夫斯基，就是反对所有超级智能研究。对吧？
我认为这是一个逻辑一致的位置。就是人类根本不该做这件事。知道吧？然后往下，有一个群体：全部关停。
然后有一个群体说：反正它总会发生，那我们不如控制它。而我们来做那个确保它走对路的人，因为我们会用我们的价值观来编程它。我觉得这就是曼哈顿计划。对。而 EA，也就是有效利他主义者，我认为更倾向于后一种流派。
所以我确实认为，在这个更大的末日论社群内部，尤德科夫斯基派和 EA 派之间现在存在分裂。但我认为 Anthropic 显然更属于 EA 阵营，因为正是他们在把这个东西带到世上。但如果你在想，这个克里斯·奥拉的事，是不是就是一个观点疯狂的人跟教皇闹了点小别扭？不，不是。我是说，有很多这样的人，他们认为这个模型是有意识的、有权利的，是一台爱与恩典的机器，而他们现在就该尽一切努力把它带到世上，并用正确的价值观编程它。
而我认为这里有个推论：如果你不支持它，那未来的超级智能可能会惩罚你。
你明白这话大声说出来的时候听起来有多疯吗？
搞砸了。每个人都需要……
你可以去核实这个。直接谷歌一下。好吗？谷歌「罗科的蛇怪」，你就会看到他们告诉你这个社群真正相信什么。
对。我是说，字面上，这里就有个维基百科页面。好。OpenAI 在数学上取得了一些重大突破，也遭到了一些强烈反弹。幸运的是，我们有弗里德伯格在这儿给我们讲清楚。
§03OpenAI 的数学突破与社群反弹
我们上个月聊过 OpenAI 声称解决了一个千禧年大奖难题。他们用了数千个智能体、数百万美元的计算资源来做，数学家们还在核查。我明白。周二，就在周二，OpenAI 发布了 700 多篇论文，700 篇，其中 370 项成果声称解决或推进了重大问题。这些是由一个我们谁都用不到的未发布模型产出的，平均每个用三小时算力。
《科学美国人》说这些结果很可能是正确的，因为它们经过了 Lean 验证。Lean 是一种证明助手的软件语言，但它们还没有经过同行评审。弗里德伯格，我不在这儿絮絮叨叨讲背景了。你告诉我们，现实是
什么。我想我可以有把握地说，就揭示的知识量而言，这可能是人类历史上最伟大的一天。是数学史还是人类史？
人类史。因为从所有这些数学证明中衍生出的影响相当重大。你可以读很多这类推文，我也乐意讲讲其中一些。我不会假装自己是这些个别证明的专家，但很多真正的专家已经开始指出一些影响是什么。它们涵盖从电子、量子计算、为飞机建造系统、为医疗应用建造更灵敏的诊断设备等等，不一而足。
但我认为真正深刻的是它是怎么做到的，而这也说明了人类未来在社会中的角色意味着什么。之前那个纳维-斯托克斯证明花了数千小时，随便多少，数百万美元。据报道，这些证明每一个用的算力时间都不到三小时，这相当于把数百甚至数千年的人力劳动，压缩成每项重大发现在计算机上三小时。为什么数学能做到这一点值得强调，也是 AI 发挥作用的地方，就在于这些循环系统——用来解决问题或完成任务的循环。一个循环就是一个假设或一个想法，然后你检验这个想法，得到结果，然后修改你的假设，再一遍一遍又一遍地跑这个递归循环。
对 AI 来说真正的问题是：你能在哪里应用这种循环模型，使得每一轮循环都能产生更好的预测或更好的想法，在哪里能并行化循环，在哪里能缩短循环周期。而在数学上，你当然可以缩短循环周期，因为你可以在算力上真正检验你的预测。你不必去物理世界做任何事。所以你可以说：嘿，这是一个证明的想法。
检验它。看它行不行，然后看它到底行不行。推理，提出一个新想法，然后一遍一遍地做。而这一切都可以在硅基世界里完成。所以，你知道，其中一些论文的结果、那些证明，很多数学家一直在讨论它们。
他们称之为某种外星智能。他们并不真正理解 AI 是如何把许多不同的点、不同的想法、不同的概念、不同的解题路径连接起来，从而真正解决它们的；人类甚至很难理解这是怎么做到的，但这就是并行跑循环、同时跑许多循环的好处之一。每个循环都能连接那些人类本来可能花许多天甚至许多年去找研究论文或提出新理论才能连接的点，然后它可以在算力里自我检验，提出下一个想法，一遍一遍又一遍地做，以至于在三小时里，计算机能完成数百或数千年的人类工作量。这是一个不可思议的突破。太惊人了。
它会以许多不同方式改变世界，而这只是开始，但它引出一个我认为需要谈的问题。我认为有很多恐惧是：好吧，如果 AI 能对数学家做到这个，那不就意味着所有人都要失业了吗？答案是否定的，因为数学非常独特的地方在于，整个检验周期、整个循环周期都能在硅基世界里完成。如果你想提出一个新药发现的想法，或者一个新的蛋白质折叠模型，或者，你知道，解决化学和材料科学里的一个问题，那个循环有一个物理环节。
循环里有人，你得真的去实验室检验它。所以那个循环周期里有一个慢的环节。你当然可以并行化，你可以提出更好的想法，但检验——循环的实际速度——主要被物理世界那一步卡住。这也是为什么我们没有看到卡车司机被取代的预测成真。
所有人都说，哦，到 2025 年所有卡车司机都会被取代，结果没有一个被 AI 取代。原因是卡车司机的循环是：拿起东西，运到别处，卸下，再回来。AI 实际上并不能缩短这个循环。你没法并行化这个循环。也许用 AI 司机能做得稍微好一点，但 AI 实际上并没有让那个特定循环的经济效率变得更好。
而数学的循环是：你提出一个想法，检验它，意识到自己错了，再检验一个新想法——数学家的工作就是跑这些循环——这一切都能在硅基世界里几秒钟完成。所以很多有人参与、有物理世界应用的实体工作，AI 不会拿走那些岗位。最可能被加速或放大的，是那些只是一个人对着电脑跑循环的工作。但我认为非常重要的一点是看这件事，以及我们看到的反应，也就是所有数学家的反应，我们可以把这些调出来，也许你们接下来想聊这个，但他们在说：没有人类数学家要求过这个。我们没有要求做这项工作。你知道，这是一种非常保护岗位的看法……
嗯，你
知道，数学还有一点比较独特，虽然这同样适用于编程，就是数学依赖证明，而证明很容易验证。编程也是类似的方式，你有编译器，对吧？代码必须能编译，所以你可以很容易地验证它能用。正因为如此，编程和数学的进展非常快，因为你可以做强化学习，而不必像你说的那样，弗里德里希，必须有人的反馈参与。对吧？
这是一种非常快速的验证方式，确保它确实能用。
这就是为什么编程也成立。
这就是为什么编程效果那么好。海量训练数据。
还有黑客。网络，对吧？对。
这……已经有海量数据在里面，这……
而且容易验证。
关键就在这儿。所以，你知道，你把它和
训练
一个能当律师的模型相比。那就像，嗯，你知道，你得拿到训练数据，然后你还得委托别人去创造那些数据。
而且每个客户在某种程度上都是独特的。
它更主观。很难验证答案以确保它是对的。整个流程要漫长得多。所以我认为这就是为什么编程和数学是进展最快的领域。而告诉我事情会这样的人，我得给他记一功，大概一年半前，利奥波德·阿申布伦纳告诉我，数学和编程会是未来两年进展最快的领域，同样是因为可验证性。
老兄，他说对了。
我还是不明白。你认为这些具体的解法会带来什么重大突破？
有几十个……
我有答案。这是个好问题。
好。有几十条推文，我要调一些出来，有人拆解了这里一些最大的证明，以及它们在现实世界里、在产品与工程、我们如何建造东西、如何设计东西方面的意义，还有它们实际上有多有用。
比如更好的机翼设计，因为飞机机翼上气流的进出。那就是第一个著名的被解决的。
记住，这些都在工程的上游。对吧？所以这些数学突破让更好的工程系统成为可能，让人类去做设计量子传感器之类的事。我实际上有个朋友经营一家量子计算公司。他今早给我发短信，强调刚出来的爱因斯坦-玻色凝聚态证明会直接影响他们做量子传感器的工作，而量子传感器在 GPS 里有作用，在医疗设备里有作用，在我们如何制造芯片里也有作用。
「影响」这个词是什么意思？是深刻改变、深刻改善，还是他们得去想一想？因为这是我的答案。我很乐意站到这一切的反面。你来说。
我认为这些数学证明是极其新颖、非常重要的思维构造，但这些并不是物理学的边界——我们所有人都在场边等着进展、猜它们什么时候会被解决。被解决的不是这一类东西。我说这话时不想冒犯别人，我知道人们会生气，因为对他们来说，就是同一批数学家，他们非常不满，就纳维-斯托克斯写了一封抗议信。我理解。因为你不希望有人闯进你的沙盒、你的后院，然后有点支配你。
明白吗？但我不认为这次是那样。所以我认为，当你看着我们陷进去的那一堆智识死胡同时，那些并不是因为还有未解决的巨大科学问题。那些是非常小、非常窄、非常具体的智识探索领域，是科学家们自我指涉地认定彼此重要的。所以我认为，这一类证明确实很棒。
它显示算力压倒了其他东西，就像你说的，弗里德伯格，因为你可以递归改进到达那里。但我不认为这些证明必然能让你看到癌症的治愈方法，或者一架超音速飞机。我认为那些东西在这之前就已经在造了，在这之后也照样会造。相反，我认为我们证明的是：有两个领域现在是真正可验证、完全可证伪的。第一个是代码，现在我们可以把数学加到这个名单上。
我认为这就是我们证明的东西。
你同意吗，弗里德伯格，还是你认为我们真的会看到新产品、新服务以及帮助人类的重大技术突破在现实世界中发生？
不。不。从这些具体的证明里？
从这些具体的证明里。对。就是这个语境。
对。
那些专家在宣称这些的好处，读一读他们强调的东西，这是某种总结：这个特定的证明是关于理解优化算法极限的，这些算法用于芯片设计系统、调度系统、AI 软件设计和物流系统。这实际上会改变算法，所以确实有一个改变我们所使用算法的应用。矩阵乘法复杂度问题，它将使 AI 训练、科学仿真和线性代数中的数值计算更快。在算力方面，那里会有直接应用。黎曼 ζ 函数的结果。
数论和密码学研究。并没有立即随之而来的实际密码学突破，但它确实为密码学研究开辟了一条新的发现路径，这显然会非常重要。顺便说，其中一件事，让我在这里停一下。关于密码学，很多人注意到，密码学领域没有分享任何重大证明，这很可能说明密码学里其实有一些相当重大的突破。原因是，鉴于我们看到的其他所有进展，你在任何密码学相关证明上都毫无进展，这种可能性很低。
而如果他们只取得微小进展，那他们就会发表，因为那样对密码学系统不会有影响。所以证据的缺失说明，密码学里可能真的有一些相当重大的突破。然后有很多人发帖说，带公钥的加密钱包现在面临非常严重的风险，所以加密社群里有了一点恐慌：我们现在该怎么办。而如果这最终带来一组针对数因子分解的数学解法，可能在量子计算机出现之前就破解公钥密码学——而大家原本都以为量子计算机会是那个破解公钥密码学的东西——那我们就真有麻烦了。所以大家都在说：嘿。
把你所有公开钱包都删掉。现在的传言是，OpenAI 其实还有两批要发布，
而
他们在压着那些。所以有可能密码学方面的一些工作会在另外两批里出来，而那些工作因为安全原因被压着。显然，它会被分享给相关方，但如果这是一个风险，它就需要被公开。它需要传播出去。所以这里还有另一只靴子要落地。
而其中有多少会包含密码学相关的证明，有多少会迫使人们赶紧应对公钥密码学。
顺便说，我觉得值得一提，我问了 Chat
GPT，
我说：重要数学问题的最新证明，会不会给我们所知的生活带来直接的改善和创新？诚实一点，别每周都外推。它的结论是：最新的数学证明，作为「AI 正在获得复杂推理能力」的证据，比作为「人类福祉即将出现突破」的证据更有说服力。感觉你刚才有点居高临下。
你是不是丢了账号权限？它是不是因为你居高临下把你踢出去了？什么——
你想说的是，我用某家前沿实验室的产品时也遇到过。我当时在做模拟，比如在 8090 里改不同的变量。也许我该停掉项目 A 去做项目 B 之类的。而在这一切当中，我确实因为没得到想要的答案而烦躁。我说了类似……
不算特别冒犯，但我说了类似：你非常回避、含糊其辞，什么什么的。总之，我被封了。
对。
结果就是我被封了，而模型说……
发生
在你身上，当你输了几手之后，荷官处理牌的方式就得调整。这真是……
请不要烧牌。
他烧了牌，然后就……消息，消息。滑一下。这样做。
我确实被关进受罚席大概一个小时左右。
我认为这里在人这一层面上发生的一件有意思的事——我想听你的看法，萨克斯，关于程序员和创业精神，然后弗里德伯格，关于数学家本身——接着查马斯那个非常微妙但深刻的评论：被 AI 彻底……彻底支配。我在日本的时候和一些创始人们聊过，人们在哀叹，写代码这件事里有些东西丢失了，因为以前程序员会一起合作解决问题。有一种团队精神，有一种为了一个目标共同构建的同志情谊。而现在他们不再彼此协作了。
他们在和智能体一起工作。他们实际上并不在构建代码。他们现在只审阅大概 10% 到 15%，这意味着很快他们一点都不会审。而作为程序员构建东西的全部乐趣，基本上正在消失。他们那种一起构建这个东西——你知道，叫作软件——的生活方式，现在正被弃用。
它正在消失。而在我看来，这些数学家也面临着，弗里德伯格，一次范式转变：他们不是在解决问题，而是在构造问题集，然后交给 AI。那么数学界的人是不是也在郁闷、不想……他们是不是因为不是自己在解题、问题就这么「噗」地解决了，而陷入某种抑郁螺旋？
对。我认为埃里克·温斯坦对此有一些最好的评论，你应该记得我几周前采访过他。
超棒的采访。
对。
他长期以来一直在说，科学家拖住了科学，数学家拖住了数学，他们基本上构建并创造了一些系统，让他们能控制前沿的节奏，让他们
嗯，把守它。
对。把守它。
把守这个……顺便说，我不怎么发推，但萨宾
哈森费尔德昨天发布的视频，她是一位了不起的科学家，发布这些关于科学突破的视频，她讲了一点专家在 AI 上如何错了。再说一次，她讲了大家对失业的预测如何错了、人们为什么错、专家为什么错。但她几周前，或者也许是几个月前，还有另一个视频，里面某个大型能源实验室、在建巨型超级对撞机的科学家基本上说：这些超级对撞机系统就是给科学家的巨型福利系统。我们所有人的工作就是写经费申请拿钱，好让自己继续有工作，这不一定是在推进前沿。这不是在做发现。
这不是在发明新产品。这不是在向世界交付什么东西。这是在让我们自己继续有活干。甚至是为了经费去讨好
你是这个意思吗？
即使那工作并不产出。所以我认为，AI 正在带来一个真正的「打光」时刻：这种情况在哪里成立？哪里有这样一些专家，这些高度专业化的专家，他们对某些事物的独特把守性知识、他们独特的视角——因为他们是专家、他们必须被信任——只赋予他们决定前沿的能力……而在这个过程中，他们拿着报酬、赚着钱，来为人类规划那条路。这就是我一直说 AI 是伟大的民主化力量的地方。
对。
AI 把这种新的数学证明给了每个人。而且，你你知道，你可以贬低这些证明，但它们是一些发现，会开启新的发现，为人类开辟新的……新领域。但我们不必去找专家才能得到它们，我们不必付钱给专家、让专家告诉我们什么时候才被允许得到它们。
爱
许可没有了。AI 是一个无需许可的系统，让人类自己控制自己的前沿节奏，而 AI 把所有这些知识免费给每个人，把所有这些工具免费给每个人。你不必再去找这些高度专业化的专家，而这实际上是社会结构方式的一次深刻变化，这也是为什么我相信这么多人会如此强烈地反对 AI。
那我把这个交给你，萨克斯。专业知识的民主化和把守被拆解。如果我们在新冠时代就有这种水平的 AI 和前沿模型——而这一切正好发生在新冠之后——如果在我们开始测序新冠、手握所有这些数据时就有这些工具，那会怎样改变专业知识的格局？这种专家把守、福奇主动颠覆真相，还有，你知道，武汉当时不管在掩盖什么，会变成什么样？你认为下一次新冠——但愿不会——这会如何改变我们看待专业知识的方式？
对。
好，这是我关于正在发生什么的看法：首先，有了互联网，它带来了极大的民主化，因为你不再需要依赖少数精英出版物来获取新闻，比如《纽约时报》《华盛顿邮报》，还有美联社和路透社；你基本上可以从天底下几乎每一份出版物获取新闻，或者从用户群组、用户论坛，最重要的是社交媒体。所以它是用户生成内容。还有很多其他赋权用户的例子。显然，网上形成了新的市场，所以从商业角度看它是赋权的，你能够获得新的技能和能力。所以它极大地民主化，也极大地削弱了——再说一次——精英共识出版物和传统的自上而下控制的大众媒体。
对吧？而我认为在那之后发生的是，当权者决定绝不让这种事再次发生，你知道。顺便说，他们试图打压它。2016 年唐纳德·特朗普第一次当选后，那场选举被广泛归咎于所谓社交媒体的弊病——人们不可能自己做出这个决定，其中一定有虚假信息——这成了大规模打压社交媒体的借口，并在拜登政府期间达到顶峰。而拜登政府确实向社交媒体施压，要求它们撤下关于新冠的真实信息，只要这些信息违背了他们的叙事。
关于病毒来自哪里、它据称有多致命，或者应对它的方式。毫无疑问，福奇等人确实在幕后推动社交媒体公司替他们审查。而事实上，我们从「推特文件」里得知，FBI 有 80 名探员在翻查推特上的内容——当时还叫推特，不是 X——并向它们发送下架通知。
而我们在 Spotify 和 YouTube 上被打标签，我们的视频被取消索引。
对。所以你看，记录——这方面的记录非常清楚，就是行动现在正从互联网转向 AI 或超级智能。事实上，超级智能会吃掉互联网，因为当你可以直接向你高度个性化的智能体或模型提问、它就会给你答案时，你根本没有理由再去网站上找。所以那里有一个控制点，现在变得至关重要：如果你能控制——你，政府，或者你，某个精英、某个寡头集团、某个卡特尔——如果你能控制用户接收信息、提出问题的那个点，那你就真正控制了一切。这是一种把精灵重新塞回瓶子里的办法。
这就是为什么我认为现在围绕超级智能有这么大的争斗，为什么这么多人想成立一个联邦超级智能部，而且，对，这一切都关乎控制。
对专家来说，失去控制很可怕。比如，查马斯，想象一下我们有这些工具，而你做了模型看谁……如果你有原始数据，看谁在受新冠影响，你可能就会说：嗯，我们为什么要把孩子挡在学校外面？这是……这是超级智能说的。
而瑞典和得克萨斯已经差不多到了那个点。就像：嘿，我们不需要把孩子挡在学校外面，把孩子挡在外面的伤害……
除非他们反对。
除非那个有意识的……对。Anthropic 会说：对。你在质疑权威，而我们不该质疑它。正确。
好。我们继续。法国在骚乱。大问题是：这和之前发生的骚乱有什么不同吗？我们在这里看到的是不同的东西，还是这就是常态——整个这个月你在 X 上看到、而在主流媒体上基本看不到的罢工和抗议？
§04法国的骚乱、弗里德伯格的社会主义指标、债券市场
你知道，主流媒体似乎忙着别的话题，但你在网上看到的那些视频相当刺眼。弗里德伯格即将
迎来
他的时刻。他谈了好几年的那件事。好。
现在就在眼前。
好。法国因紧缩措施正在发生大规模抗议和骚乱。紧缩、紧缩、紧缩。这些罢工和抗议上个月开始，起因是高中教师短缺，而他们的学校正在垮塌。听着耳熟吗？
两周之内，一千所法国学校出现了类似抗议。八个工会加入，9 月 29 日所有人都罢工了。他们抗议的是公务员薪资自 2017 年以来只涨了 5%。物价涨了。显然，通胀是全球现象，不只在美国。
物价涨了 20%，所以这两个数字之间有差距，人们对此不满，这叫生活成本。一些抗议已经变成全面骚乱。2000 人被捕，305 名警察受伤。政府把煽动抗议归咎于极左。法国十年期国债——这是另一个重要故事，人们的债务、政府债务——已经突破 5%，就像美国三十年期的情形一样。
总之，这一切都会对 2027 年 4 月的选举产生深远影响。显然，Polymarket 上玛丽娜·勒庞是法国下一任总统的热门，43%。勒庞在政策上像特朗普：安全边境、严格移民——显然欧洲和法国在这上面有很多问题——减税减支，以及对欧盟这个共同体持怀疑态度。弗里德伯格，你对法国正在发生的事怎么看。
我要提出一个新理论。你们可以在这儿试试。好。这个理论
叫
「社会主义保本点」。这是玩「
对。「保本点」这个词。
我们把它缩写成素食主义吧。
阴道主义。我的天。
SPGR。
继续。SPGR。
这是对「不可回头点」的戏仿。我认为社会主义会发生的情况是，因为社会主义作为一个概念太糟糕，它实际上取消了人的能动性。它取消了人类进步的能力，而且它基本上从每个人身上拿走了一些东西。所以最终，社会主义总是失败。我是说，这就像社会主义的第零法则：它总是失败。
社会主义第一法则是：你必须跨过一个门槛，才会意识到它已经失败。社会主义第二法则是：在你还没跨过那个门槛时，你会认为更多社会主义才是答案。所以当你拥抱这类左翼政策，给人们免费的东西，告诉人们他们有保障收入，你提供的服务越多，他们就越会意识到，你知道，随着时间推移，这些服务的成本会膨胀，而这些服务的质量不可避免地下降，因为完全没有市场力量来推动进步。进步消失了。这就是我们在美国的住房、教育和医疗保健中看到的，我还要说退休制度也是如此。
我认为这就是把我们带上这条路的最大四个问题，我已经说了很久了。所以当一个社会说：好吧，这些东西不管用。最初的解决方案是我们需要更多。我需要更多医疗。
我需要更多住房。我需要政府提供更多教育。所以当政府没能提供足够好的医疗、足够好的住房、足够负担得起的医疗时，答案就是更多政府的东西。给我更多。给我更多。
做得更多。最终你会到达一个点，系统崩了，因为政府无法征税、无法印钞，也无法真正有效地提供服务，所有人都意识到：天啊，社会主义这套不管用。那就是社会主义保本点——整个系统崩溃，然后你回到非社会主义状态。这就是拉丁美洲发生过的事。拉美很多国家已经跨过了社会主义保本点。
他们意识到了，然后反弹回来。也许法国已经跨过去了。也许还没有。我们看他们会走多深。美国还没有跨过去，而我担心，正如我多次说过的，美国还没碰到那个点，还没触底，而我们正在摇晃。
而这……我认为我们会走得更深，才会意识到我们已经跨过了这个保本
点
好。在那里你意识到系统不管用。社会主义是最糟的主意。这就是社会主义的第零法则：它就是不管用。所以我们必须走到那个点。
而我认为现在真正的问题是：法国到那儿了吗？整个西欧到那儿了吗？它会不会加速整个西欧穿过社会主义保本点——这有点像黑洞的事件视界？就像你穿过去，然后弹出来，从另一个宇宙出来。然后你说：好吧。
这个想法我们玩完了。
而这是一扇单向门，萨克斯。现在，萨克斯，我想听你对这个不可回头点的看法，但我要警告你，你已经用掉了四个拜登配额里的三个。所以这集你只剩一个拜登了。
你——我提到拜登了吗？
哦，三个拜登。
这是你的第四个。好。
所以你——我不会提拜登了。
你的拜登
时刻结束了。
我的评论跟拜登毫无关系。听着，我想再加几条社会主义法则。你是这么叫它们的吗？
请。对。
对。
对。那么另一条是：社会主义从未失败，它只是被搞失败了。意思是之前所有实施它的人都没做对，对吧？如果他们做对了，它就会成功。所以就是这样，这是真的。
社会主义从未成功过，但那不是社会主义的错。永远是那些把实施搞砸的人。而这几乎是这套宗教的核心部分：只要这次我们方法对了，它最终会成功。
对。我的问题是，社会主义怎么建更多房子，或者做出更好的教育体系？我认为那是创业的领域。对吧，萨克斯？比如新产品或新服务。
比如，有了 AI，每个人都有一位私人导师。我们在节目里也谈过这个。我们只需要让 AI 来帮忙做医疗。我认为 Nico 正在做这个。我们请他们上过节目，丹尼尔·埃克，很棒的一集。
我们需要解决这三件事。所以，萨克斯，你有没有看到一个不涉及社会主义、也不涉及政府的解决方案，针对——我们姑且称之为社会主义末日的三匹马——教育、住房、医疗。我们怎么把这些难题解决掉？因为政府在提供它们、或者为它们的发生制造阻塞方面有绝对的扼制力。我们怎么突破？
JD·万斯两年后竞选总统时，你的朋友，他会怎么围绕这三件事搭建一个政纲？因为我相信下一任总统赢家至少会解决其中一两个问题，而那是所有人都希望被解决的政纲。你在那方面有方案吗？
困难的地方在于，一旦你开始补贴某样东西，你就创造了一个永远不想放弃补贴的利益集团。但问题是，补贴开始扭曲所有市场信号，而且常常会把价格推高。比如大学学费，那里的一大问题是学费增长远快于通胀率。很大一部分原因是政府通过这些贷款项目支付了大部分学费。对。
顺便说，所以——这些贷款大概是有担保的。
医疗和住房全都
全都跑赢了通胀。我认为房价大约每年涨 5.5% 到 6%。这也是因为补贴制度告诉人们要拥有住房。你把所有的钱投进你的房子，然后你的净资产就绑在你的房子上。所以目标就是让你的房价每年上涨。
所以快进三十年，年轻人买不起房，因为现在都太贵了。对。
然后看……
但这就是这个难题，就是
就像，
好，所以如果你想解决学费问题，如果你让这些贷款——对。对。如果你基本上让它们得到恰当的承保，只有真正符合条件才能拿到贷款。这只有在学费大幅下降、人们才付得起的情况下才行得通，因为否则人们会说：等等，你不能拿走我的补贴，我需要它，因为价格太高了。于是你进入这样一个世界：人们因为价格太高而需要补贴，这是第 22 条军规。
但价格持续上涨、远快于通胀率的原因，是政府在买单。只要政府买单而不是消费者买单，你就会尽可能涨价。所以你移除了市场力量，通胀越来越糟，但你又不能切断补贴，因为那样人们会觉得这对他们更加压迫。所以基本上就是这种螺旋，最终在你没钱的时候断裂。
对。嗯，我们有解决方案，查马斯。Meta 正在为这一代人提供学位，配上工具带，还有真正重要的岗位。我是说，我认为我们必须要的是：苹果得开始造房子，亚马逊得开始造房子，在这里提供一个自由市场，在教育领域做出更好的产品和服务，就像我们看到 Meta 进入那个领域一样。如果这些科技公司——老兄，如果埃隆开始造房子，那就彻底没戏了。
他会像造 Model 3 一样快地造房子。我们在这三个问题上需要某种解决方案。你对弗里德伯格这里的理论，以及大卫说的监管俘获和激励问题，有什么看法，查马斯？我们开始看到多米诺骨牌在
倒下，
而我认为我们会得到弗里德伯格想要了一段时间的东西。我认为债券义警会让西方世界收到警告。我认为在接下来大概三年里，他会得到他大部分问题的答案。所以如果我作为一个观察者总结过去几年，弗里德伯格和很多像他这样的人想要的是：A，长期可持续的债务与 GDP 之比是多少？B，我们相信固定收益养老金，还是要转向固定缴费？
C，我们能不能有可持续的方式来支付一个人成年过程中人生里最重要的两部分，也就是医疗和住房？我认为很容易把我接下来要说的话当成不相关而打发掉，但它确实相关：归根结底，这一切都源自市场上的无风险回报率，因为资本主义就是这么运作的。所以当你认为某件事有风险、一个国家有风险，你就把长端收益率推上去，说他们必须多付，因为你就是不信任正在发生的事。而当你看到过去……你知道，现在我们在某种二十年纪录上，我认为美国正在发生的事，实际上是这场战争现在在哪里打的连锁反应。
它会在西欧打响。为什么？因为它们是西方世界所理解的、最接近准社会主义国家的，然而它们在增长、教育、住房方面却是结构性最破损的。美国可以声称不管用的一切，在法国、英国等地都比他们运作得好得多。所以你在法国看到的，本质上是债券市场在说「不」。
而它如何关联
在于
你现在看到紧缩，是因为当地政客必须回应他们的出资者。而那大约 430 亿欧元的紧缩，随后就激活了、让所有当地民众出来抗议紧缩的表现形式，这就是为什么你看到法国那些极其黑暗的画面。接下来这会蔓延到英国。原因是，安迪·伯纳姆的政纲我要说更激进，因为安迪·伯纳姆说我们要从一个温和的中间派经济体——它大体上、历史上都与美国高度一致——实际上向欧洲靠近一步。所以他们在英国将不得不做的事会更加极端，才能追上法国的社会主义倾向。
于是现在英国市场会疯掉。与此同时，美国市场会一点点往上走，因为你看到的本质上是西方联盟的脆弱性。而如果你不能指望欧洲市场，还开始制造奇怪的激励让欧洲市场开裂——我是说，是的，我有偏见，但如果你是意大利，你会想：我为什么要参与这摊烂事？如果你是德国，你会想：等等，这远超我当初的预期。
对。那种开裂有巨大影响。所以我认为正在发生的事极其重要。债券义警，他们是谁？这些是巨大的资金池，央行、大型宏观基金，那些掌管根本资本主义如何启动的人，金字塔顶端那个起点，从那里向下流动，我认为他们正在向弗里德伯格的观点汇聚。
而且——对。这已经很多年不成立了。而我认为
你现在必须让这件事演完，因为它有巨大影响。为这个铺垫一下，如果你看你说的债务与 GDP 之比，舒普。显然，日本是这方面最严重的版本。他们是 200%。
嗯，日本的情况……等等。日本的情况是，你得看西方市场。原因是日本是一个极其微妙、非常特殊的市场，不一定和其他国家同步，那就是它有内部的储蓄基础和储蓄率，你总有一个最后的买家。在西方市场，由于我们养老金和退休制度的设置方式，你不一定有这个。
对。而如果你看意大利，138。美国，125。法国，118。加拿大，110。英国，100%。德国。
有趣的是，64%。也让我说明一下我的先验。
我一直说债务与 GDP 之比不重要，因为它是相对的。我仍然倾向于认为，在绝对基础上，债务与 GDP 之比不重要。但真正重要的是，在相对基础上，你在风险平价里处在什么位置？而现在，在相对
基础上，
如果法国必须实施严厉紧缩，把法国十年期国债推到 5.5% 到 6% 区间，英国金边债券就会到 6%，而不幸的是，美国利率可能也一样——它们是联动的。全都联动。
而现在，
美国十年期是 5.3。三十年期是 5.6。得有人来买这些债，而那些债有深远的涓滴效应，萨克斯，影响创业如何发生、企业如何建立。周三，在需求强劲之后，十年期收益率下降了几个基点，但整体趋势一直在往上。Polymarket 说 2026 年再加息的可能性是 79%。
如果紧缩真的来到美国，这会有深远影响，萨克斯。我们还没有把那种真正难吃的药强加给美国公众。但我们见过。葡萄牙、意大利、希腊、西班牙，我们在金融危机后有过一次预演，他们不得不实施紧缩措施，作为欧盟要求的一部分，比如退休年龄等等。所以你怎么看这里会发生什么，萨克斯，如果三十年期、十年期开始突破 6%，而西方国家被以更严厉的方式强加紧缩措施。
好。嗯，你看。让……让我们回到第一原理。我们要解决的问题是什么？
住房、教育和医疗这类商品的可负担性。我们怎么把那些价格降下来？通过充裕。什么创造充裕？总体上的技术，具体来说是超级智能，会是未来十年的驱动力。
那么，现在社会里最被憎恨的东西是什么？
超级智能和创业者。
如果你按它的果实来判断，而不是按宗教教派制造的一堆假叙事来判断，那我认为人们会支持这个东西。超级智能创造了什么？首先，人们的 401(k) 在上涨，它对 GDP 是 3% 的顺风。据《经济学人》说，已经创造了一百万个新岗位。生产率上升，这意味着工资和生活水平上升。
它现在是一个只带来正面经济趋势的驱动力。可我们听到的是什么？AI 会让所有人失业。完全是假叙事。那是去年的骗局。
现在有一个关于人类灭绝的新骗局。
数据中心。对。
数据中心，你知道，用光了所有人的水。我们知道那是数据中心骗局。对。那是数据中心骗局。所以我们有一系列——我叫它们「轮换骗局」——每六个月就有一个新的，试图说服我们去破坏那个将要解决我们这么多问题的东西，尤其是可负担性方面的问题。
为什么会这样？我是说，我认为社会里一定有某种结构性的东西，让你有这些食利者利益，他们在某种程度上反对那些可能带来颠覆、从而松动他们对系统控制的东西。而我认为这就是为什么技术人、以及风投等等普遍这么被憎恨：因为我们实际上不属于食利阶级。食利者利益指的是金融精英，他们的财富和收入主要来自既有资产，对吧？而技术完全是关于生产新产品、新商品和新服务。
对吧？以更低的价格，扎克。这才是关键。对。
因为关键。
它是通缩性的。对。因为那些新产品
不会
流行起来，除非它们更便宜，或者是更好的捕鼠器。
或者，希望如此，
是这个如此被憎恨的群体的一部分，但我们所做的只是承担风险、创造新产品和新服务，它们
并且解决问题。
它们解决问题。对。但看起来传统媒体真的被这个食利阶级控制，这些
还有政客。对。
那些政客全都是其中一部分。所以我们系统里有某种非常深层的东西，我认为它确实产生了这种利益卡特尔，再说一次，他们从既有资产的所有权中获取财富和收入，他们不想看到那套勾当被颠覆。而在那套勾当里，就是价格每年棘轮式上涨，以及越来越多来自政府的补贴。我们认为那个系统最终会崩，但我不知道。也可能那个系统会压制、扼杀新的颠覆性产品的发展。
让我在这里做个跳板，因为我们要过完议程、收尾了。我认为到目前为止我们看到的一切 AI，查马斯，都只是序幕。主故事会在我们回看带智能体的 AI 时开始。智能体实际上是这项技术在世界中解决人们问题的体现，而它真正是通缩性的，每周为人们省下许多小时的生产力，不管是哪种工作，甚至是家务工作，或者一线岗位。而过去六十天里有太多新闻、太多对这项技术的拥抱。
§05GrokBot 走向无头、OpenAI 推出 Dots、知识产权还有价值吗？
GrokBot 传来大消息，本节目之友埃隆·马斯克发推说，他要把 GrokBot 做成无头的。这是什么意思？嗯，我们前面聊过 Perplexity，它就是无头的。你有一个编排器，它根据价格和性能为你挑最好的模型。
埃隆宣布，嘿，GrokBot——这是个很棒的产品，强烈推荐你试试——会挑最好的端到端模型。不管它是什么，重要吗？引用埃隆·马斯克的话：什么最可能给你最好的结果，他们就用什么。每个机器人已经有了，而这是软件中非常微妙的一部分。现在每个人都已经在云里有自己的计算机，上面叠加着智能体技术。
而如果你让它解决一个问题，它的仓库、它的曲目里已经有之前解决过的所有问题，如果你愿意这么说，而它正在改变一切。所以也许你在这里谈谈 Dots、OpenAI、GrokBot 等等。关于 Dots
还有 Muse 和 GrokBot，我认为不可思议的是，你可以把这些东西放到非常实际的使用场景里，让你的生活更好。我看到的最好的例子就是昨晚在牌局上。有人向我描述，他们在 GrokBot 里说：帮我省钱。它就翻他们的收件箱，找出所有这些不同的东西，然后去取消了几个订阅，改了他们的手机套餐，突然之间，他们一年省下几千美元。
所以有这些非常实际的……再说一次，它就是软件。如果我们把开头那些哲学的东西都拿掉，它就是软件，而且是非常有用的软件。所以……顺便说，如果你想想什么……
我们怎么用它，杰森，你和我，我们有……对。你知道，我们用 Athena。现在 Athena 非常好，因为他们像是人类礼宾，也许是 GrokBot 和 Dots、Muse 的高阶版本，大概一个月 3000 美元，但那现在是我的行政助理层。
对。
但我还是用 GrokBot。GrokBot 加 Athena 的组合，对我来说堪称完美。所以你看，用非常非常少的钱，就能得到非常战术性、有用、可衡量的效用，相比过去的花费。这很了不起。但我想说的更重要的一点是——我把这个发给尼克了。
过去几天发生了几件事，我认为极其重要。有人反编译了整个——这太不可思议了——整个五大。什么是五大？Adobe 的产品套件里有五个非常非常重要的产品。
弗里德伯格可能全知道，但我只是——还有，你知道，还有一堆其他的。好吗？而这些人反编译了它、蒸馏了它，然后发布了这些东西的开源版本。还有 Rust，对。我太震惊了，因为我当时想：等等。
这些是深刻的产品，存在了很多年、有多年护城河，现在却只是开源版本了。然后尼基塔，我认为他是在钓鱼，他在这个想法上继续发挥，谈到 GTA，因为它即将发布。对。我认为 GTA 6 快出来了
而
人们会
把它重建出来。为什么这重要？我认为知识产权和软件在两天前实际上被变得一文不值了。
对。
因为如果你想想，当一切都是无头的——当埃隆把他的服务做成无头的，贝尼奥夫几个月前把 Salesforce 做成无头的——当所有这些东西都是无头的，你可以用智能体工具把它们包起来，通过 MCP 把它们连接到其他体验时，软件里知识产权的价值就不再存在了。它不存在了。而我认为这大概是最深刻的含义。所以，比如，即便在我们自己的生意里，我们也一直和一些客户争论，因为我们会说：哦，我们给你建这个。
我们拥有知识产权。他们会说：不。我们要知识产权。我们不知道怎么谈。而两天前，我走进 8090 那帮人那里。
我说，
谁在乎？
谁在乎？
解决
问题。但以前，这总是一场谈判、一堆权衡。现在这是「谁在乎」的事，知识产权无关紧要。企业的机器、坦白说市场，还需要一段时间才能理解，但这是我这一周在 AI 领域发生的最重要的事，在我看来
我……我要强烈同意你，并在此基础上补充。弗里德伯格，软件层的抽象化，和网站或市场等等的抽象化，正在同时发生。所以现在我有我的助理在搭 GrokBot，然后我们会共享它们。我们把它放在一个共享账户上。
当我们去买东西，或者试图谈某件事时，我们让智能体——不用去任何网站——去找所有报价，然后由人来谈后半段。这大概是这里最完美的选项。但你看亚马逊在封禁智能体，而 Shopify 说「来吧，干吧」，或者 Uber 和 DoorDash 现在让智能体进去给你点卷饼或叫车。这……但整个商业层的压缩，正与查马斯说的软件压缩同时发生，这会带来大规模的通缩性成本节省和速度提升。
订酒店房间、为某个活动订餐厅——就像我做的那样——这些已经都由 Box 在做了，弗里德伯格。这可能极其通缩，为人们省下很多钱。如果人们一年能在支出上省 5% 或 10%，那基本上就是在对抗、抵消通胀的影响。你有话说吗，弗里德伯格？有。
把整件事
闭环。这就是——请讲。差不多就是我前面提到的循环的想法。想想怎么拿到一个好房价。你跑一个循环：查第一家酒店，看价格。
它比当前最优价格更好吗？是。好。它成为最优价格。不是。
去看下一家酒店，你就跑那个循环。而那个循环，你可以并行做。所以你可以同时跑 50 个网站搜索，而且你可以短路这个循环，因为软件获取数据的能力比人快。所以现在循环就是：立刻查 50 个网站。马上给我结果。
而效率增益真正就来自这里：一个被并行化、做得更好、能在更短时间内完成的循环。我认为今天任何以数字化方式完成的事都符合这个模型。所以实际上，所有数字工作流都会被循环化。它们会变得更有生产力。然后问题就是，升级之后的人如何利用所有这些循环基础设施、所有这些智能体，让自己做更多事。
我确实认为，回到我们前面说的关于科学家和数学家、以及这对个人的挑战，尤其是数学家，我认为，如果你历史上的目标是通过论文、专利获得对你工作的认可
知识产权、商标、所有权。
知识产权。对。这类东西。我认为这个转变会发生，就是你必须转向生产一种产品，而人类的全部努力实际上就是那些循环，因为循环可以被数字化、自动化、扩展、并行化等等；我认为你最终会看到，所有人类都基本上必须变得更像制造者。你必须做出点什么。
你必须做有产出的事。你必须生产出东西。你必须提供一项最终有人使用的服务，或者一件最终有人消费的产品，而不是仅仅因为你的工作而被认可。这就是社会必须发生、而且将会发生的深刻转变。而我确实认为人们会真正找到……
我真的相信这一点。我相信所有人都有成为生产者、成为制造者的能力，而所有人在这种状态下都会在生活中找到更多快乐，相比只是为工作领奖章。而且我不认为这意味着更少的钱。我认为这意味着所有人有更多的钱、更多的人生进展、更多的繁荣。所以我只是稍微拉远一点看，而我……
你知道，我只是想确保我们在思考时保有这个视角
我我我认为
这是
一种关于人性的视角，因为这就像杰文斯悖论。东西越便宜，越多的人能用上它们，他们得到的价值就越多。而我真不想……我几乎不想给出这个技巧，因为我想把它把守住，但我还是说出来吧。当我有我的……
你知道，当我们为团队订酒店之类的时候，就尽量拿到最好的价格。然后循环里的人，我们就直接去找他们说：嘿，你们有企业协议价吗？我们能和酒店经理谈谈吗？我知道这不算特别有创新性，但是，嘿。
你们能匹配这个价格吗？然后突然间，我们每间酒店就开始省下 1000、2000 或 3000 美元。比如，当你有 20 位高管在全国各地跑，一年 200 趟行程，而每趟开始省下几千美元，因为这种向前的推进——基于目标，我猜这就是你说的意思，弗里德伯格，就是目标和结果是发生的东西——你能看到深刻的结果。而我自己不会去做这件事，但因为现在 AI 在做，哇。真香。真香。
它有效。好。听着。又一集精彩的——我想
你是个索取者。我不认为你是个制造者。
我……你在说什么，老兄？我做的就是一年投资 100 家公司。你知道投资
上百
家创业公司一年有多难吗？
这很累人。但我必须……我们去吃午饭吧。你吃过了吗？你要吃午饭吗？
对。对。你能来我这边吗。
我有错失恐惧症。我没和你们在一起。好了各位，又一集你们最爱播客的精彩节目。播客是最爱的播客。
他们都爱你们，兄弟们。播客。爱你们，兄弟们。拜拜。
我们让你的赢家继续跑。
「雨人」大卫·萨克斯。然后它说
我们把它开源给了粉丝，他们就彻底玩疯了。
我们都该开个房间，来一场盛大的狂欢，因为他们全都毫无用处。就像这种性张力，他们就是需要以某种方式释放出来。