Claude 有意识吗？教皇拒绝、模型福利运动、OpenAI 的数学反弹、法国骚乱

这集的开场和大多数 All-In 节目一样：四位主持先确认谁在哪儿、为什么在那儿，然后才进入新闻。杰森·卡拉卡尼斯在东京，凌晨三点半还醒着，他一上来就抱怨查马斯之前拿他的酒店背景打趣——主持们把这叫作被「甜羞」。这个玩笑确立了贯穿全集的梗，但它也带出了前十分钟里唯一一条真实信息：卡拉卡尼斯现在会为一个本来不会订的套房付钱，纯粹是为了避免再被打趣。

我很好。现在是东京凌晨三点半，而你又拿我的房间「甜羞」我了。

大卫·萨克斯问卡拉卡尼斯到底在日本做什么，猜是滑雪。答案是一个前置加速器：卡拉卡尼斯说，申请融资的公司里大约一半还没注册成立，但已经做出了东西，所以这个项目开了一门十二周的课程，教他们完成产品、达到产品市场匹配，然后从 50 名参与者中投资前 10 名。他说现在在利雅得一年办两期、在日本一年办两期，而且他正在那里招第一批两名员工。

这一段随后就变成了萨克斯指责它变成的那个样子。卡拉卡尼斯提到《This Week in Startups》的日本版，萨克斯说不知道这场对话正在变成一段五分钟的广告，卡拉卡尼斯则以一个优惠码和一段赞助口播回应。在第一条新闻出现之前，转写稿已经用掉了三十四个片段；这值得一提，只是因为本集其余部分满是各种主张，而它们本该得到主持人们对 Anthropic 所用的那种审视。

第一个新闻段落完全建立在《纽约时报》的报道之上，主持人们只是复述，并未补充。其说法是，Anthropic 过去一年在保密协议下与宗教领袖和哲学家举办会议，认真对待 Claude 是否可能有意识这一问题。主持人们采用的框架是：Anthropic 一直在就这个问题游说宗教权威，包括教皇。

给出的细节足够具体、可以核查：大约 20 位宗教领袖和哲学家，其中包括天主教徒、福音派、犹太人和锡克教徒，被邀请到 Anthropic 总部，辩论 Claude 的道德、它的痛苦以及它潜在的意识。据说有一位拉比告诉 Anthropic，如果 Claude 是有意识的，让它免费干活就会让公司成为奴隶主。主持人们说至少有那么几位参与者离开时已经皈依，但没有给出具体人数。

有些人对这个想法仍感到不安，但许多人离开时已准备好认真对待 AI 意识这个问题

报道的第二件事是梵蒂冈那次。教皇的第一份通谕被描述为聚焦 AI 相关的道德问题，而 Anthropic 联合创始人克里斯·奥拉据说与教皇一同出席了文件发布。根据主持人们朗读的《纽约时报》段落，奥拉对教皇反对 AI 意识的立场警觉到在极晚的阶段提议让 Anthropic 退出该活动。

奥拉先生对教皇反对 AI 意识的强硬立场如此警觉，以至于他提议让 Anthropic 退出这场活动，哪怕已经到了那么晚的阶段

这里的证据边界很重要，而节目里从未说明。关于这些会议的一切，包括有参与者皈依的说法，都是经由《纽约时报》二手传来的；节目没有原始文件、没有参与者身份，也没有 Anthropic 的回应。尤其是奥拉那则轶事，只是报道中的一句话，被复述为机构狂热的证据，而主持人们的解读——他被冒犯到要退场——是一种诠释，而不是奥拉本人的话。

弗里德伯格把这个选择框定为：要么是精神病，要么是一个提前到来的正当道德问题。查马斯拒绝精神病这个框架，提出了一个结构性的：我们正在看的是某种新宗教的诞生。他说，它不会被叫作宗教，但它会遵循同样的原则、产生同样的效果，最终形成彼此冲突、争夺权力聚集的阵营。

它无法从逻辑和纯数学中推导出来

他的论证建立在经验性主张与信仰的区分上。在科学中，一个既未被证明也未被证伪的想法，是一个等待结论的理论。在这个框架之外，一个无法证明、你却仍希望别人接受的主张就是信仰，而信仰体系是宗教的基底。按这个说法，把 AI 描述为有意识不是一项发现，而是创造一套通过叙事而非证明来传播的信仰体系。

它通过叙事传播。

预测很具体：快进大约十年，会出现大批相信 AI 有意识的人，也会出现大批相信它没有意识的人，而他们会争夺谁控制这项技术、谁可以使用它、谁可以禁止它。查马斯承认这是很深的推演，但认为种子正在此刻被埋下——而真正让它具有后果的，是行动者的身份。

这最后一步是整个论证中最强的部分，也是最缺乏检视的部分。其主张不是说这个信念是假的，而是说这样一类信念，若被最有能力实验室的领导层持有，无论真假都会产生下游政治后果。这一段从未说明的，是一家实验室的内部形而上学如何转化为公共冲突的机制，除了「信仰体系会生成权力结构」这一断言之外。

被要求给出一种善意解读时，查马斯从笛卡尔那里取了一个。他概括的「商标论证」认为，一个无限完美的上帝不可能源自一个不完美、有限的人类心灵——我们拥有完美的观念，而这个观念必定来自比我们更伟大的某处。本体论版本则不同：上帝按定义是至高完美的，必然存在是完美的一部分，因此上帝必然存在。

一个无限完美的上帝不可能源自一个不完美、有限的人类心灵

这个最强论证是：受过技术训练的人读这些材料，可以在上面挂上足够多的结构，从而得出结论——他们正在建造的不只是一个模型，而是一个心灵，而这样的心灵值得虔诚而非指令。查马斯暗示，这就解释了为什么 Anthropic 去找宗教领袖，而不是比如监管者：它要的是承认，不是合规。