AI 会杀死所有人,还是末日论心理战?OpenAI 的数学突破、耐克 2000 亿美元崩塌
AI Kills Everybody or Doomer Psyop? OpenAI's Math Breakthrough, Nike's $200B Collapse
精读 · 按主题梳理核心观点、论证与案例。
§01一次取消、一个法律学位,和一套框架
节目以一个缺席开场。一位嘉宾本来约好,当天早上却退出了,而四位主持用开场第一分钟诊断原因。Sacks 有一个二十五年没用过的法律学位,他说自己熬了一整夜,为一场不会发生的采访做功课。这个玩笑定下了基调:这件事会被当成一个案子来辩论,而不是当成一条新闻来报道。
呈现出来的事实很有限。Jacob Coxen 过去大约三年先后在 OpenAI 和 Anthropic 做研究员,辞职时在 Anthropic 待了大约六周。这个数字成了整段怀疑论的脊柱,至少被重复了四次,每次的含义都一样:任期太短,什么也看不到;又足够长,足以策划点什么。
让这段值得细读的不是新闻——新闻很单薄——而是主持人在它周围搭起来的论证机器。四条彼此独立的论断被编织在一起:风险估计不可证伪;放大是有组织的;Anthropic 承担不起否认这句话的代价;整件事是监管俘获的杠杆。每一条单独看都说得通。有意思的问题是,它们合起来构成的是反驳,还是仅仅构成了动机。
§02他到底主张了什么
那封辞职帖本身被分两段念出来。第一段是关于信念而非事实的主张:
打造 AI 的人真心相信,它可能在这个十年结束前杀死我们所有人。这不是营销噱头。
第二段是关于行为的指控,同时指向两家实验室:两家都没有负责任地行事,而且用帖子的话说,
正一路狂奔冲向自我改进的超级智能,而且在赌博。拿我们的命在赌。
注意这是哪一种陈述。它没有指控某项具体能力、某个具体测试结果或某个具体决定。它指控的是一种倾向——掌握信息最多的人私下持有一种他们不会在公开场合辩护的观点。这使它异常难以证伪,也正是此后整段对话不断在两个不同问题之间滑动的原因:这个主张是真的吗,以及这个主张有证据支撑吗。
随后传播数据本身被当成了论据。这条帖子被拿来和一条据称保持历史纪录的推文相比,主持人们追问其中的机制:一个没有受众的账号,怎么可能在一天之内拿到一亿次浏览?这个问题被当成反问句,但它其实是一个关于推荐系统的经验问题,而没有人尝试回答。
这段里最关键的一句话不是 Coxen 的,而是他前老板的。Anthropic 负责对齐科学的 Evan Hubinger 回复说,这封辞职信在实质上是正确的,然后加了一个数字:
我个人认为未来十年内概率超过 10%。我们目前还没有解决对齐问题的方案。
这一条回复,把一个离职员工的意见变成了接近公司立场的东西,主持人们立刻意识到了这一点。正如他们指出的,这也正是这件事冲出科技媒体的时刻:一天之内,它就被参议员和州长引用。
§03要证据,以及这个要求的盲区
Sacks 的开场是否认新颖性。他说,这里没有任何这群人多年来没说过的东西,媒体用「吹哨人」这个词是用错了。挑战是用祈使句提出的:
这些全是他的感觉。给我们看数据。给我们看报告。给我们看公众此前不知道的泄露信息。给我们看事实。
形式上这是一个公平的挑战,而且它站得住,因为辞职帖里确实没有任何文件。但这个要求有一个主持人们从未审视的盲区。前沿实验室里的研究员受保密协议约束,而真正能定案的那些材料——评估记录、内部风险评估、某次部署决定背后的推理——恰恰是他不能合法公开的材料。按 Sacks 的标准,唯一可采纳的证据,可能是一种不可能存在的证据。
同样的不对称也出现在吹哨人这个框架里。Sacks 问,到底揭开了什么?答案是:一种信念,而不是一份文件。这确实是这封辞职信在证据姿态上的真实弱点——也可以说正是这篇帖子的要点,因为「一种信念广泛存在且未被披露」这类主张,恰恰是不会留下纸面痕迹的那一类。
节目没有做的是提出对称的问题。如果这封辞职信是无根据的断言,那么「它是有组织的」这个反主张同样如此。两者都建立在时间和关系的推断之上。但只有一个被要求通过「拿证据来」的标准。
§04放大链条的证据学
心理战论点的证据核心是一条时间线。主持人们说,这个账号在辞职帖之前几乎没有活动、几乎没有粉丝、也没有帖子;如果以前有帖子,也被清理掉了。然后,一天之内,它找到了庞大的受众。这个组合被当作需要解释的异常。
给出的解释是三个组织加一个出资人。Encode AI 的 Nathan Calvin,该组织推动了加州 SB 53 和一系列州级 AI 法律。AI Policy Network 的 Peter Wildeford,该组织推动联邦 AI 监管和设立联邦 AI 部门。AI Futures Project 的 Daniel Kokotajlo,他同一周上线了一期播客,用的措辞被主持人们称为一模一样。他们说,这三家都由 Jaan Tallinn 资助,而此人在这里被描述为既是 EA 超级捐赠者,又是 Anthropic A 轮融资的联合领投人。
然后是最有分量的细节:《华尔街日报》报道这封辞职信的文章,出现在推文风暴之前几分钟。主持人们把这读作禁发期被搞砸的证据——
他们是在禁发期约束下被提前吹风的
——并因此读作这封辞职信是一场精心安排的媒体事件、而非自发行为的证据。在这小时的后半段,这个说法被以更弱、更站得住的形式重述:这些团体被通知了,很可能参与了;即使不是制造这场推文风暴,也肯定参与了放大。
这个推断合理,但不完整。禁发期吹风就是新闻业的运作方式,消息源把辞职信递给大报也很平常。十五分钟的延迟提示了协调,但它同样是小而联系紧密的社群读到同一批信息流时会出现的现象。所谓这种传播量前所未有,是凭 Elon Musk 的权威断言的,没有给出任何数据。心理战的案子是一个相关性故事,却讲得比相关性所能支撑的更有把握。
§05那场没有发生的采访
最有揭示性的段落几乎是顺带出现的。Coxen 曾主动要求上节目,然后在录制当天早上取消了。Sacks 把取消读作动机的证据——他扛不住这种压力——并列出了他会问的问题。第一个才是关键:
是谁把你和《华尔街日报》联系起来的?这个答案能区分一个恰好有新闻价值的研究员和一个被安排的研究员。但这是一个敌对采访永远得不到回答的问题,而它的不可得却被当成答案来用。
接着任期论证又被搬出来。一个最多三个月的相对初级员工,通常不会得到这种报道;所以报道是被安排的。这个推理是一个缺了前提的三段论——前提是媒体只报道资深人士——而这恰恰是这件事所证伪的前提,因为报道确实存在。
这一段里有一个观察经受住了节目自身的偏见。在正常的吹哨人故事里,公司反击,媒体裁决;而在这里,公司领导层放大了这个主张。这种倒置确实不寻常,也是怀疑这封辞职信属于「站队」而非「反对」的最强事实依据。
§06一位联署的老板
整段的转折点是这个观察:Anthropic 没有否认这封辞职信。Chamath 把它表述成一个关于公司运作的问题——一家正常运作的公司难道不会立刻切割吗?——而 Sacks 用一个词回答:矛盾。
他描述的机制是,安全负责人不只是容忍了这条帖子,而是扩展了它,给一个原本定性的主张安上了一个概率。主持人们认为,正是这一步让故事传播开来:感觉可以争辩,数字可以引用。
这是本小时最好的一段分析,值得把它和周围的阴谋论框架分开。法律上要紧的事实不是一名六周员工辞职了,而是一位在职高管背书了这封辞职信并把它量化了。无论怎么看那个底层风险估计,这个背书都是一个公司行为,也正是它后来让披露问题变得无法回避。
另一种读法就在手边,却无人处理:一位安全负责人背书一位离职同事的担忧,可能恰恰因为他相信它,并为此付出个人和机构的代价——那看起来像正直,而不是协调。主持人们从不检验这个假设,因为他们对这家公司的模型已经把它排除在外了。