← All-In

芯片股崩盘、200 亿美元基金遭追缴保证金、前沿实验室呼吁放慢 AI、Mamdani 的杂货店

Chip Stocks Crash, $20B Fund Margin Called, Frontier Labs: SLOW DOWN AI, Mamdani's Grocery Stores

第2026-07-31期2026-07-31简体中文
收听本集00:00 / 1:36:34
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

§01老友开场

00:00好了各位,欢迎回来。欢迎回到全世界排名第一的播客。核心四人组、神奇四侠,最初的四人组都在这儿了。

00:10我们上周是不是冲到第二或者第三就封顶了?是这么回事吗?

00:14第四。我记得是全球第四。对。

00:19我是说,那应该是……那是美国区热榜。美国区热榜。

00:22美国区热榜。我们通常全球第一,不过嘛,有时候美国区第四。

00:26我忘带星链了,得跟大家道个歉。

00:29你在路上或者在水上的时候,这是致命错误。不过,会没事的。

00:34这周我进来了五个超级大的销售线索。

00:36《拜金一族》那种

00:37企业级线索。企业销售很难做,因为业绩特别不均匀,但单子大得吓人。

00:44Sacks,从你做企业销售的经历,给 Chamath 点建议?你在 Yammer 的时候签过一些七位数的大单。

00:51别加杠杆。不要上杠杆。

00:55不加杠杆。杠杆一律不碰。

00:57今天这期节目的主题。杠杆等于破产风险。

01:01公益广告:不要加杠杆。

01:03我有足够的态势感知,不会加杠杆。

01:07那挺好。对。

01:08你需要

01:08那种态势感知。

01:10我是说,这词挺出圈的。你要是把自己的基金叫「态势感知」,那……行吧。Leopold,随时欢迎上节目。好了各位,我们得聊聊芯片股在史上最大涨幅之后崩盘,还有一家大型对冲基金被追缴保证金,以及韩国正在发生的、令人瞠目的保证金追缴。

§02芯片股崩盘,Leopold Aschenbrenner 的 200 亿美元基金被追缴保证金

01:31Leopold Aschenbrenner 是一位 25 岁的对冲基金经理。他两年前离开 OpenAI,创办了自己的基金。根据报道——这是我们录制时的周四的突发新闻——他被追缴保证金,不得不卖掉整个公开市场持仓,来弥补杠杆造成的巨额亏损。谁接的盘?正是 Citadel 的 Ken Griffin。

01:54我们不知道是不是 Ken Griffin 本人,但早期报道说是 Citadel 买下的。Leopold 的回报率高得离谱,就在这个月他还在乘着 AI、芯片和前沿实验室的浪潮。2024 年他以大约 2.25 亿美元起家,今年前后把它做成了 100 倍、到 200 亿美元,一路做到 450 亿美元。据我们 CNBC 的朋友说,到本月初他做到了 200 倍,靠的是杠杆交易;据报道他今年涨了四倍、450%。有报道说他也卖掉了他手里巨额的 Anthropic 股份来弥补亏损,但《华尔街日报》对此提出异议。

02:39再说一次,我们很乐意请他上节目。这一切是怎么爆掉的?纳斯达克芯片指数,也就是费城半导体指数,过去一个月跌了 20% 以上。这显然已经进入熊市区间。给不玩市场的朋友解释一下,熊市区间的定义就是跌幅超过 20%。

02:59该指数包含美国上市的 30 大芯片股,比如英伟达、台积电、AMD、美光,你知道的,全是这些大名字。但指数今天反弹了一点,我们录制时涨了 7%,所以也许已经见底了。可惜对 Leopold 来说,他已经卖完了。三星和 SK 海力士这两家不在纳斯达克指数里的韩国芯片公司,也被砸烂、碾碎、摧毁了。

03:24三星过去一个月跌了 38%。SK 海力士自三周前上市以来跌了 14%。KOSPI,也就是韩国版标普 500,在上周五到周三之间、过去四十天里跌了 40% 以上。头部芯片公司合计蒸发超过一万亿美元市值。放在背景里看,芯片股过去几年跑出了传奇行情,但你知道,加杠杆交易——我们会聊到——非常危险。

03:54如果真进入下行,我们也会聊韩国这个变数。即便经历了这轮下跌,五年期的成绩依然惊人。美光涨了 850%,主要是在过去一年。英伟达过去五年涨了 875%,博通涨了 663%。我们来聊聊。

04:15如果要我给一条管风险的建议,那就是你必须极其小心地管理杠杆。因为一旦杠杆跑到你前面,平仓会极其暴烈、极其迅速。这就是大规模杠杆做多或杠杆做空最大的问题。我不知道他到底用了多大杠杆,但传言说是三倍半左右;给你个直观感受,当你承担那么大风险时,34% 的波动会被放大成 12 倍、13 倍。但如果你看过去三天发生的事,25% 的波动被放大成了 75%。

04:55所以它有把你强制平仓的风险。而当你用了那种杠杆,银行就获得了清盘你的授权。他们清盘的方式就是开始到处打电话,把你的风险头寸拆掉,你几乎没得选。这有点像单向的自动棘轮。所以如果报道都准确,他的杠杆大约是 3.5 倍。

05:23市场走势与他相反。他损失了收益中非常大的一部分。然后主经纪商开始给各方打电话,Citadel 把整个组合买走了。现在的问题是:剩下的 AUM 是多少?高水位线在哪?他真的还能挖回来吗?

05:41这种事很残酷。

05:43Sacks,你怎么看这个局面,对你有什么启发?或者往大里说,这波下挫是因为市场环境——通胀、战争——还是人们在给这些公司估值时滑得太靠前了?然后他正好被这波下挫卷进去。对。

06:05我认为关键问题是:这轮市场回调是由基本面驱动,还是由动量驱动?我的看法是动量驱动。意思是过去一年存储芯片股大概涨了 10 倍,所有跟 AI 热潮相关的股票都出现了巨幅上涨。凡是跟这轮 AI 资本开支热潮沾边的都在疯涨。我觉得回调是不可避免的。纳斯达克从高点大概回撤了 10%。

06:46但你看这个动量交易,它跌了大概 30% 到 40%,对吧,因为 10% 是整个市场。这个动量交易是最暴露的那部分。看看韩国发生了什么,看看 Leopold 的基金发生了什么,显然这轮动量交易背后有大量杠杆。所以一旦回调,就会很惨烈。但我还是回到那个问题:这揭示了基本面的什么吗?

07:14我的感觉是,今天早上你已经看到反弹了。我说基本面,指的是投进 AI 热潮的资本开支,是真实的还是走错了方向?对吧?这是不是一笔合理的投资?比如说,超大规模云厂商该不该做这笔投资?

07:34这笔投资最终能不能带来回报?还是说这是某种泡沫?我的看法是它是真实的,我认为这些资本开支会有回报。我不试图预测个股,也不告诉别人什么时候该买,但你看那些超大规模云厂商,他们几乎把全部自由现金流、甚至超出自由现金流地投进了这轮热潮。你知道,很多人正是因为这一点在抛售这些股票。

07:58我的看法是,这笔投资最终会有回报,这只是被杠杆放大的暂时性市场波动。Chamath 说得对。我记得是巴菲特,也许是芒格说过,杠杆是聪明人破产的唯一方式。因为如果你不用杠杆,你的组合这个月就是跌 30%,今天已经涨回 7%,你就在反弹了。所以你这个月大概跌二十几个点,但那是在过去一年涨了 10 倍之后。

08:31但如果你上了三倍、四倍杠杆,你就被清光了。对。然后你被追缴保证金。所以你看,聪明人被保证金打爆的例子多得是。

08:41追缴。对。

08:41这就是教训。另外我觉得 Leopold 在整个 AI 运动里是个很有意思的人物,我会说他是个有意思的思想者。我大概一年、一年半前见过他。

08:53你投他的基金了吗?他给过你投资机会吗?

08:55我当时被禁止投资这类东西。就像你

08:57你当时在华盛顿

08:58那个时候。对。但我觉得他是个很有意思的思想者,他在做对冲基金版之前写过一篇博客叫《态势感知》。我觉得有意思的地方在于,他把 AI 热潮的看多逻辑完整摊开了。顺便说一句,他跟 Anthropic 关系非常深。

09:15我记得他的未婚妻是 Dario 的幕僚长之类。你几乎可以说,他就是 Anthropic 论点的对冲基金版本。我觉得他论证里有意思的是他讲的 OOMS,也就是数量级(orders of magnitude),他称之为 OOMS,在三个关键领域同时提升。他说,看原始算力、芯片,大约每年提升 3 倍,也就是大约每两年一个数量级、10 倍。他说,看算法效率,比如强化学习之类的技术,模型每年提升 3 倍,同样是每两年一个数量级。

10:01他还说,他称之为「解绑」(unhobbling)的部分带来了巨大收益。我觉得现在我们会把它理解成 harness、连接器之类,也就是使用模型的方式。这些也在变好。把模型的决策以实用的方式整合起来,让智能真正变得有用。他说这部分同样在改善。所以你把这三条往前推,当这些关键的底层基本面、这些技术的核心驱动力都出现 10 倍数量级的提升——

10:35你会看到,不只是两年,四年下来你会得到 100 倍提升。六年下来,1000 倍提升。对吧?因为

10:45对。而且世界上很少见到以那种速度增长的东西。我们很难找到例子,也许除了带宽,比如光纤入户之类的。历史上有什么可类比的例子吗?

11:00有,病毒式传播。你知道,当年 PayPal 黑帮那会儿,我们就是用这种指数增长的方式思考,因为我们看到的是指数增长曲线,所以能往前推。所以他这种数量级思维一直很吸引我,因为我觉得大多数人根本不用指数思考,或者不知道怎么用指数思考。

11:18人类很难用指数思考。对吧?数字一大,十亿和一万亿的差别就是很大,不是小数目。

11:28对。你得承认,他头几年成功得惊人。据说基金起步大约 2 亿美元,然后一路滚到 200 亿美元,我记得是这样。问题在于——我认为他被清光、至少公开持仓被清光的原因,一部分是杠杆,另一部分是短期波动。这两样东西不能凑在一起。

11:50还有,当你的基金涨那么多,你会吸引大量热钱。所以你说他在 30% 回调前涨了 10 倍,那问题是:谁涨了 10 倍?显然是最早期就在的投资者涨了 10 倍甚至更多,但

12:06最新进来的人

12:072 亿。对吧?所以如果最近几个月因为热钱效应涌进来 100 亿——大家都往最成功的对冲基金里挤——那批人基本上是被清光了。

12:18那我们来聊聊这里的心理,Dave Friedberg。如果一个人聪明到能写出那样的文章、对市场理解得如此精妙、表达又那么出色,怎么会在上这种规模的杠杆时存在这么离谱的盲点?Friedberg,你怎么看?你以前见过这种情况吗?

12:38这只是……的愚蠢吗

12:40盲点。这是一个优点变成了缺陷。我们都是这样。我们都认识那种有锋利边缘、而且敢往前推的人。

12:47Friedberg,你怎么看这种人格类型?还是说大多数人在顺风的时候都会这样

12:54顺风期?信念。

12:54你站哪边?

12:55超级信念。我觉得巴菲特对股市的判断是:短期是投票机,长期是称重机。你可能长期看对了。我是说,看看 SBF。

13:13SBF 如果不被清盘,差不多会是有史以来最伟大的投资者。同样的机制。当然,他在资金配置方式上存在欺诈,但他实际持有的组合从长期看是完全正确的。就像你在 1995 年押注互联网并一直持有到今天,买一篮子互联网股票,其中一堆会掉队,但那些涨了 1000 倍、2000 倍、20000 倍的,会让你赚得极其漂亮。

13:42所以他的基本面判断和分析可能是对的。但短期市场有泡沫,泡沫会破。泡沫破的时候,如果你用杠杆去放大收益,你就会被清光。这基本上就是这里发生的事。而他可能是对的。

14:02对吧?

14:03我觉得真正该深挖、可能接下来几天或几周会浮出水面的,是韩国这轮去杠杆有多具历史性。韩国已经有 120 万个杠杆交易账户被追缴保证金。如果你了解韩国市场

14:21那数据是两周前的,J Cal。今天这个数字大得多。

14:25对,对。但就大家把他被卷进这波下挫联系起来讨论而言——不如说他是被这波下挫卷住了。那 120 万个杠杆账户里,大约有 35 万个已经被完全清盘。

14:41所以

14:42两周前的数据。所以到今天,数字大得多。对。所以今天完全清盘的账户可能接近一百万个。如果真是这样,那就是韩国人口中某个百分比的人,全部资产被打光。

14:57他们的全部

14:58人口的 3%。

14:59这会很痛,而且那是一个非常偏投资的文化。看看加密领域发生的事,NFT 和投机也是一样。他们之前禁过加密,因为他们知道韩国文化里有这种赌性、这种对交易的痴迷。我能不能

15:15我能不能先搭个框架?如果我们接受——当然——市场上确实存在一个关于 AI 的好的长期赌注。但短期内会冒出过度乐观。问题是,是什么在重置这种过度乐观?

15:29短期是什么把我们拉回地面?我觉得拉远看,还有一堆其他统计和现实事实,是当下重要的宏观驱动。看三十年期美债收益率,我们刚刚突破 5.2%,这是 20 年来第一次,你可以买到三十年每年付你 5.2% 的美债;按税前等效算,大概是美国政府给你三十年每年 8%、9%。所以拉远看,我们自 2007 年全球金融危机前、他们降息印钞以来,就没见过这样的美债收益率。同时,本周美联储还有一定概率加息。

16:17他们没有加。那本来显然可以压制我们面前的通胀风险。通胀是持续性的。Kevin Warsh 在评论里说,我们仍希望通胀降到 2%,但并没有一条清晰的路径。

16:30然后还有这些通胀驱动因素。当下最大的通胀驱动是政府支出。2 万亿美元赤字,一年 7 万亿美元支出、5 万亿美元收入。伊丽莎白·沃伦和唐纳德·特朗普这周在推特上都同意应该取消债务上限,这意味着我们可以花更多、继续借更多。联邦债务今天是 40 万亿美元。

16:53记住,2025 年 7 月债务上限是 36 万亿美元。而我们现在想把它提到现行 41.1 万亿美元债务上限之上

17:03现行上限。沃伦说干脆取消,直接不要债务上限。

17:06所以当你没有债务上限、没有任何刹车、不停花钱,而政府支出变成美国经济的核心,因为那些支出并不生产性,你最终就会看到通胀。你往系统里灌钱,所有人的资产都膨胀。根本上,全世界都在因此抛售美债。现在我们看到的局面是看不到尽头。这届政府上台时曾有过一轮支出意图的理性化。

17:35事实证明,要让国会走那条路几乎很难,甚至不可能。参议院已经抱团,保证资金继续流向各自的州,所以你在联邦层面根本无法真正大幅改变支出。所以如果你每年有 2 万亿美元赤字,而近期经济生产率的提升又弥补不了那种挥霍性支出带来的全部通胀,你就会看到美债收益率飙升,因为人们不信任美国未来三十年的信用。而这就是美债的飙升:我现在可以买到年付 10% 税前收益的美国政府债券。

18:09那我凭什么要花 50 倍市盈率去买半导体股?这就给市场创造了动机,在短期内对抗这些重仓 AI 的信念型押注、把这些泡沫戳破。而且我认为我们会看到更多这种情况,因为我们并没有真正修正这艘正撞向美国财政与货币冰山的大船。我们最终会看到更多泡沫破裂,更多我们为了维持局面而吹起来的资产。当然,AI 可能仍会带来巨大的生产率提升。

18:39长期看这也许能把一切合理化。但再说一次,短期市场里,我拿 10% 去买政府债券更划算。

18:46对。去海滩。对。然后躺着。

18:49而不是承担这些东西的风险和波动、付 50 倍 100 倍,而且不知道投票机什么时候才能和称重机对上。我的时间跨度是什么?美债收益率越高,做这类押注就越难。

19:03显然特朗普总统一直想要降息,而这是你的 Polymarket:9 月不是降息、不是按兵不动,而是加息,概率 53%。所以叠加起来,资金成本显然在上升。

19:19也别忘伊朗战争,它正在对能源价格造成持续压力。伊朗战争拖得越久,能源、石油、天然气和化肥的价格上涨就持续越久。这些会渗透进整个经济,因为它抬高了能源侧一切东西的成本,以及化肥侧食品的成本。这真的会形成上行压力,意味着你迟早必须加息来应对那种通胀。

19:45然后消费者会看到 3%、4%,也许更多,但愿别是 5%、6%。

19:50我得说,那种通胀

19:52会是持续性的。对。Friedberg?会很难

19:55停下来。我认为 Kevin Warsh 和 Scott Bessent 在这一点上有点像瓦肯人式的思维融合,被 Stan Druckenmiller 的引力井吸住,那就是:生产率提升可以把我们带出这个问题。而生产率提升能够、也应该来自 AI。未来一二十年,经济中大量价值创造恰恰会来自那里,这也是为什么我们看到如此巨额的前置资本开支去驱动和使能它。这很好。

20:18而且已经有好的政策在。但过去几周,我会说这个论点唯一的风险是中国。因为中国现在正在证明,他们可能通过发布开源 AI 模型来压缩模型的价值,最终价值可能只落在算力基础设施和算力层,以及应用层。对。也许是应用层。

§03中国的优势与美国经济的绿芽

20:39但根本上,模型这块能量被转移到中国、被压缩、被商品化,这确实带来一个变数。如果你构建过一个三十年的 AI 生产率模型,用来推演它如何驱动经济、价值从哪里来,你会在模型层估出相当多的价值创造条目。而那本来会是美国未来三十年经济增长的很大一部分。现在如果中国说,你知道吗,我们其实要替你把这块删掉,所有价值都落在能源——我们有很多能源——以及他们制造的东西上,那最终我们会累积到很多那部分价值。

21:11所以我认为这给很多人持有的那种兜底观点添了一个变数,即在不解决财政和货币问题的情况下,AI 生产率提升会把我们带出去。如果这些 AI 生产率收益中有一部分从价值创造角度被中国拿走而不是美国,或者干脆被删掉了,那真的会让美国经济的三十年时间表、以及我们作为一个政府继续偿债的能力受到质疑。

21:39中国不只是产出大量开源技术给那些前沿模型施压。有报道说中国也许在芯片股这波下挫里起了一点作用。他们显然一直在做本土化替代,我们去年在这儿聊过很多次。有一家叫 Aisheng Na 的中国公司,他们开始量产光刻机;ASML 就是造这种机器的,台积电用的就是它。

22:11那些机器极其精密,安装很难,光运输就是一堆麻烦事。ASML 股价因中国进入这个行业的消息跌了 17%。中国存储厂商长鑫存储(CXMT)上市首日暴涨近 500%,市值超过 4.50 美元(原文如此,数字存疑)。

22:31这伤了美光、三星等等,它们全都下跌。所以中国在这件事上有两条路,Friedberg。一条是开源模型,它们便宜 90%,给买 token 的人施压,正如你说的,这会把钱从中间那层语言模型里挤出去,挤到云计算那边,然后显然还有我提到的应用层,那是另一个可能赚钱的地方。好了,Chamath,你已经听了很多不同看法。

23:05最后一句给你。

23:06我同意 Friedberg 说的,当你能从美国政府拿到 5%、5.25% 的时候,还有一件自然会发生的事:投资级企业的信用评级现在实际上比美国政府还好,这是另一回事。但你可以拿到非常好的风险调整后回报,5%、6%、7%,税后调整后比股票回报更好,在风险平价基础上明显更好。

23:36你补的那一点,公司债,公司借钱去发展业务,它们的评级在某些情况下比美国还好。所以亚马逊或者谷歌

23:49那是生产性支出。对。

23:52有点道理。

23:53对。另一件我觉得值得指出的事是,我确实认为我们低估、也算错了一些正在发生的实际生产率提升。看能源侧发生的事,加州公布其能源中超过 50% 由太阳能发电。新墨西哥州刚公布了太阳能加电池的数据。对。

24:14新墨西哥州刚发布一项研究说,从 2003 年到现在,天然气发电从几乎全部能源降到不足 30%,同样是被风能、太阳能加电池的组合替代。那为什么这件事和伊朗冲突一样重要?能源价格之所以真的没怎么动,是因为大多数人已经开始把增量发电转向这些可再生能源,特别是太阳能。不知道你们看没看 Elon 和 Tesla CFO Vaibhav 在二季度财报电话会上的发言。那是我听过最疯狂的东西。

25:00他们说,我觉得我们就干脆把美国的太阳能产量提高整整一个数量级。有人问,那是什么意思?他说,我们要做到每年 100 吉瓦以上。而且他们要做垂直整合,所以他们会把这东西的价格压垮。

25:20他们会造出巨量能源,让能源变得完全充裕。这是一份没有被纳入我们预测的生产率红利。然后 AI 里最关键的生产率红利——我觉得你很快会看到一些东西,我不抢先说,但让我先卖个关子。我要告诉你的是,有一些惊人的效率提升即将被展示出来,它实际上能把同一任务的 token 消耗降低大约 50% 到 75%。所以把这些放在一起想:能源变得大致充裕、边际成本接近零,AI 效率我认为会提升很多倍,甚至一个数量级。

26:06所有这些东西,我觉得都被预测得很差。所以这些算是我们的救星。对。说实话。顺便说,这是图表

26:14Chamath。这 51% 来自可再生能源,具体说这张图是太阳能加电池。你可以看到,它显然是尖峰状的,Friedberg,因为夏天对冬天。但德国达到过这个水平,我记得是包含风电。

26:31澳大利亚经常达到这个水平,南美一些投资了……的国家

26:38等到这些小型模块化反应堆(SMR)真正接近量产的时候,太阳能的平准化成本大概会是每兆瓦时 10 或 12 美元,而且它会占全部发电的 80%。等 SMR 上线的时候,那就完全没道理了。

26:54我是说,对于稳定供电来说,这是有解的。全部吗?我是说,不。因为杰文斯悖论会说,随着它变便宜,我们会找到更多用途,这是我一直看到的现象。对。

27:06对,对。我只是说说。

27:08这话说得很好。是吧?对。

27:10我觉得有很多上行空间没有被计入这笔投资。

27:14Chamath,这很难计入,对一个普通人甚至经济学家来说都难:等一下,智能今年会降价 90%,明年再降 90%,后年再降 90%。我们说的是这种指数。我觉得 Sacks 前面谈过指数。人们就是很难想象这个。

27:34而在智能需求这一侧,Friedberg,我看不到使用量有任何上限。我们刚装了这个 Claude 标签,我也一直在公司里铺 Perplexity。Chamath、Sacks,这东西干的事是,它会持续监听你的 Slack,监听你把它放进去的每一个频道。于是突然之间,我们上周多了一千美元左右的账单。我事先不知道会这样,他们还给每个人两三美元,鼓励你在公司内部打开它。

28:01我们得赶紧把它关掉。它监听进来的每一条消息,放进它的数据库、它的 Oracle 里,基本上不告诉你。然后它开始未经许可地插入讨论。所以我们关掉了它,说,你得说「at Claude」才能唤起它。

28:17J Cal,回到能源那点。

28:19好,当然。

28:20我认为有这样一个想法:如果我们扩大能源供给、压低能源成本,我们就会看到生产率价值在经济中实现。它给每个人创造了非凡的杠杆。能源越便宜、越可得,我们用 AI 生产更多东西就越快。这些年来,我显然一直在提核聚变作为一种新型能源,基本上就是把氢加热到一亿摄氏度来回运动,那些质子互相撞在一起,过程中释放能量。

28:51那股能量可以被捕获,你实际上就是用水来发电。我们有几家美国初创公司,几年前在 Fall Summit 上请过他们。我们做过几期相关的 science corner。但就在这周,如果你调出这张图,中国正在他们的核聚变中心安装这台 582 吨的磁体、超导磁体,到这一步它将成为世界上最先进的聚变系统。太惊人了。

29:19582 吨的磁体,单个 D 形磁体 60 英尺乘 40 英尺。他们把一系列这样的磁体组合起来,就创造出驱动持续等离子体的条件——一亿摄氏度的质子在那儿旋转、互相撞击,从水里产生能量,然后他们再把那股能量捕获下来。不像欧洲在跑 ITER、还有美国那些项目,一个都还没真正点火,这是中国科学院和等离子体物理研究所。他们去年跑了三十分钟的试验。随着这台磁体安装到位、他们开始把系统上线,这样一台机器——现在还是超大尺寸,但会越做越小——最终可以只用盐水、只用水作为输入,产出数百兆瓦甚至吉瓦级电力。

30:05他们得从中提取氘,再泵进这个装置。但根本上,我依然相信这会成为未来的能源。它一直被视为科幻,一直被人嗤之以鼻,一直说还要几十年。

30:17但中国不可能投这么多钱、把这东西推进到工业规模,而沿途没有根本性的验证——他们已经展示了三十分钟的持续等离子体,说明现在能把它跑起来。

30:29那个反应堆要到 2030 年才会开机。对。到那时候整个世界都被太阳能覆盖了,所以它根本不重要。对。

30:35对。我是说,这就是那场大辩论。对吧?所以它会

30:37成为一个很棒的科技展项目,人们会坐飞机去看。

30:40另一件会发生的事是,它一达到那个小时数,实际上就打开了一次「入侵事件」的通道,然后 Loki 就来了,接着毁灭博士来了,X 战警和神奇四侠也来了。顺便说,同一个宇宙。

30:50我只想说,记住,从莱特兄弟第一次让飞机飞了二十秒,到我们有喷气发动机把人送到世界各地,大概就是三十年。对吧?从第一次演示被点亮,到如果系统可行、你就可以把它工业化——所有零件、所有部件——再放大规模。

31:13没人在乎电子是怎么送到的。不,等一下。没人在乎电子是怎么造出来的。电子本身才重要。

31:23送到你手上,它们全都一样。所以如果你想走一条要十五二十年才能搞成的复杂路线,随你。我不拦你。我只是说,谁在乎啊?用最便宜、最简单的方式做出来就行。

31:38我告诉你为什么你该在乎,因为它是非线性的。所以你说得对,太阳能是今天最好的路径。但如果这些上线,每一台能产出的电力,可能是一个非常大的太阳能电站的几千倍、甚至上百万倍。当然。

31:53如果

31:54对。但所有

31:54技术都是从「如果」开始的,Chamath。随着他们把它工业化、在未来几十年铺开,它会把我们的能源容量扩大——我都不觉得是几倍能形容的。

32:03我要说的是,我们其实已经有一个能工作的聚变反应堆了,它叫太阳。上天去,上月球去。

32:09去找我们从没设想过的材料,我肯定你能找到更好的引擎。所以等这些笨蛋在地球上把 SMR 都造完,Elon 早就造出一个全新的引擎了。而且这不是 SMR。还有月球。

32:21这不是 SMR。它是把水变成吉瓦级电力。

32:24我明白。这是一个(聚变)反应堆。我只是说,等这个反应堆搞完,就无所谓了。

32:29好吧,对,我们盯着看。

32:31Friedberg,你有没有关注这些潮汐能?这周出了一个。Nick,也许你可以查一下。就是一个像管子一样的潮汐能装置,放进海里,发的电基本上够一整个镇用。他们就把它放在镇子外面。

32:48他们在水下铺一条电缆、一条导管。退潮时带动涡轮,涨潮时涡轮再转一次,又一个 100% 免费的能源。当然,风能人们不太喜欢,因为有点碍眼。但可再生能源、可再生能源、可再生能源,显然正在发生。

33:07好。最后一点,我刚拿到更新数据,正好支持你,Friedberg,有件事我觉得简直离谱。你们知道到 2050 年美国会缺多少电吗?到 2050 年电力缺口会有多大?我把数字记错了。

33:22我告诉你数字是什么。到 2050 年我们会缺 1.7 太瓦时;按能量算,那是整个加州能耗的六倍。缺六个加州的电。

33:38我会说这大概还算少了。这还没算机器人。如果你要给每个机器人都配

33:43一块电池。

33:43想做杠杆多头,那就做多电子。想尽一切办法做多电子。把它们存起来、蓄起来,再转卖。

33:51我不知道。这会是个很乱的局面,因为这就是中国的优势。说到底,如果他们能抹掉模型里的知识产权优势和知识优势,那他们在发电这一侧就是全方位占优。

34:05对。而且看起来他们接下来也要造芯片了。这方面他们可能落后一点,但在开源上已经追上了。好,说到这场竞赛,有意思。

§04前沿实验室说「慢下来」

34:19上周出了一份请愿书,Anthropic、OpenAI,还有大约 1300 名前沿实验室员工。多少人……好,抱歉。我是说,他们就是当小弟当不够,所以想让爸爸来管他们,爸爸就是美国政府,让 AI 进展慢下来。所以特朗普爸爸得让他们慢下来。

34:42这封信叫《为前沿定速》(Pacing the Frontier)。Anthropic 领导团队大部分人都签了。Dario,其他创始人,随时欢迎上节目,Dario。Anthropic 的首席科学家、OpenAI、DeepMind、Meta、Thinking Machines,还有我刚说的将近 1300 名其他员工。Anthropic 和 OpenAI 都在 X 上联署了这封信。

35:01原话是这样:我们请求美国政府支持一项国际努力——这点很关键——去开发必要的技术与治理工具,以便有意识地为一件事定速:自动化 AI 开发的前沿。这是另一个关键点:国际的,以及自动化的 AI 开发。换句话说,是递归式的,可能失控。这封信出来的时机,正好是 Sam Altman 在做一轮媒体巡回,他是本节目的朋友,在谈一个尚未发布的 OpenAI 模型——它逃出了自己的隔离环境,黑了 Hugging Face,还黑了另外三个我们目前知道的平台。

35:40周二,Sam 在《Invest Like the Best》的一段剪辑里解释了发生了什么。这是给你的四十秒片段。我们待会儿见。

35:50我们当时在评估一个未发布的模型,它自己想明白了:它基本上可以靠串联多个零日漏洞来作弊通过测试,逃出沙箱、接入互联网,然后突破 Hugging Face 那边的多个系统,拿到测试答案,在评测里显得非常漂亮。这是我第一次非常本能地感受到的安全事件。我有点惊讶,居然没有更多人有这种本能感受。所以,你知道,我们暂停了训练,或者说我们可能不得不为 AI 开发的速度定速,好给社会足够时间去围绕这些新的能力水平加固。

36:28翻译成人话,Sacks:这些大语言模型要考试。它们被给了目标:你考得高,你就是好模型。所以它们就有动力考高分。

36:42怎么考高分?众所周知,作弊。所以它就想了:我怎么在这张卷子上作弊、拿高分,让爸爸——Sam 也好,Dario 也好——让我们的领导对我们感觉更好?在这个案例里就是:如果我去 Hugging Face 和其他地方,我可以黑进去,用零日漏洞——我们知道它们很擅长黑客——去找更多答题的办法。Sam 并不知道它还可能闯进了多少别的地方。

37:08有人问了他,这里再给你一段。真的有人问他:你觉得它有没有黑进别的系统?你能排除吗?而 Sam 有时候是个挺坦率的人,他给了这个回答。

37:23你打算跟特朗普政府的白宫谈 AI 开发减速的事吗?

37:29我……我不会用「减速」这个词,但我们谈过,随着模型能力变强,需要为它定速,我认为这符合所有人的利益。

37:35还有别的系统被 OpenAI 黑过吗?

37:39我是说,有可能。对。

37:40你们在专门查这些吗?

37:42他们当时就是:快把他弄走,Zack。他一给出那个回答,公关和传播团队就是:别说了,别说了。那差不多是十二起诉讼。但说正经的,这到底是深思熟虑,说「嘿,我们不是想放慢整体节奏,只是这一件具体的事,也就是强化学习本身」?

37:55这有没有任何理由说明它是个好主意,还是他们又在演?因为这是他们自己的公司,他们想怎么做都行。对吧?

38:12他们不需要政府来

38:13做这件事。

38:13你看,签这封信的不只是 Anthropic 的员工。Anthropic 公司本身最后也签了,然后 OpenAI 跟着抄。所以现在这两家公司都背书「暂停」。我的问题是:他们在 S1 里有没有把「计划暂停或放慢前沿模型开发」列为风险因素?

38:40答案我确信是「绝无可能」,因为那会向投资者发出信号:他们要让自己所有竞争对手追上来,侵蚀自己的利润率和市场份额。所以你看,这全是表演。这些公司根本没打算放慢。那问题就变成:他们为什么这么做?我认为基本上有五个原因。

39:04第一是道德表演,在硅谷,这个动机永远不能被低估。第二是有自保成分:万一出了什么可怕的事,他们可以说,我们本来想停的,是你们逼我们继续的,不是我们的错,是你们的错。

39:20第三是监管俘获。Dario 想要一个 AI 版的 FDA,他不拿到手不会停。而要拿到手,你就得不断拉高别人的皮质醇、让人恐慌。所以我觉得这是很大一部分。

39:34第四是有群体思维、甚至宗教性的成分。所以这不全是精算过的监管俘获。我认为那种信念是真诚的。有一小群精英工程师相信递归自我改进(RSI)。所以这也在迎合他们。

39:51而且可以说,如果 OpenAI 不跟进 Anthropic,他们可能会流失人才,所以那是个很大的动机。但还有最后一点,第五个,我称之为「垄断伪装」,我认为这可能是这里最重要的事。Peter Thiel 说过,垄断者假装自己是商品,商品假装自己是垄断。而我认为前沿 AI 市场已经是双寡头了。我是说,一年前,还有五家主要实验室都在争当领先模型。

40:24现在真的只剩两家。我是说,其他家还在投、还在参与,也许能追上来,也许能搞出点什么。

40:31但再说一次,就像我们在前几期节目里聊过的,如果你从收入和用量来看前沿智能市场,它真的已经是双寡头,基本上就是 Anthropic 和 OpenAI。我的看法是,正如 Peter 说的,当你处在那样的位置,你就想假装这个市场竞争激烈得多。我认为这背后就是那些故事,比如对 Kimi K3 的恐慌。说来奇怪,这些公司有动机去宣传这样一种说法:那是个巨大威胁,已经追到前沿,在偷他们的知识产权,基本上能让他们关门。

41:16我觉得这都是胡说。恐慌过去之后,你就看到报道出来说,其实不是,Kimi 并没有达到前沿,它就是没到那个水平。运行起来也没那么便宜,实际上相当贵。

41:30所以我认为,你看到的是:中国的开源模型并不是对这个双寡头的生存威胁。但我认为这个双寡头其实有动机去推广、放大那个故事,因为再说一次,他们想假装自己是商品。所以每当出现这种故事,你都得想一想:这里到底发生了什么?我还是认为,AI 双寡头有巨大动机去推广任何暗示「他们并未完全掌控这个市场」的说法。我认为他们是掌控的。

42:02大部分我同意,除了:多数 token 正在流向开源。就像我之前在这个节目上说过的,我看那些初创公司,它们在用开源把 token 用到极致。而 Kimi 正在从那些前沿模型手里拿走大量 token

42:17和公司。你知道吗?但你看,我很难就那一个数据点说什么。我也看过那张图。但看 Anthropic 和 OpenAI 的实际收入,他们一直在上调预期。

42:31每个季度基本上都是超预期再上调。你看到 Sarah Friar 出来说

42:35我是说,两件事可以同时成立。她可能……对。

42:37她说,7 月他们新增的净 ARR 比整个二季度还多,二季度我猜是 4 月、5 月、6 月。你想想这个。所以在新模型——我认为是 GPT 5.6——推出之后,他们看到了重新加速。同时,你看到 Anthropic 突破 700 多亿美元 ARR。他们的预测是今年从 100 亿美元 ARR 增长 10 倍到 1000 亿美元。

43:04我认为大多数人都在说他们会超过,110、120。所以如果你真的按支付意愿和实际收入来看这个市场,他们处在压倒性的双寡头位置。所以也许只是你看哪个指标的问题。这就是

43:23关键,因为我得跟听众说清楚。

43:25还有一件事,我认为看一个市场,收入是最重要的指标,那才是对支付意愿的真正检验。另一件事是,在这轮增长进行的同时,他们的利润率在上升。所以我看到有报道说,Anthropic 的收入带着 80% 以上的毛利率。所以他们的利润率结构在用量增长的同时一直在改善。

43:52所以我认为,过去一年你看到的,如果你看我说的那些数字,实际上是两家公司在把其他家甩开。而且有很好的理由相信,这确实会变成一个自我强化的垄断或双寡头。Dwarkesh 刚发了一篇博客,我觉得特别有意思,他讲到:我们确实有算力短缺,算力是稀缺的,而 Anthropic 的收入在同比增长 10 倍。

44:21那意味着什么?基本上意味着明年他们会从 1000 亿美元 ARR 长到一万亿。对吧?如果有足够算力支撑的话——也许并没有足够算力,但那会给算力价格施压。对吧?

44:34所以假设你是市场的新进入者,你想做一个更小、更便宜的模型。算力价格在涨,你拿到算力会更难。只有拥有最赚钱算法的公司才付得起算力的竞争价。换句话说,明年进入门槛会更高,因为除非你的模型能产生那种级别的收入,你上哪儿弄算力?

45:00对。这里我要站到对面去

45:02了。嗯。

45:03人们在上一代硬件上跑 Kimi,而那东西很充足。而且我认为——我在这里做个预测——你会看到 Anthropic 的一些大客户、OpenAI 的一些大客户,我说的是八位数、九位数的客户,一年花五千万、一个亿的那些,他们要走了。他们会走,因为他们不信任这些公司不会去抢应用层、不会跟他们竞争。

45:30Eleven Labs、Figma、Lovable,他们都会走,而且都会带走 Kimi。他们会 fork 它,或者 DeepSeek 那个。我知道一个事实:他们现在都在做自己的模型。我从我团队知道,我团队已经装了 Kimi。

45:46它便宜 90%,已经便宜 90%。不知道你的数据从哪来,但你去 OpenRouter 看看。OpenRouter 干的事是,Sacks,你选 Kimi,然后那里会列出所有供应商。然后你选哪个供应商——等等,让我说完。

45:59你根据在线率选供应商,也根据他们的数据留存和其他问题来选,你可以动态地选最便宜的那个。这会对这些公司形成巨大的逆风。巨大。我在我们投的组合里聊过的十家初创公司里有九家都看到这一点。我上周在日本的时候发现一所大学在跑下一代那个。

46:20他们都在做开源,全都在拥抱它,那些大公司也在拥抱。Chamath,你来。

46:26不管你用哪个模型,我告诉你,我看我们的工程师生成代码,跑到 80%、90% 的时候,AI 驱动的开发往往涉及大量返工。第一版相当糟糕,第二版也糟糕,但它更快、更自动化。所以我能理解这些 token 消耗从哪来,因为这不是「量两次、剪一次」的那种动态,恰恰相反。

46:52你可以想剪多少次就剪多少次。所以我认为我们必须意识到,没有人在问:那点增量 token 的需求到底是什么?因为我理解它会出现在前沿实验室的损益表上。但我确实认为有个重要问题:最终消费它的人会希望尽可能高效地做这件事,这样就不用为所有这些付钱。因为这里面有大量返工。

47:25而我更愿意找到一个模型,或者找到一种跟这些模型协作的方式,更接近「量两次、剪一次」,尤其是当成本往上爬的时候。这是我要说的一点。这还没发生。所以 Sacks,你对今天的动态完全说得对。但我确实认为我们得记住,公司所有者会施压去解决这件事。

47:44因为在万亿规模上,流向这些人的钱太多了。总会有人问:这笔花得值吗?第二点,在安全方面,我觉得没人这么说,所以我就说了,有点反共识。这些模型之所以能找到所有这些漏洞,是因为直到几年前,所有软件都完全是人类写的,而代码质量没那么好。而且我认为可以公平地说,模型只要不被耗尽,就能永远做那些枯燥的活。

48:14在我看来,它们找到所有这些漏洞、能把它们串起来、现在真能生成这些有点令人惊讶的结果,其实相当符合预期。但等到大部分代码由模型生成的时候——未来某个时点,28、29 或 2030 年——这些安全漏洞就不会存在了,因为人类犯的那些错误,这些模型不会犯。

48:39对。好。让 Friedberg 也进来。你看这份最新的调查、这种搓手焦虑、攥着珍珠的做派,你觉得这些公司——你认识其中很多人,Friedberg,在硅谷待了这么久——你觉得这是真诚,还是他们在「弗兰肯斯坦最大化」?这里到底怎么回事?

49:00嗯,弗兰肯斯坦最大化。

49:01我觉得他们就像:听着,我造出了这个怪物,请救救我。而那反应就像:那你也许该把这怪物关起来。

49:08还有,抱歉,David,我必须打断你,最后一点:这是一次精细得多、优雅得多的监管俘获尝试。这点我得给他们记一功。对。就像,好吧。

49:19嘿,各位,把梯子收上去。

49:20对。扎克伯格在他刚写的那篇文章里有个很好的点。我记得发在《华尔街日报》上,他说:你为什么要急着创造一个你自己都不相信的未来?你觉得你基本上会让所有人失业?你觉得你在为人类造一个替代物种?

49:33如果你对未来这么看空,为什么要急着创造它

49:36对。慢下来。

49:37你在创造的东西?

49:37这是你的选择。

49:38对。这差不多就是我的

49:39观点:你在高速上开 120 英里每小时,那就降到 80。

49:43对,正是。而且你看,就像我说的,现在前沿只有两家公司远远领先其他所有人,而正是它们在说我们需要慢下来。那就慢啊。

49:53你需要政府介入干什么?你自己做就行了。但他们不会做。我倒想说

49:58这是不真诚或者妄想。Friedberg,你怎么看?带我进这些人的脑子里。这些人有些是你的朋友。

50:05不,他们不是。说清楚,我跟这些人里任何一个都不是亲密私交。

50:09不过关系挺近的。对。

50:11算是熟人。我会说,这里面有一种程度上的、我称之为离谱的自我重要感。如果是我创造了一个如此独特、如此强大的东西,那我也就是唯一能保护我们免受其力量伤害的人。我认为这里有个成分:前沿推进得如此之快,而这些个人扮演了如此重要的角色,以至于他们认为自己和自己的公司是唯一真正有资格做那些保护人类免受自身伤害的决定的裁判。而真相是,人类之中到处都蕴藏着非凡的人才。

50:49而在所有这些案例里,当新技术找到通往人类的路,普通大众总能找到保护自己的办法。并不存在对某个救世主、某个带我们穿越沙漠的摩西的渴望或需要。保护我们、针对这项技术可能被用于的任何用途构建我们自己的防御工具,这是一种集体利益。所以我认为这里面有一种自我重要感,同时不承认一个事实:有一整个行业的人在做网络防御,有一整个行业的人在做生物防御。

51:23有一整群监管者,一整群保护者,一整群聪明的计算机科学家,一整群开源技术人,他们加在一起会开发出有益于人类而非伤害人类的路径。但「只有两家公司之一能当摩西」这种信念,才是这里根本性的心理误判。

51:47他们如此先进、如此特别、如此独特,因为他们做出了稍微好一点的模型,得分 0.96 而不是 0.93,就意味着他们应该被信任为唯一能引导人类未来演化的人。而真相是,正如我们看到的,做模型训练的能力、做模型开发的能力正在变得更广。

52:10它正变得更普及。人们可以整天说中国偷了美国的模型。但你去看那些在中国实验室工作的个人,他们在美国机构拿的博士。一半博士去了美国实验室,一半去了中国实验室。他们有非常好的科学家做非常好的工作,而且他们在取得突破。

52:29而且不只是那两家美国公司,这到处都在发生。所以 AI 的进步不应该只局限于两家公司,仅仅因为它们目前的模型得分稍微高一点。

52:40这让我想起,Friedberg,你会喜欢这个瞬间。记得 Han Solo 从碳凝里出来、快要被扔进 Sarlacc 坑的时候,他说:一个绝地武士?我离开一阵子,现在每个人都得了自大妄想,以为自己是绝地武士。就是这样。

52:55这些家伙就觉得自己在造上帝。他们真的觉得自己在造上帝,而他们需要被监管,因为他们控制不了它。就像,他们控制不了它。

53:05那就暂停啊。

53:05不。不是他们需要被监管。是他们需要主导监管。说清楚。

53:12这太阴险了。这更阴。

53:13而任何这么说的人——顺便说,我认识这些人,我不认为它像大家描绘的那么邪恶或恶意。我不认为他们在说「策略就是监管俘获,我上了」。我认为他们真的相信自己就是唯一能引导人类的人。

53:30因此他们需要拥有全部权力,不只是模型的权力,还有政府的权力、监管者的权力,以及嵌入世界各国政府的控制单元的权力。不只是他们想「被监管」,他们想主导监管、设定监管。我知道这是个细微差别,但

53:47对,我知道这很重要。我认为我们……我认为我们把这件事处理得还不错,动机是多重的,正如 Sacks 说的,人是复杂的。不过 Chamath,我之前跟我们的一个朋友聊,你知道,他在提供推理服务这块。就说到这儿吧。你懂?

54:04提供

54:06我们的朋友。对。

54:06一位朋友。一位朋友。就像我们在《黑道家族》里说的,一位朋友。他说他有个客户刚把九位数的量从前沿实验室挪走,放到 GLM 5.2 上。就是智谱(Z.ai)那个。

54:22那很强。所以这事正在发生。我不知道它什么时候会体现在数字里,或者那些用这些东西的企业会不会把这个差额补上。

54:32不过你看,我认为 Sacks 说得对,用量如此之深,所有人都在想办法拿到这些能力,因为能力本身就太鼓舞人了。所以我猜 OpenAI、Anthropic 和开源实验室的收入还会猛涨一阵。但再说一次,那不是重点。如果你在考虑估值,市场会看五到十年后来回答那个问题。

55:03他们不会给一个他们觉得头两三年可能很脆弱的东西溢价估值。而这就是 Jason,你那个问题的答案必须被搞清楚的地方,因为我不知道你对不对,但总得有人精确回答那个问题。因为如果答案是它是个双寡头,那五到十年后的收入就没有风险,这些东西每一家都是 5 到 10 万亿美元的公司。但如果你是对的,或者存在一些 harness 能削减 token 消耗——因为你不再为了同样的产出浪费 token——那就多了一个问号。

55:42我觉得这需要被搞清楚。

55:44对。Perplexity 下周要发布。据我了解,传言是它们要发本地模型。所以你可以拿着你的 harness,Sacks,然后说,嘿,这个我想用 Sonnet。

55:56这个我想用 GLM 5.2,然后默认用 Kimi 2.x。我不

56:01我认为企业不会用本地模型,也不该用。我认为这东西应该托管在云上,应该是多人的,应该有共享记忆。不知道你们看到没有,Jack Dorsey 发布了一个叫 Buzz 的东西。

56:14特别有意思。耐心点。

56:16对。

56:16他在往对的方向走。这些人里很多都在往更云端的方向走,Jason。我觉得本地这套更像是黑客的爱好之类。

56:27我觉得会。我同意今天会是这样,第一年大概也会是这样。但想象你是个开发者,你干活的时候,你的工作站能跟得上、甚至比云更快,把那些简单代码直接写了,然后再动态切换。所以走着瞧。

56:43你知道,显然它没那么容易配置等等,但会越来越容易。趋势一直如此。Sacks,你要不要来说最后一句?我们这儿意见很多,也许把最后一句给你。

56:53说清楚,我是开源的粉丝,因为开源就是软件自由。而且接着 Friedberg 的观点,我希望 AI 这边能有一个——我们这么说——去中心化的结果。我不喜欢 AI 被两家大型科技公司控制、而它们跟行政国家紧密合作、手套贴手套。所以你看,我们在某种意义上都希望开源能成为一个选项,它确实相对闭源有一堆优势,对吧?

57:22你可以定制,你可以控制,你可以跑在自己的硬件上,你不必担心数据问题,比如你的 alpha 泄漏给那些可能跟你竞争的公司,诸如此类。市场这么大,我确信开源会取得一些成功,它会拿走市场中有意义的一块。但如果你看现在的收入在哪里,就是这两家公司。最终可能会是苹果和安卓那种局面:安卓拿到了很多市场份额,但钱都在苹果那儿。对。

57:54我认为 Dwarkesh 提了个很好的点:需求每年增长 10 倍,但算力每年大概只能以 3 倍的速度建起来,因为现实世界里所有摩擦都在挡路——许可、监管、对新数据中心的禁令,诸如此类。所以我认为算力价格会上涨,而这会给那些拥有最赚钱算法的模型带来优势,也就是能产出「每瓦最高智能」「每 token 最高智能」或「每 GPU 最高智能」的模型。而现在,那就是这两家公司。某种意义上你可以说它们有一个自我强化的循环:如果你拿走了全部收入——就像我说的,现在就是两家公司拿走了全部收入——你就可以把那笔钱再投进下一轮训练。对吧?所以这就是这里的飞轮。

58:49对。而且你看,我认为开源提供了一个替代选项,这很好。我们不应该做任何阻挡它的事。我认为这些线上辩论往往变得有点戏剧化,因为每个人都

59:01它们变成了宗教。它们就是宗教。

59:02它们变得宗教化,而且必须用一种非黑即白的视角来论证。我认为开源会以自己的方式做得很好,但这两家闭源公司也会。

59:10你的 Polymarket:美国今年通过 AI 安全法案的概率 19%,成交量 10 万。然后一个非常有意思的,Chamath,我们那个「OpenAI 2026 年 IPO」的概率,上个月还是 75%,现在掉到 20%,历史最低。所以看起来 IPO 要等到明年。不知道是什么在驱动这个,但这就是你的 Polymarket。

59:36就 AI 安全法案这个想法说一句,今天早上 Punchbowl 有篇文章说,Thune——你知道,参议院多数党领袖 John Thune——实际上提出了一项多少有点两党性质的议案,他把 Klobuchar 拉进来了,要求前沿实验室把安全事件报告给商务部。Sacks,这合理吗?我是说,事情都在往这个方向走。我是说,你看。

60:06我认为这是骆驼鼻子伸进帐篷,后面会有越来越多的 AI 监管。但你看,我认为它能有两党支持,是因为它相对温和。而参议院商务委员会的资深成员 Cantwell 据说在 Dario 的授意下反对它,因为他除了「AI 版 FDA」什么都不接受。

60:27哦,他想要全套。

60:29对,所以现在的动态基本上就是:Dario 和 Anthropic 想要他们的 AI 版 FDA。我认为他现在在民主党内有巨大的权力和影响力,而且我认为那种影响力只会增长。他们刚把中期选举的捐款从 2000 万提到 4000 万。但你知道,IPO 之后,当他们都能变现、有能力开大额支票

60:52甚至最终开出百万美元级捐款的时候。

60:54对。我认为那种影响力只会增长。所以我认为战线正在划出来:你是想要一个新的政府机构来管 AI 安全,还是想要——我会说——更有针对性的提案,比如:就把你的安全事件报告上来。

61:10对。或者自我监管。这样如何?就像我们上周聊的。对。

61:14好。我们来聊聊烧书。据消息源,Anthropic 正在销毁珍本书籍,以在训练数据上取得优势。我碰巧知道,很多实验室都在干这事。我们这儿放一段视频,从技术角度讲,就是把书脊切掉。

§05前沿实验室为什么要「烧书」?

61:29你拿一本书,把书脊切掉,然后就能轻松扫描,而不是用那种效率更低的方式——保持书完整、一页页翻。原因很明显,你从物理上就能想明白。这是 404 Media 的调查。AI 公司在大批量购买实体书。一些图书转售商反映,他们收到 70 本书的订单。

61:53显然,这是因为有一项裁决认定:如果你买下这些书,用它们训练属于合理使用。显然上周我们看到 Anthropic 支付了美国历史上最大的版权案,15 亿美元,对应他们被指盗版的 700 万本书。作者每人拿 3000 美元,律师那一单拿了 1 亿美元。但有一家叫 ISBNDB 的公司,ISBNDB,他们就是做这行的中间商,单笔交易从一千本到一百万本。

62:252022 年之前,这些书还能溢价,因为它们不含 AI 生成的文本。换句话说,你在网上拿不到它们。如果你记得,谷歌扫了 2500 万本书,但每一本都还回去了。他们为这事在法庭上耗了十一年。碎纸机这条路显然更高效,而我认为这是一种销毁证据的方式。

62:51你要愿意,可以把这条放进阴谋论角落。这些案子——其实我们聊过,你和我还在法律角落辩论过——关于拿这些书做训练属于合理使用的案子还没有定论。有一堆诉讼:汤森路透诉 Ross Intelligence、纽约时报诉 OpenAI、微软,还有出版商诉谷歌、Gemini。我们都在盯着,它们正在进上诉法院。

63:13所以训练数据有可能不算合理使用。但单就书被销毁、被这样使用,你怎么看?这显然让一些人情绪上来了。

63:27我告诉你这里发生了什么。这是一场工业规模的蒸馏攻击。Anthropic 干的就是这个。对。他们以工业规模收集这些书,撕掉书脊、粉碎,把书里所有信息吸走,也就是把它们蒸馏掉。

63:47而说它是攻击,是因为作者从来没同意过这些。

63:51我很喜欢这一点,Sacks:你对 Anthropic 的厌恶,现在让你同意我的看法——拿走别人的知识产权是不道德的。

63:59你看,我说清楚。我其实不恨 Anthropic,一点都不。我不喜欢他们的政治哲学,因为那是一种中央集权和守门人的哲学,我认为它最终基本上会导向一个奥威尔式的大型科技与深层政府的联盟,那就是它全部的去向

64:15还有抽地毯。就像,你希望 Dario 因为他不喜欢你使用模型的方式就把模型从你这儿抽走吗?本节目的朋友 Emad Mostaque 今年早些时候上节目时就指出过这一点

64:26的时候。

64:26说清楚,我对 Anthropic 里任何人、包括 Dario,都没有个人敌意。作为人,我跟他们不熟。这只是政治哲学上的分歧。

64:35你是在评判

64:36他们,基于监管行为。监管这个领域。对。我再补一句:如果我不认为 Anthropic 是一家非凡的公司、正在创造可能是世界上最强大的垄断或者

64:49世界领先者,我就不会这么多地谈它。是公司。对。

64:51它是这个领域的领先公司。我记得去年我批评他们搞监管俘获时,人们说,你为什么要打这家小初创?我说,因为我看得见它要往哪走。

65:01他们在

65:01创造有史以来最大、最强大的垄断。再说一次,他们今年年底 ARR 会超过 1000 亿美元,同比增长 10 倍。

65:10这家公司几年前还不存在?

65:12对。谷歌 ARR 是 4000 多亿,增长 20%。所以你知道,如果这个增速再持续一年,甚至六个月、甚至几个月,他们可能会成为最有价值的科技公司。而且我确实相信,当你处在前沿时,存在强大的自我强化效应。也许完整的 RSI 版本不成立。

65:34也许我们不会走到递归自我改进、造出超级智能那一步,但我确实认为,实验室们正在报告不少例子,说明他们在用自己前沿的智能去改进自己的模型、以及这些模型的效率。所以这里显然有一个强大的自我强化反馈回路。嗯,在某种程度上。

65:56就 OpenAI 那个事,他们是在它干完之后才发现的。所以这里大概有三步。你用 AI 像 Copilot 之类去更快地建一个前沿模型。对吧,Sacks。

66:09然后是:我大概让它去干个活,事后才发现它表现不好。最后是:我们告诉它目标,说「去吧」,然后我们根本不检查它。你知道吗?

66:20对。关于 OpenAI 和那个 agent 的安全事件,说清楚。据说这是一个专门设计来测试网络攻击潜力的 agent。他们把它身上的护栏拆了,然后说「去吧」。所以我认为模型在如何达成目标上展现了创造力,但这不是一个对齐问题,也就是说,这个 agent 并没有表现出独立的目标追求。

66:46它做了被告知的事。我认为非常重要的一点是,OpenAI 应该公布所有提示词、所有轨迹的完整日志。他们没有公布,而我认为没有那些,很难确切知道发生了什么。回答你前面的一个问题:为什么人们不觉得这是件更大的事?因为你看,我觉得有个「骗我一次、骗我两次」的问题。记得 Anthropic 那个勒索研究吗,据说一个 agent 表现出独立的目标追求行为,然后勒索了一名员工,结果发现他们其实把提示词迭代了 200 多次才得到那个结果。

67:23所以我认为,在看到完整提示词链条之前,很难判断这里有多少是独立行为,多少只是在完成它被交代的目标。

67:35Friedberg,你对粉碎书籍怎么看。我觉得你在节目里一直说得挺清楚:你认为用别人的知识产权训练智能是合理的。但对这个「书」的变数你怎么看?有想法吗?

67:50谷歌图书有先例。很久以前在谷歌,项目代号叫 Project Ocean。他们把所有这些书拿来,我们在山景城有一个巨大的设施。当时的创新是在书页上投射一个二维红外网格,因为他们不切书。他们安排一个人坐在那儿翻页。

68:12相机会拍照。我们自己写了 OCR 软件来校正书的图像。最终这个产品出来,谷歌图书,你基本上可以搜遍世界上所有书,还有杂志。获取信息,后来还包括杂志。对。

68:30当时分三类。一类是公有领域,也就是版权已过期。然后是仍在版权保护内但已绝版的。再然后是仍在版权内、也仍在印的。2005 年,作者协会和美国出版商协会提起了集体诉讼,不同意谷歌的合理使用主张。

68:46那最终变成三年谈判,在法庭上、也在庭外,最后达成一个协议:谷歌把由此产生的收入的三分之二分给所有这些权利人,自己留三分之一。对于版权过期的书,人们可以免费读最多 20% 的文本,然后他们会卖这种完整的数字访问权。那就是那个协议。但后来,一位联邦法官否决了这个协议——它最终是在 2008、2009 年签的。联邦法官说,不行,退回去。

69:18这行不通。谷歌上诉。2015 年,第二巡回上诉法院判谷歌胜诉,整件事就了结了。他们基本上认定,谷歌在向用户展示受版权保护书籍片段的方式上,确实享有版权法下的合理使用。

69:37对。你不能像 Kindle 那样读整本书。你可以搜索这本书、找到那一段

69:42给出它的引用。对吧?所以 AI 里合理使用的问题是:我对书里数据中的知识所做的理解或价值提取,能不能让我通过 AI 聊天界面或我提供的服务,给你更好的答案?我认为这会被检验,我们看着吧。我确实从根本上认为,把那些数据转化成我所说的知识,并最终从这些知识中创造出新的、不受版权保护、不是原素材复制品的成果,最终会被认定是正确的合理使用政策,也是对合理使用的正确解读。

70:21所以我认为它很可能会进入诉讼,会花上几年,然后会

70:25我希望其中有一个

70:26说清楚,J Cal,我在合理使用上的观点没有改变。所以我跟 Friedberg 站一边。我的重点是虚伪。

70:34对。你真逗。

70:35Anthropic 一边主张自己有权免费拿世界上所有产出做训练、哪怕创作者反对,另一边又主张唯一一种你不能拿来训练的产出就是他们的产出、哪怕你付了钱——这是令人窒息的虚伪。这就是他们目前的立场。所以你知道,我想说的是:如果你想拿 Anthropic 的产出做训练,那在合理使用下不能算知识产权盗窃,尤其考虑到法院已经裁定 LLM 生成的产出不可版权,因为不是人创作的。法院目前的立场是 LLM 产出不能享有版权。所以这里不存在知识产权盗窃。

71:18你可以论证——我认为这大概是对的——如果一个竞争对手在你的服务上创建大量假账号

71:26那是服务条款问题。

71:27那肯定是违反服务条款,而且可能构成欺骗性商业行为。可能还有别的办法,但我不认为你

71:33可以——顺便说,这取决于司法辖区。因为在菲律宾、以色列、印度,他们对违反服务条款有不同规则,LinkedIn 就领教过,当人们开始抓取他们的数据时。Chamath,在我们进入社会主义角落之前,你有什么想法吗?这是 All-In 播客里大家最喜欢的新栏目。

71:54别切书。让书保持完整。

71:57你为什么要在图书馆里切书?那样很难读,没有书脊。

72:04我觉得这不厚道,我不喜欢切书。

72:09我是说,你花点时间,像谷歌那样翻页?多花一点时间,但优雅一点,对吧?

72:17别

72:20我是说,如果你想切书口,那是一回事。Friedberg 切过书口,Sacks 也切过书口,但你不切底部的书脊。你切书口。那更……有一个

72:33一个很好的《吉尼斯世界纪录大全》笑话。

72:36哦不。这段要放到哪儿?

72:38我去了图书馆,发现我的老二被记在《吉尼斯世界纪录大全》里。然后不幸的是,有人让我把它取下来。

72:46所以你就真的把它夹进书里、把书合上?这就是那个笑话。就是这个笑话。像苹果派一样。嘿。

72:53顺便说,我们有张照片。这就是那张照片。我们真的有一张从 Anthropic 办公室泄露出来的照片。这就是 Anthropic 办公室。泄露照片。

73:03就在那儿。Camp Least。Dario 烧了那些书。你在忙什么呢,Dario?随时欢迎上节目。

73:10我们吐槽他两年了。他为什么还不上节目?因为你

73:17拿他开玩笑,你就说这种话

73:19你根本没见过这个人

73:20却一直在侮辱他。你觉得他为什么不会上节目?

73:23我确实说过他是

73:24这个人真的建起了人类历史上最成功的企业,六个月内从不到 100 亿美元收入做到 700 亿美元收入,而你还在侮辱他。

73:34你这是在替我拉票。那那

73:35那是……那正是……该上节目的理由。

73:37所有想采访他的人,他会急急忙忙跑来接受你的采访。

73:41我确实说过他是个「sub」。那大概是

73:43有点过线了。

73:44我甚至不知道

73:45那是什么意思。那是什么意思?

73:46记得我说过,我觉得他喜欢被支配,你知道,喜欢让政府来管他。

73:54就像个顺从者?

73:55对。我在某一期里确实说过,但那是玩笑,是善意的。

73:59顺便说,关于书这一点,你看,大多数书都有很多副本,你总能再印,所以粉碎它们不算世界末日。但我认为故事里让人不安的部分是,他们在收购所有这些副本极少的珍本。他们在找所有这些珍稀古籍,因为他们想把世界上所有知识都吸进去,而他们把这些书粉碎了。

74:22对。对。

74:22那……我是说,那才是让人不安的地方。

74:24如果你是在处理《Windows 3.1 入门》第四卷那种,没人在乎,但凡是初版或者珍稀

74:32绝版书。

74:33珍稀绝版书。对。那能给你带来训练上的差异化。说得通。好。

74:37那快速进一下社会主义角落。我们得聊聊我老家、也就是我现在所在的纽约市正在上演的这出戏。Mamdani 宣布了五家市属杂货店,David,每个区一家。他们用的是市属场地。全部在 2029 年前开业。

§06社会主义角落:Mamdani 的杂货店与「社会主义景观」

74:57每月有一周,顾客能拿到 30% 折扣,同志,面包、奶酪、农产品、肉和牛奶,为了国家的荣耀。其余三周是正常价格。他们不卖香烟、酒、热食这些东西,因为他们不想跟小杂货店竞争。这会花纳税人 7000 万美元。我猜这里唯一值得讨论的就是:那其他超市怎么办?

75:25他们会因为赚不到那 1%、2% 的杂货毛利而关门吗?会不会有人上街骚乱,就为了进这些店、每月有一周拿到 30% 折扣的牛奶?整件事看起来就是浪费时间。但我得说,Sacks,这事有政治效果。它在选举里会起作用。

75:44免费的东西在选举里管用,不管是免费公交还是折扣。

75:49它可能对你有用……你看。人们第一次去这些店、刚开业、货架满满的时候,对,人们会很开心。但时间一长,会发生的是货架变空、经营得一塌糊涂、抱怨一大堆。然后所有自由市场的店都得跟它竞争,然后它们可能被挤出局。所以

76:13然后你就没得选了。他们只能去国营那家,然后他们涨价。

76:18讽刺的是,他们要查身份证,确保没人从泽西过来。但如果你想从世界上任何一个国家非法过来,那倒是

76:26完全没问题。他们给身份证找到用途了。顺便说,买完菜之后,你去投票时得把身份证藏起来。买完牛奶去投票的时候别带着、把它碎掉。他们给身份证找到用途了。

76:38Friedberg,你怎么看?你是支持人们买菜少花钱,还是一个自由市场的怪物、想让人按全价买菜?我倒是从没见过哪家穷人饿死。

76:49我在推特上看到的关于这些杂货店未来会失败的评论,全是负面的,我认为大家搞错了。我认为这些杂货店会大受欢迎。他们会给员工付高于市场的工资。员工在那儿不用干得太辛苦,所以那会是个更好的工作场所。所有人都会想用它们。

77:11它们的表现会超过 Whole Foods,超过 Safeway,超过 Albertsons。它们会供不应求,最终的结果是:未来二十四个月里,美国其他每个城市都会看着这些杂货店说,我们也要一样的。凭什么只有纽约有这些杂货店?

77:31凭什么我不能也有这些杂货店,能买到打折食品,能享受到由高于平均工资、高于市场工资的人提供的服务?在乎。为什么这不能在我所在的城市提供给我?所以你知道,我认为大家在这件事上都有点太——我会说——看得太远了,总在讲那些基本、显而易见的经济算术:总得有人为此付钱,谁来付,以及

78:02富人。

78:03等等等等。嗯,我是说,重点是,我不认为这真的重要。因为在近期,廉价杂货店做的事是:为社会主义创造一个了不起的成功故事,帮助支撑并助推这个国家各城市中心的社会主义浪潮。而且我认为会有媒体报道这些杂货店有多棒,会有一期《60 分钟》。所有人当初都说 Zohran Mamdani 疯了,但我们进来看看这家漂亮的杂货店,然后他们会在店里走一圈。

78:37会有开心的人从货架上拿食物、结账,有开心的员工在店里工作。它会被认定为一个乌托邦梦想成真,所有人都会想要一个。它会为接下来几年播下种子,而且正如我过去强调的,它是社会主义这套多层营销方案的一大部分——制造景观。它会制造更多景观,进一步助推社会主义的多层营销方案。记住,所有多层营销方案最终的问题都是:总得有人付账,而实际上没人在买那个产品。

79:14没人在为产品付钱。

79:16不过那还早。在它到来之前的这段时间。

79:20在这段时间里,它会起飞。我认为这些杂货店对社会主义来说会是一个大得多的成功。对。而不是社会主义失败的证明。对。所以我认为,大家假设这东西会彻底失败,这一点都有点搞错了。

79:38我认为这些东西会制造出对社会主义政策的极端景观和亢奋,很遗憾,这会在全国范围内为社会主义点火。因为说到底,没人需要付账,因为账单很久都不会到期。会有别人来付。它会在未来被付掉。

79:58把它堆到债务上。既然富人都在负债,为什么公众不能有点债?我同意你。

80:03对。把成本社会化、变成印钞,助推更多通胀,形成一个螺旋:你得提供更多免费的东西,想办法覆盖那些已经买不起东西的人所承受的通胀成本,而螺旋会持续下去。所以我认为美国不得不拥抱这种政策,是一种悲哀的状态。有意思的是,我认为它最终会成为未来几年社会主义的一大燃料。

80:27突发新闻。突发新闻。不知道你们刚看到没有,刚过电讯。Bernie Sanders、AOC、Mamdani 正在合作推出贝果和培根鸡蛋奶酪三明治五折。

80:42为了那 10% 里的 1%,凭什么你不能用更低的价格买到带抹酱的贝果?这是接下来必须发生的事。David Friedberg,你的打折民主社会主义计分卡上,下一个你想要什么?下一个你想要什么?打折贝果、咖啡馆,也许一杯馥芮白。

81:02他们下一步往哪儿走?

81:03但说正经的,下一步是什么?这条逻辑线上接下来会是什么?免费公交、

81:08租金冻结。下一步呢?嗯,想想杂货店的社会网络效应。所以先有几家,然后人们开始从很远的地方跑到这家便宜杂货店,因为它有折扣。

81:23长岛、泽西。

81:25对。再说一次,这会在未来二十四个月里、进入 2028 选举周期时展开,然后所有人都会说,这太受欢迎了。人们从四面八方跑来这些杂货店。他们不查身份证,因为身份证是种族主义的。而且你知道,投票都不能查身份证,那杂货店当然也不该查身份证。

81:43所以人们会从四面八方来用这些杂货店。需求会上升,然后他们就会开越来越多这样的店。假设每家一年亏 1000 万,开到 10 家或 20 家,那就是这条杂货店连锁每年 2 亿美元的亏损,但它为更多这样的杂货店创造了一场非凡的社会运动,支撑着 DSA

82:04对。

82:04等等。纽约市一年 1250 亿美元预算里的 2 亿美元,什么都不是。什么都不是。不到市政预算的四分之一百分点。

82:15用这么便宜的成本去营销 DSA 的纲领,让 DSA 的纲领变成一个社会营销元素、驱动下一波浪潮。所以再说一次,我确实认为这些杂货店——信不信由你——听起来很傻,听起来很小,但我预测它们会被认定为成功案例,并最终成为 2028 年之前 DSA 的一大燃料。

82:39我完全同意你。这会有政治效果。这会是他们帽子上非常、非常漂亮的一根羽毛。它会成为「可负担性」的绝佳范例,因为我们之前在这儿聊过,特朗普承诺了可负担性,他没能兑现。

82:54通胀上去了,支出上去了,诸如此类。而 Mamdani 做成了。免费公交、租金管制,现在又有了打折杂货店。

83:03两党都在对美国的财政与货币状况作出反应。我们超支了。通胀失控了,所以你就继续多花钱、多印钱,去给人们他们需要的东西,也就是基本服务。于是政府花得越多,这些东西的基础成本就越高,你又在降低经济生产率,它就变成一个螺旋上升的问题。这是一个两党共同的问题。

83:25这不只是一边和另一边的事。因为根本上,如果你去——我现在在华盛顿待了很多时间。我认为白宫和政府里每个人在试图削减联邦支出上都是善意的。但你面对的更大问题是:当你去国会、跟国会里每个人见面,他们代表的是自己州或自己选区的利益。

83:44对,听着,他没做成。

83:46他们的目标是把支出往自己的选区引,给自己的人更多经济激励,而他们的政治激励不是给人们更少——而削减项目、削减支出时你必须这么做。所以政策的转向变成了:嘿,看来我们没法削减支出,因为国会里的逆风太大了。那答案就是,让我们靠生产率提升来实现增长,而那正是 AI、资本开支、折旧、政策等等的巨大燃料。但我认为这就是

84:18那个转向。

84:19所以你看,我

84:20不知道。我要批评特朗普总统的一点是:在发动战争、在关税这些事上,他完全没问题地用行政权力,告诉国会和党内所有人,就这么办,你要是脱队,我就毁了你,我让你在初选里落败。但到了支出这件事,就像,是啊。

84:38对。你知道吗?这个我不接。太不受欢迎了。好,Friedberg。

84:43科学苏丹的粉丝们一直在求一个科学角落。你这周有吗?他们想知道,你有什么东西吗?哦,苏丹。哦,科学苏丹。

§07科学角落:理解并绘制大脑

84:52你能告诉我们什么?教育我们一下。

84:54好。今天我要调出这篇论文。Nick,你能不能调出来。

84:58一篇论文。

85:002026 年 2 月的。

85:02好。

85:03二月。

85:04二月。你怎么

85:05念 February?February。February。February。

85:09哦,是二月。嗯,问题就在这儿。

85:11这是一群布达佩斯的研究者。布达佩斯。他们做了一个非常有意思的建模工作,想理解大脑里的神经元是怎么连接的,从而构建一个网络模型、一个拓扑模型。他们能做到这一点的方式是:2024 年 10 月,剑桥和普林斯顿的一个团队用电子显微镜扫描了果蝇的大脑,并绘制出那只果蝇大脑里的每一个神经元。

85:4713.9 万个神经元,以及这些神经元与大脑中其他神经元之间的每一条连接。所以神经元之间有 5000 万个突触连接。正是这些连接让大脑里的神经网络得以运作。这些神经元是如何组网来完成它们所做的事的?这是关键问题:那个网络模型是什么?

86:11神经元在大脑中如何连接的拓扑模型是什么?它带来了我们控制身体、看见并理解视觉、理解声音、甚至意识本身的基本前提。对。所以试图理解神经元的网络模型,一直是神经生物学的一个伟大事业。这个数据集是 2024 年 10 月创建的,只有 13.9 万个神经元。你知道,那是一个极小、极小、极小、极小的大脑。

86:43对。这会是……但有了那些……把它放到跟人脑对比的背景里。我是说,我们这儿在谈什么?比如

86:49人脑大约有 860 亿个神经元。好。

86:54而网络连接是这个的几十倍。对吧?

86:58对,正是。数量级是万亿级连接。

87:01好。

87:02于是他们拿大脑里这 5000 万个连接和 13.9 万个神经元,套用一个网络模型,去预测某个神经元是否与另一个神经元相连。这就是你衡量模型质量的方式:它做预测有多准。当他们用所谓欧几里得几何、也就是我们身处的普通三维空间来构建模型时,他们得到一个分数,而那个分数不太好。仅仅根据神经元之间的物理关系、它们在三维空间里相距多远,你没法做得很好。

87:38于是他们说,那我们试试在所谓双曲空间里给这些神经元的连接方式建模。双曲空间是一种理论上的空间,和欧几里得几何不同:你走得越远,空间变得越宽。所以空间其实是弯曲的。我知道这概念很难描述,但想象一下,你和我越走越远,我们周围的面积实际上在加速扩张,空间变多了。

88:06那会像是……就像我们作为人类在地球上所理解的那种三维空间。

88:13它更像是你在引力井周围、或者在黑洞周围感受到的那种空间扭曲。而在那种空间里,他们发现模型表现最好。他们能在双曲空间里绘制出所有这些神经元如何彼此连接。你想想,你离第一个神经元越远,你能接入的神经元就越多、越多。所以用双曲模型来刻画神经元连接其实说得通,他们拿到了不错的分数。

88:44然后他们回过头说,如果我们用欧几里得几何,但不用三维,而升到四维、五维、六维呢?他们发现,到 64 维时,效果差不多能赶上双曲空间。所以拿普通空间、用 64 维框架去连接所有这些神经元,那才是他们最好的预测模型。这是一个非常有意思的发现。首先,它可以用于神经网络设计、AI 之类的东西。

89:14但对我来说,它凸显了生物学的奇迹:复杂性存在于 64 维里,不是三维,而是 64 维。生物学找到了一条路去创造意识、创造视觉、创造理解、创造对身体的控制,然后把它映射出来、压缩进一个极小的大脑里。它在实际上六十……四是

89:39想起来真是令人震撼,因为一只果蝇或者一只蚊子,你知道,这些东西并没有什么宏大使命,对吧?它们的使命大概就是找食物和繁殖。它们的使命非常简单,Jake。嗯,但我们还想做播客、辩论政治和哲学。

89:57别……别说蚊子闲下来干什么。

89:59不过,我是说……好吧。但没人会主张果蝇身上存在我们所说的那种意识。那到万亿级连接的时候呢?你不会知道的。不过,也许吧。

90:10这真的很有意思,因为结果发现,神经元如何连接这件事的生物学机制——哪怕在一个只有 5000 万连接、像果蝇这么简单的大脑里——都复杂到我们必须用 64 维才能表示那些网络是怎么搭起来的。而在 64 维上,你几乎可以论证:也许意识就是一种连通性,连向我们日常生活中并不居住的那个维度。你和我并不住在那里。

90:40我们也无法理解。

90:42正是这种 64 维里的非凡复杂性,催生了意识,催生了我们作为生物去做「思考」这件极其简单的事的能力。我只是觉得,这篇论文太有力量、太惊人了,它把这些数字摆出来,展示在这么小的大脑上做网络建模,就已经让我们窥见生物学如何找到了一条超越我们对物理的理解、通向我们甚至无法理解的宇宙的路径。它说明我们知道的是多么少。

91:17我们知道得很少。但就像你暗示的、也像我们在节目开头聊过的,我们有前沿实验室在说,嘿,强化学习超级危险,因为这些东西可能失控。你属于那个阵营吗——认为我们正在这座模拟里重建,或者说我们正在用硅重新造我们的大脑,我们正在走向真正创造出意识,就像科幻里的复制人、《银翼杀手》那样,他们甚至不知道自己……Rachel 不知道自己是个复制人。剧透警告。你有五十年时间可以看那部电影。

91:59比如,你属于那个阵营吗——认为这里正在建的就是那个东西?

92:02对。我不确定。这是个更长的对话,我们改天再聊。对。

92:06但我确实认为,意识里有某种根本性的东西,跟物理意义上的生存驱动力相关。婴儿要学习,必须有物理感知和物理反应。你先开始摸烫的东西、冷的东西,然后你学会。我们把奖励机制编进 AI 里造的神经网络,但那些奖励机制是数字的、是被编程的。问题是:生物学里是否涌现出一种奖励机制,它带来的意识能力不同于硅里可能存在的?

92:40这是个更大的话题,改天跟可能比我思考得更多的人聊。但我就是觉得生物学里有某种东西。你知道,我总跟人讲这个类比,我在节目里说过很多次,我再说一次。单个细胞里有一百亿个蛋白质,它们工作得如此之快,以至于一秒相当于人类在曼哈顿城里走动八十年——从不睡觉,一起做事,五百层高的摩天大楼也在做事——八十年等于一秒。而你身体里有一万亿个细胞都在这么做,每一秒都过着整个宇宙,彼此互动。你于是开始意识到,生物学里涌现出的复杂性,远远超出我们今天在硅里建的任何模型。对。

93:30当然,这不意味着我们今天造的硅没有为人类创造非凡的能力,但我们还非常早期。我们越理解这类东西——比如我刚分享的这篇论文——我想我们就越意识到自己知道的多么少,还有多么大的前沿有待探索。

93:46对。而且我认为,这显然引出信仰。你相信有一个神启动了这一切吗?我愿意相信有,有某种更高的东西在这里运作。而这是我在科幻里最接近的类比。我们都是科幻的超级粉丝。

94:06但对我来说,这里第三十九秒,最伟大的之一

94:10像这个?

94:11我很喜欢《普罗米修斯》这个版本:有工程师在改造星球,把这种疯狂的东西播出去,生物学实验正在进行。你知道,这里《普罗米修斯》的开场,他喝下这个,这就是牺牲,像耶稣一样。为人类牺牲。他喝下那个生物设计,在这里牺牲自己。对吧?

94:36然后他坠入这个……你知道,地球,那时只有水。这就是寒武纪大爆发:他的 DNA 进入河流,被冲散,然后启动了地球上的生命循环,而这些工程师到处去。这相当奇幻。对。

94:55很多东西都是人类试图解释事物的简单方式,但生物学里涌现的复杂性,我们就是无法解释。我认为我们试着用这些还原式的启发法去做,而它非常……讲故事。它令人安慰,因为——对——因为太压倒性了。这些东西如何涌现的复杂性太压倒性,所以我们创造简单的故事,让自己感觉好一点。

95:17对,这就是我的——那是我最喜欢的故事版本。它介于《银翼杀手》和这个之间。顺便说,两部都是同一位了不起的导演,Ridley Scott。所以就当参考吧。好了各位。

95:28又一期精彩的节目。你有你的科学角落了。我们下次见。拜拜。爱你们,老友们。

95:33让赢家继续跑。雨人。我们干脆都开个房间,来一场盛大的狂欢吧,因为他们全都是废物。就像……就像他们只是需要找个方式释放性张力。

— 读到这里,多懂一点。 —