← Dwarkesh Podcast

Dylan Patel——深入解析 AI 算力扩张的三大瓶颈

Dylan Patel — Deep dive on the 3 big bottlenecks to scaling AI compute

第2026-03-13期2026-03-13简体中文会员内容

嘉宾:Dylan Patel

收听本集00:00 / 2:30:44
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

正文语言

精读 · 按主题梳理核心观点、论证与案例。

§01提前承诺算力的经济学

对话开场就指出了一个落差:企业的总支出规模很大,但能立即投入使用的算力有限。四大科技公司的资本支出预计达到 6000 亿美元;如果把它换算成一年的算力租金,约相当于 50 吉瓦。然而,美国今年预计只有约 20 吉瓦的新容量能够上线。大量支出其实是在为提前量买单:涡轮机定金、未来的数据中心建设、电力采购协议,以及其他在容量就绪前就要做的承诺。把这些上游投资也计算在内,整个供应链的投入可能接近一万亿美元。

这一区别对 AI 实验室很重要,因为收入增长会立即带来推理算力需求。Patel 估计,即使 Anthropic 的研发和训练算力不再增长,它也可能需要额外约 4 吉瓦,才能满足预计的收入增长。Dwarkesh 因此把问题归结为时间差:如果新设施建成前就需要这些容量,算力从哪里来?Patel 的回答包括通过云合作伙伴间接获得算力,也包括接受过去可能不会选择的供应商或合同条件。

两位嘉宾对比了 Anthropic 谨慎签约与 OpenAI 激进承诺的做法。Patel 认为,OpenAI 拥有范围更广的供应商,因此到年底可获得更多算力;Anthropic 的保守策略则迫使它去寻找较新或不太成熟的供应商。节目也回顾了市场曾担心 OpenAI 无力支付已签合同的情况。实验室获得大量融资后,交易对手才更愿意与它签约。这并不意味着风险消失了,而是说融资可信度会影响谁能拿到稀缺容量,以及需要接受什么条件。

稀缺让提前锁定容量变得有价值。随着旧合同到期,短期 Hopper 算力可以按较高的小时价格出售,资金充足的买家也可能挤掉其他客户。云服务商还能通过 Bedrock、Vertex 或 Foundry 等产品提供模型服务,与客户分成收入,而不是直接转交全部算力。Dwarkesh 将这种溢价描述为现货容量加价,或收入分成。无论采用哪种形式,即使模型领先只持续几个月,提前预留算力的公司也可能获得成本优势。

接下来,对话转向 GPU 折旧。常见的总拥有成本模型会把芯片、服务器、数据中心、网络、人员、备件和融资成本都算进去。按一种五年折旧模型,一张 H100 的部署成本约为每小时 1.40 美元;如果合同价格是每小时 2 美元,毛利率约为 35%。较短的会计折旧年限会抬高每年的折旧支出,让云服务投资看起来不那么划算。但 Patel 反驳说,GPU 的经济效用取决于它仍能完成的工作价值,而不只是新一代芯片推出的速度。

芯片价格面临两股相反的力量。新芯片性能大幅提升,可能压低旧 GPU 的市场价值。Patel 举例说,随着 Rubin 普及,Hopper 的价格可能从 2024 年每小时约 2 美元,降到 2026 年的 1 美元,再降至 0.70 美元。但新模型也能让同一张旧 GPU 产出更多有用结果。节目提到,GPT-5.4 的服务成本低于 GPT-4,却能让每张 H100 处理更多 token;这些 token 对应的市场机会也可能大得多。算力受限时,芯片价值取决于它能运行的最佳高价值工作负载,而不只是它在硬件代际中的位置。

直接的战略含义是:即使模型领先只是暂时的,只要它能帮助实验室提前签约、预留容量并拿到更好的价格,就仍然有价值。两位嘉宾把这与折旧问题联系起来:如果旧 GPU 的实用寿命比悲观的会计假设更长,提前承诺算力可能是锁定供应的理性做法。但这个结论取决于需求能否持续、旧 GPU 是否仍有可用工作负载,并不能为所有芯片和云计算合同规定一个统一的折旧年限。

§02芯片价值取决于它当下能做什么

Patel 还提出另一种衡量 GPU 价值的方法:看芯片现在能创造多少效用。如果 Rubin 等最新芯片可以无限量供应,随着新硬件提高性价比,旧 Hopper GPU 的价格可能会下跌。但半导体供应和部署进度都受到限制,因此价格更取决于现有芯片当下能创造的价值,而不是买家理论上可以购买什么替代品。

好对话,值得读完整。

免费试读到此结束。开通书架会员,继续阅读全文,解锁中英对照与电子书下载。