Dylan Patel:到 2028 年,Anthropic 与 OpenAI 将握有世界大部分算力
Dylan Patel – Anthropic & OpenAI will have most of the world’s compute by 2028
Guests: Dylan Patel
In-depth read · Key ideas, reasoning, and examples, organized by topic.
§01三分之一的增量算力
这一期从一个固定玩笑开场——这是每年一次的 Dylan Patel 对话,相当于他们的家庭感恩节晚餐,只是两人其实没有亲戚关系——随后给出前提:世界经济走向越来越是实验室经济学走向与算力市场走向的函数,所以要问的是,几年之内这种极端版本会是什么样。
起点很硬。去年,甚至到年底,美国 GDP 增长的大部分都来自 AI 基础设施。今年上线算力中大约三分之一是给实验室的——OpenAI 和 Anthropic——不管是谁建好再租给它们,最终客户就是它们。
§02数字在膨胀
资本开支今年略高于一万亿美元,到 2028 年会超过两万亿,而实验室占的份额还在上升。变化的形状是:这些公司从每年花几百亿,变成每年花几千亿,而已签的合同预示到本十年末每年要花上万亿。
§03从风投亏损到毛利
这要求经济结构被重塑,而 Patel 的主张是它已经被重塑了。直到不久前,实验室主要是在烧风投的钱;Anthropic 在二季度转为盈利,OpenAI 被认为也紧随其后,靠的是 Codex 和当前这一代模型。新资本仍在进来,但它现在是加速增长,而不是供养生意。
机制在毛利。服务一个模型的成本大约是每兆瓦一千万到一千五百万美元,而这过去就是全部故事:GPT-4 跑在 Hopper 上时,给 OpenAI 带来的是负毛利。
§04每兆瓦五千万美元
变化在于每兆瓦收入已经远超成本。对当前这批模型、尤其是 Anthropic 来说,每兆瓦收入最高跑到五千万美元——也就是说,十美元的推理产能能带来五十美元收入,而利润可以直接回投训练。正是这个比率,把一家亏损的研究实验室变成了自我供血的基础设施生意。
§05世界一半的算力何时归两家实验室
Dwarkesh 把集中化问题变成一个日期:现在三分之一的边际算力给实验室,那么什么时候超过一半的增量算力归它们,什么时候它们直接握有世界大部分算力?
轨迹是:OpenAI 年初两个吉瓦,Anthropic 略低于二;到年底两者都超过五,整体三到四倍,约为今年新增算力的三成。
明年的合同已经签了,而且更剧烈——新增算力的四到五成。集中化没有放缓,它在加速。
§06建造者会变,集中度不变
变的是建造者,不是集中度。SpaceX 成为大型新进入者,会把大部分产能租给实验室,因为它们才有边际支付能力出最高价。实验室也开始自建:OpenAI 用自己的芯片,Anthropic 用从谷歌买来、通过 Fluidstack 部署的 TPU。
所以那个日期问题的答案是明年年底:一半的增量算力已经流向两个客户。而由于算力增长太快,增量算力就是大部分算力——也就是说,大约一年半到两年内,世界大部分算力要么属于、要么服务于两家实验室的需求。
§07前沿的三倍速
Dwarkesh 把两条趋势并排:世界算力按吉瓦算也许每年翻倍,而前沿实验室的算力是每年三倍。从年初的二到年底接近六,2027 年底十八,2028 年底五十四——到那时算术必然撞上可用供给。
§08瓦特堆成的阶梯
Patel 的回答是:算术会误导,因为新瓦特不是旧瓦特。今年加三十吉瓦,明年五十,后年七十;但今年的瓦特是 GB300、TPUv7、Trainium3,每瓦性能是上一代的三到五倍。装机量没有翻倍,可用产能却翻了。
把效应叠起来,图景就反转。如果实验室明年拿走四成五的新增算力,那么到 2027 年 12 月,它们已经拿走了世界增量算力的一半——而那一半是有史以来效率最高的一半。趋势继续,到 2028 年末它们就掌握了世界大部分可用 flops。Patel 说,他看不到任何东西能阻止它。
§09为什么只有八十吉瓦
Dwarkesh 的反对很自然:在一个瓦特价值涨成这样的世界里,为什么 2028 年只加八十吉瓦?Patel 的回应是:八十是上界——那是「极度看多」才能得出的数字——这把约束从经济问题改写成物理问题。
§10晶圆算术
两人于是从最底端开始算供应链。按 Patel 此前的数字,一个吉瓦的 Vera Rubin 需要 55,000 片 N3 晶圆、6,000 片 N5 晶圆和 170,000 片 DRAM 晶圆——这段被一个关于 Patel 口音和他在北达科他当素食小孩的玩笑打断,然后又接上。
§11投六十亿,收一万亿
Dwarkesh 让一个模型跑了 Patel 的晶圆厂设备数据:一个吉瓦年产能所需的设备大约三十到四十亿美元。加上洁净室和厂房,就是六十亿美元的晶圆厂资本开支,换每年一个吉瓦——而一个吉瓦目前每年产生一千亿美元收入。
Keep reading as a member.
You've read the free preview. Become a member to read the rest, with side-by-side reading and downloads where available.