Michael Intrator, Aravind Srinivas, Arthur Mensch: 四位 CEO 谈 AI 的未来：CoreWeave、Perplexity、Mistral 与 IREN

本期节目录制于英伟达（NVIDIA）年度 GTC 大会，主持人计划在会上采访四位 AI 公司的 CEO。第一场对话的对象是 CoreWeave。这家公司被介绍为正在为超大规模云厂商建设大型基础设施，采访者称其为“元祖级超大规模云厂商”（“the original hyperscaler”），因为它很早就转向了 GPU。开场问题是：公司是如何这么早就走到这一步的，又是如何建成采访者略带迟疑地称为第一家“新型云”（“Neo Cloud”）的企业的。

回答首先否定了“CoreWeave 一开始就是新型云”这一前提。公司的创立故事要从一家专注天然气的算法对冲基金说起：算法搭建完成后，工作主要是监控和测试，因此有不少空闲时间。这个自称“相当书呆子气”的团队开始对加密货币产生兴趣，尤其是它的安全层。

比特币挖矿被排除在外。给出的理由是，设计 ASIC 的人很可能比他们更擅长运营 ASIC。GPU 更有吸引力，因为它既能挖以太坊，也能转作其他用途。从一开始，算力就被视为一种可以在不同用途之间重新调配的选择权。公司于 2017 年起步，最初大约三年都在挖加密货币，并经历了几轮加密寒冬。

公司能熬过这些寒冬，被归功于对冲基金背景。讲述者提到团队在风险管理、资本、风险敞口和资产配置方面的经验，并称公司从一开始就对这些问题十分谨慎。由于加密货币波动剧烈，公司随即为自己的算力寻找其他用途。采访者补充说，加密货币当时还是“一个问号”，而这类硬件的其他使用者只有量化交易员和医学研究人员。

产品演进被逐步展开。加密货币之后是 CGI 渲染，服务于做动画和渲染图像的人；接着是批量计算和医学研究，每一步对 GPU 的使用都更复杂。大约在 2020 至 2021 年，公司尝试学习如何在 GPU 上运行神经网络。由于不知道该怎么做，公司买了一批 A100，捐给了一个开发开源项目 Luther AI 的团队。

捐赠硬件被描述为一种有意为之的对冲：拿到免费算力的用户“如果我们做得不太好，也没法真的冲我们发火”。采访者开玩笑说，他们“没法抱怨 SLA”。这些志愿者不断要更多算力，并指出哪些地方需要改进，这些反馈让公司学会了大规模运行并行计算需要具备什么。

我有点觉得，买下最初那批 GPU，就是我们为学会经营这门生意所交的学费。

这还带来了意料之外的商业回报。这些志愿者是志同道合的科学家，他们回到本职工作后，希望在那里也用上同样的基础设施，因为它对研究人员来说是“以正确方式搭建的”。这种需求被描述为这门生意起步的契机。

被问到这场“扑克游戏”中的下一张牌时，讲述回到了 ChatGPT 时刻之前的 2020 至 2021 年。公司当时得出结论：规模定律（scaling laws）将推动这个领域发展，而大规模算力的特性与普通商品化硬件不同。

谁都能跑一块 GPU，但你能不能运行一个大到足以训练出改变世界的模型的集群？那是另一个问题。

战略上的转变在于，把这项工作当作一门需要获得资本的生意，而不是一个工程项目，这样才能为更大的客户和最成熟的算力买家交付。CoreWeave 将自己定位在英伟达 GPU 之上、模型之下。它这一层涵盖软件、集成、运维和可观测性，全部为单一用途专门打造。被问到 Web 服务器时，讲述者称赞 AWS 是“解决一个问题的绝妙方案”，并把 CoreWeave 定位为针对一个新问题的解决方案。

关于客户，第一个语言模型用户是 Luther。第一个大型商业客户是与 Mustafa 合作的 Inflection。此后业务逐步多元化，扩展到超大规模云厂商、OpenAI 和其他基础模型开发者，目标始终是打造“能改变世界的超级计算机”。

随后对话从训练转向部署。讲述者称，AI 已经从研究走向产品化，并正从组织的边缘进入其核心工作。作为证据，讲述者提到通过 CoreWeave 基础设施运行的推理量，称其“非常庞大”。没有给出具体数字。

我一直认为，推理就是对人工智能投资的变现。

推理被用通俗的话定义：向模型提问并得到答案，或者让它去做某件事。它被描述为价值越出模型本身、进入现实世界的那个环节，也是用来衡量业务健康状况的观察指标。

CoreWeave 自称在把英伟达新架构大规模投入商业生产方面处于“矛尖”位置。它声称自己率先大规模部署了 H100、H200 和 GB200，GB300 目前也正在到货。所描述的生命周期是：客户先用最新的 GPU 做训练，然后把它们转用于其他实验，最终用于推理，并在推理中“使用非常、非常长的时间”。

采访者提出了关于这类硬件能用多久的争论。问题中点名了这家公司、微软以及 Michael Burry，采访者形容后者在说“天要塌了”。采访者的反驳是，行业并不会把这些硬件扔掉：“街头自会为技术找到用途。”

所以我对 GPU 折旧之争的看法是，这纯属胡扯，对吧？

反驳分两部分。第一部分关乎动机：讲述者称，这场争论是由持有空头头寸、想要唱空股价的交易员推动的。第二部分关乎合同：客户购买的是五到六年的算力，平均合同期限为五年。讲述者称，所谓硬件十六个月就会过时的说法与“实际情况”不符。其背后的检验标准是：“只要有人愿意为它付钱给我，它就仍然有价值。”

所提出的具体论据： - CoreWeave 采用六年折旧期，并认为这些 GPU 的使用寿命会超过六年。考虑到技术周期的推进速度，六年被描述为一个公平、合理的选择。 - A100（Ampere 架构）的价格在今年一直在上涨。 - 给出的解释是，新增的装机容量吸引了拥有新用例、不同模型规模的新公司，其中包括一些没能用上 H100 的公司。 - 六年被描述为行业标准，唯一的例外是亚马逊。讲述者补充说：“这不是我编的。”

采访者将此类比为二手手机：一部在南美或非洲以 50 美元卖出的 iPhone 12 或 Pixel 7 仍有可用寿命。讲述者补充说，新公司，以及在工作流中加入新模型的现有公司，都在持续购买任何能买到的 Ampere GPU。双方都认为，“GPU 在十六个月、十八个月或两年后就不再具有商业可行性”这一观点“荒谬可笑”。采访者认为，摩尔定律和行业增长促使大公司要求最新产品。按照这种看法，机会变得更大了，但硬件的寿命并没有因此缩短。

讲述者还解释了这场争论为何受到关注。前所未有的资本规模，让人们把目光聚焦在基于最先进芯片组进行建设的公司身上。但即便是这些公司，旧硬件也仍有长尾用途：推理、其他实验，以及不那么前沿但仍需完成的工作。采访者补充了渲染和在 Nano Banana 上生成图像作为例子，并承认也许会有某个时刻，算力与功耗之比不再划算。

这一让步引出了一个关于“过时”的实用定义：当数据中心的电力可以被重新调配、获得比现有基础设施更高的利润率时，硬件就过时了。届时，旧硬件可能会被转售，也许卖给业余爱好者，或者被送到有闲置容量的地方。讲述者表示，就目前而言，保留那些已经履行完五年合同的基础设施“利润极其丰厚”，且能增厚收益；这些设备合同到期后，售价仍然高于一年前。