Michael Intrator, Aravind Srinivas, Arthur Mensch: 四位 CEO 谈 AI 的未来:CoreWeave、Perplexity、Mistral 与 IREN
Four CEOs on the Future of AI: CoreWeave, Perplexity, Mistral, and IREN
嘉宾:Michael Intrator、Aravind Srinivas、Arthur Mensch、Daniel Roberts
全文文稿 · 按对话顺序保留完整内容,深入理解上下文。
§01开场:来自 NVIDIA GTC 现场
我现在在 NVIDIA 一年一度的 GTC 大会现场,接下来要采访四位了不起的 AI 公司 CEO。请关注纽约证券交易所(NYSE)。NYSE 是一个现代化的交易市场,也是一个为规模和长期影响而打造的庞大平台。所以,如果你在为未来而建设,NYSE 就是实现它的地方。AI 时代的伟大公司之一,当然就是 CoreWeave。
§02CoreWeave CEO Michael Intrator
他们在为这些超大规模云厂商建设庞大的基础设施。从某种意义上说,Michael Intrator,欢迎来到节目。你们才是最初的超大规模云厂商。你们入局非常早,抢到了……我不知道你们最后拿到的是哪种 GPU。你们非常早就赶上了这股潮流。
你们是怎么这么早就进入这个领域的?又是怎么搭建起这个最早的、我想当时应该叫 Neo Cloud(新型云)的东西的?
是的。其实我们一开始并不是作为 Neo Cloud 起步的。我当时在经营一家专注于天然气的算法对冲基金。当你搭建一家算法对冲基金时,一旦算法建好了,你实际上就只是在监控它、测试不同的部分、做这些事情。但也有大量空闲时间,于是我们对加密货币产生了浓厚兴趣。我们相当技术宅,喜欢钻研底层,于是开始对安全层感兴趣。
我们研究了比特币和比特币挖矿,但我们不喜欢。我们就觉得,某个天才工程师造出了 ASIC,他们运营它大概会比我们做得更好。所以我们真正开始专注于 GPU,主要是因为 GPU 可以用来挖以太坊,但也可以做其他各种事情。所以从一开始,我们就把算力看作一种选择权,能够把我们的计算能力部署到不同的用例上。于是,我们在 2017 年创办了公司,头三年左右主要在挖加密货币,经历了几轮加密寒冬,因为我们出身于对冲基金。
我们在风险管理方面、在如何看待资本、风险敞口和配置等等方面,都有真本事。所以我们从一开始就对这方面非常谨慎。因此我们非常好地挺过了加密寒冬,开始扩大公司规模,并且立刻开始寻找这些算力的其他用例,因为加密货币波动太大了。
是的。而且加密货币在当时还是个问号。完全是。是的。我是说,比特币是投机性的,还有很多其他投机项目。
当时唯一在用这类硬件的其他人就是量化交易员。是的。还有医学研究人员。
所以一个好的理解方式,是看我们陆续着手开发的产品演进。最先是加密货币,但我们很快就从加密货币转向 CGI 渲染,我们做了一些项目,让那些在做动画和渲染图像的人能用上,也就是让电影变酷的那些东西,对吧?我们开始做这个,然后转向批量计算,开始关注医学研究,以及用算力推动科学的各种方式。我们就这样在 GPU 用法的复杂度上不断往上走。最终,大概在 2020、2021 年,我们开始真正尝试弄清楚怎样把 GPU 用于神经网络,而那是我们当时并不会做的事情。所以我们实际上出去买了一批 A100,捐给了一个在做 Luther AI 的团队。
他们在做一个开源项目,我们的想法是:这些人使用 GPU 算力是因为我们捐给他们的,就算我们做得不太好,他们也没法真的冲我们发火。结果这个办法效果非常好,因为
他们没法抱怨服务等级协议(SLA)。
他们一直跟我们说,我们需要更多这个,你们得改进那个。这让我们开始真正理解运行大规模并行计算需要什么。你知道,我们就这样走了过来。我有点觉得,买下最初那批 GPU,就是我们为学会经营这门生意交的学费。
然后有意思的一点是,那些人后来都回去做本职工作了,因为他们都是志愿者,都是志同道合的科学家。他们回到本职工作后,都说:我想要那套基础设施。它的搭建方式是对的,研究人员就会想那样使用它。
这就开启了我们的业务。那是个很精彩的故事。
然后……是的。所以你们从加密货币走到这些研究人员,进入学术界和深度研究。这场扑克牌局里,下一张要翻的牌是什么?
是的。我们很早很早就非常清楚地意识到,缩放定律(scaling laws)将会推动……请记住,这真的是在 2020、2021 年,在 ChatGPT 时刻发生之前。我们开始理解,计算在规模化后会去商品化。任何人都能运行一块 GPU,但你能不能运行一个大到足以训练出改变世界的模型的集群?那是另一个问题。
所以我们开始真正思考:怎样扩大向客户、向越来越大的客户交付这种算力的规模?这就是下一张要翻的牌,从这样一个角度思考:好,这里有一部分要依赖我们获取资本的能力,以便把我们的解决方案交付给尽可能广泛的受众,交付给这类算力最成熟的使用者。是的。下一张牌真的就是把它当作一门生意来思考,而不是当作一个工程项目,去交付基础设施、软件以及介于两者之间的一切。你知道,当你想到我们做的事情时,我们大致处在 NVIDIA GPU 之上、模型之下。是的。
中间的一切,所有软件、软件与运维的整合、可观测性,以及搭建一个专为这一特定用例打造的云所需要的所有东西。对。所以我们并不什么都做。我们真正专注于一个用例,这让我们能够
做网页服务器的话,有 AWS。
你知道吗?他们做得很好。那是个很好的解决方案,是解决一个问题的绝妙方案。我们只是看了看说:这里有个新问题,我们来研究这个问题,尝试想出一个交付算力的解决方案来解决它。
那语言模型公司是从什么时候开始给你们打电话要算力的?
是的。我们的第一个……嗯,我们的第一个语言模型客户其实是 Luther。是的。但第一个大型商业客户是 Inflection。所以我们和 Mustafa 以及 Inflection 合作,然后从那里真正扩展到超大规模云厂商、OpenAI,覆盖各家模型、各家基础模型,并且不断扩大规模,再扩大规模。我们的信念,再说一次,就是算力的去商品化、交付解决方案的能力,而这个解决方案就是建造能改变世界的超级计算机。
这才是我们开始专注的方向。那是通往训练的入口。而现在世界已经经历了这样一个时刻:我们从研究走向了产品化。它正开始从组织的边缘渗透到组织的核心业务中。你每天都能从流经我们基础设施层的推理算力规模中看到这一点,那规模非常庞大,就像是,我是说,其中一个
挑战……我相信人们在消耗它,不只是在构建模型,还在部署和使用模型。
我一直把推理看作对人工智能投资的变现。所以当我们看到我们的算力被用来支撑每天涌向我们算力的大规模推理时……你知道,推理就是人们向模型提一个问题,模型返回一个答案,这就是一次推理;或者你向模型提一个问题,然后让它去做某件事,那也是推理,对吧?而这实际上正是你有机会真正创造价值的地方,价值不止在模型本身,而是进入现实世界。这让我们非常兴奋。
那是我们喜欢观察的东西,是我在衡量(行业)健康状况时喜欢观察的东西。
你们用的是什么芯片……所以
实际上,在把 NVIDIA 的新架构大规模投入商业生产方面,我们是先锋。所以,我们是第一个大规模引入 H100 的,第一个大规模引入 H200 的,第一个引入 GB200 的,现在又有了 GB300。对我们来说,一件很惊人、也非常有意思的事情是:随着新架构推出,人们用最前沿的 GPU 来训练模型,然后把这些 GPU 转去做不同的实验,再随着时间推移转去做推理。他们会在推理上持续使用它们很长很长时间。
现在一块 A100 的使用寿命是多久?
是的。
这一直是个很大的争论,我想对你们公司、对微软都是。还有 Michael Burry,你做量化的时候一定认识他,他说:天哪,整个行业要塌了。但我们业内人都知道,人们不会就这么把这些硬件扔掉,他们会给它找到用途。街头总会为技术找到自己的用法。那么这些东西的寿命实际情况是怎样的?
我对 GPU 折旧争论的看法是:这是胡扯,对吧?这个争论是被一些做空这只股票、想唱衰它的交易员推到台前的。听着,我们知道的是:基础设施……我们是一家靠成功订单驱动的公司,对吧?和我们竞争的那些巨头相比,我们相对来说是一家小公司。所以我们的客户来找我们,购买五年、六年的算力。
我们的平均合同期是五年。所以任何人,无论是业内还是业外,说这些东西在十六个月或者随便你胡说的多少时间之后就会过时,这种说法和实际情况完全对不上。实际情况是,他们按五年来购买。对。我对此的看法一直是:只要人们愿意为它付钱给我,它就仍然有价值。
没错。这是相当简单的思考方式。我们采用六年折旧。我们相信 GPU 的使用寿命会超过六年,但我们觉得,对于一个以如此速度演进的技术周期来说,六年是一个公平合理的做法。A100,也就是 Ampere 架构,今年它的价格全年都在上涨。
为什么会这样?
我想是因为,会发生这样一件事:随着越来越多的装机容量可用,会出现一些新公司,它们有新的用例、不同规模的模型,正在尝试打造新的商业项目,它们也许被挡在了 H100 之外,从来没有机会在上面运行
那个。我是说,给观众举个很简单的例子:当你用了三四年后拿 iPhone 去以旧换新时,你会想,谁还会用 iPhone 12?可你去过南美或者非洲吗?你走进商店,买一台 iPhone 12 或者 Pixel 7,只要 50 美元,而且它还有很长的寿命。完全是。你知道吧?
所以,听着,我们找到了这些很棒的用例:新成立的公司,或者把新模型整合进工作流程的现有公司,它们能够使用 Ampere 架构的 GPU,所以只要我们有可用的 GPU,它们就会一直买。再说一次,认为一块 GPU 在十六个月、十八个月或两年之后就不再有意义或不再具备商业可行性的说法……是的。
那很荒谬。
那根本就不……荒谬。
是的。我觉得有时候人们会被摩尔定律,或者被我们这个行业增长有多快给迷住了
是的。
而且利害关系如此重大,以至于大公司都要求最新的产品。这并不意味着寿命变短了,而是意味着机会以及机会的覆盖面大了很多。
是的。其中一点是,这个行业因为投入其中的空前规模的资本而受到了极大关注。是的。正因为如此,人们往往会格外关注那些在最先进芯片组上进行构建的公司。而事实是,即使在这些公司内部,这些芯片也有很长的有效使用尾期,可以提供推理算力、做其他实验、做不那么前沿但仍然需要完成的工作。
是的,我是说,渲染也是一个例子。或者,是的,我们在 Nano Banana 上生成图片。总会有它的用处的。也许会有某个时刻,算力与功耗之比变得不划算。
我的预期是,过时将由这样一个时刻来定义:对我来说,数据中心里的电力可以被改作他用,获得比现有基础设施更高的利润率。而且,就像我说的,我完全预期这些基础设施能用超过六年,但这个领域的标准做法,只有一个例外,就是亚马逊,其他都是……是的,就是六年。这看起来是合适的折旧年限。我不是瞎编的。
这就是大家都在用的。是的。而能源成本就是机会成本,因为,嘿,我们需要那块空间,这里有更好的回报,而那批硬件可能会被转卖给其他想要它的人,比如业余爱好者之类的。这就
是的,我
是说,或者它可以被运到别的地方,那里有更多容量,可以在那里重新利用。但我有点觉得,等真到了那一步,我们再处理那部分业务。我现在知道的是,它的利润极其丰厚。对我的公司来说,继续保留那些一直在运行、一直签着长期合同的基础设施,是非常增值的。而当合同到期,当它已经用了五年,当它重新空出来时,我仍然能以比一年前更高的价格把它卖出去。
现在有竞争了。以前你们从 Jensen 那里买这些东西的时候,是的,我猜你们下单后三十天以内就能发货。现在呢,即使是你们这样忠实的老客户,要等多久?会不会有点争抢?谁能拿到服务器,有没有政治因素?
比如,你会看到一些大名鼎鼎的人物在说他们得拿到配额。现在是不是还有点疯狂?身处这样一个类别,必须去买人人都想要的东西,是什么感觉?听着,你知道,
我把它看作对我们所在行业的一种肯定,对吧?我们吸引到了竞争对手,这说明这门生意是健康的,有很多人在尝试提供这项服务,因为对这种基础设施的需求、把基础设施整合进软件层以交付给人工智能的需求,无论是在模型层、推理层、应用层,还是 Jensen 所关注的那块五层蛋糕中的任何一层。越来越多的人进入这个领域,这并不让我气馁。是的。至于获取 GPU,我们和其他人一样,拿着一份采购订单(PO)出现:我们想买,这是采购订单,我们准备好付钱了。
那个……等待时间是怎样的?是不是真的竞争很激烈?因为我和 Jensen 聊过这个。我问他:你怎么应付所有这些自尊心很强的大人物、大名字和想买东西的大公司?他说:嗯,他们下单,我们就按他们下单的顺序交货。
真的是那样吗?真的是。对吧?
就是说,他不想处在偏袒某些人之类的位置上。和客户之间处在那种位置,看起来就很糟糕。
或者把它们拍卖掉。
是的。
所以……你能想象吗?
是的。那会……那
那就疯了。
是的。别……我不确定那
会有利于
长期的业务。
不会。是的。
所以,我们的做法是
可能会有一些主权国家进来说:我出双倍价钱。是的。他们有时候买法拉利也这么干。这些就是
计算界的法拉利,对吧?
某种程度上确实是。我是说,我们的
做法是与整个领域的客户合作,寻找那些真正有意思、能够符合我们合同要求的公司,也就是符合我们为建设如此规模的基础设施而需要构建所需债务的方式。
那这些债务都是怎么运作的?这是你们擅长的东西,公司债。我是说,做风险投资的人会说:既然公司债回报这么好,我为什么还要做风投?公司票据市场太大了。我很好奇这些是怎么衔接的,比如,人们为 10 亿美元的基础设施要付多少利率。
他们为此付多少?
是的,CoreWave 在很多投入这一领域的融资引擎上一直是创新者。我们做了第一批以 GPU 为基础的贷款。我觉得这很重要,我会尽量用大家能理解的方式解释。我们做的是:先出去找到一个客户。就用微软举例吧,你之前提到过他们。微软来找我们说:我们想从你们这里买一些算力。
我们说:好,太好了,我们来签合同。一旦我拿到合同,接下来我要做的是创建一个东西。名字不是特别有创意,叫“盒子”(the box)。
是的。对吧?我用这个盒子做的事情是:我把我和微软的合同放进盒子里。我去找 Jensen 买 GPU,放进盒子里。
我把我的数据中心合同放进盒子里。现在由这个盒子管理现金流,它有一个现金流瀑布,现金流入,再流出。运作方式是:我建好算力,然后把算力交付给微软,他们付钱给盒子,而不是付给我。
对。钱进入盒子,它首先支付数据中心费用,支付电费,支付利息和本金。然后剩下的部分再流回给我们。
对吧?所以这是一个结构极其完善、经过时间检验、经过压力测试的工具,可以用客户票据以及交易相关的所有其他抵押品来借钱。这就是为什么 CoreWeave 这样一家很多人从未听说过的公司,能够在十八个月内筹集 350 亿美元来大规模建设基础设施。但需要理解的重要一点是,这个盒子里的经济账是这样的:在一份五年期合同的两年半之内,我们就把所有东西都付清了。
本金已经还清了。嗯,
本金已经还清了,利息也已经付清了。盒子里的回报足以让我们在盒子层面为公司创造收益,这让世界上最成熟的贷款方,无论是银行、私募股权基金还是其他什么人,都有信心能实现借贷的唯一规则,那就是:把我的钱还给我。是的。
能还钱的话,事情会顺利得多。
所以他们看着这个盒子说:哇,我们真的很有信心能把钱拿回来。
然后他们也许想要 10 个盒子。
没
错。如果任何一个盒子出现资不抵债,你可以处理它,而且问题没有那么严重。
没错。而且它们之间不会交叉影响,不会在盒子之间造成传染。第一,它们都是独立、分离的。第二,当你这样做,并向贷款方展示这种融资工具、这种融资机制如何运作时,他们会继续以逐步降低的利率借钱给你。
所以,看我们过去两年的资本成本,我们已经把资本成本降低了 600 个基点。哇。这是非常大的幅度,对吧?所以你看到的是一家正在把资本成本压向超大规模云厂商借款水平的公司,这将使我们随着时间推移能够与它们竞争。而且我们一直极其严格、勤勉地“喂养、浇灌、照料”这些盒子,以便我们能继续以一种让我们得以建设和推动业务的方式进入资本市场。
这意味着你们可能要对一些想进入盒子的人说不?
是的。所以……一些客户。我们看一些交易时会觉得,你知道,他们只想买一年的 GPU。我一看就说:这不是我能做的交易,因为期限太短,我没法摊销……是的。那些费用。
或者……所以我不会做。
对吧?就像我之前说的。他们可以去找另一家供应商,也许对方愿意承担这个风险,有多余的容量。
完全正确。但我们的业务真正建立在为了达到规模而进行的风险管理之上。因为在我看来,在这段失衡时期,在这段世界上没有足够的 GPU 为人工智能所有不同用例提供算力的时期,对我和我的公司来说重要的是变得极其庞大,这样我们就能降低资本成本,这样我们就会有来自市场各个不同部分的信息流入:大语言模型、高速交易、搜索,所有这些。它们把信息反馈给我们,让我们知道下一个需要打造的产品是什么,或者它们在哪方面需要扩展上的帮助,或者它们需要什么类型的算力。所有这些信息流对……都极其有价值。那
你能给我们讲讲需求吗?有报道说,嘿,也许 Oracle 和 OpenAI 的 Starbase 项目规模被缩减了,也许没有。然后你知道,其他公司,微软在大举投入,谷歌在大举投入,Meta 在大举投入,这些公司显然都有巨大的现金流。苹果似乎缺席了,他们好像不想参与。
你列举了很多资产负债表非常雄厚的大公司,它们有能力推动大量需求。听着,我多年来在这一点上一直非常坚定。四年来,对我们所提供服务的需求深度一直是持续不断的,并且压倒了全球交付足够算力的能力,以至于人工智能的所有需求都无法得到满足。我们在这一点上一直毫不动摇。
就像 Patrick Ewing 时代的尼克斯队球票。是的。等候名单上一度排到了 5 万人。那么,如果神奇地等候名单消失了,如果约束消失了,我们一下子有大量可用的 GPU、大量可用的能源、大量可用的数据中心,会有多少容量一下子被释放出来,或者我应该说,会被部署出来?
请记住我们是怎么通过这个盒子来建设业务的,而且它是一个五年期的盒子。所以如果我们遇到了气穴,如果需求因为某项技术突破、因为一场战争、战争或者任何原因突然消失,对吧?从风险管理的角度看,原因是什么并不重要。你必须让公司为“如果真的发生了会怎样”做好准备。是的。
所以,通过签订这些长期合同,与拥有雄厚资产负债表的交易对手签约,你,或者说我们,在保护我们自己和我们的贷款方,让我们有信心,也让他们有信心,你可以从他们向我们收取的利率持续下降看出他们有多有信心,他们最终能把钱拿回来。这就是借贷的唯一规则。是的。所以,你知道,如果……但仅就
容量而言,如果你们不受约束,NVIDIA 的 Jensen 说:嘿,想订多少就订多少,会发生什么?
所以,同样重要的是要理解,约束不仅仅是 GPU。
对。对。电力。
是电力、数据中心机房外壳,是内存、存储、网络、光学器件,所有这些东西。
而且有各种节流阀会限制……内存现在就是一个节流阀,对吧?哦,是的,确实是。哦,是的,
确实是。内存是怎么变成瓶颈的?
如果说内存……它历来就是一个周期性行业,对吧?我们见过一波波需求推高内存成本,然后崩盘,然后又被推高。这是一个暴涨暴跌非常明显的行业。它本质上是周期性的,因为晶圆厂的资本密集程度太高,人们投资
晶圆厂,
建了大量产能,然后一旦出现任何形式的下行就会显得过度建设,我们一次又一次地看到这个周期。现在发生的是两件事的叠加,对吧?第一,随着对人工智能的全部需求,以及相应对算力和 GPU 周边配套服务的需求,需求高到爆表。这是第一点。第二,大概在 2023 年本应发生一轮投资周期。
明白了。那一轮投资本可以带来满足需求所必需的晶圆厂产能。
不可能预测到刚刚发生的事情……是的。就像能源一样,不可能预测到刚刚发生的事情。现在人们在追逐能源。数据中心正在去能源所在的地方,而不是基于房地产。
它是基于……那里有没有风能?
而且任何时候,当你有一个非常资本……不对,不是任何时候,但很多时候,当你有一个资本密集型行业,比如建晶圆厂,你就会遇到这种暴涨暴跌的周期,就像能源行业那样,他们会过度建设。是的。然后还有光纤。是的。
我是说,这样的例子有很多。我们的做法是
从某种意义上说,当你审视这一点时,这是资本主义美好的一面:我们能够经历暴涨暴跌的周期,并且能够挺过去。对。如果你从第一性原理来思考资本主义,发生了那样的事,我们有了过多的光纤,这就为谷歌或者下一个人创造了把它全部买下的机会。
听着,经历暴涨暴跌的周期确实有很多作用。它清除了灌木丛。是的。最强的公司能够存活下来并从中获益。它还为未来的业务播下了种子。
它的另一个作用是,你把那些基础设施埋进了地下。你把光纤埋进了地下,它成为了我们每天看电影、彼此沟通、上 Zoom 开会的骨干网络。新冠疫情期间的种种,都是建立在那些可供使用的基础设施之上的。
是的,人们没有意识到这一点。YouTube 创始人的前提,我认识他们,Chad Hurley 和他的另一位合伙人,他们基本上意识到:按照这条曲线,存储成本下降得这么快,我们可以提供免费无限上传。而且带宽成本也在下降,所以我想我们不必为人们在网上分享视频收费。在那之前,如果你的视频火了,人们会大开眼界,但你的服务器会被关掉,然后显示:此人需要支付账单。是的。
因为他们按兆比特被收取传输费……是的。
我是说,听着,商业模式会变化和演进,就像你说的摩尔定律,Jensen 肯定也会谈到,加速计算领域正在发生的事情让摩尔定律相形见绌,对吧?所有这些都会带来更多机会,去建立更多会做像 YouTube 那样事情的公司,而 YouTube 真正改变了世界。
是的。我是说,那个概念,我不知道是每小时还是每分钟上传 100 万小时,但有一次 Susan Wojciechie(愿她安息)告诉我每分钟有多少内容被上传?在你意识到之前,这在逻辑上完全说不通:嗯,有 30 亿人,二三十亿人在使用这项服务,1% 的人上传,或者 10 个基点的人上传。就是说,好吧,一千个人里有一个上传。这是个很大的分母。
我曾和 Sarah Fryer 同台参加一个座谈,她是 OpenAI 的 CFO。是的。她时不时会公布一些非常有意思的信息。当时她谈到,ChatGP 三推出的时候,100 万个 token 的成本是 32 美元多一点。
而现在 100 万个 token 的成本是 $09。是的。对。所以你能看到资本市场、资本主义在推动工程和推动计算方面的惊人力量。
现在它也变成递归的了。我是说,这些模型,如果你对模型说:嘿,让你自己更高效,少花钱,降低 token 成本,它会说:好的,长官。是的。我不知道你有没有看到上周末 Carpathi 的那个递归项目,但现在那些从没在计算机科学领域做过语言模型的普通人都在说:这个周末我要试着做点递归的东西。
你知道,我和其他创始人聊过的一件事是,当你思考 AI 所做的一些事情时,对吧?它在降低做事的门槛。所以如果你有一个好点子或者绝妙的点子,你可以打开你的模型,告诉你的模型,你可以用 vibe coding 写出来,你可以做各种各样的事情,创造出以前从未存在过的东西。这太了不起了,对吧?这正在拆除那道一直束缚着人类创造力的巨大门槛。
如今突然之间,出现了一整个全新的方向,比如医学研究,或者对棒球卡之类任何东西的不同做法。如果你有一个好点子,有一个新的创意,那就是当下最有价值的内核,它让你能够构建新事物、创造新东西。我觉得这非常令人兴奋。是的。就像是,你给 80 亿人的头脑带来了一个工具,让他们能够克服那些一直以来无法逾越的障碍。
为了人类。
是的。
这是一个光明的新未来,Michael。感谢你和我们分享这些信息和愿景。我非常高兴能请到 Aravind Srinivas 来到节目。
§03Perplexity CEO Aravind Srinivas
谢谢你邀请我,Jason。
太好了。我想讲讲我爱上你们产品的三个阶段。第一个阶段是,我可以进去选择我的语言模型,想选 OpenAI 也行,想选 Claude 也行,随便哪个。这对我来说是一个真正的突破。然后在侧边栏上,我注意到你们基本上做了 Yahoo 早期做过的事情:财经、体育。
当我搜我的昵称时,它给了我一个实时版本。当我调出我的股票时,它实时汇总了新闻。我当时想,哇,这执行力真棒。于是我某种程度上把你们当成了通往不同模型的大门,这让查看变得更方便。然后你们推出了 Comet 浏览器,我心想,天哪。
我可以给它一系列指令。去我的 LinkedIn,找出这家公司的所有人,把他们放进一个 Google 表格,砰,你们是第一个做到这一点的。然后就在最近几周,我已经迷上了 OpenClaw、一直在用它,但你们推出了 Computer。我开始用 Computer,天哪,它真好。这是一个非常强劲的开端,让我能处理重复性任务,在某些方面和 Claude 的 Cowork 很像,或者说基本上像工程师或开发者在用它。
所以这些就是公司的演进?我应该这样理解吗?但你现在怎么看 Perplexity?你们有一批非常忠实的粉丝。你们赚了很多钱。
我不知道你们是否公开过,但我想是几亿到几十亿。你可以告诉我们。但面对这样的局面,Perplexity 是什么?哇,Claude 势头正猛,OpenAI 依然强劲,Grok 表现很好,Gemini 来势汹汹。你们大概有六七家,而你们恰好是我现在最常用的前两名之一。
谢谢。
所以跟我说说。
首先,谢谢你。非常感谢。Perplexity 一直是为那些总在寻找额外优势的人、为好奇的人打造的,所以你成为我们的重度用户之一是很自然的。过去三年半里,我们一个共同的主题就是准确性。Perplexity 想成为打造最准确 AI 的公司,所以当你要给别人答案时,准确性对于建立信任至关重要,因为只有这样,用户才会接着问下一组问题。
事实证明,让 AI 接入互联网以保证准确是个好主意,这就是 Perplexity Ask 产品。事实证明,让 AI 完全访问一个浏览器也是个好主意,这样当你交给它去做一件你自己会在浏览器上做的事时,它能做得准确。智能体浏览。Comet。现在最后一个阶段是,事实证明,让 AI 获得对一台电脑的完全访问权限是个好主意,这样它就能自己完成你在电脑上做的任何事,本质上自己变成电脑本身,成为当今 AI 所能做的一切的交响乐团,汇集每一个 AI 模型各自的每一项能力,无论是 GPT、Claude、Gemini 还是其他任何模型,成为所有这些能力的交响乐团。
这就是 Perplexity Computer,而在 Computer 内部运行的所有子智能体就是乐手。模型本质上是乐器,外面有数百个模型,各有专长。有些擅长编程。有些擅长写作。有些擅长多模态、视觉合成、图像生成、视频生成、音频,但重要的是最终产出,也就是你演奏出的音乐。
那就是 AI 为你完成的工作,这就是 Perplexity Computer。AI 本身现在就是电脑。
它仍然运行在浏览器里。你们考虑过给它桌面 root 权限吗?是的。感觉这是下一步的方向,但这会带来很多安全问题、很多信任问题。正如你提到的,信任至关重要。
给出正确答案能建立信任,但不被黑、不让它删掉你的文件也同样重要。所以,是的。你怎么考虑获取我 Windows 电脑的 root 权限?没错。显然 iOS 不会允许你这么做,但安卓手机会允许。
是的。那你们在做这个吗?
是的。我们发布了一个叫 Personal Computer 的东西,Perplexity Personal Computer。它本质上会把 Perplexity Computer 的全部信任、可靠性和服务器端执行,与你的本地电脑同步,这样你就可以用手机来使用它。我们会用 Mac Mini 来做这件事,你把你的电脑和 Mac Mini 同步,Mac Mini 就成了你的本地服务器。所有涉及你本地私有数据的智能体编排,都会在那个本地编排循环上运行,也就是 Mac mini 上的那个运行时。
不在你们的服务器上,也不在 Anthropic 的服务器上。
没错。是的。如果需要,在你允许的情况下,它仍然可以调用前沿模型,但它会在你的本地硬件上编排一切。是的。如果它需要在服务器端硬件上运行,比如你不想让非常复杂、长时间运行的任务在你的本地硬件上跑。是的。
你可以委托它在你的服务器端电脑上运行,而这台电脑同样只有你自己、也只有你能访问。这样,我们就能带来本地与服务器端之间这种完美的、值得信赖的混合模式,
你还可以……而且你们会让它变得很容易。直接抽象掉。你安装一个可执行文件。砰。
没错。这就像是傻瓜版的 OpenClaw。没人需要学怎么用它。没人需要管理 API 密钥。没人需要管理分散在大约 100 个不同服务上的账单,也不用弄清楚哪些可以授权访问、哪些不可以。
这些我们来处理。所以这是史蒂夫·乔布斯的做法,你知道的,端到端整合。
那你怎么看本地模型?我已经开始在一台 Mac Studio 上跑 Kimi 2.5。它不如 Claude、Gemini 或 Grok,但你大概可以免费做到它们大约 80% 的水平
是的。
基本上是这样。是的。考虑到我其他的一些账单,Claude 之类的变得越来越贵,这就相当有吸引力了。那你有这样的设备吗?你开始在本地 Mac Studio 上测试了。
我猜你有一台 Mac Studio,并且自己在做这件事。
是的。
或者现在,我不知道你有没有看到,戴尔和英伟达发布了一款巨型工作站。是的。
是
3,800 吗?
差不多吧。
差不多。是的。它有 750 GB 内存。那你怎么看台式机重新回到工作站兼服务器的
是的。地位?我觉得非常有前景。我的预测是,它一开始会作为一个子智能体出现,所以无论你需要处理什么,比如你的报税单、个人照片、电子邮件、日历,所有这些东西,那些本地应用、个人笔记、非常私密的笔记,如果你愿意、如果你那么在意隐私,你可以确保访问这些 token 的模型在你的本地硬件上运行;而那些访问已经在服务器端的数据的更复杂任务,比如你的 Google 日历。是的。你的 Gmail。
这些仍然是个人数据,但 AI 运行时可以通过你的连接器访问它们,比如你的 Google 日历连接器、Google Workspace 连接器,而这可以在服务器端运行,因为反正数据就在服务器上。它甚至不在你的设备上。是的。所以我们正在走向这种混合编排。我不认为这是完全本地与完全服务器之间的二选一。
一切都关乎选择,而且反正当你用手机时,你想要……你其实并不在乎那个工作负载是在哪台服务器上运行的,因为它反正也没法在你的手机上运行。芯片需要存在于 Mac Studio 或 Mac Mini 上,和/或服务器上。
或者这款即将推出的新戴尔。我真心觉得,花 10,000 美元买一台强大的台式机这个想法会吸引人们,如果它能降低他们
对。
每月 500 美元的
是的。
Claude 账单。
是的。
这是非常可观的节省。另外,你还能获得
是的。
隐私方面的好处,而且不会用你的个人数据去训练语言模型。
是的。而且这会像你买一台冰箱、买你的网络调制解调器一样。这些东西的成本最终会下降。是的。但你不会觉得自己在浪费钱。
每个家庭都有很多其他传感器。是的。它们负责运转你的家,也会成为这个编排循环的一部分。是的。所以这就是令人兴奋的地方,因为现在你只需对着手机说一句话,就能控制整个家。这是每个人都有的梦想,而所有这些编排循环都可以在你的本地硬件上运行。
没问题。
我很好奇你怎么看操作系统。这种工作站最终的操作系统会是什么?
AI 就是操作系统。就像以前在传统操作系统里,你是以编程方式执行的。现在你从目标出发,而不是从具体指令出发。对。你提出一个高层次的目标。
去给我做一个网站,你知道的,收集 All-In 播客的所有文字稿,追踪每期播客播出前和播出后的股价。是的。并为“七巨头”绘制图表。是的。并绘制随时间变化的图表。我们可以……所以这就是目标。
但具体来说,它在运行一个文件系统、一个代码沙箱,还能访问互联网。它有自己的 HTML 工具之类的。是的。所以我认为这基本上就是模型、系统、文件和连接器全部汇聚到一起的地方。你可以把它看作一个操作系统,只不过你是在比它更高一层的抽象上操作,用目标来思考。
是的。那在你看来,它最终需要成为一个独立的操作系统吗?
有可能。比如,人们可能会这样看待我们:是的,我的 Perplexity Computer 一直在运行。无论它本质上……它目前运行在 Linux 机器上。每台服务器端电脑都是 Linux 机器。是的。
所以我记得 Mark 在我们发布之后马上发推说,事实证明 Linux 电脑才是正确的思路。桌面 Linux 电脑终于要行得通了。是的。我是说,它们很稳定。是的。
它们可定制。没错。而且你不用受制于苹果想要掌控体验的意愿。
没错。
或者微软的 Surface 区域……没错。你构建出一个坚如磐石的东西,确实感觉 Linux 可能真的会成为
那个……没错。
最终的……它
可能根本不需要前端。这才是关键。你可以在手机上访问那台 Linux 机器。对。手机可以运行 iOS 或安卓。
无所谓。对。真正有价值的运行时是在服务器上的 Linux 里运行的。
你们作为一家面向消费者的公司做得很棒。用户很喜欢。现在我开始看到企业在用 Computer、开始参与进来。事实上,你听了会很高兴。上周,我找了我后台部门的两个人,跟他们说,别再搞 OpenClaw 了。
你们的工作就是只用 Perplexity 来实现我们风投公司的后台自动化。也就是用 Perplexity Computer。他们说,哦,好吧。它在 Slack 里沟通得不太好。它在 Slack 里没有智能体。
我说,会有的。我要去见 Aravind。我会跟他聊这件事。所以我们需要一个非常强大的 Slack 连接器。
已经推出了。
是吗。好的。太好了。
Computer 现在已经以 Slack 机器人的形式存在了。好的。在企业版套餐里你可以把它添加到你的 Slack 工作区,我们整个公司都是这样工作的。人们在 Slack 上跟 Computer 说话比跟其他
人说话还多。在我们的第一轮尝试中,我们会把报告发进去,但它不是交互式的。这太完美了。所以现在你们公司在朝两个不同方向发展。你们在消费者端这波惊人的增长,每个月有多少人在用这个产品?
几千万。
所以是几千万人。这和 Google、Yahoo 消费者业务的发展轨迹非常相似。现在你们有了企业业务。企业端做得怎么样?数千
对,……这是我们增长最快的业务。它的营收增长比消费者业务更快。像 Computer 这样的东西开启了全新的可能性。比如,我们已经为企业 Max 客户节省了超过 1 亿美元,他们使用的是企业版最高档。解释一下
那是什么。要多少钱?每人每月 200?
我们有两档。一档是企业 Pro,每月 40 美元,另一档是企业 Max,每月 400 美元。而且在 Computer 上,你用完额度之后,就要为 token 付费。你按使用量付费。
那每月 400 美元、每年 5,000 美元的这档你们赚钱吗,还是说现阶段,人们
在……我们……Perplexity 有一点是,我们赚到的每一笔收入,不同于某些其他套壳公司,Perplexity 赚到的每一笔收入都有正毛利。
明白了。
因为我们不只是在卖 token。对。我们大部分收入是经常性收入,因为人们在付订阅费。而且因为我们会路由到多个不同的模型,我们在 token 花费上非常高效,因为我们在 RAG、编排和搜索方面有这些优势。我们其实不需要把模型的上下文窗口塞爆。
是的。因此,我们所有收入都有正毛利。我们赚的每一分钱都是盈利的。但从整体上看,公司还没有实现盈利,不过我们正在朝这个方向努力。
你们有过退出的机会。很多传闻。苹果和其他一些人都觉得,嘿,这是个很棒的团队。现在团队有多少人?
大约 400 人。
是的。你们拥有一支非常抢手的团队。你们显然懂消费者。你们显然懂商业。这是一个产品驱动的组织。
有报道说你拒绝了,但这个领域的竞争正变得异常激烈。作为一个 400 人的组织,你们要怎么跟上?这边有 Sam Altman 在融资 1,000 亿美元,你知道的,然后还有 Elon 把数据中心放到太空,还和 SpaceX、Twitter 合并。还有资源无限的 Google,亚马逊也入局了,当然还有 Gemini,非常强的产品,而 Google 也非常擅长消费者业务。我想我们都会同意,Facebook 和 Meta 还没搞明白,也许除了给我们投放更好的广告之外,他们还没搞明白消费者场景,但他们会抄袭。他们一向如此。
你怎么看这个竞争格局?因为就难度而言,这不是下跳棋,而是像同世界上最好的 10 位国际象棋棋手对弈。这就是你每天必须做的事。
是的。
那么
你怎么考虑?长期作为一家独立公司,你觉得某个时候需要联手吗?嗯…… 那你为什么没有接受那笔交易?你得到的那些报价都非常惊人。
我们拥有一个你提到的所有这些公司都不具备的优势,那就是多模型编排。我们就像瑞士。我们不必押注某一匹马。无论是 GPT 赢、Gemini 赢、Claude 赢还是 Llama 赢,对我们来说都无所谓,甚至开源模型赢了也行。没问题。
而且你们的服务上就有这些模型。是的。你们有 DeepSeek 和 Kimi?
我们有 Kimi。我们有 Nemotron,还有大量在底层默默使用的通义千问,也就是阿里巴巴的 Qwen。是的。所以对我们来说,这种能够取各模型所长、给用户呈现一个能完成一切的交响乐团的优势,我不认为你提到的任何一家公司能做到。
对。他们也不会这么做。他们也不会。这对他们来说毫无意义。那等于承认他们建起来的所有数据中心和资本开支,仍然没能给他们造出最好的模型。
而且 Anthropic 的 CEO Dario 最近在一次采访中说,模型正在走向专业化。去年年初,人们以为模型会商品化,但到去年年底,模型开始专业化。即便在编程领域,Claude Code 和 Codex 的能力也非常不同。我们的 iOS 工程师喜欢用 Codex。我们的后端工程师喜欢用 Claude Code。
是的。所以即便在编程这样的专业领域内,模型也有各自独特的专长,而在编程之外还有很多其他用例,不同模型擅长不同的事情,这意味着那个不押注任何一个模型的乐团指挥,可以通过向客户提供非常独特的价值和服务而胜出,而这是你提到的这些响当当的名字各自都做不到的。
那么你们是从他们那里批发购买 token,然后向客户收费来做这件事,还是你觉得都是……你们
会负责他们所有的编排。是的。这样你就不用在不同模型之间管理 token。
因为我在 Perplexity 里授权了我的几个不同账户、我的 Pro 账户。但它是否……我了解得不够,不知道你们是否把这一层抽象掉了,让人们可以直接跨这些模型搜索,而这属于他们 Perplexity 订阅的一部分?
不。我们不会把其他 AI 的订阅捆绑进来。是的。我们只是直接调用这些模型。明白了。
你在我们这里得到的是 Perplexity 的编排。明白了。也就是框架(harness)。对。所以当模型都在走向专业化时,懂得如何打造出色框架的那一方就有更大的价值。
对。能够取各个模型之所长的框架。
它现在会自动路由吗,还是仍然有一个下拉菜单需要人去选?
它肯定会为每个提示自动路由到最佳模型,但我们也给用户灵活性,让他们可以选择任何想要的模型。
你怎么看……我见过很多创业公司拼凑出这种东西,就是把同一个查询发到多个
我们做了一个叫 Model Council 的东西。Model Council,是的。那是 Perplexity 里的一种模式。我看到 Jensen 在一次采访中说,他会把同一个提示输入五个不同的 AI,看看它们各自怎么说。
是的。大家都这么做,
是的。但你仍然得动用生物算力去读每一个答案,再找出它们的分歧在哪里。
就像就你的信托问题去咨询五个律师,或者你的……五个不同的医生。找五个不同的医生,然后试图弄明白。
没错。这很蠢。Model Council 是我们做的一个功能,它不只是给你每个模型的答案,还会准确告诉你它们在哪里一致、在哪里有分歧,以及细微差别在哪里。
这在界面里吗?是的。Model Council?
我之前不
知道有这个。
就在那里。
我是说,你们发布产品的节奏相当出色。你是怎么
从哪里学到的,你们发布产品的理念是什么?我们的理念是,速度就是我们的护城河。就像,再说一次,大公司做不到的一件事,就是以我们这样的速度行动、以这样的速度服务客户,而且要同时保持质量、速度和信任是非常难的。是的。比如苹果发布任何东西都要花很长时间,因为他们非常担心人们不信任他们。
是的。而有些公司很官僚,发布个东西要花很久。他们也不维护已经发布的东西。他们可能会为一场发布会大张旗鼓,但根本没人知道该怎么去用那个功能。
是的。它们会被抛弃。
没错。所以 Perplexity 有规模很小的这些优势,而到去年年底,我们发现 AI 编程工具让我们发布东西快了很多,老实说,这也是我们打造 Computer 的原因之一,因为现在就连非工程师也在这里发布代码,只需要给一个 Slack 机器人发消息,让它修复 bug。是的。所以迭代速度简直是指数级的。
我迷上 Claw 的那一刻,是我在用它的时候,我说,嘿,我想拓展我的人脉。我认识日本的这 20 个人。我最近那次出差时和他们一起吃过晚饭。我想知道他们认识谁。
所以去查查 LinkedIn 和其他地方,看看他们和谁有关联,给我做一个思维导图。然后下次出差,我想见见这些人脉的下一圈。于是我开始问,它说,好,我拿到结果了。我说,太好了。然后它说,你想让我把它们放在哪里?
我说,嗯,你能放在哪里?它说,嗯,我可以放进 Google 表格。我可以放进 Notion 标签页。我可以放在这里。我可以给你一个 PDF。
给你一个 CSV 文件,或者我可以给你写一个 CRM。我说,好啊,当然。给我做一个 CRM 系统。然后它就给我做了一个系统。我觉得这会变成……我想在用 AI 工作的人里,也许一千个人里只有一个有过这种体验。
是的。也许是一万个人里只有一个,你的智能体会说:我来给你做定制软件。
是的。
你有过这种体验吗?你是否把这看作 Computer 的一部分:当一个人需要电子表格时,你不用打开 Excel 或 Google 表格,直接就弹出一个电子表格?
是的。嗯,我们明天有个董事会会议。好的。我会来的。而且
我会向董事会推荐它。
当然。我们的 Computer 做了那份备忘录。哦,哇。是的。我们还有一个合作伙伴会议,要去推介一个合作想法。
以前我们会让设计团队做整套演示文稿。是的。Computer 一次就搞定了。我和一群记者开了个媒体吹风会。通常我的公关负责人会做那件事。
哎哟。真狠。然后我的公关负责人通常会给我一份备忘录
一份背景资料。是的。
告诉我该说什么。是的。Computer 一次就搞定了。
所以……这太疯狂了。而且它……太疯狂了。上下文非常好,因为记忆功能越来越好了。是吧?是的。
所以它就像是:我上次就认识那个记者。
是的。
我了解这个董事会会议。是的。之前所有的演示文稿都在。
是的。
这是什么时候发生的?
我觉得是 Opus 4.5 的时候。嗯哼。那个……Opus 4.5……那是一个拐点,模型开始在编排、推理和工具调用方面变得出奇地好,而 Claude Code 给 AI 带来了一个新理念:一切都可以在一个沙箱、一个控制台、一个终端里进行,并能访问工具,而这些工具只是命令行工具。是的。它们甚至不需要图形用户界面。
所以当你这样做,当你围绕文件、子智能体、技能和 CLI 来组织时,模型开始变得非常擅长处理上下文。于是上下文窗口不再是个问题。它会在需要的时候把必要的东西放进上下文,想丢掉的时候就丢掉。是的。这让它一下子变得非常擅长执行非常长的编排任务。
是的。这真的挺疯狂的。我有 This Week in Startups 的每一期节目、所有的文字稿,然后还有所有的 All……那是
我做过的任务之一,顺便说一下。我可以发给你。是的。我让它下载从一开始到现在的每一期 All-In 播客。是的。并且我要它把每期节目中提到的所有上市公司都提取出来。
是的。我要它做一个提及次数的直方图,还要画出随时间变化的图表。然后我要它分析对股价的影响。
还有我们所说内容的情绪倾向。
没错。它做到了。就是,它清楚地显示
我们在影响股价吗?
围绕 Google 股价上涨的情况。是的。在那之前,你们一直在大量讨论 Google。
是的。而且它清楚地……我说过,我公开下了一个赌注。我说,我要买入一大笔 Google,因为我认为尽管他们落后了,那是因为他们太爱惜羽毛了。你刚才也在说一家有时可能过于爱惜羽毛、不肯发布东西的公司。
是的。
我当时就想,就是那家公司。他们需要多发布一些东西。
是的。
我还跟谢尔盖说过,我说,把好东西给我们吧。
是的。他已经在
给我们好东西了。
它实际上会给出每一次提及的时间戳,然后我可以点进去,真正听到确切的……那一刻。是的。太棒了。是的。所以就是在那个时候,我心想,天哪。
就是说,这个本来我得找人花一周做成一个项目。
那会是研究员每周十个小时的工作量。我也有同样的体验。我做调研笔记时,自己写了一个超长提示词。是的。它会去告诉我你以前在哪里工作过、你的圈子里有谁、你的竞争对手是谁、你的朋友是谁,等等等等。
然后再去……我会试着找老的播客。如果你是一个正在观看的采访者,这是我的秘诀之一。我会试着找出这个人五年前、十年前,以及十多年前在谈论什么。现在我在采访 Michael Dell 时,就聊到了他在九十年代谈论过的东西。是的。
它能给我找到一些非常古老的东西。比如,你要付给一个研究员或制片人每年 70,000 美元、80,000 美元来做这件事,而他们用十倍的时间也只能完成三分之一的工作。
是的。
就在过去六个月里,事情变得真的很离奇。你觉得接下来六个月会是什么样?
我觉得我们的梦想、我们要努力做的,是帮助企业尽可能自主地运转。你知道,每个人都在谈论这个。AI 将创造出一人十亿美元公司。有人说这已经发生了,因为人们给研究员开出像 10 亿美元这样的薪酬,但那并没有真正让 GDP 增加 10 亿。它并没有真正创造新的价值。
所以实现这一点的最好方式,是真正去帮助小企业,帮助那些原本会去开 Uber 来赚,比如……是的。额外被动收入的人,让他们买一台 Mac Mini,设置好 Perplexity Personal Computer,在上面经营自己的业务,或者在服务器上运行。这无所谓。并且真正赚到实实在在的钱。是的。
每年几十万甚至几百万,并把它做大。让 Computer 去帮你在 Instagram 或 Google 上投放广告活动。
我是说
把它与 SEM 和 SEO 工具整合,寻找新用户,再接入 Stripe 向他们收费,发布新功能,搞一个你自己的 Intercom 集成来做客服,然后让这一切都运转起来,而你可以在纳帕品着葡萄酒。这就是那个梦想,你知道的,说出来感觉很棒。大家都以为 AI 已经做到了。其实还没有。总得有人去做这项艰苦的工作。
是的。这就是我们想做的。
是的。这是个很棒的愿景,因为二十年前我观察创业公司时,他们要勾选的事项太多了。我得找办公室。我得架设一堆服务器。我得聘请一家人力资源公司。
我得请一个公关人员,所有这些事情。而现在我和年轻创始人聊,他们只有一个三人团队。他们出自 a16z、我的项目 LAUNCH 加速器,或者随便哪个,Y Combinator。我问,好吧,你们融了 50 万,你们融了 100 万。
你们要招谁?他们说,我不知道我们是否需要招人。我说,如果你能招一个人,你会招吗?他们说,嗯,我自己做 HR。我有这个合伙人。
我说,那你们到底是怎么招聘的?他们说,嗯,我发布一则招聘广告,然后它会给候选人排序打分。然后它给前 10 名发邮件,问他们一系列问题,然后我和最后两个人见面。我说,这就是招聘专员以前干的活。就是说,整个招聘工作都被抽象掉了。
像 Computer 这样的工具会让这件事
更省事。很多连接器,很多特定的工作流程。人们不想学怎么写那种,你知道的,论文那么长的提示词。你懂吧?它需要非常快速、敏捷、自主。
你只要设置好就完事了。你有一个想法,就能把它变成一门生意,开始赚钱。
是的。这是一个不可思议的未来,而且感觉它就在眼前。你怎么看待工作岗位被取代的问题?因为你们实际上在打造一种工具,让人们能够成为独立创业者、做到 100 万营收,但它同样也是让他们不需要招人的工具。我们在播客上已经就此辩论过无数次了。
你会不会……我在想你是否像我一样,有些时候会觉得,天哪,这真的很可怕。
是的。很多
人会很快失去工作。
是的。
然后又觉得,天哪,你可以学任何想学的技能,所有曾经困难的事情现在都变容易了。
是的。
我反复摇摆。我 80% 的时候对此超级乐观,但确实也有大约 20% 的时间,我会有点担心。
是的。
你持什么立场?
我是说,美国一直以来都是关于创业精神的,对吧?是的。我们一直都在努力构建新事物、发现新事物、去探索。我觉得这一整套,比如亨利·福特来了,建起工厂,带来了工作岗位之类的,然后把人们装进了一个框子里。但我认为现实是,大多数人并不喜欢自己的工作。
他们做着……不。他们讨厌自己的工作。没错。所以突然有了一种新的可能性、一个新的机会,去使用这些工具、学会它们,开创你自己的小生意。如果它能满足你一年或多年的需求,让你拥有高质量的生活和良好的工作与生活平衡,真正感受到能动性、主人翁感,并有热情把你的想法推向世界,那么我认为,即使需要应对暂时的岗位流失,这样一个光明的未来才是我们应该期待的。
我觉得你说得完全正确。会有一些岗位被取代,但同时也会涌现出大量机会,而这要求个人不能消极被动。
没错。
他们必须是坚韧的个人主义者。他们必须有韧性。是的。他们还必须足智多谋。我认为一旦你开始摆弄这些工具,就会变成这样。
没错。
你会突然觉得
如果你真的处于良好的状态,你身上最好的东西就会展现出来。是啊。是啊。我、我
然后今天,iOS 版 Comet 发布了。
是的。
我是 Comet 的超级粉丝。我要求所有人都用。我给你发邮件的时候你人很好。我说,能给我发一些许可证吗?你说……你可能不记得了。
你给我发了一堆许可证。我说,大家都装上,因为你们刚推出 Comet 浏览器时它要 300 美元一个月。现在我想它对所有用户都免费了。强烈推荐。强烈推荐开一个 Pro 账户。
入门 Perplexity 每月只要 20 美元,简直跟白送一样。所以你几乎不花钱就能上车,每天不到一美元。不过 iOS 版能让我做什么?它和 Computer 是怎么连接的?因为这也是我遇到的另一个问题。是的。
Claude Code、Computer。它们和这种……之间还没有足够好的集成
这种移动设备。是的。Computer 已经在 Perplexity 应用里了,所以你只要打开 Computer 开关就能开始用。对公司和战略而言,Comet 和 Perplexity 的独特之处在于你能控制浏览器。所以浏览器也成了 Computer 的一个工具。没错。
就像你的 Google Workspace 以及其他所有这些东西一样。在整个世界都围绕命令行工具(CLI)和各种工具组织起来之前,是的,我们仍有大量任务需要在网页上、在浏览器里手动完成:打开标签页、填写表单、点击、上传东西。所有这些,如果你想自动化,就需要一个浏览器。
你需要,是的,一个能原生控制浏览器的 AI。这就是 Comet,这也是为什么无论市场上有多少其他工具,比如 OpenClaw,或者 ClawCowork
是的。
在服务器端的浏览器上执行任务,同时完成其他所有事情,这是只有 Perplexity 能做到的。
是的。我的梦想是你们做一个 Android 应用,能获取我 Android 手机的 root 权限
是的。
然后直接接管并看到一切,因为我现在遇到的一个障碍是,有些网站变得有点挑剔了。
是的。
我不想点太多名,但比如 Reddit、LinkedIn。
是的。
而且它们就是……我是 Reddit 的忠实用户,我也很支持 LinkedIn,但有时候我需要从 LinkedIn 上拿到我的 InMail,我只是需要,你知道,在一家公司里找七个人。LinkedIn、Reddit 这类平台和 Claude、Perplexity 这类工具之间会有解决方案吗?这方面的谈判进展如何?
不必
具体谈某一家,除非你想谈。但感觉肯定得有个解决方案,而且作为用户我愿意为此付费。我愿意付钱给 Reddit,让我的机器人可以出现在上面并规规矩矩地行事。
是的。嗯,我不能谈论任何具体公司,但我们乐意和任何人合作,对吧?所以我认为,对于 Comet,我们的想法是给人们灵活性,让他们自己设置。是的。任何人愿意提供的官方 API,我们都乐意把它纳入 Computer。
我觉得
应该这样做。看看你是否同意。这是说给 Reddit 的 Steve Huffman 听的。我上 Reddit,开一个每月 20 美元的 Pro 账户。
这样做之后,我就可以授权任何我想用的工具,每天在一定次数内做一系列规矩的操作。
是的。
所以不是无限的。我不会抓取整个网站,但我希望它能让 Perplexity 或 Computer 去帮我看看:嘿,人们在 This Week in Startups 和 All-In 的子版块里在说什么?帮我总结一下,这样我就能拿到用户反馈。我真的会给我的智能体起名,并声明:它不会代我发帖,也不会代我投票。
只需要做几件小小的只读操作。这会是个简单的解决方案。LinkedIn 也一样。我希望……我已经每月付给 LinkedIn 大概 50 美元了。他们就应该让每月 50 美元的那个套餐能和 Computer 配合使用。
是的,完全同意。我是说——好的。
这是说给 Satya Nadella 听的。让 LinkedIn 与 Perplexity 和其他玩家合作吧,我们会额外付钱给你。
完美。
这是一条收入来源。你不觉得为客户提供 API 访问是一条收入
我认为是。我认为从根本上说,给用户选择权,并把它设计成对企业和用户双赢的模式,才是世界应该前进的方向。我想说,世界上任何网站都同样适用。比如,如果你想让 AI 代你使用它,这应该是被允许的,因为这正是用户想要的。
我是说,我订阅了付费版《纽约时报》。那就让我进去随便做点什么,一天、一周或一个月 100 次搜索,随他们定,但这会让订阅的黏性大大增强。
正是。
好了。Aravind,很喜欢这个产品。屏幕前的各位,它真的非常棒。去学用 Computer,装上 Comet 浏览器。过去两年它改变了我的业务。
谢谢你,Jason。很喜欢这个产品,等你们推出自己的操作系统、做出自己的服务器和桌面服务器时,我们很快再请你来。不过业务才是重点。是的。
§04Mistral CEO Arthur Mensch
是的。
好了。很高兴见到你。谢谢。我们迎来了一位了不起的嘉宾,Mistral AI 的 CEO Arthur Mensch。你好吗,先生?
很好。
谢谢邀请。
你来参加 NVIDIA 的大会。有重大发布。你们将和 NVIDIA 合作打造模型并将其开源。这次的重大发布是什么?
嗯,我们宣布将与 NVIDIA 一起训练下一代前沿模型。这是我们之前就和 NVIDIA 做过的事,就是 Mr. Almevo(疑为 Mistral NeMo),大约十八个月前做的。对我们来说,关键是能够做出市面上最好的开源模型,这样我们就能利用这些资产,通过我们为客户提供的产品(比如 Forge)对模型进行专业化。Forge 帮助我们为合作企业定制模型,应用于工程、物理、科学领域;在与政府合作时让模型在某些语言上表现更好,等等。
Mistral 显然总部位于法国,你们是那里领先的 AI 公司。在欧洲经营公司、打造大语言模型是什么感觉?显然那里有各种监管和种种考量。隐私。法国人以保护隐私著称。
在美国,我们则以剥夺隐私著称。那边的环境如何?有哪些在美国可能不必应对、在那边却必须应对的事情?利弊各是什么?我想说,首先,
我们 25% 的业务在美国,25% 的研究人员其实也在这里。所以我实际上在这里待很多时间,也在法国,还有我们设点的英国和新加坡。当然,市场各不相同。这些市场涉及语言问题,而且制造业要多得多。制造业在整块蛋糕里所占的份额比这里更大。
我想说,我们的优势还在于与那些有些落后、希望采用这项技术实现跨越的欧洲企业合作。我们能做到这一点,靠的是前置部署工程(forward deployment engineering)合作、我们的 Forge 产品,以及我们的 Studio 产品——它可以部署进行端到端自动化的智能体。除此之外,我们今天宣布的东西,比如 Forge,如今实际上正被美国的客户使用,因为他们带着后训练的需求来找我们,希望让模型特别擅长金融服务。现在的情况是,我们有了这个产品,也能提供模型并对其进行专业化。
所以你相信专业化、垂直化的模型——医疗、金融、工程等不同垂直领域——会胜出,还是一个无所不能的全局模型会胜出?嗯,你
需要通用模型来做编排之类的部分。但到了某个阶段,企业手握大量知识产权,大量来自物理系统、工厂、工具的信号。而把这些系统、这些数据连接到闭源模型上其实并不简单。如果你用开放模型,就可以真正添加新的参数,可以做很多闭源模型做不到的更深层的事情。
你还可以——这也是我们在做的事——我们不仅在模型层面工作,也在编排层面工作。我们和领域专家坐在一起了解他们的需求,通过修改模型、也修改上层的运行框架(harness)等,打造完全为其需求量身定制的业务应用。所以我们相信,归根结底,构建开源技术是节省成本的一种方式,是获得更好控制力的一种方式,因为你可以把它放在任何你想要的云上,如果你愿意也可以放在自己的硬件上,还可以部署到边缘端。最终,从定制化的角度,以及从利用你在金融服务、重工业领域积累了几十年的知识产权的角度来看——比如像 ASML 这样的公司——它们确实能从与我们的合作中获益,因为我们拿他们的数据,打造专门擅长他们……的模型
以及拥有这些训练数据,请专家来精调模型。大多数人不太了解这门生意,但它已经成为这个行业中非常大的一块。显然 Scale AI 就在做这件事。他们去了 Facebook,失去了大量客户,我猜是那些不想把数据交给 Meta 的客户。我们投资了一家叫 Micro One 的公司,它在这个领域做得相当不错。还有其他人也在做。
向观众解释一下,你们具体为企业做什么,这种训练如何以垂直化的方式进行,以及你们如何隔离这些数据。因为如果你和一个航空航天或金融科技客户合作,他们可能有一套需求,但他们可能不希望那些训练成果流向竞争对手。
我可以举几个例子。我认为总体而言,数据隔离非常重要,我们解决这个问题的方式是一个可移植的平台。我们的技术是一组服务、一组训练工具、一组数据处理工具,我可以把它们拿去部署在客户的基础设施上。于是从 IT 角度看,当我们和 CIO 交谈时,他们会意识到,从安全角度来说,数据不会流出——没有任何数据回流到 Mistral,因为一切都留在那里。接下来,我们使用这套已部署技术的方式是,比如我们会和 ASML 负责图像扫描和缺陷检测的团队合作。
我们会派驻前置部署工程师和科学家,他们都是博士,懂得如何训练模型。他们会花时间和领域专家在一起,由专家解释图像是如何被检测的、缺陷是如何被检测的,等等。在此基础上,我们会确定需要用什么样的数据来训练模型,让模型本身就能解决这项任务。所以我们输送技术,通常也会派少量科学家——你确实需要在我们的团队和垂直领域专家之间进行专业能力转移和知识转移。然后我们确保最终我们的团队不再需要留在那里重新训练模型、获取更多数据访问权限等等。数据隔离、专业能力转移与知识转移的这种结合,是让我们相当独特的一点,也让我们能够拿下最关键的用例、各行业中最关键的流程——这些行业确实需要把自己的数据放进模型里,模型才能发挥作用。
是的,这似乎是因为整个开放网络上可获取的内容——无论是合法的、灰色市场的,等等,我不会让你评论那个争议——我们基本上已经把开放爬取的数据用尽了。对吧?确实如此。现在是时候要么制造合成数据,要么真正请专家了。
你相信合成数据吗?它在哪些地方有效,在哪些地方
会失效?我们把合成数据作为让模型热身的一种方式。这是在初期相当高效的一种做法。如果你有一个大模型,想训练一个小模型,你会在初期用大模型来处理并生成大量合成数据。但最终,你确实需要人类信号。
而获取人类信号总是有点昂贵,因为你需要和专家交流,他们需要给机器反馈。所以在初期,合成数据让你能进行压缩,进一步压缩模型。到最后,你确实需要去获取由人类产生的数据。所以是的,这主要是一种训练模型的高效方式,用更大的模型充当更小模型的老师,但这还不够。
所以你还需要人类信号。Arthur,我们见证了一场不可思议的爆发。我们现在坐在这里,正值 OpenClaw 之后的“纪元 52”——仿照“主后纪年”的说法——也就是第五十二天。当你第一次看到 OpenClaw,看到黑客、创始人、创业公司、CEO 们的反应,那种巨大的能量,看到它冲上 GitHub 榜首,获得最多的星标、点赞以及众多贡献者——作为在这个领域深耕多年的高管,这对你意味着什么?
那个 OpenClaw 时刻意味着什么?嗯,它与我们
当时和客户在做的事情产生了很强的共鸣,因为企业很快意识到,如果想通过人工智能、生成式 AI 获得一些收益,就需要把完整的流程自动化。而作为企业要自动化完整流程,嗯,你可以用 OpenClaw,但那其实并不够,因为你会遇到数据问题、治理问题,你无法观察正在运行的流程,也无法控制它。在很多情况下,比如你是我们的客户之一汇丰银行(HSBC),在运行 KYC(了解你的客户)流程时,你会希望有确定性的关卡,它们总是以可观察的方式做同样的事情,而且你能向 CIO 保证流程一定会经过这些关卡。这不是 OpenClaw 能提供的,因为它没有你在集体生产力、可观察的生产力以及关键任务系统上所需的那类基础原语。另一方面,它给予的自主性,它给那些只是以个人身份拼凑东西的人带来的自主性,也向企业展示了:如果你搭建了正确的控制平面,设置了正确的沙箱,连接了正确的数据源,确保访问控制得到严格遵守,那么你就真的可以释放智能体为员工办事的力量,而且那是行得通的。
要在平台上下功夫,否则你晚上睡觉都不会安心。
这绝对是需要深思熟虑的事情。我安装它的时候,就给我的智能体开了对我的 Google Docs、G Suite、Notion、Zoom,还有 Notion 和 Google 日历的 root 访问权限,所有东西。然后我意识到,哇。用我的企业版 Gmail,基本上我可以为我这家 21 人的投资公司总结 Gmail 里正在进行的每一段对话,再把它和 Slack 里的每一段对话关联起来。然后我意识到,天哪,这里面有薪酬讨论。
有一个人处于 PIP 中,就是我们把他们放进了绩效改进计划之类的。哦,我得确保其他人无法访问这些,因为力量来自给予它数据访问权限。但能力越大,责任越大。我认为人们正在实时地认识到这一点。是的,这是个
大问题,因为企业数据并不是一个你想放进单一系统、让所有人都能访问的单一事物。所以你需要有这么一层,能真正理解数据里有什么。你需要有一套语义,界定什么内容可以提供给 HR,什么内容可以提供给工程部门。薪酬通常就是这类内容之一。你要确保薪酬数据不会流向整个企业,因为如果那样,你会遇到很多问题。
所以你真正需要的——这很难做到——是我们所说的上下文引擎。也就是对数据所在位置的映射,附带一定数量的元数据,告诉你这些数据实际上公司的这个部门无权访问。如果工程部门有人询问与薪酬相关的东西,系统就会告诉你:你其实无权访问这些数据。所以这很难。确实很难。
你需要彻底重新思考 IT 系统的连接方式。到了某个阶段,你还需要考虑你的管理方式,因为如果你把智能体和数据源连接在一起,你今天的信息流就和过去完全不同了。突然之间,你可能就不再需要那位唯一作用是把底层信息收集起来、再传递到顶层的经理了。所以,有一些 IT 问题需要解决,你需要正确的基础原语,需要沙箱,需要基于角色的访问控制(RBAC)之类的东西。你还有变革要推进。你需要重新思考整个客服部门,因为突然之间你其实不再需要那么多由人来完成的信息传递。
好了。你得走了,要赶飞机。是的。很高兴见到你,Arthur。
§05IREN CEO Daniel Roberts|本期节目由纽约证券交易所赞助——一个为构建未来而生的现代化市场与交易所
祝 Mistral 继续成功。
非常感谢。
干杯。我非常幸运能请到 Daniel Roberts。他是 IREN 的联席 CEO,与他的兄弟共同创立了这家公司。他们是一家上市公司,起步于比特币(BTC)。
欢迎来到 All-In 访谈节目。
谢谢你,Jason。很荣幸来到这里。
是的。所以你们起步于悉尼。你和你兄弟,那是七八年前,你们很早就涉足比特币,而所有这些比特币矿工都想要数据中心。是的。
大方向上是对的。我们当时看到的逻辑是数字世界的爆发、线上的增长,而到某个时候,现实世界会跟不上。所以我们开始着手建设大规模数据中心。是的,第一个用例是比特币挖矿。但正如我们对种子轮投资人说的,用它来启动平台、产生现金流,随着时间推移,在更高价值、更好的用例出现时逐步叠加进来。
如今我们迎来了 AI。我们正在把所有比特币矿机换成 AI 芯片。
你们最早是什么时候开始看到公司的需求发生转变的——从“嘿,我们是比特币矿工,需要一些 H100 之类的”,到“嘿,我们是非营利组织 OpenAI”“嘿,我们是一家研究实验室,需要一些 AI 算力”?这是什么时候开始出现的?
听我说。我得说,2020 年我们经历过一次“假黎明”。我们和 Dell 签了一份谅解备忘录,开始引入客户和算力。但事后看,那太早了。所以我们回到了比特币,继续自力更生地发展平台。
但我想说,大约从两年前开始,需求逐月持续攀升。
你们入局如此之早,以至于你们在美国物色数据中心空间时,你们是唯一一家在看这个领域的,或者说是仅有的两三家之一。是他们在努力向你们推销空间,对吧?
是的。其实我们是自己开发数据中心的。我们自己去找土地,自己去拿许可,自己去申请电网接入,而且我们当时做的规模让人惊叹——比如我们德州的旗舰站点 750 兆瓦,在四年前是闻所未闻的。
我们在沙漠中央建造这些大型数据中心,传统数据中心行业的人都在问:你们在干什么?我们说,我们相信未来的数字化、高性能计算,而如今显然这正在带来回报。
是的。我想当 ChatGPT 推出时,没人能预料到这些,还有最近作为转折点的 OpenClaw,然后,你知道,Microsoft、Google 和所有人都在拥抱这一切。而 Microsoft 是你们的大合作伙伴。
是的。Microsoft 是我们早期的合作伙伴之一。去年年底我们和他们签了一份 97 亿美元的合同。但正如我在节目开始前跟你解释的,那只占我们容量的 5%。所以——哇。
现在非常忙。是的。
当你们进行这些扩建时,如今的重大话题已经不再是装多少 GPU,而是电力。电力是如今的约束条件,对吧?
听我说。对行业里很多人来说,确实如此。但对我们来说不是,因为我们八年前就开始锁定这些土地和电力。我们拥有 4.5 吉瓦。作为参照,这几乎相当于整个湾区每年的全部用电量。
这非常巨大。所以对我们来说,障碍或者说约束其实是算力上线时间(time to compute),而这也正在成为整个行业的问题。
而算力上线时间意味着技术工人要来到西德州,住在你们搭建的拖车房里,然后在数据中心破土动工、打地基、建水冷系统。这是在进行艰苦的体力劳动,对吧?
正是。这就是整个现实世界的挑战:要响应这些数字化的指数级需求曲线,而这些需求的胃口不受现实世界的约束。而且问题会层层叠加。你需要成千上万的人前往那些从未承载过这种规模的地方。你会给供应链带来压力。
我们看到内存方面正在发生的情况,方方面面都是如此。所以这就是永无止境的打地鼠,永无止境地四处救火,努力让这些算力上线。
你也会花时间待在那里。当你建起一个小镇,或者把一千人、两千人带到一个基本上很偏远的小镇时,是什么感觉?我猜,当你带去一千人时,那里现在可能只住着 500 人。那些小镇是什么样子的?在我听来,这像是淘金时代的场景,人们最初,你知道,跑去当勘探者。
是的。勘探者小镇。
差不多吧。我是说,那里的烧烤很棒。
那是
吸引人的地方。但除此之外,听我说,我们一直有一项政策:雇用当地人,支持当地社区。今年,我们的社区资助累计将达到一百万美元。是的。
比如当地的游乐场、支持消防部门,但我们会在本地招聘。一旦本地找不到某个工种,我们就把半径扩大 20 英里,从那个范围内招人,依此类推。
这非常周到。是的。而这些人来的时候,比如电工或建筑工人,他们以前建过房子,或者,你知道,可能建过企业办公楼,现在他们来这里驻场一轮,薪水大幅上涨,但他们得离开家人三个月之类的?
是,也不是。因为通常我们选址的地方都有重型电力基础设施。而有重型电力基础设施的地方,通常是旧制造业和工业已经关停的地方。所以我们进驻,利用那些已沉没的资本支出,重新雇用、重新培训当地劳动力,用这些数据中心为当地带来一个新产业。
那批劳动力现在是否已经完全耗尽,我们需要培养另一代人、更年轻的一代,成为“第二代产业带”,真正拥抱技术工种?
百分之百。我们正在和大学、职业技术学院合作。绝对是。
你去上职业学校,或者去上大学——人们拿的是哲学和英国文学学位,每年背上 5 万美元、20 万美元的债。在数据中心做电气、建筑或暖通空调(HVAC)的技术工人起薪是多少?大概什么范围?
听我说。我不谈具体数字,但薪资确实在上涨。价格在上涨。取决于级别。但是,是的,大家都在争抢好的薪资水平。
15 万到,大概 30 万美元。是吧。你——我
说的大致范围对吗?就低端而言,大方向上,你说得偏高了。
是的。
是啊。我是说,仔细想想这真是不可思议。一边是人们担心 AI 抢走工作。而在账本的另一边,却找不到足够的人才来服务它。
跟我聊聊能源来源,以及你是怎么考虑的。特朗普总统、Chris Wright,这届政府一开始的态度大致是“嘿,清洁、美丽的煤炭”。到了第二年,他们变成了“所有能源都重要”。核能。显然,那个地区天然气很充足。
我们显然还有大量石油。关于德州,有件事人们不知道:在美国,它是太阳能装机量第一的地方。对吧?是的。
跟我们聊聊能源。
我们的理念从第一天起就是可持续性。自成立以来,我们一直使用 100% 可再生能源。什么?100%?等等。
这怎么可能?
这是
我们在不列颠哥伦比亚使用水电,在德州使用风能和太阳能。在我们所在的西德州,大约有 45 到 50 吉瓦的风能和太阳能。是的。而把这些电力输送到达拉斯和休斯顿负荷中心的输电线路容量是 12 吉瓦。
哦。所以你们选址在低成本过剩可再生能源的源头,把它变现为这种数字商品,以光速输出,作为
token。很棒的套利。而且风电产量很大,但从那些人们愿意建设的地区输送出来更难。我是说,人们不了解西德州有多大。那是一片大得惊人的土地,而你来自澳大利亚。我们也在西部。
人们并不真正了解那里到底有多少纯天然的土地。是的。未开发的。
土地太多了,问题在于距离。你得在这些输电连接基础设施上花费数十亿美元,才能把电力送到人们真正需要的地方。你可以建风电场,可以建太阳能电站。但如果你把它建在沙漠里却没人能用,那还有什么意义?
是的。所以我们这个行业的全部机会,就在于去往电力的源头并将其变现。
所以数据中心跟着风力涡轮机、太阳能装置走。你怎么看电池?你们能把电池接入吗?因为显然,会有一些时候,嘿,今天没风。在德州,阴天的日子非常少。
所以那个问题基本上解决了,但还是会有五十天阳光没那么强烈。那么你们如何应对需求,并平抑那条鸭子曲线?
我们不需要。电力公司替我们做这件事。这就是为什么这些电网接入如此稀缺、如此难以获得、价值如此之高,因为一旦你拿到电网接入,电力公司就会承担所有这些波动性。他们保证为你提供全天候的可靠电力。
明白了。所以由他们那边来解决。是的。一旦有什么出了故障,即便你们 100% 致力于可再生能源,他们在需要时也可以回退到天然气或其他能源。他们在那里有这种能力。
所以你们有这个作为后备。现在有很多讨论,或者说争论:我们是不是操之过急了?人们是否在放缓?有一些说法称 OpenAI 的项目可能在稍微缩减规模。
OpenAI 也是你们的合作伙伴吗,还是?
无可奉告。
无可奉告。好吧。那我们就随意解读了。但是否有一些领域,人们在说“嘿,我们放慢点吧”,还是依然势头火爆?
处在光谱的最顶端。势头火爆。
我们
我们满足不了需求。这就是为什么现在整个行业都围绕着算力上线时间。世界上没有任何闲置的 GPU 躺在数据中心里。
是的。你怎么看软件让……这是 Jensen 本人昨天在他两个半小时的主题演讲中的一个重要话题。我们现在是周三。我想他的主题演讲是在周二。他说,嘿,软件将把效率提高 50 倍,你知道,把 token 成本降低 50 倍。
然后传输也在为此做贡献。你认为这条曲线什么时候会从抛物线式增长转为仅仅以惊人的水平增长?会有放缓吗?你们如何规划未来?
听我说。我认为实际上恰恰相反。我认为它会自我强化。我给你举个例子。你今天打开 ChatGPT 生成一张图片。
你输入提示词。就像拨号上网的年代。确实如此。对吧?要花好几分钟。
你知道,我最好把这个提示词写对。是的。终于,两分钟后,图出来了。现在我再给你举个例子。如果我们把可用算力提高 10 倍——从我们现在的水平来看这是一项巨大的任务——而这些图片只需要五到十秒,我们会生成更多还是更少的图片?
哦,多得多。这就是杰文斯悖论。这就是诱发交通理论。你知道,你多修几条车道,人们就开始觉得,嗯,用悉尼的距离来说,从邦迪海滩到中央商务区或许是可以接受的通勤距离。
很喜欢这个类比。
是的。那你怎么看,或者说你看到了什么?我是说,我们在 NVIDIA 这里。显然,他们制造最前沿的芯片。他们刚刚推出了“rocks”(原文如此,疑指 Groq)。
所以现在你有,你知道,两款最前沿的芯片出自同一家公司。但定制芯片正成为一个重要话题。它已经开始落地到数据中心了吗?显然,Google——不知道他们是不是你们的客户,你可以告诉我们——他们在做定制芯片。
Amazon 在做定制芯片。Meta 在做定制芯片。跟我聊聊这场变革,它真的已经进入数据中心了吗?
听我说。在不同程度上,确实如此。他们在推广自己的产品,在努力锁定数据中心容量。所以,是的,有多种芯片在寻找落脚之处。
我认为,我认为可以公平地说,NVIDIA 拥有巨大的先发优势。他们培育起来的生态系统,他们正在制定的标准。所以我会说,早期实现规模化建设最稳妥的路径是遵循 NVIDIA 的路线图,但毫无疑问,随着时间推移,我们也看到这些芯片在不断涌现。
说到桌面计算,不知道你有没有看到那则公告:Dell 和 NVIDIA 正在打造一款性能非常强大的台式机,750 GB 内存,算力很强。你将能够运行一些本地模型,用 OpenClaw 跑开源模型,还有来自 Kimi 以及中国一批模型的开源成果。黑客圈子——我想你和我一样,大概也是在差不多的时期入行的?——人们开始非常热衷于拥有一套一两万美元的台式机配置,在本地运行这些模型。你怎么看这个趋势?
我很好奇。
是的。我是说,我们在软件上看到的突破,它把能力分发给每家每户的每一个男人和女人,让他们能够编程、使用像 OpenCLR 这样的产品,从本地层面一直到这些超大型数据中心,由此产生的对算力的需求和胃口,绝对是真实存在的。而随着我们看到智能体被越来越多地使用,随着自动驾驶汽车以及其他自动化、机器人技术的出现,这种需求绝对会持续叠加增长。
那核电呢?特朗普政府似乎真的打开了开关,让一种日益增长的看法占了上风:嘿,等等,核电其实相当不错。它是清洁的。
在某种意义上,它是最早的可再生能源。而这些新型模块化反应堆与切尔诺贝利、福岛或三哩岛毫无关系。它们安全得多,是一种完全不同的架构。这些项目已经开始落地了吗?而且,既然你在伟大的得克萨斯州——我的家乡——押对了方向,你那次押对了,那你在关注核电吗?
我、我认为必须关注。我认为现实情况是,等到大型项目能够投入运行,还需要十年,甚至更久一点。是的。但现在正是开始这场讨论、制定政策、调动资本、让事情运转起来的时候。
嗯。你们有没有在核电站附近建设数据中心?
没有。目前还没有。
目前还没有。但你们在积极跟踪这方面的动态?因为,嗯,这看起来几乎是必然的。对吧?
感觉是这样。
如果真的发生了,会对你们的行业产生什么影响?如果、如果你能……因为显然这在中国已经在发生,人们总会提到比特币矿工。他们就像煤矿里的金丝雀,聚集在有过剩产能的水电大坝和核电站附近。如果真的能在数据中心旁边建小型模块化反应堆,你认为这会带来什么影响?
嗯,我、我认为这只会打开市场,并增强美国在这一领域的竞争优势。AI 是必然的,机器人技术是必然的。现实是,在很长的时间跨度里,人类进步与能源消耗之间的相关性非常非常高。所以,如果我们能找到办法释放新的发电能力,像核电这样的清洁发电,并更多地把算力布置在能源源头,以分布式的方式实现更多算力,那么我们刚才讨论的所有这些用例都会变得更容易、更顺畅、更快速,然后你就会得到围绕杰文斯悖论和需求的正向飞轮。
跟我聊聊如今以太网的架构,以及数据在数据中心之间、在数据中心内部的流动。这条骨干网络也正在经历范式转变,对吧?
是的,确实如此。Jensen 提出了一个说法:数据中心就是新的计算机。是的。所以你需要退后一步,然后说,好吧。
这个庞大的建设项目,本质上就是我们以前放在家里桌子底下的那台台式电脑。是的。你会想,好,那它是怎么运作的?所以所有的布线、延迟、每块 GPU 之间的跳数、它们之间如何通信、围绕 InfiniBand 和以太网的网络架构,这些都绝对至关重要,因为就集群的性能而言,每一毫秒都很重要。
嗯。那你怎么看,或者说你对 Elon 的愿景怎么看?那显然是一个更长期的愿景:把数据中心放到太空中,另外还有几个人也在做这件事。
是的。我是说,很难跟 Elon 争论。很长时间以来,他在许多事情上都非常正确。我认为就今天而言,考虑到把东西送上太空的成本以及辐射方面的挑战,这件事感觉极其困难。有大量的工程挑战,但这些从来没有吓倒过 Elon。
是的。我不打算
给出保留意见,他、他、他最终总是对的,但有时他会迟到。他可能会迟到赴宴,可能会迟到参加晚宴,可能到上甜点时才出现,但总体上,他总能做成。如今,把数据从数据中心传输给消费者,这个问题有多大?
当你们在西得克萨斯建设时,人们难道不担心这个吗?所有的数据光纤,这些都已经解决了,还是说在某个时候会成为一个制约因素?
这正是我们创立这项业务时必须打破的一大迷思,因为每个人都说,数据中心必须建在靠近人口中心、大都市区的地方,延迟非常重要。我们说,是的,没错,延迟很重要。
但现实是,在美国,尤其是得克萨斯州,地下到处都是光纤,非常非常多。当你看我们位于西得克萨斯沙漠中央的站点到达拉斯那座大型运营商中立机房的延迟时——是的,往返延迟是六毫秒。
六毫秒是什么概念?一秒有一千毫秒。是的。我们说的是六毫秒。是的。
这、这几乎就等于紧挨着。
是的。这甚至都不……是的,这绝对无关紧要。听着,祝你们继续成功,而且你们正在大量招人。
是的,是的。我想我们目前挂出了 129 个职位招聘广告。
好的。那么大家都去 iRand 的网站看看。听着,公司发展得非常好。感谢你在 GTC 现场抽时间来参加 All-In 的节目。
谢谢你,Jason。非常感谢。