Andrew Feldman, Robin Rombach: 开源胜出、AGI 已到来,以及斯科塞斯的 AI 工具箱:对话 Cerebras 与 Black Forest Labs 的 CEO
Open Source Wins, AGI Is Here, and Scorsese's AI Toolkit with CEOs of Cerebras & Black Forest Labs
嘉宾:Andrew Feldman、Robin Rombach
全文文稿 · 按对话顺序保留完整内容,深入理解上下文。
§01原文文稿 · 00:00–46:24
我们正身处超级智能的竞赛之中,安德鲁·费尔德曼(Andrew Feldman)又来了。大家都知道,他是 Cerebras 的 CEO 兼创始人,做推理芯片,是这个领域的开拓者,公司 IPO 也很成功。我们之前聊过几次。一月份我们在达沃斯见过面。然后 IPO 落地。最近我和几位老搭档在 Liquidity 活动上和你坐下来聊过,那次真的很有意思。
和几位老搭档聊得很好,但我想和你深入探讨几个话题。第一个是 AI 的大规模建设。自从,你知道,中国的长城以来,我们就没见过这样的建设。对。谁知道呢?金字塔。对。
我是说,感觉地球上投入到建设某样东西上的资本、时间和聪明人的数量,在我们这一生里我想不出有什么能与之相比,也许在我们出生之前,战时动员算一个。对。这是一种我们只在书上读到、听别人说起的动员规模,而你们是真正在做这件事。你们的客户在建数据中心,
而你们是其中的关键一环。AppLovin 起步时只有一个 8 美元的域名,没有风投资金,后来成为全球最大的广告平台之一。如今,同一套引擎为面向电商的 AppLovin 广告提供动力。广告投放在手游中,触达超过十亿人,全屏、无干扰地获得用户注意力。平台负责找到买家并以利润为目标进行优化。你设定目标,其余的交给它。一家炊具品牌从 400 万美元增长到 1600 万美元,实现盈利,今年有望达到 8000 万美元。访问 applovin.com/allin,今天就开启你的第一个广告活动。
也许你可以给我们讲讲 2026 年的情况。Cerebras 在做什么?德州那边的建设又是怎么回事?这些都是极其庞大的工程。正在建造的东西的规模和范围,物理上的规模和范围……通常我们谈软件、谈硬件,谈的是芯片或机箱,它们没有这种物理上的庞大感。
对,对。我们现在谈的数据中心,在未来几年里消耗的电力将超过地球过去 50 年用掉的电力。哇,对吧?我们说的是单栋建筑就有橄榄球场那么大,输入的电力比中等规模的城市还多。而且它们正在建设,在全美各地建设,在加拿大建设,在整个北欧建设,在巴黎这里和法国各地、在欧洲、在中东建设,
在一些以前大家根本不会首先想到的国家。比如哈萨克斯坦、塔吉克斯坦,或者格鲁吉亚也在建。还有亚美尼亚,也在建有规模的数据中心。大家都很专注。每个国家,当然还有美国的每个州,都觉得自己需要参与进来。而那些购买算力的人,OpenAI、Anthropic、SpaceX AI、SpaceX AI,
还有 Google 这些公司,现在的需求是无法满足的。是的。他们在规划多少年的建设?你和他们聊的时候,你们的芯片还没做完,他们就已经向 Cerebras 下单了。他们提前下订单。讽刺的是,和科技史上许多令人兴奋的时期不同,他们是在努力满足昨天的需求,对吧?需求远远超过了我们建设数据中心并用硬件把它们填满的能力。好的。
所以,你知道,我们有 250 亿美元的积压订单。250 亿美元的积压订单。而且不只我们这样。OpenAI、Anthropic,你把这份名单过一遍:Google 想要更多数据中心,Microsoft 想要更多数据中心,AWS 想要更多数据中心,对吧?所有这些玩家都不是抱着“只要建起来,客户自然会来”的心态。他们追的是已经订下的需求,想的是怎么防止客户流失。对。这极其不寻常。非常不寻常。而现在有些人,你知道,我们有个说法叫 token maxing(把 token 用到极限)。是的。
这里有一个很大的争论:这真的在创造价值吗?我很好奇你的立场,你知道,如果价值不存在,有可能产生这么大的需求吗?显然有巨大的价值正在产生。是的。但同时也有大量的试验。哦,肯定的。你知道,我把这比作我们刚开始用 AWS 的时候,绕过自己公司的 IT 部门真是太爽了。
对。你告诉每个工程师,行,去吧,刷你的信用卡,注册吧。是的。对吧。其中很多确实很有用,也有一些让人觉得,天哪,真希望我们没那么干。是的。所以,试验肯定是有的。但这并不意味着净价值不巨大。
这只意味着其中一部分会一无所获。这和当年一样,我记得 1988 年 Costco 在帕洛阿尔托地区开业。人们逛 Costco 的方式就像逛 Safeway 一样,每条过道都走一遍。是的。那是逛 Costco 最糟糕的方式,因为你最后会买回四样你根本不需要的东西,每样 22 美元。对。随着人们越来越熟悉,你就直奔后面,拿上烤鸡。
是的。给孩子生日派对买 18 个纸杯蛋糕,搞定。你就出来了。有策略。这完全是一回事。我觉得一开始大家放开了,说每个人想用多少 token 就用多少。而在企业里,不存在开环的情况。我们不会把任何资源不加限制地给人用。
现在我们开始介入,说,哇,好吧,这些人需要多少就该给多少,他们的生产力极高。而在另一边,我们也许可以用开源模型,也许用更便宜的模型。现在我们开始像经营一门生意一样运作了。我们也确实看到一类人正在涌现,他们懂得如何部署这项技术。系统思维,这是开发者天生就有的。CEO 往往是出色的战略家,也理解系统。但智能每一步都在大幅进步,我看到一些个人,通常是创业公司创始人,也有风险投资人和在我的风投公司工作的投资经理,
他们开始摆弄这个工具,然后工具开始反过来摆弄他们。他们开始意识到:哦,我还没有清楚定义我的目标是什么。我不懂什么是系统。我从没听说过要写需求文档。而软件会问:你有需求文档吗?你的目标是什么?AI 开始告诉人们:你在 token maxing,你需要在这里更聚焦一点。20 年前我的一位同事,一位非常非常聪明的计算机科学家说过,
计算机其实很笨,你让它做什么它就做什么。是的。一开始写提示词就是那样,对吧?你把提示词稍微改一点,答案就会变。变化很大。变化很大。而现在它越来越能理解你的意图是什么。
对。对。如果你有机会试用 Fable 或者 OpenAI 的 5-6,你会发现越来越不需要把提示词写得恰到好处。你不必成为提示词大师。你只要问它,它就会说:好,这里有一些东西。顺便说一下,也许你希望这个图表有两种呈现方式,你想要一条折线加一个柱状图。
然后你会觉得,嗯,这正是我想要的。我没要求,但这样更好。所以它在理解意图。这是一个巨大的飞跃。如果我们两年前坐在这里,根本不可能预测到,短短 24 个月里,我们会从一个出色的网页结果总结和研究工具,发展到真正理解你的意图,然后提供解决方案,并把所有细节都替你屏蔽掉。
没错。这是件很奇怪的事。不知道你有没有试过 Hermes agent?你试过了吗?我是说,就在今天早上我还问它,我拿到了一个秘密的 BitTensor 项目,里面有新的 Z.ai 模型 5-2。他们给了我 GL-5-2。GLM-5-2。
所以 BitTensor 里的某个人,我想你明白的。BitTensor 你听说过,那个分布式加密项目。他们有大量闲置算力。有个知情人告诉我,可能是中国的某些算力,有免费的能源。好吧,行。总之他们给了我无限的算力。于是我开始让它做一些非常疯狂的任务,比如我说:每小时告诉我世界上有哪些还没有被任何人发现的趋势。
你可以用任何你想用的方式去做。但我的目标是成为世界上最聪明的趋势猎手。我看着它在后台做什么。它开始自己和自己辩论应该去哪里找这些东西。它说:嗯,我们大概应该去 Hacker News 和 Reddit。然后又说:对,但还有社交媒体,趋势往往会在 Instagram 上显现出来。这就是推理模型。
你是在看一个推理模型推演问题。是的。是不是很有意思?我是说,太神奇了。而且它是折叠起来的。所以作为普通用户,如果你从没点开展开的那一刻,如果你用的是 ChatGPT 3.5,或者 4.8,不管哪个版本,而你没用过这种新层次的推理和推断,基本上是无限算力的那种,你就不知道。就在今天早上,它让我看到了一个拥有无限 token 的世界可能是什么样子。对。
因为我相信无限的 token 意味着无限的推理。确实如此。那意味着什么?是的。我是说,如果你让这些模型运行 25 或 48 小时,
现在就能得到惊人的成果。那如果用了 Cerebras,我们快了 15 倍,然后你再运行 24 小时呢,对吧?你就得到了相当于几周甚至几个月的思考量。是的。
这太不同寻常了。我想其中一点是,像 Ilya 和 Sam 这样的人在早期就说过这一天会到来。对。对。我想当你回头看时,你自己会说:天哪,那些人早就看到了。是的,他们能看到拐角另一边的东西。
没错。而我们其他人当时都是:什么?我不太确定。有一次我们请 Sam 上 All In,他说,你知道,我很想找个时间上节目。我说当然,来吧。然后他谈到了这个。我问他,下一步是什么?他说:推理。
我说,展开讲讲,什么意思?他说:嗯,就是理解你的意图是什么,就像你刚才说的,然后想出一个策略,也许再和其他 agent、其他线程讨论,比如这样做对不对,并互相审查彼此的工作。我当时想,哇,我们离“猜下一个词”已经走了很远了。对。对。
把句子补全,你知道的。总结这个 PDF。而 Cerebras 处在这一切的中心,因为这种推理就是推断(inference)。这种推理就是推断,而且计算量非常大。对。对。所以快速的算力让这类工作变得快速,也变得可行。
它不会因为要花大量时间才能得到一个好答案而被拖垮。正是因为这种推理在内部消耗大量 token,像我们这样快得惊人的机器才有了用武之地。我带了一块来,因为我从不……你知道,造一块要花五亿美元的时候,你就会走到哪带到哪。我们在达沃斯还把这个扔来扔去。这块的型号是多少?这是最早的八到十块之一。
明白了。所以它有特殊的地位?它有特殊的地位。我妻子说我就像一个八岁生日收到越野摩托车的孩子。晚上就放在他卧室里。我走哪带哪。我是说,下次你在家里办派对,我强烈推荐在这上面摆点小开胃菜。我觉得那会是个很棒的梗。如果你有一块,那会是个很棒的梗。没错。
但我们在这里看到的是大规模进行这种推理的能力。那么推断和 Cerebras 的摩尔定律是什么?你们内部有没有讨论过“我们要每隔 X 时间翻一番”这样的东西?在我们之前,处理器领域的所有芯片都遵循摩尔定律。明白。而我们打破了它。每 18 个月翻一番。大约每 18 个月翻一番。明白。而我们用这块芯片彻底超越了它。
我们开辟了一条全新的轨迹。我的看法是,未来 18 个月会远远超过 2 倍。有意思。所以我认为,在一种架构的早期,你有空间做得比传统的摩尔定律好得多。而如果你用的是一种有 20 年历史的架构,比如 GPU,就难得多。对。你得依赖更小的制程,对吧,转向下一个晶圆厂节点。但在更新的架构中,你仍然有大量空间去了解正在处理的工作负载,并做出能带来
巨大收益的优化。在 AI 时代当 CEO,你是怎么经营公司的?你有 250 亿美元的需求。你必须以一种令人难以置信的极快速度部署。你得招人。你得制定路线图。我不是想让你恐慌发作。你得跟上像 OpenAI 这样行动快得难以置信的公司。是的。对。而且他们竞争心很强。你得跟上。对。对。你的硬件、你的软件、你的部署,都必须跟上史上行动最快的一些组织。他们是要求很高的客户。
他们肯定不是好糊弄的。是的。而且将来也可能成为竞争对手?听着,我觉得现在需求太大了,没有任何芯片会闲置。但为什么 OpenAI 要发布 Halapeno?为什么 Amazon 在做自己的芯片?你会看到这种反复出现的趋势,这是不是一种让你、让 Jensen 和 Nvidia 知道“嘿,我们也能做,所以得给我们好价格”的方式?是不是有点
秀肌肉的意思?还是说未来他们真的会进入你们的业务?不,我觉得没人喜欢依赖别人。我认为 x86 时代的超大规模云厂商得到的教训之一是,他们依赖 Intel。而 GPU 厂商得到的教训之一是,他们依赖少数几家超大规模云厂商,他们想要更多客户,于是着手资助这些新兴云厂商(neocloud)。所以我认为这主要是一个机会,至少把自己命运中重要的一部分掌握在自己手里。明白。我认为这是非常合理的。你不必非得造出最快的芯片,你只是不能完全依赖别人的芯片。而这种依赖已经成了热门话题。不知道你有没有看过过去
两周的节目,不过过去一年我们一直在谈开源。我一直大力支持开源,因为我很早就用上了 OpenClaw,很快就开始用 Kimi,然后发现:等一下,我在狂烧 Claude 的 token,但这个 Kimi,我分辨不出差别。然后我们开始做智能路由。突然间,开源开始搞定推理,差距在今年突然缩小了。你知道,你不会开着法拉利去杂货店。对。有时候你想开你的跑车。是的。对。也有时候你想把孩子们塞进车里,不用担心地板上有没有 Cheerios 麦圈。小面包车时间。对。小面包车时间。我认为随着
用户越来越成熟,对吧?你会有难题,那些会是前沿模型的问题。它们会是 OpenAI 的问题,会是 Anthropic 的问题,会是 Gemini 的问题。而在这些之后,会有大量普通的问题,对吧?我是说,想想一家公司,你知道花了多少时间把东西从 Workday 里剪出来,粘到另一个单元格里,是的,对吧?想想看,这种剪切粘贴经济是真实存在的。没错。而这不需要,对吧?奥数金牌级别的数学。不需要。
这需要的是坚如磐石的开源能力。是的。如果你想想,我是说,我们一直在思考 G&A(一般及管理费用)方面的问题,但大量的 G&A 工作,对吧,并不是发明创造。对。你可能并不需要最复杂的 agent 来做这些。最近还有一张牌被翻开了:有些人可能对前沿模型的野心有所顾虑,也许担心共享他们的
数据、数据泄露以及智能主权。他们会说:嘿,我们公司要做出选择,也许我们处在受监管的行业,金融、医疗、HIPAA,你知道,FINRA,各种各样的监管规定。我们需要本地部署。我们希望放在国内。我们想要一个开源版本,让我们有更多一点的控制权。你现在看到这种情况了吗?
我们肯定看到了。我认为 OpenAI 几个月前发布 OSS 120B 是个明智之举。那是一个很好的开源模型。但我认为在美国,我们需要更多本土的开源模型。我们需要给世界一个选择。如果他们现在想运行开源模型,
要么是 OSS 120B,要么是中国模型。NVIDIA 也有一些。NVIDIA 也看到了同样的推动开源模型的机会。我认为给他们更多力量可能会是个办法。你之前打断了我。我的理解是 Jensen 的态度是:嘿,我们甚至都不想谈我们有的这些开源模型,因为那样我们就要和我们的客户 Sam、Dario、Elon、Sergey 竞争了。我们想处于那种位置吗?所以,我们确实需要更多的倡导者,而且它是开源的,大家可以 fork。但这让你处于一个更中立的
位置。没错。我们现在运行 GLM,运行 Kimi,运行 QM 系列模型,也运行 OpenAI 的模型,闭源的那些。我们为葛兰素史克(GlaxoSmithKline)运行他们自己编写和开发的模型。我们为我们在阿联酋的合作伙伴 G42 和 MBZUAI 运行他们自己设计的模型。所以我们有各种各样的模型。所以主权是一种趋势。主权是一种趋势。我认为政府在 Fable 和 5-6 上的举动,他们说:哦,等等,我们先想一想,然后再行动。我认为这在某种程度上,尤其是在欧洲这里,是一个警钟。而当你看到事情这样发展时……我们国家现在有一层党派之争。
相当激烈。Dario 相当明确地,你知道,不站在这届政府一边。他们一直非常对立。双方都承认了这一点。现在他们开始在协调解决了。所以我认为,我们不在场,很难理解这里面哪些是党派之争、哪些是博弈手段。但你是否认为他们发布的东西对网络战、对网络攻击真的很危险?如果要给 Dario 的……不说沟通了,因为他是一个非常
热情洋溢的沟通者,我想这是一种委婉的说法。但是采取有计划的、分阶段的发布。我们先不谈政府对它的控制。你认为在现阶段这么做是明智的吗?你认为那里真的存在重大威胁吗?有意思的是,我之前没见过它。对。我想如果我们退一步问:这合理吗?我不知道这是否是正确的时机,但当一个模型的思维足够有创造力、构成实质性威胁的时候,政府说“我们希望你分步骤推出”。是的。这在我看来并不是不合理的。一点也不。对吧?我是说,我们对强效药物就是这么做的,对吧?我们希望……我是说,我们当然不是在鼓励七年的试验、大量的文书工作,以及 FDA 积累下来的所有那些垃圾。
但面对一项强大的新技术,说“嘿,各位,至少让政府做一些红队测试,让我们知道我们的防御能挡住它”,这当然不是不合理的。是的。我们检查过了吗?我们检查过国家的基础设施了吗?NSA 的。我们检查过……的基础设施了吗,对吧?能不能给我们两三周时间,修补发现的明显漏洞?
政府提出这样的要求似乎并不是不合理的。对。但在这个高度两极分化的时期,我们会在上面再叠加一层:哦,天哪,这是特朗普总统在做这件事。然后你得想一想,如果是 AOC 总统,或者两个极端之间的任何一位总统呢?我认为两极分化造成了很大伤害。它妨碍清晰的思考。确实如此。它妨碍清晰的思考。
双方都会做一些蠢事,也会做一些非常聪明的事。对。对。事实上,我发现政府里的人都在非常努力。普通工作人员。普通工作人员都在非常努力。而这件事发展得很快。我认为要有能力把一些两极对立放到一边,问一问:我们怎样以合理的方式来做这件事?
我是说,我们希望 Dario 和 Sam 疯狂地竞争。百分之百。看着他们竞争太精彩了。太精彩了。是的。对。这对技术有好处。也让创业者看到,即使公司有几千人,你仍然可以持续取得这样的成就。
对。对。这是一种驱动力。没错。没错。每个人都变得更好了。正因为如此,每个人都变得更好了。我们想要这样。
我们当然也不想变成那种地区,第一反应就是去监管。对。对。但随着它变得越来越强大……也许这个行业真的应该更好地自我监管。看起来他们确实开始了这个过程,但沟通有所欠缺。也许吧。
你知道,我认为他们不仅在拼命竞赛,而且是边做边发明。是的。对吧?没有现成的剧本。没有。他们在发明……我们会说:哦,加上护栏就行了。他们得自己设计护栏。当然。
对吧?护栏是有影响的。你知道,速度快的好处之一,就是让护栏带来的痛苦更小。这是我们在过去六周里发现的。是的。就是护栏本身会增加时间,让体验变慢。所以像我们这样的快速芯片真的能帮上忙。但他们是在和竞争对手赛跑。
他们是在和自己对伟大的追求赛跑。是的。对。这也许才是这里最大的驱动力。我认为他们是真心在思考怎样做正确的事。所有这些都混在一起。有时你站在这一边而不是另一边。是的。就像你说的,这是第一次。没错。当 3.5 出来的时候,我们用 ChatGPT 2.5、3.5 的时候,它可没有在攻破网络。但我和 Palo Alto Networks 的 Nikesh 聊的时候,
我问他:嘿,你会怎么评价这个?他说:我们拿它测试了我们的软件,发现了我们之前不知道的漏洞。是的。它把这些漏洞全找出来了。是的。他说:我们不得不停下手头所有的工作,花六周时间打补丁。对。那时候你就明白了,对吧?我是说,Nikesh 领导的可能是最顶尖的安全软件公司,对吧?当它在一小时内就找到几十个严重漏洞时,你会觉得:哇,这是一个强大的工具。是的,我们需要好好想想,也许先给一小群人看,对吧?也许……我不知道正确的做法是什么,但我是说,红队测试,我们一直都有。就像你发布新版本的操作系统时,你知道,你用 iPhone 的时候可以说“我想加入测试版”。没错,你知道的。
对。还有另外两个测试版,作为消费者你根本没有机会选择加入。对。那些是为了安全,那些是为了,你知道,确保你不会丢失数据。没错。数据消失、泄露或损坏,诸如此类的任何情况。我认为我们也可以知道,将会发生一次大规模数据泄露。当然。我们知道这一点。是的。对。这就像沃伦·巴菲特谈到的再保险行业:你知道坏事一定会发生,你不知道什么时候,但你得为此存钱。对。
你为此存钱,买再保险。但一定会有龙卷风,一定会有大地震。我是说,我们知道这一点,我们可以尽力做计划,但一定会发生大规模的入侵事件。我们必须提前做好心理准备。我们必须思考这件事,思考届时的正确应对方式,为一个具体细节未知的未来做好准备。但总体上,我们相当确定某些事情会发生。某些事情一定会发生。
对。是的。而且通常是一只黑天鹅,对吧?没错。按定义,它会是我们没有考虑到的事情,或者是我们不知道该问的问题。对。但即使只是知道存在一些“未知的未知”,也是一个有用的起点。
是的。我们有哪些问题没有问自己?没错。有了推理能力,AI 将能告诉我们:嘿,蠢笨的人类。没错。顺便说一下,这些是你们没有考虑到的。这现在成了我写提示词时的结束语。比如我需要你帮我写一个提示词,帮助我做趋势侦察。
然后我总会在最后说:请检查你的工作。对。然后告诉我在我的目标方面还有什么我没考虑到的,并且每次运行任务时都问我一些问题。这改变了一切,因为它会说:我检查了我的工作,顺便说一下,这一点是错的。对。还有,我在想,嘿,你要不要我也做一下这个?
有些工具,比如 Perplexity,会自动这样做,给出你接下来的三个提示词。但如果你给它明确的指令,天哪,它在这方面真是太擅长了。所以,你知道,过去 10 年我在融资的时候,我觉得自己在谈话结尾被问到的更聪明的问题之一是,有人问:你听到过的、我没有问到的最聪明的问题是什么?太棒了。对。那是一个好奇、善于思考、谦逊的人,在试图借此
了解这个领域的全貌。如果你能这样问 AI,让它拓宽你的视野,比如:要成为这方面的专家,我应该问什么问题?一个博士水平的人会问什么问题、提什么要求?或者奥数金牌级别的数学。我是说,我觉得这些问题是你知道自己甚至不知道该怎么问的。
而你知道,如果我们开始思考 AGI 和超级智能,你知道,它们只是定义,但我认为是需要牢记的重要定义,因为它们是路标。没错。至于 AGI,我想我猜你会同意我的看法:我们已经达到了。我们只是还没有完全部署它。我们已经拥有了通用人工智能。现在,当我们谈论这些推理时刻,以及,你知道,
它能像任何人类一样聪明的能力时,感觉就是这样。但我们来谈谈……按照我们 20 年前的任何定义,我们都已经达到了。是的,对吧?我是说,你想想,哦,那时有图灵测试,已经被远远甩在后面了。是的。我是说,你想想,在过去任何一个时间点,10 年、15 年、20 年、30 年、40 年、50 年前,我们之前提出的任何定义,我们都已经远远超越了。
这又回到了我们之前说的那一点:我们知道该问什么问题吗?没错。20 年前,科幻作家们,你知道,发表了他们的看法,而我们回答了他们所有的问题。对。如果他们今天看到这些,他们会说:嗯,我没有……我没有问题了。我没有问题了。抱歉。
这就是为什么要倾听那些有时听起来像是处于边缘的人。对。是的。当 Ilya 在八到十年前谈到安全的必要性时,你会想:什么?完全正确。是的。对。当 Elon 谈到造火箭、把运载火箭的发射成本压到接近零时,你会想:什么?
结果就成真了。现在你能看到了。我想这就是为什么现在当一名技术人员非常有趣。对。而且特别是有了这些工具,你知道,我们谈的是构建所有这些工具,然后这些工具开始在一个递归循环中构建自己。没错。我们才刚刚开始看到人们应用循环。
事实上,loop maxing(把循环用到极限)……当我做趋势分析时,当我做我那个趋势项目时,它不断捕捉到 loop、looping,又不断捕捉到 maxing 这类东西,于是它为我创造了一个流行词:loop maxing。对。然后神奇的是,人们开始谈论 loop maxing,我当时想,哇,这真的很奇怪。它预见到了其他人类会想出这个词。
但请谈谈递归,以及通往超级智能的道路。Andrew,你是否有一种思考超级智能的方式:它对人类意味着什么,我们将如何定义它,以及我们将如何体验它?好的。我想我们先从 loop maxing,或者说递归学习谈起。我认为 Sam 和 Ilya,以及后来的 Dario 和 Dana,在六年前或五年前看到的是,强大的递归收益是指数级的。对吧?
你变得更好,再做一遍。如果你持续获得收益,那条曲线的斜率会非常陡。是的。而我们现在才刚刚开始看到这一点。你问它一个问题。你从结果中学习。你让它再做一遍。结果变得更好,加入了更多信息。
你的答案变得更好。你让它再做一遍。它覆盖了更多材料。这类循环产生的不是稍微好一点的答案,而是好得多的答案。是的。这极其强大,因为我们不太清楚它会在哪里结束。对。
你不断往里投入算力。我是说,答案能变得好多少?你知道,我们会用完 token,或者用完预算,或者……但是。但天哪,我是说,指数增长什么时候会停止?还是说答案会一直向右上方不断攀升?是的。这是目前一个极其有趣的智力问题。是的,比如我们什么时候会没有问题可解决?嗯,没错。
那么,什么时候这些问题不再是某种智力问题,而变成了人的问题?是的。对吧?如何组织人去完成 AI 要求的事情。对。我是说,正如你在经营公司中所知道的,你的很多问题并不是很难的智力问题,而是人们如何协作的问题。是的。对吧?还有你的动力。动力。作为领导者,你花了大量时间给团队喷 WD-40 润滑剂。对。对。就是为了减少摩擦。那我们如何从 AI 那里了解这些?太不可思议了。我们如何从 AI 那里获得行为洞见?我认为,这正是世界模型在开始观察人类行为时会带给我们的一些东西。
是啊,我们甚至还没谈到这一点。这得留到另一次访谈了。但当这些东西从屏幕上跳出来、进入现实世界,递归开始发生时,不是去解决数学问题,你知道,人类最难的那些问题,而是:嘿,你知道,外面有一个不可思议的世界,这里是凡尔赛宫。对。就像现在,我们会说,给我做一个新版的 Salesforce。而我们会说,嘿,你知道吗?
我想要一座凡尔赛宫。我在得克萨斯或内华达之外的某个地方有 100 英亩地。我就派一千个 Optimus 过去。给我建一座凡尔赛宫。对。听起来很天马行空,但对于生活在凡尔赛宫建成之前一千年的人来说,它也会显得天马行空。而且我认为,对于建造它的人来说,它也是了不起的。
我认为即使是建造者,在建造过程中也对它心怀敬畏。是的,他们在进行复利式的递归学习。没错。我们谈到了世代,你有一个很棒的洞见:在建造这个地方的过程中,有好几代石匠。是的。我认为在所有这些大型项目中,常常有一些家族是专业匠人,你跟着你的父亲、你的叔叔当学徒。当一个项目需要 50 年、70 年或 100 年时,可能会有同一个家族的三四代人,对吧,同一个石匠家族在同一座建筑上工作。并传承所学。新的创新。对。这正是我们所建模的,
用这些新模型,以及你在基础设施方面正在构建的东西。仔细想想,真是太不可思议了。尤其是当我们坐在这里,而这个地方……这就是我的意思,我认为人类学习的问题在于,它的推进速度往往是一代人的节奏。就像大象和其他大型哺乳动物一样,我们每 15 到 20 年才有一代。如果你想在世代之间快速推进,你希望它们更像果蝇(Drosophila)那样发生。你希望一天两代。是的。
对。你在遗传学中就能看到这一点。这就是我们在遗传学中研究它们的原因,因为编码在 DNA 中的学习,你可以跨越成千上万代来研究。我认为我们在 AI 中得到的就是与之相当的东西。我们在相当于成千上万代的跨度上获得了极其快速的学习。是的,达尔文会对这种进化速度感到惊叹。完全正确。
你可以这样想。我记得我在读心理学学位的时候,他们教我们关于范式的知识。我当时试图理解范式是如何转变的。教授对我说:Jason,你必须明白的是,范式不会消亡,人会。没错。弗洛伊德就是这样。
他和托马斯·库恩,没错。弗洛伊德、斯金纳和荣格,得等到他们去世。没错。下一个范式才会到来。新的一代。新的一代。去质疑它。那花了 20 年。
是的。有时是 40 年。对。因为他们的学生一直占据着领导地位,直到有人说,也许我们可以换种方式做。我认为你所看到的是,这种迭代缩短了代际间隔,学习速度如此之快。和你交谈总是很棒,因为,第一,就智识而言,你对它的处理方式
在智识上如此严谨;而且在世界上充斥着如此多“P(doom)”(末日概率)论调的情况下,看到你对这项技术如此乐观,并且如此深思熟虑地构建它,我感到非常欣慰。我认为,对于那些正在听到关于 AI 和失业等各种恐怖故事的人来说,他们需要明白,有像你这样的人在以极其深思熟虑的方式构建它。这将为人类带来难以想象的净收益。借助这项技术,我们有机会让我们的孩子以及他们认识的任何人都不会死于癌症。
我是说,就这么说吧。经济中会出现一些错位。当然。会有的。汽车出现时也有错位,当时做给马钉马掌或造马车的人日子就不好过了,对吧。但你也得权衡,你知道,列一张利弊对照表。是的。对。
我们有机会让我们的孩子,他们中没有人,也没有他们身边的人,死于癌症。这是我们可以借助这项技术去努力的一件事,而且我们会在这方面取得很大进展。我认为当你开始把这些一一列出来,讨论就会更加深思熟虑。是的,无限的能源。无限的热量。无限的知识、无限的教育、无限的住房。以及我们如何实现它。
想象一下,我们知道如何教孩子,却没有这样做。亚里士多德是亚历山大大帝的导师。苏格拉底是他的导师。我们知道,如果你给孩子配一位导师,并且导师根据孩子调整教学,孩子会学得更好。但我们在课堂上不是这样教的。不是,是工厂化养殖。没错。
我们按某种中等水平来教。想象一下,如果我们构建能按照孩子自己的学习方式来教他们的智能体。对。对。方法就在这里。我们一千年来一直用同样的方式在做。而在这整段时间里,我们知道如何做得更好,却选择了不去做。而这就是我们可以做到的方式。
把它放在利的一边。所以,只要我们以深思熟虑、公平的方式写下好处和坏处,我认为结果会非常好。Andrew,你得走出去,继续传播你对世界的看法,因为有些人看到了拐角后面的东西,会有点紧张,好吧,这也合理。但我认为,正如你所描述的,这本账明显偏向富足。我认为它肯定会创造富足。巨大的富足。
Andrew。很荣幸。和你交谈总是很愉快。六个月后我们再见,做一次复查。那太好了。产业、资本和智能正在汇聚成一个相互连接的单一系统,而其背后的基础设施也需要同样快速地演进。纳斯达克正是为这一时刻而生,为全球超过 135 个市场和监管机构提供支持,并将资本与塑造未来的公司连接起来。
随着创新经济加速发展,连接性成为关键资产。纳斯达克是使之成为可能并可扩展的领先技术平台。了解更多,请访问 NASDAQ.com。Robin Rombach 是 Black Forest Labs 的联合创始人兼 CEO。你们位于德国的黑森林(Black Forest),那是德国的一座城市。其实是一座山脉。山脉?是的。
你在那里长大。我在那里长大,是的。你们正在开发开源图像和视频模型。你曾在 Stable Diffusion 工作过一段时间。没错。你在那里积累了最初的经验。你们以开源模型 Flux 而闻名,也许还有一些闭源模型。给我们讲讲 Black
Forest Labs 的业务吧?业务是什么,目标是什么?完全没问题。快速补充一点,我们位于黑森林地区,在一个叫弗莱堡的小城,还有旧金山。哦,当然,还有旧金山。你是两地分配时间吗?在一定程度上我是两地分配时间。我们两年前创办了公司。我和我的联合创始人们,正如你所说,过去都在 Stable Diffusion 上工作过。
在那之前,我们发明了一种农业……一种算法,叫潜在扩散(Latent Diffusion),它基本上是所有已部署的生成模型背后的基础算法,用于图像生成、视频生成,甚至现在的物理 AI。它基本上利用了这样一个原理:你可以把自然数据,比如图像、视频、音频,
压缩成一种高效得多的表示,然后在其上训练 Transformer 模型。我是说,这就是 JPEG、MP3 之类东西的工作原理。几年前我们还在慕尼黑读博士时,基本上就把它转化成了一种神经算法。然后在此基础上,我们构建了 Stable Diffusion。再在此基础上,是的,就是我们今天正在开发的生成模型。
当然,技术已经进步了。但我会说,我们现在正在攻克的是那些真正为理解我们周围整个世界而打造的模型。多模态的视觉模型,同时在图像、视频、音频数据上进行预训练。我们现在正进入一个新的范式,就是把它与所谓的动作预测结合起来,这样你实际上就可以用同一个模型来生成图像、生成视频、生成音频以及预测动作,这意味着你最终可以把它部署到现实世界中的机器人上。哇。所以从图像到视频、音频,最终通过机器人和真实世界模型进入现实世界,因为如果你能生成图像,你能训练这个模型,那就意味着你默认就理解了这个世界。
为了生成一段关于世界的视频,你必须理解这个世界,对吧?还有其中的物体?我认为,是的,我认为这是一个非常好的思考方式。它就像是一种……它就像是一种与世界互动的直觉方式,对吧?我会说,最终存在这些互补的智能形式。有直觉智能,然后还有一个深度推理层。最终,要实现某种完整的形式,
你两者都需要,而且需要它们相互作用。我认为我们更多是从直觉这一侧切入的。图像是切入整个领域的一种非常自然的方式,因为它的计算量不像比如视频那么大,对吧?但现在,是的,我认为我们正在把它们结合起来。它正在汇聚成一个多模态模型。
是的,我们看到,正是要在视频上进行预训练,因为这带来了对物理规律、对与现实世界交互的隐式理解。然后你就可以从同一个模型中得到动作预测、机器人技术之类的东西。而在这些模型及其训练方面,在生成视频、生成图像上一直存在某种局限,对生成式 AI 的批评是它有点像老虎机。
我给出一个提示词,它返回给我一些东西。但它是怎么得出那个结果的?训练数据。但是,你知道,也许我想要不同的风格。也许我想要不同的颜色。也许我想要一种不同的,你知道,美学。是的。
这个问题怎么解决?在图像生成时,你真的理解底层发生了什么吗?是的。是的,我认为,最终是要向,我不知道,用户或在这个模型之上进行构建的开发者,开放尽可能多的操控层,对吧?我认为我们过去在以往的图像模型上就看到了这一点,它们基本上从简单的文本到图像系统起步。然后扩展到文本加图像到图像的系统,这意味着你突然可以拿一张图像,
一张真实图像或生成的图像,基于文本提示对其进行迭代,比如编辑它、修改它,对吧?然后又扩展到可以接收多张图像和文本提示,以语义的方式把它们组合起来,生成新内容。同样的原理现在也适用于视频。而且我认为现在它实际上变得更加有趣了,
所有这些模态实际上都是同一个模型的组合输入和输出。那我们来谈谈视频。有消息宣布,你们正在与有史以来最伟大的导演,或者说在世的导演,马丁·斯科塞斯合作。我们稍后会谈到这个,好吗?太棒了。但在电影中,人们期待能够制作一部电影,其中的镜头角度、声音可以是
§02文字稿 2
马丁·斯科塞斯会自豪地发布给他的影迷的作品。我们离那还有多远?也许给我们讲讲这次合作,以及这项技术能否制作出一部真正的电影,比如《好家伙》或《好家伙》中的一个场景;相比之下,目前的情况是你可以制作有趣的 5 秒或 10 秒片段,然后人们也许要费力地做出十个这样的片段,再用后期剪辑软件把它们拼在一起,但你立刻就能看出这不是那回事。这不是电影。这是 AI 垃圾内容(AI slop)。
它很笨拙。它跨不过恐怖谷。嗯,我认为这一点很重要。至少我们的看法是,这些 AI 模型是一种媒介,对吧?我们不想规定它们应该如何被使用。我们不想告诉任何人,尤其不是像马丁·斯科塞斯这样的人,他应该如何使用他的模型。他可是有史以来最伟大的电影人之一。
和他多次同处一室,真是太疯狂了。而且亲眼看到他探索我们的模型。作为模型背后的核心研究人员之一,那真是一种难以置信的感觉,对吧?同时,我也是他的忠实粉丝。所以你和 Marty Scorsese 同处一室,向他展示了你们的工具。没错,是的。他的反应是什么?
是什么触动了他?他觉得最有启发或最有趣的是什么?我认为真的是这样一个想法:他脑海中显然有一个场景或一片景致的构想,也许新电影会在那里拍摄。他正在尝试探索它,我们基本上看了东欧某处一个村庄的景致,
他在描述它。我们看到了一些输出,我们在这些输出上进行迭代。最终,我认为,这也是他最后说的,就是把你脑海中某样东西的心理图景提取出来,通过制作这些图像或一系列图像以视觉方式传达出来,是的,这让沟通和传达你脑子里实际存在的想法变得更容易。
我认为这是使用这项技术的一种非常有趣且强大的方式。我认为最终……是为了获得灵感。把他脑海中的构想呈现到图像上。是的,我是说,语言最终在某种程度上是一种有损的沟通媒介,对吧?是的。它还会被以不同的方式解读,而视觉信息是如此丰富,如此丰富,比如一张图像或一段视频,其中包含如此多的信号,这就是另一种沟通方式。
我认为这是这项技术最终带来的美好之处之一。至于你的问题,用比如视频生成模型来制作完整的电影,我不确定那是否是最终目标。也许把它接入某种智能体工作流中,制作一段很长的视频会很有意思。我认为这非常值得探索。
但我认为,最终真正有趣的用例出现在有人参与其中(human in the loop)、不断迭代并把它当作媒介来使用的时候。我认为至少这是我所持的、让它变得有趣的视角。而这往往就是最有趣的成果出现或真正被创造出来的时候。头脑风暴的制作层面显然是生成式 AI 的巨大胜利。
基本上,你可以把你的头脑风暴并行化。是的,我喜欢这个说法,把头脑风暴并行化。他们对此有一个类比。他们做故事板。一些伟大的导演,比如执导《异形》和《角斗士》的雷德利·斯科特,就以自己绘制故事板而闻名。我也相信斯皮尔伯格也喜欢为《夺宝奇兵》之类的作品画草图。乔治·卢卡斯以与许多出色的艺术家合作而闻名,甚至为《星球大战》系列制作微缩模型和故事板。
他有那些人全职帮他做这些。所以那是显而易见的起点。但如果我们看看初创公司,初创公司总是想办法以低成本做事。人们过去会花,你知道,10 万美元、25 万美元为自己的初创公司制作一支发布视频。所以他们拿着 1000 万美元的风险融资,花 25 万美元做一支发布视频。我在很多我现在投资的初创公司身上看到,他们只会花一两周时间,和,你知道,一位导演合作制作一支发布视频。你大概也看到了这个趋势,对吧?
我相信人们会用 Flux 和你们的一些模型来做这件事。你看到过吗?是的,当然,是的。是的。你对此怎么看?因为那感觉像是讲故事的早期阶段。你在试图用一种有趣、吸引人、有冲击力的方式,在 30 秒、90 秒内传达一个产品或服务,对吧?
我是说,同样,我认为我们支持基于这些工具的这类探索,对吧?我认为最终很高兴看到各种不同的,我不知道,发布视频、产品都构建在同一种基础模型或同一种技术之上。我认为这正是让它如此有趣、也如此强大的原因。是的。人们还在用这项技术做什么?我了解到有一部比特币电影即将上映。这部比特币电影没有使用绿幕。我当时在和盖尔·加朵聊天,你知道,就是扮演神奇女侠的那位女演员。是的,当然。她,我在一个活动上和她聊天,她告诉我,那是科学突破奖,Yuri Milner 的活动。她告诉我她刚拍了一部比特币电影。他们是在摄影棚里拍的,没有用绿
幕,所有演员就在一个摄影棚里表演。然后他们身后的所有场景都由生成式 AI 制作。那是一部真正的电影。那是一部预算 3000 万美元的电影。她说,如果他们必须搭建布景,成本会达到 1.5 亿美元,这部电影根本不会获批开拍。你是否开始看到人们在制作中使用这些,不仅仅是在后端和构思阶段,而是真正用你们的工具进行制作?是的,我们在制作中看到了一些这样的用例。我认为高端电影制作算是要求最苛刻的用例之一。我很高兴它正在被探索,但我也真的想,我认为
重要的是要看到,这项技术正处在一条上升轨道上,它在进步,进步得很快。我不知道,如果我回顾几年前我们起步的时候,我读博士时,感觉唯一能做的就是 64×64 像素的图像。现在你可以做出高分辨率的数分钟长的视频,对吧。但它不会止步于此,它会继续改进。我认为到那时它将解锁更多这类高端用例。但我认为在我们达到那一步之前,最主要的是……是的。
怎么预测呢?我认为怎么预测,我认为最终。几年吧。最终我认为你仍然希望拥有能够实现这种人在回路中的……当然。是的。……制作工作流的工具,对吧?但当我把多模态生成模型作为一个整体来看时,我认为真正让我兴奋的是,你可以用同一种 AI 模型
来制作电影,也可以把它作为大脑部署在机器人上。我认为这真是太有意思了。我不知道,有一些想法是在数字世界中尝试这一点,比如计算机使用(computer use),这是否真的可行还有待观察。但我认为这项技术是如此强大、如此多才多艺,它正在向那个方向发展。还有所有关于世界模型、世界动作模型之类的讨论。
基本上都是一回事。我认为这正是它如此有趣的原因,也是我觉得最令人兴奋的地方。那么,你是否认为这项技术将被用于分析,或者主要用于分析现实世界,比如这是一段某人,你知道,做三明治的视频,现在让机器人研究它并做出三明治;还是你认为会产生大量合成数据,机器人只研究这些合成数据,或者它们会以某种方式基于所有这些海量训练数据天生就知道?我认为这是预测的结合,对吧,还有预测。
这是一种方式,你可以把它看作模拟、看作生成。它是在预测动作,也就是说你必须理解输入、视觉输入,才能真正预测出合理的下一个动作。而且这关乎感知。就是说,只有当你理解、感知了内容,你才能,我不知道,把它转化为新的内容,或预测一个动作,或描述你实际在其中看到的东西。我认为正是所有这些的结合在推动它。
不是其中单独某一个。而是这些思路的结合。获取这些训练数据的最佳方式是什么?你是否需要让人戴上眼镜,获取第一人称视角,让他们戴上手套?这样你就有那种理解的保真度:嘿,这个杯子在移动,我在倒这杯东西,我在往里面放冰块。你知道,这就是它的运作方式,还有飞溅和冷凝水,这样我就能把它拿起来,而不会因为外面湿了而掉下去。
还是说只需要,嘿,拿 YouTube 视频语料库来,机器人就确切知道该做什么,因为它们会找到一千个人们倒饮料的视频?我是说,最终我认为你会希望达到这样一种状态:你可以在上下文中给机器人下提示,对吧,就像你可以对语言模型做的那样,基本上就是告诉它,嘿,去……我不知道,拿起这个装着,我不知道,橙汁还是什么的杯子。是的,没错。我们还没到那一步。
但我认为这是目标之一。我认为这些模型目前的部署方式是,有很多不同的硬件、不同的机器人在工厂里运行,它们都有某种不同的动作表示,你需要针对这些去调整模型,对吧?所以在实践中,你的做法是,模型里有所有这些视觉理解。然后你只需要很少的一点、几个小时的
微调数据,就能针对那个具体任务调整模型。我认为目标是逐渐摆脱这种方式,尽可能多地转向上下文内的方式,但这在某种程度上还是一个研究问题。我认为……开源
现在可以说正迎来高光时刻。我们最近在播客上讨论了很多。人们也在谈论主权。有些公司拥有令人难以置信的 IP 库。我之前提到了《星球大战》。迪士尼拥有一个了不起的片库。你的建议应该是,
你会给迪士尼这样的公司什么建议?他们应该拿你们的开源软件训练自己的模型,还是和你们合作训练自己的模型,以便掌控它,然后说,嘿,这是我们的 IP。他们已经明确表态与 ChatGPT 合作,并表示,嘿,你可以使用和不可以使用某些角色。事实上,OpenAI 曾与他们就 Sora 建立了合作关系,
现在已经不再继续了,但他们曾在输出端正式授权了一些角色。那么你如何看待这些主要的 IP 持有者?你对他们有什么建议?你们在和他们洽谈吗?我们知道与马丁·斯科塞斯的合作(原话此处含混),但你如何看待内容库?我认为,听着,我认为最有趣的用例,比如说内容创作,在于生成某种东西,创造出以前从未存在过的东西,对吧?这是这项技术一个根本性的、有趣的方面。然后我认为,是的,说到 IP,
我们的做法,比如说在我们面向公众的工具上,是你无法用这些模型生成某些 IP,对吧?我认为这是一种合理的做法。然后,是的,我们确实与某些 IP 持有者合作,和他们一起开发模型。其中一些基于我们的开源模型,一些基于我们更强大的专有模型。但我认为这是一个非常有吸引力的价值主张。你认为再过几年,这对消费者来说会是什么样子?
当你打开 Disney+ 时,可能会发生什么?我是说,这是个好问题。我不在迪士尼,对吧?所以这由他们来决定。但我认为我们希望让他们能够构建他们所设想的各种东西。我认为我们可以支持他们。我们可以支持这个领域的其他公司,我不知道,以最好的方式整合这项技术。
我认为其中一个非常有趣的角度是,它正在变得快得多,变得更具互动性。我可以设想一大堆非常有趣的互动式内容创作工具,可以放在 Disney+ 或其他地方。我认为我在这方面看到的最有趣的东西是粉丝电影。对。所以在生成式 AI 之前,有一个类别叫同人小说。人们会写自己的《星球大战》故事。
然后出现了粉丝电影,人们会打扮成绝地武士,拍摄自己的电影。乔治·卢卡斯说,只要你不是商业用途,不出售它,我就允许你去拍绝地电影。他们甚至发布了教程,
你知道,教你怎么做光剑,或者,你知道,用来做出光剑音效的声音文件。现在,人们正在拿《星球大战》宇宙中尚未被讲述的故事,用 AI 重新创作,
对于粉丝来说,这些作品在 YouTube 上变得相当受欢迎。我认为《Star Wars Stories Untold》是其中最大的一个。它每个视频已经有数百万次观看了。我认为这真的是未来:让客户群支付授权费或支付费用,也许是租用软件,也许按输出计费,让他们用这些角色进行创作,
让他们创作自己的故事。而你们可能处在一个独特的位置来赋能这一点。嗯,百分之百。我认为,如果你能找到一种既适用于 IP 所有者、又能实现超级有创意的定制化用例的模式,那就很棒。是的。我是说,就我自己而言,当我读一本书或者别的什么,比如看电影时,
我会有很多想法,比如它可以怎样换种方式来做,或者本可以发生这样的事。对。是的。能够真正让人们把这些想法可视化,这真是太好了。是的。这将会非常了不起。祝你们继续成功。你们在旧金山有办公室。
你们在招人,对吧?是的,我们在招。你们融了很多钱。我们融了很多钱。我们刚刚突破 100 人。我们在德国和旧金山招聘。太棒了。你们在找什么样的人?
什么样的人合适,什么规模合适?是的。一方面,我们一直在寻找有大规模模型训练经验、有扩散模型训练和流匹配(flow matching)训练经验的研究人员。我们在寻找愿意与客户合作开发这些定制化物理 AI 解决方案的工程师,或者比如与 IP 所有者合作,和他们共同开发这些模型。我们在寻找有大规模计算基础设施经验的工程师,负责管理开发环境,确保训练平稳运行,最大化我们的 MFU 之类的。我们也在寻找有兴趣,你知道,把这项技术
推广出去、交到人们手中的人。这项技术的前线部署,有太多好点子,你们也有太多优秀的合作伙伴。我认为你们会,特别是在开源方面,你知道,看起来企业确实希望拥有额外一层的控制权,但它们也需要前沿模型或你们的专有模型来实现某些精细功能。所以我认为你们的前景非常光明。百分之百,完全正确。好的,祝继续成功。非常感谢你来参加节目。
非常感谢。很荣幸。