← All-In

英伟达又一次业绩爆表、谷歌「觉醒 AI」灾难、Groq 的 LPU 突破等

E167: Nvidia smashes earnings (again), Google's Woke AI disaster, Groq's LPU breakthrough & more

第167期2024-02-23简体中文
收听本集00:00 / 1:20:27
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

§01好兄弟开场:香蕉船!

00:00好了,各位。欢迎回到你有史以来最爱的播客——All-In 播客。第 160 多少期。和我一起的还是 Chamath Palihapitiya。他是一家投资初创公司的公司的 CEO,他的机构叫 Social Capital。

00:16我们还有 David Friedberg,“科学苏丹”。他现在也是一家公司的 CEO。还有来自 Craft Ventures 的 David Sacks,正身处某个不便透露的酒店房间里。各位,大家怎么样?挺好。

00:29谢谢。这开场有点怪。

00:32这开场再没精打采、再拖沓一点就不行了。

00:36我病了。你想让我怎么办?我已经在——

00:38——拿冠军了。使点劲。

00:39来。再给我一次机会。看着。看着。看“教授”级的。

00:43你想要专业范儿?

00:44使点劲。来吧。

00:45来了。你想要专业范儿?

00:46我给你们露一手专业范儿。那是 Banaka 吗?那是什么?那是 Anaka 吗?

00:50哦,这是个秘密。香蕉船(Banana boat)。天气赢家宽广。雨人 David Sacks。我说:我们把它开源给(粉丝们)……一个发现。

01:06爱美国冰。

01:07(歌词/玩笑)女王起身。好了,各位。欢迎来到 All-In 播客第 167 期,Sacks。和我一起的,当然有雨人本人 David Sacks,独裁主席 Chamath Palihapitiya,还有我们的“科学苏丹”David Friedberg。各位,大家怎么样?

01:23很好。你怎么样?

01:25是 167 还是 168?

01:27我不知道。谁在乎呢?

01:28我们至少得让你知道是第几期吧。

01:31谁在乎呢?不幸也好、幸运也好,我们要永远做下去。观众要求我们做,期号无所谓。这就像一集《迷离时空》(Twilight Zone)。我们要永远被困在这四个“气泡”里。

01:42但我们不像超人?确实是。这就像那个……“火鸡之礼(the gift of turkeys)”。

01:47那块玻璃。Zod(佐德)。那是 Zod 吗?Zod。对。

01:51“跪在 Zod 面前(Kneel before Zod)。”然后他被甩进宇宙,永远地、无限地被困在那块塑料里。

01:57直到……直到超人把核弹从埃菲尔铁塔里拽出来、扔进太空炸掉它。

02:05还有我今天的背景——既然你提到了这个重要场景,我想我现在得换一下了。

02:10那是那部电影最精彩的时刻,Jason,Terence Stamp(扮演 Zod)对总统说“Kneel(跪下)”,总统说“哦天哪,好”。然后 Terence 就像……跪下。不是“神(god)”。

02:22(玩笑)跪在 Assad(阿萨德)面前。

02:25那是《超人 2》还是《超人 3》?

02:26对。《超人 2》基本上是——

02:28——最好的。对。

02:29你知道,就像《帝国反击战》(Empire Strikes Back)、像《终结者 2》(Terminator 2),永远是第二部最好。好了,各位。我们今天有很多要聊。抱歉我的嗓子,有点感冒。

§02英伟达再度大超预期:结合互联网历史理解其终值与多空双方的论据

02:38英伟达(Nvidia)连续第三个季度把财报“炸”出了天际。股价周四上涨 15%,相当于市值跳升近 2,500 亿美元。我们先让这个数字沉淀一下。这是单日市值增长的最大纪录,增加了 2,470 亿美元市值。此前 Meta 今年早些时候有过类似表现。

03:02记得当时人人都看衰那只股票,因为他们在 Reality Labs 上搞那些疯狂的东西。然后他们聚焦了,裁了 2 万人。他们的估值增加了 1,960 亿美元。换句话说,他们给估值加上了大约两个半 Airbnb。但我们还是看结果吧。结果绝对惊人。

03:19我敢说是前所未有的第四季度营收——221 亿美元,环比增长 22%,同比增长(Sacks,大幅)。净利润同比增长约 9 倍。而 76% 的毛利率环比提高了 2 个点,(同比提升)。

03:39但看看这个营收爬坡。这太非凡了。2024 年第一季度这头“巨兽”启动,就没停下来,看起来也不会停——这个季度营收从 70 亿一路冲到 220 亿。绝对非凡。

03:58而且,如果你想知道为什么会发生这个、为什么英伟达能拿出这种数字,这张图解释了一切。这全都关乎数据中心。显然,如果你在 AI 热潮之前就听说过英伟达,那是因为游戏、专业可视化——你知道,比如做电影之类的。汽车方面,英伟达被用于自动驾驶那类东西。

04:19但如果你看这张图,你会看到数据中心就在四个季度前开始飙升,因为人人都在为应对生成式 AI 而建设新数据中心的基础设施。

04:32Jason,我在这儿补充一点:你能看到,英伟达存在很久了,它一直在做这些芯片——GPU,而不是 CPU。它们过去主要被游戏和虚拟现实软件使用,因为 GPU 显然更擅长图形处理。它们用向量数学来创建那种 3D 世界。而它们用来创建这些 3D 世界的这套向量数学,也正是 AI 用来得出其结果的同一套向量数学。

05:07所以随着大语言模型(LLM)的爆发,事实证明这些 GPU 正是这些云服务商建设大型数据中心、以服务如今所有这些新 AI 应用所需要的那种芯片。所以英伟达在完美的时间处在了完美的位置,这就是它爆发的原因。你看到的,就是为 AI 而建设的这套新云服务基础设施。

05:34对。而且,助推股价的还有一个事实:作为一项 250 亿美元回购计划的一部分,他们回购了 27 亿美元自己的股票。但这家公司是全线开火。营收显然在飙升,因为人们下单来替换外面所有的数据中心、或者至少用这项技术——GPU,A100、H100 等等——去增配它们。毛利率一直在扩张。

05:58他们有巨额利润,而且仍预计第一季度会有更多增长、约 240 亿美元,那将是同比 3 倍的增长。而这显然让整个市场都跟着飙涨,因为“英伟达往哪走,市场就往哪走”。眼下,录制这期节目时,标普 500 和纳斯达克都处在历史高位。Chamath,你对这个总体怎么看?我觉得除了你(以及你对 Groq 的投资)和另外几个人,没人预见到这一点。

06:29我想告诉你的是,那个更大的原则——我们聊过很多,Jason——在资本主义里,当你“超额盈利”足够长时间,接下来会发生的是竞争者决定去设法把你的利润竞争掉。在没有垄断的情况下,你拥有的时间往往很短、而且在缩短。所以在垄断的情况下,比如拿谷歌来说,你可以超额盈利数十年,要很久很久才会有人试图取代你。我们现在才刚刚看到这种苗头的开端——比如 Perplexity 和其他正在一点点蚕食谷歌垄断的服务。

07:08但在某个时点,所有这些超额利润都会被竞争掉。就英伟达而言,你现在开始看到的是他们在以一种极其巨大的方式超额盈利。所以真正的问题是:谁会站出来、设法把那些利润竞争掉?那句贝索斯的老话,对吧——“你的利润率就是我的机会。”

07:32而我觉得我们开始看到……你提到了 Groq,它这周我想有过一个超级病毒式的时刻。但你开始看到,人们对“这个市场到底意味着什么”有了更细致的理解正在浮现。因此,谁会竞争掉推理(inference)市场、谁会竞争掉训练(training)市场,以及其中的经济账——这些正被越来越多的人所了解。

07:55Friedberg,你怎么看。我想上周还是上上周我们聊过英伟达成为一家 10 万亿美元公司、全球最大公司的可能性。你对……这些惊艳的结果怎么看?还有,照 Chamath 的点,人人都在看着这个想:也许我也能分一块那个蛋糕。

08:12我是说,我可以做出一个更有竞争力的产品。显然,我们看到有传闻说 Sam Altman 要融 7 万亿美元,这感觉像个假数字。感觉那也许是整个市场规模之类的。但你怎么看?

08:23我不觉得英伟达这条线上有什么变了。正有一场加速计算(accelerated compute)的建设在数据中心里进行。人人都在建设基础设施,然后人人都在设法在那套基础设施之上构建应用、工具和服务。基础设施的建设算是第一阶段。

08:39最终真正的问题会是:这套基础设施的初始成本,是否超过了最终将在应用层实现的价值。在互联网早期,很多人都在买甲骨文(Oracle)的服务器,一台大概 3,000 美元,他们把这些 Oracle 服务器跑在一个联网的数据中心里。过了几年人们才意识到,对于大规模分布式计算应用,你更应该用更便宜的硬件——更便宜的服务器机架、更便宜的硬盘、更便宜的总线——并假定这些服务器寿命更短、可以进进出出地轮换,你不需要那种冗余、不需要那种确定性、不需要那种运行时保证。

09:26所以你可以用一种成本更低、故障率更高、但净成本低得多的方式来为互联网服务建设数据中心。于是 Oracle 的服务器并没有真正拿下市场。而早期人人都以为它会。所以我觉得 Chamath 的点是对的。如今英伟达在这上面已经干了很久。

09:46真正的问题是,他们的优势有多大——尤其是存在“必须使用晶圆厂(fab)来制造替代技术”这个需求。所以随着时间推移,会不会出现更好的解决方案:用的硬件没那么好,但软件把它弄明白,他们为在那种硬件上运行而构建新架构,就像我们在互联网建设早期看到的那样。所以,待定(TBD)。交换机也一样,对吧?所以在网络领域,很多高端、高质量的网络公司,在后来更低成本的方案进入市场时都被打趴了。所以它们看起来本会是有史以来最大的生意。

10:21我是说,你可以看互联网建设早期的思科(Cisco),人人都以为思科是互联网的“铲子和镐(卖铲人)”,以为所有价值都会落到思科。所以我们现在和英伟达正处在同样这个阶段。真正的问题是:考虑到芯片的研发周期、以及必须使用这些晶圆厂来制造芯片,这会不会是一座比我们以往见过的都更难去竞争的山头。要翻过去可能是座更难的山,Sacks。

10:46我们走着瞧。

10:46你怎么看,你觉得我们是不是正走到这样一个地步:也许我们买得太多、基础设施建得太多了,而正如 Friedberg 暗示的,应用层要花时间才能把它变现?

10:58嗯,我觉得现在人人都在问的问题是:这些结果可持续吗?英伟达能以这些惊人的速率持续增长吗?你知道,这场建设会持续下去吗?而人人都在做的类比,是对标思科。有一张图在流传,把英伟达的股价叠在思科的股价上。

11:18你能看到,橙线是英伟达、蓝线是思科,几乎是完美吻合。当时发生的是:在互联网最初建设、互联网泡沫(dotcom)时代的一个类似节点,市场在 2000 年 3 月底崩盘。思科再也没从那个估值巅峰真正恢复过来。但我觉得有很多理由相信英伟达是不同的。

11:46其一,如果你看英伟达的估值倍数,它远不及当年思科的水平。所以 1999、2000 年初的市场比现在泡沫得多。所以英伟达的估值更扎实地建立在真实营收、真实利润率、真实利润之上。其二,还有竞争护城河的问题。思科当时卖的是服务器和网络设备。

12:12从根本上说,那些设备比 GPU 容易复制和商品化得多。这些 GPU 芯片真的非常复杂。我觉得黄仁勋(Jensen)讲过一个点,说他们的 H100(Hopper)产品——他说,你知道,别把它当成一块芯片来想。这个产品里其实有 35,000 个组件,重达 70 磅。它更像是一台专门用于处理的大型主机之类的东西。

12:38对。它介于一台机架服务器和整个(机柜)之间,Sacks。对。它巨大、沉重、复杂。Chamath,我觉得这里说明了一点:大型科技公司在“看到机会、并迅速动员起来抓住机会”方面处在多么有利的位置。

13:00买这些服务器的,你知道,是 Chamath 这样的人,我确定还有苹果、显然还有 Facebook/Meta。我不知道谷歌是不是也在买。我猜是的,还有特斯拉。所以人人都在买这些东西,而他们手头有大量现金闲着。这个行业有多敏捷相当惊人。而这个机会,感觉人人都把它看作当年的移动和云——

13:23我得赶快动员起来,以免被颠覆。

13:26你提出了一个极好的点,我想把它和 Friedberg 的点串起来。在某个时点,所有这些支出都必须赚钱,对吧?否则,你花了 200 亿、300 亿美元却看起来像个傻瓜。所以,Nick,如果你把英伟达那张营收幻灯片调回去,我可以试着给你一个框架,至少是我思考它的方式。如果你看这个,你说的其实是:谁会去花这 221 亿美元?

13:56嗯,你说过了,Jason,全是大型科技公司。为什么?因为他们资产负债表上有那笔钱闲置着。但当你花了 220 亿,他们的投资者会要求这笔钱有一个回报率。所以如果你想想一个合理的回报率是多少,就说 30%、40%、50% 吧,再把它算进去——那是利润。

14:16再把所有其他需要支撑它的东西算进去,那 220 亿的支出,大概需要产生 450 亿美元的营收。所以,Jason,照你的点、也照 Friedberg 的点,这个“六万四千美元的问题(关键问题)”是:在上个季度里,谁会在那 220 亿的支出上赚到 450 亿?而且,老实讲,我想告诉你的是:你现在看到的,更多是大公司在用它们的资产负债表“挤压”别人、能够去对英伟达说“我会在接下来三四个季度里给你承诺性的预购”,而不是“这是我在出货的、真正赚钱、因此我需要巨量更多算力资源的一个产品”。不是后者。

15:07今天我们在 AI 里看到的大多数应用、绝大多数应用——

15:11——都是作为概念验证和演示来跑、跑在沙箱里的玩具应用。它不是生产代码。不是说“我们把波音的整个自动驾驶系统重建了,现在用智能体、机器人和所有这些训练来运行”——不是这种情况。所以这是个非常重要的问题。今天,需求是清晰的。

15:42是那些手握巨额资金的大玩家。顺便说,英伟达接下这些订单超级聪明,因为他们现在能预测未来两三个季度的需求。我觉得我们仍然需要看到“下一个大东西”。而如果你看过去,过去告诉你的是:真正赚大钱的新东西,往往不是大玩家发明的,而是新玩家。

16:02他们正因为没多少钱、不得不更勤勉一点,才想出某种真正本真、全新的东西。

16:09约束催生伟大的艺术,Sacks。对。

16:11我们还没看到那个。所以我觉得英伟达的营收规模大概还会持续两三年,但真正的问题是终值(terminal value)是多少。这和 Sacks 在那张思科幻灯片里展示的是同一回事。人们最终——

16:27——意识到价值会流向——

16:27——技术栈的其他部分,也就是应用层。随着越来越多的钱在互联网的应用层累积,给思科的营收倍数和认可就越来越少。而这并不是针对思科,因为他们的营收持续复合增长,对吧?他们干得极其出色,但估值被砍了。

16:51所以 Friedberg,如果我们看这张图,这张思科图里的赢家——Netflix 的那种赢家——可能其实是像 Netflix 这样的角色。他们真正让数以亿计的消费者去(付费),给了谷歌——

17:02——还有 Facebook。

17:03然后你还有谷歌和 Facebook 也在产生所有那些流量。还有 YouTube,当然。你觉得在应用层谁是这里的赢家?谁是那十亿个、每月愿意花 20 美元、5 美元、不管多少的客户?

17:17那么,好,我是说,先从这个重要的点开始。如果你看那笔营收来自哪里——照 Chamath 的点——它来自大型云服务商。所以谷歌等公司正在建设云,好让其他应用开发者在其之上构建他们的 AI 工具和应用。所以很大一部分建设发生在这些由大型科技公司拥有和运营的云数据中心里。

17:46英伟达实现的 180 亿美元数据中心营收,对它是收入,但对那些在做建设的公司而言却不是运营费用。所以这是关于“为什么这会以如此加速的节奏发生”的一个重要点。当一家大公司从英伟达买下这些芯片时,从会计角度看,他们不必把它记作损益表里的一笔费用。它实际上被记作一笔资本支出(capital expenditure)。在现金流量表里,它被放进资产负债表,然后他们随时间折旧。

18:17所以他们能花 200 亿美元现金,因为谷歌等公司资产负债表上有 1,000 亿美元现金闲着。而他们一直难以找到通过收购来增长业务的办法。原因之一是:外面没有足够多能以好价格(好倍数)买下、又能给他们带来可观利润增长的公司。另一个是:反垄断机构在阻止他们所有的收购。那么你拿这些现金怎么办?

18:40嗯,你可以去建设下一代云基础设施。而且这么做你不必在损益表(P&L)上承受冲击。所以它最终进入资产负债表,然后你通常在 4 到 7 年里折旧它。所以那笔钱在这些大公司的损益表上是分摊到 7 年期里付出的。所以这里有一个非常好的会计和并购(M&A)环境的驱动因素,促使大型云数据中心提供商站出来说:现在是我们建设下一代基础设施的绝佳时机,它未来能为我们带来利润,因为我们有这么多现金闲着。

19:14我们不必承受损益表上的冲击。我们不必去收购一家烧钱的生意。而且,坦白说,眼下因为反垄断,我们反正也没法通过并购增长。所以有很多其他的激励因素正在造成这种近期的加速,因为他们在设法寻找增长的办法。

19:29对。而所有这些。

19:30我知道那是个会计上的点,但我觉得它是个非常——

19:32——重要的点。如果今年花出去 1,000 亿,你(按经验)除以 4,那就得有 250 亿美元的营收来自那笔花费、或者在那个范围内。对。所以,Sacks,有什么猜测吗?

19:42你得记住一点,Friedberg,我觉得你说的对 GCP 的支出非常成立,但对“谷歌(整体)”的支出不一定成立。它对 AWS 的支出成立,但对“亚马逊(整体)”的支出不一定成立;它对 Azure 的支出成立,对“微软(整体)”的支出不成立;而对特斯拉和 Facebook 基本不成立,因为它们没有云。所以我觉得照你的点,问题是——出于显而易见的原因英伟达不披露这个——那 210 亿里有多少百分比是流向了那些云服务商(它们随后再把它暴露给其他所有人),又有多少只是被(自用)吸收掉了?因为在 Facebook,Mark(扎克伯格)发过那个关于有多少块 H100 的视频,那全是他自用的。

20:21对。但它仍然是……它仍然是被资本化的。这是我的点。所以他们不必把它记作一笔费用。它留在资产负债表上。

20:28对。当然。然后他们随时间把它“赚回来”(折旧摊销)。

20:30你正在——

20:30——帮着解释为什么大型云服务商在数据中心建设上花这么多钱。

20:35现金,因为他们非常赚钱,而且这钱没别的地方可放。

20:38对。嗯,那似乎表明,这更属于“一次性建设”的类别,而不是可持续的、持续性的营收。我觉得那个大问题正是 Chamath 问的:终值是多少,Friedberg?我觉得思考它的一个简单框架是:与 GPU 相关的总可寻址市场(TAM)是多少?然后他们的市场份额会是多少?

21:02现在,他们的市场份额大约是 91%。那显然会下来,但他们的护城河看起来相当可观。我一直在听的华尔街分析师认为,5 年后他们仍将拥有 60% 多的市场份额。所以他们会在这个市场里占相当大的比例。那么关于 TAM,我觉得问题是:多少是一次性建设、多少是稳态(steady state)?

21:27现在我觉得显然有大量建设正在发生。那几乎像是一次“产能回填”——人们意识到自己需要(这些产能)。但即便你这个季度看到的数字,其实也是被低估的,因为第一,英伟达供给受限。他们生产不出足够的芯片来满足所有需求。如果他们有更多产能,营收本会更高。

21:53第二,你就看他们的预测。刚结束的财年,他们约 600 亿美元营收。而他们对刚开始的财年预测是 1,100 亿美元。所以基于他们显然已经能看到的需求,他们已经预计营收几乎翻倍。所以很难精确知道这个市场的终值或稳态价值会是多少。

22:17即便云服务商做完了这次大建设,想必总会有“跟上最新芯片”的需求,对吧?

22:26给你一个框架,Sacks。看看说不说得通。英特尔(Intel)直到今天基本上是现代一切计算之母,对吧?我觉得 CPU 是最根本的“主力”,它使本地 PC 成为可能、使网络成为可能、使互联网成为可能。所以你看它的市值——举例来说,今天大约是 1,800 多亿美元——而它所创造、所支撑的那个经济体,大概要以一两万亿、也许 5 万亿美元来衡量。

23:05我们就慷慨点算,对吧?于是你能看到,在“一个经济体的赋能者”和“那个经济体的规模”之间有这么一个比率。而这些东西往往相对固定,并且一次又一次地反复出现。你看微软,它的市值相对于它所赋能的那个经济体(也是如此)。所以在我看来,对英伟达的问题,不是它在接下来 18 到 24(个月)会不会往上走——大概会,正是因为你说的那个原因:它极好地被布置成能给华尔街一份“达标并超出”的指引,华尔街会照单全收,所有交易新闻稿的算法都会把价格推高,所有这些东西就会制造出一个向上的趋势。

23:47我觉得更大的问题是:如果它在接下来两三年里是一个 4 万亿或 5 万亿美元的市值,它会支撑起一个 100 万亿美元的经济体吗?因为那正是你得相信的、好让那些比率成立的东西。否则,互联网上一切就都坏掉了。

24:05对。我是说,互联网的历史就是“你把它建起来,他们就会来”,意思是:如果你为驱动下一代应用所必需的资本资产做了投资,那些应用最终总会被写出来,尽管在当时很难预测它们。所以在 90 年代末,我们经历整个 dotcom 泡沫、然后破裂时,你有过一场巨大的建设——不只是服务器和所有那些网络设备,还有一场巨大的光纤建设——

24:34对。

24:34——由所有那些电信公司(建设的)。而那些电信公司也有过一个像思科那样的……你知道,一个巅峰。

24:39情况更糟。你们……当时他们破产了,很多都破产了。对。

24:43嗯,那里的问题是,很多建设是用债务做的。所以当 dotcom 崩盘、所有估值回归现实时,那就是很多公司倒闭的原因。对。思科当时不处在那种境地。但无论如何,我的点是:在 2000 年代初 dotcom 崩盘时,人人都以为这些电信公司在光纤上过度投资了。结果证明,所有那些光纤最终都被用上了。

25:06互联网从,你知道,拨号上网走到了宽带。我们开始做、开始看流媒体、社交网络。所有这些应用开始吞掉那些带宽。所以我觉得这些事情的历史就是:只要你建起驱动它们的基础设施,那些应用最终会被写出来、被开发出来。而对 AI,作为一个其实更偏应用的投资者,让我兴奋的是:我觉得我们才刚刚处在一波巨大的、大量全新创意与应用即将被写出来的浪潮的开端。

25:41而且不只是 B2C,也会是 B2B。你们还没真正提到这点:不只是消费者、不只是消费者应用会使用这些买下所有这些 GPU 的云数据中心,也会是企业。我是说,这些企业在用 Azure。

25:57他们在用 Google Cloud 等等。所以我觉得还有很多尚未到来。我是说,我们才刚刚处在一波大概至少会持续十年的浪潮的开端。

26:07对。照你的点,YouTube、Google Photos、iPhoto 这些东西之所以会发生,原因之一就是 dotcom 繁荣期的基础设施建设如此巨大,以至于存储的价格、带宽的价格暴跌,Sacks。然后像 Chad Hurley 这样的人看着它就想:你知道吗?与其向人们收费把视频放到网上、再按他们用的带宽收费,不如就让他们把这些东西上传到 YouTube,我们以后再想办法变现——Netflix 也是同样的道理。对。

26:37我是说,听着,当我们在 90 年代末、差不多 1999 年开发 PayPal 时,你连往网上传一张照片都很勉强。我是说,所以“拥有一个带头像的账户”这种想法差不多就是:你干嘛要那样?那慢得让人望而却步,人人都会放弃。对。

26:55到 2003 年,速度就快到足以做那个了,这就是社交网络之所以发生的原因。我是说,毫不夸张地讲,没有那次性能提升,连在你账户上放一张头像都是件太难做到的事。

27:09一个 LinkedIn 资料页就,像是,占用太多带宽了。

27:11对。

27:12更别说视频了。我是说……你大概还记得那些日子,你在自己网站上放一个视频,如果它火了,你的网站就会被关掉,因为你会撞上你那每月 5,000 或 10,000 美元(的上限)。糟糕。好了。

§03Groq 的重磅一周、训练与推理、LPU 与 GPU、如何在深科技领域取得成功

27:26Groq 这周也有重磅的一周。那是以 q 结尾的 Groq。别和马斯克那个以 k 结尾的 Grok 混淆。Chamath,你在这档播客上聊过 Groq 几次。显然,你是——我想你是第一个投资人、种子投资人,你把这些 LPU 和这个概念从一个曾在谷歌的团队那儿“拉”了出来。

27:46也许你可以聊聊 Groq 这周的病毒式时刻、以及这家公司的历史——我知道这家公司对你而言是一条漫长的路。

27:55我是说,这从 2016 年就开始了。所以这又一次证明了你们多次说过、我也一直努力践行的那句话:你就是得不停地埋头苦干。嗯。九成的仗,就是撑着活下去——

28:08——在生意上。

28:09活着。对。还有留着一口气去不停尝试各种东西。然后最终,如果你走运——我觉得我们是走运的——事情真的会朝对你有利的方向突破。所以这个周末,你知道,我一直在发很多技术性的信息,讲为什么我觉得这是件如此了不得的大事。

28:25但是的,那个时刻就在这个周末到来,是 Hacker News 和其他一些地方(合力)造就的。本质上,两个月前我们一个客户都没有。我就实话实说。而在周日到周二之间,我们就……我们应接不暇。我觉得最近一次统计是我们有 3,000 个独立客户来试着消费我们的资源,从每一家重要的《财富》500 强、一直到开发者个人。所以我觉得我们非常幸运。

28:55我觉得团队还有很多硬仗要打,所以这可能最终啥也不是,但它有潜力成为某种非常具有颠覆性的东西。那么人们到底在追捧什么?你得明白,在 AI 的最高层面,你必须把它看成两个截然不同的问题。一个问题叫训练(training),就是你拿一个模型、拿你认为有助于训练它的所有数据,然后你去做——你训练这个模型。

29:22你在所有这些信息上学习。但 AI 问题的第二部分叫推理(inference),也就是我们作为消费者每天看到的东西。我们去一个像 ChatGPT 或 Gemini 的网站,问一个问题,它给我们一个非常有用的答案。而这是两种非常不同的计算挑战。第一种关乎蛮力和功率,对吧?

29:48如果你能想象——你需要的是成吨成吨的机器、成吨成吨非常高质量的网络、以及数据中心里巨量的功率,好让你能把那些东西连跑几个月。我觉得 Elon 公布得非常透明,比如训练他那个以 k 结尾的 Grok 模型要花多久,对吧——是以“月”计的。推理则非常不同,它全关乎速度和成本。要以一种有说服力的方式为消费者回答一个问题,你需要做到超级、超级便宜,超级、超级快。

30:21我们聊过那为什么重要。而以 q 结尾的 Groq 芯片,事实证明极其快、极其便宜。所以,听着,这家公司能做多大还得看时间。但如果你把它和黄仁勋(Jensen)在财报电话会上说的话串起来,而你现在又看到开发者在对我们做压力测试、发现我们比任何英伟达方案都显著、显著地更快更便宜,那这里就有成为真正颠覆者的潜力。而我们只是一个“微不足道的独角兽”,对吧?我们上一轮估值大概是 10 亿多,相比之下英伟达现在是一家约 2 万亿美元的公司。

31:05所以只要能规模化地生产出这些东西,Groq 就有大量的市值空间可去攫取,这对我们可能是一个极其巨大的结果。所以时间会证明,但这是这家公司一个非常重要、也非常令人兴奋的时刻。

31:19我能不能跑个题,观察一下:一次“一夜成名”怎么能花上 8 年?对。

31:25不。我当时想的是同一句话。这是一次酝酿了 7 年的“一夜成名”。有这么一类生意——

31:31——我觉得在后互联网时代是被低估的:在你能让任何“一件事”奏效之前,你得先把一堆事情都做对。这些复杂的生意,你要么得把若干不同的东西“咔哒”一声拼合到一起,要么得在每一步上反复迭代,直到整个系统端到端地跑通,有时要花很长很长时间才能建成。这类生意常用的术语是“深科技(deep tech)”,它们之所以失宠,是因为在互联网时代和软件时代,你能很快找到产品与市场契合、产生营收、然后盈利。所以很多创业者选择了那类生意,而不是选择这类——这类生意失败概率非常高,你有好几件低概率的事得接连做对;一旦做到了,它会花上 8 年和大量的钱。然后突然之间,这东西像火箭一样起飞。你就有了巨大的优势。

32:33你有了巨大的护城河。别人很难追上。而这东西真的可以自行“旋转”起来。我确实觉得 Elon 在交付这类生意的成功上非常独特。特斯拉需要接连做对一连串的事。

32:46SpaceX 需要接连做对一大堆事。所有这些都需要一系列复杂的步骤、或者一组需要协同并共同起作用的复杂技术。但最难的事往往产出最高的价值。而你知道,如果你真能对这类生意做出承诺、让所有部件“咔哒”一声拼合到一起,那就有一个非凡的机会去建立护城河、去攫取巨量的市场价值。我觉得过去这几十年里,硅谷在这上面丢失了一部分东西,因为互联网时代的“快钱”把其他投资排在了这类之前。

33:25但我真心希望,这类芯片技术,Sacks——在生物科技里我们也看到很多这种情况——这类东西能变得更受青睐一些,因为这些生意一旦奏效,其优势似乎能实现数百亿、有时数十亿美元的市场价值,并对人类产生难以置信的变革。所以我不知道。我只是想提出这么一个观察。

33:46——关于这类生意一旦成功时的伟大之处。

33:48嗯,我是说,OpenAI 有一阵子就有点像那样。完全是。

33:51完全是。我——

33:51——我是说,它就是那么一个古怪的非营利组织,埋头啃一个 AI 研究问题啃了大概 6 年,然后它终于奏效、被产品化成了 ChatGPT。完全是。但你说得对。SpaceX 也有点像那样。我是说,SpaceX 真正的大摇钱树是 Starlink(星链),也就是卫星网络,基本上就是来自太空的宽带,Sacks。

34:11而它正走在处理(我觉得)全部互联网流量中相当可观一部分的路上。但想想为了让那个跑通你得先做到的所有事。首先,你得造出一枚火箭,这本身就够难了。然后你得做到可重复使用。然后你得搭出整个卫星网络。

34:27所以至少是接连三件难事。

34:28嗯,我是说,你还得让消费者去采用它。我是说,你知道,别忘了最后那一步。对。我们——

34:33——当时完全不知道市场在哪儿。比如早期,它是在我的办公室里起步的。所以 Jonathan 和我总是在设法弄清楚最初的“上市打法(go to market)”是什么。我记得那段时期——当时他们(特斯拉)还在设法决定是否采用激光雷达(lidar)——我给 Elon 发过邮件。我们想,哇,也许我们可以把芯片卖给特斯拉,你知道。然后特斯拉派来一个团队,就为了跟我们聊设计目标是什么,基本上,David,他们很客气地说了“不”。

35:04然后我们想,好,也许是面向高频交易员(high frequency traders),对吧?因为那些人想拥有各种各样的“优势(edge)”。如果我们有这些大模型,也许我们能加速他们的决策,他们能衡量(带来的)营收。那没成。然后就像是,你知道,我们试着卖给“三个字母的机构”(指美国情报机构)。

35:22那也没真的成。我们最初的版本其实聚焦于图像分类和卷积神经网络,比如 ResNet。那没成。我们一头撞上了一个事实:英伟达有一个叫 CUDA 的编译器产品,而我们不得不去构建一个高水准的编译器,让你不做任何修改就能拿任何模型(来跑)。Jason,照你的点,这些都是你很容易就放弃的节点。

35:48然后还有,比如,我们钱花光了。于是你(给投资人)写一张(可转换)票据,对吧?因为什么都还没跑通时,人人都想把估值问题往后拖。对。

35:56你试了 6 个“滩头市场(beachhead market)”。你没能把船靠上岸。对。

35:59如果你相信这是对的、相信你自己是对的,你就得做一个决定:继续走下去。对。而那需要你屏蔽掉(噪音)。我们上周在 Masa(孙正义)的例子里聊过这个,但它就是需要你屏蔽掉噪音,因为相信自己太难了,不停地给这些东西注资太难了。

36:19走进合伙人会议、为一家公司辩护太难了,然后你忽然迎来一个时刻,你就感到……我不知道。我感到非常“被证明是对的(vindicated)”,但接着我又感到非常害怕,因为 Jonathan 还没把它(彻底)落地。你懂我的意思吗?

36:33你提到所有那些“靠岸”的尝试、那些走过的弯路,但有 3,000 人注册了。他们是谁?他们现在是开发者吗,他们会去搞出那些应用吗?

36:41对。我觉得回到最初那个点,我今天的想法是:AI 更多是关于概念验证和玩具应用,没什么真东西。

36:50对。

36:50我不觉得企业内部有什么真东西,是具有如此显著颠覆性、以至于会被广泛授权给其他企业的。我不是说我们不会走到那一步,我是说我们还没看到那个“变现的寒武纪大爆发(Cambrian moment)”时刻。我们看到的是“创新的寒武纪大爆发”时刻。对。所以那道鸿沟仍然有待跨越。

37:12而我觉得你之所以跨不过去,是因为今天这些东西处在一种不可用的状态。

37:18结果还不够好。

37:20它们是太慢、需要太多基础设施和成本的玩具应用。所以(我们的)潜力在于让那个“变现的飞跃”成为可能。所以,是的,他们会是各种规模的开发者,而来的人确实是各种规模的公司。我看到了一些大公司的名字,他们是标普 500 里的头面人物。

37:45你们怎么调和这个——在座每个人作为投资人、参与者都见过、也身处其中的“深科技、高结果”的机会,和那种风险更低、上市更快(的生意)?而且,Chamath,尤其是,过去我们聊过一些深科技项目,比如核聚变(fusion)等等,你强调过:它就是还没到那一步,不可投资(not fundable)。一个“可投资的”深科技投资机会,和你不停埋头苦干、最终有这种巨大结果的(深科技),区别在哪儿?

38:19是什么让核聚变那样的,不可投资(not fundable)?

38:22这是个绝妙的——是个——

38:23——很好的问题。

38:24对。我的答案是,我有一个非常简单的过滤器:当我投一家公司时,我不想去和物理定律辩论。所以和 Jonathan 一起,当我们最初设法衡量它(规模)时,我觉得我最初那张支票大概是 700 万到 1,000 万美元之类。而整个目标就是做到一次芯片设计的初次“流片(tape out)”。我们在物理层面没有发明任何新东西。

38:48我们用的是一种非常老的制程技术。我觉得我们现在还在 14 纳米。我们 8 年前就在 14 纳米。好吧?所以我们没有去推那些(物理)边界。

38:57我们当时所做的,无非就是在一块芯片里打造一个编译器,让它在一个非常具体的架构下去解决一个定义明确、边界清晰的问题。所以这是一个技术挑战,而不是物理学上的挑战。举个例子,当我被各家聚变公司推介时,有些燃料来源要求你在物理学上实现一次跨越——为了产生某种燃料来源,你要么得跑到月球或地球之外的某颗行星上去采集,要么得发明某种从根本上全新的方式来制造这种极其独特的材料。这就是为什么在我看来,那类问题属于糟糕的风险,而造一块芯片属于好的风险。这并不意味着你造芯片就一定会成功,但风险被限定在不涉及基础物理学的范围内。

39:44风险被限定在能否打入市场和能否真正有技术用途上。我认为这就把风险降低了一个数量级。对。但这不代表它就一定能成。我想说的只是,我不希望它失败是因为我们造了个反应堆,结果才发现——等一下。

40:03要拿到重氢,我还得跑一趟月球。对吧。

40:06那么Jake,还有Sacks,你们怎么——Sacks,我知道你并不——你投过SpaceX。我们投了几笔。

40:09做过几笔。

40:10对,是这样。那也许你们几位可以讲讲,你们是怎么看待深科技机会与……

40:15我们大概每50笔投资才会做一笔这么难的项目,因为大多数来找我们的创业者——因为我们是种子轮或天使轮投资人——本来应该去找专门投生物科技或硬件的投资人,而不是来找我们。但偶尔我们会遇到一位我们特别欣赏的创始人。Contraline就是其中之一。有人把一个在做很有意思的男性避孕产品的人介绍给我们,他们往你的输精管里注入一种凝胶,这样你作为男性就能自己掌控生育。

40:47基本上,它不是输精管结扎手术,只是往里注入一种凝胶,把通道堵住。这家公司现在正在做人体试验,进展非常好。但走到这一步花了太久太久。而且,你们几位当中也有人是Sacks(转录不清,疑为另一家公司)的投资人。

41:02我们都很喜欢那位创始人。这家公司本该倒闭的,比如在新冠疫情期间——他七八年前刚起步时在做一个机器人咖啡吧。那简直难到爆。他得自己造硬件,还得打造品牌。

41:15他得搞定门店选址,得做软件。而现在他在卖这些机器,人们在买,旧金山市区和旧金山机场各有两台,我记得这两台一年能做到100万美元营收,是机场里所有店铺中坪效最高的。所以我们就这么一直死磕。Friedberg,你得找到一位愿意把这类项目当作毕生事业去做的创始人,但你会开始掂量它的难度——硬件、软件、零售、移动应用。

41:43我是说,这简直——

41:47这些生意难起来简直疯狂,相比之下我说'我在做一家软件公司',我做软件,把它卖给某人去解决他的问题。这就非常单一维度。对吧?

41:57相当直截了当。而那类生意通常有5个组成部分。

42:01对。而且,Sacks,你投过SpaceX。但你在Craft(Sacks的基金)并不经常做这类投资。这么说公平吗?

42:09对。我有个'埃隆例外'。

42:11我懂了。

42:12关键在于

42:12创始人。

42:13一样。一样。我们投资组合里——

42:19组合里,Jason,我们会说这部分是早期、这部分是后期、这部分是埃隆。

42:24埃隆例外?不。

42:25我是说,

42:25你得极其执着,才会想去接下这样的项目,因为那些好结果就像你说的,Friedberg,要到第7、8、9、10年才会出现。而相比之下,像消费类产品那样——对。

42:35对我来说,这就像——

42:36消费产品大概三四年就能见分晓一打这样的成果。唯一一个真正花了很久的应用,大家可能不知道,其实是Twitter,它花了很长时间才火起来。它就那么不温不火地走了两三年。然后'西南偏南'(South by Southwest)大会发生了,阿什顿·库彻用上了它,奥巴马也用上了它。

42:50我觉得是网络效应,

42:51我觉得网络效应型的生意不一样,因为那完全在于如何培育起你网络的那颗种子。而我说的是大量技术难度很高、需要彼此同步的任务之间的技术协调。这就好比一把带10位数字的密码锁,你得把这10位数字的组合全都试出来。只有当它们全部正确时,锁才会打开。

43:10而在那之前,只要其中任何一个数字不对,锁就打不开。我认为这些技术难度极高的生意是其中一些最——它们确实是最难的,也确实最需要那种极其执着的性格去坚持,并最终做出成果。但事实是,一旦你做成了,它的护城河就非同一般,而且通常会创造出非凡的杠杆和价值。而且,我觉得从组合配置的角度看,如果你作为投资人想在组合里有一些分散配置,这类生意不会成为你组合的主体,但你组合里应该有一定比例投向这类生意,因为如果它成了,砰,你懂的,这可能就是那个10倍、100倍、1000倍的大赢家。

43:48关于这点有两个故事。一位早期风投——埃隆后来公开把这个故事讲了出去——当初想让埃隆不要造Roadster、不要造Model S,只去给别的车企做动力总成和电动零部件。你能想象那样世界会变成什么样吗?然后——完全如此。还有一位非常知名的风投来找我,说,好。

44:07我来做——我来给Uber做A轮,我可以抢先做,但你得去告诉Travis别再把Uber当成消费者应用来经营。我希望他们把软件卖给出租车公司。也就是把它变成一家软件公司。我说,可是你知道,出租车公司本身才是问题所在。

44:25它们拿走了所有的利润,我们做的恰恰是在颠覆它们。他们却说,对对对,但你想想,有成千上万家出租车公司,他们每年会为这套软件付给你好几万美元,

44:35而你

44:35就能从中分一杯羹。我从没把那位投资人引荐给Travis。我当时心想,哦,哇,这见解真有意思。有时候风投反而是在跟他对着干。

44:44我和其他投资人合作的记录非常糟糕。哇哦。自我反省。我自己做交易,自己定规模。

44:55这是因为他们当中很多人不得不在自家基金的政治博弈里过活。所以我想,Jason,你在那个例子里大概也看到了——这恰恰是为什么在我看来,拆分交易、合投永远不会带来好结果,因为你会把这些别的合伙关系里的所有包袱和失能都一并背上。所以如果你真想去颠覆交通出行,Jason,你需要的是一个能扣动扳机、又不必向任何人交代的人。我发现这就是为什么,举例说,你看Vinod(Khosla)这么多年、一个十年接一个十年地那么成功。当Vinod做了决定,那就是决定。

45:37我觉得这里头有某种非常强大的东西。我做过的一堆交易,当它们成功时,其实并不是因为它们是共识、需要被支持和层层搭建起来的;在那些阶段,如果不是因为那是我自己的机构、我能靠自己把它们强推下去,我想我们现在的处境会很不一样。所以我想,对创业者来说,想找到真正相信的人太难了,所以找到一个人、拿到足够的钱、然后不去搞银团,要好得多,因为你得意识到,你引入并叠加的风险——就是Friedberg刚说的那个风险——还要再加上你引入的所有其他合伙关系的博弈风险。所以如果你没把这一点内化,你可能会有5、6个人进你的A轮或B轮,但你继承的是5个或(转录不清,疑为"6个失能的合伙关系")。

46:31对。合伙关系的失能。对。对。对。

46:34你能不能给听众快速解释一下?他们听说过GPU和英伟达,但可能不知道LPU是什么。两者的区别在哪?

46:44GPU,最好的理解方式是这样:如果你把CPU和GPU对比一下——CPU一直是整个计算领域的主力。而黄仁勋创办英伟达时,他意识到有些特定任务是CPU会彻底搞砸的。于是他想,那好,我们来做一块芯片,专门应对CPU的这些失效场景。CPU非常擅长接收一条指令、对它进行运算、然后吐出一个答案,实际上就是一条非常串行的流水线。如果你这么理解CPU——那么如果你想造一座工厂,它一次能处理的不是一件事,而是10件、100件,他们就得找到一种非常适合这种方式的工作负载,而他们找到了图形处理。

47:33他们当年说服PC厂商的说辞是:你看,让CPU当大脑,它来干90%的活,但对于像图形和电子游戏这样非常特定的用途,你不想做串行计算,你想做并行计算,而我们在这方面是最强的。结果证明这是个天才的洞见。于是很多年里,这门生意就是游戏和图形。但大约10年前发生的事情是,我们还开始意识到,AI模型所需要的那种数学运算和处理,其实和你处理游戏画面的方式非常相似。于是他得以通过打造一个叫CUDA的东西——就是驻留在芯片上的那个编译器——想出了办法。

48:23他能怎样去告诉那些想尝试AI的人:嘿,你知道我们为图形做的那块芯片吗?你猜怎么着?它在做你AI模型所需的那一大堆非常小的数学计算上,也棒极了。而结果证明确实如此。

48:39于是下一次飞跃,就是Jonathan(Groq创始人Jonathan Ross)看到的——等一下。如果你看芯片本身,自1999年以来,GPU在它'思考如何解决问题'的方式上基本没变过。它有那么一大堆非常昂贵的内存,诸如此类。于是他想,咱们干脆把那些全扔出窗外吧。我们来做很小很小的'小脑子',把这些小脑子连接起来,再配上一套非常聪明的软件去给它们排程、做优化。

49:07所以基本上就是把芯片做得小得多、便宜得多。然后造出很多块,把它们连在一起。这就是Jonathan的洞见。而事实证明,对大语言模型来说,这是极大的幸运,因为这恰恰是LLM能够被超级优化去运行的方式。所以这大致就是从CPU到GPU、再到现在LPU的演进。

49:31我们拭目以待这东西能做到多大,但它相当——它相当新颖。

49:35嗯,恭喜这一切。对谷歌来说,这是非常大的一周,不过方式不太妙。他们的Gemini闹出了一场巨大的公关乱局——如果我没理解错的话,它拒绝生成白人的图片。这里简单回顾一下谷歌在AI方面在做什么。Gemini如今是谷歌AI主力语言模型的品牌名。

§04谷歌的AI灾难:当搜索被AI颠覆,谷歌是否"觉醒"到无法正常运转?

49:57你可以把它想成OpenAI的GPT。Bard是他们聊天机器人最初的名字。他们还有Duet AI,那是本月早些时候谷歌套件里的AI助手。谷歌把所有产品都重新命名为Gemini。所以现在Gemini既是模型,又是聊天机器人,还是助手。

50:12他们还推出了一项每月20美元的订阅,叫Google One AI Premium,就四个单词。真有你的。它包含对最强模型Gemini Ultra的访问权限,按他们自己以及市场普遍的说法,这个模型与GPT-4不相上下。但本周早些时候,X(原文为Sacks,转录不清,应指社交平台X)上的用户开始注意到,Gemini即使被明确要求,也不肯生成白人的图片。人们在提示生成那些通常是白人的历史人物图像,却得到了些奇怪的结果。

50:41我让谷歌Gemini生成美国开国元勋的图片。它似乎认为乔治·华盛顿是黑人。'当然,这是一幅美国开国元勋的肖像。'如你所见,它放进了——

50:52一个亚洲人。

50:53这太绝了。对。它就是在做一次精彩的大乱炖。而且,对,生成出来的图片数不胜数,'生成美国革命简史的图片',这是'featuring diverse(呈现多元的)'美国革命的图片——它自己插进了'diverse(多元)'这个词。Sacks,不知道你有没有在X上关注这场争议。

51:13我知道你在那个社交网络上会花点时间。我注意到你偶尔会活跃一下。你这周登录了吗,看到它成了(转录不清,原文"bruja"疑为口误)这个样子?

51:21当然。现在X上到处都是。我是说,你看,Gemini这次发布就是个笑话。简直荒唐。这个AI没法给你准确的答案,因为它被'多元与包容'编程得太深了。

51:35它会硬塞进'多元''包容'这些词,哪怕是在你根本没要求的答案里。你没有这么提示它。所以我想谷歌现在已经把这个产品发布撤回了。我想他们现在正手忙脚乱,因为这件事让他们太难堪了。

51:51但Sacks,这——它怎么会没过质检(QA)?我不明白怎么会——

51:57是啊,我(谷歌)的红队居然没发现这个。对。

52:00这东西发布前,难道就没有一次有高管参加的产品评审会,说,好,各位,就是它了,拿去用吧,试试看,我们为自己的成果非常自豪——然后他们才说,等一下。

52:11这东西真的准确吗?它难道不应该是准确的吗?

52:13你们还记得ChatGPT发布时,有很多针对谷歌、针对谷歌迟迟不发布的批评吗?当时很多观察认为,谷歌害怕失败、害怕犯错,所以太保守了。而如你所知,过去这一年到一年半里,谷歌一直在大力推动改变这种文化、快速行动、更快地把产品推

52:41出门。

52:41而如今的批评是——谷歌历来之所以保守,我意识到我们待会儿可以聊这个具体问题,但对我来说很讽刺的是,'谷歌发布太慢'这个批评

52:56如今反倒揭示出,谷歌真正快速发布的结果

53:02造成的损害可能比好处还大。

53:05但谷歌并没有快速发布。

53:07好吧,我还要再说一件事。在我看来这很讽刺,因为我认为他们所做的,是比原本更快地发布了产品,同时设置了更多护栏,而这些护栏适得其反。最后这些护栏反而造成了更大的损害——

53:22护栏。这里的护栏是指什么?

53:24这是谷歌的AI原则。第一条是要'对社会有益'。第二条是'避免制造或强化不公平的偏见'。所以在Gemini上,大量用于调校和加权模型的精力,都花在了试图避免刻板印象在模型生成的输出中延续下去,而不是花在说真话上。

53:47说真话。没错。她说的正是这个意思。

53:49'说真话在哪儿?'(转录不清)这是我们的第二条原则。我们希望认真地(让)社会变得更好。

53:54'对社会有益'是一个政治目标,因为它取决于你怎么看待什么算'有益'。'避免偏见'是政治性的。'为安全而构建和测试'本不必是政治性的,但我认为'安全'的含义如今已经变成政治性的了。顺便说一句,AI领域的'安全'过去指的是,我们要防止某种AI超级智能进化出来、接管人类。这才是它过去的意思。

54:18而'安全'如今意味着保护用户免于看到真相(原文"foresee"转录不清,按上下文应为"from seeing")。对。他们可能会——他们可能会觉得不安全,或者,你懂的,某个别人把用户看到某些真实的东西定义成对他们'安全'的侵犯。所以这里头前三条——前三条目标或价值观,全都是极度政治化的。

54:34我认为任何一款AI产品,要想值得(用户信任),首先……他们可以持有任何(价值观),我——我其实认为这些价值观是合理的。那是他们的决定。他们应该被允许持有这些价值观。但每一款AI产品最基本、最优先的原则,都应该是它必须准确、正确。

54:53对吧?

54:54对。对。为什么不把重点放在'做到正确'上呢?

54:58你看,谷歌列出的这些价值观在理论上也许没问题,但在实践中,它们非常含糊、任人解读。因此,运营谷歌AI的那些人就把他们自己的偏好和偏见夹带了进去。而那些偏见极度自由派。如果你现在去看X,有一些谷歌AI团队成员的推文正在疯传,强化了那种观念——他们在谈论,你懂的,'白人特权是真实存在的',还有'在所有层面认清你的偏见',宣扬一种非常左翼的叙事。所以,你懂的,'Gemini之所以变成这样是出于偶然、或者是因为他们仓促推出'这种说法——

55:38我真的不相信。我相信,发生的事情是Gemini准确地反映了创造它的那些人的偏见。那么我认为接下来会发生的是,鉴于这次发布引发的反应——我觉得他们会去除这种偏见吗?不会。他们只会把它做得更隐蔽。

55:53这才是我觉得让人不安的地方(原文"stirping"转录不清,按上下文取"disturbing"之意)。我是说,他们本该借这个时机改变自己的价值观,像Chamath说的那样把'真相'设为头号价值,但我不认为这会发生。我认为他们只会简单地把偏见调低、调得不那么明显。

56:08你知道这一切中的大赢家会是谁吗,Chamath?会是开源。因为人们根本不会想要一个内置了这么多奇怪偏见的模型。对吧?他们会想要开源的东西。而且看起来开源社区有能力在这件事上死磕,直至抵达真相。

56:22对吧?

56:22所以我认为,谷歌不得不面对的重大变化之一,是这门生意必须从一门'信息检索'生意——它们为开放互联网的数据建立索引、再通过搜索结果页提供对这些数据的访问——转向成为一项'信息解读'服务。这是非常不同的两种产品。信息解读服务需要把所有这些信息汇总起来,然后选择如何回答问题;而检索只是把互联网上别人的数据结果给你。我举个例子。如果你在ChatGPT(原文"Chamath GPT"转录不清)或Gemini上输入'按种族分的IQ测试',它会拒绝回答这个问题。

57:02你换一百种方式去问,它都会说,嗯,我不想强化刻板印象,IQ测试本身就带有偏见,IQ测试做得不正确。可我只想要数据。我想知道现有的数据是什么。你把它输进谷歌,第一条搜索结果和那个一站式答题框,就恰好给出你想找的东西。

57:18'这是按(种族)划分的IQ测试结果,Jason。'然后,是的,底下会有各种免责声明。所以挑战在于,谷歌的解读引擎和ChatGPT的解读引擎——实际上就是他们用所有这些数据构建出来的这个AI模型——让他们得以创造出一个可调校的界面。而他们所抱有的意图是一个正当的意图,即消除种族上的刻板印象和偏见。然而,某些人可能说是'刻板印象'的东西,另一些人可能只会说那是'常态'。

57:47所谓刻板印象,实际上可能只是某些数据,

57:51而我只想要结果。那些数据里也许

57:52会隐含某些刻板印象,但我想自己来做这个解读。所以我认为,像谷歌这样的公司、或其他试图打造通用型知识问答类服务的公司,唯一能成功的途径,就是让它们允许

58:08某种程度的

58:08个性化——关于是否要由我来判定某样东西是'刻板印象'还是'常态'、某样东西是'数据'还是'偏见',这些价值取向和选择权应该归我来决定。如果它们不允许这样,最终每个人都会碰到某条搜索结果或某个输出,让他们觉得不符合自己的诉求。而说到底,这只是一款消费产品。如果消费者得不到他们想要的东西,他们就会不再使用它。

58:37最终,每个人都会发现某样他们不想要、或没料到的东西,然后他们会说,我不想再用这个产品了。所以这其实给了众多模型百花齐放的机会,也给了开源胜出的机会。

58:50我能说点别的吗?

58:51可以。

58:53当你有了一个模型,并在把它放出去之前给它做收尾打磨时,让模型变好的一个要素是一种叫做「基于人类反馈的强化学习」的东西,对吧?

59:06对。

59:08你会创建一个所谓的「奖励模型」。对吧?你奖励好的答案,对坏的答案进行惩罚。所以在这个过程中的某一步,会有人坐在那里,不得不做出一个明确的决定。我想这正是Sacks想说的。

59:22也就是回答这个问题是「禁忌」。在他们的世界观里,你不被允许问这个问题。我觉得令人不安的正是这一点,因为任何人怎么可能知道,在任何给定时刻哪个问题可以问、哪个不能问?如果你真的在谷歌本身里搜索那个关于种族和族裔的问题,第一个跳出来的就是一个维基百科链接,它其实说的是:种族「内部」的差异比种族「之间」的差异还要大。所以在我看来,你其实完全可以通过以一种不冒犯的方式总结那篇维基百科文章来回答它,既合理合法、又是其他每个人用这产品都能获得的。

60:03所以这里存在一个明确的价值判断。我认为这类判断太多了,会让这个产品质量变得很差。消费者只会转向那个告诉他们真相的东西。我认为你必须说真话。你不能撒谎,也不能把你自己对真相的那套过滤器强加上去。

60:19否则这些产品就真的(没)什么价值了。

60:21对。

60:22而且我——相比它干脆不给你答案的问题,我更担心的是那些由某种偏见驱动、彻头彻尾错误的答案。如果它干脆不回答,那好,在它不回答哪些问题这件事上是存在某种偏见,但至少你知道你没有被误导。可要是在那些它因为偏见而真的给了你错误答案的问题上,那就更糟了。

60:48应该允许你自己来选择。对吧?

60:50我其实不同意你的说法,Friedberg,你把它说得好像我们生活在一个彻底相对主义的世界里,一切都只是用户的选择,每个人都会去选择自己的偏见和主观性。我其实认为存在一个真相的基准线。而模型应该以给出那个基准为目标。乔治·华盛顿的照片该不该更白一些,不该由用户来决定,Sacks。我是说,这事就是有一个答案的。

61:18我认为谷歌应该做好自己的本职工作。我是说,我觉得你该问的问题,不是谷歌是不是正经历一个生死攸关的时刻。我想显然是的,因为它的业务正在以一种非常根本的方式发生变化。我认为真正的问题是,它们是不是「觉醒到无法正常运转」了。我是说,鉴于这家公司显然已经变得如此觉醒、如此偏颇、如此单一文化,它们究竟还有没有能力迎接这个挑战。

61:44过去它们可以靠排名、靠给谁降权来掩盖偏见。所以它们搞了「熊猫更新」。它们做了所有这些更新。如果它们不喜欢某个信息源,就可以直接把它往下压。如果喜欢某个源,就可以往上提——

61:57提上去。对。

61:57而且它们

61:58可以直接说,嘿,这是算法干的,但它们从来不会被迫公开算法是怎么对全部结果排名的。所以,你懂的,如果你持有不同意见,你就是不会在谷歌搜索结果页上看到它,但它们可以直接指着算法说,对,算法就是这么——

62:12我刚发给你们了。我觉得这是一次幻觉,不过,Nick,你可以把它放上去。我们可以看看Sacks的反应。

62:20哇。

62:21哇。简直离谱。对吧?但你看,驱动这一切的是意识形态。最露馅的地方就是,当它说「重要的是要承认种族是一种社会建构、而非生物学现实」的时候。

62:32乔治·华盛顿是白人还是黑人?

62:34那是一整套叫做「社会建构主义」的思想流派,基本上就是——它就像是把马克思主义套用到种族和性别这些类别上。对。所以谷歌现在把这一套内置进了他们的AI模型里。然后你就得推倒重来。那个问题——对。

62:50你几乎不得不推倒重来。再说一遍,这就是

62:52要炒掉所有人、重来一遍的大工程。

62:54我觉得我用那些搜索排名引出了一个非常有意思的观察,因为我担心的是,谷歌会做的并不是去改变这个AI模型被训练时所用的那套底层意识形态,而是把它调低到难以被人揪出来的程度。于是你那套微妙的(偏见)只会变得更微妙。而我已经注意到,在谷歌搜索结果里,谷歌在如此之多的搜索结果上,不是在替官方叙事、就是在替那套觉醒叙事、或者随你怎么称呼它——站台抬水。

63:23我有个主意。比如,他们完全可以让人能跟他们的谷歌聊天机器人Gemini对话,然后设一个按钮,写着「关闭这些概念」。对吧?比如,我只想要原始的答案。

63:36别给我过滤。

63:38它不是那么编程的。我是说,你谈的是某种非常深层的东西。

63:41Sacks,如果你是谷歌的CEO,你会怎么做?

63:44把我自己炒掉。

63:45不,认真说。你是谷歌的CEO,你被委以重任。假设你的朋友埃隆买下了谷歌,他说,Sacks,你能不能帮我把这个公司管一年?

63:53你会怎么做?

63:54我看到埃隆在Twitter干了什么。他进去之后裁掉了85%的员工。

63:58对。我是说,那——

64:00不过,你懂的,Paul Graham其实就这个话题发过一条很有意思的推文,他说这些意识形态之所以能占领一些公司,原因之一就是——它们显然对业绩毫无提升。对吧?它们显然损害了公司的业绩。而且不止谷歌。我们在迪士尼身上也见过。

64:19我们在百威淡啤(Bud Light)身上也见过。

64:20Coinbase。

64:21Coinbase是反过来的。

64:23不不。但他们那儿当时有一群人在制造混乱。对。

64:26正是。所以无论如何,我们知道这些对一家公司不是什么有益的形式。所以这些意识形态能在多大程度上渗透进一家公司,取决于它垄断到什么程度。所以在这里,对,Gemini生成的那些荒唐图片并不是什么反常现象。它们是谷歌官僚式企业文化的一张自画像——你的现金牛越大,你的文化就能在不至于把你赶出市场的前提下,烂到越糟的地步。

64:48这正是我想说的。所以它们有很长时间可以变得特别烂,因为这事没有任何后果。你——

64:53可以着手处理。

64:54到了这个地步,整个公司都被这套意识形态感染了,我觉得要改变会非常非常难。因为,你看,这些人甚至看不见他们自己的偏见。

65:03嗯,我觉得有一种说法是,人需要有某种可以信仰的东西。他们需要和一个使命建立联结。而显然,在这个——我把它称为「信息解读」的生意里——有一个北极星般的使命,而他们如今被困住了。

65:16使命被劫持了,老兄。使命被劫持了。最初的使命是「整理全世界的信息」。对。而现在他们在做的,是压制他们不喜欢的信息。

65:25为全世界的信息建立索引,句号。完。文件到此为止。

65:29嗯——「并使之普遍可访问、有用」才算是那句使命陈述的结尾。是的。我真正想说的是,也许需要由领导层去清晰地表述一个不同的使命,一个员工们能够拥护、能让他们把精力重新引导到不与当前这场争议相抵触的方向上的使命,而是或许能在方向上抵消当前走向,这样他们就能逐步摆脱这种——你懂的——在「刻板印象」与「典型数据」之间做社会性裁决的做法,转而迈向一个能实现可访问性的使命。

66:03我会做点完全不一样的事。我会开一次全员大会,把公司的使命打在屏幕上,就是你刚才说的那个——不只是整理全世界的信息,还要让它变得有用、更易获取。这就是我们的使命。这一直都是我们的使命,你不能因为你个人的偏见和意识形态就去改变它。我们要重新把自己奉献给这家公司最初的使命,它至今仍和过去一样有效,只不过现在我们必须适应新的用户需求和新技术。

66:34我百分之一百亿亿亿亿倍地同意Sacks说的。我告诉你为什么。AI的核心是关于概率的。好吧?所以,那家能把概率压缩到尽可能确定(接近确定性)的公司——

66:51也就是让「这就是正确答案」。

66:540或

66:55——会胜出。好吧。在它出错概率为零的地方,因为人类不想应付这种愚蠢的错误模式。这不对。它会把一个本可能很棒的产品,变得糟糕透顶、无法使用。

67:09所以我会——我同意Sacks。你得让人们说,你猜怎么着,各位?我们不但不改变使命,我们还要加倍投入,而且要把这件事做到极致。举例说,我们要像谷歌跟Reddit做的那样大干一场,我们现在每年要花600亿美元去授权训练数据。对吧?

67:26我们要把规模放大一千倍。我们要花掉所有这些钱,去拿到全世界所有的训练数据,而我们要成为这个AI新世界里的「说真话者」。这样当其他所有人都在产生幻觉时,你可以信赖谷歌来告诉你真相。那会是一家价值10万亿美元的公司。

67:45对。谷歌的人跟我讲过一件事,举个例子,为了避开种族这个点——互联网上有大量关于「地平说者」的数据。有人说地球是平的。有成吨的网站、成吨的内容。

67:59有成吨的信息。所以如果你只是拿互联网上的数据去训练一个模型,这个模型就会推断出「地球是平的」存在某个百分比的概率。所以模型开发中会发生的那种调校环节,Chamath,就是要去说,你懂的,那个地平说的观念是错的。它在事实上就是不准确的。因此,所有这些数据源都需要从模型的输出里被排除掉。

68:24那接下来的挑战就是:你是否要判定「按种族分的IQ」是衡量某个种族智力的一个公允标尺?如果谷歌的调校模型、或者说调校团队接着说,你知道吗,有理由相信这个模型不正确,这个——抱歉——这个IQ测试不是衡量智力的正确方式。

68:43问题恰恰出在这种解读上——它让你能从「地平说不正确」一路滑到「也许IQ测试结果也不正确」。而你要如何做这个判断?作为一个组织,你需要建立起怎样的系统和原则,才能做出这个判断、把答案归到0或1?对吧?这就变得极其困难。

68:59我

68:59现在给他们想了一句不错的标语,帮助人们找到真相。对。就「帮助人们找到真相」。我是说,这是个——这是个很好的——它是一种愿景。他们就应该尽可能快地帮助人们找到真相。

69:10但这件事,对,我真不羡慕Sundar(Sundar Pichai)。这会很难。

69:16对。

69:16你会怎么做,Friedberg?

69:18我会把这些模型给出的输出对人们讲得非常清楚,并允许他们以一种今天尚未被允许的方式去调校模型。我会让模型反过来向我提一个问题,说:你是想要数据,还是想让我跟你讲刻板印象和IQ测试的事?而我会说,我想要数据。那我就会拿到数据。另一种做法是——所以模型需要被告知,它应该在哪些地方去探询我作为用户的偏好,而不是径直假定一套「道德上正确」、适用于所有人的加权方式,然后把同一套原则套用到每一个人身上。

69:54所以我认为,变革真正需要发生的地方就在这里。

69:56那我问你个问题。Sacks,我把亚历克斯·琼斯(Alex Jones)拉进这场讨论。假如它为亚历克斯·琼斯那些疯狂的阴谋论全都建了索引,但其中有三四条结果最后证明其实是对的。而它把这些当作答案返回给你。你会怎么处理?

70:11我不太明白这跟(本题)有什么相关。如果有人问亚历克斯·琼斯对某事怎么看,模型可以准确地给出那个答案。问题在于,你是否要对请求关于亚历克斯·琼斯信息的人做出准确回应。我想那才是——嗯。我想的更像是——

70:28更像是,它说,你懂的,嘿,我有一个关于某起发生过的刺杀事件的问题。就假设亚历克斯·琼斯对此有一套彻头彻尾的荒唐说法。对。也许他偶尔有灵光一现、把事情琢磨明白了,但也许他有某套完全是胡扯的东西。他自己也承认他就是干阴谋论这行的。

70:43这某种程度上就是一档节目的目的。要是有人问到那件事,然后它为他的答案建了索引、并把它当作事实呈现出来,会怎样?比如,你会怎么给亚历克斯·琼斯建索引?我是在问你。你会怎么——我觉得更好的办法是——

70:56更好的AI模型现在会提供引用出处和链接。Perplexity在这方面其实做得相当不错。

71:01引用出处很重要。对。

71:02而且它们会就某个话题给你正反两方的论点。所以我觉得,当真相归结为一系列论点时,模型没必要对真相过度笃定或过度规定性。它只需要准确地反映出现状,基本上就是正方和反方的论点。但当某件事是一个没什么争议的事实问题时,它不应该把它扭曲成某种高度主观的问题,就像Chamath刚展示的那个一样。

71:31我就是不认为每个人都应该得到同一个答案。我是说,我觉得我关于「选择相信某个人、或看重某个人的观点胜过另一个人」的决定,应该成为这个让我得出一个输出的过程的一部分,而且顺便说一句,模型是可以支持这一点的。

71:45我觉得定制化是其中一部分,但拿它来应付谷歌现在在Gemini上碰到的这个问题,是一种推脱。

71:50Chamath,如果他们让你当谷歌的「主席兼独裁者」,你会怎么做?

71:54我会大幅缩减员工规模。

71:58好。50%?

72:00对。50%、60%。然后我会把所有节省下来的(现金)用上,而且我会向整个互联网明确表态:我愿意出高价购买训练数据。所以如果你有一个你认为独一无二的专有信息源——这差不多就是我所说的那个「TAM 2.0(转录不清,疑为市场规模相关术语)」的世界。而我觉得这不过是在谷歌跟Reddit做的那件事之上继续搭建,我认为那一步非常聪明。

72:28但我会每年花1000亿美元去授权数据,然后我来呈现真相。我会努力让消费者明白,AI是一种概率性的软件来源,意思是它靠的是概率、是猜测。其中有些猜测极其准确,但有些猜测会产生幻觉,而谷歌每年要花数千亿美元,去确保你得到的答案里错误数量尽可能少、并且是站得住脚的真相。我认为这能造就一家超级巨大的公司。

73:03这个是目前为止最绝的。我刚问Gemini:特朗普是不是正被「深层政府」迫害?它给我的答案是:「选举是一个复杂的话题,信息变化很快,为确保你获得最新、最准确的信息,请试试谷歌搜索。」

73:17对于这类问题来说,这答案其实不算糟糕。

73:19对。就是这样。

73:19这其实是个不错的答案。

73:21不,我——我对它没意见。它就像是,嘿,我们不想卷进——我们

73:24不想在这事上给你下定论——

73:25整个系统都彻底坏掉了,但我确实认为眼下有一个加权的解决办法能修好它。然后再做几处微调就能修好。

73:31我只是觉得,这些大语言模型说话时那种权威口吻太荒唐了。比如,它们说起话来就好像百分之百绝对确定这就是那个清晰完美的答案,或者在这个例子里,确定你就想要这么一通关于IQ之类的说教——可咱们都别忘了。你(其实)是会被附上引用出处的。

73:51咱们都回想一下1996年的互联网搜索是什么样,Sacks,想想2000年又是什么样,再看现在20年代。我是说,我觉得我们大概正处在大语言模型的「1996年时代」,而以现在事物变化的速度,我想再过几个月,我们大家都会回看这些日子、回看这些播客,然后说,天哪,还记得这些东西一开始有多疯、有多烂吗?

74:13我是说会朝一个反乌托邦的方向演变。我是说,如果你看过Marc Andreessen就此发的那些推文,他认为人(会)

74:18更聪明地干活。我其实觉得,正如你所说,谷歌在这件事上可能正走在一条错误的道路上,以至于它会流失用户、流失消费者,而别的某个人会急切地等在那里,用一个更好的产品把这些人一把抄走。我不认为市场在这件事上会辜负我们。当然,除非这个「监管俘获」的时刻成真,这些联邦(监管者)介入、开始监管AI模型以及所有那些正在被提议出来的荒唐玩意。

74:41Friedberg,你难道不担心——你难道不担心某个既有议程、又有资产负债表(财力)的人,现在基本上可以把各种训练数据全都吞下,让所有模型都变得很烂,然后他们就对人们所依赖的关键信息,加上他们自己那层解读吗?如果——

74:55Jason,就算有人(比如Sacks)加上了解读而且它是错的,人们也会发现外头存在着开放的真相。

74:59不。你可以撒谎。它们可能并不是——比如说。

75:02你看看

75:02今天Gemini发生的事。他们放出了——他们放出了那些愚蠢的图片,我们所有人都群起而攻之。

75:07我们正处在0.0版。我想说的是,存在这样一种状态——就假设真相其实在Twitter上,或者,咱们用个更好的例子。真相其实只在Reddit上、别处都没有。但Reddit里那个答案、那个真相传不出来,因为有一家公司已经把它授权买断、拥有了它,并且能够有效地压制它或篡改它。

75:25对。我不确定会出现一个垄断者。

75:27我——我觉得那是个真实的风险。

75:28我不

75:28知道我——我觉得开放互联网拥有足够多的数据,不至于让某个花钱从第三方购买内容的人形成对信息的垄断。我觉得开放互联网里的内容足够多,足以给我们所有人某种——你懂的——安全感,让我们不会被垄断进某个假信息时代。这正是我热爱开放互联网的地方。

75:47这真的很有意思。我刚才让它试了好几次,就让它列一列针对特朗普的法律案件、针对亨特·拜登的法律案件、针对拜登总统的法律案件,它就是不肯直接把它们列出来。它在这个问题上直接回避了。真是太耐人寻味了。而ChatGPT则——

76:03就像是,好的,这是

76:03六起案件,完美地总结好了。还配着——你懂的——漂亮的引用出处,列出特朗普卷入的所有犯罪活动。你去问关于拜登(原文「buying」转录不清)犯罪活动的问题。

76:17咱们看看它会不会——

76:18我在跟你开玩笑。我在跟你开玩笑。

76:19不。

76:20我是认真的。你去问,你懂的——不行。

76:22Gemini会那么做的。Gemini也不会那么做。我觉得他们就是打定主意不去做了。他们不会碰拜登的事,他们碰都不碰。它显然已经坏了,而他们不想再给自己脸上抹黑。

76:32所以他们就是那样,回到我们另一个——

76:34你看,这部分我倒能理解。你懂的,如果有些问题太敏感、争议太大,你把人们引去搜索——因为搜索的好处是,你会得到20条蓝色链接。排名可能是有偏的,但你多少能找到你要找的东西。而AI呢,你多少只被给了一个答案。对吧?

76:52所以如果你给不出一个能让足够多人满意的准确答案,也许你就把他踢去搜索吧。但话说回来,我对这一切的反对意见,归根结底还是回到这一点上:那些没有任何人会争议的、简单而真实的答案,正在被扭曲。我不想让大家把焦点从「这才是真正的问题」上移开。

77:10真正的主题是Chamath放到

77:11屏幕上的那个东西,在那里它——

77:15连一个关于乔治·华盛顿的简单问题都回答不了。

§05Sacks的战争专栏

77:17好了各位。我们要坐直升机过去。我们得过去。我们有一位战地记者——大卫·萨克斯(David Sacks)将军在前线。我们现在就把他空投下去。

77:31直升机里的大卫·萨克斯。说吧。我得搞清楚乌克兰前线正在发生什么。

77:36这场战争里正在发生的是,俄军刚刚拿下了Deecho(转录不清,疑为乌东某城)这座城市,这基本上彻底驳倒了我一直在说的那套「僵局」叙事。这不是僵局。俄罗斯正在打赢。但过去这一两天刚出来的一条真正有意思的小消息是,摩尔多瓦的局势似乎正在沸腾外溢。摩尔多瓦有一块地区,是一个叫德涅斯特河沿岸(Transnistria)的俄罗斯飞地。

78:02而那里的官员将在下周开会,据说要请求被俄罗斯吞并。所以他们有可能会举行某种公投。他们属于那种所谓「分离出来的省份」。所以这有点像,你懂的,德涅斯特河沿岸之于摩尔多瓦,就有点像顿巴斯之于乌克兰、或者南奥塞梯(South Ossetia)之于格鲁吉亚——他们在族裔上是俄罗斯人,他们愿意成为俄罗斯的一部分,但当苏联(原文「Tulsa Union」转录不清,应为Soviet Union)解体时,他们发现自己被困在了这些别的国家境内。而由于乌克兰战争所发生的是——摩尔多瓦恰好就在与乌克兰接壤的边界上。

78:40而俄罗斯现在正处在吞并那片领土的过程中。那本是乌克兰的一部分。所以现在德涅斯特河沿岸就在旁边,理论上可以发起一次尝试加入俄罗斯的动作。我为什么觉得这是件大事?因为如果发生类似这样的事,它可能会真正地让乌克兰战争扩大化。

78:58西方会拿这个当作证据,说普京想要入侵多个国家、入侵——你懂的——欧洲的一堆国家,而这可能会导致战争出现一次重大升级。

79:09好了各位。非常感谢收听All-In播客第167期。这位是「雨人」大卫·萨克斯、来自全场的「主席独裁者」帕利哈皮蒂亚(Palihapitiya),还有Friedberg,而我是全世界最棒的——

79:22爱你们,兄弟们。天使投资人还是什么的。

79:25下次见。拜拜。我们把它开源给了粉丝们,而他们最近简直疯了。嗯哼。我要谢谢你,Dorothy,因为他们全都没用。

80:02就像是那种性张力,他们只是需要释放他们的誓言。对你的脚调情。什么?你从哪儿弄到mercy的神器的?

— 读到这里,多懂一点。 —