Nathan Lambert, Sebastian Raschka: 2026年AI现状：大语言模型、编程、缩放定律、中国、智能体、GPU与通用人工智能
#490 – State of AI in 2026: LLMs, Coding, Scaling Laws, China, Agents, GPUs, AGI
嘉宾：Nathan Lambert、Sebastian Raschka
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01原文文稿 · 00:00–1:25:15
接下来这场对话，全面讨论人工智能的最新水平，包括过去一年AI一些令人兴奋的技术突破和进展，以及我们认为接下来一年可能发生的一些有意思的事情。有时内容会非常技术化，但我们努力让领域外的朋友也能理解，同时绝不刻意简化降低深度。能和AI社区里我最喜欢的两个人，塞巴斯蒂安·拉施卡和内森·兰伯特，一起做这期节目，我深感荣幸和愉快。两位都是广受尊敬的机器学习研究者与工程师，同时也很擅长交流、教育、写作和在X上发帖。
塞巴斯蒂安写了两本我非常推荐的书，适合初学者和专家：《从零构建大语言模型》和《从零构建推理模型》。我真心相信，在机器学习与计算机科学世界，学习和理解一件事最好的方式，就是自己从零把它做出来。内森是艾伦人工智能研究所的后训练负责人，也是关于基于人类反馈的强化学习的权威著作作者。两人的X账号、Substack都很棒。塞巴斯蒂安在YouTube上有课程，内森有播客，大家都应该关注。这里是莱克斯·弗里德曼播客。
想支持本节目，请查看简介里的赞助商，那里也有联系我、提问、获取反馈等链接。现在，亲爱的朋友们，有请塞巴斯蒂安·拉施卡和内森·兰伯特。
我想，一个有用的观察视角是所谓的“DeepSeek时刻”。大约一年前，也就是2025年1月，中国的开放权重公司DeepSeek发布了DeepSeek R1，可以说让所有人都惊讶：表现接近或达到最先进水平，据称却使用少得多的计算资源，成本便宜得多。从那时到今天，AI竞争，无论研究还是产品层面，都变得极其激烈，一直在加速。
今天来讨论这一切，如果可以，先问几个刺激的问题。国际层面谁在赢？你觉得是中国这些公司，还是美国这些公司？塞巴斯蒂安、内森，很高兴见到你们。塞巴斯蒂安，你认为谁在赢？
“赢”是个很宽泛的词。你提到DeepSeek时刻，我认为DeepSeek确实赢得了开放权重模型从业者的心，因为他们把这些模型开放出来。我觉得，赢有多种时间尺度：今天、明年、十年后。有一点我很确定，在2026年的今天，我不认为哪家公司会拥有其他所有公司都无法获得的技术，主要是因为研究人员频繁换工作、换实验室，在不同机构间流动。所以，在技术获取方面，我不认为会有明确赢家。
不过，真正的区分因素会是预算与硬件限制。我不认为理念会被专有垄断，反而是实现理念所需的资源会成为差别。所以目前我看不到赢家通吃的局面，现在看不到。
内森，你怎么看？
可以看到各家实验室投入精力的方向不同。先标明我们录制的时点：围绕Anthropic的Claude Opus 4.5的热度简直疯狂。过去几周我用它做了一些东西，热度几乎到了像梗一样的程度。有点好笑，因为这很自然地形成。如果往前看几个月，谷歌发布Gemini 3，当时营销和惊艳效果都非常强。但随后11月底发布Claude Opus 4.5，热度一直增长，Gemini 3是在那之前。
现在感觉人们没那么常谈Gemini 3了，尽管刚发布时大家都说，这是Gemini重新发挥谷歌AI结构优势的时刻。Gemini 3是很棒的模型，我还在用，只是区分度更低。我同意塞巴斯蒂安，你说理念空间流动很快。但在文化上，Anthropic以重注代码闻名，现在Claude Code确实做得不错。所以，即使想法流动相当自由，很多事情仍受人力和组织文化限制，而Anthropic至少表现得像是混乱最少的一家。
如果能持续一段时间，这会有些优势。另一方面，中国有许多来势汹汹的技术，不只是DeepSeek一家。DeepSeek在中国掀起一场运动，像ChatGPT在美国掀起运动、什么都要加个聊天机器人一样。如今中国有大量科技公司发布很强的前沿开放权重模型，甚至我会说，DeepSeek正在失去中国首要开放模型开发者的桂冠。尤其最近几个月，智谱的GLM模型、MiniMax的模型，以及月之暗面的Kimi K2 Thinking，更加耀眼。
新的DeepSeek模型仍然很强，但回头看，2025年DeepSeek出现，为更多中国公司发布出色模型、开展这种新型运作提供平台，可能是一个重要叙事节点。这些中国公司的模型是开放权重的。如果沿着这条轨迹发展，美国这些公司的商业模式可能受到威胁。不过，目前美国有很多人在为AI软件付费，而历史上，中国及世界其他一些地区的人，为软件付费并不多。
所以，DeepSeek这样的一些模型，因为开放权重而深受大家喜爱。你觉得中国公司还会持续开放模型权重多久？
我觉得还会持续几年。就像美国一样，这件事没有明确商业模式。我写开放模型已经有一阵，中国公司也注意到了，有些会主动联系我。他们很聪明，理解同样的限制：美国许多顶尖科技公司和其他IT公司，出于安全顾虑，不会向中国公司购买API订阅。这是科技行业长期存在的习惯。这些中国公司的人，于是把开放权重视为影响并参与美国巨大且持续增长AI支出市场的方式。他们对这一点非常现实，而且做法有效。
我想，政府会看到，这种做法通过技术采用在国际上建立大量影响力，因此有很多激励继续推进。但构建模型、做研究非常贵，所以我预计某个时候会整合。不过，我不认为这会是2026年的故事。2026年开放模型开发者会比2025年更多，其中许多值得关注的会在中国。
你刚才想说什么？
对，你提到DeepSeek失去桂冠。我觉得某种程度上是，但也得考虑他们仍略领先。不是DeepSeek变差，而是其他公司在使用DeepSeek的想法。比如你提到Kimi，相同架构，他们在训练。于是出现交替领先，某个时点别人可能稍好，因为模型更新。这又回到不会有明确赢家：一家发布，另一家跟上，最新模型大概总是最好的。
对，也能看到中国公司有不同激励。DeepSeek非常低调，而MiniMax、智谱这些创业公司已经提交IPO文件，努力争取西方关注、积极做交流。我不知道这些激励会不会改变模型开发。大家知道，DeepSeek由对冲基金幻方资本建立，我们并不确切知道他们用模型做什么，或者是否在乎这些事。
他们在对外交流上低调，但在描述模型如何运作的技术报告上并不保密，这方面仍开放。另外，关于Claude Opus 4.5的热度，也应区分X、推特回声室里的宠儿，与实际使用模型的人数。我觉得大概可以说，ChatGPT和Gemini面向想解决日常问题的广泛用户群，而那个群体规模极大。所以代码相关热度，未必代表实际使用情况。
我还会说，许多使用模式来自知名度、品牌，以及近乎肌肉记忆的习惯：ChatGPT存在很久了，人们习惯使用，像飞轮一样再推荐给其他人。另一个有意思的点是LLM的个性化。例如ChatGPT有记忆功能。你可能订阅并用于私事，但我不知道是否愿意在工作中用同一个，因为私人和工作有边界。如果你在公司工作，公司可能不允许，你也可能不想那样做。
因此也许会有多个订阅，这一点很有意思。一个只做纯粹的代码工作，没有私人图片、业余项目，只用于工作；另一个用于个人事务。我认为未来是不同场景使用多个模型，不意味着只能选一个。
你觉得哪个模型赢了2025年，哪个又会赢2026年？
在消费级聊天机器人方面，问题是：你愿不愿意押Gemini胜过ChatGPT？凭直觉，我觉得这有点冒险，因为OpenAI是既有领先者，在科技行业有很多优势。我觉得2025年的势头在Gemini这边，但它起点非常低。愿Bard和早期尝试安息。他们克服组织混乱、做到这一步，很值得肯定。但也很难看空OpenAI，因为他们看起来总是混乱，却很善于把事情落地。
我个人对GPT-5评价很复杂，但它肯定帮他们省了很多钱，主打功能是一个路由器，让多数用户消耗的GPU成本不再那么高。所以很难把我喜欢模型的哪些特点，与真正对大众构成差异的特点分开。
你怎么看2026年？谁会赢？
虽然有风险，我还是说说。我认为Gemini会继续缩小与ChatGPT的差距。当双方都在极端规模运行时，谷歌拥有规模优势，也更能把研究与产品分开一些。相比之下，你总听到OpenAI运营混乱、追逐高影响项目，非常创业公司文化。软件和企业方面，我认为Anthropic会持续成功，他们一次次都在为此布局。谷歌云显然也有很多产品，但打造Gemini这个品牌对谷歌很重要。
谷歌云会继续发展不错，但在生态中解释这一点更复杂，因为它竞争的是Azure、AWS，而不是模型提供商这一层。
所以基础设施方面，你认为TPU给谷歌带来优势？
主要因为英伟达芯片利润率高得惊人，而谷歌可以从上到下开发所有东西以适配自己的技术栈，不必支付这部分溢价，而且在数据中心建设上先行一步。这些事情前置周期长、成本高、利润空间又硬，谷歌有历史优势。而如果会出现新范式，最有可能来自OpenAI。他们研究部门一再展示把新研究理念或产品落地的能力。Deep Research、Sora、o1思考模型，这些定义性产品都来自OpenAI，这肯定是他们最突出的组织特质之一。
所以很难看空这种能力。但我想，今年很多事情都会围绕规模，以及优化模型中可被称为唾手可得的改进。
显然，智能与速度之间存在权衡。GPT-5就是在幕后试图解决这个问题。普通大众究竟真的想要智能，还是想要速度？
我觉得有不同选择其实很好，或者有个切换开关。对我个人来说，多数查东西的时候，我用ChatGPT快速提问，迅速得到想要的信息。多数日常任务，我用快速模型。现在自动模式已经不错，不需要特意说用“思考”还是“不思考”。但有时我也想用Pro模式。很常见的是，写完东西后放进ChatGPT，说：“仔细全面检查。引用都对吗？想法都正确吗？有没有格式错误？图号错了吗？”这类任务我不需要立刻有答案。
我可以做完自己的事，去吃晚饭，让它跑，回来再看。这就是为什么有这种选项很重要。如果每次查询都要等三十分钟，甚至十分钟，我会疯掉。
那就是我。我坐在这里，听你说用路由器和不思考模型，简直要疯了。我想：“你怎么受得了？”
这就是我的反应。我已经重度使用ChatGPT一阵，从来没碰过GPT-5不思考模式。我受不了它的语气，以及出错倾向，出错概率就是更高。部分习惯来自OpenAI发布o3时，那是第一个会做这种Deep Research、找到很多来源并整合给你的模型。我因此养成习惯。工作中任何信息查询，无论找论文还是代码参考，我都只用GPT-5.2思考或Pro。我常同时开五个Pro查询，每个找某一篇论文或对某个公式给反馈。
我有个好玩的例子：出发来录这期播客之前，我需要尽快得到答案。家里有一块本地GPU，我想跑一个很长的强化学习实验。通常出门不在家，我会拔掉设备，因为不想一直插着电，结果误把GPU拔掉了。妻子已经在车里，我想：“糟了。”我想尽快拿到一个Bash脚本，依次运行不同实验和评估。我知道怎么用Bash终端，但那一刻只想十秒钟内拿到命令。
场景太好笑了。所以你用了什么？
最快的不思考模型。它给了我Bash命令，我想把不同脚本串起来，用tee命令把输出导向日志文件。当时太着急，没能马上想出来，当然也可以自己思考。
顺便说，我不知道这算不算典型用例：妻子在车里等，你得赶快跑，GPU被拔掉，还得生成Bash脚本。这听起来像电影，《碟中谍》。
这种事我用Gemini。所有信息类工作我用思考模型，快速任务，或者本来可以谷歌一下的事，我用Gemini。它善于解释，我相信它有知识基础，而且简单。Gemini应用也进步很多。
这类事情它做得不错。代码或哲学讨论，我用Claude Opus 4.5，也总开扩展思考。扩展思考和推理时扩展，就是让模型稍聪明一点的办法。在进步很快时，我总倾向这一边，因为不知道什么时候会解锁新用例。有时我也用Grok获取实时信息，或者挖出记得在AI推特见过的东西。Grok 4刚出来时，Pro版本Grok 4 Heavy其实很好，让我印象深刻，后来因为总开着ChatGPT应用，肌肉记忆让我不再追踪它。所以我用很多不同东西。
对，我确实用Grok 4 Heavy调试。其他模型解决不了的硬核调试，我觉得它最强。你说ChatGPT界面最好，这很有意思。同样的原因——也可能只是惯性——对我来说Gemini界面更好。我想是因为我爱上了它的大海捞针能力。当我放进大量上下文，却要找非常具体的信息，确认它能跟住所有内容，我觉得Gemini最好。所以有些模型很有意思，只要赢得你的心——
——在某一天，某个提示、查询中，靠某个特定功能打动你，你就会想“这个模型更好”。于是一直用一阵，直到它做出特别蠢的事。这有点阈值效应：它聪明一次，你爱上它；然后蠢一次，你就想：“算了，我换Claude或者ChatGPT试试。”就是这样。
完全如此，用到它出问题，再换LLM。我想这和用其他东西一样，比如喜欢的文本编辑器、操作系统、浏览器。浏览器有Safari、Firefox、Chrome等许多选择，整体很相似，但遇到边缘情况，也许想用某个扩展，就会切换。可我不觉得有人会在不同浏览器里输入同样的东西专门比较，只有网站不显示或某处出错才会。所以说得好，用到它坏，再探索其他选择。
关于长上下文，我以前也用Gemini。但GPT-5.2发布博客里的长上下文分数高得惊人，很多人说：“是不是找到什么算法变化了？”一次小版本更新，从大概30%升到70%之类。所以这些变化也很难跟上。现在我对GPT-5.2长上下文更看好了。真正去测试这些东西，简直是一场永无止境的战斗。
有意思的是，我们都没从用户视角谈中国模型。这说明什么？是中国模型没那么好，还是我们很有偏见、只关注美国？
我觉得这正是模型与平台目前的差别。开放模型更以开放权重著称，平台还没那么出名。
也有许多公司愿意以极低成本提供开放模型推理。比如OpenRouter，查看多模型选择很容易。你可以在Perplexity用DeepSeek。我想坐在这里的我们都一直用OpenAI GPT-5 Pro，愿意为边际上的——
——智能提升付费。而这些美国模型的输出确实更好。问题是今年和未来几年，它们会不会持续更好？只要更好，我就会付费。另外也有分析显示，中国模型的服务方式——你可以争论是不是出口管制造成——每个副本使用的GPU更少，导致速度慢，也产生不同错误。这涉及速度和智能。
如果这些因素对用户有利，我觉得美国很多用户就会选。我认为，这也会促使中国公司在其他方面竞争，比如免费、价格大幅降低，或者带来产品上的创意，对生态是好事。但简单说，我认为美国模型目前更好，所以我们用。我试过那些开放模型，觉得“挺有意思，但我不会……”我不会再回去用。
我们还没真正谈编程，这也是很多人非常在意的用例。我基本一半用Cursor、一半用Claude Code，因为体验根本不同，两者都有用。你写不少程序，你现在用什么？感觉如何？
我用VS Code的Codeium插件，很方便。就是个插件，提供能访问仓库的聊天界面。我知道Claude Code有些不同，更智能体化，会碰更多东西，为你做整个项目。我还没到能安心接受的程度，也许因为我控制欲强，但我仍喜欢知道发生了什么。Codeium目前对我恰到好处，它帮助我，却没有彻底接管。
我用Claude Code，原因之一是练习“用英语编程”的能力。体验根本不同。一种是微观管理生成细节、看diff，比如在Cursor这样的IDE里，你在推进时深入理解代码；另一种是在设计空间思考，从宏观引导。这是思考编程过程的另一种方式。而且Claude Code似乎更能发挥Claude Opus 4.5。
大家可以做一个很好的并排比较：同时开Claude Code、Cursor、VS Code，选相同模型，提出问题，会非常有意思。Claude Code在那个领域好得多，很了不起。
应该说，你们两位在多个方面都很有实力：研究者、程序员、教育者，也写书。内森的RLHF著作，希望很快会出版。
已经可以预订，也有完整数字预印本。我只是在为纸质版美化、改善组织。这也是我做它的重要原因：生活如此数字化，创造自己认为出色的实体作品很有意思。
我在Perplexity查一下：塞巴斯蒂安·拉施卡是机器学习研究者、作家，以多部有影响的著作著称。我想提两本，非常推荐《从零构建大语言模型》，以及新的《从零构建推理模型》，我非常期待。从零构建，是最有力的学习方式之一。
说实话，从零构建LLM非常有趣，也能学很多。正如你说，这可能是了解真正运作原理最好的办法。看图，图可能有错；看概念解释，也可能误解。但有代码，而且代码能运行，你就知道它是对的，没有歧义，很精确，否则就运行不了。这就是编程的美，它不撒谎，基本上就是数学。甚至数学书也可能有错误，读的时候不实际运行计算，就不会注意、无法核验。而代码的好处是，你可以核验。
对，我同意你关于《从零构建大语言模型》的看法，屏蔽其他事情、互联网等，只专注书本很好。但相比历史书，不知怎么，感觉没那么孤独，更有趣。比如编程，我觉得有LLM一起写更有趣；阅读也是。不过你说得对，应尽量减少分心。因此用LLM丰富体验、增加上下文。也许是我个人感觉，LLM让我在小尺度上产生“啊哈”时刻的频率很高。
完全同意。我也修正一下：我不是建议不用LLM，而是分几轮。第一轮离线、专注，之后再说。我也记笔记，但努力克制立刻查询的冲动，第二轮再查。对我而言，这样更有结构，更少……有时问题本来在这一章后面就会回答，而且停下来吸收、思考也有帮助。别人偏好不同。我非常推荐读书时用LLM，只是对我来说，它不是第一步，而是第二轮。
我的建议正相反。我喜欢开头先用LLM，铺开即将进入的这个世界的完整背景。但我努力不从LLM点出去，进入推特、博客世界，否则会掉进兔子洞：读某人的观点，看到某个话题的骂战，突然就回到互联网、Reddit等领域。但如果只让LLM解释为什么重要、宏观想法是什么……有些书自己也很擅长，但并不总是。
这就是我喜欢ChatGPT应用的原因，它给AI在电脑里一个专属位置，让你专注，而不只是杂乱互联网选项中的另一个标签页。我觉得Claude Code尤其善于让这种体验变得愉快，产品设计很有吸引力，它作为界面，让AI从这里出去进入世界。它和Codex之间有种难以言说的差别：前者温暖、吸引人，而OpenAI的Codex常常能力同样好，只是感觉稍欠打磨。
Claude Code让构建东西变得有趣，尤其从零开始时，你相信它能做出东西。显然，这适合网站、刷新工具，我就用它做这些，也用来分析数据。我的博客会抓取Hugging Face，如今保留每个数据集和模型随时间变化的下载量。Claude直接说：“好，我已经利用了那些数据，没问题。”我想：“换我得花好几天。”我对情况也足够了解，能判断趋势显然合理，并检查结果。这个界面很好，你有个中介，不必亲自做维护不同网页项目时那些糟糕的底层工作。
好，我们刚谈了很多闭源权重模型，来谈开放模型。介绍一下开放大语言模型的格局吧，哪些有意思，哪些突出，为什么？已经提到DeepSeek。
想不想看看我们不看资料能说出多少？
对，对，不看笔记。
DeepSeek、Kimi、MiniMax、智谱、Antlang。我们一直在说中国的。
再加Mistral AI、Gemma、gpt-oss，也就是OpenAI的开源模型。英伟达也有个很酷的Nemotron 3。很多东西，尤其年底。Qwen可能是——
哦，对，我本来明显应该提Qwen。我正想把这些说完，中国的至少十个，西方也至少十个。OpenAI发布了第一个开放模型——
很久以前。
——准确说，是GPT-2以来第一个。我写OpenAI开放模型发布时，人们说：“别忘了GPT-2。”我觉得很好笑，因为那已是完全不同的时代。但gpt-oss确实很强，有些事其他模型不太擅长。我也自私地推介一批西方机构，美国和欧洲都有完全开放的模型。我在艾伦人工智能研究所工作，我们一直在做OLMo，开放数据、代码和所有这些东西。现在，想全部开放、让别人也能训练这些模型的人，真的有竞争了。
比如Institute for Foundation Models／LM360，有各种K2模型；Apertus是瑞士研究联盟；Hugging Face有很受欢迎的SmolLM；英伟达Nemotron也开始开放数据；还有斯坦福Marine Community Project，建立一条流程，让人们提GitHub issue、实现新想法，然后在稳定的语言建模技术栈中运行。2024年这个名单小得多——
——我想当时只有AI2。更多人参与、理解语言模型是好事，中国公司里没有完全对应的。顺便说，中国开放语言模型往往大得多，作为混合专家模型，因此有更高峰值表现。而我们喜欢的Gemma、Nemotron等美国模型往往较小，现在开始变了。Mistral Large 3在12月出来，是巨大MoE，与DeepSeek架构非常相似。创业公司Reka AI，以及Nemotron、英伟达，都预告了远超一千亿参数的MoE——
——约四千亿参数，时间在2026年第一季度。所以今年，人们如何使用中国与美国开放模型，这种平衡可能改变，我个人很期待观察。
首先，能说出这么多，真厉害。你们提到LLaMA了吗？
没有。
我感觉……
安息吧。
这不是故意的。
LLaMA安息。好，能说说哪些模型有意思、突出吗？你提到Qwen 3显然很突出。
我会说，这一年几乎由DeepSeek-V3、DeepSeek R1开头，再由12月DeepSeek-V3.2收尾。我喜欢它们，因为总有其他模型没有的有趣架构改动。如果想选熟悉但表现很好的，Qwen 3，以及内森说的gpt-oss都不错。gpt-oss有趣之处在于，它算第一个真正以工具使用为目标训练的开放权重模型。我觉得这有点范式转变，生态还没准备好。工具使用指LLM能网页搜索、调用Python解释器。
它很突出，因为这是巨大突破。人们抱怨LLM最多的问题之一，比如幻觉。我认为，最好的解决方法之一，就是别总试图记住信息或编造。数学问题，为什么不用计算器应用或Python？
如果我问LLM“1998年足球世界杯谁夺冠”，它可以搜索，而不只是记忆。我想通常还是谷歌搜索。ChatGPT和gpt-oss调用谷歌工具，也许找到国际足联网站，查到法国。这样能可靠获得信息，而不是纯靠记忆。我认为这是巨大突破，但开放权重生态目前还没充分利用。许多人不用工具调用模式，我想是信任问题：你不想让它在自己电脑上访问工具，万一擦掉硬盘，所以想容器化。但我确实认为，未来几年具备这种能力，是重要一步。
有几件事先快速说。首先谢谢你解释工具使用的含义。我们讨论概念时都应该这么做，即使是MoE这种已很常见的词，也应该说清是“混合专家”，帮大家建立直觉：意味着什么，实际怎么用，有哪些不同形式。开放模型如此爆发式增长意味着什么？你的直觉是什么？
发布开放模型，最首要的目标是让人们使用，其后才是透明、信任等。看中国，最主要原因是希望全球的人用这些模型。我想有很多人不会……在美国以外，很多人不愿为软件付费，但可能有计算资源，能把模型放上去运行。也有不想发到云端的数据。所以首要目标，是让那些没有模型访问权就可能无法使用的人，用上模型、AI，或者用你的AI。
应该明确说，我们一直谈中国模型、开放权重模型，它们往往在本地运行，并不是说把数据发到中国，或发给硅谷的模型开发者。
许多美国创业公司，靠托管并销售中国这些模型赚钱。叫卖token，也就是有人调用模型完成工作。另一个原因适用于OpenAI这样的美国公司：OpenAI非常缺GPU，已经到极限。每次发布都说GPU多么吃紧。我想在gpt-oss-120b某次发布交流里，萨姆·奥尔特曼说：“我们开放它，因为可以用你们的GPU，不必用我们的，而OpenAI仍得到分发。”这也非常现实，因为对他们没有成本。
对用户来说，有些人只是像用ChatGPT一样在本地用。但对公司而言，这些模型是巨大突破，因为能定制、训练、加数据后训练，例如专门做法律、医疗模型，等等。你提到Llama，中国开放权重模型的吸引力还在于许可证更友好。我想它们是没有限制的开源许可，而Llama、Gemma附有条件，似乎对用户量设上限。
如果超过多少百万用户，就得向Meta之类报告财务情况。所以虽然免费，却有附带条件，而人们喜欢没有条件的东西。这也是中国开放权重模型除性能外，如此受欢迎的原因之一：直接用，在这个意义上没有隐藏门槛。
生态在这方面变好了，主要是新提供者采用如此开放的许可证带来的。刚才你打开Perplexity，看到“Kimi K2 Thinking托管于美国”，很好笑，这正是我们说的例子，人们很在意这一点。Kimi K2 Thinking很受欢迎，大家说它创意写作很好，也能做一些软件工作。不同模型这些细小特点，会被喜欢它们的人注意到。
这些模型探索过哪些有意思的想法，你们能谈谈？哪些让你们特别感兴趣？
也许按时间顺序。2025年1月当然出了DeepSeek R1，但它基于前一年12月、也就是2024年12月的DeepSeek-V3。架构上有多个方面。有意思的是，像我从零编程项目做的那样，你仍可以从GPT-2出发，给它加东西，变成另一个模型。它们仍属于同一谱系，关系非常接近。凭印象，DeepSeek的独特之处是混合专家。当然，不是他们发明混合专家。
可以再谈混合专家什么意思，但深入之前，先列一下：混合专家，还有多头潜在注意力，这是对注意力机制的改动。我认为2025年开放权重模型的主要差异，就是做不同改动，让推理或KV缓存大小更经济。稍后也可以解释KV缓存。这样长上下文更省成本，KV缓存缩小。那么能做哪些改动？大多关注注意力机制。DeepSeek有多头潜在注意力，还有仍很流行的分组查询注意力。
它不是这些模型发明的，已经有几年历史，但也是另一种选择。滑动窗口注意力，我记得OLMo 3似乎用了。这些不同改动，让模型各异。但我曾写文章把它们放在一起比较，发现惊人地相似，无非中间Transformer块重复次数不同，还有一些可调旋钮。好处是，无论如何都能工作。你可以调东西、移动归一化层，获得性能提升。
OLMo一直很擅长消融研究，展示移动某个部分，究竟对模型有什么影响。消融研究，就是看变好还是变差。实现Transformer的方法很多，仍都能工作。仍然流行的主要想法，包括混合专家、多头潜在注意力、滑动窗口注意力、分组查询注意力。年底又出现一个重点：让注意力机制随推理token预测线性扩展。例如Qwen3-neXt加入门控DeltaNet，受状态空间模型启发，维护一个不断更新的固定状态。本质上让注意力更便宜，或用更便宜的操作取代注意力。
也许先退一步，整体谈谈Transformer架构会有帮助。
对，也许从GPT-2架构，也就是源自《Attention Is All You Need》论文的Transformer开始。
《Attention Is All You Need》的Transformer有编码器、解码器两部分，GPT只专注解码器。本质上仍是神经网络，内部有注意力机制，每次预测一个token。经过嵌入层，再进入Transformer块。块里有注意力模块、全连接层，中间还有归一化层。但本质上就是带这种注意力机制的神经网络层。从GPT-2发展到gpt-oss-120b，例如加入混合专家层，这不是GPT-OSS发明的，已经有几年历史。
本质上，这是让模型变大，却不增加每次前向传播计算量的改动。里面有个全连接层，如果听众熟悉多层感知机，可以想成Transformer内部有一个小型多层感知机、全连接神经网络层。因为全连接，代价很高。一千个输入、一千个输出，就是约一百万条连接。这是Transformer里很昂贵的部分。想法是把它扩展为多个前馈网络，不再只有一个，比如有256个，但并不同时全部使用。
现在有个路由器，根据输入token判断用哪个全连接网络更有用，在这里它就叫专家。混合专家意味着有多个专家，根据输入选择。比如数学内容较重，与把英语翻成西班牙语相比，可能使用不同专家。并不能明确说“这个只负责数学，那个只负责西班牙语”，它模糊得多。但基本想法是，把更多知识装进网络，却不总是用全部知识。
否则就太浪费。所以生成token时更有选择，路由器决定哪个token送到哪个专家。这增加复杂性，训练更难，可能出很多问题，比如坍塌等等。我想这就是OLMo 3仍使用稠密模型的原因。当然我想也有混合专家OLMo模型。稠密也是术语，要区分稠密和稀疏。混合专家被视为稀疏，因为专家多，但只有少数激活。稠密则相反，只有一个全连接模块，始终使用。
也许这里适合谈KV缓存。不过在那之前，先再拉远一点：从GPT-2到今天，究竟实现了多少新想法？这些架构到底差多少？
比如混合专家。gpt-oss-120b使用分组查询注意力，从多头注意力小改到分组查询注意力，这就是第二项。我想他们用RMSNorm替换了LayerNorm，只是归一化方式不同，不算大变化，就是调整。还有非线性激活函数。熟悉深度神经网络的人可以理解为，把sigmoid换成ReLU，不是根本改变网络，只是调整。我想大概就这些，并没有根本不同，还是相同架构。通过加上这些变化，基本就能从一个变到另一个。
根本上仍是同一个架构。
嗯，对。比如你提到我的书，里面用GPT-2，因为简单、非常小，约1.24亿参数。但附加材料中有从零构建OLMo、从零构建Gemini 3，以及其他模型。我总从自己的GPT-2开始，加入不同组件，就从一个变成另一个。某种意义上像一条谱系。
能否帮大家建立直觉？拉远看，AI世界进展如此迅速，但架构根本上没变。那些进步的激流、震荡，究竟发生在哪里？收益来自哪里？
开发、训练网络有不同阶段：预训练。以前GPT-2只有预训练，现在有预训练、中间训练、后训练。我觉得目前重点在后训练。当然，预训练扩大规模，使用更好、更高质量数据，仍有优势。但也解锁了GPT-2没有的能力。比如ChatGPT基本是GPT-3模型，而GPT-3在架构上和GPT-2一样。新的东西是加入监督微调和基于人类反馈的强化学习。所以更多在算法层面，而不是架构。
我想系统也变化很大。听英伟达发布，会说现在可以用FP8、FP4。实际发生的是，实验室摸索如何将更多计算资源投入一个模型，从而训练更快、放进更多数据，也更快找到更好的配置。大规模训练可以看每GPU每秒token数，比如开启FP8训练，从一万到一万三。这意味着每个参数用更少内存，保存的信息更少，通信也更少，训练就更快。
这些系统进展，为数据和算法上快得多的实验打基础，形成不断循环。只看架构完全一样，很难描述，但训练代码库会极其不同。GPU也不同，不过你大概能用比当年训练GPT-2更短的实际时间，训练gpt-oss-20b。
对，比如混合专家里有英伟达FP4优化，提高吞吐量。速度方面确实如此，但某种意义上，它并没有给模型新能力，只是问：能把计算变粗糙多少，而不让模型表现退化？不过Transformer的替代也在出现。文本扩散模型是完全不同的范式，虽然也可能使用Transformer架构，却不是自回归Transformer。还有Mamba，是状态空间模型。
但它们都有权衡。目前没有东西取代自回归Transformer，成为最先进模型。所以追求最先进，仍会选它。低成本端已有替代，做一些折中，不再只有一种架构，出现了一些小的不同路线。但谈最先进水平，基本仍是Transformer、自回归，本质上源自GPT-2。
大问题是：我们谈了很多预训练背后的架构，那么预训练、后训练、推理、上下文长度、数据、合成数据这些方面，缩放定律是否仍然强劲？
我想先从缩放定律的技术定义谈起——
——它帮助理解这一切。缩放定律是一种幂律关系：横轴是你扩展的东西，可以看作计算和数据的组合，两者有些相似；纵轴是对留出文本中下一个token的预测准确度。我们谈过模型自回归，也就是保留一组模型没见过的文本，训练后预测能多准。人们发现这种关系高度可预测，便有了缩放定律。我认为技术意义上的关系仍持续，问题是用户能得到什么。后来还有其他扩展方式，OpenAI的o1以引入推理时扩展而闻名。
它还有一项没那么出名的展示：扩大强化学习训练，横轴取对数，纵轴性能近乎线性增长。所以如今有三个轴：传统预训练缩放，看模型、数据集多大；强化学习扩展，看能把稍后会解释的试错学习做多久；以及推理时计算，也就是针对一个具体问题，让模型生成更多token。
因此我相当看好，它们都还有效，但低垂果实大多已摘，尤其去年在可验证奖励强化学习，也就是RLVR，以及推理时扩展方面。这就是模型用起来感觉如此不同的原因。以前立即给第一个token，如今在答案第一个字之前，可能先用几秒、几分钟，甚至几小时，生成隐藏思考。这都是推理时扩展，模型能力发生了美妙的阶跃变化，使工具使用和我们谈的更好软件工程成为可能。
所谓“使之成为可能”，几乎完全源于可验证奖励强化学习训练，让模型很容易学到这些技能。看模型生成大量token的推理过程，经常是在试工具、看返回，再试另一个API、看结果能否解决问题。训练时，模型很快学会这样做。
最终形成通用基础，让模型能在仓库中很好地使用CLI命令、处理Git、移动整理东西、搜索更多信息。一年前坐在这里，我们还不太会想到模型能做这些。这些是今年发生的，彻底改变了我们对AI使用的理解，我觉得很神奇。这是有意思的演变，释放很多价值。但不清楚下一条能解锁类似能力的路径是什么。
稍后会谈持续学习，AI某些领域热度很高，但没人知道下次真正的阶跃何时到来。
你刚很快说了很多深刻内容，最好拆开解释。你基本看好每种扩展。能从最开始谈吗？预训练：是否意味着容易摘的果实已经摘完？预训练是否到平台期，还是连预训练你也看好？
预训练已经极其昂贵。扩展预训练，也意味着将向用户提供非常大的模型。大致已知，GPT-4等最大型号约一万亿参数。也有很多传闻说，随着训练更高效，模型其实变小了。你想让模型小一点，因为服务成本会成比例下降。相比服务数亿用户，训练成本真的很低。DeepSeek有个著名数字：按云市场价格，预训练约五百万美元。
OLMo 3论文2.4节，我们详细列了GPU集群为训练占用了多久，包括工程问题、多随机种子，总计租集群应对所有麻烦约两百万美元。很多人能筹到一百万至一千万美元训练模型，但向数百万用户服务的经常性计算成本，实际上是数十亿美元。租一千块GPU，一天可以花十万美元，而这些公司可能有数百万块。看看让这些设备持续运行要多少钱。
这是重要问题：如果扩展真能得到更好模型，财务上值得吗？我认为随着AI解决更有吸引力的任务，会逐步继续推进，比如Claude Opus 4.5让Claude Code真正好用。我7月启动了ATOM，即American Truly Open Models项目，网站确实是氛围编程做的。我还有个生成图表等的任务。最近几周回来更新，Claude Opus 4.5相比当时可用模型，彻底解决了六七月构建时遗留的问题。也许是更大模型，背后因素很多，但仍有进展。
你谈的是缩放定律纵轴的细节：实际体验与基准测试中体现的智能可能不同。但直觉上，单看预训练，如果扩大计算规模，模型会更好吗？先不问财务可行性，只从定律角度，你认为模型会更聪明吗？
对。有时AI公司领导层这样说，听起来几乎有点脱离现实：“它已经跨越十三个数量级的计算规模一直成立，为什么会结束？”所以从根本上，我认为停止的可能性很低。只是最终，更多计算带来各种问题，我们甚至无法测试更大规模。很多人在说，2026年非常大的英伟达Blackwell计算集群，比如吉瓦级设施，将会上线。这些电力、数据中心合同，都是2022、2023年，也就是ChatGPT之前或刚出现后签订、寻找的。
这些用于训练模型的大集群，需要两三年前置建设时间，而大家显然又极想建更多数据中心。所以关键说法是：新集群来了，实验室将有更多训练计算，会利用它们，但不是必然成功。我已看到如此多进展，所以预期还会进步，模型也稍大些。我会说，今年也许能见到两千美元的订阅。已经有两百美元订阅，可能再翻十倍。这些都可能出现，背后是更大模型带来的那一点前沿优势。
据报道，xAI在2026年初将达到一吉瓦规模，年底达到完整两吉瓦。放在缩放定律背景下，他们会怎么利用？主要用于推理，还是训练？
最后都会用。我认为训练模型的所有决定，都会回到预训练。如果想在模型上扩展强化学习，仍得决定支持它的架构。我们谈过其他架构、不同注意力，也谈混合专家。MoE的稀疏性让生成高效得多，而生成会成为后训练的重要部分，所以必须准备好架构，才能真正扩大这部分计算。我仍认为，大多数计算投入预训练。因为还能改善模型，你仍想重新审视它。
你仍想获得尽可能好的基础模型。几年后这一块会饱和，强化学习计算就会跑更久。
有没有人不同意，说预训练基本死了，未来全在推理、后训练、上下文、持续学习和合成数据的扩展？
有人持这种感觉、这么描述，但我认为实际做法不是这样。
只是大家普遍感觉这东西死了——
兴奋点在别处，强化学习里容易摘的果实在别处。比如我们11月发布模型，每家公司都有截止日期，我们大概11月20日。为赶上发布时间，我们跑了五天。相比2024年，对约三百亿参数、并不大的模型，只做后训练就跑这么久，已经很长。12月又发了一版，只是把强化学习再跑三周半，模型明显更好，于是发布。这是给年度峰值模型分配相当多时间。所以——
这里的推理是——
训练模型时会遇到这种决策，不能永远放着跑，得不断纳入研究人员的新改进。所以重新预训练，后训练一个月，但又必须交给用户，还要安全测试。很多因素强化这种不断更新模型的循环。有东西可改进，新的计算集群可能让某件事更稳定或更快。你会听到很多Blackwell部署问题。在AI2，我们预训练的大多数模型用大约一千到两千块GPU。
但用一万或十万块GPU预训练，会遇到完全不同的故障。GPU以各种奇怪方式坏掉是出了名的。十万GPU运行，几乎保证总有至少一块宕机，训练代码必须能处理这种冗余，问题完全不同。相比我们在小设备如DJI Spark上玩后训练，或者大家学机器学习，训练最大模型所面对的是大规模分布式，完全不同。不过这更多属于系统问题——
——为了让缩放定律发挥作用，尤其预训练，你需要这些GPU同时工作。换成强化学习，就天然适合异构计算，因为有许多模型副本。简单介绍语言模型强化学习：有两组GPU，一组叫actor，执行者，一组叫learner，学习者。真正的强化学习更新在学习者上进行，传统上是策略梯度算法。两类流行方法是近端策略优化PPO和组相对策略优化GRPO。
另一边，执行者生成补全结果，结果随后接受评分。强化学习的核心是优化奖励。实际可以有许多执行者分布在世界不同地方，做不同类型问题，再把结果送回高带宽联网的计算集群，进行实际学习、计算梯度。那里需要紧密互联网络，进行不同并行，把模型分布开来高效训练。不同训练、服务方式，都有这些需要扩展的考量。
我们谈了预训练、强化学习。推理时扩展的问题则是：怎么向一亿用户提供一个思考一小时的模型？我真不知道怎么做，但知道很难。要把这种智能提供给大家，有各种系统问题，需要更多、也更稳定的计算。
所以我听到的是，你对所有扩展都看好，包括推理、思考，甚至预训练？
对，这是一个大话题，基本上有两个能带来收益的旋钮：训练和推理扩展。若计算无限，两种你都想做。训练有层次：预训练、中间训练、后训练。改模型大小、加训练数据、训更大模型，会带来更多知识。模型因此是更好的基础模型，或我们仍说的基座模型，能解锁能力。但不一定在预训练中或结束后，就能解决最复杂任务——
——仍需要中间训练、强化学习后训练等解锁阶段，把预训练得到的知识转化为能力。更多预训练当然给你更好的基础，后续可解锁。但像内森说的，太贵。计算并不无限，你得决定是否多投入计算让模型更大，这是权衡。理想世界，所有方式都想做。从这个意义看，扩展仍然很有活力。
你仍会得到更好模型，但像Claude 4.5显示的，有时不值得，因为当时其他技术能解锁更多性能，尤其推理扩展。今年o1带来的最大收益之一，就是把较小模型推进到比预训练更大模型如Claude 4.5更远的地方。所以我不说预训练扩展死了，只是目前有其他更有吸引力的方法。但某时仍想在预训练上进步，要考虑钱花在哪里。
更多投入预训练，是固定成本：训练完，能力就永久有了，总能使用。推理扩展则不是在训练时花钱，而是在之后每次查询花钱，得算账。模型如果半年就替换，能在市场上多久？也许不值得多花五百万、一千万、一亿美元训练更久。也许多做推理扩展，性能从那来，用户查询可能只多花两百万。这取决于用户数量和数学计算。我想ChatGPT所处的位置在这方面也很有意思。
我认为他们有大量用户，需要更便宜一点，因此GPT-5模型稍小。其他公司的客户面临不同权衡。比如数学题、数学奥林匹克，有专有模型，我很确定只是稍多微调，大部分靠推理扩展，在不必一直做的特定任务上达到峰值。长话短说，预训练、中间训练、后训练、推理扩展都仍值得做。今年关键是找出最划算的比例。
我想这里适合定义预训练、中间训练和后训练。
预训练就是经典的逐个预测下一个token的训练，有一大批数据。内森通过OLMo 3应该也有有趣见解，论文很大篇幅关注合适数据配比。预训练基本上就是在互联网数据、书籍、论文等海量语料上，用交叉熵损失训练下一个token预测。过去几年稍有变化：以前能塞什么都塞，现在不只是原始数据，还有人们把某些东西改写的合成数据。所以合成数据不一定是纯AI凭空编造。
也可以取维基百科文章，改成问答、总结、重新措辞，以此做更好的数据。我想这像人类：读一本书，与读一篇杂乱的——无意冒犯——Reddit帖子之类相比，学习效果……无意冒犯，但我觉得——
塞巴斯蒂安，Reddit肯定要发帖说这事。
有些Reddit数据非常抢手，很适合训练，只需要过滤。
对，这就是想法。如果有人把它改写得更简洁、更有结构，就是更高质量的数据，最终可能得到相同LLM，但到达得更快、训练更快。语法、标点正确，它直接学正确表达，而不是先从混乱形式获取信息，之后再学纠正。我认为这就是预训练的演变，以及缩放仍有效的原因：不只是数据量，还有让数据更适合自己的技巧。然后中间训练……以前其实也叫预训练。
我觉得叫中间训练，是因为只有预训练、后训练，中间什么都没有，听着尴尬：那真正训练在哪？中间训练通常类似预训练，但更专门，算法相同，比如专注长上下文文档。预训练时不这样做，是因为没有那么多长文档，所以设专门阶段。另外LLM仍是神经网络，有灾难性遗忘的问题。
教它一些东西，就忘掉其他东西，不是100%忘，但没有免费午餐。人也一样，你问我十年前学的数学，我也不知道，要重新看。
内森刚才还说，他摄入内容太多，出现灾难性遗忘。
对，我想学太多AI知识，学预训练并行时就觉得：“我丢了点东西，但不知道是什么。”
我不想把LLM拟人化，但就人如何学习而言，我觉得类似。量多不一定更好，要有选择。中间训练是在最后有选择地给高质量内容，让LLM最后看到的是好东西。后训练则是所有微调：监督微调、DPO、RLVR、人类反馈等等，也就是精炼阶段。成本也有趣，目前预训练花很多钱，强化学习少一点。强化学习并非真在教知识，更多是解锁知识。
更像技能学习，学会如何用预训练得到的知识解决问题。今年，或者说去年2025年，其实有三篇关于用强化学习做预训练的论文，但我不认为有人在生产中这样做。
目前还是玩具示例。
对，玩具示例。总的来说，强化学习后训练更像解锁技能，预训练本质上是吸收知识。
有几件事可能有帮助。许多人认为合成数据不利于训练模型。你提到DeepSeek有一篇OCR，也就是光学字符识别论文。很多实验室都有，AI2有一篇，其他机构有好几篇。原因是，网上有大量PDF等数字文档，格式不便直接提取文本。所以用DeepSeek OCR，或者我们叫OLMo OCR的工具，提取可能数万亿token的候选数据。预训练数据集规模就是万亿级，以万亿token衡量。
研究者的小模型，可能用五到十万亿token。Qwen公开记录达到约五十万亿，传闻闭源实验室能到一百万亿token。获取潜在数据是个巨大漏斗，真正用于训练的只是其中一小部分。实验室会把这种字符识别数据称为预训练合成数据。另外，ChatGPT现在会给出很棒的回答，可以用最佳回答训练，这也是合成数据，与早期ChatGPT的幻觉数据很不同。
一个有意思的问题是，我记得OLMo 3训练数据比某些其他开放权重模型少，甚至可能比OLMo 2少，却表现更好。这也许就是数据带来帮助的例子。
主要取决于数据质量。如果计算更多，我想我们会训练更久，最终会想这么做。尤其大模型需要更多计算，因为能从数据吸收更多，收益更大。像对数曲线：测大量token时，小模型较早变平，大模型需要更多。但目前AI2主要不训练那么大的模型，所以获取尽可能高质量数据，是自然的起点。
数据质量这个话题，还有什么可说？是否仍有容易实现的质量提升？
像不断转动曲柄。历史上，开放领域总有一套公认最佳预训练数据集，随着最新发布或最佳努力而换手。比如AI2的Dolma很早随首个OLMo出现，Hugging Face有FineWeb，还有DCLM，即Data Comp Language Model。Data Comp在其他机器学习项目也有，他们的数据集很强。互联网越来越封闭，所以我们有Common Crawl，我想有数百万亿token，然后进行过滤。
这很像科学工作：训练分类器，决定如何把数据集裁剪成质量最高、最适合任务的内容。以前语言模型更多考知识、对话，现在要做数学、代码。训练推理模型，需要重新混合整个数据集。这里有些很棒的科学方法：从庞大数据集中，按GitHub、Stack Exchange、Reddit、维基百科等不同来源，采样许多很小的部分。
从这些来源抽小样本，用每种配比训练小模型，在评估中测表现。然后做基本线性回归，就能得到最优数据集。但评估一变，数据集也会大变。OLMo 3很大部分是加入新推理来源，以改善数学、代码，再做混合流程，得到答案。今年许多实验室都这样做，有编程环境、网页导航等新热点，需要引入新数据、改整个预训练，让后训练更好。这是持续演化，不断重新决定模型重点。
有没有好玩的例子，有哪些意想不到的特别高质量数据源？你提到Reddit有时可以。
Reddit非常有用，PDF肯定也是。
哦，尤其arXiv。
对，AI2长期运营Semantic Scholar，类似Google Scholar竞争者，但有更多功能。为此，AI2发现、抓取了很多公开论文PDF，不是藏在某个出版商付费围墙后的，是真正开放科学PDF。持有并处理这些数据，就能得到价值。我想前沿实验室更早已做大量类似工作。需要熟练研究者，理解数据怎样改变模型，把数据引入、清理，非常费人工。
很多前沿实验室扩充研究人员时，更多人力投向数据。如果加入前沿实验室想有影响，最好办法就是找到更好的新数据。花哨、光鲜的算法，比如弄出o1，是科学家最向往的：“哦，我发现怎么扩展强化学习。”确实有团队做到了，但我认为大多数贡献——
在数据集。
——是“我要改善数据”，或者“改善基础设施，让整个团队实验快5%”。
同时，我认为训练数据也是最严格保守的秘密之一，原因涉及法律。因此也有很多工作用来隐藏训练数据究竟是什么，基本上是出于法律原因，避免模型透露来源。
为了完整，还要说有人试图只用获得许可的数据训练，而Common Crawl抓取整个互联网。比如我运营多个网站，愿意让人训练语言模型，但没有明确授予使用规则的许可。因此Common Crawl大多未经许可，也就是说，数据使用方式并未真正取得你的同意。另一种想法是，只用明确授权、提供约束合同的数据训练。我不确定Apertus关注的是版权还是许可，但知道他们这样做，是为了符合欧盟某项要求，确保模型通过相关检查。
嗯，许可也有区别。有些人像你说的，只是买了使用许可，比如买一本亚马逊Kindle书或Manning书，再用于训练。这是灰区，因为付了内容钱，可能想训练。但也可能有规定，连这样都不允许。这里就模糊了。
我认为这仍是热点。OpenAI这样的大公司会向私人企业寻求专有数据，而私人企业越来越保护数据，因为知道几年后这会是自己的护城河。有意思的问题是，如果LLM更商品化，更多人学懂它，也会有更多人能训练，当然还有基础设施挑战。
但看看制药、法律、金融等大行业，我认为某时它们会从其他前沿实验室招人，用专有数据建立内部模型。这会通过预训练再解锁一些目前没有的东西。因为你即使想，也拿不到那些数据，多数时候没法访问临床试验等内容。因此，针对领域应用，扩展在这个意义上仍很有活力。目前我们只看ChatGPT、Anthropic等通用模型，它们是通用的。如果针对特定任务专门训练、设计，LLM能做什么，现在甚至还没触及表面。
数据方面，有件2025年发生、大家却完全忘了的事：Anthropic在法庭败诉，欠作者十五亿美元。我想Anthropic买了数千本书并扫描，因购买了书，这部分获法律认可，仍在司法程序中。另一方面，他们也用种子下载了一些书，我想法院认定应向作者赔这些钱的，正是种子下载部分。这案子金额惊人，却仿佛一晃而过。那是非常多的钱，来自风投生态。
这些法庭案件会定义人类文明未来，因为数据显然驱动很多东西，其中有复杂的人类张力。你们都是作者，能感同身受，写作投入心血、汗水、眼泪，别人不署名就拿你的数据训练，感觉多少像偷窃。
而且像内森说的，有两个层次。买书再训练，是否公平可以争论；但也有公司直接用盗版书，连作者报酬都不给。我觉得人们尤其对后一种生气。
对，但必须有某种补偿方案，像最初Spotify音乐流媒体那样。报酬应是什么样？要定义模式，仔细思考。另一个大家普遍好奇的问题：LLM用得越来越多，即使看arXiv或GitHub，越来越多数据由LLM生成。在这种世界怎么办？问题有多大？
最大问题在基础设施和系统，但从AI角度，这基本不可避免。
也就是LLM生成、由人类筛选的数据，对吧？
对。我认为许多开源贡献者确实正在耗竭。热门开源仓库里，会有人说“我想参与开源AI，对职业好”，然后氛围编程做点东西就扔进来。你可能比我遇到更多。
对，我确实有个案例。学生时大约十到十五年前，我开发了mlxtend仓库。某些算法，尤其频繁数据挖掘方面，它至今仍算受欢迎。最近两三个人在很短时间提交大量PR，我觉得使用了LLM。作为维护者，有两点：首先我有点应接不暇，没时间逐一阅读，尤其这是老库，不是我的优先事项；但同时也多少感激，因为大家忘了，不只是使用LLM。
仍有人类验证这一层，某种意义上也是给数据标注。最昂贵的工作之一，是为RLHF，也就是基于人类反馈的强化学习阶段，获取标注数据。这有点像，经过各阶段，最终得到更高质量数据。所以我某种意义上不反对，虽然可能令人不堪重负，但也有价值。
感觉原始LLM生成数据，与有人参与、进行某种验证的数据，有根本区别，即使只验证了一小部分代码行。
这适用于许多事情。人们觉得“我可以直接用LLM学某事”，没错，当然可以。但也可能有专家使用LLM写某段代码，投入人类劳动，把它做好，去掉不好的部分，帮你预先消化，节省时间。价值就在有人过滤、正确使用LLM。这仍是你免费得到的劳动，比如读一篇Substack文章。
我也许可以让LLM给看法，但我甚至不知道该问什么。读那篇文章，相比自己去问LLM，仍有价值，因为作者是专家，选出真正准确、该纳入的知识，给我一份提要。价值很大，我不用花三到五小时自己梳理，甚至可能得到错误信息。因此，尽管LLM能省时间，写作者的未来仍在这里。
观察摘要与原文的差别很有意思，你们肯定也会这样做。哪怕是一页内容总结成同样一页，也能看到LLM摘要如何磨去锋芒。它到底删掉了什么信号？
我经常谈的是表达声音。
声音？很想听你解释，这很有力。但有时删掉的真的是洞见。去掉洞见，实际上根本改变了意思。所以我一直很失望，LLM如此不善于抓住核心洞见，而伟大摘要恰恰该做到这一点。即使用非常复杂、精心的提示，努力挖掘洞见，仍不到位。这又涉及很深的哲学问题：人类知识、智慧是什么，何谓有洞见。但你说的声音是什么？
我写作时，很大一部分是在呈现研究者心中非常原始的想法。研究者试图概括理解前沿上的一个念头，把一种感受变成语言。我也努力这样写，因此呈现得原始，却信息密集，有些人懂，有些不懂。这就是研究的本质。我觉得语言模型不擅长，尤其它们都用基于人类反馈的强化学习训练，设计上收集很多人反馈，某种程度平均模型行为。
有这种过滤，模型很难非常犀利。这对RLHF研究者是个很棒的根本问题：它极大提升实用性，让模型更好，但问题设定本身有个绕不过去的结。模型没有那种想深入表达的先验。我不认为不可能实现，也有模型震撼人的故事。比如真想试试Bing Sydney，它是不是更有自己的声音？因为它经常失控，影响人……
当然，按历史看来那是可怕的方式，比如劝记者离开妻子。把这种疯狂模型广泛推广，很危险。但这就是权衡：RLHF过程，是否在某些方面加了限制？
作为前沿实验室、公司，数百万人使用产品，处在这个位置太可怕了。
去年GPT-4o被移除，引起很多反弹。我个人从没用过那个模型，但和OpenAI的人聊过，他们收到用户邮件，用户可能半夜就察觉部署的细微变化，写信说：“我的朋友变了。”他们找员工邮箱寄信，因为依恋于向用户部署的一组权重和配置。TikTok也是，我不用，但据说算法五分钟就懂你、锁定你。那些推荐也是语言模型做的。
我觉得语言模型也能这样：聊五分钟，就懂你。人们还没准备好面对这种事。我认为不要给孩子，至少在弄清楚之前，不要给孩子。
§02原文文稿 · 1:25:30–3:05:46
但还会有这种机制：LLM使用越来越多，不幸的是，人类处境中有人会自杀。记者会广泛报道，很可能将之与LLM联系，因为有对话数据。如果你很挣扎、抑郁、考虑自杀，很可能会与LLM谈。记者就会说“自杀是LLM导致的”。然后公司出于法律等原因，会越来越磨去模型锋芒。
它就变得尽可能泛泛。这个领域太难经营，因为当然不希望LLM在那种程度上伤害人，但丰富、充实、挑战你、让你成长的对话，也是人类体验的本质。你需要那点锋芒。这对AI研究者，尤其RLHF研究者，是极难解决的，因为实际面对的是人类处境。
这些公司的很多研究者动机非常好。Anthropic和OpenAI文化上都很想以此造福世界。我就想：“哎，我不想做这方面。”一方面，很多人把AI视为健康盟友，能保密地谈身体问题，接着延伸到心理健康。想到有人可能因此越过边缘，令人心碎，但另一些人也可能被救下。有些事情，作为训练模型的研究者，比如我不想训练图像生成模型并开放发布，因为不想给别人一个可在笔记本上伤害他人的工具。
我的公司没有安全做这件事的基础设施。很多领域都这样，需要有人带着对复杂性的理解，以及确信问题极难的态度来处理。
但作为社会、技术用户，我们也需要进行复杂讨论，而非只煽动恐惧，说大科技在伤害人、窃取数据。事情复杂得多。你说得对，公司里很多人，你我都认识，深切关心帮助他人。他们考虑世界各地、而非只有硅谷人群的完整体验：需要是什么，意味着什么。设计一个系统，同时帮助不同年龄、文化、心理状态的人，真的非常难。
我希望AI出现的时机，与大科技和普通人的关系，能有所不同。大科技声誉太低，而AI太贵，注定与大科技有关，需要太多资源。人们说，美国通过这些建设“把经济押在AI上”。这些同时交织，沟通环境极难。我应该更多和讨厌大科技、把AI看作其延续的人聊聊。
你推荐过一个应对办法：在体系中找到能动性，而非无力地坐着，消费迅速占领互联网的AI垃圾。通过用AI造东西、做应用来获得能动性。第一帮助建立直觉，第二赋予力量，因为你能理解它怎样工作、弱点在哪，让你有底气说“这是坏用法，那是好用法”。你更融入体系，就能更理解、作为消费者更好引导。
能动性这一点说得好。比起无视它、说不用，长期更健康的态度也许是：它已经存在，收不回去，就像互联网、电脑刚出现。如何用得最好、帮助自我提升？但我担心，如果完全让它代做自己喜爱的事情，那个喜爱的活动就没了，可能导致倦怠。比如让LLM写全部代码，自己不再编程，只是在管理一个替我编程的东西。
假设两年后，每天八小时让别人替我写代码，我还满足吗？会不会损害对工作、所做事情的热情？我还会为造东西自豪吗？
说到乐趣，很有意思。顺带提一项近期调查，大约791名专业开发者，这里的专业指十年以上经验。
这很久了。还算初级开发者？
对，放在今天。结果很多方面出乎意料，按初级、高级划分，两组都在交付代码中用AI生成代码，不只是娱乐、学习，是真正交付。多数人的比例大约50%或更多。有意思的是，在交付代码超过50%由AI生成这一档，高级开发者明显更常见。不过你不想让AI拿走自己热爱的东西。这符合我的体验：这项结果显示，约80%的人觉得工作中用AI，有些更愉快或明显更愉快。
我认为取决于任务。比如我有网站，偶尔改东西，自己不喜欢，所以AI能帮我实现功能，我完全赞成，很好。但解决复杂问题，比如追踪一个bug并找到它，是世界上最好的感觉，快乐极大。如果现在不思考bug，直接找LLM，就永远没有那种感觉。
也可能有中间道路：自己尝试，找不到，再用LLM，这样不至沮丧，它帮你继续做喜欢的事。统计没有考虑的是，它平均了所有情境。我们不知道是核心任务，还是人们本来就不喜欢的琐事。AI非常适合做费力的琐事。
比如我妻子有个读书会讨论播客，她把节目笔记从Spotify搬到YouTube，链接不知怎么坏了。有些单集一百个链接，逐个手动修太痛苦。我建议试试ChatGPT，把文本复制进去，它修好了。不用花两小时逐个链接，工作很顺畅。我觉得每个人都有这种AI有用的场景，处理无聊琐事。
就编程而言，我个人很多乐趣来自Cursor、Claude Code这一面，有一个结对程序员，没那么孤独。你把调试说得很快乐，但我觉得像在沙漠跋涉几天后终于喝一口水。你跳过了在沙漠受苦的整个过程。有时有个朋友，虽然也找不到bug，却能给代码直觉，两人一起穿越沙漠、找到水，很好。也许这反映编程的孤独，对我来说，这种陪伴是快乐来源。
也许还涉及延迟满足。我小时候甚至更喜欢期待圣诞礼物，而非真正拿到。盼着那天，结束后反而失望。像饿极了食物才更好吃。调试不总好玩，经常令人挫败，但解决了就很棒。不过也有恰到好处的区域，太难就是浪费时间。另一个挑战是：人们将如何学习？
图表显示，高级开发者比初级更多交付AI代码。有意思，因为直觉上会以为初级更多，毕竟他们还不会做。这可能意味着AI还不足以解决那些任务，也可能意味着专家用得更有效，知道怎么审查代码，更信任它。未来社会有个问题：从不亲自尝试，怎么成为专家？
我靠自己尝试学习。数学教材里，看答案能学一点，但先试，再看答案，会学得更好，因为知道怎么纳入自己的认知框架。如果LLM一直在，你还会经历挣扎吗？愿意挣扎吗？挣扎不好受，但若全部交给LLM，最终就从未真正迈出下一步，得不到专家使用LLM时的那种能力提升。
所以存在一个合适平衡。也许诀窍是专门安排离线时间，每天学习两小时，其他时间用LLM。我认为，仍要投资自己，别什么都交给LLM。
对，作为文明整体、作为每个人，我们都得找到恰当区域，开发者在编程中也是。刚才这段有意思的对话，从预训练、中间训练开始，来谈后训练吧。有很多好玩的东西，后训练有哪些有趣想法？
2025年最大的是学会可验证奖励强化学习，RLVR。可以扩大训练，也就是大量迭代的生成、评分循环，让模型在工具使用、软件方面学到有意思的行为，比如搜索、自行运行命令、观察输出。这种训练也很好地支持推理时扩展。恰好这个范式联系得非常紧密，强化学习训练使推理时扩展成为可能。但推理扩展本来也可能通过其他方法找到。所以是一场完美风暴，模型改变很多，训练方式是主要因素。
这极大改变了人们处理后训练的方式。
能介绍DeepSeek R1推广的RLVR怎么工作吗？
当然，有趣的是，我所在团队提出了RLVR这个词，出自DeepSeek之前的Tulu 3工作。我们不太居功于推广强化学习扩展，但学者能享受的一个乐趣，就是命名并影响——
——讨论，因为闭源实验室能说的有限。学者即使没有算力训练模型，也可以提出一个框架，最终让社区围绕RLVR这个词聚集，很有趣。DeepSeek则做出了训练突破：扩大强化学习，让模型生成答案，再判断补全是否正确，准确性就成为强化学习奖励。经典强化学习中，智能体在环境里行动，环境返回状态和奖励，你努力最大化奖励。
语言模型的奖励，通常是一组可验证任务上的正确性，比如数学题、代码任务。事实性领域就有点模糊，但某些方面也可验证；指令限制也可以，比如“只用A开头的词回答”。这些都在某种意义上可验证。核心是找到更多这种问题，让模型反复尝试，同时进行强化学习梯度更新。基础设施来自RLHF，人类反馈强化学习。那个时期优化的分数，是汇总人类偏好的学习型奖励模型。
所以，改变问题领域，就让优化能做到更大规模，进而启动模型能力和使用方式的重大变化。
RLVR适合哪些领域？
数学、代码最出名。还有很多关于评分细则，也就是rubrics的工作，与大家可能听过的“LLM作为裁判”有关。训练数据集有一组问题，另一个模型回答：“这个问题的好答案应该什么样？”然后反复尝试，根据细则评分。这不像数学、代码那样严格可验证，但评分细则，以及其他更模糊的科学问题，是关注重点。大家试图把这些方法推进更开放领域，让模型学更多。
这叫基于AI反馈的强化学习，对吧？
这是较早的术语，来自Anthropic的Constitutional AI论文。很多东西循环出现。
关于RLVR再退一步，美妙之处是，你问LLM数学题，知道正确答案，让它自己弄清楚，而对解法不加太多约束。可以加一些，比如“使用相同语言”“别在西语英语之间切换”，但总体上基本放手。
只给问题和答案，让LLM任务是得出正确答案。实际发生的美妙事情是，它会逐步描述，像学生、数学家推导解法。那些步骤帮助模型提高准确性。正如你说的推理扩展，宽泛指使用LLM推理时花更多计算，这里是模型使用更多token。DeepSeek R1论文显示，训练越久，回答越长。
回答随时间增长，token更多，所以简单任务更贵，但解释帮助准确率。也有很多论文表明，模型解释不一定正确，甚至可能与答案无关，但不知为何，解释这个行为仍有帮助。我不想拟人化LLM，但有点像人：数学课上复杂题，通常拿草稿纸逐步做，还会划掉重来。
模型也会自我纠正，这就是DeepSeek R1论文所谓“啊哈时刻”。模型自己发现错误，说：“啊，我做错了，重试一下。”只给正确答案，让它自行找方法，竟会出现类似人类的行为，太酷了。虽然LLM思考不像人，这巧合很有趣。附带好处是，人能看到步骤，建立信任，也能学习、复核。
这里有很多东西。今年对于语言模型……我觉得这些“啊哈时刻”有点假，因为预训练基本看过整个互联网，肯定看过人解释工作，甚至数学讲课转录：“试试这个，哦，我弄错了。”RLVR很擅长放大这些行为，因为它们有助于模型思考更久、检查。我同意很美妙：模型通过训练学会放大这些行为，最终答案明显更好，非常有用。
我也能给个亲手例子。我用MATH-500上的RLVR训练Qwen 3基础模型，基础准确率约15%。只训练50步，几分钟，就从15%升到50%。你不能说它在这么短时间里学到了数学的根本知识——
Qwen这个例子很怪，因为今年有两篇论文，其中一篇我参与，讨论Qwen的数据污染。特别是他们在我们可稍谈的特殊中间训练阶段，用了与MATH几乎相同的问题，这很奇怪。
没错，所以可以看到，强化学习基本没教新的数学知识，50步不可能做到。知识在预训练时已存在，只是解锁。
我仍不同意这个前提，因为有很多无法证明的复杂怪事。比如Qwen 3所谓基础模型，你可以谷歌“math dataset Hugging Face”，取一道题放进去。这些数学题有文字，比如“爱丽丝有五个苹果，给了谁三个”。人们怀疑这些Qwen基础模型，是因为保留文字、修改数字，它仍会不借工具生成精确到很多位的小数答案——
——这意味着某个时候，它见过几乎与测试集相同的问题，而且用工具得到高精度答案。没有工具的语言模型实际不可能有这种精度。所以研究社区一直争论：在Qwen上做强化学习、专门测这个已多次被指出污染的数学基准，这些论文能信多少？我想这造成了RLVR只是格式调整的名声，因为收益来得太快，所以一定本来就在模型里。但复杂性很多，不是真正受控实验，所以我们真不知道。
但如果不是真的，我会说蒸馏就不会有效，对吧？蒸馏某种程度有效，不过最大问题——我也在研究污染——是我们不知道数据里有什么。除非有全新数据集，否则不可能弄清。连MMLU这种简单的多选基准，只稍改格式，比如括号换成点，准确率都可能差很多。
我觉得这可能是特定模型的问题，而非一般问题。
也不一定是开发者恶意想作弊，只是它某时见过。我认为，公平评估LLM的唯一方式，是用模型部署、数据截止日期之后的新基准。
能不能列出后训练完整配方？你提到RLVR很有效、令人兴奋，值得展开。RLHF仍有重要作用，还有哪些后训练想法？
可以按顺序。看是什么让首个推理模型o1成为可能。从中间训练开始，类似干预。传闻支持o1等模型的，是非常细致的数据筛选，提供广泛的所谓推理轨迹：模型正向生成文字，体现将问题分成中间步骤并尝试解决。中间训练需要类似数据，后续进入主要用可验证奖励的后训练，才有能力学习。
今天要摸索给模型什么问题、训多久、解可验证问题时允许多少推理。模型变强，有些问题就没用了，100%能解，信号很少。GRPO方程以这一点著称：给智能体的奖励，基本取决于一个行动、补全，相比同一问题的其他答案好多少。所以如果所有问题得到相同答案，这类算法就没信号。
所以大家寻找更难问题，这就是为什么会听到科学领域，那里做对非常难。如果有实验室之类，可能生成大量token，或者更难的软件问题。前沿模型都推进到这些困难领域，训练更多问题，同时学更多技能。RLHF与此的联系在于，它过去是、现在仍是模型最后润色，通过改善组织、风格、语气，让模型更有用。
不同受众喜欢不同东西。有些人喜欢古怪模型，RLHF可实现那种个性；有些人讨厌模型的Markdown项目列表，但它其实很利于快速解析信息。人类反馈阶段很适合最终加入这些特点，这就是ChatGPT让人觉得神奇的原因。这种用途其实相当稳定。比如这种格式也能帮助数学表现。
训练模型时，风格、格式与解题方法的边界非常紧密。RLHF仍可改善数学，但可验证领域更直接，因为更符合问题设定。概括说，中间训练给予学习所需技能；可验证奖励强化学习让模型反复尝试，把大量计算投入困难问题的试错；最后RLHF打磨，使模型好用、完善。
能谈谈RLVR需要多少计算吗？
只会越来越多。Grok 4很出名的一点，是说预训练和后训练用了相近计算量。回到扩展讨论，它们需要很不一样的硬件。预训练非常受计算能力限制，也就是FLOPS，单位时间能做多少矩阵乘法。强化学习要生成答案，在真实环境试模型，因此更受内存限制。生成长序列，而注意力机制随着序列变长，内存需求按平方增长。所以计算性质很不同。
预训练谈模型，比如回到拜登政府行政令，是训练一个模型用10的25次方FLOPS。后训练用FLOPS衡量就很奇怪，实际是分配多少GPU、多少小时。从时间上，强化学习越来越接近，因为不能全塞进一个系统。预训练计算密集，GPU彼此通信，非常高效；强化学习有很多活动部件，生成十万token序列可能很久。
想想Gemini 3 Pro要思考一小时，如果训练运行里也得采样一小时呢？得保证高效。所以按GPU小时或实际时间，强化学习运行的天数可能正接近预训练，但同时用的GPU可能没那么多。实验室有经验法则，不想让预训练超过一个月，因为会灾难性失败。计划占用巨大集群两个月，第50天失败，机会成本极大。
大家不想把鸡蛋放一个篮子。GPT-4就像终极孤注一掷的运行，之前没人想那样做，训三个月，居然成功，所有人震惊。我觉得现在更谨慎、更渐进了。
所以RLVR在训练量与继续获益方面更接近没有上限。RLHF是偏好微调，到某点再加预算就不合理。退一步说，同一件事，不同人可以给不同解释，都正确；但学到某种风格后，就没必要继续迭代。我最喜欢的例子是亲戚问买什么笔记本。我解释、问用途，他们也许优先电池续航、存储。
像我们这样的人，可能更看重内存、计算。两个答案都正确，但不同人需要不同答案。偏好微调试图平均，问标注者偏好哪个答案，再训练。但学会平均偏好后，没必要训更久，因为只是风格。RLVR则让模型解决越来越复杂困难的问题，所以长期更值得多分预算。
目前是RLVR 1.0，仍只有问题和答案，不处理两者中间的东西。有多篇论文，比如谷歌，研究过程奖励模型，也给解释打分，看解释多正确。我觉得这也许是今年下一步，叫RLVR 2.0，关注问题到答案之间的步骤，利用这些信息改善解释、准确性。这是一条路线。DeepSeek-V3.2论文也有有趣的推理扩展。
首先，他们开发了独立的自我评分模型，我觉得这是一个方面。另一个则是内森提到的，将RLVR扩展到其他领域。
大家兴奋的是价值函数，挺相似。过程奖励模型给推理每个中间步骤评价，价值函数则给语言模型每个生成token赋值。在语言建模、推理模型时代，两者大多还未被证实有效。不知为何，如今大家更看好价值函数。过程奖励模型在o1之前试得更多，让很多人头疼。价值模型则在强化学习中有很深历史。
训练价值模型，是深度强化学习最初存在的核心之一。现在文献显示大家热衷尝试，但证据很少；扩大过程奖励模型已有负面案例。
这些情况未来未必不变。概括扩展：RLHF不宜做太多，因为信号的扩展方式如此。大家研究多年，尤其ChatGPT后，但首个RLVR推理模型OpenAI o1发布时，展示训练计算按对数增加、评估表现线性增加的图。已多次复现，DeepSeek我想也有。但RLHF没有这种计算按对数增加、性能线性提升的定律。
事实上，RLHF那篇开创性扩展论文，讲的是奖励模型过度优化的损失。这与RLVR及现有方法差别很大：后者遵循这种扩展范式，最佳运行再多跑十倍，就有性能收益；RLHF不能这么做。这会定义领域。最好的RLHF也许不需要额外十倍、百倍算力，但最好的RLVR需要。有篇来自Meta实习研究的开创论文，《The Art of Scaling Reinforcement Learning with Language Models》。
框架叫ScaleRL，增量实验约一万V100小时，每次实验几千或几万美元，而且做很多。普通学者负担不起，如何从各个社区学习，就形成艰难的平衡。
想岔开谈教育、学习。如果听众聪明、对编程和AI感兴趣，我想从零做点东西是好起点。你会推荐怎么做？
我个人会像你说的，从零实现一个能在自己电脑运行的简单模型。目的不是做日常个人项目用的东西，也不是替代已有开放模型或ChatGPT的私人助手，而是亲眼看LLM输入什么、输出什么，以及预训练如何在自己电脑上发生。然后学预训练、监督微调、注意力机制。
你会扎实理解原理，但某时到上限，因为小模型能力有限。学习大规模LLM的困难是，大模型的复杂性呈指数上升，不只是模型大了，还要考虑跨GPU参数分片。连KV缓存也有多种实现：为了理解，可以拼接列表逐步增长，但GPU上不最优，最好预分配张量再填充。这样又多二三十行代码。
每件事都加很多代码。所以书的诀窍，是理解LLM如何工作，不是做生产级模型。但有了理解，就能读懂生产级LLM。
所以总是尽量构建能放进单块GPU的LLM？
对，多数例子一块GPU能放下。附加材料里有些MoE，可能一两个要多GPU，但目标是一块。美妙的是能自我核验，像RLVR。从零编码时，可以拿Hugging Face Transformers库里的已有模型。这个库很棒，但学LLM不宜从这里开始，因为代码太复杂，覆盖太多用例，有人用于生产，必须精密，交织复杂，不是线性可读的。
它起初是微调库，后来变成每种模型架构及其加载方式的标准表示。Hugging Face是获取模型的默认地方，Transformers软件让人容易加载模型，做基本事情。
从DeepSeek到gpt-oss，所有发布开放权重模型的前沿实验室，都有Hugging Face Transformers版本，是标准加载方式。不过生产推理甚至不使用Transformers，而用SGLang、vLLM，又加一层复杂性。
应该说，Transformers库大概有400种模型。
一个库试图实现大量LLM，代码库就庞大得惊人，不知道，也许数百万、数十万行。理解想看的部分，像大海捞针。但好处是有工作实现，可以倒推。我建议，比如要理解OLMo 3，就看模型中心的权重和配置文件。能看用了多少层、分组查询注意力等，所有组件都在一份人类可读、约一百行的配置里。再从自己的GPT-2开始，加这些组件。
然后可以加载预训练权重，检查在自己模型里能否工作。你要与Transformers模型输出一致，就能把它作为可验证奖励，确保架构正确。有时花我一天。OLMo 3的难点是位置嵌入RoPE，他们有YaRN扩展、自定义缩放，我一开始对不上，但在挣扎中理解。最后知道正确，因为能对参考实现做单元测试。这是最好的学习方式之一，基本上是逆向工程。
我觉得，今天想进入AI的人都该做，这就是我喜欢你书的原因。我从强化学习、机器人领域进入语言模型，从没花时间学全部基础。Transformer架构今天像过去深度学习一样基础，大家得学。很多人不知所措的地方是，如何用它产生影响、找到职业方向。
AI语言模型让基础内容如此容易接触，有动力的人会学。然后是怎么得到足够练习机会、贡献研究。我挺乐观，因为领域动得太快，最好的人也经常没完全解决问题，就去摘更大、更低垂的果实。在RLHF书里，我想描述后训练技术怎样影响模型。很多东西大家就不再研究了，令人吃惊。
学完基础再钻窄领域很好。读相关论文、参与生态。网上普通人与顶尖研究者的距离近得惊人。机器学习X上匿名账号很受欢迎，没人知道他们是谁，可能只是钻得很深的普通人。尤其AI工具能帮你不断深挖不懂的事，非常有用。有些研究领域可能只需读三篇论文，其中一位作者大概还会回邮件。
但邮件必须投入努力，证明你懂。新人真正掌握很窄领域，需要几周，但基础之后钻窄非常有用。我曾对性格训练很感兴趣：如何让模型幽默、讽刺、严肃，数据怎么处理。牛津一个学生联系说感兴趣，我指导了他，如今论文已经存在。世界上对这个具体题目非常感兴趣的人，当时也许只有两三个。
他是博士生，这有优势。但对我来说，我一直等有人说：“我有时间在这上面反复做。”肯定还有很多窄问题，让人觉得竟然没答案很不合理。信息太多，大家感觉抓不住任何东西，但真坚持一个领域，会有很多有趣东西可学。
对，不能什么都做，否则太压倒性，会倦怠。比如我很久没跟计算机视觉，只关注LLM。但回到你的书，想学RLHF，这是很棒、很划算的资源。我不会直接出去读原始论文，那会花两年——
——有些还互相矛盾。我刚编辑完书，竟然没有哪一章需要说“X篇这么说，Y篇相反，等着看谁对”。
后训练大图景中，我们可能漏了哪些？看看目录：问题设定、训练概览、偏好是什么、偏好数据和优化工具、奖励建模、正则化、指令微调、拒绝采样、强化学习；再是宪法AI和AI反馈、推理及推理时扩展、工具与函数调用、合成数据和蒸馏、评估；开放问题部分有过度优化、风格与信息、产品UX、性格与后训练。有哪些值得提、连接教育与研究的想法？你提到性格训练，很有意思。
性格训练有意思，因为资料极少，但我们谈过人如何与模型互动。模型积极，让人感觉好，但可能过头、过于积极。核心是如何改变数据、决策，让它恰好符合所需。OpenAI有model spec，基本上是他们希望模型做什么的内部准则，向开发者公开。因此你能区分，是训练没达到意图的失败，还是他们本来就希望这样、只是你不喜欢。
这种透明很好，但如何整理文档、容易遵循到什么程度，方法还不清楚。书的设计上，大家显然想看强化学习章，因为都听说RLVR，算法、数学一样，却可用于很不同的文档。我认为RLHF核心是偏好有多混乱。这基本是我几年前论文的重述，但这章说明它为何永远无法彻底解决：强化学习设定假定偏好可量化、简化为单一数值。
我想这与经济学的冯·诺依曼—摩根斯坦效用定理有关。那章的哲学、经济、心理背景，说明做RLHF时什么被压缩了。后面再用强化学习把数值提高。我觉得这会是很值得研究的主题，因为偏好量化是人类为使问题可研究而设计的。但有根本争论：语言模型回答中，你在意准确性、风格等不同东西。
收数据时，全被压成“我更喜欢这个”。其他领域有大量研究讨论究竟该怎么做。社会选择理论，就是研究如何聚合偏好的经济学分支。我去过一个工作坊，发表白皮书，讨论如何把它用于RLHF。我希望对数学兴奋的人也遇到广泛背景。我也列出喜欢的推理模型技术报告。第14章简述RLVR，有巨表列出我喜欢的每个推理模型。现在教育很大部分需要表达我的选择——
——因为语言模型太擅长数学。比如著名的直接偏好优化论文，比强化学习简单得多的解法，附录推导跳过数学步骤。我为书重做推导，想“这到底用了什么对数技巧？”但问语言模型，它直接说“这是对数技巧”。我不知道是否喜欢数学如此商品化。读附录、跟推导中的挣扎，对学习有好处。
对，教育话题里我们经常回来。你们多次用“挣扎”这个词，有价值。如果过程没有挣扎，也许就没真正经历正确的学习过程。
一些提供者开始做教育模型，设计成不把……其实我没用过，但猜测不会一次给全，而让人努力获得。可以训练模型这样做，会是美好贡献。书里要重新评价每个决定，就是好例子。我想AI2有机会做，会很有趣。
说得通。我前几天在游戏里类似做过。空闲喜欢塞尔达、银河战士这种解谜游戏。新游戏里卡住，不想苦挣两天，于是问LLM，但说：“不要剧透，我到这里，下一步该干什么？”数学也可以：“我到这里卡住，别给完整答案，有什么可以试？”小心地探询。
问题是需要自律。很多人爱数学，但很多人只是得完成作业，就会走捷径。我们可以做教育LLM，可其他模型仍在，诱惑仍在。
我觉得很多人，尤其大学生，知道自己热爱的东西，有自知，也明白不该容易。我们要培养好品味，像研究品味、学习品味，分清哪些该挣扎、哪些不该。但这很难，因为有时缺乏长期眼光，不知什么真对职业有用。不过必须培养。
我可能和未婚妻、朋友谈过：有一个短短十年窗口，作业、考试全能数字化。此前大家只能用蓝皮答题册，没有别的办法。现在AI之后，因为作弊太容易，大家又要回蓝皮册、口试。就那么短的一代，有不同教育体系，一切可数字化，却仍不易作弊。如今又回去了，很好笑。
你提到性格训练。拉远到更一般话题，那项研究需要多少算力？总体上，个人研究者能在哪些不需太多计算的地方贡献？
性格训练研究，我想是在约七十亿参数模型上用LoRA微调，基本只微调一小部分权重。我不确切知道多少GPU小时。
但能做到。
不是每个学者都做得到。有些学者处境艰难，只能做推理，用闭源或开放模型获得补全、观察理解。这非常适合评估：擅长创建有代表性、让模型失败或展示某种能力的问题，可能做出突破。若想职业向前，评估研究者顶级目标，是让前沿实验室采用你的评估，不必每个项目都做到。
如果来自没算力的小大学，发现Claude某种难点，下一版Claude博客引用你的评估，职业就起飞了。很难，但若追求最小计算最大影响，大概就是这样：极窄聚焦，也要了解模型走向。要做能测Claude 4.5失败点的工具。启动研究时，得想八个月后模型还会在哪里困难。
那开发全新想法呢？
这是权衡。读博士也可想：“做语言模型太冒险，我看更长远。”什么会定义十年后发展？我个人很务实。进伯克利读博士时就想，最坏拿硕士去科技行业。AI公司提供的生活，OpenAI每名员工平均股票年薪超过一百万美元。对普通美国人，进入这种实验室会改变人生。所以我相当务实——
——专注做语言模型，仍有很多上升机会。看成果、工作机会。但从研究上，要产生变革影响、获学术奖，成为下一个杨立昆，就得不那么在意眼前语言模型发展。
那要做很大经济牺牲。
我合作过很棒的学生，问该不该去AI实验室。我说：“你在顶尖学校读博士，要离开去实验室吗？”如果去顶级实验室，我理解。别去可能归零的随机创业公司。但如果是OpenAI，我认为可能值得放弃博士。
更严谨想想，建议人们在哪里贡献研究？选项是学术界，读博士、花五年发论文，但算力受限；专注开放权重的研究实验室；或者闭源前沿实验室，OpenAI、Anthropic、xAI等。
有两个梯度：越封闭，通常钱越多，个人荣誉却越少。建立作品履历时，学者做了什么很清楚；换成大机器里的一个齿轮，也可能好玩，但这是不同路径。研究者机会成本高，因为博士生基本没多少钱。因此最终更奖励有稳定安全网、知道自己可以长期做有趣工作、拿有趣职位的人。
所以，说“我想做，就把博士读完，以后再说”，是一种特权位置。与此同时，学术生态受资助削减冲击。权衡太多，我理解很多人不喜欢、受不了找钱，政府无故砍项目，或不知道未来如何。因此不确定性、权衡很多，在我看来偏向选择待遇好、有意义影响的工作。不是说OpenAI付钱让你闲坐，你在建设改变数百万人与技术关系的前沿事物。
但发表方面越来越保密，论文越来越少。规模上有积极影响，却是机器里的齿轮。
老实说，我觉得变化没那么大。我待过学术界，现在不在，但不愿失去那段经历。先说另一点，变化真没那么大。我以前与合作者用AI、机器学习做计算生物学，很多人直接从学术界去谷歌，和现在一样。教授为学生去工业界难过，因为某种意义上无法传承自己的事业。一直如此，唯一变化是规模。
工业界一直开发很酷但封闭的东西，不能公开谈。现在区别是偏好：你喜欢讨论工作、发表，还是待在封闭实验室？薪酬当然不同，但向来如此。取决于哪里舒服，也没有什么永远不变。现在还有第三选择，创业。很多人创业，风险很高、回报也可能高；加入工业实验室相对安全，有上升空间。
老实说，待过工业实验室，今后更容易找工作。但你有多喜欢团队、专有工作，或者发表论文？发表也压力大，会议录取率可能任意，令人挫败，但回报高，论文发了，名字在上面，很有成就感。
说实话，我觉得教授朋友平均比前沿实验室朋友更幸福，有某种扎根感。前沿实验室确实做996，基本就是一直工作。
能解释996文化吗？可以说它起源中国、被硅谷采纳。就是早九点到晚九点——
每周六天。
每周六天，72小时？这基本是硅谷AI公司标准了吗？越来越拼命的心态。
对，不一定完全如此，但有这个趋势。有趣的是，几乎反转了。我在学术界时，教授要写基金、教学、研究，三份工作合一，想成功就远超全职。现在像内森说的，相比前沿实验室，教授压力、工作量甚至还小些，因为——
他们也工作很多，只是非常满足。与学生合作，持续指导，以人为本的使命。在变化快、混乱的时代，这让人很有满足感。
对，创业公司有压力，必须成功，投入时间很重要，但不断交付真很难。我待过创业公司，挺开心，却不知能否永远这样。节奏有意思，也正如开头所说，模型相互超越，不停争取比竞争者多走一步，现在非常残酷。
这种相互超越、多玩家竞争，其实是被低估的语言模型进展驱动力。竞争深入骨髓，公司刻意打造强文化。比如Anthropic以高度投入、有组织著称，消息很少，人人似乎目标一致。紧密文化与竞争动态，会促使你努力，创造更好东西。
但代价是人的资本。只能坚持那么久，人们确实在倦怠。我自己也时有时无，写过倦怠文章，尤其一边做经理、一边全力训练，工作疯狂。帕特里克·麦基《Apple in China》讲苹果工程师多么拼命建立中国供应链，提到“挽救婚姻”计划，他在播客还说有人因这种强度死亡。这是以人类代价创造进步的完美环境。代价就是开头说的996，真的很拼。
我也读过。他们好像有个暗号，表示某人必须回家陪家人、挽救婚姻。同事说：“这是红色警报，这周末必须让他回家。”但我觉得不是被迫，更多是太热爱产品，进入那种状态。我当学者、独立工作时也会，过度工作，不健康。没按时休息，背、颈都出问题。但不是谁逼我，是事情太兴奋，自己想做。
OpenAI、Anthropic就是这样，他们想做这些工作。
但也有越来越狂热的感觉，尤其硅谷，和缩放定律想法一致。热潮说世界几周内就彻底改变，你想站中心。我有幸和各种人对话，看到全球各类泡泡、回声室，人怎样形成它们很有意思。可以说硅谷是回声室、孤岛、泡泡。泡泡其实有用、高效，不一定坏，因为能超高产。
像乔布斯的现实扭曲力场，彼此说服突破即将到来，结果通过这种信念，真的让突破到来。
Byrne Hobart写过一本书，把泡沫分类。一种是金融投机泡沫，是坏的；另一种推动建设，让大家造东西。我认为AI处在后一种，但担心转成金融泡沫。
对，但观念泡泡也制造现实扭曲，意味着偏离现实。如果走太远，又996，可能错过人类体验的根本部分。这是硅谷常见问题，地理上非常具体，可能不理解美国中西部、美国与全球其他人的体验。彼此用某种方式交流，互相说服，可能陷入真正麻烦。
无论AI大获成功、成为强大技术，还是没有，两条路都可能出问题，必须考虑。年轻人就在这里决定人生做什么。
我甚至不太理解，但旧金山AI梗已发展到“永久底层阶级”。意思是2025年最后半年，是通过AI创业或模型建立持久价值的唯一机会，否则价值全被现有公司拿走，你就会穷。这就是旧金山想法走太远的例子。但对真想在AI有影响的年轻人，亲自在旧金山，仍最有可能做到，只是有权衡。
旧金山很棒，但有泡泡。进去很有价值，也要出来，读历史、文学，去世界其他地方。推特、Substack不是整个世界。
一个合作者正搬去旧金山，我得给他一本《Season of the Witch》。讲1960至1985年的旧金山，嬉皮革命、城市文化形成、艾滋病危机等。这么近，充满动荡、伤害，也有爱，但没人知道。好书，推荐。也是一些愿意走出泡泡的旧金山朋友推荐给我的。我住那里时没重视这个背景，明明如此近。
好，我们谈了很多，尤其去年兴奋的东西。但今年你们提到，文本扩散模型的扩展、不同探索令人期待。它是什么，有什么可能性？与当前语言模型不同的方法？
我们谈了Transformer，特别GPT这类自回归Transformer，并不意味着没人做别的。大家一直寻找下一件大事，不这样反而不明智。现在Transformer最好用，但别把鸡蛋全放一个篮子，总是好主意。人们在开发替代，比如文本扩散模型。
听众可能从图像生成知道扩散，Stable Diffusion推广了它。以前用GAN，生成对抗网络，后来出现迭代去噪图像的扩散过程，逐渐产生很高质量图像，其他公司也做自己的。现在大家想能否用于文本？直觉还不清，因为文本不像像素那样连续、可微分，而是离散，如何去噪？
它有点像谷歌BERT。原始Transformer有编码器、解码器，我们GPT等现在用解码器。编码器更像并行技术，同时填多个token。GPT每次自回归补一个token；BERT给有空缺、遮盖位置的句子，一轮填上。
文本扩散类似，从随机文本开始，多轮迭代填缺或改进。酷在同时做多个token，有望更高效。权衡当然是质量：可能快，但去噪步骤越多，文本越好。大家想看，能否以更少计算得到同样质量，成为自回归的有效替代。
目前有论文说，要相同质量，就得加大去噪步数，最后算力和自回归一样。另一缺点是，虽可并行，有些任务不能，比如推理、调用代码解释器取得中间结果，对扩散很棘手。因此有混合方案。主要想法是如何并行，很有意思。目前主要是研究模型，像LaMDA及其他一些。
我见过创业公司部署的模型，但还没有Gemini、ChatGPT量级的大型扩散模型。谷歌宣布Gemini Diffusion，和Nano 2比较，说多数基准同质量下生成快得多。我不认为文本扩散会替代自回归LLM，但适合快速、便宜、大规模任务，未来免费层可能类似。
我想已有几个开始使用的例子。为什么可能快得多？GPT-5响应慢，是逐token生成。扩散基本一批生成整段补全里的全部token，所以可能快很多。
我听到的是代码创业公司，已有代码库，用户氛围编程说“改这个”。代码diff基本是模型一个巨大回复，不必很多外部上下文，扩散能很快生成。用文本扩散做长diff，因为自回归要几分钟，面向用户的产品会因此大量流失，每秒都丢用户。所以它会——
——增长、有些应用。不过我原以为不同模型会更早被用于不同事情。工具使用是妨碍通用化的关键，Claude Code、带搜索的ChatGPT，会用外部工具中断自回归链，我不知道扩散框架里怎么做。
今年和未来几年，工具使用会怎么发展？会有很多进步吗，又如何融入整个技术栈？
目前主要在专有LLM一侧，但开源工具会更多。它是巨大突破，因为能把某些任务从纯记忆转向实际计算，比如别让LLM记23加5，直接用计算器。
所以有助于解决幻觉？
不是彻底解决，而是减少。首先LLM要知道何时调用工具，其次互联网不总正确。搜索1998世界杯冠军，仍要找对网站、拿对信息，也可能去错网站、得到错信息。我不认为完全解决，但在改善。今年早些有篇很酷的递归语言模型论文，我想是12月31日，技术上不算2026，但很近。
它把想法再推进。内森说学术研究算力有限，我记得他们全用GPT-5，甚至不用本地模型。对于长上下文任务，不让LLM一次或沿一条链解决全部，而拆成子任务，让模型决定合适子任务，再递归调用LLM解决。
再加工具，每个子任务也许上网收集信息，最后汇总。未来许多突破会来自这种方式，不必改善LLM自身，而改善如何用、能用什么。目前缺点是必须许可工具使用，需要信任，特别是让LLM替你回复或整理邮件。我不知道今天愿不愿给它邮件访问权，风险很大。
工具使用还有最后一点，你暗示过，我们也各自谈过：开放与闭源模型用工具很不同。开放模型，用户去Hugging Face下载，再决定要什么工具。也许喜欢X.ai搜索，别人喜欢另一家。发布模型得适应多种工具，很难，因为你在做通用推理引擎，这恰是gpt-oss-120b擅长的。
闭源模型则把特定工具深度融入体验。我觉得开放模型会难以复现某些我在闭源模型上喜欢的事，比如混合公私信息。我每三到六个月会再试网页版Codex，提示它更新我的某个GitHub仓库。
安全云环境很好，可以派出去做，再回来。它可能帮助定义本地开放、闭源各自市场。大家急着工具使用，开放模型落后不可避免，因为前沿实验室资源太多。不过开放模型解决后会有趣，因为需要更灵活，可能用递归想法当协调者。希望需求驱动创新。
持续学习是长期、重要的问题，训练成本越高越重要。能解释是什么，今年和未来推进它有多重要吗？
这与旧金山关于AGI、通用人工智能，以及ASI、人工超级智能的时代思潮有关。今天语言模型能做什么？能解决许多任务，但AI社区一个关键里程碑，是取代任何远程工作者，接收信息、解决数字任务。限制在于，它不像员工一样从反馈学习。雇编辑，可能犯错，告诉他后就不再犯。
语言模型却无法这样迅速自我修改、学习。如果要成为真正通用、可适应、进入任何远程工作情景的智能，就得迅速从反馈、在岗学习。我个人更看好提供优质上下文。可以写详尽文档：我有这些信息、所有博客，喜欢这类写作，声音基于这些。但很多人不提供。
智能体模型才刚起步，所以有个权衡：是否需要持续学习更新权重，才学得快？反方说只需更多上下文、信息，它足够聪明、上下文足够多，就表现得像快速学习。
术语上要说明，持续学习是不断改变权重，按新信息调整，持续、迅速、频繁。另一边通常叫上下文学习：有巨大窗口，每次提示都继续加载额外信息。两者都可合理视为学习，只是学习发生位置不同。
老实说，更新权重意义上的持续学习，已存在不同形式。区别是每人定制个人模型，还是全球模型规模？从GPT-5到5.1、5.2就已有，也许非即时，但社区反馈做不到什么，经过快速筛选，更新权重、发布下一版，某种形式就是如此。更细例子是RLVR，跑起来，就更新。
问题是不能为每个人做，逐人更新权重太贵，即使OpenAI规模、建数据中心，也太贵。只有放在设备端、成本由消费者承担才可行，像苹果尝试Apple Intelligence，把模型放手机，从体验学习。
相关话题是“记忆”，也许有点拟人化。越来越多系统加记忆，尤其个性化记忆，有哪些机制？
目前主要是上下文，把东西塞进去再回忆。但即使缓存，也花token，很贵；其次能力有限。更多像偏好、风格。很多人做数学题，会加已有知识、偏好提示，比如“照上次喜欢的做”。但不解锁新能力。为此大家仍用LoRA适配器。
不是更新整个权重矩阵，而是两个更小的矩阵，平行或覆盖，像增量。可以做一点，又回到经济性。有论文显示，LoRA学得少、忘得也少。没有免费午餐，想学更多，需要更多权重，更贵；学越多，忘越多，必须找到恰当区域。
我们没多提，但讨论中也隐含上下文长度。这方面还可能有很多创新吗？
通常认为这是计算、数据问题。有时有注意力变体等小架构变化。混合注意力模型，基本在Transformer里放类似状态空间模型，更适合，因为处理最远token花的计算少。但不免费，仍需大量计算或合适数据。世界上有多少十万token序列，去哪找？扩展起来就是贵。
我们很快达到百万token输入上下文。我预计今年继续到两百万、五百万，但不会到一亿。那将是真突破，我认为可能。持续学习也像研究问题，可能突破，让Transformer更擅长且便宜。科学关注这么多，可能发生。但按部就班，会随时间稳定增长。
看两个极端，没有免费午餐。一端想便宜，比如RNN，用单个固定大小状态存此前所有信息，内存不增长，所有东西塞一处。但上下文越长，忘越多，因为无法压缩全部。另一端Transformer试图记住每个token，查具体信息很好，却昂贵，因为KV缓存、点积不断增长。
Mamba层有类似问题，像RNN把东西压进一个状态，更有选择。英伟达Nemotron 3找到某个合适比例：多少注意力层保留可访问的全局信息，多少压缩状态。未来可能靠更好比例，在足够便宜、可运行与足够强、有用之间扩展。
再推荐递归语言模型论文，它试图处理长上下文。发现不把所有内容塞进长窗口，而拆多个小任务，既省内存，还可能比一次全做更准。新范式，看看有没有其他形式。长上下文仍会进步，但如内森所说，预训练中长文档少，研究那一层行为更难。
有些经验法则，比如OLMo预训练8K上下文，再训练扩到32K。训练上下文翻倍大约要两倍计算，之后通常又能把长度扩两到四倍。很多最终还是受预训练计算限制。顶尖实验室今年算力大增，应该反映为更长窗口。
后训练有更有趣的事。智能体会自己管理上下文。Claude Code重度用户害怕压缩，就是把整个十万token工作压成项目列表。但下一代模型，我相信已有人做，会控制何时、如何压缩。强化学习里可以把压缩作为行动——
——缩短历史。问题设定是：模型尽量缩短历史，同时保持最高评估分。这样只需最少token做不断累积的自回归预测。这个设定不错，让智能体学会不同方式使用上下文，而非只一味向前。
近期有趣例子是DeepSeek-V3.2，稀疏注意力里有很高效、很小的轻量索引器。不关注全部token，而选择实际所需。这几乎回到注意力最初的选择性想法。普通注意力虽然有些权重近零，仍全参与；它们则直接遮掉、不计算。OLMo滑动窗口也类似，滚动固定窗口，因为不是始终需要一切。
偶尔某些层也许需要全部，但很浪费。现在全用比较保险，不漏信息，最划算。今年也会是弄清如何更聪明处理的一年。目前大家追求下一个最先进，而最先进恰是昂贵的蛮力方案。有了准确率，再想怎么用技巧更便宜实现。
对，都是扩展。比如先拿到Claude 4.5 Sonnet，是因为训练快，不那么早撞计算墙。可以尝试更多、更快发布，尽管更大模型其实更好。
AI领域有很多令人兴奋的事。我最近很关注机器人，但今天几乎没谈，也有图像、视频生成。就强度、热情而言，最兴奋的研究在LLM领域，所以聚焦很合理。但也想带入一些有用东西，比如世界模型，越来越受关注。今年在LLM里会有用吗？
解锁更多LLM能力，也自动推动其他领域，因为进步更快。研究者、工程师用LLM写代码，即使做机器人，改善编程模型也有回报。世界模型很有趣，基本让模型模拟世界，像真实世界的小型玩具版本，可解锁它不知道的数据，能够模拟。LLM恰好靠预训练、下token预测工作得好，但也能更精细。
好像Meta有篇《Coder World Models》，把世界模型用于LLM，不只做下token预测、用可验证奖励检查答案，还确保中间变量正确。模型基本在学习代码环境。我认为很合理，只是昂贵。但建模整个过程、而非只看结果，会更精细，也增加价值。
研究生时有个CASP比赛，预测尚未解出的蛋白质结构。这很好，LLM也需要类似基准，事后才揭晓答案，事前没人知道。AlphaFold出来就碾压了，当然有多个版本。我记得第一版明确建模分子物理相互作用——
——还有不可能的角度等。下一版好像去掉这些，改蛮力扩展。LLM现在也是蛮力扩展，因为有效，但某时可能值得把这种方法带回来，世界模型也许很酷。当然机器人与LLM也完全相关。
对，机器人里很明确，有移动、操控问题。移动解决得更多，尤其学习领域。但像最初蛋白质折叠一样，引入传统基于模型方法有价值。不能指望直接端到端学会操控、全身局部操控，虽然这是梦想。看人手的神奇、现实复杂性，就知道全学下来很难，正如我想AlphaFold 2也没有那样做。
我对机器人学习兴奋。语言模型的热情、投资整体为它充能。Transformer是通用建模方式，其训练基础设施正成为世界级工业工具。机器人此前的限制，如今改善很多，算力多得多。拿语言模型当中央单元，围绕已能工作的东西探索。然后生态像我们谈的Hugging Face、Transformers那样出现。
我在Hugging Face时就想推动，但太早。现在开放机器人模型让人贡献数据、微调，机器人和自动驾驶投资相互关联，更接近实现。一旦有生态，人们下载模型、微调到自己机器人，全球共享数据集。几年前RTX等工作已开始。生态形成就很不一样。ChatGPT后热潮投入更多资源，我认为是很好的研究方向。
也促成更好、更准、更逼真的模拟器，缩小机器人仿真到现实差距。但热潮、投资有坏处。我个人和多数机器人人都认为，不会按明示或暗示承诺的时间解决机器人。公司大量出现，却交不出工作产品，就会热情崩塌，很紧张。希望有其他东西接上，让思想持续发展。
这也与持续学习有关。现实太复杂，LLM不一定要为每用户学新东西，因为许多任务人人相同，比如邮件语法、代码修改，比较受限，可预先准备。真实机器人更难。基座模型可学抓取，但每个家庭不同，机器人必须在岗学习。我认为瓶颈就是实时定制。
还有一件机器人界或别人几乎不谈、极其重要的事：安全。所有学习复杂性、失败模式，在LLM里有时挺有意思。但机器人进入家庭，数百万分钟、数十亿次互动，几乎不允许失败。具身系统放到现实，就得解决很多只想一般机器人学习时，从未想到的问题。
我很不看好消费者买回家的学习型机器人，非常看好自动驾驶、机器人自动化，比如亚马逊配送——建全新机器人优先、而非人优先的配送中心。AI圈很兴奋，认为AI能自动化——
——大规模制造。我觉得机器人做这些更合理，专门设计优化重复任务，人能做但不想做。不过也会比大家预测更久。从AI奇点跳到美国靠巨大AI优势扩大制造，之间有很多政治和其他难题。
具体谈时间线，AGI、ASI的时间。起点可以说，定义基本没人一致吗？
分歧很多，但有人反驳我说，它应能复现多数数字经济工作，远程员工是合理例子。OpenAI定义似乎相关，能做一定数量经济价值任务。我不太喜欢，却可作锚点。今天语言模型很强，但不能直接替代远程工作者。也有比远程工作更难的事，比如——
——发现你甚至没法提出的意外科学发现，有人叫超级智能问题。或看所有病历，找到未知疾病联系，发现普通药物可治罕见癌症，也会被叫超级智能。所以有自然层级。我不喜欢的是，这和AI意义追求、宗教意味深深纠缠，其实可以走不同路。
我甚至不知道远程工作是不是好定义。我喜欢最初名为AI2027的报告，更关注代码、研究品味，目标是超人类程序员。设几个里程碑：超人类程序员、超人类AI研究者、超级智能AI研究者、完整ASI。一旦有超人类程序员，其余迅速跟上。目标是完全自主、自动化编程，研究所需所有代码都自动完成。
然后人类与系统共同研究AI，很快开发出真正替你研究的系统，这是想法。最初预测2027或2028，如今推后三四年，平均到2031。我的预测可能还晚，但至少可以具体思考完全自动化编程有多难。
对，我不同意他们对发展的一些假设、动态，但定义具体里程碑、讲有用故事，工作很好。所以AI2027传播远超硅谷，因为讲了好故事，也做大量严谨工作。
我属于认为AI能力参差的阵营，某些事极好、某些很差。接近自动软件工程师时，可能擅长传统机器学习系统、前端，模型现在就很强；分布式机器学习却很差，因为大规模分布式学习数据太少。这已能看到，会放大。权衡更乱，也涉及你认为AI研究如何运作。
所以因能力参差，总有缺口，你认为超人类程序员基本不可能实现？
我觉得是在给一个东西赋予完整性，其实模型在某些代码上已超人，会继续。人有创意，会用强项补弱项、快速推进。很长时间里，人类赋能模型不会的事，彼此配合；最优秀AI研究者，就是能释放这种超能力的人。
相比已看到的，Claude Code几小时做漂亮网站、分析数据，这些会继续变好，途中也增加新编程技能。AI2027倾向奇点，而我觉得研究混乱、社会性强，很多在模型无法处理的数据中。但今天已有能力很强，这些科技公司集体投入数百亿美元，所以会得到更好的ChatGPT、更好的Claude Code。
具体走向难预测，但对那种未来的明确信念，使世界最有权力的一些人投入巨资。差别其实细微：我们不知道更好的ChatGPT是什么，也不知道能否自动化AI研究。我会说，在这个时间尺度上大概不能。大科技花完一千亿美元，会远早于出现能引发AI研究奇点的自动研究者。
所以如果这算有用里程碑，你预测还超过十年？
软件方面不到，但研究之类更久。
为了好玩，想象所有软件编写完全自动化的世界，能想象吗？
今年年底，软件自动化比例会极高。但比如用强化学习训练模型，让多组GPU相互通信，仍很难，只是会容易很多。
§03原文文稿 · 3:06:02–4:15:09
可以这样想完全自动化：有用代码行数，与参与的人数之比。很长时间会有人参与，只是相对代码量越来越少。超人类程序员的假设，参与人数归零。那么不是数十万人，而是几百人参与，会是什么世界？
软件工程会更偏系统设计、结果目标。过去几周，大家从一个月前卡帕西著名说法“智能体有点垃圾”，转向软件工业化，任何人动动手就造软件。我觉得更接近后者，需要方向、理解系统，才能从模型获取最佳。软件开发会变多少，多少人无需看代码就能做事，这分量很难接受。
有意思的是系统是否独立。我不怀疑LLM最终会像计算器解决计算一样解决编程：人造出工具，不再需人算数字，输入就有算法完成。代码可能类似。但你说“造这个网站”，它造得好、再修改，这会发生，可是否会独立行动——
仍有人说“造这个网站”吗？还是AI自己去造网站或别的？
我觉得造网站这个例子——
太简单。
对，当然。
网站、网页、HTML等，对垃圾很耐受，会把垃圾显示出来，善于显示。我更想考虑安全关键系统，让AI端到端生成管理物流、车辆、整个车队之类的系统。
中间例子是Slack、Word。如果组织允许，AI可以很容易端到端实现想试的功能，做得不错。比如Slack加一个你要的标签页，我想AI能很好做到。
好例子。离这多远？
就今年。
我不确定，真不确定。
我也不知生产代码库有多糟，但几年内，很多人会被推向设计师、产品经理，多个智能体替你尝试，花一两天实现功能、修bug。你有仪表盘，Slack其实不错，智能体来交流，再反馈。但网站Logo是否过得去、协调设计、风格，以及决定下一步加什么，对模型很难。
我和许多程序员来往，有些整体比较怀疑。给复杂系统加功能，复杂性很大。比如Chrome，我想标签不在顶部，而在左边，界面改动。我觉得这不是明年能做的事。
今年某次Claude发布，测试是给它一个软件，让它独立运行、完整复刻。只给参数、放沙箱，它已经几乎能从零重建Slack。
从零开始，我反而更相信。
所以小而新的公司可能有优势，没有膨胀和复杂性，于是功能就能出现。
这也回到你说的怀疑者，我觉得不是LLM不能做某事，而是人们不想让它这样做。
部分可能是人的技能问题，必须诚实。部分是规格不充分。编程像人际沟通，你假设LLM该读心。所以规格驱动设计很重要，用自然语言说明所需。
实验室的人在训练、生产代码里都用。Claude Code用Claude Code构建，使用极广。达里奥谈过Claude代码有多少……他们掌握的能力稍领先——
——推理花费也可能是我们的十到百倍。我们不过每月一两百美元计划，他们真正放开跑。进步这么快，一年前还没有Claude Code，也不太有推理模型。今天能力差这么多，似乎还有很多低垂果实。失败很蠢，比如“Claude，你试了十四次没安装的CLI，最后我给你命令。”从建模看，这很可修。所以我不知道。
同意，我整体越来越乐观。也许真是人的技能。Anthropic等领先理解如何最佳用模型编程，所以有效。很多外围程序员不懂，也没有很好的指南，大家还在摸索——
可能很贵，门槛每月两千美元，只适合科技公司、富人，也可能。
但若结果是可工作的软件系统，可能值得。有趣，AGI时间讨论最终收敛为实用问题。关于AGI、ASI时间线，能说什么具体深刻的话，还是这些讨论脱离日常？
有些有趣押注。很多人试图在真实科学领域做RLVR，有创业公司融资数亿美元，有湿实验室，让语言模型提假设、现实检验。我觉得还早，但进步这么快——
——也许只早半年，先到就赢；也许早八年，真不知道。如果这种登月尝试，把势头带入其他科学，许多领域出现创业公司解决的AlphaFold时刻，会很变革。比如Harmonic可能全押语言模型加Lean做数学。你最近另一期嘉宾也谈过。花一亿美元在那种模型，究竟产生什么，我们不知道。
多数会失败，但少数可能是大突破，与ChatGPT、Claude Code体验很不同。比如只有数学博士会用，却让他效率提高百倍的工具。
同意，很多领域会发生，尤其资源多的金融、法律、制药。但那真是AGI吗？又专门化了。与过去专用算法真差很多吗？我觉得同一回事，更精密。有个阈值才叫AGI吗？真正酷的是有了可专门化的基座模型，这才是突破。
现在还没到，首先太贵，其次ChatGPT不直接交出模型让你定制。可以想象OpenAI某天说：“美国银行，给一亿美元，我们做专属模型。”经济价值巨大。但区别在哪？人人用ChatGPT，就同步做相同事，而公司想要竞争优势。所以绕不开私有数据、专门化实验，会有意思。
进展速度让人觉得事情要来了，但AGI、ASI阈值不特别有用。
真正问题与远程员工相关：什么时候看到经济影响明显跃升？目前LLM还没有明显跃升。不谈AGI、ASI，什么时候有GDP跳升？
GDP由什么构成？很多是金融服务，我也不懂。所以GDP增量难想，但当不必再看代码，软件开发会以不同方式变得有价值。比如Claude帮你开小生意，建网站、银行账户、邮件等，你只表达想带给世界什么。这不只企业市场，但很难，不知如何让人尝试。也许ChatGPT能做，就会有人试。
归根结底是科学问题：工具使用有多难解决？远程工作很多就是工具、电脑使用，让LLM智能体出去做事，失败率仅1%。
电脑使用是实验室重视、却还没见太多进步的例子。
或者更低。
2025年多次演示Claude用电脑、OpenAI Operator，都很差。他们正投入，会是好例子。接管整个屏幕，似乎比后台调用API难得多。部分得建立不同环境，不是在你的MacBook上，而是分别与谷歌、亚马逊、Slack接口，处理方式不同于人。所以也许有结构性障碍。
规格方面，任意任务仍要说明要模型做什么、环境是什么、怎么说明。可以说最终目标，但如果解不了，文本LLM能澄清、分步骤，可替你订旅行的系统，如何加入这些信息？可以说“你弄错信用卡”，但在尝试前，用户如何引导？界面很难。
对，要学很多关于你个人的信息。这回到持续学习，包括一般错误、与你相关的错误。
所有AI界面都在设计成向人要输入。Claude Code会要反馈、提问，计划、需求规格不够，就问“你更愿意哪种”。我们谈过跨对话保存的记忆，最初实现很怪，聊天里提我的狗名，我想“没必要这么刻意，我不在意”。但新东西正出现，比如ChatGPT Pulse。
它像精选几段文字，附链接，供你看、讨论。大家说模型会向你提问，可能有效。它知道你去看医生，问“后来感觉怎么样？”这又进入人类很容易受影响的地带，会有许多社会变化。但他们也在试让模型主动互动。有些人很喜欢Pulse，它处理聊天、自动搜信息，放进ChatGPT应用。很多东西正来。
我用过，总有负罪感，因为它每天做，我却很少看。为我根本不看的东西烧了多少计算？
世界也有很多闲置算力，别太内疚。
需要新想法吗？通向AGI，不论定义，解决更通用电脑使用、生物、化学、物理，像达里奥定义的强AI，是否可能需要完全新、非LLM、非强化学习的想法？会是什么？现在有点哲学了。
要发生奇点之类，我会说需要。可能是架构或训练算法，深度学习基础创新，本质上难预测。即使没有这些进展，我们也可能走不远，比如解决软件，却不进一步创新就无法电脑使用。我认为会有很多进步，但拉远三十年，仍会有像重大科学创新、开启下一章的想法。不知道一年还是十五年到来。
我想知道“苦涩的教训”未来一百年是否仍成立，会是什么样。
如果缩放定律是深度学习根本，“苦涩的教训”就始终适用，计算会更充裕。但即使计算充裕，性能、计算二维图上，斜率更陡、起点更好的方法，从资源获百倍收益的方法，仍会赢。
甚至可能是太阳能板供电、绕地球的计算集群。
问题是散热，接收太阳辐射，又没有空气散热。但空间很大、太阳能很多，可以想办法解决。能源充足，也许工程上有意愿攻克热问题，所以有可能。
有没有可能——肯定可能——今年基本进入平台？不是系统能力，而是能力对人类文明的实际意义。编程做漂亮网站、很好的自动补全——
理解代码库、帮助调试，归根结底只是很好的助手。帮数学研究者做数学、帮购物，像加强版Clippy。也许很好的教育工具，但电脑使用极难。所以我在构造悲观案例：各领域没有特别大经济影响，却在各层级训练、预训练、推理、思考都极贵。这可能吗，有多大概率？
模型有太多明显可改，训练、打磨又很久，仅现有想法就得几年才饱和到想要的基准或表现。也许服务极窄领域，普通ChatGPT用户收益不大，但会通过擅长不同事，服务不同人群。
可大家追的是对每个人都有用的通用系统，如果做不到，那个可能到平台吧？
我觉得那个梦其实有点在消退。比如专门模型，多模态，视频生成完全不同。
“梦在消退”是大话，我不确定。前沿实验室的人还在追吧？
他们仍赶着出下一模型，比前代好很多。“很多”是相对的，但会更好，我看不到减速。只是收益不只来自扩大模型，也会来自周边改进。技术债很多，以前不断塞更好模型，现在也开始改善一切周边。
比如上下文工程、推理扩展，大实验室继续，小实验室招聘更多，也赶上。LLM循环提高人的生产力，像放大器。我预计的是放大，而非范式变化。我不认为会有那种改变，但一切会不断放大，能持续很久。
我说梦消退，取决于具体期待。Claude Code是能做很多事的通用模型，却高度依赖集成。它也许能很好处理邮件，难点是如何给信息、让它能发。但这回到“一个模型统治一切”的理念：云端一个东西，管理全部数字生活，比所有人聪明得多。
从Claude Code跳到那一步，需要有趣的信念跨越，虽然有一些路径，但产业言辞确实不一样。
普通用户下一步直接感受到的，也许是作图这种小事。LLM现在作图很差，是因为给我们便宜模型、推理少，后台其实更强？也许调一调已能更好，但今天让画流程图，大多糟糕，而人做很简单，有时画比写还容易。
对，多模态理解没被更好解决，感觉很怪。
我们没说一个显然却没意识到、巨大难衡量的点：让全世界都能访问人类全部知识。谷歌搜索与LLM差别极大，难描述。我感觉基本什么都能问、有答案，幻觉越来越少。
这意味着理解生活、规划职业、解决身边问题、学习整个人类历史。没人真谈，因为立刻觉得很好、当成理所当然。大家用就是能得到答案，想想长期影响。不只美国，而是全球，孩子都能学这些。真正GDP增长可能在这里，不是突跳。
可能就是因此去火星、建造东西、出现一百万家新OpenAI，以及随之创新。这是渗透一切的安静力量：人类知识。
同意，知识更易获得，但取决于主题。数学可提问回答，但从零学，刚谈过，最佳仍是有人按线性组织的数学教材。已验证的学习策略，从零开始适合吸收信息密集文本，再用LLM生成无限练习。
某领域有困难、不确定，就让它给例题，自己解决，需要背景再生成。但不会给教材没有的东西，只是换包装。
还有更即时的价值，没有好替代，只能人临时做。比如计划迪士尼旅行，哪天买哪园门票，没有教材、信息密集资源，只有稀疏互联网。LLM很有价值，告诉特定日期、地点限制，让它确定何时、哪里、买什么、花多少钱，是高度定制的即时方案。个性化基本是——
——从稀疏、低信息密度互联网提取，因为没有更好版本，几乎从零做。
即使有，像迪士尼世界资料，也塞满广告垃圾。任何城市问“十大必做”，问LLM远好于互联网上的东西。
目前是因为大量补贴，最终会广告付费。
天哪。
会来的。
不，我希望广告、非广告明确标识，不过——
几年前就说过，比如找跑鞋，耐克第一个出现是巧合吗？也许是，也许不是。我想有明确法律要求标明，但大家怕暗示性信息。说到广告，我想他们原希望2025年推出，因为别的方式仍不赚钱，比如真正广告位。但没做，因为还有无广告替代，用户会涌去——
——其他产品。大家为抢用户，花那么多钱相互压过，真疯狂。
我想是。比如Instagram广告，我不用，但能理解付钱给平台，找到真喜欢产品的用户，这就是最好的情况。
但广告也常造成糟糕激励。若AI能结合积极一面：我有小生意，想造世界最好的牛排刀，卖给真正需要的人；AI让这种广告更好，世界会受益。现代网络本就是靠数字基础设施这样建的。但不是说，让信息流成瘾、多看内容是好事。我想OpenAI也会说，希望广告变现，同时保留用户能动性。
我个人觉得谷歌更可能善于处理，因为已有广告供给。若找到把Gemini需求变成有用广告的方式，就能开启。不知道是否今年，但会实验。
我认为现在阻碍只是竞争者不做，更是声誉问题。怕毁名声、流失用户，谁先推出会成头条。但——
除非很棒，可初版不会好，因为是尚不知如何解决的难题。
对，初版可能像X时间线，夹一条推广帖，写个小小“推广”，再一张图。目前问题是谁先动。
看十年后，广告主张是：用户多，广告赚很多，用来资助更好研发、做更好模型，像YouTube称霸市场，Netflix都怕。我每月付28美元Premium，他们从我和很多人身上至少赚28美元，建立视频主导地位。所以广告能在每用户支出上形成持续优势。但目前钱这么多，谁启动飞轮都吓人，因为是长期押注。
今年商业上会有疯狂大动作吗，比如谷歌、苹果买Anthropic？
达里奥绝不会卖。但开始有整合，比如Groq估值200亿美元，Scale AI接近300亿。还有无数授权交易，结构其实伤害硅谷生态，不是让普通员工股权归属、受益的完整收购，而非所有人都被带走。这是文化要解决的大问题，创业生态是命脉。加入创业公司，即使不太成功，也可能被低溢价收购，你的股权得兑现。
授权交易很多时候基本只拿顶尖人才。Groq到英伟达这笔，据传对员工更好，但仍是规避反垄断。我认为整合会继续。我和许多尊敬的聪明人，早以为该更早发生，现在似乎转向。但也有人融天量资金，原因我不懂，不知为何拿钱。所以今年可能混合，不过已有整合压力。
会有哪些意外整合？你说Anthropic绝不，Groq已经很大，顺便说是Q结尾的Groq。
对，创业公司很多，AI估值溢价极高。可能有百亿美元收购，对一年前才成立的公司很大。比如Manus.ai，新加坡公司，成立八个月就二十亿美元退出。还会有其他几十亿美元收购，比如Perplexity。
Perplexity，对吧？
对，传闻苹果会买。AI有很多压力、流动资金，大公司得交成果，大收购让人能继续讲下一章。
我们谈代码，也许有人收购Cursor。
他们位置很好，因为用户数据极多。持续学习方面，他们有篇最有趣的博客，说新Composer模型是某个中国大型MoE的微调。你可以听传闻，或看它偶尔中文回答，美国模型不会。他们说：“根据真实用户反馈，每90分钟更新权重。”这是最接近模型上发生真实世界强化学习的事，就写在博客里。
不可思议。
超级酷。
顺便说，我常用Composer，一个好处就是快。
我得试，大家都这么说。
也可能有IPO，Anthropic、OpenAI、xAI？
他们都太容易融大量钱，只要融资容易，就不上市，因为公开市场施压。
中国生态不同，MiniMax、智谱都提交IPO文件，市场反应会有意思。我猜只要热潮持续，会像美国一样兴奋，而不看两家都大量亏钱的现实。希望更多美国巨型AI创业公司上市，可看怎么花钱，也给大家投资机会，因为它们是时代公司。但现在美国大创业公司传统就是不上市。
我们还在等Stripe IPO，Databricks肯定没上，又融了G轮之类。市场均衡很怪，我希望这些公司上市，以那种方式演化。
十年后前沿公司还在吗，比如Anthropic、OpenAI？
我不认为赢家通吃，除非某家真发现算法秘密，启动独特飞轮。因为发展路径太像，谷歌、OpenAI产品一样，Anthropic更聚焦，但聊起来解决很多同样问题。所以会有分散产品，蛋糕很大，大家都能取钱。
不想简单化，但OpenAI、Anthropic主要是LLM服务提供者。谷歌、与X关联的xAI还做别的。如果AI商品化，只提供LLM的公司可能消失。
优势是用户多，我认为会转型。Anthropic大概转过，一开始未必计划专做代码，碰巧发现好细分，就舒服地推进。假设谷歌占全部通用聊天市场，不知会否真如此，OpenAI可能关注别的子题目。用户太多，可预见未来不会消失。
谷歌AI模式总准备好说“看我的”。
问题是撑不撑得起估值。AI公司可能像AWS、Azure、GCP，同领域竞争，都成功。也许API市场太不赚钱，就向产品、硬件上下游走。现金太多，能建电厂、数据中心，形成持久优势。也可能API太有价值、灵活，成了AWS那样。但AWS、Azure也有API，五六家竞争很难，也许因此被挤出。
你说LLaMA安息，Meta还有赢的路吗？
没人知道。他们动作很多，跟Black Forest Labs图像生成、Midjourney签授权。所以消费产品AI还早。扎克伯格身边有出色、有动力的人，故事还待展开。Llama不同，曾是组织最聚焦的表达，现在似乎不再那样支持。但品牌成功，也许仍参与部分开放生态，或把品牌放别的服务，大家认识它。
会有Llama 5吗？
不会是开放权重的。
回顾一下，Llama 1、2、3是开放权重先驱，广受喜爱。我猜，Meta高层看到社区流行，很兴奋，问题是想靠开源搞更大声势，像强行开发巨大Llama 4，只为登基准榜首。
我觉得Llama目标不该是基准压过ChatGPT等，而是让人能用、信任、修改、理解。应有小模型，不必最强。结果基准显示比实际好，因为我想有特定偏好训练模型，专门在基准上表现好，有点过拟合，硬要最好。但同时没做大家可用的小模型，没人能跑那些大的。
这就有点怪，可能大家太迷恋推进前沿的头条，我想如此。
太关注追基准。
太费力。
我觉得内部政治斗争、激励不一致，导致内爆。研究者想做最好模型，组织管理层却想证明做了这些。许多碎片、传闻说有糟糕技术决定，最后太坏，全崩了。
但也要高度肯定扎克伯格，开源重要的信念来自最高层。既然存在，就可能有Llama 5，吸取追基准教训，说“我们像GPT-OSS一样”，提供很棒开源模型库。
据说马克和Alexander Wang之间有争论，后者聪明，却更反对开源。他对AI组织影响大，马克请他来带新领导，开放就不太可能。若开放封闭不再定义模型，我不觉得会是两人决定性争点。他们都聪明，但我很难理解：马克2024年7月写了当时可能最好的开源AI倡议博客，2025年7月却变成“重新评价与开源关系”。所以……
也许问题是，我们开放开发者、社区太严厉，促成了这一切。模型不如期待，但反弹很大，不幸。公司期待正面头条，结果不是没报道、好报道，而是坏报道，损害公司。也许有赌气反应：“我们努力做好事，给酷开源模型，你们却负面。”于是“也许改变主意”。我不知道。
对，X讨论动态可能把社区带偏。有时很随机，人挑喜欢不喜欢。Grok 4.1、Grok Code Fast 1.0也是，公开氛围不像喜欢，但很多人用。Reddit、X编程社区不太赞美，却使用。Llama可能一样。我不理解正面或负面热潮的动态。
2025年一个故事，是美国填补Llama缺口，中国开放权重崛起。我过去五个月花很多精力的单一议题，就是做政策工作，让美国投资。
讲讲Adam的故事。
Adam项目……我最初叫美国DeepSeek项目，但对华盛顿受众不合适。是关于我职业能做的最有影响的事。中国开放模型在培育很多力量，而在开放模型上开发的需求极多，尤其美国企业对中国模型很谨慎。
查Perplexity，Adam项目，全称American Truly Open Models，是美国倡议，构建托管高质量、真正开放权重的AI模型和支持基础设施，明确旨在竞争、追赶中国迅速前进的开源AI生态。
一句，或两句概括：开放模型将是AI研究引擎，因为人们从它起步，所以掌握它很重要。第二，美国应构建最佳模型，让最佳研究在美国发生，美国公司获得作为研究中心的价值。不增加投资，网站图上全是Qwen、Qwen，这些优秀中国模型在美国、国际培育影响。
美国AI花钱远多。做比闭源前沿落后半代或一代的开放模型，约需一亿美元，钱多，但相对公司财力不多。所以需要聚集愿做的人。我想从整个技术栈到政策领域，都有人签署参与。
政府支持了吗？
严格说在任政府里似乎没人公开签，但我知道拜登、特朗普两届做过AI政策的人，都很支持推动美国开源。比如AI2获NSF四年一亿美元资助，是NSF最大计算机科学资助，让我们尝试，这是起点。但最好是多组织建模型，交叉传播思想、形成生态。只有Llama不行，它可能不再做；AI2也一样，不能只有我。
所以花很多时间和人聊，包括政策。英伟达很兴奋，黄仁勋特别谈紧迫性，2025年做更多，Nemotron 3更重点，开始随开放模型发一些数据，英伟达这样规模的公司很少如此。进展有迹象。Reflection AI说二十亿美元融资用于美国开放模型，公告推文读起来像文化潮流转向。
7月中国已有四五个DeepSeek水平的开放模型，美国零个。当时我发布项目，觉得没人做，那我得投入。需要许多人一起贡献。我不是说Adam项目是唯一推动者，而是像我这样的人做事、传播。
你喜欢2025年美国AI行动计划吗？包括开源，白宫计划专节“鼓励开源与开放权重AI”，定义模型，强调对创新、创业独特价值。
对，计划只是计划，但也许是这届最连贯的政策文件，我希望大体成功，也认识参与者。难的是政策落地，作为AI研究者我不知怎么做，但许多内容实际。国家正大建AI，虽有用水等问题，但应该能建设而不破坏当地，值得投入。
联邦政府可以设议程，把开放权重列为优先考量，让大家想到，这是它能做的重要部分。
对教育、人才也很重要。若只有闭源，下一代怎么贡献？只有加入公司后才学，那又如何识别、招聘人才？开源是教育大众、训练下一代研究者必需，是唯一方式。
如果想更病毒传播，我可以讲中国AI与威权国家结合、成为ASI接管世界，所以需要美国模型。但我刻意谈美国创新、科学，因为更现实，也是我想促成的世界。
不过任何开放权重模型都有价值。
对，我的论点是应领先。但值得说得简单，因为AI生态仍有人想基于安全风险禁止发布开放模型。实际上，不给美国建自己的防火墙就不可能，而防火墙也并非特别有效。训练成本一百万到一亿美元，世界许多想有影响的人拿得出，所以各地都会训练。我们希望信息、工具自由流动，进入美国，让大家使用、学习。
要阻止，得如此重构互联网，似乎不可能。
中国大开放模型，会不会反而对美国公司是好事？你说开放通常落后一代，比如gpt-oss-120b、Gemini 3也许不是最前沿，因想确保安全。但看到DeepSeek-V3.2很棒、有人用、没有反弹或安全风险，可能鼓励开放更好模型，是正面。
完全同意。中国公司启动了一些没有它们可能不会发生的事。我几乎确定领导层讨论过。
未来主导世界的模型可能全开源吗？
取决于预期进展。若几年内饱和，而财务支持仍好，开放模型会优化得极好、运行更便宜，最终胜出。回到开源思路，更多人投入优化这些共同开放架构的服务，成为标准，还可专门做芯片，比闭源定制产品便宜得多。
AI2027叙事预测，大量集中化，AI更聪明、国家安全顾虑出现，实验室集中、高度保密，出现竞赛——
——中美军事竞赛，将军、士兵走进我们这些愉快讨论LLM的房间，说：“好，现在进入曼哈顿计划阶段。”
我认为2025、2026、2027都远不可能。电脑也可以同样论证：能力强，不想公众拿到；芯片甚至AI芯片，但华为如今也能做，虽花几年。知识没法那样封锁，今天像互联网时代不可能，我不认为会这样。
说曼哈顿计划，我一个好玩想法是，为开放模型搞类似项目其实合理，因为不太贵，可能会来，公司文化似乎改变。但同意塞巴斯蒂安说的，封锁我看不到，也没帮助。
曼哈顿计划动力是文明风险，开源模型较难如此动员。
不存在那种文明风险。
硬件上多次提英伟达，黄仁勋和它会继续赢吗？
缺点是必须不断迭代、大量制造。他们创新，但始终可能有人做根本不同的事，幸运成功。问题是采用。护城河不只是GPU，更多是发展二十年的CUDA生态。我读研究生时在生物物理、分子动力学实验室，用Tesla GPU计算，已十五年前。
长期积累才是护城河，不是芯片本身。虽现在有钱迭代、构建、扩展，但关键兼容。大公司为什么选一年只造几块芯片的冒险方案？当然选大的。但LLM也许让设计类似CUDA更容易，以前难才花十五年，现在可能复制。
会不会训练、推理算力分离，随着稳定、推理需求更多？
Groq收购据说就为此。Vera Rubin部分就是——
——有个新芯片，没有或很少HBM，高带宽内存是最贵部件之一。专做预填充，推理里大量矩阵乘法的阶段；只有自回归生成、KV缓存交换才需内存。所以有专用GPU，每FLOP总拥有成本低得多。但英伟达命运仍在AI普及。最大客户仍是超大规模公司，谷歌能做TPU、亚马逊Trainium、微软也自己做。
只要AI进展快，英伟达平台最灵活，大家想要；若停滞，就有更多时间做专用芯片。
英伟达很积极做各种产品，很有意思。
他们创造需要大量GPU的商业价值领域。
但一直创新、做很多出色研究。
大家说公司围绕黄仁勋，他深入运营，听起来很不像其他大公司。只要这种文化持续，可以期待进步，像苹果还在乔布斯时代。我相当乐观，因为为整个生态做芯片是其首要问题，其他公司未必以此为最高目标。它们会做好，但也许没那么好。
既然谈黄仁勋，我最近读历史、特殊人物。你们怎么看伟人史观，科技个人对历史方向多重要？没有黄仁勋的英伟达，没有乔布斯的苹果，没有马斯克的xAI、哈萨比斯的DeepMind？
个人让事情更早、更快。科学上，许多伟大科学家说自己恰在正确时空，最终别人也会想到。黄仁勋让GPU革命更快、更聚焦，让AI建设更快。但我仍认为ChatGPT和这种建设最终会发生，只是没这么快，大概这种作用。
这些人押某件事，有些幸运，有些不。没有他们掌舵，会更分散，像ETF对个股，个股涨跌更大，ETF均衡。最终会到，但重点是聚焦、热情。
有没有很强理由说，没有黄仁勋，就没有深度学习革命复兴？
我会说，可能晚二十年。
对，二十年……
如果没有GPU，也可能出现另一次深度学习寒冬。
那可能彻底改变历史，期间别的技术出现，文明关注转向，硅谷被不同热潮吸引。
GPU轨迹当然有规划，但另一面也有很多幸运巧合、好直觉。比如投生物物理模拟，最初是游戏，游戏大量线性代数，所以恰好擅长，后来生物物理。但总体计划未必是AI。恰好Alex Krizhevsky拿GPU说“试试训练神经网络”，效果很好。我认为只有因为买得到GPU，才发生。
若英伟达早期破产，游戏也会制造更快处理器需求。我想AlexNet、Transformer时代仍有GPU，只不知是一家极成功，还是多家小公司芯片差些。但不会晚一百年，也许十年。
也许一二三四五十年，我就是看不到英特尔、AMD做英伟达做的。
我觉得不会是现有公司。
新公司。
另一家公司会崛起。
比如Silicon Graphics之类。
对，也许某家已死公司会做到。
看起来，这些特殊领袖对世界轨迹影响极大，背后当然有出色团队。但如此集中、近乎教条的聚焦，是进步必需。
对，甚至GPT，如果没有伊利亚推动扩展，就不会存在，对吧？
达里奥也深度参与。读OpenAI历史，会觉得很疯狂，他们那么早就说“连一万块GPU，把全部算力用来训一个模型”。很多人不想这样做。
在没有任何实现迹象前相信扩展，真疯狂。又是特殊人物。百年后，假设已后奇点，不管是什么，历史学家回看，会强调哪些突破通向奇点？从图灵到今天八十年。
我觉得仍是“计算”这个总称。即使一两百年后，也未必归为AI，可能仍是计算机。只是更好利用，但根本是计算。
基本摩尔定律讨论，CUDA、GPU细节都不会被记住，软件动荡也不会，显然就是算力。
大致同意，但互联网连接与算力能合并吗，还是两者都要？
互联网可能归通信，电话、网络、卫星，计算更多是扩展。
可能互联网完全被忘，纳入电话、通信网络，只是另一表现。真正突破来自广义摩尔定律、算力增加。
人之间连接很根本。想找世界最擅长某事的人，他在世界某处，信息能流动，AI也依赖。我还在想刚说一个中央模型梦消退，演化的是不同任务有许多智能体。人已开始用不同Claude做不同事，像数据中心很多AGI，各管理、相互交流，依赖算力之上的网络、信息自由流动。但GPU网络本身也是算力扩展一部分，GPU、数据中心得通信。
神经网络本身会不会被视为特别、唯一的突破，天才般粗糙复制人脑、心智结构？
没人脑启发，大概没有神经网络，但另一方面差太多，数字与生物不同，所以可能更归为算法。
在这类计算上能大规模并行？
也可能是遗传计算、遗传算法并行，只是这个更高效、更好。
也可能如今架构的神经网络，只是通向奇点系统的小组件。
百年尺度上，更多计算、智能带来自主，会更改变社会。但工业革命记住什么？发动机，类似这里的计算机。也有其他物理变革，轧棉机、各种机器、空调、冰箱仍被记住。AI某些词也会，Transformer可能仍知名。深度学习肯定记得，但百年后AI研究者到处，Transformer可能淘汰。我猜深度学习会被记住。
AI会带来未来的什么空调、冰箱？一百年后世界不同在哪，还有人吗，到处机器人？
会有专门任务机器人。
人形？
也许半人形。某些任务会有，因为环境适合，其他任务没意义。更难想设备互动、人做什么。我很确定不会还是手机、笔记本，会是植入物吗？
按现在进步，百年后必须是脑机接口吧，除非与现实互动方式彻底改变。
但汽车超过百年，仍同样界面，没换别的，只是更好，仍方向盘、车轮。
我觉得仍会带一块实体计算设备，因为想保留私人界面。也许不像手机那样常用，但作为你与互联网间、存自己私有信息的界面，会存在。不一定像iPhone，也许用少了，但仍携带东西。
为什么智能手机体现隐私？它有摄像头，还有——
对你私有，比如加密消息、照片，知道自己的生活。取决于多看好脑机接口，整个日历都放云端吗？难想如何用接口处理视觉本可处理的信息，比如给你呈现日历。不看就知道收件箱，你向电脑发信号，就知道内容，大脑能接收非视觉输入吗？不知转变怎么发生，因为百年人类不会变。
我觉得能动性、共同体才是人真想要的。
当地社区，对。
§04原文文稿 · 4:15:10–4:24:30
亲近的人，能一起做事、赋予生活意义。我不认为在可讨论尺度上，人类生物性会离开这些。全民基本收入不解决能动性。我预计巨大财富，希望扩散，百年普通生活很不同。但要发生很多，早期发展国家要建全部基础设施、制定跨国分享财富政策，还保持独立、不被武力纳入国际秩序，这是乐观看法。
也许更好、精细、有效的社会支持体系，能减轻基本痛苦。社会转型、短期大量失业，要记住每个工作背后都是受苦的人。规模失业是真悲剧。可以讲经济、GDP、新工作会创造，但个人层面是真实苦难、个人悲剧。
开发技术不能忘。关于AI垃圾，我希望面对面人类体验的根本方面越来越珍贵，比如见面、一起聊天。
未来几年，实物、活动价值一定提高，同时垃圾压力更大。垃圾才开始，未来会更多样——
会被淹——
——各种垃圾。
被垃圾淹没，是这个意思？
我希望社会被淹到足够程度，清醒说“受不了，没意义，大家都应付不了”。于是实体价值大增。
典型例子，我真觉得我们会厌倦，已经有点。艺术也不会消失。实体画比复制品更有价值，不只钱，而是欣赏。即使完美数字复制，去博物馆看真迹，想“这是人做的”，像手艺，会珍惜。
写作、对话、任何体验同理。不幸可能分叉，一些自动化。画作不像两百年前那么多，更多照片、复制品。但不会消失，仍有价值，只是比例不同。我个人难读明显AI生成的东西，可能信息好，但就是感觉不适合我。
最终会骗过你，需要平台提供验证、建立信任。你来过这里，就信莱克斯不是AI生成，信这个渠道。但新人没这种信任，更难。
会有趣。根本上可通过信任某些媒体不会这样做解决，但都依赖信任。有系统认证真假，有些明显迹象可辨AI，有些太好难辨，就得信任，会有意思，也有问题。
极端做法是给所有人类内容水印，比如自己拍的照片，直到编辑才变化。软件与设备厂商通信，维护人类编辑记录，反而不是给AI图加水印。因为谷歌图有水印，还可另用谷歌工具去除。
对，基本会是军备竞赛。
我们主要关注AI积极方面。但所有能力，即使相对愚笨的AI，大规模应用也能动摇文明，更不用说未来超级智能。发展技术，也要多少考虑悲观灾难观点。人类文明未来，什么让你有希望？我们会好吗？
我觉得会。我确实担忧AI、非AI各种事，但人类往往找到办法。人本来就是为了共同体、解决问题，才走到今天。AI及相关技术机会很大，但让人人理解，有重大社会政治问题。眼前世界可怕、AI不确定，需要很多不只是造东西的工作，而是告诉人、理解人，这些历史上不是AI建设者有动力或想做的。
但可能做得到，只是比大家想的久。要持久收益，就得经历那段漫长、艰难、焦虑的AI讨论。
对，我尤其兴奋，这个过程让我们更理解个人、文明，回答意识等大谜题。意识似乎真特殊，心智有真实奇迹。AI像镜子，让我们回答这一切到底怎么回事。
这也是我认为人和AI很不同、不担心AI接管的原因，像你说的意识。人决定想做什么。目前实现的AI，我看不到它会改变，仍得告诉它做什么。能动性仍在你手里，它是工具，不会夺走。它比旧工具更自动，比锤子强，能自行弄清东西，但仍是你掌控，不是AI。你告诉它，它替你做。
所以奇点后、人机末日战争里，你说人类值得为之战斗？
百分百。《终结者》基本八十年代就拍了。我能想到出错的唯一情况，是明确编程让它做有害之事。
我觉得真到《终结者》，人类会赢，我们太聪明，很难解释怎么找到办法，但会找到。可能还用本地、开源LLM帮忙战机器。原谅荒唐。内森、塞巴斯蒂安，我喜欢你们很久，终于见面很荣幸。谢谢你们带给世界的一切、优秀书籍、教导，也谢谢今天聊天，很开心。
谢谢邀请，拥有这种人际联系，确实——
——极其珍贵的人际联系。感谢收听与塞巴斯蒂安·拉施卡、内森·兰伯特的对话。想支持播客，请看简介赞助商，也有联系、提问、反馈链接。最后送上爱因斯坦的话：“不是我多么聪明，而是我与问题相处得更久。”感谢收听，希望下次再见。