← Lenny's Podcast: Product | Career | Growth

AI 工程入门 101:Chip Huyen(Nvidia、斯坦福、Netflix)

Al Engineering 101 with Chip Huyen (Nvidia, Stanford, Netflix)

Episode 2025-10-232025-10-23简体中文

Guests: Chip Huyen

Al Engineering 101 with Chip Huyen (Nvidia, Stanford, Netflix)
Listen to this episode00:00 / 1:22:35
Reading settings
Reading preferences
Text size
Download in-depth read
Read offline

English · In-depth read · Current version

Downloads are not available yet.

Full transcript · Read the full conversation in order, with its original context.

Contents1 chapter§01原文文稿 · 00:00–1:22:07

§01原文文稿 · 00:00–1:22:07

00:00一个经常被问到的问题是:‘我们怎样才能跟上最新的 AI 新闻?’你为什么需要跟上最新的 AI 新闻?如果你去和真正了解自己想要什么、不想要什么的用户交流,再看看反馈,你实际上就能让应用得到大幅得多的改进。

00:15很多公司正在构建 AI 产品。很多公司在构建 AI 产品时,过得并不好。

00:19我们正处在一场理想的危机中。现在我们有各种非常酷的工具,可以从零开始做任何事情、采用新的设计。它可以帮你写代码,也可以帮你做网站。所以从理论上说,我们应该看到更多成果,但与此同时,人们却不知怎么就卡住了。他们不知道该构建什么。

00:33关于 AI 的这些炒作,数据实际上显示,大多数公司试用之后并没有得到多少效果,随后就停止了。你觉得这里的差距是什么?

00:38生产力确实很难衡量。所以我会让人们问问自己的经理:‘你是愿意给团队里的每个人订购非常昂贵的编码代理,还是愿意增加一个编制?’几乎所有经理都会说要增加编制。但如果你问副总裁级别的人,或者管理很多团队的人,他们会说:‘我想要 AI 助手。’因为作为经理,你仍然在扩张,所以对你来说,一个人力编制很重要。而对高管来说,你可能更关心其他业务指标。因此,你真正需要思考的是,哪些因素会推动与你相关的生产力指标。

01:11今天的嘉宾是 Chip Huyen。很多人会分享如何构建优秀 AI 产品以及行业走向,但 Chip 亲自打造过多个成功的 AI 产品、平台和工具。她曾是 NVIDIA NeMo 平台的核心开发者,也曾在 Netflix 担任 AI 研究员,还在斯坦福教授过机器学习。她是两次创业者,也是 AI 领域两本最受欢迎书籍的作者,其中包括她最近出版的《AI Engineering》。这本书自发布以来一直是 O’Reilly 平台阅读量最高的书。她还与许多企业合作过 AI 战略,因此能看到各种公司内部实际发生的事情。在这次对话中,Chip 解释了许多基础概念,比如预训练和后训练究竟是什么样的、什么是 RAG、什么是强化学习、什么是 RLHF。我们还讨论了她在构建优秀 AI 产品方面学到的一切,包括人们以为需要做什么,以及真正需要做什么;也谈到了公司最常遇到的陷阱、她看到生产力提升最明显的地方,以及更多内容。本期对话的技术性高于我做过的大多数访谈,适合希望深入了解 AI 的人。如果你喜欢这档播客,别忘了在你常用的播客应用或 YouTube 上订阅并关注。如果你订阅我的通讯年付方案,还能免费获得 16 款很棒产品的一年使用权,包括 Devin、Lovable、Replit、Bolt、n8n、Linear、Superhuman、Descript、Wispr Flow、Gamma、Perplexity、Warp、Granola、Magic Patterns、Raycast、ChatPRD 和 Mobbin。前往 lennysnewsletter.com,点击 Product Pass。接下来,在一段赞助商口播之后,就请听 Chip Huyen 的访谈。本期由 Dscout 赞助。如今设计团队既要快速推进,也要把事情做好,而 Dscout 正是为此而来。Dscout 是面向现代产品和设计团队的一体化研究平台。无论你是在做可用性测试、访谈、问卷,还是在真实环境中开展田野研究,Dscout 都能让你轻松接触真实用户,并快速获得真实洞察。你甚至可以直接在平台内测试 Figma 原型。不用来回切换工具,也不用追着失联的参与者跑;借助业内最值得信赖的参与者面板和 AI 驱动的分析,你的团队可以在不牺牲速度的情况下更有把握地构建更好的产品。如果你想简化研究、加快决策并产生有影响力的设计,请访问 dscout.com 了解详情。就是 D-S-C-O-U-T.com,获取让你自信推进所需的答案。你知道吗?我的播客和通讯有一整个团队在帮忙。我希望团队里的每个人都非常开心,并能在自己的岗位上茁壮成长。Justworks 知道,员工不只是员工,他们也是你的人。我的团队分布在科罗拉多州、澳大利亚、尼泊尔、西非和旧金山。如果没有 Justworks,要在国际范围内雇人、按时用当地货币发薪,并全天候回答 HR 问题,我的生活会复杂得不可思议。但有了 Justworks,这些事情都很简单。无论你是在搭建自动化薪资系统、提供优质福利,还是进行国际招聘,Justworks 都为你和你的员工提供简单的软件,以及小企业专家提供的全天候人工支持。他们会把人力资源工作做好,让你能更好地对待员工。Justworks,为你的人而来。Chip,非常感谢你来这里,欢迎来到播客。

04:34嗨,Lenny。我一直很喜欢这档播客,也喜欢了很长时间,所以非常高兴能来参加。谢谢你的邀请。

04:40我想从你不久前在 LinkedIn 上分享的一张表格或图表开始。它后来传播得非常广,我觉得是因为它触动了很多人的痛点。我先读一下这张表,观看 YouTube 的观众也会看到它。这是一张非常简单的表格,列出了人们以为能改善 AI 应用的事情,以及实际上能改善 AI 应用的事情。人们以为有帮助的包括:跟上最新 AI 新闻、采用最新的智能代理框架、纠结该使用哪种向量数据库、不断评估哪个模型更聪明,以及微调模型。而真正能改善 AI 应用的事情包括:和用户交流、构建更可靠的平台、准备更好的数据、优化端到端工作流,以及写出更好的提示词。你觉得为什么这张表会触动这么多人的神经?如果必须把它归结为一点,你觉得人们在构建成功的 AI 应用时遗漏了什么?

05:30一个经常被问到的问题是:‘我们怎样才能跟上最新的 AI 新闻?’我会说:‘为什么?你为什么需要跟上最新的 AI 新闻?’我知道这听起来非常反直觉,但外面的新闻实在太多了。很多人还会问我:‘我该如何在两种不同技术之间做选择?’比如最近有人会问 MCP 和 agent-to-agent 协议哪个更好。我的建议是,先问一个更基本的问题:‘采用最优方案和非最优方案,最多能带来多大的改进?’有时候他们会说:‘其实差别不大。’我就会说:‘既然改进不大,那你为什么要花这么多时间争论一个对性能影响不大的问题?’他们还会问:‘如果采用了新技术,之后要把它替换掉会有多难?’有时他们会说:‘我觉得替换起来会很费工。’这时我会想:假设这里有一项新技术,很多人还没有验证过,而且一旦采用就可能永远被它绑定,你真的想采用吗?对于未经充分验证的新技术,也许你应该三思,不要过度承诺。

06:49我很喜欢你更广泛的建议:构建成功的 AI 应用其实很简单,就是和用户交流、把数据做得更好、写出更好的提示词、优化用户体验,而不是一味追逐‘现在最新、最厉害的是什么’‘当前应该用哪个最佳模型’或者‘AI 领域发生了什么’。我想沿着微调,也就是后训练这个话题继续聊。AI 领域有很多人们听到的术语,我觉得这是一个很好的机会,可以让大家了解我们实际在讨论什么。毕竟你亲自做过这些事情、构建过这些东西,也和企业一起做过。接下来我会在对话中穿插几个术语,但我们先从一个开始:你怎样用最简单的方式帮助大家理解预训练和后训练有什么区别?微调在其中处于什么位置?微调到底是什么?

07:34Chip 先说明一下,我并不能完全了解那些神秘而封闭的前沿实验室究竟在做什么。但根据我听到的信息,我认为其中一种方式是监督微调:你有演示数据,还有一批专家,他们会说:‘这是一个提示词,这是答案应该有的样子。’然后你训练模型去模仿人类专家。很多人也会这样做,所以开源模型会通过蒸馏来完成这件事。他们不是让人类专家为提示词写出非常好的答案,而是让非常流行、很出色的模型生成回答,再训练较小的模型去模仿这些回答。有时你会看到人们……顺便说,我非常欣赏开源社区,但能够训练出模仿现有优秀模型的模型,和从头训练出一个真正优秀的模型是完全不同的。前者已经是一大步了。对,我们有监督微调;还有一个非常重要的东西,我不确定你之前是否已经请嘉宾谈过,那就是强化学习无处不在。

08:52我们先停一下,因为我确实想花时间讨论这个话题,而且它在我的访谈中越来越常出现。不过,先总结一下你刚才分享的内容,我觉得这非常重要。这里的想法是:模型本质上是一段算法代码,有人编写这段代码,然后前沿模型把整个互联网的内容都喂给它,基本上让它通过在所有这些数据上预测下一个词来进行自我测试。严格来说,应该用 token 来理解,但更简单的说法是预测文本中的下一个词。当它预测错误时,就会调整一些被称为权重的东西。即使只停留在非常表面的层面,这样理解是否大致正确?

09:35我把语言建模理解为一种编码语言统计信息的方式。比如我们都会说英语,所以我们对什么更有统计可能性有一种感觉。如果我说‘我最喜欢的颜色是……’,你会说:‘好,后面应该是某种颜色。’相比某个无法辨认的词,blue 出现的可能性会高得多,因为从统计上说,blue 更有可能出现在‘我最喜欢的颜色是’后面。所以,这是一种编码统计信息的方式。当你用大量数据进行语言建模训练时,会看到很多语言和很多领域,于是它就能判断,好的,基本状态是这样。用户输入提示词后,模型可以给出最有可能出现的下一个 token。顺便说,这其实并不是一个新想法,它的源头非常久远,可以追溯到 1951 年一篇关于英语熵的论文,我想作者是 Claude Shannon,那是一篇很棒的论文。这里还有一个我很喜欢的故事:你读过《夏洛克·福尔摩斯》吗?

10:39读过几本《夏洛克·福尔摩斯》。

10:41对。故事是这样的:夏洛克·福尔摩斯曾利用这种统计信息来帮助破案。有人留下了一条由许多简笔人形组成的信息。福尔摩斯知道,在英语中最常见的字母是 E,于是认为最常见的简笔符号一定代表 E。然后他就这样继续推断下去,不过这里有一段我听不清楚。这个例子体现了语言建模:只是他在字符层面做这件事,而不是在词层面;token 处于两者之间。token 不完全是一个词,但比字符大。之所以使用 token,是为了缩小词汇表:字符的词汇量很小,英语字母表只有 26 个字符,但单词可能有数百万个;token 可以在两者之间取得平衡。比如有一个新词,假设是 podcasting,它可以被拆成 podcast 和 ing。人们知道 podcast 的含义,也知道 ing 表示动词的现在分词之类的语法信息,所以即使没见过 podcasting 这个完整单词,也能理解它。这就是 token 的作用。至于预训练,本质上是编码语言的统计信息,让模型预测最可能出现的内容。我觉得‘最可能’是最简单的理解方式,因为它实际上是在构建一个分布:下一个 token 有大约 90% 的概率是某种颜色,10% 的概率是别的东西。模型会根据采样策略从这个分布中选择。你的采样策略是始终选择最可能的 token,还是选择更有创造性的结果?我认为采样策略极其重要,它可以大幅提升性能,却常常被低估。

12:49好,所以从本质上说,模型就是带有一整套权重的代码,也就是一个学会预测在特定词语和短语之后会出现什么的统计模型?

13:03对。

13:03然后,后训练,尤其是微调,做的就是同一件事。预训练会得到 GPT-5;微调则是有人拿着 GPT-5,针对特定用例和他们认为必要的数据,做类似的训练,稍微调整这些权重。这样理解是否简单明了?

13:24对。我认为权重其实就是函数。比如说,你有一个函数,可能是 Lenny 的身高等于 1X 加上某个东西,或者 2X 加上某个东西,而这个‘加上的某个东西’就是权重。你不断调整它,直到它符合正确的数据,也就是我的身高和你的身高。你可以把权重理解成函数里的一个权重。训练就是调整权重,让函数符合训练数据。

13:54太棒了。好,我们正在讨论预训练、后训练和微调。关于这些到底是什么,以及人们需要理解的训练环节,还有什么重要内容吗?

14:06绝大多数时候,我们不会碰预训练模型。作为用户,我们根本不会使用预训练过程本身。

14:12对,它已经替我们完成了。

14:13对。我有个朋友训练模型时,我觉得其中一个有趣的过程是,他们会先拿预训练模型来玩,但模型表现糟糕得不得了。它们会说一些让人觉得‘天哪’的话,真的很离谱。所以,观察后训练能在多大程度上改变模型行为很有意思。我认为这也是如今很多人、包括前沿实验室投入精力的地方:后训练。预训练被用来提升模型总体的能力上限,而提升能力需要大量数据和更大的模型规模。但在某个阶段,我们已经把互联网上的文字数据用得差不多了。很多人正在尝试音频、视频等其他数据,也都在思考新的数据来源。但在后训练方面,情况是大家的预训练数据都很相似,所以如今真正拉开差距的地方是后训练。

15:21这正好引出你刚才提到的监督学习和无监督学习。我很喜欢我们聊到这里,顺便说,这非常有意思。你提到了标注数据。基本上,监督学习就是让 AI 在已经有人标注的数据上学习,并告诉它哪些是正确的、哪些是错误的。比如这是垃圾邮件,那不是垃圾邮件;这是一个好的短篇故事,那不是一个好的短篇故事。我们之前请过许多为这些实验室提供服务的公司的 CEO,比如 Mercor、Scale、Handshake,还有 Micro 和其他几家。所以,这些公司本质上是在为实验室提供标注数据和高质量训练数据,对吗?

15:57可以这么说,但我认为它更像是一个大型方程的产物,包含的组成部分远不止这些。这也是我刚才谈强化学习的原因。我不确定你的 CEO 访谈中是否提到过这个术语。设想你有一个模型,给它一个提示词,它生成一个输出。你希望通过强化来鼓励模型生成更好的输出。于是问题就变成:我们怎么知道一个答案是好是坏?通常人们依靠各种信号。最初判断好坏的一种方式是人类反馈:给人两种回答,让他判断哪一个更好。之所以这样做,是因为人类很难给出一个具体分数,但比较两个选项容易得多。如果你让我给一首歌打分,我不是音乐家,也不知道这首歌有多难,于是我会说‘我不知道,十分制就打六分吧’。一个月后再问我一次,如果我已经忘了之前的回答,也许我会给七分,也许四分,我自己也不知道。但如果你给我两首歌,问我生日派对更愿意播放哪一首,我就能做出选择。所以比较容易得多。你先收集人类反馈,再用这些反馈训练奖励模型,让它判断某个模型输出是好是坏,然后引导模型生成更好的回答。另一种方法是不依赖人类,而是让 AI 判断回答是好是坏。如今人们还非常重视可验证的奖励:比如给模型一道数学题,模型给出一个解答,预期答案是 42;如果它没有给出 42,那就是错的,也不是一个好的回答。所以,人类劳动者经常需要先创造专业问题和预期答案,也有一些可以验证的系统,以便模型据此训练。

18:19好,我很高兴你谈到了这里。这本质上就是 RLHF,也就是基于人类反馈的强化学习,这正是我也想讨论的话题,对吧?

18:29对。我认为它是一种通用的学习方式,是一种训练。至于它从人类反馈、AI 反馈,还是可验证奖励中学习,我觉得都只是收集信号的不同方式。

18:44太棒了。我们之前请过 Anthropic 的 CEO 来播客,他谈到了他们版本的 RLHF,也就是 AI 驱动的强化学习。我很喜欢你刚才的表述:你想帮助模型、强化正确的行为和正确的答案,这就是实现它的方法。无论是工程师看到模型的输出并说‘不,我会用另一种方式写这段代码’,还是训练另一个与原模型配合的模型来告诉它自己是否正确,大致是这样吗?

19:15对。

19:16好。

19:16我认为可以这样理解。我觉得这个领域如今非常令人兴奋,是因为模型开发者希望模型在很多需要领域专家的任务上表现出色。假设你是一名会计师,也许你想让模型处理会计任务,那就需要大量由会计师提供的会计数据示例。你得雇佣很多会计师;还可能有人专门处理物理问题、法律问题或工程问题。有人还告诉我,他们希望用代码来解决科学问题,而不只是用代码构建产品,那又是完全不同的领域。此外,模型可能还需要学习非常具体的工具。我不知道你使用哪些应用,也许是某个应用、QuickBooks 或 Google Sheets。它们都有非常具体的工具和专业知识,而你希望模型学会这些东西。因此,需要大量该领域的人类专家创建训练数据。这是一件规模巨大的事情,因为每个人都想要大量数据,而且预算似乎无限。但这也带来一些低调却很有意思的经济学问题。前沿实验室的数量非常少,但它们想要大量数据;与此同时,提供相关数据的创业公司或企业却非常多。你可以看到一些数据标注创业公司可能拥有很大的估值,但如果问它们‘你有多少客户’,答案可能是一个很小的数字。我不确定,也不知道你为什么笑。

21:03对,对,对,我们聊过这个。

21:05所以我有一点不安:有些公司的增长非常疯狂,但高度依赖两三家公司。同时,如果我是前沿实验室,我会思考对自己最有利的经济策略是什么。我希望有很多创业公司和供应商,这样我就能挑选;而这些供应商也会相互竞争、压低价格。但无论如何,它们仍然高度依赖少数客户。所以我觉得这整套经济关系非常有意思,很想看看它最终会如何发展。

21:42我的理解是,你对这些数据标注公司的未来并不看好。因为正如你所说,它们的客户太少,而进入这个领域的人太多,所以它们在定价上没有太多议价能力。也就是说,尽管它们是世界上增长最快的一些公司,前方仍然存在挑战。

22:00我不确定自己是不是不看好。我只是觉得好奇,因为事情往往会以我没有预料到的方式发展。也许这些公司拥有大量数据,并且能够利用这些数据获得某种洞察,帮助自己保持领先。所以我也不知道。

22:22这是一个非常公平的回答。好,既然聊到这里,我想谈谈 eval,也就是评测。这是本播客经常讨论的话题。这是这些公司提供给 AI 实验室的另一类非常需要的数据内容。你能不能用最简单的方式解释一下什么是评测,以及它如何帮助模型变得更聪明?

22:41我觉得人们处理评测时面对的是两个非常不同的问题。一个是应用构建者:假设我有一个应用,比如聊天机器人,我想知道这个聊天机器人是好还是坏。最先想到的事情就是需要对它进行评估。另一种情况是任务特定的评测设计。假设我是模型开发者,想让模型更擅长写代码,那我会问:‘我究竟该如何衡量代码写作?’这就需要有人理解代码写作,思考什么让一个故事变得好,然后设计一整套数据集和标准来评估代码写作。因此,评测设计很有意思,包括制定工作标准、撰写指导原则,以及培训人们如何有效地执行评测。我觉得评测非常有趣,因为它极具创造性。我看过不同的人构建的评测,会觉得:‘哇。’它一点都不枯燥,真的非常有意思。

24:01我们曾经和 Hamel、Shreya 做过一期完整的评测节目。他们谈的正是这个:为公司创建评测其实非常有趣。我们继续深入一点。网上有一场争论,我不知道这场争论有多重要,但感觉很多人花了很多时间思考一个问题:AI 产品是否需要评测?一些最好的公司说它们其实不怎么做评测,只是凭感觉推进。他们会说:‘它运行得好吗?我能感觉出来吗?’你怎么看评测的重要性,以及为 AI 应用构建评测的能力?这里说的不是模型公司,而是应用公司。

24:39我认为你不必做到绝对完美也能取胜。你只需要做到足够好,并且保持一致。这不是我奉行的哲学,但我和足够多的公司合作过,看到事情确实会这样发展。所以,当我问为什么一家公司不做评测时,假设你是一名高管,想推出一个新的用例。你开始了这个用例,把它做出来了,效果不错,客户也还算满意,但你没有准确的指标。流量持续增加,人们看起来很满意,也一直在购买。这时工程师来找你说:‘好,我们需要为它做评测。’你问:‘需要投入多少精力?’他们说:‘可能需要两名工程师,以及这么多时间、这么多资源。’这可能会让产品得到一些改进,于是你问:‘我能获得多少预期收益?’工程师可能说:‘也许能从 80% 提升到 82%,或者 85%。’然后你会想:‘但如果把那两名工程师用来发布一个新功能,它可能给我带来更多改进。’我认为争论的一部分就在这里。有时人们会把评测理解成:现在已经够好了,就别再动它。如果你投入大量精力做评测,得到的可能只是渐进式改进;但把精力投入另一个用例,也许通过简单的体验检查就能做到足够好。当然,我认为这确实伴随着很大风险,因为如果没有明确指标,你就无法清楚地了解应用或模型的表现,它可能做出非常愚蠢的事情,或者导致某些不可预料的严重后果。所以,如果你在大规模运营,失败可能造成灾难性后果,那么评测就非常重要。你需要严格控制呈现在用户面前的内容,理解不同的失败模式和可能出错的地方。如果某个功能或产品本身就是竞争优势,你也会想成为这方面最好的,于是就需要非常清楚地知道自己在哪里,以及和竞争对手相比处于什么位置。但如果它只是一个对用户有帮助、却不是核心的东西,也许你不需要对它过于执着或理论化。暂时做到足够好,如果失败了,那就失败了。好吧,我知道这听起来很可怕。但我认为归根结底还是投资回报的问题。我非常支持评测,也喜欢阅读评测,同时我也理解为什么有人会选择暂时不优先做评测,而是先增加新的功能。

27:32太棒了,这是一个非常务实的回答。我的理解是,评测很有价值,也很重要,尤其是在大规模运营时,但要有所取舍。不必为每个小功能都写评测。Hamel 和 Shreya 分享过一个观点:人们可能只需要针对产品中最重要的部分做五到七个评测。你看到的情况也是这样吗?还是说在生产环境中,人们通常会构建并需要更多评测?

27:54我不会把评测想成一个固定数量的问题。评测的目标是什么?评测的目标是指导产品开发。我之所以非常支持评测,是因为它能帮你发现哪些地方进展顺利,哪些地方有机会。有时我们会看到很明显的情况:查看评测后发现,产品在某一类用户群体上的表现很差,然后再去研究问题所在。结果发现,我们只是没有给他们提供好的消息传达。因此,应该把注意力放在表现不佳、而且有可能得到显著改善的地方。评测的数量确实取决于具体情况。我们见过拥有数百个不同指标的产品。

28:40哇。

28:41人们会变得非常疯狂,这是因为那种产品很通用,有很多不同的功能和名称。可能有一个评测衡量冗长程度,一个评测衡量用户敏感数据,另一个衡量长度。举个具体例子,比如深度研究:你有一个应用和一个模型,让它替你做深度研究。你输入提示词:‘请只针对 Lenny’s Podcast 做一份全面研究,告诉我它关注哪些主题、哪些视频可能获得最多观看量,或者遗漏了哪些本来应该覆盖的主题。’有了这个提示词,怎样评估结果?我不认为一个指标就能解决问题。也许你需要一百名专家,编写许多提示词,逐一查看 AI 的答案并进行评估。有人确实做过类似基准测试,但成本极高、速度极慢。另一种思路是拆解总结过程。首先,你需要收集信息;收集信息就需要进行大量搜索查询。你汇总搜索结果,然后可能发现还缺少某些内容,于是沿着另一条路径继续搜索,最后生成总结。在每一个步骤上,你都需要评测,而不是只在端到端结果上评测。比如,我第一次可能写了五个搜索查询,那么这些搜索查询的质量如何?它们是否彼此相似?如果五个查询都只是 Lenny Podcast、Lenny Podcast 上个月、Lenny Podcast 两个月前,就没什么意思。但如果关键词更多样,就会更好。再看搜索结果:你搜索‘Lenny Podcast 数据标注’,得到十页、十条结果;又搜索‘Lenny Podcast 前沿实验室’,得到十条结果。两个查询返回的网页有多少重叠?我们是否既有广度,获得了很多页面,又有深度?结果是否相关?如果搜索查询和原始提示完全无关,那当然不行。所以,我觉得每个环节都需要某种评估方式。问题不是‘我应该有多少个评测’,而是‘为了充分覆盖并高置信度地了解应用表现,同时知道它哪些地方表现不好、可以修复,我需要多少个评测?’

31:43太棒了。我还听到一个重点:尤其要关注产品中最核心的用例,也就是用户最常走的路径。

31:51对,对。

31:54好,还有一个术语我想讨论,但想换一个方向。RAG?人们经常看到这个术语,拼作 R-A-G。它是什么意思?

32:04RAG 是 Retrieval-Augmented Generation 的缩写,也就是检索增强生成。严格说,它不是一种具体的生成式 AI。它的想法是,很多问题都需要上下文才能回答。我认为它可以追溯到 2017 年的一篇论文。当时有人注意到,在一批问答基准测试中,如果给模型提供与问题相关的信息,下一个答案就会好得多。所以他们尝试从维基百科检索信息:对于某个问题,就检索相关内容,把它放进上下文中,然后回答。效果明显更好。听起来像常识,对吧?RAG 最简单的理解就是给模型提供相关上下文,让它回答问题。事情真正有意思的地方在于,早期 RAG 主要处理文本。我们会讨论很多如何准备数据,让模型有效检索的方法。并不是所有内容都像维基百科页面那样结构清晰。维基百科页面通常围绕一个主题,内容也相对完整;但很多时候,你面对的是结构奇怪的文档。假设你有一份关于 Lenny’s Podcast 的文档,开头写着:‘从现在开始,podcast 不再指 Lenny’s Podcast。’之后有人问:‘告诉我 Lenny,以及 Lenny 的工作。’由于那份文档的某个部分没有出现 Lenny 这个词,你可能就检索不到它。如果文档很长,被分成不同片段,而第二部分没有 Lenny 这个词,那一部分也检索不到。所以,你必须找到处理数据的方法,确保即使内容与查询的关系不是显而易见的,也能检索到相关信息。人们提出了许多方法,比如给数据片段增加上下文摘要或元数据;也有人使用假设性问题。针对每个文档片段,先生成一批它可以回答的问题;当用户发来查询时,再看它是否匹配这些假设问题,然后取回对应内容。这是一种非常有意思的方法。在进入下一个话题前,我想强调,RAG 的数据准备极其重要。我见过很多公司,RAG 解决方案性能提升的最大来源是更好的数据准备,而不是纠结该使用哪种向量数据库。当然,向量数据库对于延迟、读多写少或写多读少等特定访问模式很重要。但如果只看答案质量,数据准备才是关键。

35:06你说到数据准备时,能不能举个例子,让这个概念更具体?

35:16一种方式是处理数据片段。我们需要思考每个片段应该多大。假设你想检索一千个词,这是一个很简单的例子。如果数据片段很长,它更可能包含相关元数据,因此检索结果可能更丰富。但如果片段太长,而你想要检索一千个词,且每个片段本身就有一千个词,那么你只能检索到一个片段,帮助并不大。反过来,如果片段太短,你可能检索到更多相关信息,覆盖更广的文档和片段,但每个片段又太小,无法包含完整的相关信息。因此,需要精心设计片段大小。你还可以加入摘要、元数据和假设性问题等上下文信息。有人告诉我,他们获得巨大性能提升的方法是把数据改写成问答格式。比如他们有一档播客,不只是把播客切成片段,而是把它重新表述成‘这是一个问题,这是答案’,生成大量这样的问答,也可以用 AI 来完成。这就是一种数据处理。另一个我经常看到的例子,是人们用 AI 帮助处理专门领域的文档。如今很多文档是为人类阅读而写的,但 AI 阅读方式不同。人类有常识,大致知道事物是什么;即使是人类专家,也拥有 AI 不具备的上下文。比如有一个函数,某个库的文档说它的输出是某种很奇怪的术语,也许是图表上的温度,应该是 1、0 或 -1。人类专家可能理解这个尺度,以及尺度中的 1 代表什么,但 AI 并不理解。因此,可以额外增加一层面向 AI 的注释:比如说明这里的‘温度等于 1’意味着什么,它不是实际温度,而是与那个尺度相关的值。所有这些数据处理,都是为了让 AI 更容易检索回答问题所需的相关信息。

37:45本期节目由 Persona 赞助。Persona 是经验证的身份平台,帮助组织完成用户入驻、打击欺诈并建立信任。我们在节目里经常讨论 AI 的惊人进步,但这也可能是一把双刃剑。每一个令人惊叹的时刻背后,都有骗子用同样的技术制造混乱、洗钱、接管员工身份,以及冒充企业。Persona 通过自动化的用户、企业和员工验证来应对这些威胁。无论你想识别求职者欺诈、满足年龄限制,还是保障平台安全,Persona 都能按你的具体需求验证用户。最重要的是,它让你在不增加正常用户摩擦的情况下,轻松了解正在打交道的是谁。这也是 Etsy、LinkedIn、Square 和 Lyft 等领先平台信任 Persona 来保护其平台的原因。Persona 还为本节目听众提供整整一年、每月 500 次免费服务。请访问 withpersona.com/lenny 开始使用,也就是 withpersona.com/lenny。再次感谢 Persona 赞助本期节目。太棒了。你谈了一些与公司合作的经历,包括它们的 AI 战略、AI 产品、如何构建以及构建哪些工具。许多公司正在构建 AI 产品,但很多公司做得并不顺利。我想花点时间聊聊:你从那些做得好的公司身上学到了什么。首先是公司内部 AI 工具及工具总体的采用问题。最近围绕 AI 有很多炒作,但数据显示大多数公司试过之后并没有获得多少效果,于是就停了。那么,你看到企业内部采用 AI 工具的情况是什么样?

39:32我看到企业里的生成式 AI 工具大致有两类。一类用于内部生产力,例如编码工具、Slack 聊天机器人和内部知识工具。许多大型企业会在模型外包一层,接入不同类型的 RAG 方案。我们谈过数据或基于文本的 RAG,但还没有谈智能体式 RAG 或多模态 RAG,这本身是个非常令人兴奋的领域。它的基本作用是让员工访问内部文档。比如有人问:我怀孕了,产假或陪产假政策是什么?某项医疗操作是否在健康福利覆盖范围内?我想推荐朋友来面试,流程是什么?因此,很多公司会用内部聊天机器人帮助处理内部运营。另一类更面向客户或合作伙伴。产品客服聊天机器人就是很大的类别。如果你是一家酒店连锁企业,可能会有预订聊天机器人,而这类机器人数量很多。我有个看法:许多公司之所以追逐某些应用,是因为很难衡量具体结果;但预订或销售聊天机器人的结果很清楚。你可以比较现在由人工接待时的转化率,以及使用聊天机器人后的转化率。结果相对明确,所以公司更容易接受这类方案。因此,面向客户的聊天机器人很常见。对于面向外部客户的工具,人们会被明确的结果所驱动,是否采用主要取决于他们能否看见结果。当然这也不完美,有时结果不好,并不一定是想法或应用本身不好,而是构建过程不够好。这很棘手。内部工具或内部生产力工具的采用则更棘手。我认为 AI 战略通常有两个关键方面:用例和人才。你可能有很好的数据和很好的用例,但没有人才,就做不成。生成式 AI 刚开始时,我很欣赏许多公司的一点是,它们会说:我们需要让员工非常了解生成式 AI、具备 AI 素养。于是它们为团队引入一批工具,提供大量技能提升研讨会,鼓励学习,也愿意花很多钱买订阅,让员工更具备 AI 素养。问题在于,有些公司会说:我们在这些工具上花了很多钱,虽然能看到使用记录,但员工似乎并没有怎么用,问题出在哪里?这确实很棘手。

43:20你觉得问题是什么?只是他们不知道怎么用吗?这里的缺口是什么?你觉得许多公司最终会不会进入一个阶段,因为 AI,工作方式彻底不同?

43:32核心问题还是很难衡量生产力。我会和很多人讨论这一点,先说编码。许多公司并没有使用编码代理或 AI 编码工具。我会问:你觉得它提升了生产力吗?很多时候得到的回答是:我感觉好像更好了。接着有人会说,我们有更多 PR,代码也更多了;但当然,代码行数不是好指标。所以这非常棘手。我通常和副总裁级别、管理多个团队的人合作,会让他们去问经理:你是愿意给团队每个人订很贵的编码代理,还是愿意多一个编制?几乎所有经理都会选编制。但如果你问副总裁或管理很多团队的人,他们会选 AI 辅助工具。原因或许是,作为经理,你还在扩张,增加一个人对你意义很大。你选择它未必是出于生产力,而是因为想有更多人为你工作;高管则更关心业务指标,因此会思考真正驱动生产力的因素。这并不一定意味着 AI 从根本上让人更高效,也可能只是我们没有衡量生产力提升的好方法。另一个有趣现象是,员工群体对 AI 辅助工具的反应不同。还是以编码为例,因为它很大,也比较容易推理。有人把工程师私下分成表现最好、一般和最弱三组,然后在每组中随机让一半人使用 Cursor。随着时间推移,他认为表现最好、资深的工程师获得了最大的性能提升,其次是中等表现者。他的解释是,高表现工程师本来就有良好的做法,也知道如何解决问题,所以能更好地利用工具。表现最弱的人可能不太在意工作,容易进入自动驾驶状态,让工具生成代码就提交,或者根本不知道怎么做。可另一家公司却说,资深工程师最抗拒使用这些工具,因为他们更有主见、标准也高,觉得 AI 写的代码很差,所以非常抗拒。我还没能把这些相互矛盾的报告协调起来。

47:39这很有意思。我确认一下自己听到的故事:有一家公司把工程团队分成三组,分别是表现最好的、中等的和表现最弱的工程师,然后让其中一部分人可以使用 Cursor。给他们的是 Cursor 吗?

48:03我想是 Cursor。

48:04好。然后在……

48:05我没有和那家公司合作,这是朋友公司的事。

48:08明白,是朋友的公司。

48:09对。

48:09他们是让高表现工程师中的一半用 Cursor、另一半不用,还是怎样分组的?

48:14对,他们让全公司的大约一半人获得使用权,但每个分组里都是一半。

48:18哇。

48:19然后他们观察生产力的差异。

48:21我明白了。他们到底怎么做到的?就是直接说:你可以用 Cursor,你不可以用?这太有意思了。

48:31我没有深入了解具体机制,但我当时想:我很尊重你们做了这样的随机试验。

48:33太酷了。

48:33是的。

48:34这个工程团队有多大?是几百人吗?

48:38没有那么大,大概 30 到 40 人。

48:4330 到 40 人,明白。

48:44对。

48:44哇。所以他们发现,表现最好的工程师从 AI 工具中获益最多,其次是中等表现者,最后是表现最差或最低表现者。

48:59但各处的情况也并不一样。

48:59对,对,对。

48:59有些公司的情况不同。

49:03对。你分享的另一个例子是,某家公司里资深工程师最抗拒改变工作方式,我能理解。我确实觉得,除了像你这样的机器学习研究员和 AI 研究员,目前最有价值的人就是资深工程师。因为初级工程师做的很多事情现在已经可以由 AI 完成;而懂得自己在做什么、理解大规模系统如何运作的工程师,借助 AI 工具就像有无限多个初级工程师听命于他,这是一种极其有价值、很强大的资产。

49:39是的。从公司看到的情况也让我更加珍视那些真正理解整个系统、能很好解决问题、以整体而非局部方式思考的工程师。有些公司告诉我,它们现在的工作方式已经完全不同了。它们重组了工程组织,让更多资深工程师参与同伴评审,并由他们撰写什么是良好工程实践、流程应当如何的指南。它们会写下很多如何高效工作的流程,再让更多初级工程师产出代码、提交 PR,而资深工程师更多承担评审。这可能是在为未来做准备。另一家公司也说了非常类似的话:未来可能只需要一小群极强的工程师来制定流程、审核将要进入生产环境的代码,再让 AI 或初级工程师来产出代码。但问题就变成了:一个人怎样才能成长为非常强的资深工程师?

50:54对,没错,没错。这就是问题。

50:57对,所以我一直在想,这个培养过程会是什么样。

51:01没人思考这个问题,这是个问题。再过 10 年、20 年,我们可能不会再有工程师了,因为没有人雇初级工程师。不过也可以换个角度:如今刚进入计算机科学领域的初级工程师,天生就是 AI 原生的一代。理论上可以说,如果他们保持好奇,不把学习和思考都委托给 AI,而是用 AI 学习如何更好地编程和正确地做架构,他们会很快变得很厉害,也可能成为未来最成功的工程师。

51:33我认为这和我刚才提到的架构有关,我把它归入系统思维。我觉得这是一项非常重要的能力。AI 可以帮助自动化许多彼此割裂的技能,但知道如何把这些技能结合起来解决问题很难。我看过一场 Mehran Sahami 和 Andrew Ng 的线上讨论。Sahami 是我很喜欢的教授之一,曾任斯坦福计算机系课程负责人,长期思考计算机科学教育,以及在 AI 编程时代学生应当学习什么。Andrew Ng 当然是 AI 领域的传奇。Sahami 教授说了一件很有意思的事:很多人以为计算机科学就是编程,但其实不是;编程只是达到目的的手段。计算机科学是系统思维,是用编程解决真实问题。随着 AI 自动化更多工作,问题只会变得更大;理解问题成因、设计一步步解决方案的过程永远都会存在。我在用 AI 调试方面就遇到过许多问题。不知道你是否经常用 AI 编程,但我和朋友都发现:任务非常清晰、定义明确时,它表现不错,例如写文档、修复特定功能,或从零构建一个不必与大型既有代码库交互的应用。可一旦任务更复杂,需要与其他组件交互,它通常就不太行。比如我曾用 AI 部署一个应用,试用一个自己不熟悉的新托管服务。AI 确实给了我尝试新工具的信心。以前尝试新工具时会先读文档,现在我会想,先试试、边做边学。我测试这个新托管服务时不断遇到 bug,非常烦人。我让 AI 修复,它不断换办法:改环境变量、改代码、换函数、换语言,猜测也许它不处理 JavaScript,等等,但都没有用。最后我决定自己读文档,看看问题在哪。结果发现我使用的是另一个套餐层级,我想要的功能在这个层级并不可用。AI 一直在不同组件上尝试修补,而问题其实来自另一个组件。因此,你需要理解不同组件如何协同工作、问题根源可能在哪里,并从整体上看待它。这让我想到,怎样教 AI 系统思维?或许可以让人类专家给它非常多的脚手架,比如针对某类问题依次检查这里、那里和那里。但这也让我思考,怎样教人类系统思维。我觉得这项能力非常有趣,也非常重要。

55:04这和 Bret Taylor 在节目里分享的洞见完全一样。他是 Sierra 的联合创始人,创建了 Google Maps,也做过 Salesforce、Quip 等公司的 CEO。我问他,人们是否应该学习编程。他的观点和你说的一样:上计算机科学课并不是为了学习 Java 和 Python,而是为了理解系统如何运作、代码如何运行、软件广义上如何工作,而不只是学会一个函数做一件事。还有一点我想请你帮大家理解:你写了一本《AI Engineering》,本质上是在帮助人们了解一种新类型的工程师。你区分机器学习工程师和 AI 工程师的方法很简单,对如今的产品经理也很有对应性,即 AI 产品经理和非 AI 产品经理。按你的说法,机器学习工程师自己构建模型,AI 工程师利用现有模型构建产品。你还有什么要补充的吗?

56:05我很不喜欢写书的一点是必须下定义,因为任何定义都不可能完美,总会有边界情况。但大体上,生成式 AI 越来越像一项服务:有人替你构建模型,基础模型的性能已经相当不错。这让人们可以说,好,现在我想把 AI 集成进产品,不必先深入学习构建模型的全部知识,尽管懂这些确实会有帮助。它大幅降低了想用 AI 构建产品者的门槛;同时,AI 能力又足够强,拓展了 AI 可以应用的场景类型。因此,进入门槛很低,对 AI 应用的需求却大得多。这令人非常兴奋,打开了一整片新的可能性。

57:04对。你不必再花时间构建这个 AI 大脑,可以直接用它做事,这是一种巨大解锁。最后一个问题:你看到了很多有效和无效的做法,也能看到发展方向。如果看未来两三年,你觉得产品构建会有什么不同?公司工作会有什么不同?未来几年公司工作方式最大的变化可能是什么?

57:40很多组织行动并不那么快,但它们也比我预期快。我有选择偏差,因为我不会和不关心这件事的“恐龙公司”合作;来找我的很多高管都很有前瞻性,所以我可能偏向于看到行动快的组织。一个大变化在组织结构。过去我们有彼此割裂、边界清晰的工程团队和产品团队,但现在会问:谁应该写评测?谁拥有指标?事实证明,评测不是独立问题,而是系统问题。你必须看到不同组件如何交互,也要理解用户行为,因为只有知道用户关心什么,才能写出反映用户关切的评测。查看组件架构、设置护栏是工程工作;理解用户则是产品工作。正因为评测极其重要,产品、工程,甚至负责用户获取的营销团队会走得更近。组织重构意味着过去界限分明的职能之间有更多沟通。另一个变化是,人们正在思考未来几年哪些工作能自动化、哪些不能。团队已经在裁减某些职能,这想起来有点吓人;一些原先外包、并非核心且较易标准化的工作,可以由 AI 自动化。人们也在思考初级与资深工程师的价值,以及怎样据此重组工程组织。成功的组织会不断调整资源,思考用例,决定是否孵化新用例、由谁领导新工作。关于 AI 本身,我倾向于认为基础模型还没有完全到顶,但我们不太可能再看到过去那种极其巨大的能力跃升。GPT、GPT-2、GPT-3、GPT-4 的进步很大,而 GPT-5 相比此前的跃升是否同样巨大,值得讨论。基础模型性能的提升可能不再像过去三年那样震撼;更多改进会出现在后训练和应用构建阶段。我也很关注多模态。我们已经见到大量文本应用,音频和视频的用例也非常令人兴奋。音频还没有真正解决好。我与几家语音创业公司合作过,语音完全是另一种挑战。把文本聊天机器人变成语音聊天机器人,考量完全不同:要考虑延迟,因为流程可能是语音转文本、文本处理、由文本问题生成文本回答、再把文本回答转成语音,多个环节让延迟非常重要。还要考虑怎样听起来自然。人与人交谈时,如果你要打断我,我会暂停来听你说;但有时你只是发出“嗯哼”之类的确认声,我并不该停下,而应继续说。强制打断以及到底该不该停,是自然对话体验的重要问题。还涉及监管:许多人想做听起来像人的语音机器人,甚至试图让用户以为在和人交谈;但监管可能要求必须向用户披露对方是人还是 AI。这个领域远没有看起来那么解决完善。这不完全是 AI 基础模型问题。人类打断检测其实是经典机器学习问题,可以用分类器做;延迟则是巨大的工程挑战,未必是 AI 挑战。当然,研究者正尝试语音到语音模型,不必先把语音转文字,再由模型给出文字回答、另一个模型把文字转语音,而是直接语音到语音。我们正在做这类工作,但很难。音频已经很难,视频同时包含图像和声音,就更难了;这个领域仍有很多挑战。

64:16这是一份很棒的清单。我快速复述一下你预测未来几年工作方式会发生的变化,这些也与我在节目里听到的很多对话相呼应。第一,不同职能之间的界限会模糊,不再只是设计和工程各做各的,每个人都会做许多不同的事。第二,更多工作会由智能体和各种 AI 工具自动化,理论上生产力会上升。第三,随着模型变聪明的速度可能放缓,重心会从预训练模型转向后训练、微调等环节。不过,我想提醒大家看一下我与 Anthropic 联合创始人的对话。他提出一个很好的观点:当我们身处指数式增长中时,非常不擅长体会指数增长的感觉。而且模型发布更频繁,我们可能感受不到它们之间的差异,因为它们更频繁地发生,不像 GPT-2 和一年后出现的 GPT-3。也许对,也许不对。第四点是多模态,要投资多模态体验。我等不及 ChatGPT 语音模式更擅长处理打断了,正如你所说的:我在对它说话,有人发出一点声音,它就停下,实在很烦。

65:36我很惊讶我们家里还没有更好的语音助手。说实话,我测试过很多个;每次都希望“天哪,也许这个就是了”,但有不少最后只好送人,因为它们确实不够好。

65:49我觉得它快来了。我听说快来了。Anthropic 正在和某家公司合作,不过我不知道是否已经发布。

65:54对,我想回到你提到的 Anthropic 嘉宾关于性能提升的话题。我认为模型本身的能力与用户感知到的表现之间有很大的差别。你熟悉“测试时计算”这个术语吗?

66:20我想不熟悉。请帮我们理解。

66:26这个概念是:你的计算资源有限,可以在预训练或训练模型上投入大量计算,也可以在微调等后训练阶段投入计算。不同实验室预训练和后训练计算量的比例差异很大。模型训练和微调完成后,要服务用户,用户在提示词中输入问题,模型生成回答、进行推理也需要计算。因此有个讨论:应该在预训练、微调还是推理上花更多计算?把更多计算花在推理上,被称为测试时计算。这是一种策略,即在生成推理时分配更多计算资源,以获得更好的性能。怎么做呢?假设有一道数学题,不只生成一个答案,而是生成四个答案,再按某种标准选最好的;或者四个答案中三个说 42,一个说 20,那么就认为 42 更可信。也就是生成多个候选结果。还有一种方法是让模型在给出最终答案前生成更多思考 token,花更长时间思考。这需要更多计算,但也能提高表现。从用户角度看,当模型花更多时间探索潜在答案、思考更久时,最终答案可能好得多,但基础模型本身并没有变化。

68:16太棒了。

68:17这样说得通吗?

68:18是的,完全说得通。

68:18对吗?

68:19这和 Ben Mann 的观点形成了很好的对应。

68:23对。

68:23Chip,我们覆盖了很多内容,已经讲完了我希望了解的一切,甚至更多。在进入很令人兴奋的快问快答之前,你还有什么想分享的吗?还有什么想留给听众的吗?

68:34我与几家公司合作过,它们希望员工提出想法。AI 战略有一个很大的争论:应该自上而下还是自下而上?是由高管提出一两个杀手级用例,所有人分配资源去做,还是让工程师、产品经理和聪明的人提出点子?我认为两种方式要结合。有些公司会说,我们雇了一群聪明人,看看他们能想出什么;它们组织更多黑客松或内部挑战,鼓励员工做产品。我注意到的一件事是,很多人根本不知道该构建什么。这让我震惊,我觉得我们好像正处于某种创意危机。如今有这么多很酷的工具,可以从零开始做事,帮你设计、写代码、建网站。按理说我们应该看到更多成果,但人们却不知怎么卡住了,不知道该做什么。也许这和社会期待有关:我们进入了高度专业化的阶段,人们应该把一件事做到极致,却不再从大局看问题。没有全局视角,就很难想出该构建什么。和公司做黑客松时,我们会一起制定产生想法的指南。一个建议是回看过去一周:一周里留意自己做了什么、哪些事让你受挫。当某件事让你受挫时,想一想有没有办法改变它,让它不再令人沮丧。可以和其他人或团队交流,汇总大家的挫折点,也许就能围绕它构建些东西。我觉得,观察自己的工作方式,不断问“这怎样能做得更好”,再构建东西来解决这些挫折,是学习和采用 AI 的好方法。

70:46我觉得每次人们打开这种氛围编程工具、可以描述任何想要的东西时,都会感受到你说的情况:我不知道自己想要什么。我很喜欢这个非常实操的建议,留意什么让你受挫。举例说,我刚做了一个很酷的小型氛围编程应用。我在 Google Docs 里写一篇通讯文章,往文档里粘贴了很多截图等图片,后来才想起来,图片几乎没法从 Google Docs 里再拿出来。这像加州旅馆的体验:你可以把东西粘进去,却很难把图片取回来。于是我用各种氛围编程工具做了一个应用:给它一个 Google Doc URL,它就能让我自动下载其中所有图片。效果好得惊人,我还把它做得很可爱。我会在节目说明中放链接。

71:33哦,我很想看看。我非常看好用 AI 做微型工具,哪怕只是让生活轻松一点的小东西。

71:41完全同意。我感觉这正是人们使用这些工具的主要方式之一:解决自己遇到的一个小众问题。接下来,Chip,我们进入非常令人兴奋的快问快答。我有五个问题,你准备好了吗?

71:54对,随时。不是,不是,这要看问题有多难。

71:58这些问题对每位嘉宾都很一致,所以我想你以前听过。第一个问题:你最常向别人推荐的两三本书是什么?

72:10我其实很害怕推荐书,因为一个人该读什么书,真的取决于他想要什么、人生处于什么阶段、想去哪里。不过有几本书确实改变了我的思维方式和看世界的方式。一本是《自私的基因》。理解它甚至帮助我思考要不要孩子,因为书让人理解到,我们很多功能和行为方式都由基因驱动,而基因想做的一件事就是繁殖。从某种意义上说,这本书还提出:每个人都想永生,也许不是有意识地想,但潜意识里确实如此。有两种方式,一种通过基因,基因想延续下去;另一种是通过思想。如果你有一些想法,且它们能存在很久,它们就会继续活着。我知道这有点抽象,但我觉得很有意思。另一本我非常喜欢的书来自新加坡前领导人,我想是被称为新加坡国父的李光耀。我不太确定书名,但他在 25 年里把新加坡从第三世界国家带到第一世界国家。我从没见过哪个国家领导人如此努力地写下自己对如何建设国家的思考。书里谈很多公共政策,如何制定鼓励人们做有益于国家之事的政策,也谈外交、国家解放等。它是一本很好的思考之书。对我来说,这是系统思维,但系统是一个国家,而我们许多人一生都没有机会亲自实验这样的系统,所以值得学习。

74:13第二本书叫什么?

74:15叫《从第三世界到第一世界》。我想它就在这里的某个地方。

74:20就在那儿。

74:21是一本很厚重的书。

74:21展示一下。

74:23对。

74:23太棒了,我肯定想读。那是一个很好的推荐。我听过很多关于他影响力的事,也在 Twitter 上看过许多他关于如何建设繁荣社会的睿智见解的视频。显然,这套做法有效。

74:34对。你能相信吗?他怎么会有时间写这么厚一本书,太不可思议了。

74:39确实。Claude,请帮我总结一下。我开玩笑的。顺便说,《自私的基因》我也非常喜欢。这真是个好选择,是那种不那么广为人知、却也改变了我看世界方式的书。选得真好。好,下一个问题:你最近有没有特别喜欢的电影或电视剧?

74:56我把看电影和电视剧当作研究,因为我正在写第一部长篇小说,最近刚卖出去了。我很想知道什么会吸引人。它是一部剧情小说,不是科幻,也不是科技圈的人通常会读的那类东西,我知道这很出人意料。所以看电视剧有点像在研究:哪些故事会流行,试着理解其中的套路之类。我不确定听众会不会喜欢……

75:28那举一个吧,哪一部让你学到如何写作?

75:35我想是《延禧攻略》,一部中国电视剧。

75:37很酷。好,我以前没在节目里听过这部,挺好。

75:37对。

75:43下一个问题:当你在工作或生活中面对困难时,有没有一句经常想起、反复回到的座右铭?

75:51这听起来很虚无主义。我会说,最终没有什么真正重要。通常我会想,从宏观尺度看,十亿年后什么都不会在了,也不会有人存在。当然,会有人和我争论这点。我的理论是,十亿年后我们都不会存在;无论做了多么混乱、疯狂的事,或事情做得多糟,都不会有人记得,也不会有人在那里记得它。听上去有些可怕,但反而很解放,因为它让我觉得,好,那就去尝试吧,为什么不呢?最近我有一位家人去世,我当时无法回家。我问父亲:我能做什么让那个人舒服一点吗?父亲说:他在这个时刻还能想要什么呢?这让我感到,在生命尽头,物质没有什么能带来快乐。没有钱,没有产品,没有任何东西。于是我会想,到头来我真正关心的是什么?也许我失败了,也许没拿到合同,诸如此类;但在生命尽头,我不觉得那些真的重要。从这个意义上说,这很解放人。

77:15我知道你说这可能很虚无主义,但 Steve Jobs 也在他最著名的一次演讲中分享过类似的话:我们终有一天会死,所以别把事情看得太严重,这会让人自由。完全如此。它会让你珍惜拥有的每个瞬间、每一天,也让人觉得,好吧,就去做那件困难、可怕的事。最后一个问题:你谈到自己在写小说。大多数科技从业者从没写过创造性的虚构作品。在这个过程中,关于怎样写出更好的故事、更好的小说,你学到的一件事是什么?

77:46我们阅读时经常会被一些小事绊住。我想做创意写作,是因为我想成为更好的写作者;尝试面向不同的受众,或许能让我更擅长预判这类受众想听什么、关心什么。从这个意义上,无论是写作还是任何内容创作,都是在预测用户的反应,对吧?

78:14下一个 token。

78:15你做播客也是一样。

78:15开玩笑的。

78:17对,对。你做播客时也会想,用户会觉得什么有吸引力?许多公司推出产品时也有一个叙事,要思考怎样定位产品,用户才会想要它。我做技术写作很久了,觉得自己有一些经验,能预判工程师想听什么、关心什么;但面对完全不同类型的受众,我没有这样的经验。这正是我想做创意写作、写故事的原因,所以我做了许多研究,也看了很多剧情作品,想了解人们喜欢什么。编辑让我学到了“情绪旅程”这个概念。写作时我们关心用户在一个故事中会如何感受。开头需要一个钩子,让人继续读;但也不能有太多戏剧冲突,否则读者会疲惫,觉得自己一直被情绪操控。因此需要有情绪旅程,可能有高潮,也有比较平静的部分。另一个我以前没意识到的是,技术写作完全聚焦内容和论点,很不具有人际色彩。比如人们喜欢机器学习编译器,并不取决于他们喜不喜欢讲编译器的人,因为内容本身是客观的。但小说里,读者在乎角色是否讨人喜欢。我的故事第一版里,角色非常逻辑、理性,做每件事都很理性。一个很好的朋友读完后说:‘Chip,我得坦白说,我讨厌那个人。’故事本身无关紧要,角色太不讨喜,他就不想继续读。于是第二版让角色更讨人喜欢。做法是在她身上加入一些脆弱性,比如遭遇挫折,因为有时我们能与此共情。很多方面都很有意思,关键在于理解情绪层面:用户如何感受,不只是对故事,也包括对角色。

80:50这太有意思了。哇,我从中学到的比预想多得多,真是个很好的例子。Chip,最后两个问题。大家如果想在线上联系你、可能和你合作,或分享你提供的内容,可以去哪里找你?另外,听众可以怎样帮到你?

81:08我在社交媒体上,LinkedIn、Twitter。我不怎么发帖,但总是告诉自己应该多发些,因为我喜欢和读者交流。我也正要开一个 Substack,现在已有一个占位页。我想多写系统思维,因为我觉得那是一项很有意思的能力。我还在想做一个 YouTube 读书频道,介绍能帮助人更好思考的书。我第一本要评的书可能就是这本,因为它是我成长过程中最喜欢的一本书,我一直反复读。所以大家可以怎么帮我?请给我推荐你喜欢的、改变了你思考方式或做事方式的书,我会很感激。

82:00太好了,我很期待读那本书。

82:02嗯。

82:03Chip,非常感谢你来参加。

82:05Lenny,非常感谢你的邀请。

82:07大家再见,非常感谢收听。如果你觉得本期有价值,可以在 Apple Podcasts、Spotify 或你喜爱的播客应用订阅节目。也请考虑给节目评分或留下评论,这确实有助于其他听众发现本节目。你可以在 lennyspodcast.com 找到所有往期节目,或了解更多关于节目的信息。下期见。

— A LITTLE MORE TO THINK ABOUT. —