AI 进步的头号瓶颈是人类——Tyler Cowen
Tyler Cowen — The #1 bottleneck to AI progress is humans
嘉宾：Tyler Cowen
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
本篇目录1 章节
§01AI 进步的头号瓶颈是人类——Tyler Cowen§01AI 进步的头号瓶颈是人类——Tyler Cowen
Tyler，欢迎。
Dwarkesh，很高兴和你聊天。
为什么 AI 不会让经济爆发式增长，达到每年 20% 以上？
无论原因是不是 AI，要实现爆发式经济增长都非常困难。一个问题是，经济中的一些部门可能增长得很快，但其他部门会出现“成本病”：例如，这些部门无法很好地使用 AI。
看看美国经济。这些数字只是估计，但政府消费大约占多少？18%？医疗保健将近 20%。我猜教育占 6% 到 7%。非营利部门的数字我不太确定，但加起来，光这几项就占了经济的一半。
它们能多好地使用 AI？不能用 AI 的部门会不会马上消失、被取代？不会，可能要 30 年。所以，一些监管较少的经济部门会很快采用 AI，但这只能小幅提高增长率，不可能让整个经济每年增长 40%。
成本病的机制是劳动者数量有限，如果有一个高生产率部门，其他部门的工资也都必须提高。比如理发师的工资也得翻倍。但使用 AI 时，每家理发店和每家餐厅都可以直接拥有 1,000 倍的劳动者，而不只是 Google 可以这样。那为什么成本病在这里还会起作用？
成本病的适用范围更广。假设生产需要五种要素，突然间我们拥有了更多智能——当然，这种变化已经在发生。
这只会让系统中的其他限制变得更明显，其他要素的边际重要性上升，而不断增加智商或智能的边际价值下降。这本身也会限制增长。成本病只是这个更一般问题的一种具体表现；我们用理发师和弦乐四重奏来解释它。
如果你对一位公元前 2000 年的农民说，增长率会提高 10 倍、100 倍，工业革命后会达到 2% 的经济增长率，然后他开始谈瓶颈。现在回头看，你会怎么对他说？
我希望我会和他意见一致。我会说：“这需要很久。”他会说：“嗯，我现在还没看到这种事发生。我觉得得花很长时间。”然后我们握手告别，走进夕阳里。之后我会吃一点他的米饭、小麦或其他东西，那就太棒了。
不过你应该同意，经济增长率可以迅速加快，而且瓶颈不一定会把所有增长都抵消掉，对吧？
我不知道“应该”是什么意思。我会这么说：看看市场数据，比如实际利率和股价。现在所有指标看起来都很正常，正常得惊人，甚至没考虑 AI 也是如此。你所谓的预测市场并没有预期近期会出现极快速增长。
再看经济增长率专家的判断……昨天 Chad Jones 来过节目。他没有预测经济会飞速增长，尽管他认为 AI 很可能提高增长率。因此专家和市场的看法一致，我凭什么要反对专家？
你自己也是专家。
我站在另一位专家这边。
昨天 Chad Jones 的演讲提到，他的增长模型中最主要的变量、投入因素就是人口。如果人口翻倍，或者增加一个数量级，把这个数字代入他的模型，就会得到爆发式经济增长。
我不同意。
为什么不相信这些模型？
他的模型太像单因素模型了，对吧？只看人口。我觉得预测能力不强。世界各地能以购买力衡量的有效人口已经大幅增加，但很多地区并没有变得更有创新力。直到最近四年左右，大多数地方的创新力反而在下降。
所以关键在于最优秀的人才或机构的质量，正如你和 Patrick 昨晚讨论的那样。这方面究竟发生了什么并不清楚，而且很容易受到影响。我们需要经济学家的视角，也需要人类学家和社会学家的视角。
这些视角都重要。但我认为，越是把各种多元观点放在一起看，就越难相信只要按下某个简单的杠杆——无论是智能还是别的因素——就能实现经济增长的突破。
你刚才说增长受最优秀的人才限制，这似乎和你一开始说的互相矛盾：即便最优秀的领域得到提升，其他领域，例如餐馆，仍然会成为瓶颈。
你就是我们最优秀的人之一，对吧？你会被各种事情困住。
AGI 出现后，我觉得自己会录很多播客。
好啊，我会听的。那时我会受时间限制。
可以用一个简单的例子来说明。撒哈拉以南非洲的大部分地区仍然没有稳定的清洁用水。实现这件事所需的智能并不稀缺，但我们仍然很难做到。
我们自己在其他方面也比想象中更接近这种处境。利用强大 AI 的智能本身，也会受到其中一些限制。
大约一年前，你在《马歇尔革命》的合著者 Alex Tabarrok 写了一篇文章，谈高智商劳动力极为稀缺。假设美国劳动力有 1.64 亿人，其中千分之一是天才，那就是 16.4 万名天才。这就是为什么半导体生产要放在台湾，因为那里聚集了名义上那么多天才，而美国则把人才放在金融和科技领域。
按照这种框架，我们一下多出 1,000 倍的这类人才，瓶颈就能抵消掉所有增长吗？你问其中任何一个人：如果最优秀的同事、合作伙伴、联合创始人多出 1,000 倍，瓶颈真的会吃掉所有收益吗？组织增长速度不会提高吗？
我不同意那篇文章。如果看劳动力市场数据，智商转化为工资后带来的回报极低，几乎不显著。
非常成功的人确实聪明，但他们往往有八九个方面都能打 9 分，还有一个方面能达到 10 分制的 11.5 分。其他方面也有 8 到 9 分，而且非常有决心。
这种能力组合才会带来惊人成就。智商只是其中一个因素，而且不是特别重要。重要的是整套能力组合，而这类组合很稀缺；随后还得看它们如何与外部世界互动。
你可以去一所普通的州立大学，坐进负责制定课程 AI 使用计划的委员会里看看，然后回来告诉我结果。之后我们再谈瓶颈问题。他们会写一份报告，听起来像 GPT-4 写的。报告不成问题，我保证。
模型会拥有其他特质，比如尽责、顺从之类的。AI 会更加尽责，全天候工作。如果需要符合 FDA 要求，它们会写出 FDA 见过的最佳报告，让事情继续推进。其他这些特质不会成为瓶颈。
我非常确信，AI 会很聪明，也会尽责。我认为它们每年会让经济增长率提高大约 0.5 个百分点。经过 30 到 40 年后，差距会非常巨大，整个世界都会因此改变。
不过，在任何一个具体年份，我们都不会太明显地感觉到。很多效果更像是：原本需要 20 年研发的药物，现在 10 年就能研发出来。但最终还是得通过现有的临床试验和监管体系。
如果所有需要 20 年的事情都缩短到 10 年，长期来看差异会极大。但很长一段时间里，你不会觉得这像是一场革命。
整个“进步研究”领域的观点是：只要改革机构、调整法规，就能摘到许多触手可及或不太高的果实，迅速提高经济增长率。比如，修好 NIH 就能提升经济增长率。可是我们突然多出 10 亿人、100 亿人，都是最聪明、最尽责的人，对经济增长的提升却只有微不足道的一点。
在这两种观点之间，经济增长率的潜在提升幅度难道没有矛盾吗？
大多数生产要素都有边际收益递减。一种简单的限制是它们与法规、法律和政府的互动方式。另一个巨大的限制是能源消耗。
尤其在美国，扩大能源供应有多容易？最近我看到一些令人鼓舞的核能进展，确实很好。但多数地方不会这么做。
至于那些项目的时间表，究竟要花几年时间——我知道新闻稿怎么说——我们之后再看。可能要 10 年或更久。这只够满足你所描述愿景所需能源的一小部分。
所以沿途确实会不断出现瓶颈，整个过程都会如此。这会是一段艰难的长路，就像印刷术和电力的普及过程一样。研究新技术扩散的人从来不认为技术会快速起飞。
我的看法是，我总是站在专家一边。经济学家、社会科学家——他们大多数人对强大 AI 的潜力视而不见。他们完全没注意到。我认为他们错了，我相信 AI 专家。
但说到新技术扩散，AI 领域的人基本上又完全错了。我相信研究这个问题的专家。如果把这两种观点结合起来：各个领域都相信相应的专家，就会得出我的看法——长期而言，这一切非常惊人；但需要很久，会是一段艰难的过程，短期内处处都会遇到瓶颈。
即使你会得到 10 亿个 GPT 之类的模型——我很喜欢它们——我保证整个过程仍然需要相当长的时间。
如果先不谈 AI，因为人们听到 AI 时，会想到 GPT-4，而不是像人类一样聪明的智能系统。假设明天全球人口，也就是劳动力，翻一倍。专家会说会有什么影响？
你想预测的变量是什么？如果是能源消耗，那肯定会上升。长期来看，可能会翻一倍。
经济增长率。我不确定会不会有明显变化。世界人口翻一倍呢？
是啊，我不确定。我觉得罗默模型没有得到数据验证。我不同意 Chad Jones 的模型，尽管我很欣赏他这位经济学家。我不认为它有很强的预测能力。
看看文艺复兴时期佛罗伦萨的艺术创作。当时城市连同周边地区大概有 6 万人，但很多事情同时做对了，所以它创造出的成果至今仍然很有价值。
数量模型的预测能力并不好。
如今全球经济规模大约是 100 万亿美元。如果全球人口只有现在的十分之一，只有 10 亿、甚至 1 亿人，凭借现有技术，你觉得我们还能拥有现在这个规模的世界经济吗？
不行。人口规模的差异非常关键。这是我们从宏观经济学中学到的一点：人口变化幅度和人口总量会相互作用。
因此，规模缩小可能会毁掉一个组织。公司或非营利机构如果规模太小，往往就会垮掉、消失，最终瓦解。但这并不意味着规模增长三倍、四倍，产出也会按比例增长。
这种不对称性很奇怪。要把这种直觉真正融入对现实世界的理解，在情感上很难做到，但我认为我们必须理解这一点。
具体瓶颈是什么？为什么？
人类，就是他们。一个个都是瓶颈。你好，很高兴见到你们。有些人还很害怕，你们今后会成为更大的瓶颈。
没关系，这是言论自由的一部分。但天哪，一旦它开始改变世界的面貌，反对意见会大得多。未必是因为我所谓的末日论，而只是有人会说：“我知道这有好处，但我在另一种世界里长大，也按另一种方式教育孩子。我不想要这种变化。”
这会引发一场大规模斗争。我完全无法预测结果。但我保证，这将会成为瓶颈。
但你可以看历史，不必回到农民时代、经历工业革命那样的十倍增长。我们可以看过去确实出现过年增长率达到 10% 的案例。比如邓小平时代的中国，曾经连续几十年实现 10% 的经济增长；有些年份甚至达到 15%。这主要来自经济追赶。
你不认为 AI 能复制那种增长，或者至少有可能复制吗？邓小平上台时，存在什么瓶颈？
他们现在陷入困境。我不知道之后会怎样。他们仍然是个中等收入国家，人均收入追赶墨西哥都很困难。
我觉得现在他们可能略微超过了墨西哥。但他们属于中国社会中最不成功的一群人，部分原因就是规模。他们的庞大规模本身就是一大问题。
他们担心，如果民主化、变成普通国家，普通选民就不会保护精英的利益。所以我认为，他们是一个很好的例子，说明实现规模化有多困难：他们是地球上最贫穷的中国人群体。
我不是在问现在的问题，而是在问之前几十年，他们确实实现过 10% 的经济增长，有些年份还达到 15%。
人均收入大约只有 200 美元。
而他们的祖辈大概和 30 年前的中国人一样贫穷。
我对工业革命印象极深。你可以说，历史上最重要的事件，或者进步研究最重要的事件，可能就是工业革命。当时的典型经济增长率大约为 1.5%。
未来取决于复利增长、坚持不懈以及耐心等待长期回报。人类不会有太大变化。我认为，即使智商和尽责程度大幅提高，我们所处世界的这一属性也不会有太大变化。
九个月前我采访过你，当时问了你关于 AI 的问题。我记得你的态度大概是：“嗯，还好。”九个月后，你的态度有什么变化？
我不记得自己每个月的想法了，但总体来说，我现在比一年前更看好 AI。我觉得 AI 的进步速度超过了我的预期，而我当时已经相当乐观了。
o1 模型给我的印象很深。我认为沿着这个方向继续扩展，会产生重大影响。具体进展会有多快很难说，但我们已经有了它，只需不断改进。
你给我看过一份文档，里面列了你为 o1 设计的不同经济推理问题。
我觉得我没有用 GPT-4 来做这些题。
好，那 o1 答对了其中多少题？因为我觉得这些题我一道都答不对。
那些题太简单了，是给 GPT-4 准备的，所以我不用了。
你知道吗，我出了一百道经济学题。人类能答对多少？题目很难，但这种测试没有意义。如果有人说不到三年，某家公司的 AI 模型会经常超过人类专家，我不会感到惊讶。
你不再使用这些题，是因为它们对模型来说太简单了。这有没有改变你的看法？这些题本身客观上很难，对吧？只是对 o1 来说很容易。
这让我想起 Kasparov 第一次遇到 Deep Blue 的时候。他们下了两场比赛，第一场 Kasparov 赢了。我经历了第一场比赛。我觉得自己现在正处于第一场比赛的阶段。
但我也记得第二场比赛。最后一盘里，Kasparov 在卡罗-卡恩防御中犯了个非常低级的错误。这也是人类瓶颈的一种表现，最终让他输掉了整场比赛。所以我们得看看变化速度会有多快。
昨天 Patrick 谈到不同机构的创始人留在机构里、继续负责管理有多重要。我听你说过，披头士之所以伟大，是因为他们自己经营披头士。你认为为什么这种安排这么重要？
我认为，在很多决策中，勇气是一种稀缺投入。创始人一开始就有勇气；而且当他们要推动公司做出重大改变时，也不需要鼓起那么多勇气。
Facebook，也就是现在的 Meta，在发展过程中经历过不少重大转型。Mark 一开始就很有勇气。如果 Mark Zuckerberg 说：“我们要做这个，要做那个”，其他人就很难以合理的方式反对。我喜欢这种安排，因为有创始人能节省组织里的勇气投入，也能筛选出有勇气的人。这就是两个原因。
你刚才提到披头士的成功，怎么用创始人勇气来解释？
披头士是个有意思的例子。它们在 1970 年解散，对吧？滚石乐队还在演出。这至少说明了一些事情，但披头士创造的价值要大得多。
现在大家仍然更多谈论披头士，尽管滚石乐队还在活动。披头士内部一直不太稳定。可以把它分成两个时期：早期由 John 领头；后来 Paul 努力上进，John 则染上了海洛因。Paul 越来越出色，最后团队不再有核心，稳定状态也消失了。
披头士解散了，但那七八年里的创作张力简直不可思议。那是一支由四位创始人组成的乐队——Ringo 严格来说不算创始人，但基本上也算，因为 Pete Best 实在太差，很快就被换掉了。
这是世界上最不可思议的故事之一。我喜欢研究这些生产力惊人的案例，比如 Johann Sebastian Bach、Magnus Carlsen、Steph Curry 和披头士。我认为值得深入研究他们的经历。他们都是异类，不能简单地说：“我要成为披头士。”你会失败。披头士做到了，但仍然值得从中寻找想法、认识风险。
你怎么看 Patrick 昨天提出的“能力危机”这个观察？
我和 Patrick 看法不同，我们讨论过这件事。我认为能力分布的差异正在扩大。
处于分布顶端的年轻人表现更好，比过去更令人印象深刻。看看我们能衡量表现的领域——象棋就是个简单例子，我们可以准确衡量表现——非常年轻的人下棋越来越强。这是有证据的。就连 NBA 篮球，现在一些很年轻的球员也能做到 30 年前同龄人做不到的事。其中很多差异来自认知能力、训练、投入以及不做糊涂事。所以能力分布的顶端正在显著提高。
科学和网络写作领域也能看到类似情况。分布底端呢？青少年犯罪率从 20 世纪 90 年代以来一直在下降，所以分布最底端也在改善。我认为分布中间有一大群人，略高于底端，并延伸到中位数上方一点，这部分的表现显然在变差。
因为这部分人越来越差，所以能听到很多轶事，比如学生想延长考试时间，找各种站不住脚的借口，或者年轻人的心理健康问题等等。这类情况变多，正是因为中间有一大群人表现变差，这非常值得担忧。但我认为，分布最底端和顶端相当大的一部分都在显著改善。我觉得数字已经相当有力地证明了这一点。总体而言，能力分布差异正在扩大，而进步和退步发生在不同位置，形成了一种奇特的组合。
我对 Patrick 说过这番话，现在还要再说一次，希望能说服他。
这听起来让人担心。如果平均水平下降了呢？比如看 PISA 分数。
应该说是中位数下降。很多考试——尤其是 PISA——现在让更多人参加了。
我猜把这一点考虑进去后，成绩大致保持不变，这也不算好。我同意，成绩有所下降。
一部分原因是疫情，复苏速度也有点慢，毕竟人类还是瓶颈。但我认为，考试成绩下滑的说法有些夸大。最多也就是非常轻微的下降。
如果顶尖人才越来越优秀，你怎么看 Patrick 昨天举的轶事：斯坦福的学生来找他说：“我所有朋友都很笨，斯坦福现在已经招不到人了。”那里应该是精英中的精英，对吧？
有很多关于斯坦福学生收入的数据。如果有个预测市场让我押注未来趋势，我会看多他们。至于应该看多多久，我真不知道。我不是每年都去斯坦福，但经常去。以我认识的人为例……
我们谈的是筛选。斯坦福学生确实很优秀。Emergent Ventures 资助过很多斯坦福学生。据我观察，他们作为一个群体表现得很好。
所以我不担心这个问题。如果你担心斯坦福学生，那这个论点可能过度关注了个别显眼情况。总体来说，他们表现很好，标准很高，这也是好事。
Paul McCartney 觉得 John Lennon 的吉他水平很差，John 也觉得 Paul 的很多歌曲很糟糕。从某些角度看他们都说得对，也都不对。但这说明披头士有很高的标准。
顺便问一下，你多大了？
好，现在回想一下，不管多少年前，有没有像你这样 24 岁的人做类似播客的事情？现在显然比当时强多了。
你几年前就开始做播客，所以我很明显地看到，年轻人中的顶尖人才表现更好。你就是证明。
丘吉尔 24 岁时，不是已经是驻古巴和印度的国际记者了吗？我记得他 24 岁时就是世界上薪酬最高的记者。
我不知道。具体拿多少钱？他的新闻报道有多好？我真不知道。我不觉得做国际记者是什么特别出色的工作。
现在记者的薪酬是多少？丘吉尔后来确实做成过一些了不起的事情，但他人生早期的大部分时间里都很失败。
再去问问爱尔兰人。回到 Patrick 的观点，问问爱尔兰人和印度人对年轻时的丘吉尔怎么看，你会听到很多批评。丘吉尔真正的伟大成就发生得很晚——我不太记得具体年龄。那之前他是个具有破坏性的失败者。
当时 Twitter 上没人能对他说：“嘿，Winston，你得重新考虑爱尔兰问题。”今天会有人这么做。Sam 会发推给丘吉尔说：“你得重新考虑爱尔兰问题。”而且 Sam 很有说服力。
读他的格言，我觉得他在 Twitter 上应该挺受欢迎的。
也许吧。但如果一切都改变了，新的均衡会是什么样？毫无疑问，他非常出色，尤其考虑到他喝酒喝得那么多。
好，就算你不相信斯坦福学生，不相信年轻人，那他昨天提到的另一种趋势呢？你看政府领导人，不管你怎么看 Trump 和 Biden，我们现在已经没有 Jefferson 和 Hamilton 这样的政治家了。你怎么解释这种趋势？
Jefferson 和 Hamilton 都是建国者，而且当时相当年轻。创建一个国家时能做出伟大事业，后来就很难复制了。
先不谈今年的情况——我觉得今年的情况在很多方面都很特殊——总体来说，我们过去有过令人印象深刻的候选人。华盛顿的美国官僚体系大部分也很出色：将军、国家安全人员、各机构高层、财政部和美联储的人。我经常和这些群体交流。
总体来说，他们很出色，我没发现他们在变差。如果你想谈今年的两位候选人，当然还有很多事我们不准备在这里谈，但负面方面确实也有很多可以讨论。
不过，像 Obama 和 Romney 这样的候选人，无论你更喜欢谁，我觉得他们都应该竞选总统，而且这并不是很久以前的事。
所以当时有很多不错的候选人。那甄选过程出了什么问题，最终选出的两个人甚至不如候选人的平均水平？
你说的是这个理论？
我不是专门说美国。如果只是随机波动，为什么结果会偏向某个方向？
民主党选择 Biden 的过程相当特殊，Kamala 也没有通过正常的选举程序。因此结果就会出现各种特殊情况。不管你怎么看她，她毕竟是位特殊的候选人。
Trump 我不希望他赢，但我认为他在某些方面极有才华，超过许多过去的候选人。我只是不喜欢他整体的做派。但我不会把他当作缺乏能力的例子。
我认为他天赋异禀，只是把才华用在了一些不好的目标上。
如果看 20 世纪初，阻碍进步的最糟糕因素之一就是一些精神变态的领导人。为什么那个时期出现了这么多糟糕透顶的领导人？
给我一个国家、一位领导人的名字和一段时期，我来试着解释。
他来自大学。
那就是他的问题，对吧？想想他上的是哪所学校。
谁？Woodrow Wilson？
对。在民权方面，他是最差的两三位总统之一。第一次世界大战期间，他的做法也很糟糕，和平进程同样处理失败。
间接导致了第二次世界大战。他在公务员队伍的一些重要领域重新引入种族隔离。他看起来是个刻薄的人，身体和精神状态不佳，早该离职了。所以他很糟糕。
但纸面上看，他当时是个优秀候选人。Hoover 也是纸面上的优秀候选人，能力非常出众。我认为他在通缩问题上犯了一个严重错误，放任名义 GDP 下跌。不过 Hoover Institution 之所以以他命名，肯定是有原因的。
Hitler、Stalin、Mao 呢？当时世界领导人的整体素质是不是特别差？有没有什么因素能解释这种情况？
我没有一个宏观层面的完整解释，但可以说几点。那个时期正值世界发生巨大变化之后。我认为出现重大新技术时——这与 AI 相关——军备竞赛会大量增加。
有时坏人会赢得军备竞赛。至少在相当长时间里，苏联和纳粹德国赢过一些军备竞赛，而它们都不是民主制度。后来毛泽东领导下的中国也不是民主制度。
然后还有运气不佳的因素。Stalin 和 Mao 只是抽到了坏签。换成别的人，可能没那么疯狂。
我同意 Hayek 的观点：专制制度容易让最坏的人上台。不过他们确实糟糕透顶，这里面也有坏运气的成分。
还可以谈别的因素，但我觉得那是个文明高度迷失的时代。第一次世界大战前夕，艺术和音乐都发生了剧烈变化，人们感到非常迷惘。
要发生的变化太多了。帝国主义和殖民主义开始成为重要因素。当时并没有稳定的世界秩序，而接着又碰上一些厄运。突然出现了与以往相比破坏力极强的武器系统，情况非常糟糕。
我不是说这就是一个完整的解释，但这至少是一个初步解释。
你把我们现在的时期比作 17 世纪的英格兰，当时新思想大量涌现，局势变得天翻地覆。为什么在这些时代到来时，社会会同时陷入剧烈动荡？你的理论是什么？这种不稳定来自哪里？
我没有一个普遍适用的理论。如果谈 17 世纪英格兰，他们经历了科学革命，英格兰崛起为真正的全球强国。海军的重要性大大提升，新大陆的出现也让大西洋贸易路线变得更加重要。
中东、印度和中国等地区的实力都在衰退；过去波斯也曾扮演重要角色。这些地区部分由于自身原因而衰落，从而提高了欧洲先进国家的相对实力。英格兰还要面对荷兰共和国和法国的激烈竞争。
与此同时，按照 Greg Clark 的说法，人类历史上第一次出现了持续的经济增长，从 1620 年代开始达到每年约 1%。看起来不算很高，但复利效应会累积。英格兰从 1620 年代起每年增长 1%，之后却陷入疯狂：爆发内战、处死国王、出现各种激进思想。自由意志主义思想也由此出现，我很喜欢 John Milton 和 John Locke。
新大陆遭受的残酷征服也同时发生。极好与极坏的事情并存。我认为应该把历史看成一系列好坏因素交织的过程，我们现在可能很快又会遇上类似情况。
这是个看似简单的问题：我们怎样才能得到好的变化，避免疯狂的内战？
我们只能在边际上推动事情朝更好的方向发展。但伟大停滞期结束后，最近释放出来的技术进步，包括 AI 在内，仍可能带来另一段疯狂时期。这种可能性很大，我认为发生的概率相当高。
你觉得最被低估的邪教是什么？
最被低估的邪教？进步研究。
我记得你在 SBF 出事前，曾说有效利他主义正处于巅峰。
没错。我参加过一次有效利他主义会议时说：“各位，现在已经是你们最辉煌的时刻了，好好享受吧。这个运动基本上很快就会瓦解。你们仍会产生很大影响，但作为一个运动，它将无法维持下去。”
我当时就是这么说的，大家都很震惊，觉得我疯了。但我认为自己的判断基本正确。
你当时具体看到了什么？你觉得那股热情太高涨了吗？你看到了 SBF 的资产负债表吗？
我没想到 SBF 已经资不抵债。我知道这是个风险极高的项目，没有监管保护，最终可能一文不值；但我没想到他真的在挪用资金。我一辈子都见过一些运动兴衰的共同模式，从 20 世纪 60 年代开始，包括自由意志主义运动。
它们身上会发生一些共同的事情。我们现在在伯克利。天哪，想想自由言论运动，今天伯克利的言论自由在哪里？最后结果怎么样？
这是一个非常常见的模式。你会想：“这个模式又要重复了。”然后你看到一些直觉迹象，就觉得：“是的，事情会这样发展。”加入有效利他主义运动能带来真实的私人收益，比如结识朋友或找到性伴侣。但在机构中，这些利益没有像高盛或律师事务所里的利益那样具体、稳定地制度化。
我当时就觉得这很脆弱。
我不太明白。你说的直觉迹象是什么？
他们缺少清晰、稳固、持久的激励，让人愿意长期留在这些机构里。有些人热情过头了，即使他们的观点可能是对的。还有一些类似邪教的倾向。
它发展得太快，在世俗成分和半宗教成分之间形成一种不稳定平衡，最后往往会偏向其中一边，或者直接瓦解。我看到了这些迹象，就觉得这个运动最好的两三个观点仍然非常重要。从现在起，我不会放弃这个信念。但作为一场运动，我认为它会崩溃。
进步研究什么时候会达到巅峰？
我和 Patrick 写有关进步和进步研究的文章时，也讨论过这个问题。我不能代表他发言，但我自己的看法是，它永远不会变成一个正式、受控、由小团体领导或管理、甚至注册商标的组织。它会通过去中心化的方式，由人们各自开展工作，反映一种整体精神和氛围的变化。
所以我希望它会以更温和、但更持久的方式发展。目前我觉得确实如此。我认为很多国家的科学政策都会因为进步研究而变得更好。
这还没有得到证实，但能看到一些迹象。还不能说局面彻底改变了，但已经推动了不少改革。至少在这个领域里，其他人都不知道该怎么办，更不用说有更好或正确的想法了。
即使只有一小群有能力的人参与，也能拿下他们目标的三分之一到一半，这就会造成巨大影响。如果进展到此为止，我也会很高兴。不过我认为实际影响会更大。
我昨天问 Patrick，知道 AI 已经出现之后，他现在会如何看待进步研究？
是啊。
你的答案是什么？
我觉得没什么不同。不过，如果你相信我对缓慢起飞的看法，为什么 AI 会让情况不同？我们只是有了更多自由度。
如果自由度更多，所有选择、决策、问题都会变得更复杂，也就更需要某种指导。除了 AI 以外的所有投入，其边际价值都会上升。
我不是 AI，所以希望这意味着我的边际价值会上升；不过我得转变工作方式。我认为随着时间推移，我会少做内容生产者，多做连接者和社交人士，建立各种人际网络。如果没有 Transformer 和大语言模型，我本来会继续更多地做内容生产。
我准备采访你时，让 Claude 扮演你。和我试过的其他人相比，它模仿你做得很好。
因为我在网上写了很多东西。
对。
所以这就是我的不朽，对吧？
是的。我听你以前说过，你不期待未来的人记得你。当时我不知道你有没有考虑过，由于你写了大量文字，你的形象在未来的模型中会特别突出。这会怎样改变你对自己未来思想贡献的估计？
我确实会想这个问题。我最近一本书叫《GOAT：史上最伟大的经济学家是谁？》。有人类读者当然好，但我写这本书主要是给 AI 读的。我想让它们知道我很欣赏它们。
我下一本书会更加面向 AI 写。当然也欢迎人类读者，而且会免费提供。
不过，谁会给它评论？《泰晤士文学增刊》会不会刊登书评？这已经不重要了。AI 会遍历这本书、知道我写过这些内容，并以一种我希望很显著且重要的方式影响它们对我的看法。
据我所知，其他人还没这么做。没什么人专门为 AI 写作或录制内容。但如果你相信哪怕是比较温和的进步论——我的立场比你们很多人都温和——就应该这么做。如果你不为 AI 写东西，那就是个傻瓜。
AI 会成为你很大一部分受众，它们的购买力也会随时间累积。它们会持有很多加密货币。至少一开始，我们不会给它们银行账户。
如果 AI 只看你的文字，你个性中的哪一部分最难被它们捕捉？
我觉得应该反过来问你。你的答案是什么？我不认为 AI 现在特别幽默。比很多人说的好一些，但我不会用它们写笑话。
你在面试工作申请者或 Emergent Ventures 申请者时，能了解一个人的很多信息。你可以读申请材料，但头 10 分钟，或者说 3 分钟，对方给人的整体感觉就非常有信息量。AI 光看文字还无法获得这些信息。
至少目前如此。不过我听说过一些项目——这是听来的，我不确定是否属实——有些招聘量很大的公司会录下面试内容，然后用 AI 来分析。
之后，人们基本上可以通过员工在公司的进展或 LinkedIn 资料来追踪。我不确定最终会怎样，但我不认为这些难以言传的特质永远无法了解。
当你和一个人通话，三分钟后就说“你拿不到这笔资助”，那一刻你心里有明确理论吗？你究竟是怎么判断的？
很多时候，申请者会有一个问题答不上来。如果有人提出非营利组织的构想，我经常看到不少好点子。但当你问：“你打算怎样建立捐赠者群体？”很多人竟然不知道如何回答，这让我很惊讶。
如果答不上来，那就什么都没有了。具体要看领域。但这就是一个例子：我很快就会问这个问题，很多人都答不上来。
我还是愿意说：“等你想出好方案后再来找我。”奇怪的是，我想不起来有人回来找过我，但我觉得以后会有人回来。这是一个很具体的问题。
除此之外，还有其他难以言传的信号，比如你能听出一个人过分关注什么。比如，有人只想因为自己的移民身份拿奖，这在我看来是个危险信号。
尽管如此，我们通常也希望有人移民到美国，不管他有没有资格。你会捕捉到各种信号，比如一个人优先考虑的事情不对，或者过于关注某种身份标志。这类问题出现的频率比你想象的高。
如果你只能拿到通话文字稿，看不到视频，你可能会说不录用；但如果能看视频，读过文字稿后也许会说可以。遇到这种情况，你会怎么做？
如果只有文字稿，它的价值会低得多。如果你问的是具体差多少，我觉得可能只剩 25% 的价值。
那剩下的 75% 是什么？
我们不知道。但我认为，只要多练习一段时间，你就能更好地判断剩下那 75%。
昨天 Patrick 谈到科学史上的人才集群：有些实验室培养出六七位诺贝尔奖得主。他还提到 Stripe 的第二位员工 Greg Brockman，当时其他创业圈的人并没有像重视其他人那样注意到他。你怎么看？为什么这种集群这么少？到底有哪些东西被继承和传递了？
Patrick 太谦虚了。我觉得他的回答很不对，但他自己应该知道。他能招到 Greg Brockman，是因为他是 Patrick。就这么简单。他不会直接这么说，甚至可能连自己都不太承认这一点。
如果你是 Patrick 或 John，自然会吸引一些 Greg Brockman 这样的人；如果你不是，难度就大得多，因为 Greg Brockman 这样的人很会识别谁是 Patrick、谁是 John。这只是把问题往前推了一步，但至少回答了问题的一部分；Patrick 太谦逊了，没有这么说。
这似乎让人才集群不那么重要了。如果 Greg Brockman 就是 Greg Brockman，他选择了 Patrick 和 John，因为他们就是 Patrick 和 John；而他们选择 Greg，是因为他就是 Greg。这并不是他们让彼此变得优秀，而只是人才相互识别，对吧？
不，他们确实让彼此变得更优秀。Patrick 和 John 互相成就，直到现在依然如此。但你又回到了我最喜欢的人类瓶颈问题。谢谢，我完全同意你说的。
披头士有多少人？真的很惊人，很多成就都无法延续下去。最高水平的成就极为稀缺。
这就是极端的人类瓶颈。AI 能否帮我们解决，哪怕只是能力相当强的 AI，都还需要观察。
从你写了进步研究的文章以来，我猜 Emergent Ventures 收到过很多申请者，他们想在边缘领域做某种进步研究。你希望这类申请更多，还是更少？或者你希望他们的项目和进步研究毫无关系？
我不知道。到目前为止，很多申请质量都很高，其中不少申请者就在现场。风险是，这个领域越来越受欢迎后，边际申请的质量可能会变差。
我对此有所预期，所以也许我会逐渐提高对这类申请的标准。比如，我可能会更欣赏那些对工业革命感兴趣的人。如果他们特别强调“进步研究”这个专门名词，我反而会越来越怀疑。
我并不是觉得这件事本身有问题——我和你正在参加进步研究会议。但话说回来，考虑到人才筛选和逆向筛选，我觉得必须非常谨慎，不断提高标准。让人们参与“进步研究”当然仍可能是好事，但 Emergent Ventures 不一定应该只为了项目数量不断资助这类申请。
假如你相信 AI 能让经济增长率提高 0.5 个百分点，你的投资组合会是什么样？
我可以告诉你我的投资组合：很多分散化的共同基金，不进行交易，配置较多美国资产，里面没有什么特别出人意料的东西。我妻子在美国证券交易委员会工作，所以我们不能做很多投资。
我们可能连买很多个股都不被允许，更别说买衍生品或做空了。但假设没有这些限制，我觉得我的做法也不会有太大变化。所以就是买入并持有、分散投资、坚定持有，还要确保自己有一些低成本的爱好，而且会做饭。
如果你觉得经济增长率哪怕会小幅上升，为什么不增加杠杆？
我还有一种看法：股票风险溢价的大部分收益可能已经属于过去。特别是在这个地区，人们很擅长把价值变成现实，收益会由私人市场和风险投资者获得，而不是流向公共养老金基金。为什么要把收益给后者？
我觉得硅谷已经看懂了这一点，Sand Hill Road 也看懂了。所以投资公开市场股票的机会在哪里，现在还不清楚。
我那点微不足道的财富还能投进哪些私人交易，这倒很清楚，所以我只能这么做。
对我来说，稀缺的不是钱，而是时间。我确实有一些非常便宜的爱好，而且在这方面我觉得自己已经安排得很好。
不过我觉得，即使按照你的投资组合，你也能接触到相当不错的投资机会。
不知道。一个人只能专注于有限数量的事情。如果我能通过 Emergent Ventures 接触到不错的项目——我在那里并没有领工资——假设有人给我 10 亿美元之类的资金……
我想不到比给自己找一份工作、继续做 Emergent Ventures，更好的方式来花这 10 亿美元。也就是说，如果我能花 10 亿美元买到这份工作，我现在基本已经过上那种生活了。我并没有特别专注于投资财富。
我认为限制自己的关注范围是好事。有些人的目标就是赚钱，我完全不反对，认为这对社会有价值。欢迎更多人这么做，只是这不适合我。
我刚开始职业生涯时，大家根本不知道经济学家能不能赚到钱。当时没有科技公司能让人成为亿万富翁。金融行业的薪水也不高。我开始选择职业时，这种机会根本不存在。那时没有华尔街那种光鲜的高盛，工作枯燥而缓慢。
程序员是待在地下室里的怪人。做经济学家一年大概能挣 4 万美元。只有 Milton Friedman 和 Paul Samuelson 两个人有额外收入，没人觉得你能赚得比他们更多。
我的职业选择是基于这样的时代背景。和当时相比，我觉得自己富裕极了。比如，你可以卖几本书，或者做场演讲。我现在感觉自己像亿万富翁一样。
如果非要追求什么，我希望成为我所说的“信息万亿富翁”。我成不了，但这是个很好的目标：不断收集更多信息，成为信息万亿富翁。Dana Gioia 也有相同目标，我和他聊过。我觉得这是一个非常值得追求的目标。
除了经济学，你当时还考虑过另一个专业吗？
要么学经济学，要么学哲学。那时是 20 世纪 70 年代末，我发现哲学家的工作更难找，虽然还没难到像现在这样几乎不可能。他们薪水更低，机会也更少。所以我想，那就学经济学吧。但我觉得自己某种程度上一直同时在做这两个领域的事。
好，我很想回到一开始谈经济增长时提到的技术扩散问题。
是啊。
我觉得自己还是没明白。我听到“扩散”和“瓶颈”这些词，但脑子里没有具体画面。AI 领域的人把这些因素代入模型时，到底忽略了什么？
我不确定自己是否适合诊断这个问题，但我觉得，在湾区遇到的人平均而言是我见过最聪明的人。他们最有抱负、最有活力、也最聪明。和纽约、伦敦或其他地方比起来，差距大得非常明显。这很好，我也很喜欢。
但我觉得一个副作用是，湾区的人过度重视智力。他们的世界观过度依赖智力，认为智力比实际情况重要得多。而华盛顿的人不会犯这个错误。他们有另一个问题，也需要纠正。
但如果你们能从观念中剔除这个偏差，就很容易接受专家的共识：新技术扩散普遍很慢，而且这一点不会改变。没人建立过一个真正的模型，能说明为什么扩散速度会变快；除了某些过度激动的博客帖子，声称所有事情会马上改变。
模型的逻辑是，我们可以让 AI 制造更多 AI，对吧？这样就能获得复利回报。
Ricardo 懂这个，对吧？他虽然没把它叫做 AI，但 Malthus、Ricardo 都讨论过这件事。当时说的是人类。人会繁衍，繁衍速度还挺快，但会遇到收益递减。
经典经济学正是发现了这些其他稀缺要素。我觉得他们太悲观了，但他们确实理解了收益递减背后的逻辑，而湾区的人并不理解。
不理解这点对他们更有利。但如果你是想注入真实情况，而不是注入抱负，收益递减就是个非常重要的概念。
这种悲观哪里说对了？现在有 70 亿人，所以我们的想法更多，产业也更多。
我说的是，他们过于悲观。但他们理解技术扩散的逻辑：如果今天他们看到 AI，我不认为他们会大吃一惊。他们会说：“哦，我读过 Malthus。”Ricardo 会说：“Malthus 和我通信讨论过收益递减。这是好事，会扩大技术前沿，但解决不了所有问题。”
关于进步还有一个担忧。看 Adam Smith 著名的制针工厂例子：专业化显然能提高效率，但制针工人只能做一件事。相较之下，在祖先的环境里，你可以参与确保自己生存的每一个环节，部落里其他人也一样。专业化和进步会让个体性消失吗？
Smith 认为会。但和他那个时代相比，我觉得现在我们的个体性强得多，尤其在湾区。这是好事。
我担心 AI 时代某些领域会出现士气低落的情况。我认为就业基本会一直存在，这一点不让我担心。
但到时候我们具体会做什么、又会有多开心……我并没有悲观预期，只是认为这会带来巨大变化。我没有可靠预测。如果没有可靠预测，就应该谨慎一点，只能说：“到时候再看吧。”因此我认为，在研究一个新领域时，适度提醒风险是有道理的。
你做播客时给我的感觉是，你会追寻很多冷门领域：和有意思的人交谈，或者读一本别人都不会考虑的书。你会花多少时间读主流教材，又会花多少时间读冷门资料？你怎么权衡？
我采访过的科学家不多。Ed Boyden 是一个例子，还有耶鲁大学的鸟类学家 Richard Prum。这两期节目都很出色，但准备过程很难。我能采访的科学家数量有限，因为准备工作超出了我的能力范围。
我最喜欢采访历史学家。准备工作量很大，但对我来说轻松又有意思，而且我知道自己肯定能学到东西。
我现在在准备采访 Stephen Kotkin，他是研究 Stalin 和苏联的专家。我已经读了四个月、几十本书，过程非常愉快，准备起来也很自然。
相比之下，要搞清楚 Ed Boyden 如何把光照进大脑，就会让我觉得：“天哪，我到底懂不懂？”我会不会像个觉得需求曲线向上倾斜的人？所以我只能少量采访科学家，这很可惜。不过也许 AI 能帮我们弥补这方面的不足。
你推荐过一本书给我，叫《斯大林的图书馆》，讲 Stalin 读过哪些书，以及他其实是个聪明、博学的人。书前面还提到，如果翻遍他读过并做过批注的书，没有任何内容能暗示他怀疑过马克思主义。
是的。还有很多其他证据也支持这种描述。
这怎么解释？一个聪明人，读过这么多书，却从未怀疑马克思主义。你怎么看？
我觉得他成长的文化本来就有强烈教条主义。再说列宁主义就极其教条，列宁还是他的导师。
就像 Patrick 关于诺贝尔奖得主的观点，这种情况也会以隐蔽的方式发生。列宁就是 Stalin 的导师。
苏联文化、共产主义文化，再加上格鲁吉亚文化。格鲁吉亚人很有魅力、热爱生活、喜欢喝葡萄酒、喜欢跳舞，但也有一种特点：他们会拍桌子、当面告诉别人事情该怎么做。这些因素一层层叠加在 Stalin 身上。再加上他的遗传运气很差，最后显然造成了严重后果。
如果按照 Hayek 的解释，Stalin 之所以上台，是因为专制政体里最残酷的人最容易得势，那这个解释漏掉了什么？
我觉得 Hayek 说得更细致，不能把它简单说成完全是他的解释。我会说，Hayek 指出了一种因素。如今世界上有不少专制政体，最坏的人并没有上台。
我觉得最明显的例子是阿联酋。我去过那里，据我观察，他们治理国家治理得很好。
他们确实有一些残酷、不愉快的做法。我很乐意看到他们逐渐发展成民主国家，但我很确定，阿联酋的执政者并非最坏的一群人。
所以这是一种倾向，但还有其他力量。文化真的很重要。Hayek 写的是一个非常具体的地点和时期。
这让我非常惊讶。海湾地区有一些家族统治的君主制国家，依赖规模很大的宗族利益集团。它们的稳定性和任人唯贤程度，超过了我 1980 年时的想象。我知道自己不理解原因，但数据就摆在那里。这不只是阿联酋，还有其他几个国家都超出我的预期，而且它们采用的制度大体相似。它们并不是由最坏的人统治。
你经常到湾区和美国东海岸以外的地方走访，和人们谈进步研究相关理念。你觉得他们对这些想法的接受度，和这里的人有什么主要差异？
这里的听众确实很不一样。湾区是美国的一个异类地区。我平时住在华盛顿特区以外的地方，那里也是另一个异类地区。某种程度上，我们代表相反的两种异类。
我觉得这对我很有好处：既住在我住的地方，也经常来这里，还经常旅行。但你们的观念非常超前，我甚至不知道该从何说起。
你们谈论创造性与破坏性时，常接近无穷大的尺度。华盛顿的人不会这么想，他们考虑的是边际变化。总体来说，我认为他们比这里的人明智得多。
但我也知道，如果所有人、或者更多人都像华盛顿的人那样思考，我们的世界就会走向终结，不会有经济增长。他们的问题很大。
欧盟的人非常明智。你和一位在布鲁塞尔工作的法国人吃顿饭，会发现他们学识渊博、品味出众，了解各国，还懂中国瓷器。如果世界由他们统治，经济增长率可能是负 1%。
所以这些因素需要相互平衡。我认为美国在平衡方面做得极好，我们需要保护这种能力。
我看到的情况是，英国过去很擅长实现这种平衡。如今某种程度上失衡了，文化构成中不重视增长的人太多了。
你描述这位和你吃饭的法国人时……
这都是真实的晚餐，而且食物也很好吃。
你刚才说的法国人让我想到你：你也很有文化，知道各种冷门知识。你和那些一起吃饭的法国人最大的区别是什么？
一个区别是我不觉得自己很有文化。差异还很多。首先，我是美国人，思维带有地域性。我来自新泽西，所以基本上算是野蛮人，不是什么有文化的人。
我靠积累了大量信息，给自己披上了一层文化修养的外衣。所以我知道的文化知识会比很多人多，这可能会被误认为很有文化，但两者其实截然不同。这就像野蛮人学习文化的方式。
这更像一种艺术化的文化修养，应该这样看待。因此，我觉得那位法国人和我非常不同。
他们可能会觉得美国有些地方很奇怪，甚至令人厌恶，而我已经习惯了。从理性角度看，我知道我们在许多方面都做得很差、会造成破坏，但我没那么在意，因为已经习惯了。
最常被误解的自闭症问题是什么？
如果看正式定义，重点全是人们目前存在的缺陷。按这种定义，在场的各位都没有自闭症。换一种可能还没明确界定的方式来定义，现场也许有三分之一的人符合。
我不坚持由我来定义这个词。我觉得“自闭症”是个不好的词，就像“自由意志主义者”一样。我很乐意把定义权交出去。
但确实存在一种自洽的定义，在场的人大概有三分之一会符合。而另一种定义下，你们一个人也不符合，那种定义描述的是精神病院里撞墙的孩子。我不知道，整个议题似乎都需要彻底重新审视。
科技行业的人觉得自己对华盛顿的影响力太小，相对于行业规模来说，远不如一些小得多的行业。为什么科技业在华盛顿争取影响力这么差？
我认为通过国家安全议题，你们获得的影响力可能比自己意识到的多，而且很快就会增加。无论你觉得联邦政府应该怎么做，它并没有阻止 AI 的发展，AI 基本上一直在继续进步。
作为游说力量，国家安全机构并不关心科技本身。但未来很多事情上，你们获得的政策支持可能比预期的更多。
你们面临的一个关键问题是行业集中在一个地区，而这个地区又有一个长期占主导地位的政党。即使在那个政党内部，加州很多地方也由一个派系占主导。
对比一下社区银行，它们遍布美国各县，与每一位众议员都有联系。你们关注的问题在某种程度上并不属于党派议题。你们享有的特权造成了哪些扭曲，美国公众并没有察觉。
Facebook 不一样，John Haidt 写过畅销书批评它。没人写畅销书批评社区银行，但它们行事强势、力量很大，总能得到自己想要的。我可不想跟它们纠缠。
在场各位和它们差得很远，部分原因是你们充满活力，而且集中在同一地区。
最后一个问题。根据昨天的讨论，Patrick 对进步最主要的担忧似乎是年轻女孩群体的情况不太好。我们希望进步意味着人们的生活一代比一代好。如果你认同他对年轻人的看法，进步最让你担忧的是什么？看长期数据时，有什么趋势让你不满意？
我们最主要的担忧始终应该是战争。我没有解释战争成因的宏大理论，也不确定这种理论是否可能存在。但我从历史中观察到，新技术出现后，人们往往会把它用于战争，并造成可怕后果。
17 世纪英格兰如此，电力和机枪时代如此。核武器相关的问题还在发展中。
我不确定这种情况能否消失。因此，我最担忧的是进步与战争相互作用，而且有时能带来好的结果。比如，按照 Steven Pinker 的观点，世界相对和平。
从数据看，这种和平正开始出现裂痕，趋势正在变差，但仍然比历史上大多数时期要好。今后会如何发展，还得继续观察。
可能会出现一种棘轮效应，战争的破坏性越来越大。即使战争越来越少，每次爆发也都极其惨烈。我们是否真的准备好了，或者能否做好准备，我也不确定。
非常感谢你，Dwarkesh。
这已经是第二次了，我们都以悲观的话题结束节目。
乐观的一面是，我们现在就在这里。人类能动性很重要。如果我们所有人都生活在公元 1000 年，哪怕是一个贫穷得多的国家，也无法想象世界会变成今天这样。
如何利用这份非凡而宝贵的遗产继续前进，取决于我们。这就是我们在这里的原因。所以我想说，放手一试吧。
这确实是个不错的结尾。谢谢你，Tyler。