Alex Imas, Phil Trammell: 亚历克斯·伊马斯与菲尔·特拉梅尔:AGI 之后,什么依然稀缺?

“今年的一个机器人,明年就能变成许多机器人,但芭蕾舞演员的数量还是原来那么多。”

AGI 经济学专题,嘉宾:亚历克斯·伊马斯与菲尔·特拉梅尔。

关于我们该如何应对 AI,有一系列重要问题,只有经济学才能回答。

应该用什么方式对即将产生的财富征税并进行再分配才是最优的?不在 AI 供应链中的国家,应如何分享这些收益?有没有哪种情形下不平等不会急剧扩大?

这些问题看上去也许有显而易见的答案,但经济学教给你的第一件事,就是你的直觉往往可能完全错误。

和亚历克斯、菲尔一起把这些问题梳理一遍,对我很有帮助。

00:00今天我请到了两位嘉宾:亚历克斯·伊马斯,他是谷歌 DeepMind 的 AGI 经济学总监,也是芝加哥大学经济学教授;还有菲尔·特拉梅尔,他是 Epoch 的经济学负责人,也是斯坦福大学的研究学者。

总的来说,我想通过这次访谈弄明白:在自动化程度越来越高、AI 越来越先进的世界里,经济学能告诉我们可以期待什么。我想了解,这对工资和劳动收入占比意味着什么,对 AGI 所创造财富的最佳征税与再分配方式是什么,以及哪些东西将变得稀缺。什么东西稀缺,就决定了价值会流向哪里。

我想从这里开始。关于未来什么会变得稀缺,有哪些比较可信的候选?

比如关系型部门,它指的是这样一类服务和商品:“有人类参与其中”这一事实本身就是该产品价值的一部分。人类天然是稀缺的,所以如果自动化让许多其他东西不再稀缺,那么在需要人类参与其中的那些领域,稀缺性依然存在。

我想弄明白的是,人类为其他人类提供服务,是否可能成为经济的一个重要组成部分。这里也许有个直觉上的思想实验。设想一个 AI 能在物理层面做到人类能做的一切的世界,会出现一整套机器经济:它们建造工厂、做研究、提出新想法。人类可能参与、也可能不参与这些东西的实际生产,但在终极极限下,如果机器人技术问题已经解决,人类大概不会参与。如果你并不在意人类是否参与这个过程,那他们又为什么要参与呢?

但你还指出了另一类情形:我们确实希望芭蕾舞演员或咖啡师是真人。这是去咖啡馆或看演出的价值的一部分。不过只有人类才有这种偏好。于是就有了这样一种人类经济:人类相互提供服务,他们的一部分财富流向其他人类。

但他们的一部分财富同样会流出去,因为他们会想要这个纯机器经济所创造的一些自动化商品。这并不是一个闭环。纯机器经济里有很多环节是闭环,因为机器并不在乎让人类咖啡师给它们做一杯咖啡。

在这个模型里,人类经济所占的份额必然越来越小,这难道不是内在的结果吗?

我想把这个问题换个方式来问。我的看法是,像我们这样的经济学家所做的单个预测,作为单个预测,未必有多大用处。

昨天刚出了一篇博客文章,作者是安德烈·弗拉德金、布莱恩·雅巴里安和安德鲁·科,考察了经济学家们对劳动力市场的预测。他们发现,在每一个方向上都存在大量分歧。

他们主张,我也同意:与其思考单个预测,不如建立预测市场,从而得到汇总后的预测和群体智慧的效应。我之所以这么想,是因为我们在预测方面向来出了名地糟糕。

让我们一路回溯到 1820 年。我们现在一直在进行的这场争论其实已有 200 年历史。大卫·李嘉图是古典经济学家之一,不是新古典经济学家。工业革命开始时,他写了很多东西,说“这对每个人都会很好,价格会下降”。但随后他又转过头来说:“等等,我看到所有这些创造价值的工作都将被这些机器自动化。这会非常糟糕。每个人都会失业,还会出现政治动荡。”

而如果你看李嘉图的预测,其实是对的。李嘉图那个时代所有能赚钱的工作确实都被自动化了。假如大卫·李嘉图醒来,有人告诉他那些工作的确都被自动化了,然后问他:“你觉得 2026 年的核心劳动年龄人口就业率是多少?”我想,当被告知它是除 2000 年以外历史上最高的时候,他会很惊讶。我们现在拥有的潜在可就业的就业人数是自 2000 年以来最高的。那是峰值,而现在基本上是第二个峰值。

大卫·李嘉图最终忽略的是结构变迁的经济学:所有被自动化的东西都变便宜了,人们有了更多钱可花,然后开始把钱花在服务上。这就是劳动总量谬误。大卫·李嘉图没有考虑到会创造出新的工作。

但钱会流向服务,这并不显然。为什么不会流向更多的自动化商品之类的东西呢?我讲这个轶事,不是要说现在也会这样、我们将实现充分就业。我是想说,做预测真的很难。

经济学家手中一个真正有用的工具,也许是反过来从一个前提出发。比如我们从今天开始:劳动收入占比为零。劳动收入占比已经下降了。什么能解释这一点?让我们写出一个经济模型来说明发生了什么。菲尔今天稍后会谈这一点。或者你可以写出一个模型来问:“如果劳动收入占比保持不变呢?什么能使这种情况发生?”

如果你从我这里什么别的都不带走,请记住这一点:我们没有任何数据。我一直在说,我们需要一个数据领域的曼哈顿计划。我们没有关于消费者需求弹性的数据,不知道它们是多少。我们也并没有真正追踪哪些工作被创造、哪些被消灭。ONET 数据库收录了各种任务和不同的工作,但很少更新,而且质量极低。

真正有用的是思考各种可能的情景,把它们逐一勾勒出来,并说明稀缺性的哪个维度会催生每一种情景。如果出现充分就业,我们可以谈关系型部门。如果劳动收入占比崩塌,我们可以谈其他各种情景。这将告诉我们应该收集什么样的数据。

也许值得快速界定一下劳动收入占比和资本收入占比。整个经济,即所售出的商品和服务的总和,要么以工资的形式支付给人,要么支付给资本,也就是说,有建筑物的租金,有公司股东获得的支付。

几百年来,经济的大约 60% 基本上以工资形式支付给人类,其余 30% 到 40% 则支付给拥有机器、土地和公司索取权的人。问题是,如果现在 60% 流向工资,随着 AI 变得越来越聪明、越来越强,这个比例会缩小吗?

这是一个卡尔多事实。我们应该强调这一点。在经历了工业革命和我们见过的所有自动化之后,它仍然超过 60%,这是非常令人惊讶的。有些人担心,它如此恒定,可能是会计核算上的误差。

现在甚至还有争议。有人可能会说,劳动收入占比在过去 20 到 30 年里一直在下降。但过去 30 到 40 年里会计核算发生了很多变化。例如,阿特金森有一篇论文表明,如果让各年份的会计口径保持不变,劳动收入占比甚至从未下降过。

但这其实也没那么令人惊讶,对吧?菲尔,你提出过这个观点:如果劳动和资本是互补的,做任何事都需要两者。那么要完成一件事,你需要向两者都付费,这是说得通的。

有些东西已经被完全自动化了。

在某种意义上,迄今还没有任何东西被完全自动化。看一件商品经网络调整后的要素份额。沿着供应链往下看,而不是只看最后一步中资本和劳动各占多少,还要看用来使最后一步自动化的那些机器是用什么造出来的。你会发现,劳动在供应链下游增加了大量价值。

美国的计算机和电子产品,经网络调整后的资本收入占比非常稳定,大约在 50%,而不是 100%。我确实认为,我们都同意将会出现一种质变,即至少会有一些商品,其经网络调整后的资本收入占比趋近于 1。整条供应链都可以自动化,其中没有任何一环是我们本质上在意由人来做的。那将是一次质变。

有意思的是,这种转变对整体资本收入占比的影响是不确定的。假设我们有两个部门:以芭蕾舞演员为代表的“人类本质部门”,以及其他一切。目前,其他一切之所以稀缺,是因为其中缺少劳动。但如果我们把其他一切的供应链完全自动化,并且我们对其他一切很快就达到饱和,那么所有非芭蕾舞演员类的东西的数量会趋向无穷,但这些东西的边际效用趋向于零的速度,比数量增长的速度更快。

我也想离开芭蕾舞演员这个例子。我在我的文章里想表达的观点,也就是从某个特定情景倒推,是:芭蕾舞演员和表演者是错误的参照类别。现在我们有很多工作包含不同的任务。这就是基于任务的工作模型。拿医生来说,他们的工作是什么?填写保险文件,打电话给各家制药公司。他们的任务之一是接待病人并与之交谈,但那并不是这份工作的主要部分。

一份工作,以及一项服务或一件商品,可以是不同类型任务的产物,而你可以把其中大量任务自动化。如果消费者愿意为这样的产品或服务付出更高的价格:除了医生给出诊断并提供支持的那一部分之外,每一项任务都已自动化,那么我们就会把这份工作称为关系型部门的一部分。人们愿意为让人类继续参与这份工作而多付钱。

我们没有数据可以说“这些是关系型工作,那些不是”。你确实需要收集如下这类数据:对你为这项服务或商品的支付意愿做联合分析。这是一切均由机器生产的反事实情形。这是仅这一项任务不由机器完成的反事实情形。你的支付意愿是多少?你对“人类不参与其中”的弹性是多少?

如果我没有那些数据,在这个故事里我还能做出什么预测呢?

还有一点难道不是吗:有许多完全自动化的商品现在甚至还不存在?而且你现在根本无法收集到任何数据,比如人们会想继续购买多少某种完全由 AI 生产、能让你更健康的药物。

完全正确。这差不多就是菲尔的观点。资本这一侧可能出现品种的增加,因而不会出现饱和。你在增加品种,所以不会触及边际效用递减的那个点,即你的大部分收入流向人类部门的那个点。如果品种增加得足够快,而人类部门没有这样的品种增加,那么你可以得到你想要的所有关系型商品,但这对劳动收入占比无关紧要。它会趋向于零。

菲尔,我很喜欢你的那个类比:1400 年一位坐在那里思考什么会稀缺的蒙古经济学家,以及这种分析的局限。我觉得你应该谈谈这个。

就看看遥远过去的一个蒙古人能得到的商品。我不是这个社会的专家,但我知道他们当时的品种远没有我们现在这么丰富。看看那些本质上属于人类的工作,比如歌手。再看看那些并非本质上属于人类的东西,比如他们的马所提供的运输服务,或者他们所拥有的各种食物。

如果他们把这两类的品种都固定不变,然后问:“一旦我们有了多得多的自动化,会发生什么?”他们可能会说:“我们在类似马的运输、酸奶和蒙古包上都会达到饱和。这些份额都会降到零,我们最终会把所有的钱都花在歌手身上。”

但当然,事情并不是这样发展的。随着我们积累了更多财富和更先进的机器,我们扩大了除歌手之外可以花钱的东西的范围,而花在歌手身上的份额一直微不足道。同样,这也是我对未来如何展开的核心预测,尽管结果两种可能都有。

我本来想提出一个观点,但我意识到那是个谬误,而它之所以是谬误,这一点很有意思。就是很难想象这样一个世界:有数以万亿计的机器人,却只有十来亿人类,而我们花在机器人上的总额,竟然少于我们付给马格努斯·卡尔森,或者——

理财顾问、医生或者家教的钱。

对,或者播客主持人之类的。但随后我意识到它为什么是个谬误。世界上晶体管的数量确实增长了万亿倍,也许是千万亿倍。你的同事查德·琼斯有一个非常有趣的结果:经济中用于支付计算、支付晶体管的那部分份额一直在下降。

你提出的观点是,理解摩尔定律的一种方式是……是什么决定价格?供给和需求。所以我们不仅在以更低的成本生产更多晶体管,而且边际晶体管的价值也在下降。正如你所说,摩尔定律的另一种表述是……

我喜欢摩尔定律的悲观版表述:每 18 个月,计算的价值就减半。我们对计算的用途耗尽得如此之快,以至于这反过来在维持摩尔定律。

这和关于 AI 的讨论相关,因为也许这是第一次,这一点不再成立了。这里有个著名的事实:现在租一块 H100 的价格比三年前还高,尽管我们有了好得多的技术,世界上的算力也多得多。因为随着模型变得更聪明,算力的机会成本也变得更高。

这就是菲尔关于品种增加的观点。我们所做的是增加了人们对资本所需求的东西的类型。突然之间,你有了一个可以用资本去做的新品种,于是价格又跳了回去。

你可以想象,我们对算力的需求永远不会饱和。只要这一点保持不变,经济中用于算力的份额就会持续上升。

这是个大问题。这是我们需要关注的终极问题。我们为这些算力找到了多少新的用途,使得这些用途有对应的需求?我想强调的是,经济学里的许多模型,尤其是在我们所谈论的这个领域,几乎把需求当作外生的。它们没有深入剖析人们真正想要什么的心理。

让我开始思考关系型部门这个想法的,是我当时在做的一项工作,它表明确实存在这种内在价值。这不只是因为它稀缺;而是因为人们对共情、联结以及与另一个人互动,有某种内在的偏好。

我们做过的一个实验涉及一幅艺术版画。我们用一种激励相容的方式询问:“你愿意为这幅艺术版画付多少钱?”人们是真的付真钱。然后我们说:“这幅艺术版画只有一件,它要么是 AI 制作的,要么是人制作的。”这些是组间条件。在其中一组里,你会看到这样的效应:人制作的版画,其估值远高于 AI 版本。

然后,在另一组条件中,我们说这类版画要制作 500 件。对人类制作的那一种,价格大幅下降,因为它不再被视为与这位艺术家之间的某种联结。而对 AI 来说则没有差别。AI 已经被视为一种可互相替代的普通商品。

我们还需要在这方面做大量研究,但看起来,这就是它与马之类东西的关键区别。马是通往某种产出的一项投入,你可以用别的东西替换马。你只在乎产出。

这个关系型的故事要想成立,唯一的办法(也是我们需要更多数据的地方)是:人类不是马,也就是说,人类提供的价值体现在产出中,如果你替换掉这个人,产出的价值就会下降。如果这种效应不够强,而且在足够多的部门或足够多的工作中不成立,那么这个故事就不再成立了。

19:36莫莉·金德写过一种可能性,即这个“混乱的中间地带”情景。这种可能性让我思考,至少就财富分配和再分配而言,AI 起飞得快得多,是否反而会更好。

我想问你们,下面这种可能性是否有一点可能,或者是否存在某些假设能使它成立。AI 使自动化许多工作成为可能,以致很多人失去工作,但在自动化进程中,它并没有创造足够的财富,来基本补偿那些被裁员的人,并实现一次帕累托改进,也就是让每个人都因 AI 自动化而变得更好。

当然,在某种平凡的意义上,这必然成立。公司因为不再给人类发薪、而只付钱给 AI 所省下的任何钱,这些资源依然存在于经济之中,完全可以直接支付给人们。

但会存在某种配置效率上的损失。政府并不确切知道谁是因为 AI 被裁掉的。还有一个政治问题。假如 Meta 的一名员工最先被裁,而他之前年薪 20 万美元,那么在有许多在职者收入低得多的情况下,每年给他开一张 20 万美元的支票,这在政治上可持续吗?你觉得这种情景有可能吗:AI 在自动化许多东西,但财富的创造却不及自动化的程度?

我认为有可能。但在我看来,这确实是个相当窄的窗口。我的猜测是,如果我们拥有足以自动化如此多工作、以至于它成为一种新型政治问题的技术,那么蛋糕也会增长得非常快。

除非在它所自动化的所有这些职业中,它只是稍微更有生产力一点。这样,取代所有软件工程师所需的全部资本的成本,就只比我们一直支付给软件工程师的成本低一点点。

为什么一家公司通过裁掉一批软件工程师来省钱是不可信的?从长期看,会有杰文斯悖论,我们无法预先想到有了更多软件我们会做什么,而且肯定会有更多用途。但在短期内,效果就是很多人被裁,而他们仍然需要想办法弄清楚,如何去用一百万倍多的 JavaScript 词元。

菲尔和我一直在写这些东西,这背后有数学模型。我们的任何模型里都没有政治经济学。

安迪·霍尔写过一篇关于 AGI 政治的很棒的博客文章,他提出了一个非常有意思的观察:如果失业率上升 2%,政治风向就会彻底改变。失业对政治走向有巨大的影响。

回到莫莉那篇出色的文章,我认为从某些方面看,最糟糕的情景之一是“滴漏式”情景,因为政治经济学这一块。你可能看到的是,人们并没有大规模失业,而是转入了薪水更低的部门。1920 年到 1940 年间的电话接线员就是这样。电话接线员被完全自动化了,但尽管技术已经存在,这个过程却花了 20 年。那是一种滴漏。并不是这个庞大的部门一下子消失了。

有一篇很好的 QJE 论文讨论了这件事,表明他们被经济重新吸纳了,但薪水更低,而且大多处于就业不足的状态。这就是莫莉所写的情景,即事情不至于演变成灾难的混乱中间地带。我们在新冠疫情期间看到,如果出现紧急情况,财政应对可以迅速展开。紧急情况就是失业率快速上升,哪怕看起来只有 2% 到 3%。如果发生得很快,这就会成为国家紧急事件。

令人担心的是,你从那些白领员工身上省下的任何钱,如果它没有使经济增长,只是创造出了可以配置到别处的节省下来的资源,那么这足以实施一个覆盖面广泛的再分配方案吗?你有从几个人身上省下来的钱。除非你能想出确切的办法把它专门交到他们手里,否则你就面临这样的问题:“我能用裁掉……所省下的钱来搞全民基本收入吗?”

你基本上是在说,蛋糕并没有做大多少。你只是让一批人失去了岗位,但这并没有扩展经济所能生产的技术前沿。

那就有一个问题:历史上每次发生这种情况时,技术前沿是不是都大幅扩展了?

我认为是这样。仅就历史而言,技术前沿确实扩展了。我想菲尔也提出了同样的观点。很难想象那种情景:你得到的智能刚好够取代软件工程师,但成本仍然很高。它只比软件工程师便宜一点点,所以你得不到这种富足效应。既然蛋糕没有变大,再分配将从哪里来?

这非常有帮助。要让这个情景成真,必须有许多不同的事情同时成立,而其中每一件看起来都不太可能。

第一,必须是这样:可以自动化整个白领岗位,但只能零敲碎打地进行。也就是说,你只能自动化软件工程师,而同一个程序无法同时自动化会计、分析师等等。

我对智能的看法是这样的:无论是做软件工程这类事情所需要的任务广度,还是智能本身是什么,如果你真的能够裁掉所有软件工程师,那你手里已经有足够的东西,可以去自动化各种白领工作了。这些裁员会带来巨大的潜在节省,而且 AI 将比人类劳动更便宜。

如果这两点都成立,那么这个我们字面意义上没有足够财富可分的混乱中间地带情景,似乎就不太可能。那么问题就变成了:对它征税并再分配的最佳方式是什么?

25:57我有一些想法。我认为列出成本和收益真的很重要。首先,实施这些方案的复杂程度各不相同。其次,它们真正发挥作用的时间线也不同。像全民基本资本这样的方案,对于六个月内发生的事情是不会产生回报的。你最终很可能会得到分层的一套东西。

以负所得税为例。你实施它,从它成为法律的那天起,你就已经有了一种保险:存在一个底线,每个人都能得到一定数额的钱,而如果你赚得更多,就要多缴税。但负所得税有好的一面,也有坏的一面。

比如对于全民基本收入,我非常担心它在政治经济学上的影响。如果人们只是依赖一张支票,那么谁当权就变得非常关键。现在,我们拥有可以转化为收入的劳动禀赋。当这一点不再成立,而我们的基本需求要仰仗民选官员的善意时,这感觉像是一种极其危险的权力分享安排。

但任何一种政府再分配方案不都是这样吗?

而像全民基本资本这样的方案,你拥有资本的所有权份额和产权,你只是持有一份份额。

你就是一个普通股东。

你就是一个普通人。

但这又回到了指数化的问题,因为如果指数化很难,那么全民基本资本也很难。

这就是全民基本资本的问题:定向。你要定向把什么放进人们的投资组合里?

比如,如果 Anthropic 归零,而某家不知名的机器人公司接管了这一切呢?

没错。这就是全民基本资本的风险。至于负所得税,它和全民基本收入有同样的问题:有人上台说“我们不再这么做了”,人们又没法工作,于是你就面临底线消失的问题。

对财富税的一个担忧是,在 0.5% 的财富税水平上,不存在政治上可持续的均衡。所得税当然就发生过这种情况。它起初很低,是为了战争之类的目的,然后慢慢升级,直到美国的边际所得税率达到 40% 左右,在某些州则高达 50% 以上。

如果征资本税,有理由担心它会扭曲投资吗?人们会不会说:“我为什么要投资 Anthropic 或英特尔?政府会拿走越来越大的份额,稀释我的份额。”

等一下。值得把这几件事分开:收入是怎么筹集的、对什么征税、以及如何分配。可能的做法是,政府通过一项覆盖面广泛的税收来购买 Anthropic,然后把 Anthropic 的股份发给每个人。这大概是正确的做法。希望某个民粹主义提案不会来干扰这一点,不会去征收某家碰巧人人皆知的特定公司。

你是在暗示可能存在某种最优税收。我们是对外部性征税,或者对土地征税。我猜我们大概需要对这两样之外的东西征税。

或者对消费征税。

好,征收消费税,比如欧洲的增值税,这让政府可以去买一大批股票,然后把这些股票分发给所有人。

那是大卫·奥特的……

这和直接再分配股票不会有太大不同,但会有一点不同。

顺便说一句,这就是社会保障的那个提案。那是社会保障私有化。到目前为止它是有效的,但它还能继续有效多久,是有疑问的。社会保障私有化基本上就是给每个人一篮子股票。

30:02人们在讨论是否已经出现了白领末日。有没有什么证据表明,已经存在由 AI 导致的大规模自动化或失业?

很多人在关注这件事。这是一个有很多人盯着、也产生了大量数据的领域。耶鲁大学的预算实验室在这方面做了非常好的分析。他们最近刚发布了一份报告,你真的得眯起眼睛才能看出有什么事情在发生。如果你想从整个经济的角度来看,即使看软件工程这个暴露程度最高的部门,也确实没有发生什么。

也许有一点信号显示,初级开发者找到工作的情况比以前少了。但这是“比以前少”,而不是水平上的断崖式变化,也就是说,如果说有什么变化的话,是对资深软件工程师的需求实际上增加了。如果你看趋势,初级开发者的情况略低于趋势线。

所以你是说,增速比以前慢了,但即便是入门级软件工程师,依然有增长。那么对于那些毕业大学生说他们更难找到计算机科学类工作的轶事证据,你怎么看?

我认为那是轶事证据。

你认为对一些人来说找工作一直都很难,现在被变成了一种 AI 叙事?裁员也一样,很可能只是正常的裁员,却被说成了 AI 裁员。

这一切都要小心对待。存在这样一些公开的协调机制。假设我们陷入一种叙事:如果你是一家公司,而你没有裁员,就会被视为对 AI 的采用不够。那么你就会看到一种连锁效应:各家公司为了不落于人后,纷纷开始裁员。这非常令人担忧,因为公司裁员之后实际上可能比之前更糟,但它裁员只是为了给人一种印象:“看,我们没有落伍。我们在用 AI。”

你大概听说过那些关于词元计数器的轶事,比如你必须把词元用量最大化之类的。目前,我们其实没有任何证据表明出现了白领血洗。

考虑到 AI 能做的所有这些事,这难道一点也不令人意外吗?这是个古老得不能再古老的故事。如果你把某个互补任务自动化了,那么整体这一篮子东西,也就是与自动化互补的人类劳动,价值会上升。

对这个论点而言,真正重要的统计量之一是需求弹性。

拿工作的 O 形圈模型来说。一份工作是一系列任务。假设 AI 自动化了十项任务中的九项,有一项没有被自动化。如果这个人现在可以专注于那一项任务,这份工作就会变得更有生产力。如果这转化为价格效应,即产品实际上变便宜了,而且需求的反应足够大,使得产品被更多地购买、服务被更多地使用,那么这实际上可能带来更多的招聘。

网上很多人一直在非常笼统地提出这个论点,说:“看,如果数据里有什么变化的话,我们看到的是软件工程需求的上升。”这表明,至少目前,按照工作运作的方式,它的弹性可能已经足够大。

我认为这个需求弹性的论点,对于人们提出的许多论证、或者人们在不理解背后因果关系的情况下使用的许多标签来说,都极其重要。人们常常谈到杰文斯悖论。它的意思是:当某样东西变便宜时,你会想要多得多的它,以至于你在这样东西上花的总额反而增加。煤炭在大约 200 年前的英国就出现过这种著名的情形。

但真正说来,这只有在对某样东西的需求高度有弹性时才会发生。有很多东西的需求并没有那么大的弹性。比如石油如果变得极其便宜,也不会神奇地——

或者胰岛素。

没错。不会神奇地出现多得多的汽车,以至于我们现在要用比以前多得多的石油。

至少短期内不会。

没错。长期弹性高于短期弹性。但即便在长期,农业也是个著名的例子:如果我们把过去投入农业的同样比例的经济资源继续投入农业,我们能生产出多得多的粮食。我们本来就已经在生产更多粮食了,但如果经济中当前用于生产粮食的比例与 100 年前一样,我们还能生产更多。可是你吃够了就是够了。

关于软件的主张是:并不是市场的某种固有属性使得东西越便宜你就会一直想要更多。软件的特殊之处在于,它是一种特定类型的商品,越便宜,我们就会想要越来越多。

这一点也高度相关,而且你为此写过一篇文章——这期播客很大程度上就是我把你们的文章再概括给你们听。Citrini 做过一个关于未来的、传播很广的情景规划,预测由于自动化和非常强大的 AI,会出现一次衰退。白领员工会被自动化,他们的薪水不复存在,于是出现萧条。你想再概述一下为什么这可能不成立吗?

一部分是可信的,一部分不可信。我们开头谈的那部分,即可能出现大量失业。如果自动化的速度很快,人们可能被裁员,而且可能很难很快找到工作。我们可以对 Citrini 那篇文章中关于失业的部分吹毛求疵,但这不是问题所在。问题在于,他们谈到了负的经济增长。

我在那篇文章里(菲尔和我就此来回讨论过)所做的,是说:让我们从“存在负的经济增长”这一命题出发。经济中需要具备什么条件才会出现负增长?结果发现,这些条件相当不可能满足。

你需要的一点是,资本持有者,基本上就是富人……基本上在这类情景里发生的,是财富和收入从靠劳动谋生的低收入人群,重新分配到科技资本所有者手中。所以你需要需求有上界,是硬性的上界,而不仅仅是软性的边际敏感度递减。你需要他们最终说:“我够了。我不想再花更多钱了。”并且这笔钱也不会作为投资进入经济。那样你才能得到负增长。

关键在于,即使我们不想要更多东西,在一个出现奇点、而我们却不想再多投资的世界,这是很荒谬的。我们不会说:“我们别再建更多数据中心了。别再建更多晶圆厂了。”即便我们已经有了 AGI,我们也不去投资更多数据中心来运行 AGI,而那正是在推动更多经济增长。

我把这篇文章发给了菲尔,菲尔回信说:“这相当蠢”,指我的文章。他说:“你是想说会出现负的经济增长,但这些条件非常不可信。”我说:“这正是这篇文章的要点。这些经济条件非常不可信。”

这正是情景规划真正发光的地方。有了 Citrini 那篇文章,它被写出来是件好事,因为它引发了讨论。这个想法非常符合直觉:如果出现需求崩塌,我们就可能让经济萎缩。大萧条时就可能出现这种情况。在大萧条时期,技术前沿并没有扩展。

而在这里,技术前沿在扩展。你实际上拥有富足。要让富足产生负的经济增长,这是非常难以实现的。

39:26我们刚才在谈,为什么大语言模型之后并没有出现更多的自动化。一种可能的机制,就像你用 O 形圈理论所说的……O 形圈理论指的是,挑战者号航天飞机因为一个部件发生故障而爆炸,摧毁了整个飞行器。也许这是对经济中商品如何被生产的一个更一般的模型。你必须确保一切都可靠、运转良好。所以你现在无法把整个工作都自动化交给 AI。即使它有一定概率能完成,你也需要极高的可靠性,才能使它不毁掉最终成品。

这或许可以解释为什么现在的自动化比本来可能达到的少得多。但我认为,一旦 AI 足够先进,情况会朝相反的方向发展。把人类整合进未来商品的生产流程会变得困难。除了关于人类会更贵或能力更弱的论点之外,还会有整套围绕 AI 劳动组织起来的生产流程。它们用神经语交谈。它们的思考速度快几千倍。

所以,即使存在某种比较优势,使得雇用人类是合理的,交易成本和对可靠性的担忧也会使得把人类整合进未来的生产流程变得困难。

我觉得这说得对。具体来说,我只是想区分这样一点:如果你把一份工作的十分之九自动化了,人们可能会转向剩下的十分之一,但对他们的工作量要求可能会是原来的十倍。

对比一下最近甘斯和戈德法布提出的 O 形圈自动化模型。如果你只能自动化一份工作的十分之九,而且质量标准低于人类所能达到的水平,那么你可能连这十分之九也不想自动化。

这一点完全可以迁移过来。对称地,这也可能是我们不再用人类来做那十分之一工作的原因:人类就是无法达到 AI 完成工作其他部分的质量水平或速度水平,最终拉低了成品的质量或速度。

顺便说一句,你说的这个模型,在我看来对于解释为什么没有更多律师、会计甚至软件工程师被自动化,是极其可信的。有些情况下,事情按你预期那样运作的概率相当高,但你付钱给律师买的是:“不,说真的,我的公司不会倒闭,因为——”

你付钱买的也包括大量监管类的东西。特别是对律师而言,你需要有某个实体来为产品背书。你需要对产品的所有权。你需要有人能够解雇或雇用,还有执业许可的问题。有许多监管层面的因素,即使不存在关系性的成分,也会让人类继续参与其中,而这与人类实际提供服务的能力毫无关系。

对于我们习惯于只信任人类来做的那些政治类决策,比如立法、担任法官、担任陪审员,或是所有让某些职业保持由人类担任的执业许可,这一切摩擦在我看来都是过渡性的。

我们期待由人类来承担什么、以及我们如何组织政治,在历史上已经改变过很多次,从小型狩猎采集群体到帝国,等等。一旦由 AI 运行的政治体系比其他选择效率高得多,它们很可能会倾向于胜过其他体系。

43:08说到这里,我们一直在谈人类目前有什么偏好,以及这对未来哪些商品会稀缺有何影响。但当然,未来我们会有不同种类的实体:AI。曾经有一段时间地球上没有人类,但进化选择出了具有特定驱动力和偏好的行为体,因为这些最容易存活,而这些偏好如今决定了一个价值百万亿美元的世界经济生产什么。

为什么不预期未来的 AI 也会如此?这甚至不是一个出现灾难性错位、它们把所有人都杀光的世界。但会有一种演化,即使不是针对单个 AI,也是针对那些把 AI 作为组成部分的公司。这种演化会偏好什么?它很可能偏好增长的公司或行为体。有一个选择论证:增长的东西会更为普遍。

也许仅凭这一点,你就能对它们的偏好做出一些预测。偏好人类本质商品的那类实体,会是最能积累资源的那类实体吗?大概不会。更可能的是,它储蓄更多,并且对无论哪种相关资源都有无法满足的需求。算力就是一个明显的例子。我们能否据此对将引导未来的非人类偏好做出一些预测?

如果有一个 AI 拥有自己的福祉,完全自主,并在做与自身福祉相关的决定,老实说,我完全没有任何先验认为它会偏好与人类打交道。没有任何理由。

但让我站到这个论证的另一面。人类彼此互动、相互信任和共情的偏好,相对于模拟出来的 AI,这些偏好是否会改变,我认为是一个非常重要的问题。

我听过很多论点说:“看,现在只是我们还不习惯这项技术。你所认为的关系性的东西……在某个时点,人们就会把 AI 治疗师视为更优越的产品,他们不再需要人类所提供的共情。”

我认为这其实是个非常复杂的问题。下面是为什么它不会消失的一个论证,与进化有关。假设有两类人。一类人并没有这种偏好。他们可以直接与 AI 互动,谁能模拟得更好就用谁。另一类人几乎带有一种道德情感(借用乔纳森·海特的框架),反对把这类社会互动外包给 AI。

这两种人里,哪一种会繁衍后代、找到配偶,诸如此类?我认为答案很清楚:是第二种,即偏好其他人类的那种。

这取决于繁衍是以什么方式进行的。

有道理。但如果我们所处的世界里,繁衍仍然以现在的方式进行,我认为……这是个大问题,我不是在做预测。

你们节目请过戴维·赖克。他在上一期播客里的观点是,我们正处在自然选择的活跃状态之中。所以,即使你现在得到的是某种无所谓的态度,选择也可能把它推向对其他人类更强的偏好。

这里有一种思考方式。世界上最富有的人的财富是以什么形式存在的?我们之前通话时,你提到他们的消费更偏向关系型商品。比如马克·扎克伯格为他妻子的生日雇用综合格斗教练和舞者,等等。

但他大部分财富只是 Meta 的股票。作为控股股东,他可以说:“Meta,把这些财富全部变成股息收入,我就把它们花在消费上。”但他宁愿让财富持续复利增长,让 Meta 建造更多数据中心。

所以你甚至不需要改变人类,这种情况就会成立。最富有的人,并且由于财富复利增长而变得更富有的人,就是有这种几乎是“尼克·兰德式”的、加速资本的偏好。这似乎确实表明,这是决定未来会生产什么样东西的一个重要因素。

要得到这两类人,有两种方式:一类偏好人类治疗师,另一类则乐于与 AI 互动。如果两者在资本上饱和的速度一样快,而喜欢人类治疗师的那一类同时也喜欢某些人类本质的服务,那么假设两人起点同样富有,各自在未来的资本边际价值与今天的资本边际价值之比,基本上应该是相同的。可能会有一些相互作用之类的因素,但基本上应该一样。

如果造成差异的原因是,其中一个人在资本上根本不会饱和,因为探索宇宙、把自己的头脑变成“银河脑”之类的前景吸引着他,而另一个人会饱和,那么在资本上不会饱和的那个人,如果他是理性的,就会有更高的储蓄率。

所以从长期看,他们将拥有大部分财富,而整体的资本收入占比基本上就会是那个人支出的资本收入占比,也就是 1。

重要的是,我们谈论的并不是一个假想的未来。埃隆·马斯克在谈论月球上的质量驱动器。他是目前世界上最富有的人,遥遥领先。显然,他现在的投资既投向人类,也投向机器,但我并不认为他特别在意未来的研究人员和工程师是人类还是 AI。

而且他还设法很快地繁衍后代。所以我只是觉得值得作出这个区分。目前确实有一些富人,看起来在资本上并不会很快饱和,因此也许从长期来看他们的储蓄最多。这在我看来确实说得通。

我还想说,即使他们在生物学上繁衍得更慢,如果他们能永生,那么从长期看这也许并不那么重要。

永生是关键。再次强调,我们是在构建情景。如果你能永生,对我的故事来说也有很多东西会改变。至于你说到富人不怎么消费、而是投资,这一切都取决于资本回报。现在数据中心的回报极高,但如果我们进入人们对资本已经饱和的局面,那么积累资本的回报就会降低。那样的话,这些富人就会消费得更多,因为投资的激励变小了。

基本上,你要思考这类过程的一般均衡……自 1820 年以来,我们已经变得富有得多。投资的人多了很多,但你仍然看到消费的反应,使人们保持就业、让劳动收入占比保持高位。这是因为——

等一下。

等等,也不一定。我想你大概是在表达同样的观点。可能是这样:他们的投资必须经由实际的劳动者来逐步实现,劳动者必须做事,他们的投资才能奏效。而在未来,只有消费是由人类中介的,对吧?因为投资完全可以由机器人来完成。

所以我们是在讨论如何才能让劳动收入占比保持高位的情景。就拿这个情景来说。在劳动收入占比高的情景里,无论出于什么原因,资本回报都会较低。

没错。就像我们之前说明混乱的中间地带为什么不太可能一样,我觉得这里也可以做类似的事。要让资本回报较低,增长率必须较低,对吧?它肯定得低于我们预期的变革性 AI 时期的水平。如果出现爆发式增长……

是,也不是。资本存量可能增长很快,但资本品相对于消费品的价格,可能下降得比资本存量增长得还快。

这是技术潜在前沿与这些东西实际实现的价格之间的区别。因为你有相对价格。

所以你是说,我可以把钱拿去赚 30% 的利息,投资数据中心之类的。如果增长率高,未来会有某样东西带来高回报。或者,由于所有这些技术突破,有某种很酷的产品是我现在就真想买的,这两种选择都会很有吸引力。

对。它不一定是新产品。也可以是人类本质的产品。

不过,如果它是人类本质的产品,我们在未来想要它的程度会比现在大得多,因为它所对比的东西是——

我们对它的需要程度可能与现在相同,意思是芭蕾舞表演的边际效用与现在完全一样。但机器人的边际效用可能比现在低很多。所以以机器人为单位衡量,我们想要它的程度比现在大得多。

利率会是 30% 吗?这取决于你所说的实际利率指什么。可能现在每个机器人明年都能变成 100 个机器人。所以以机器人为单位,利率是 10,000%。但如果机器人的价格下降得非常快……

价格会调整。我认为这就是全部的要点。

这里价格以一种有趣的方式在调整,而太多宏观模型不允许这样。正在发生的事,被称为投资专用型技术变革。

资本的价格相对于消费的价格在下降,而不是采用标准宏观做法,即说只有“产出”这么一个东西,这个叫做“产出”的奇怪混合物,可以一比一地分配给资本或消费。在这个世界里,这就不再成立了。

明年每一单位资本所放弃的消费,都远少于今年每一单位资本所放弃的。现在的一个机器人明年变成许多机器人,但芭蕾舞演员的数量还是一样。

我们又要回到品种增加那件事上了。如果明年所有那些多出来的机器人实际上是不同品种的机器人,而我对这些机器人并没有饱和,那就是非常不同的故事了。

但现在我们谈的是消费世界。就投资这一侧而言,可能只需要有某个贪婪的实业巨头,不断想要越来越多的机器人。仅这一点就足以提高机器人的边际价值,从而降低劳动收入占比?

是的。

我们为什么不预期贪婪的实业巨头会继续存在?

历史上,贪婪的实业巨头建过图书馆,而且——

但那是因为他们会死,他们就会想——

哦,他们都会死。每个人都会死。

嗯,我们拭目以待。

在人会死的前提下……你们节目有位嘉宾说过,要理解未来,就应该思考过去。可能会诞生新类型的巨头,他们积累财富的全部理由就是为了积累财富本身。

但很多时候,至少在历史上,财富积累的过程是同辈之间、社区之中一种大型社会互动的一部分,你希望以某种方式受到敬佩。关于实业巨头的典型事实是:你积累资本,然后买一大堆东西。

我想这是个历史问题,但在我看来,很多情况下发生的是,随着他们接近生命终点,他们要么把财富交给子女,而子女比他们更不善于管理资本。他们甚至没能让财富以经济增长的速度增长,更不用说超过经济增长的速度,而他们的父母曾经做到了这一点。

他们会想:“嗯,我对孩子拥有这些财富的在乎程度,不如对我自己玩这场积累财富的游戏的在乎程度。所以我干脆把它交给某个信托。”如果人们活得更久,或者他们能想出某种办法让他们的信托与这个财富积累过程保持一致……我感觉这里的进化作用非常强。你只需要几个这样想的行为体,这件事就可能成为决定整个经济偏好的主导因素,因为这一部分比经济的其他部分增长得快得多。

关于饱和与边际效用递减的部分一直在被提到,我认为它真的很重要。如果一个人对积累有内在的偏好,那就是他想要的,那么我认为你的故事完全正确。但偏好通常不是这样运作的。你生活中有了足够的享乐,然后是社会地位……卢梭写过这个,圣奥古斯丁也写过。这是偏好的一个基本组成部分。

现在,你们两位在争论的是另一件事,即可能出现如此高度的集中,以至于只需要有几个例外,就足够了。对此我没有什么要说的。

我认为这个主张要稍强一点,不只是说可能有一些例外,而是说历史上乃至今天我们都看到了这些例外。只是它们历史上没有真正接管经济,因为存在所谓的耗散冲击。他们把财富交给了挥霍它的孩子,或者放进了把它花掉的基金会。这并不算真正的冲击,不过……

人们可能很想用自己的纪念碑填满宇宙,并且非常富有地永生。这是个奇怪的偏好,但它不是一个假想的偏好。我想这就是那个主张。

但谁知道他们脑子里在想什么呢?即使没有对积累的内在偏好,也有一些工具性的理由让一些人看重积累,这一点同样值得一提。人们渴望政治、哲学或宗教上的影响力。人们会就社会应是什么样子、人们应该信什么,陷入一场军备竞赛。

类似但又不同的是,有一种总体功利主义的慈善,因为它不是军备竞赛。当我思考,作为一个优秀的古典功利主义者,为什么未来拥有大量财富可能是好事时,在我看来,其价值,或者至少是让未来财富带来近乎不会饱和的效用函数的一种方式,是创造新的快乐生命。它们增加了世界的总福祉。

这个想法至少可以追溯到博斯特罗姆的“天文级浪费”论点,即我们可以在恒星周围建造戴森球,把所有能量变成非常快乐的模拟世界之类的东西。

我认为这种优化者具体有多贪婪、对什么贪婪,并不重要。抛开功利主义哲学之类的不谈,一个纯粹的冯·诺依曼探测器……我不知道,这样说准确吗?它们对自己将占据的某个随机恒星系有很高的边际价值,因为这会变成更多的恒星系。冯·诺依曼探测器是可以存在的东西。那是个非常贪婪的优化者。

如果我们在谈它们是否会主导经济,也许这只是个技术细节。但我们只把最终消费品和投资品计入 GDP。如果存在这样一种现象——

冯·诺依曼探测器如何体现在 GDP 里?

没错。如果我们把它承认为一个拥有自身的人,而它在边际上进行优化,权衡是多花一点钱制造一个去殖民另一个恒星系的小冯·诺依曼探测器,还是花在芭蕾舞演员之类的上面,而它根本不怎么重视芭蕾舞演员……

当我们谈论 AI 存在体时,这完全取决于我们在那里如何核算。

在冯·诺依曼探测器成为可能的世界里,世界会是什么样子?劳动收入占比有可能很高吗?

我认为,按照我们通常的计算方式,劳动收入占比有可能很高。

61:28经济学家对那些不在 AI 生产链中的国家有什么建议吗?如果你既不生产 AI 模型,也不生产用于 AI 模型的硬件,不是生产 HBM 的韩国,不是拥有晶圆厂的台湾,也不是拥有 ASML 的荷兰。比如印度或尼日利亚,它们现在应该做什么?如果你现在是在对莫迪说话,你会说什么?

我认为,我们经济学界在资源配置上最大的缺口,是对 AI 时代中等收入发展中国家的思考。这一点我自己也有责任。思考这个问题的人不够多。

有些情景是,AI 技术被分配并扩散到尼日利亚等发展中国家,使竞争环境变得公平,本质上就能力而言让它们升了一个级。

但还有另一种世界:由于它们资源不足,没有训练模型,也没有硬件,于是被彻底甩在后面。而且由于自动化,我们现在在发达国家就能生产大宗商品。这样我们甚至连消费市场都没有了。那样的世界看起来相当糟糕。

在我看来,这是混乱中间地带情形的延伸。混乱的中间地带可能只在很窄的一组情景中才糟糕,其中一个原因,不仅在于由于蛋糕更大,再分配会很容易,还在于利率会高得多,和/或者等价地说,除了人类本质商品之外的一切东西的价格会迅速下降。它们是一枚硬币的两面。一点点储蓄,明年就会变成大量的消费。

事情必须出现很严重的偏差,我们才会刚好越过这样一个门槛:资本的生产率足以自动化大量工作,但又没有高到使利率很高、资本所生产商品的价格大幅下降。即使没有再分配,一点点储蓄也能拯救很多人。

你是说,如果发展中国家在发达世界有一些储蓄,那就足以产生大量盈余,然后它们可以——

他们现在就能用储蓄进行大量消费。

但在这种情况下,混乱的中间地带可能会更宽。它们的起点低得多,无论是它们拥有多少,还是它们与全球经济的挂钩程度。我认为对它们来说,现在就参与进来很重要。至于这应当采取主权财富基金投资合适供应链的形式,还是直接补贴本国公民购买一点——,我对此没有强烈的看法。

这其实是个关键点。我们之前在谈,为什么洛克菲勒这样的家族,他们的后代并没有控制一切,如果我们关于这些贪婪优化者被选择出来的论证成立的话。一种说法就是,对经济进行指数化是非常困难的。也许他们当初本可以决定让继承人去指数化整个经济,让财富按经济增长的速度增长,那么他们的后代现在就已经是万亿富翁了。

在指数基金出现之前,这非常困难。回溯 100 年,经济中很小的一部分,创造了现在大多数的价值。如果你错过了那些特定的东西,你的财富就会停滞不前。

也许从指数基金诞生到五年前,存在一个短暂的黄金窗口,你真的可以对经济进行指数化,让财富按经济增长的速度增长。但现在我们身处一个回报高度集中的世界,尤其是集中在私营公司。正如我们在博客文章中所说,普通人获得这类资本的机会不成比例地更少。他们大部分资本就是拥有一套随便什么房子,至少在美国是这样。

或者一套房子的一部分。

而正如我们所说,这种资本格外不适合作为 AI 生产、AI 服务或机器人的互补品。

或者说,不适合作为富人会抬高价格的那类商品。

没错。一套房子目前的价值是什么?是这块土地靠近其他人类,再扣除关系性的因素,它将来不会成为主要的生产要素。

这就是为什么乔治主义税收筹集不到足够的钱,来支撑我们将要讨论的那类方案。

对。但退一步说,我想表达的观点是:如果现在对经济进行指数化变得更难了,而这本是普通人应该——除非有某种全民基本收入——

在发达国家。

——应该借以分享 AI 所带来财富的主要途径。同时这也是发展中国家应该借以分享 AI 所带来财富增益的方式。

但这非常困难。尼日利亚有大量持有 SK 海力士和 Anthropic 吗?我猜没有。它们仅仅持有标普 500 是不够的。

这引出了一个很重要的问题。AI 会像电力,还是像社交媒体?

想想 ConEd,或者这里的电力供应商,不管是哪家。它是一个垄断者,提供人人都使用的资源。但我们会认为电力造成了权力的集中吗?ConEd 是否拥有巨大的政治权力、社会权力之类的东西?没有,因为就电力而言,许多下游的收益实际上归属于电力的使用者,而不是实际生产电力的实体。

另一方面,社交媒体的情况则相反。社交媒体无处不在。每个人都在用社交媒体,但租金归了平台。

这是个非常有趣的观点。我暂时还不认同这个看法,我只是边想边说。你越认为我们的经济将像今天依赖电力那样依赖 AGI,也就是说,整个经济发生了广泛的根本性转变,它就越像电力……未来标普指数中的每一家公司,如果它要进入标普 500,那是因为它利用了 AI。

没错。这样你又被指数化了。

但话说回来,我想,如果你只看标普指数随时间的集中程度,这些大型科技公司要高得多……我想这触及了一个根本问题:很难推断这些单个的私营公司最终能控制 AI 收益的多大一部分。

我认为开放模型在这里会是个重点。如果我们确实身处这样一个世界:开放模型落后前沿六个月,或九个月,那么我们到达 AGI,到达无论什么,六个月后,所有人都能获得这一资源。

这说明了每个问题都与其他所有问题相连。关于是否存在失控式收益的那个问题,连着关于递归自我改进的问题。即使不是递归自我改进,也还有持续学习,或者在线学习,它让模型能在工作中学习。所以一旦被部署,它就能学到更多。这些只是技术层面的预测问题,但它们又会影响乌干达能否分得 AGI 回报的一杯羹。

我之所以强调这个问题,是因为无论是对混乱的中间地带还是对发展中国家,人们常天真地提出的建议是:你得做某种再培训,得搞某种就业计划,或者让他们在你的国家建数据中心。我觉得你们两位提议的更接近于直接购买 AGI 的指数。那可能是一个干净得多、成功可能性也大得多的策略。

这是两种情景。我认为存在一个世界,AGI 是集中的,在这种情况下,指数化 AGI 将非常困难。还有另一个世界,它就像电力。基本上每家公司都能获得 AGI。所以你只要买指数就行。尼日利亚只需要买指数,而尼日利亚凭借开放模型就能获得 AGI。

回到是选择再培训还是尝试指数化的问题。考虑到 AI 可能多快冲击世界,我会优先尝试指数化。但我肯定不会只依赖这一条。

在混乱的中间地带的情形,或者在 AGI 并不那么快到来的长时间线情形中,如果你本可以通过再培训,更好地掌握如何使用最新一波计算技术,而没有这样做,就会白白丢掉很多价值。我不认为这里存在那么强的非此即彼。

也许对此持悲观态度的理由是,一个国家贫穷的原因之一就是教育体系不好,所以对这个穷国来说,成为世界上最擅长培训人们使用 AI 的国家,看起来并不是一个特别有前景的策略。

不过也有一些情况,发展中国家出现了跨越式发展的效应,比如移动银行。它在尼日利亚比在德国普及得多。每个人都在用移动银行。他们手机上都有,而且不停地在做这类事情。

我再说一遍,我并不是在给这个设定概率,但对于像 AI 这样的变革性技术,你有可能出现跨越式发展,跳过中间的那一步,实现真正天文数字般的增长。

关于指数化的难易程度,我认为这绝对是需要有点担心、并保持关注的事情。但正如我们自己的文章所讨论的,也如其他人所指出的,指数化本来就不算难。回报的私有化有所增加,但美国非微型公司总市值中,私有部分仍远低于 20%。

大家都在想 OpenAI 和 Anthropic。如果所有财富都会流向那里,那么关于开放模型是否会只落后一点点的这些问题就很重要。但它们看起来也会在不久后上市,很可能如此。阻碍公司上市的那些摩擦,本身也可能被 AI 大幅缓解,比如各种披露要求之类的。它们也想接触到更多潜在投资者。

如果让我猜,我会猜降低这些摩擦、让越来越多人更容易进行指数化的长期总体趋势会继续下去,尽管最近有一个反方向的小波动。

这实际上让我比以前更加希望各个实验室会被商品化,或者至少尽快上市。但最好是它们完全商品化。我认为,如果获取 AI 收益像获取电气化收益一样难以被独占,那么 AI 会受欢迎得多,更重要的是,会更有可能带来广泛的繁荣增长。

没错。没有什么反电力的人。

我是说电力不会抢你的工作,但是——

嗯,它会抢一些人的工作。

确实抢了一些人的工作,是的。

这也许与对话有点偏题,但我认为叙事很重要。现在围绕 AI 有一种非常负面的叙事,但那是因为人们没有提出正面的叙事。这是有原因的。想象一件不存在的好事,比失去已有的东西更困难。有人上播客说“你们喜欢的这些工作要消失了”,比有人构想出一个尚不存在的乌托邦要容易得多。

我希望这不会太突兀,但如果我不指出让前沿 AI 模型商品化的一个大代价,那就是我的疏漏了,这个代价就是科技竞赛的动态。出于安全考虑,你可能希望前沿公司少一些,这样每一家都有缓冲余地,以防它们想放慢速度、让事情更安全。

这与我们之前关于回报被广泛获得的观点的关系是,我认为这里的取舍远没有一些人想象的那么大。有些人认为,要么前沿 AI 被商品化,我们都享受好处,但可能有一些风险,因为市场竞争激烈而残酷;要么事情更安全,因为领先者和落后者之间有很大差距。但这意味着领先者会变得富可敌国吗?不是的。你完全可以有一个相对较大的差距,但它是一家上市公司,其所有权被广泛分散。

最近,我一直在想,商品化的风险(即它扩散了将 AI 用于有害目的的能力)是值得为那些好处而承担的。我担心,拥有这些集中的实验室,不仅使得盈余无法在社会中广泛分配,还会为政府制造一个非常有形、非常明确的政治靶子。我们在针对 Anthropic 的《国防生产法》威胁中看到了这一点。如果不存在一家或几家明显领先于其他的实验室,这种威胁就会难以施加得多。

谢谢二位做这期节目。我觉得还有很多未解决的问题,但了解在所有这些重要维度上第一个分叉点在哪里,是很有帮助的。

太好了。

谢谢。