自动化公司会是什么样子？

即便是那些预期人类水平 AI 很快就会到来的人，也仍然严重低估了它真正出现之后世界会有多么不同。多数人把注意力锚定在单个模型能有多聪明上。（也就是说，他们在问自己：“如果每个人都配有一个能 7×24 小时工作的极聪明助手，世界会是什么样？”）

所有人都忽视了 AI 将拥有的集体优势，而这些优势与纯粹的智商无关，而是源于它们是数字化的——它们能以人类根本做不到的方式被复制、蒸馏、合并、扩展和演化。

一家完全自动化的公司会是什么样——所有员工、所有管理者都是 AI？我的主张是：这样的 AI 公司会以前所未有的速度成长、协调、改进，并被选择出来。

这篇文章不是在预测 GPT-5 会做什么，也不是在讨论对现有人类的模拟。相反，我试图想象的是：当我们真正拥有 AGI 之后——也就是 LLM 的后代已经强大到几乎能做任何人类能做的事——世界会是什么样。

如今，公司在招聘和培养人才上存在极其严重的瓶颈。但如果你的“人才”是 AI，你就可以把它复制到荒唐的次数。假如 Google 拥有一百万个 AI 软件工程师呢？不是未经训练的、面目模糊的“工人”，而是相当于 Jeff Dean 和 Noam Shazeer 的 AGI 复制体，带着他们全部的技能、判断力和隐性知识。

这种把资本转化为算力、再把算力转化为顶尖人才复制体的能力，是一种根本性的转变。既然训练成本可以分摊到数千个副本上，你完全可以给这些 AI 越来越深的专业造诣——每个相关领域的博士学位、几十年的商业案例、对公司所依赖的每一个系统和代码库的细致了解。

复制的力量不止于个人，还延伸到整个团队。那些曾经成功过的小团队（想想 PayPal 黑帮、早期的 SpaceX、叛徒八人组）可以被复制去同时攻克一千个不同的项目。这不仅是复制明星个体，更是复制那些已知能良好协作的互补技能组合。复制的单位变成了任何被证明最有效的人才组合。

复制对管理的改造会比劳动力更加彻底。它将带来一种微观管理，让“创始人模式”显得古朴。人类 Sundar 根本没有足够的带宽去直接监管 20 万名员工、数百个产品和数百万客户。但 AI Sundar 的带宽只受你给它多少 TPU 来运行的限制。Google 全部 3 万名中层管理者都可以被 AI Sundar 的副本取代。AI Sundar 的副本可以为每个产品制定战略、审查每个 pull request、回复每条客服消息、处理所有谈判——一切都源自同一个连贯的愿景。

不存在委托—代理问题：员工不会去优化 Google 底线之外的东西，也不会缺乏判断什么最重要的能力。1 一家 Google 这种规模的公司，可以比现在更像“单一心智的产物”——一份论纲的表达。2

想一想今天一位 CEO 的知识有多么有限。Sundar Pichai 究竟了解 Google 庞大帝国中正在发生的事的多少？他拿到的是经过过滤的报告和仪表盘，参加关键会议，阅读战略摘要。但他不可能吸收数百个团队中每一次产品发布、每一次客户互动、每一个技术决策的全部背景。他对 Google 的心智模型必然是不完整的。

现在想象“超级 Sundar”——那个将指挥我们未来 AI 公司的中心 AI。正如特斯拉的完全自动驾驶模型可以从数百万驾驶员的驾驶记录中学习，超级 Sundar 也许可以从所有蒸馏版 Sundar 所看到的一切中学习——每一次客户对话、每一个工程决策、每一次市场反应。

与特斯拉的 FSD 不同，这不必是一个朴素的梯度更新与平均的过程。超级 Sundar 会以高得多的效率吸收知识——通过显式摘要、共享的潜在表征，甚至以外科手术式的方式修改权重来编码特定的洞见。

不同 AI 实例之间的边界开始模糊。超级 Sundar 会不断生成专门的蒸馏副本，并重新吸收它们各自学到的东西。模型将直接通过潜在表征交流，就像 GPT-4 这类神经网络中数百个不同的层已经在相互作用那样。3 于是，几乎不会再有沟通误解。超级 Sundar 与其专门副本之间的关系，将映照我们已经在投机解码等技术中看到的情形——由较小的模型做出初步预测，再由较大的模型验证和细化。

合并将是组织积累和应用知识方式的一次跃变。人类的巨大优势一直是社会性学习——我们能把知识跨越世代传递，并在此基础上继续建构。但人类的社会性学习有一个糟糕的缺陷：生物大脑不允许信息被复制粘贴。所以你不得不花数年（很多情况下是数十年）去教人们做好工作所需知道的东西。看看一个又一个领域里的顶尖成就者是如何越来越年长，也许正是因为要抵达累积知识的前沿需要更长时间。或者想想把人才聚集到城市和顶尖公司会带来多么超额的收益，仅仅是因为它让聪明人之间的知识流动稍微顺畅一点。

未来的 AI 公司将通过两个关键优势加速这种文化演化：庞大的种群规模和完美的知识传递。拥有数百万个 AGI，自动化公司获得多得多的机会去产生创新和改进，无论来自幸运的错误、刻意的实验、全新的发明，还是某种组合。

正如 Joseph Henrich 在《The WEIRDest People in the World》中所解释的，

累积性文化演化——包括创新——本质上是一个社会和文化过程，它把社会变成集体大脑。人类社会在创新能力上的差异，很大程度上源于信息在一个由积极参与的心智构成的种群中、以及跨世代之间扩散的流畅程度不同

回溯数千年的历史数据表明，种群规模是一个社会产生更多想法的速度的关键输入。AI 公司的种群规模将比今天最大的公司大上几个数量级——而且每个 AI 都能与组织架构图上从上到下的其他每一个 AI 完美地心灵融合。

从外部看，AI 公司将像一个统一的智能体，能够瞬间在组织中传播想法，并保持其全部的保真度和上下文。来自数百万副本的每一点隐性知识都被完美保存、共享，并得到恰当的考量。

让一个 AI 承担某个角色的成本，将只是这个 AI 所消耗的算力。这将改变我们对哪些角色稀缺的理解。

未来的 AI 公司不会受制于人类技能分布中什么稀缺、什么充裕——它们可以为任何最有价值的能力做优化。想要 Jeff Dean 级别的工程人才？很好：一旦你有了一个，边际复制成本只有几分钱。需要一千名世界级研究者？直接开出来就是了。限制因素不是寻找或培养稀有人才——而只是算力。

那么在这个世界里，什么变得昂贵？那些值得投入海量测试时算力的角色。CEO 这一职能或许是最清楚的例子。Google 每年为超级 Sundar 花 1000 亿美元的推理算力，值得吗？当然值得！想想这能买到什么：数百万小时的主观战略规划时间、对不同五年轨迹的蒙特卡洛模拟、对每一行代码和每个技术系统的深入分析，以及穷尽式的场景推演。

想象超级 Sundar 在思忖：“如果我们收购 eBay 来挑战亚马逊，FTC 会怎么反应？让我模拟未来三年的市场动态……啊，我看到可能的结果了。我还有五分钟的数据中心时间——让我评估一千种替代策略。”

决策越有价值，你就越想为它投入更多算力。超级 Sundar 的一个战略洞见可能价值数十亿。一个被忽视的风险可能损失数百亿。无论 Google 最优应该在超级 Sundar 的推理上花多少个十亿，肯定不止一个。

AI Sundar（或 AI Jeff）的蒸馏副本会是什么样？显然，让它们高度专业化是合理的，尤其是当你可以把这种领域知识的成本分摊到所有副本上时。比如，你可以让每个蒸馏版数据中心运维者都对集群中的每个组件有深入的技术理解。

我怀疑你会看到大量在职能、隐性知识和复杂技能上的专业化，因为这些在参数数量上似乎维持起来很昂贵。但我认为不同模型共享的事实性知识可能比你预期的多得多。确实，水管工-GPT 不需要懂太多物理学的标准模型，物理学家-GPT 也不需要知道下水道为什么漏水。但存储原始信息的成本便宜得难以置信（而且还在下降），Llama-7B 对标准模型和漏水管道的了解已经超过任何非专家。如果人类水平智能超过 1 万亿参数，那么把在极限情况下远少于 70 亿参数的大部分已知事实留在模型里，算是什么过分的要求吗？（另一个有用的数据点是，“Good and Featured” 的 Wikitext 不到 5 MB。我不明白为什么未来所有模型——除了那些极其小众的、相当于数字世界缓步动物的模型——不会至少把 Wikitext 记下来。）4

AI 公司与人类公司最深刻的差别将是它们的可演化性。正如 Gwern Branwen 所观察到的：

为什么我们看不到杰出的公司克隆自己并占据所有细分市场？为什么公司没有演化成——如今所有公司或企业都是 50 年前某个原初公司的超高效后代，其他公司都在破产中灭绝或被收购？为什么公司如此难以保持其“文化”完整、保持年轻时的精简高效，或者，如果避免“衰老”是不可能的，为什么（不）复制自己或以其他方式繁殖，创造像它们自己的新公司？

他的回答是：

公司当然会经历某种适应度的选择，而且确实差异很大。问题似乎在于公司无法复制自己……公司是由人组成的，而不是可互换、易于复制的零件或 DNA 链……公司甚至可能无法随时间“复制”自己，从而导致僵化和老化。

现存人类公司与完全自动化公司之间的差距量级，将像原核生物与真核生物之间在复杂度上的鸿沟。像细菌这样的原核生物不仅极其简单，而且在它们 30 亿年的历史中几乎没有什么变化5。而真核生物则迅速在复杂度上扩张，并孕育出所有其他令人惊叹的、由数万亿细胞紧密协作而成的生物体6

这种可演化性也是 AI 公司与人类公司之间的关键差别。正如 Gwern 指出的，人类公司根本无法有效地复制自己——它们由人组成，而不是可复制的代码。它们无法克隆自己的文化、制度知识或运营卓越性。AI 公司可以7。

如果你认为人类 Elon 在创建硬件公司方面特别有天赋，你根本无法一下子开出 100 个 Elon，让他们各自负责一个不同的垂直领域，并给每人 1 亿美元的种子资金。无论 Elon 多么喜欢微观管理，他仍然受限于他单一的肉身。但 AI Elon 可以让自己的副本去设计电池、去经销商那里当汽车修理工，等等。而如果 Elon 不是这份工作的最佳人选，那个最佳人选同样可以被复制，从而为新生的后代组织创建模板。

那么问题就变成：如果你能为你需要的任何任务创造出“Meeseek 先生”，你为什么还要为另一家公司支付溢价，而不是直接在内部复制？为什么还会有其他公司存在？第一个搞明白如何自动化一切的公司，难道不会直接形成一个接管整个经济的集团？

罗纳德·科斯的企业理论告诉我们，公司存在是为了降低交易成本（这样你就不必每天早上在自由市场上重新雇佣所有员工、租一间新办公室）。他的理论指出，公司内部的交易成本越低，公司就会长得越大。五百年前，要在数千人和数十个办公室之间协调知识工作几乎是不可能的。所以你不会得到很大的公司。现在你可以开一个任意大的 Slack 频道或 HR 数据库，所以公司可以大得多。

AI 公司将把交易成本相对于人类公司降得如此之低。为了沟通效率，很难打败把无损的潜在表征直接发给你的精确副本这件事！所以公司很可能会比现在大得多。

但这并不必然以一家吞掉整个经济的巨型公司收场。正如 Gwern 在其文章中所解释的，任何内部计划系统都需要扎根于某种外部的“损失函数”——一种关于成功的基准真相度量。在市场经济中，这来自利润与亏损。

短期内，内部计划可以比市场竞争高效得多，但它需要受到某种更缓慢但无偏的外部反馈回路的约束。一家增长得过大的公司，风险在于它的内部优化会与市场现实逐渐背离。

话虽如此，随着 AI 系统的进步，这个平衡可能会移动。当公司变得越来越“像软件”——成功组件可以被完美复制、反馈回路更快——我们可能会看到比以前可能实现的规模更大、效率更高的公司。

市场仍然充当那个落地的外部回路。公司如何把每天来自客户、市场、新闻等的数万亿 token 数据，转化成未来的计划、新产品之类的东西？是董事会像政治局那样做所有决策，用 100 亿美元的推理算力对不同的一年计划跑蒙特卡洛树搜索？还是你对不同部门运行某种演化过程，根据它们的表现给它们更多资本，以及算力和人力？

这些都是我们今天称之为“文化”的东西。市场促成了一个演化过程，它不仅筛选商品和服务，也筛选那些最擅长把世界转化为有价值商品和服务的制度。我认为这将继续下去。