Amjad Masad, Bret Weinstein, Daniel Priestley: AI智能体紧急辩论：这些工作24个月内将消失！遏制已经失败，我们必须为即将到来的一切做好准备！
AI AGENTS EMERGENCY DEBATE: These Jobs Won't Exist In 24 Months! Containment Has Failed, We Must Prepare For What's Coming!
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01文稿 — 第 1 部分
我认为很多人没有意识到，人工智能将对他们的生活产生多么巨大的积极影响。不过，我倒认为，那种“人工智能带来的冲击不会导致人类灾难”的想法未免过于乐观。举个例子，大量的人将会失业。你同意这一点，对吧？是的。如果你的工作极其常规，那么在接下来几年内，这份工作就会消失。但它也会创造新的财富机会。这么说吧，我们创造了一个新物种，而地球上没有人能预测未来会发生什么。我们邀请了三位重量级嘉宾，来共同辩论人类历史上最具颠覆性的转变——人工智能的崛起。
他们将回答那些你最关心的问题。这项技术将会变得强大得多。是的，我们将经历一段动荡期。但在那之后，我们将创造一个更公平的世界。它将帮助人们经营自己的事业、赚取丰厚的收入，还能解决一些重大问题，比如全球医疗和教育领域的突破将是惊人的，人们也能过上无比充实的人生。不过，关于这一点，我想说的是，利用闲暇时间做些了不起的事情，一直是技术人员的幻想，但现实是我们最终却陷入了无休止地刷负面新闻、孤独感蔓延的困境，对吧？出生率也在下降。所以，这里向善的潜力是无限的，而作恶的潜力则是它的十倍。比如战争、无法被检测的深度伪造内容以及诈骗。
所以，人们并不明白自己会以多少种不同的方式被欺骗。听着，我认为把所有问题都归咎于技术并不正确。这些问题其实早已存在。在座的各位都是父亲。那么，你们会怎么跟自己的孩子说呢？首先，这件事总让我觉得有点不可思议。在定期收听这档节目的听众中，有53%的人还没有订阅。那么，在开始之前，我能请求大家帮个忙吗？如果你喜欢这档节目，喜欢我们所做的一切，并希望支持我们，最简单又免费的方式就是点击订阅按钮。
我向您承诺，只要您做到这一点，我和我的团队就会竭尽所能，确保这档节目每周都能为您带来更好的体验。我们会倾听您的反馈，找到您希望我对话的嘉宾，并继续做我们该做的事。非常感谢大家。我之所以想和各位进行这次交流，是因为人工智能这个话题，更具体地说是人工智能代理，已经连续几周占据了我的空闲时间。实际上，当我开始使用 Replet 时，那简直是一次观念上的颠覆。大约一周之内，接连发生了两次观念上的颠覆。ChatGPT 发布了他们的图像生成模型，您可以用它创建任何图像。生成的图像细节极其丰富，还包含文字等各种元素。
那是一次巨大的观念颠覆。就在同一周，我终于忍不住想弄清楚，我在网上到处听到的“人工智能代理”这个词到底是什么意思。我听到了“氛围编码”，也听到了“人工智能代理”，心想，那我就试试吧。嗯。当我使用 Replet 20 分钟后，我简直惊呆了。我记得那天晚上我凌晨 3 点或 4 点才睡着。可能有人不知道，Replet 是一款能让您创建软件的软件。嗯。而且基本上是您想要的任何软件都能创建。
所以，像我这样完全没有编程技能的人，也能在几分钟内搭建一个网站，接入 Stripe 收款功能，将人工智能整合到我的网站中，并在网站前端添加谷歌登录功能。然后，我把这个用零编程技能搭建出来的软件发给了朋友们，其中一位朋友输入了他的信用卡并完成了支付。太神奇了。就这样，我在没有任何编程技能的情况下，创办了一家 SaaS 公司。为了以一种非常简单的方式演示人工智能代理，我使用了一个名为 Operator 的在线人工智能代理，让它从街角的一家 CVS 药店为我们订购了一些水。这个人工智能代理完成了从头到尾的所有操作，大家稍后会在屏幕上看到。
它输入了我的信用卡信息，还替我选了水，甚至给了小费。它还在某个时间点添加了一些配送说明，说待会儿会有个人上门。那个人没有和真人互动过，他互动的是我的 AI 智能体。我之所以拿这个当例子，是因为大概一个月前我第一次听说“智能体”这个概念时，对我来说简直是一次观念上的颠覆。嗯，大约一个月前，我就去订购了一瓶电解质水。结果门铃一响，我整个人都吓傻了。我真的吓坏了，心想：“你是谁？你在这里做什么？”所以，呃，我很小就开始编程了。你知道的，我十几岁时就创办了自己的第一家公司。我以前常去网吧编程，后来发现那里根本没有能用来管理业务的软件。我当时就想：“哦，你们为什么不创建账户呢？”可我没有服务器。我花了两年时间才把那段软件给开发出来。这件事让我深深记住了一个想法：嘿，你知道的，世界上有很多人都有非常棒的主意，尤其是在他们所处的特定环境下，这些主意能帮助他们创业。然而，从想法到软件——或者也可以说从想法到财富创造——之间的主要障碍就是基础设施，也就是物理基础设施，说白了就是你面前的一台电脑，就是你的网络连接，还有你构建所需的一切工具和技能。如果我们能让任何有想法、想解决问题的人都能实现这一点，那会怎样？我的意思是，想象一下我们能生活在什么样的世界里：任何有才华、能清晰思考、能产生大量想法的人，都能创造财富。这简直是一个绝妙无比的世界，对吧？无论身在世界的哪个角落都一样。所以，关于我在 2016 年创立的 Replet 这家公司，最初的想法是这样的：好吧，编程很难，我们该怎么解决编程问题呢？于是我们构建了整个流程的每一个环节——从代码托管到代码编辑器。唯一缺少的，就是那个 AI 智能体。因此，过去两年里我们一直在开发这个 AI 智能体。你知道的，自从 ChatGPT 掀起生成式 AI 革命以来，现在你几乎可以直接把自己的想法“说”出来，让它变成现实。我的意思是，这听起来开始有点宗教意味了，就像人类创造的那些神话故事里，神明可以无处不在……
……可以存在于任何地方。
随时随地都能做到，这大概就是互联网的特点。你也可以通过说话让你的想法变为现实。嗯，你知道的，现在还处于早期阶段。我认为 Replit Agent 是一款非常棒的工具，而且这项技术未来会变得强大得多。具体来说，什么是 AI 智能体呢？我这里其实有一张图表，不过不需要展示给大家，你们就能了解 AI 智能体的发展情况。这张图是谷歌搜索趋势数据，也大致反映了我们的收入增长情况。
哦，好的。没错，水已经来了。你好，谢谢。你可以进来了。我能试试吗？当然可以。是 3951。太棒了。非常感谢。谢谢，谢谢。我的意思是，这简直就像一种超自然的力量。你变出了水。我从自己的意念中变出了水。没错。它就这么出现在我们面前，而且显然认为我们需要很多水。不过，还是先为从未听说过这个术语的人解释一下“AI 智能体”这个词吧。好的。嗯，我想现在大部分听众都熟悉聊天功能吧？你可以和 AI 对话，它能帮你搜索网络，也拥有一定数量的工具。
嗯，它或许能调用计算器帮你做些加减法，但也就仅限于此了。这是一种“请求-响应”模式。而智能体则不同：当你给它一个任务后，它会持续工作，直到实现目标或遇到错误需要你的帮助为止。它是一种能够使用各种工具的 AI 机器人。这些工具包括像 Operator 这样的网络浏览器访问权限，像 Replit 这样的编程环境访问权限，还有信用卡等等。你赋予智能体的工具越多，它的功能就越强大。当然，这其中还涉及安全、防护等一系列需要考虑的问题。但最重要的是，AI 智能体能够自主判断任务何时完成。目前，AI 智能体的运行时间大概在 30 秒到 30 分钟之间。最近有一篇论文显示，智能体可运行的时间每 7 个月就会翻一番。现在我们大概是 30 分钟，7 个月后就会变成 1 小时，然后是 2 小时。用不了多久，就能运行好几天了。到那时，AI 智能体就能从事类人的劳动了。实际上，OpenAI 的新模型 03 已经超出了预期。所以它
它在短短三四个月内，就让长期连贯性任务的表现提升了一倍。所以我们正处在一个巨大的——我是说，看看这条指数增长曲线，你就能明白我们正处在一个多么巨大的趋势之中。Brett，给我们简单介绍一下你的背景吧。另外，我看到你刚才在那儿记笔记，里面用到了几个词，我觉得挺有意思的，尤其是考虑到我对你的了解。其中“上帝”这个词出现了好几次。
嗯，这么说吧，我是一名演化生物学家，不过就本次对话而言，或许把我看作一个复杂系统理论家会更合适。关于人工智能，我相信有一点是确定的：这是我们第一次制造出跨越了“高度复杂”与“真正复杂”之间阈值的机器。听着这场对话，我内心怀着一种混合着深切希望与恐惧的情绪。因为在我看来，这项技术所能带来的潜在好处几乎是无限的，这一点显而易见。但我要说，它可能造成的危害大概是好处的十倍——那是一个更大的无限。而至于我们该如何走向一个既能利用眼前这股显而易见的力量行善，又能规避最严重危害的境地，我毫无头绪。我知道我们还没做好准备。所以我听到你谈到“智能体”时，觉得这真是太棒了。
我们所有人都能立刻用上这样的东西，而且它越强大越好。一个能在你做别的事情时替你解决问题的概念，确实妙不可言。但当然，这也正是因沟通失误而导致彻底毁灭的先决条件，对吧？要让某个东西自主行动以实现某个目标，你就必须清楚地了解那个目标究竟是什么，以及该如何在它开始实现非目标内容时及时勒住缰绳。其被滥用的潜力也同样极其巨大。你可以想象一下，随便选一个你脑海中的黑暗镜像——那种反乌托邦式的幻想：某个东西奉命追杀你，直到你死为止，而它把这件事看作一个技术挑战。
所以，我实在不知道该怎样平衡这场讨论——既要谈论这项技术显然能带来的那些超凡脱俗的成果。我是说，我认为在这里援引“上帝”或《圣经》中的隐喻并非不合时宜。你想想，你几乎是在凭空创造出水。我相信这在《圣经》中确实有确切的对应典故。总之，力量已然在此，但与此同时，我们也需要警示性的故事，而我们现在并没有这样的故事。
问题在于，没有任何神话体系能真正警示我们这种工具的危险，因为我们刚刚跨越了一个门槛——它在改变世界的能力上，堪比文字的发明。我真的觉得我们现在就处于这样的境地。我们谈论的是一件将在毫无计划的情况下，从根本上改变人类本质的事情。你知道，文字改变世界是缓慢的，因为最初能使用文字的人寥寥无几，而且在接下来的几千年里，这个数量也一直很少。
这正在以一种“温和”的方式改变一切，而如此巨大的力量，就这样被一股脑地投入到了一个本就不受良好监管的系统里。丹，没错。我是一名企业家，在过去二十多年里一直在创业。我恰好能很好地理解你们双方的立场——既看到了机遇带来的兴奋，也感受到了可能出事的恐惧。我看到过一张1900年纽约市的照片，街上所有的交通工具都是马车；而13年后，从同一个角度拍摄的照片显示，街上的所有交通工具都变成了汽车。在13年之内，所有的马都被淘汰了，取而代之的是汽车。如果你当时采访那些马，问它们：“你对自己在世界上的处境有多大信心？”这些马肯定会说：“我们已经陪伴人类这么久了，你知道的，从有蹄子开始，我们就和人类在一起了，已经持续了好几千年。”
当时平均每三个人就对应一匹马。它们可能会想：“情况能有多糟呢？我们总会有自己的一席之地，永远都是社会的一部分。”但这些马万万没想到，事实并非如此——它们很快就会被彻底淘汰。通过类比来思考，我们现在很多人可能都会想：“等等，这么说来，我岂不是成了1900年的那匹马？”我认为很多人没有意识到，这类技术将产生多么巨大的影响。
你知道，前一分钟我们可能还在点一杯水，这看起来挺可爱的；但下一分钟，它就能持续运行好几天。用你的话说，它不达目的誓不罢休，并且会想尽一切可能的方法来达成目标。而用你的话来说，它最好清楚自己的目标是什么。丹尼尔在谈到 AI 智能体的广泛应用时，我一直在思考它的边界在哪里。因为如果这个东西真的能变得越来越聪明——“越来越聪明”这个词甚至可能都低估了——它会以极快的速度变得无比智能。我们正处在这场 AI 竞赛中，所有这些大型语言模型都在相互比拼智能。如果它能浏览互联网、点击各种东西、下单、写作、创造，而我们今天的所有生活都离不开互联网，那它还有什么做不到的呢？它肯定会比我更聪明。
毫无疑问，它现在就已经比我聪明了。而且它将能够在整个互联网上采取行动，而我的大部分职业活动几乎都是在互联网上进行的。就像我创建企业的方式一样。说到底，就连这个播客也是一个互联网产品。我们已经做过实验了，我能在手机上给你看图表：我们可以让 AI 制作播客，而且我们刚刚成功让它达到了与《DTC 首席执行官》播客相同的用户留存率。这里说的留存率，也就是观众留存率，即能坚持听到一小时的用户比例，现在已经一样了。所以我们可以制作视频、发布视频、撰写脚本，甚至可以合成我的声音，听起来就像我本人。
那么，它到底能做到什么呢？嗯。你能给我列举一些普通人可能不会直观想到的各种应用场景吗？当然。我通常是个乐观的人，部分原因在于我会努力去理解这项技术的极限。它能做到什么？只要是我们能提供给它训练数据的人类数据，它就能做到。它做不到什么呢？那就是那些人类自己都不知道该怎么做的事情，因为我们没有相关的训练数据。当然，它超级聪明，因为它整合了海量知识，是你根本不可能读完的，对吧？而且它的速度要快得多。它能进行超乎你大脑想象的海量计算，因为这些都是智能的。它们可以采取行动，但我们知道它们的极限，因为是我们训练了它们。
它们能够模拟人类所能做的事情。因此，你之所以能在那里点水，是因为它经过了NSF数据的训练，这些数据包括点击DoorDash并点水。我赞赏你的乐观态度，也喜欢你对这些谜题的思考方式，但我认为你犯了一个我们即将发现的、非常普遍的错误。我们有几种不同类型的系统：简单系统、复杂系统、混沌系统，以及复杂自适应系统。
对我们大多数人来说，一个高度复杂的系统看起来就像一个混沌系统。我们并不理解其中的区别。技术专家往往能掌握高度复杂的系统，他们知道，比如，计算机内部是一个完全可以预测的系统。它是确定性的。嗯。但对我们大多数人来说，它的运作方式足够神秘，让人感觉它像一个混沌系统。如果你已经掌握了高度复杂的系统，然后看到混沌系统时认为这只是自然的延伸，你就会无法预料到它们究竟有多么不可预测。因此，即使今天这些机器能做什么确实受到其训练数据的限制，我认为问题在于要看到接下来会发生什么。你真的需要开始把这件事看作一个新物种的演化，这个物种将持续不断进化。它的演化部分将由我们要求它做什么、我们引导它朝哪个方向决定，而另一部分将由我们尚未理解的因素决定。那么，我们拥有的这台计算机是如何运作的呢？它所做的其中一件事是，我们通过语言将它们彼此连接起来。这几乎就像在人类思维之间插入了一根以太网线。而这也就意味着
认知潜力超过了相关个体心智的总和。你们的 AI 系统将会做到这一点。这意味着，我们判断它们能做什么，不能简单地归结为“我们没用它训练过相关数据”。当它们开始互动时，反馈将把它们带向一些我们意想不到的能力，甚至当这些能力出现时，我们可能都认不出来。这正是我的担忧之一。这是一个不断演化的生命体，甚至还不算动物。如果它是一只动物，你或许还能说说它的能力极限在哪里。但这是一个新型的生物，它将能够做到一些我们甚至还没有命名的事物。即使它没有发展到那一步，即使它只是停留在你所说的那些边界之内——你提到它拥有中等水平的智能——那么根据定义，这意味着地球上 50% 的人都不如这个 AI 聪明。某种程度上，这几乎就像我们刚刚发明了一个由远程工作者组成的新大陆。他们有数十亿之多，每个人都拥有硕士或博士学位，都精通所有语言。你能想到的、能通过互联网请人帮忙做的任何事情，他们都在那里 24/7 待命，而且时薪只有 25 美分。
如果这种情况真的发生了——如果我们真的发现地球上凭空多出了十亿个拥有博士学位、还愿意几乎免费工作的人——那将对社会产生巨大的颠覆性影响。社会将不得不重新思考人们如何生活、如何工作、如何寻找人生意义。而这种情况，还只是它停留在中等智能水平的前提下。这已经相当深刻了。我仍然认为它是一件工具，是企业家们可以加以利用的力量。你知道，我认为世界将会被颠覆。我们在这个战后时代所构建的那种人生模式——接受 12 年教育，上大学，完成各种既定步骤，然后找一份工作——我们已经能看到它的裂痕了。可以说，那种“美国梦”或许已经不复存在了。所以我认为，世界其实早已改变了。
那么，但但具体来说，机会又是什么呢？显然，这其中也有弊端。机会在于，人们第一次能够平等地获得机会。而且我确实认为，不平等现象将会加剧。造成这种不平等的原因，其实可以追溯到史蒂夫·乔布斯打过的一个比方。他说，纽约最出色的出租车司机，大概比普通的出租车司机要好20%左右；而最优秀的程序员，则可能比普通人优秀10倍。我们称之为“10倍工程师”。而现在，这种差异可能会扩大到千倍，对吧？也就是说，那些能够善用这些智能体的顶尖企业家，其能力可能比那些缺乏毅力、技能和抱负的人高出整整一千倍。没错。所以，这将造就一个这样的世界：是的，人们获得了巨大的机会，但有些人会抓住这些机会，而另一些人则不会。我几乎把它想象成一场马拉松比赛，而人工智能拥有两种超能力。第一种超能力是分散人们的注意力，比如TikTok的算法。没错。而另一种超能力则是让你变得极具创造力。于是，你要么成为一个超级消费者，
要么成为一个超级创造者。在这场马拉松比赛中，绝大多数人的鞋带都被绑在了一起，因为人工智能分散了他们的注意力。有些人还在用传统的方式跑步，有些人骑上了自行车，还有些人则开上了F1赛车。当最终成绩登上记分牌时，场面将会非常震撼——你会看到，哦，等等，有少数人只用了大约30分钟就跑完了这场马拉松，而我们当中很多人却花了18个小时，因为我们的鞋带被绑在了一起。我就会想不通，既然我们拥有平等的机会，为什么结果上会有如此大的差距呢？当然，我这是在打比方，但这个想法是：很多人将开始月入一百万美元，而很多人则会说：“嘿，我连一份每小时15美元的工作都找不到。”
这里会出现一种很有意思的楔形效应。不过，我从你们两位的发言中都听到了一种假设，那就是这一切都会光明正大地进行。我并不是一个悲观论者。我同意那些悲观者很可能搞错了，他们的担忧是多余的。但我确实认为，我们面临一个相关速率问题。你知道，我说过这里潜在的善是无限的，而潜在的恶则是它的10倍。对吧？我的意思是，这件事显然能以多种方式赋能人们去做一些他们原本会被困在枯燥的编程学习过程中、然后还得想办法让代码跑通并推向市场等等的事情。
而这解决了其中很多问题，这显然是一件好事。我们真正想要的，应该是尽快实现财富创造的目标。但问题在于，尽管这种高度创造力的个人被赋予了创造财富的能力，但那些想要盗窃的人可能获得的赋能甚至更强。对此，我在相当高的层面上感到担忧。滥用的情况可能会超过正当使用的情况，而我们还没有应对计划。嗯，我能在这里快速介绍一下乐观的看法吗？OpenAI发明了GPT，第一个版本GPT是在2019年推出的，2020年是GPT2。所以，OpenAI现在受到了很多批评，埃隆·马斯克也起诉他们，说他们不再是开源的了，他们以前是开源的。原因在于，在GPT2时期，他们说我们不再会把这项技术开源了，因为它会带来一些滥用的机会，比如影响选举、偷走奶奶的信用卡等等。布雷特，你不觉得到目前为止我们看到的滥用情况少得有点出乎意料吗？
我不知道到目前为止我们到底看到了多少滥用的情况。我想我们谁都不知道。而且，即使以你提到的那个例子——ChatGPT为了防止滥用而不再开源——为例，我也是相信他们所说的动机的。但作为一名系统理论研究者，我会说，如果你拥有一项能极大增强你行使权力能力的技术，那么将其开源就等于放弃了利用这种能力的机会。而最有利可图的做法，就是将其保留为私有技术，然后要么把操纵选举的能力卖给想这么做的人，要么把不让这项技术被使用的能力卖给不想这么做的人。
我预计情况大概就是这样。如果你拥有一项具有如此变革性的技术，却将其免费开放，这本身就违背常理。这样一来，我们这些普通人就或多或少地受制于那些掌握这项技术的人。因此，我实在看不出有什么理由对此感到安心。我们正处在一个人类将经历彻底变革的黎明时刻，而这项变革本身作为一种真正复杂且不断涌现的创新，地球上任何人都无法预测接下来会发生什么。我们正站在某个重大事件的临界点上。
问题在于，我们可以谈谈那些显而易见的冲击，比如对就业的冲击，而这将是巨大的。这会不会导致某些精英群体认为，哦，突然之间我们有了大量“无用之人”，那我们要怎么办呢？因为这种讨论往往很快就会走向一个非常黑暗的方向。不过，我认为这仅仅是各种问题可能出现的开始，即便不陷入末日论的设想之中。这是一场不受控制的实验，而全人类都处于这场实验的下风口。是的。所以我试图说明的是，OpenAI 在潜在危害的严重性方面，其实有些失算了。比如，我想我们早就应该从新闻里听说过它造成了多大的危害了。也许其中一些影响是在暗处发生的，但我们听到的那几起事件——即由大型语言模型（也就是驱动聊天机器人的技术）引发的事件——都成了头条新闻。比如《纽约时报》就报道过一个孩子，他可能是在某种聊天软件的诱导下走向自杀的，而这种软件本意是帮助青少年缓解孤独感。这实在令人痛心。
显然，这些正是我们希望关注的有关安全和滥用的问题。但这些毕竟只是些孤立的事件。而且我们确实有开源的大型语言模型。大家普遍谈论的当然是 DeepSeek。DeepSeek 来自中国。那么 DeepSeek 的动机是什么呢？也许它的动机就是摧毁美国的 AI 产业。要知道，当它们发布 DeepSeek 时，英伟达的股价、整个 AI 市场以及所有相关领域都暴跌了。但开源确实存在其动机。Meta 正在将 Llama 开源。Llama 是另一个类似于 ChatGPT 的 AI 模型。他们之所以要开源 Llama，扎克伯格也直接说出了原因：基本上，他们不想受制于 OpenAI。
他们不是把人工智能作为一种服务来销售，而是用它来打造产品。在商业领域有一个概念，叫做“将互补品商品化”，因为你需要人工智能这项技术来运营你的服务。而实现这一点的最佳策略就是将其开源。因此，这些市场力量将创造出一些我认为实际上很有利的条件。我给你举几个例子。首先，人工智能公司有动力去创造安全的人工智能，这样他们才能将其出售。其次，一些安全公司正在投资开发人工智能，用以防范人工智能可能带来的恶意行为。所以，你看到了自由市场——我们一直都有这样的市场——但纵观人类历史，我们通常能够利用同样的技术来防止其被滥用。因此，我不太理解这种担忧。也许这正是你所能想到的、站在复杂系统前沿的研究人员与一位同样来自复杂系统领域、正在回望这些高度复杂系统的生物学家之间会展开的讨论。在博弈论中，我们有一个叫做“集体行动问题”的概念。而在你所描述的市场中，任何一家公司都没有能力去遏制人工智能的滥用行为。
你最多能做的就是不参与其中的滥用行为。你无法阻止他人以某种危险的方式去训练大型语言模型。你只能根据自己的行为准则，限制自己通过这种方式盈利。但结果往往是，这项技术无论如何都会被发明出来，只是赚来的钱最终进了别人的口袋。因此，企业没有动力去自我约束，他们至少需要保持竞争力，以便能参与即将开放的市场。那么，这项技术可以被滥用的方式有很多。我们来看其中几种。
有什么能阻止有人利用个人的创意成果来训练大型语言模型，然后创造出一个能超越该个人的模型呢？这个模型不仅能产出那个人一生中能自然产出的内容，还能在此基础上进行推演，甚至将其与他人的见解相结合。这样一来，拥有该模型的人就可以利用他人的创造力来训练模型，却无需与原创者分享由此产生的收益。你完全有可能因为将自己的创意公之于众，结果这些创意被当作训练数据吸收到未来的大型语言模型中，最终导致自己失去商业机会。
这种做法不择手段，但确实几乎可以保证成功。事实上，这种情况已经在发生了。所以，这是个问题。同样，又有什么能阻止某个人与个体互动，然后训练一个大型语言模型，使其变成一个个性化的诈骗者呢？一个能精准利用你盲点的家伙。这种情况确实会发生，而且已经开始发生了。嗯，人们会接到电话，听起来就像他们的女儿打来的，说“我丢了手机，现在借了朋友的电话用”之类的话。有趣的是，我觉得你提出了一个非常好的观点。
我担心这会对社会产生影响。然而，当我观察每一个定期使用人工智能的个体时，它几乎对他们的生活产生了深远而积极的影响。我看看那些……嗯，我最近刚和岳父岳母待了一段时间，他们七八十岁了，会定期使用人工智能处理各种各样的事情，他们觉得这些工具非常有价值，也改善了他们的生活质量。我个人去年完成了一笔并购交易，收购了一家公司，人工智能在协助整个流程方面表现得非常强大。对话被转录下来，然后转化为意向书、新闻稿和法律文件，我们大概节省了10万美元的成本，还加快了整个流程，看到这一切发生的过程简直就像魔法一样。话虽如此，你知道，也会有人说，那10万美元的律师费不就没人赚了吗？所以，我想知道，是的，人们对此感到不安，但如果我们回顾手机或社交媒体平台的发明，当时人们完全有理由持完全相同的看法，对吧？我记得……
……Facebook刚出现的时候，我记得当时人们突然意识到，过去那种会困扰很多人的情况——也就是你会和生命中大多数重要的人失去联系——已经不再不可避免了。你可以永久地与他们保持联系，他们成为某个不断扩大的松散社交群体的一部分，价值也因此不断增加。这种好处多到数不胜数，但它对我们造成的影响是深远的，在第一阶段并不明显。同样的情况也适用于手机、多巴胺陷阱，以及它如何让我们彼此疏离、如何让我们与自然脱节、如何改变了我们思考的模式。它改变了每一间教室。嗯。所以，我认为这些事情最终会被证明，只是人工智能将带来的颠覆性变化的一些小小预兆。因此，我同意你今天的看法。如今借助人工智能能做到的事情，确实带来了巨大的好处，当然也有少许坏处。
也许这正是我们需要担忧的事情。但随着事态发展，当我们开始——你知道的——探向我们正走向的悬崖边缘时，我想我们会发现，目前还无法探测到即将到来的变化的性质。所以，我只是想补充一些背景。因为阿姆贾德，我看到你在2023年的一份简报中接受采访，当时你说：“我不会为通用人工智能（AGI）做准备，就像我不会为末日做准备一样。”如果一些公司所设想的通用人工智能（AGI）成为现实，那实际上就等同于末日，因为这被称为“奇点时刻”——你其实无法预测那之后会发生什么。那么，你该如何为那种情况做准备呢？你更想为更有可能出现的世界做准备，也就是你真正能够预测的世界。在那个世界里，技术确实会取得巨大的进步，技术会产生惊人的复利效应，让人很难跟上节奏。从这一点来看，2023年时你说的内容和布雷特说的类似，也就是我们无法预知前方会发生什么，因为这确实是一个奇点。
抱歉，你还用到了“AGI”（通用人工智能）。很想知道你对通用人工智能（AGI）的定义是什么。是的。我当时想说的是，即使我错了，即使你真的能创造出一种无限制的、看似有意识的人工智能，它能完全取代人类，能以人类都无法企及的方式自主行动，还能协调不同的人工智能和数据中心来接管世界——即便情况真是如此，那么通用人工智能（AGI）的定义就是：人工智能具备通用智能，也就是说，它能像人类获取技能一样，高效地掌握新技能。
目前，人工智能并不能高效地获取技能。你知道，它们需要消耗巨量的能源和算力，以及海量的数据集，才能获得这些技能。而且我认为，通用智能所能达到的程度终究是有极限的。我想在大多数情况下，我们仍然落后于人类的能力。所谓“奇点”，是基于“智能爆炸”这一概念：一旦你创造出通用人工智能（AGI），这种智能就能修改自身的源代码，创造出下一个版本，而新版本会更加智能；接着，新版本再创造出更新的一版……如此无限延续下去，对吧？也许在一周之内，甚至可能在某个时刻只需几毫秒。是的，没错。
嗯，因为它可能会创造出新的计算基础架构等等。也许他们会用量子计算，这样一来，就会出现某种智能爆炸，届时我们根本无法预测世界会变成什么样。我的意思是，这有点像世界末日的故事——你该如何为那种情况做准备呢？如果那真的即将来临，我又何必花时间去做准备呢？我觉得那种情况不太可能发生，毕竟我们无法预知下一刻会发生什么。不过，我还是更愿意为一种可能性更大的世界做准备：我们拥有强大的力量，但世界并未终结，人类依然重要。
我不太明白你为什么说“可能性更大”。我的意思是，我认为你的论证结构是合理的。你当然应该为可能发生且你能做准备的世界做准备。对于那些你完全无法预测的世界，试图做准备其实毫无意义。你唯一能做的就是不断提升自己的技能并保持关注。但如果我要给技术专家们传达一个信息，那就是你们对这项技术能做到什么、不能做到什么的信心是站不住脚的，因为你们在不知不觉中已经步入了真正复杂领域的范畴。在真正复杂的领域里，你们对自己了解情况的信心应该几乎降为零。比如，这些事物是否有意识？我不知道。但它们很可能最终会产生意识，而我们却没有任何测试来判断这一点是否已经发生。埃隆·马斯克预测，到2029年，我们就会拥有超越全人类总和智慧的通用人工智能。而山姆·奥特曼——OpenAI的创始人，也就是开发了ChatGPT的那家公司——在三个月前写的一篇博文中提到，我们现在有信心知道如何构建传统意义上所理解的通用人工智能。当我把这些信息综合起来时，
我又回到了那个核心问题：在这种专业产出和GDP创造的过程中，人类究竟扮演什么角色？如果它比全人类加起来的智慧还要强大——正如埃隆·马斯克所预测的那样，并且它还能在互联网上采取行动、不断学习，那么这就引出了一个我希望能在今日解答的关键问题：我们该何去何从？嗯，就我构想的世界而言，我们仍然坐在创造者的位置上。我们掌控着由智能体组成的群体来完成我们的工作。比如你经营企业时，你坐在电脑前，只有一个小时的工作时间。
是的。然后你会派出大概一千名销售发展代表，你知道的，去尽可能多地获取潜在客户，同时为你的网站生成新的更新内容。而在这边，你其实有一个 AI 正在分析你现有业务的数据，以找出改进的方法。这些 AI 在某种程度上彼此协调着。而我试图强调的是人的重要性——我的使命就是为人们打造工具。我不是为“智能体”打造工具，而智能体本身就是一种工具。所以归根结底，我认为人类不仅在世界上，甚至在宇宙中都占据着特殊的位置。我们并不知道意识究竟从何而来，目前还没有科学能够真正解释它。
嗯，我认为人类是特殊的。一方面，我相信人类在这个世界上是特殊的；另一方面，我也理解当今的技术——而且我认为在可预见的未来——都将取决于我们训练数据的质量。比如，曾有这样一种观点：如果 ChatGPT 生成了病原体，那会怎么样？可你训练它的数据里包含病原体吗？他们以前在武汉就做过类似的事情。我的意思是，许多生物科技公司实际上都在使用人工智能。比如我能想到的 Abselera（好像是加拿大的那家），他们的整个业务就是用人工智能和比以往任何时候都更庞大的数据集来研发新疫苗。我之所以知道，是因为我曾与 Abselera 的一位创始人关系密切。总之，这些工作确实在进行中。如果我们回顾武汉的情况，现在大家很可能都知道，疫情是从一个实验室里传出来的，是实验室里的工作人员引发的。在那种情况下，它产生了巨大的影响，导致全球陷入停滞。在我把问题抛还给各位之前，我最想回答的核心问题是：哪些工作将会被取代？因为我知道你对此有独特的见解。在一个怎样的世界里，哪些工作会变得多余？
我现在坐在这里，作为一位拥有上千个 AI 代理的首席执行官，对吧？我刚才在想，我们公司里那些目前在做这些工作的人，他们都有谁。当我听到您提到处理业务数据时，我想到了我的首席财务官、平面设计师、视频剪辑师等等。那么，哪些工作会受到影响呢？是的，所有这些工作都会受到影响。嗯，所以我认为——也许这对听众来说会很有用——如果您的工作极其常规，那么在接下来几年内，您的工作就会消失。也就是说，如果您从事的是那些工作，比如质量保证、数据录入，您坐在电脑前，需要按照特定的顺序点击和输入内容，那么这些技术正在迅速推向市场，它们将取代大量劳动力。会计师？是的，我的意思是，我刚刚扭伤了脚，他们做了个核磁共振扫描，我得等了好几天才有人查看扫描结果并告诉我意味着什么。是的，我猜那种工作也快没了。嗯，我认为医疗领域的生态系统很难预测，因为受到监管的限制，而且同样，有很多因素在制约着……
这些技术如何渗透到经济中，因为存在监管以及人们是否愿意接受它。但您知道，那些不受监管、纯粹是文本输入输出的工作——如果您的工作是收到一条信息，然后生成某种成果物，比如文本或图片，那么这份工作就面临风险。再给您提供一些统计数据：目前大约 50% 拥有大学学位的美国人正在使用 AI。而对于没有大学学位的美国人来说，这一比例要低得多。所以您可以看出，这里可能会出现一种分化，而这种差距还会继续扩大，因为像我们这样坐在这张桌子旁的人，都在摆弄这些技术。但我在英国西南部普利茅斯的父母，他们才刚刚学会用智能手机。我给他们买了 iPhone，现在他们才会给我发短信。AI 对他们来说还差得远呢。而一旦我开始使用我的通用人工智能和我的代理们，这种差距就会进一步扩大。
女性受到自动化的影响程度远超男性，这正是你刚才提到的问题。根据《哈佛商业评论》的数据，大约80%的女性从事着面临风险的工作，而男性这一比例仅略高于50%。此外，仅需要高中文凭的工作有80%面临被自动化的风险，而需要学士学位的工作这一比例仅为20%。因此我们再次看到，这也会带来巨大的风险。以业务流程外包为例，这实际上是指西方国家将工作外包到印度、菲律宾等地。目前，已有数百万人通过从事这类业务流程外包工作摆脱了贫困，而这些岗位都将消失。尽管这些企业可能拥有上千名员工，但这些人实际上已经在转向培训人工智能了。嗯，你知道的，围绕人工智能培训将形成一个巨大的产业，直到它们被训练完善。不，你必须持续学习新技能，这正是我要说的。我的意思是，如果人工智能是其数据的产物，那么你就需要越来越多的数据。顺便说一句，我们已经用完了
互联网数据。我其实觉得，这或许对美国、英国乃至整个西方世界来说并非好事，因为它将拉平竞争格局——如今印度一个年轻人几乎不需要硅谷的办公室和700万美元投资就能创办一家软件公司。我的观点是，我对通用人工智能（AGI）和“奇点”有着更宽泛的定义。对我而言，通用人工智能指的是：从广义上讲，人工智能是否已经能够完成过去人类才能完成的事情？我们早已跨越了那个节点，现在所有人都能使用这种通用智能。每周有8亿人使用ChatGPT，它在过去三个月里呈爆炸式增长。而对我来说，“奇点”则是指当第一台拖拉机开上农田的那一刻。因为过去农场里需要100人才能耕完一块地，而拖拉机的出现让两个人就能在同样时间内完成耕作，结果100人中有98人彻底失业了。此外，如果一项技术最终改变了历史，我们总是会低估它。回顾汽车取代马匹的过程就能看出这一点。
飞机，莱特兄弟当时只是觉得飞机是军队能用上的东西，我们根本不知道它会有怎样的应用。所以最近有人对我说：“当某样东西真的改变世界时，我们总是低估了它所带来的影响。”而我现在看到人们对人工智能和智能体的预测已经非常乐观了。因此，如果历史规律在这里依然适用，那我们还是低估了它将带来的影响。而且我认为，这是我人生中第一次觉得，用工业革命来做类比似乎有点不够贴切了。是的。
因为我们从未见过这样的智能——你可以把它想象成……我不是这方面的专家，但我可以把它看作是肌肉力量的颠覆，而这次则是智能的颠覆。这正是关键所在：使人类与众不同的，就是我们的认知能力，尤其是我们彼此连接思想的能力。这样一来，整体就大于部分之和。这正是人类认知的特殊之处。而我们现在正在创造一种技术，它在技术上能够超越这种能力，却没有任何能确保这一过程安全的前提条件。所以是的，我们已经无数次地彻底改变了世界，多到数不清。但你知道，我们只是让农业变得高效得多。这和我们作为物种的核心能力被自己的劳动成果所超越，是两码事。我觉得你的问题问得很好。那么接下来会变成什么样呢？我们只剩下一样东西了。嗯，我们还有肌肉——这在工业革命中已经被我们抛弃了——然后是我们的智力，而这正是这场数字革命的对象。现在我们只剩下情感和自主性了。所以我们
基本上，我认为我们过去常常用智商来评判一个人，而现在智商已经成了衡量标准。未来十年，我们将关注的是：你是一个高能动性的人，还是一个低能动性的人？你是否具备把事情搞定并协调各种“执行者”的能力？你是否能创办企业，或者向数字大军下达指令？嗯，基本上，这些高能动性的人将在新世界如鱼得水，因为还有另一件事一直在表面之下悄然酝酿。当你说能动性仍将是一件重要的事情时，这真的很有趣——我们正坐在这里谈论人工智能代理。在充满超级智能人工智能代理的世界里，疯狂之处在于，我可以直接对我的代理说：“听着，我要去度假了，请帮我建一家SAS公司，发现一个市场机会，搭建网站，然后发布到我的社交媒体上，而我就在夏威夷待着。”而这个新的代理世界也正在夺走我的这种能力，因为它现在能像我自己一样采取行动。我可以浏览互联网，可以打电话给达美乐披萨，和他们的代理对话，安排在我醒来之前披萨就能送到。事实上，可预测性……
你知道，OpenAI现在正在学习，Sam Altman也提到他们已经扩展了记忆功能。所以，它了解得越来越多，越来越了解我。它几乎能预测我想要什么、什么时候想要。它会知道史蒂夫的日程安排：他即将到达工作室，要确保他的节奏安排妥当，确保他的iPad上有简报内容，准备好简报，替我做好研究，等等。它还会记住布雷特的生日，这样当我到场时，就会有东西等着。事实上，它正在消除我需要任何能动性的必要。是的。
你知道，我同样不知道该如何表达这个观点，才能让人们意识到我真正想说的是：今天，也许人们还没有意识到这一点。但让我这么说吧：如果你有意识，那么你最初是一个没有意识的孩子。尽管这可能无法完全概括，但你实际上就像一个大型语言模型，对吧？你从一个无意识的婴儿，成长为一个高度清醒的成年人。而你实现这一转变的过程，很大程度上取决于你在一个环境中是否接受了有效的词语和其他方面的训练——这和我们如今训练这些人工智能的方式如出一辙。所以，那种认为我们可以把意识排除在外的想法——在我们弄清楚如何将其编程进去之前，它根本不会出现——我们之所以安全，是因为我们不知道意识是如何运作的。而我得出的结论恰恰相反：我们已经创造出了能够产生这种现象的机制，然后哲学家们就可以去争论，这到底是真正的意识，还是仅仅表现得和意识一模一样。而答案是，这两者其实并无不同。
没关系。同样的情况也适用于自主性。你知道的，尤其是如果你创造了一个让这些人工智能成为事实上的竞争者的环境，那么你实际上就是在创造一个进化环境，它们会在这个环境中进化，去填补所有存在的生态位。而我们并没有明确这些生态位具体是什么。所以，我感觉我们……我们创造了一个真正会像新型生命一样运作的东西，而这尤其令人担忧，因为它说的是我们的语言。这让我们觉得它更像我们自己，但实际上它可能截然不同。不过话说回来，他在这里是乐观派，对吧？他对大语言模型及其未来的进化方向非常乐观。是的。
这太不可思议了。这项技术真是令人惊叹。比如，我认为它提升了全球的智商，对吧？有8亿人变得更聪明了，情商也更高了。我认识一些人，他们以前说话很粗鲁，总以错误的方式冒犯别人，说话也不那么客气。但突然之间，他们开始通过聊天工具来组织语言，想让表达更友善、更温和，现在也更讨人喜欢了。所以，它不仅让我们变得更聪明，还让我们能够成为最好的自己。至于你说的这种情况，我不觉得……我不知道那有什么不好。比如，在某些方面，我倒是希望自主性少一点。比如，我希望有个东西能帮我，大晚上的别去开那个花生酱罐子，对吧？
你知道的，在我生活的某些方面，我需要更强的控制力，而我宁愿把这种控制交给某个能帮助我做出更好选择的实体。我的意思是，不幸的是，即使有一小部分精英阶层能去夏威夷度假，而由其他东西替他们处理业务中那些琐碎的细节，我们很快也将面临一个现实：世界上有数十亿人并不具备利用人工智能的技能。在一段时间内，其中一些技能还是必要的——你需要水管工。但这也不是长久之计，因为不仅这类工作数量不够，而且当然，我们还有的人形机器人，一旦赋予了人工智能能力，它们也能胜任这些工作——它们能钻进你家地板下的狭小空间，修理你的管道。
那么，当大量人口失业引发大规模经济萎缩时，通常会发生什么呢？那就是精英阶层开始审视这些人，心想：反正我们其实也并不需要他们。因此，我认为那种认为人工智能带来的冲击不会导致严重人道主义灾难的想法过于乐观，我们必须从现在开始做好准备。对于那些投入的一切都从需求清单上被彻底抹去的人来说，他们拥有哪些权利？这个人是否要为没能预见到人工智能的到来而负责？他们如今挨饿，被其他人视为“无用之人”，这难道是他们自己的问题吗？我认为并非如此。
§02文稿 — 第 2 部分
这和……呃……那个叫什么来着，当“呼啸的机器”出现，纺织工人失业的情况有什么不同呢？和历史上任何一次技术导致大量人失业的情况相比，这次又有哪些不同？我想说，区别在于规模和速度。而这种规模和速度将导致一场史无前例的灾难，因为人们被同时边缘化的速度——不只是在某个行业，而是在所有行业——简直前所未有。而且这种情况其实已经发生过。在工业化最初的50年里，也就是从18世纪末到19世纪初，正如查尔斯·狄更斯小说中所描绘的那样，大量来自农村、失去生计的人涌入城市，孩子们在街头流浪。英国人决定把所有人都打包起来，送到澳大利亚——我就是来自那里。嗯，当时确实存在这种大规模的人口迁移问题。我认为我们将进入一个高速运转的经济时代，职业生涯不再是持续45年的漫长过程，而是会变得非常短暂。
这些职业生涯可能只持续10个月到36个月。你发明一样东西，把它推向市场，组建一个五到十人的团队共同协作，然后你就会被颠覆。我能在这里讲个故事吗？有位企业家曾用类似的方式使用过Replet。他叫比利·豪威尔，你可以在YouTube或网上找到他。他会去Upwork，看看人们在各种应用和技术方面提出了哪些需求。然后他会把这些需求输入Replet，把它变成一个应用程序，再打电话给那些人，告诉他们：“我已经做出了你们想要的应用。你们愿意花1万美元买下它吗？”所以，这算是一种目前存在的套利机会。不过这其实并不算套利。
这就是盗窃。怎么会不是呢？这怎么就不是盗窃呢？有个人有一个可以推向市场的想法，而另一个人却暗中发现了这个想法，然后又把自己的想法卖回给那个人。好吧，他们是在付钱给那个人做这件事。他们说的是：“如果有人能帮我实现这个想法，我就给你500美元。”对吧？但我大致认为接下来整个经济会出现这样的情况：是的，从这个角度来看，我们会发现突然之间每个人都有能力开创一番伟大的事业。那么，对于那些原本处于顶层、即将被取代的人来说，我们该怎么想呢？他们会对所有这些正在创建高度竞争性企业的人有什么看法？他们是否会找到一种方式，就像风险投资曾经做过的，或者唱片制作人曾经做过的？他们会利用自己顶端的优势地位，从所有那些拥有想法的人身上攫取大部分财富——在正常的市场环境下，这些想法本可以为他们创造企业——而他们却要去寄生在这些想法之上。我认为随着人工智能和AI代理的出现，旧有的价值体系已经发生了转移，现在……
……不再是想法本身构成了护城河，也不再是资源构成了护城河。因此，在这种情况下，你仍然需要解决渠道问题。你仍然需要拥有受众，比如，如果你现在是一个播客主持人，在Twitter上有一百万粉丝，那你就占据了绝佳位置，因为你拥有了那个拥有绝佳想法却没有任何受众的人所不具备的东西——内置的渠道。所以我现在认为，这场游戏很大程度上可能已经转向了：是的，它仍然关乎品味和想法，但护城河同时也是渠道。没错。说到适应性系统，其中一种适应将是人们会寻求人类，会寻求人性的证明。哦，我同意，真实性将成为通行的货币，任何可以被伪造或欺骗的东西都将贬值，而那些自发的爵士乐表演，或者互动性强到不可能由AI生成的喜剧表演，这些都将受到重视。比如即兴演讲而不是事先准备好的演说。这回答了你的部分问题吗？不，它回答了我的问题——对于那些身处其中的极少数人来说。
来做这些事。斯蒂芬，你用了“护城河”这个词。嗯，我认为这对创业者来说是个非常重要的词。我们总得有一条护城河。我们经常思考护城河的问题，这源于工业时代。很多人甚至都不知道护城河是什么，也不明白你说的护城河是什么意思。我经常思考这样一个问题：现在还剩下哪些护城河？我来定义一下我对护城河的理解：你有一座城堡，城堡周围有一圈小小的护城河。在很久以前，这圈水可以保护城堡免受攻击，你还可以把吊桥升起来，这样别人就很难轻易攻进来。它是一种防御，是你的盾牌，是你的防线。很久以前，作为一名创业者，你知道，我在旧金山有一家叫 Third Web 的软件公司，我们融了将近 3000 万美元，拥有一支由 50 名优秀开发人员组成的团队。我们的护城河很大一部分就在于：如果你没有这 50 名开发人员和银行里的 3000 万美元，就无法与我们竞争。这 3000 万美元里有多少用在了编码上？绝大多数都用在了编码上。我的意思是，我们还能做什么呢？还能做什么呢？所以这其实是件好事。我认为护城河是件坏事。好，让我来论证一下。
所以，每个人都在寻找护城河。举个例子，其中比较重要的护城河之一就是网络效应。没错，你知道，你无法与 Facebook 或 Twitter 竞争，因为要把用户从 Facebook 或 Twitter 上迁移过来，你面临的是一个集体行动难题。你需要一次性把他们都带走，因为如果只有一个人离开，网络就不再有价值，他们很快就会回去。所以你遇到了一个“先有鸡还是先有蛋”的问题。假设我们有一种更去中心化的社交网络方式，这将削弱 Twitter 实施审查的能力——而我认为你正处在审查的另一端，对吧？因此，我对人类保持乐观的部分原因在于，总的来说，社会具有自我纠正的能力。
民主是一种自我纠正的系统。自由市场在很大程度上也是一种自我纠正的系统。自由市场显然存在一些问题，我们可以稍后讨论。但就拿健康来说吧，你知道，存在肥胖流行病。在某个时期，一些公司肆意生产那些高糖、高盐、高脂肪的零食，大家都拼命吃，结果所有人都变得很不健康。而现在，Whole Foods 已经随处可见了。如今，硅谷的人们根本不去酒吧了。
他们会去参加跑步俱乐部。大家就是这样认识的，也是这样找到约会对象的。所以，后来出现了一种转变，因为人们产生了反应。显然，香烟就是另一个例子。你知道，你刚才谈到了手机以及我们对手机的依赖。我现在就发现，在我朋友圈里，那种总是盯着手机的人已经开始受到非议了，大家不愿意和他们一起出去玩，因为你总是盯着手机。所以，总会产生这样的反应。但问题在于，你提到了自我纠正，我同意宇宙中确实存在一种自动自我纠正的机制。没有哪一种正向反馈是不受某种外部负向反馈制约的。但这些纠正措施，其清单上既包括像人们获得开悟、意识到自己摄入的糖分或手机上的多巴胺陷阱正在伤害自己并因此变得更好的情况。但同样在这份纠正模式的清单上，还有种族灭绝、战争，以及你知道的，寄生现象。而问题在于，这些事情都具有破坏性。
会摧毁财富。所以，你暗示了一个更优越的事实，那就是没有货币的开放市场。其好处大概是，由于人们不受阻于从事富有成效的活动，从而能创造更多财富。我明白这一点。但问题是，在一个由人工智能赋能的世界里，所有这些新产生的财富最终会是什么样子？它会变得高度集中，以至于只有一小撮超级精英，而绝大多数人则完全依赖于他们吗？那些人最终会怎么样？学习和自我纠正的过程必须经历伤害，才能抵达那个更开悟的解决方案。没有任何东西能保护我们免于伤害阶段变得极其可怕，以至于我们熬到另一头时，只能感叹：“哇，这可真是惨烈的一次纠正。”或者，可能根本没人能说出这句话。这些可能性同样存在。这让我想起一个捕鼠器：你看到了奶酪，心想：“天哪，我祖母终于能做点研究了，天哪，我的生活要轻松多了。”于是，你就一步步朝那块奶酪靠近。
从历史上看，如果我们回顾过去一万年，会发现只有极少数精英拥有绝对的一切，而绝大多数农奴和农民只能维持温饱。你知道，如果精英们过于贪婪，以过高的标准将农民排除在外，并试图用残暴手段来维持统治，那么最终这些行为终将反噬他们。因此，人们会逐渐认识到，需要一个能够平衡各方利益的体系。而西方拥有我们见过的最好体系——我们共同认可一个公平的竞争环境。虽然永远无法完全实现，但我们一致认为这是值得追求的目标，而且越接近这个目标，我们创造出的财富就越多。但话说回来，如果人工智能赋能心怀恶意之人的速度，超过了它赋能那些创造财富、促进社会进步之人的速度，那么西方市场的公平性可能会遭遇巨大倒退。与经济结构变迁相比，这是否是你最关心的问题？
我认为这两者是一回事。为什么说它们是一回事呢？因为经济结构变迁即将开始。我不知道美国会有多少百万人因此失去工作。届时，我们突然会面临一个问题：我们是否对他们负有责任？你同意这一点，对吧？是的。但话又说回来，这属于“不经历阵痛，就无法获得收益”的情况。也就是说，我们将经历一段动荡时期。而我认为，在动荡过后，那些旧有的、具有压迫性的体系将被打破，我们或许能创造一个更公平的世界，但这个世界也会有它自身的问题。那么，在你看来，这种动荡的规模有多大？
很难说，因为，你知道，这里有个“限制因素”的概念。比如说，存在监管，也存在人们当下的接受度。就拿医疗系统来说，由于监管的存在，它对创新非常抵触，而从监管的角度来看，这显然不是什么好事。值得一提的是，特朗普上台后签署了一项新法律，名为《消除美国在人工智能领域领导地位障碍法案》，该法案废除了先前被认为具有限制性的AI政策。显然，当你思考AI资金的去向时，会发现主要流向了两个地方：美国和中国。绝大多数投资都集中在这两个地区。因此，在这两国的竞争格局下，任何以某种方式限制AI的监管实际上都是在自我设限。嗯。而且，你知道，我有时住在欧洲，已经让我感到很不爽的是，当萨姆·奥特曼和OpenAI发布03模型——这个全新的、令人惊叹的模型时——它却无法在欧洲使用，因为欧洲有法规禁止其进入。所以我们现在处于竞争劣势，萨姆·奥特曼也曾谈到过这一点。更广泛地说，关于这种颠覆性影响，我其实感到相当不安。
当我听说萨姆·奥特曼的另一家初创公司叫“世界币”（Worldcoin）时，我感到不安。世界币的构想初衷是为了促进全民基本收入，也就是帮助建立一个体系：政府向没有钱的人发放资金，仅仅因为他们活着，以此帮助他们满足基本的食物和住房需求。这让我觉得，这位打造了全球最大AI公司的人，似乎看到了我们很多人看不到的东西——是的，未来确实需要建立一个直接向人们发钱的体系，因为否则他们将无法生存。我从根本上不同意这个观点。那你具体不同意哪一点呢？我首先不同意的是，人类会对全民基本收入感到满意。我认为，你知道，人类的核心价值之一——从进化角度去探究其原因——是我们渴望自身有所价值。而现实中，许多面临风险的工作，恰恰是全球地位最高、薪酬也最高的职业。
我们先来看看美国薪酬最高的职业，嗯，那就是麻醉师。呃，这是薪酬最高、收入最高的职业。薪资最高的职业。没错。而这个职业的大部分工作就是观察病人，了解哪种药物最适合他们的身体状况，嗯，给予他们恰到好处的剂量，监测这种药物对身体的影响，然后进行细微的调整。只要有合适的技术，任何护士都能胜任这份工作。你可能只需要一名麻醉师在现场监督10个、20个、30个、40个病房，而技术本身就能完成工作，但那名麻醉师的存在只是为了在出现问题或有伦理困境时进行监督。这样做有什么问题呢？我的意思是，如果他们的精准度更高，那又有什么不好？不，这样做本身没什么问题，问题在于有成千上万的人花费了毕生精力去接受培训，就是为了成为那样的人。他们从自己的职业生涯和工作中获得了巨大的使命感和满足感。他们有房贷、有房子、有社会地位，而这一切即将消失。嗯，如果这是薪酬最高的工作，那也许你该开始
存钱了。是的。嗯，我的意思是，我理解你的意思，但你所说的是那些从事过重要工作的人。嗯。他们从事的是高度专业化的工作，因此很难因为某项自己未曾预料到的技术发明而突然转型。因为坦率地说，从理论上讲，我们或许都预见到人工智能会在未来的某个时刻到来，但我们并不知道它会突然之间降临。我们必须想办法安置这些人。他们突然变得过时并非他们的错，而人们要接受这一点是不可想象的。这根本不符合我们的本性。我们需要有奋斗的目标，你知道，那样可以维持生命，但无法维持有意义的生活。所以，这充其量只能算是一个短期计划。我们来谈谈意义吧。嗯，关于岗位被取代这一点，这种情况已经在发生了。
Cler的首席执行官——他之前来过这个播客，是个很棒的人——在他们公司网站发布的一篇博客文章中说，他们现在的人工智能客服代表每月处理230万次聊天，这相当于需要雇佣700名全职员工来完成这些工作。所以，他们已经通过引入人工智能客服代表，成功节省了700名客服人员的成本。而且他们实际上真的裁掉了那700个工作岗位，对吧？我手头没有确切的信息，但我会去查一下。嗯，我会把相关信息投屏出来，方便需要背景资料的人查看。但这种情况确实在发生了。
这并非什么选集之类的东西。而且，这些人也并非个个都拿高薪。顺便说一句，我们也做过类似的事情。我们内部已经把那个功能替换掉了70%。是的。我的意思是，我们公司现在有65个人，你知道的，我们每个人能创造数百万的收入。那么，你是不是需要雇佣更多人才能达到那个规模呢？我想是的，但我们正在缓慢地招聘。比如，我们正在使用客服AI，这意味着我们需要的客服人员更少了，我们正尽量多地利用AI。Replet公司人力资源部门的那个人就是用Replet来编写软件的。我给你举个例子。
她需要一款用于制作UML图表的软件。她看了很多款，也体验了不少演示，但那些软件都非常昂贵，而且缺少她想要的一些功能。比如，她想要版本控制功能，想知道什么时候有内容被修改过，并能回溯历史版本。结果她只用3天就在Replet上找到了完全符合她需求的软件。那成本是多少呢？大概20美元左右吧，一次性的20到30美元。那么我们现在需要多少人力资源部门的员工呢？目前有两个人。如果他们的效率能像这样被高度提升，也许我们就不需要一个20人的HR团队了。关于这一点，我听过太多AI领域的亿万富翁把这称为“丰裕时代”。但我并不确定丰裕就总是一件好事。因为当我们审视心理健康，审视人们如何从生活中寻找意义和目的时，很大程度上是因为他们有事可追求，有某种有意义的奋斗方向。这或许有些相关，但以前有一项研究——我记得是在澳大利亚做的——他们分析了自杀遗书，发现在那些遗书中，男性所表达的情感是……
他们觉得自己不值得，不觉得自己有价值，也不觉得家人需要自己。这在很大程度上导致了他们的心理状态。我很好奇，在一个物质丰裕的世界里——你知道，许多人工智能领域的亿万富翁都告诉我们，我们将拥有大量空闲时间，不再需要工作——届时是否会出现意义危机或心理健康问题？我的意思是，现在其实已经存在这些问题了，而这并不需要人工智能的介入，而且情况还会变得更糟。我不知道该怎么办，因为从本质上讲，作为人类，我们和所有生物一样，天生就会寻找机会并设法利用它。这就是我们的本性。而你描述的世界恰恰与此相反。在那个世界里，你的生理需求在生物层面得到了满足，但如果你最终有大量空闲时间，却找不到明显的去处，不知道该拿它来做什么，也没有奋斗的目标。我想象，最好的情况也不过是：靠全民基本收入维持生计的人们，会被人盯上——你知道，无论他们有什么钱可以花，总会有人瞄准它。
而且，他们会用一个由人工智能加持的系统来盯上这些人，这个系统能识别出他们性格上的缺陷。我的意思是，我们其实已经生活在这样的世界里了，但当人工智能开始具体研究该向你推送哪种色情内容时，情况会变得更糟。这简直是个噩梦般的场景。我认为，作为一个物种，我们有必要开始思考：我们是否即将陷入这种境地？如果我们能找到办法，去应对大量被边缘化人群的基本需求，那么，一个能让他们找到真正意义的世界，究竟该是什么样子？不是伪意义，也不是那种表面上看似有意义、实际上却毫无意义的事情——比如电子游戏，即便它在当下让人感觉很有意义。我认为，去探索如何实现这样一个世界，对我们来说是一项值得投入的事业。但坦率地说，我并不指望我们能展开这样的讨论，更不指望我们能在这条路上走多远。我更可能的是，我们会白白浪费掉人工智能所带来的财富红利。
有趣的是，在西方国家，当我们拥有更多富足时，我们开始生育更少的孩子。我们已经看到西方世界出现这种人口下降的趋势，这有点令人担忧。我认为这通常与富裕有关，比如一个人赚的钱越多，他们就越不想生孩子，越想要保护自己的自由。但说到人工智能，人际关系是很难维系的。你知道，我的女朋友有时开心，有时不开心，我就必须和她一起经历那种挣扎，努力经营这段关系。
养育孩子也很不容易。如果我们追求自我优化，而我能坚持和女友努力维系关系，很大程度上或许是出于某种进化上的原因——因为我希望繁衍后代，拥有自己的亲人。但如果我不必再处理恋爱关系或朋友关系中那些麻烦事，那么肯定会有一部分人选择那样的生活。我很好奇，在这种情况下出生率会怎么样，因为我们现在就已经面临困境了。我们现在的处境是，20世纪50年代时每位女性平均生育五个孩子，而到2021年已经下降到大约两个。我们正目睹着人口下降。以韩国为例，其生育率已降至72，为全球有记录以来的最低水平。如果这一趋势持续下去，韩国的人口到2100年可能会减少一半。
所以，是的，人际关系、人际联结，而且我想我们还必须考虑到孤独感蔓延的问题。社交媒体出现、Wi-Fi普及时，人们曾承诺我们会因此联系得更紧密。但很明显，由于我们独处和孤立的时间太长，我们的需求由Uber Eats的送餐员、社交媒体、TikTok和互联网来满足，我们花在“去结交朋友”或“去寻找一个伴侣”这些本就很难的事情上的精力越来越少。年轻人的性行为比以往任何时候都少。所有与在现实生活中建立真实联结这件难事相关的事物，似乎都在逐渐消失。
我认为，我们在这里讨论的所有问题——那些与孤独感、与意义感相关的种种负面现象——其实早已存在。我不认为把所有这些问题都归咎于科技是正确的做法。我觉得，很多现象的发生，源于人类本身就存在的一些冲动和动机。嗯，我想回到你最初提到的那个问题，因为我认为这或许才是根本性的问题：为什么我们生活在一个本不该让我们不快乐的世界里？这又是科技的责任吗？我不觉得完全是科技的问题。人类天生就具有技术属性，无论我们谈论的是量子计算，还是用燧石打制箭头。究竟是什么让我们陷入了这场不断加剧、蔓延和演变的“反乌托邦”之中？在我和希瑟合著的《21世纪游猎采集者指南》一书中，我们将这一过程称为“超新奇”。所谓“超新奇”，指的是变化的速度已经超出了我们的适应能力。我们早已越过了那个临界点——我们年轻时生活的世界，已不再是成年后所处的世界。而这种错配正在多个领域让我们身心俱疲。
因此，我问的问题是：你所谈论的这种变化，是会减缓变化的速度？那样的话，我们就能构建一个更能满足人类需求、提供更多追求有意义工作机会的世界。还是会进一步加速变化的速度？在我看来，后者必然会让我们的处境变得更糟。如果这只是一次性的转变——没错，人工智能终将到来，它会开启各种各样的新机遇，也会带来巨大的冲击——但在那之后，我们或许能建立起一个新世界。问题是，那个世界会是稳定的吗？还是会一个接一个地不断出现新的“事件视界”？
如果是后一种情况，那它实际上就说明了它对人类的作用——它将会瓦解我们。当我审视社会时，我会想，好吧，它正在产生负面影响。但当我审视具体的使用案例时，它又产生了非常积极的影响。包括对我自己来说，它的影响也非常正面。所以，这属于那种让人不禁思考的问题：我们需要在学校教给人们些什么，他们才能理解我们即将进入的世界？因为我们面临的最大问题之一，是我们带着这样一种蓝图、这样一种模板送孩子上学——即他们会拥有一段漫长的职业生涯，但那种职业早已不复存在。本质上，我们是在把他们当作学习中的大语言模型来对待。我们告诉他们：“好了，我们会给你提示，你要给出正确答案，如果可能的话，甚至可以‘幻觉’出答案来。”然后我们说：“好了，现在进入现实世界吧。”而他们却说：“哦，但等一下。我不懂钱是怎么运作的，我不懂社会是怎么运作的，我也不懂自己的大脑是怎么运作的。”
我不知道该如何应对这种新奇事物带来的问题。我不确定在社交场合中该如何接近一个人，并问他们是否愿意约会。嗯，所有那些真正重要、人们希望自己能达成的关键人生里程碑，以及技术实际上能够产生影响的地方，我们却没有得到任何用户手册。所以我认为，最需要做的一件事就是，我们必须让年轻人在整个求学阶段都做好准备，让他们为即将到来的世界，或者说已经到来的世界做好准备。
嗯，一方面，我认为你把问题阐述得非常清楚。实际上，我们现有的关于学校应该做什么的模式，充其量只能算是与50年代的情况相匹配，而它在帮助人们为真实世界做准备方面，远远没有达到目标。如果我们要为未来做准备，我会认为目前唯一值得拥有的工具包，是一套高度通用的工具——也就是随机应变、在情况变化时灵活调整的能力。就提前做准备而言，这是唯一可行的方案。或许另一个辅助部分，就是教给我们已知的一些知识，但坦白说，这些知识对于如何过上健康生活来说远远不够。对吧？如果我们能引导人们养成特定的行为习惯和饮食习惯，再训练他们随机应变，他们或许就能有机会应对即将到来的世界。但问题在于，我们没有能够胜任这项工作的教师，也没有真正懂行的人。所以问题就变成了：人工智能是否真的能以这种方式被利用起来，帮助人们养成适应那个世界所需的正确思维习惯？我在教育领域投入了大量时间。
在教育技术方面，有一件事——用我们互联网上的话说——堪称关于教育的“黑药丸”：关于教育干预，有大量数据显示，你能在教育领域采取的、能带来更好成果的干预措施非常有限。嗯，所以你知道，围绕教学方法、围绕如何布置课堂环境，已经进行了很多实验，但带来的改善微乎其微。只有一种干预措施——这一点已经被多次证实——能带来两个标准差的显著积极成果，也就是说，你的表现会优于99%的人，那就是“一对一辅导”。我本来想说“更小的班级”和“个性化教学”，但确实，就是一对一辅导。而且顺便说一句，有人还调查过所有天才、所有洞悉世界的人，发现他们全都接受过一对一辅导。
他们每个人的生命中，都有人关心他们、辅导他们。那么，什么能为全世界的每个孩子创造一对一辅导的机会呢？人工智能。人工智能。我的孩子们就在用，效果简直不可思议。是的，就像他们和它互动时，它能根据他们的节奏进行调整。没错。而且它会提供不同的类比帮助他们理解。比如，我儿子当时在学除法，它就让他去“砸玻璃”，用一把锤子把玻璃砸成几块，然后还会说：“不，山德，加油！用力砸！”而他非常喜欢这种方式，对吧？
这是合成吗？是的。是的。我是这家公司的投资者。哦，嗯，能观察到这种模拟的一对一辅导真是太棒了，因为它在和他对话，在向他提问。布雷特，你是一位教育工作者，你一生中大部分时间都在大学里教书育人。你如何看待这一切？嗯，一方面，我同意，越接近一对一的效果就越好。但我个人也认为，零到一才是最好的。我指的是，我们教育体系出问题的一部分原因在于，它是通过抽象的方式进行的。
实际上，判断你是否成功或失败地掌握了课程内容的裁决者，是站在教室前面的人。如果站在前面的人确实有见地，那倒没什么问题。但如果那个人表现平平，那就糟透了，而这种情况经常发生。而那种行不通的方式，就是与物理世界的互动——在这种情况下，根本不需要有人告诉你成功还是失败。如果你面对一台发动不起来的发动机，你没法靠争论让它启动。你必须找出导致它故障的原因，而当你修正了那个问题、发动机突然启动时，你会获得巨大的成就感。所以，我非常主张在教学过程中尽可能轻巧、尽可能具体。
换句话说，嗯，在我实践过的时候——不仅是对学生，也包括对我的孩子们——我喜欢说得尽可能少，并让物理系统本身告诉对方他们是成功还是失败了。这样就能建立起一种理解。你可以从一个系统推断到另一个系统，而且你知道自己不是仅仅在推断某个人的错误理解，而是在推断事物实际运作的方式。所以，我不确定人工智能能否在这种情境下发挥作用。我的感觉是，或许能找到方法，但必须有意识地去做，尤其是在机器人和人形机器人领域。实际上，在我看来，这正是可以通过机器人来实现这一点的地方。是的。嗯，机器人会教你其中的物理计算部分。接下来的问题是，如何将人工智能融入其中，让它能够把你从某个困住的僵局中引导出来，让你有能力解决下一个层次的问题——而凭你自己的力量是发现不了这个问题的。根据你现在所了解的一切，你认为课堂上应该教些什么？嗯，在座的各位都是父亲。
你们都有自己的孩子。所以，这个问题很适合你们。你们的孩子多大了？你们的孩子多大了？呃，三岁和五岁。19岁、21岁和六岁、七岁、10岁。我的孩子们还很小，但是呃，我们已经在使用人工智能了。我会和他们一起坐在 Replit 前面，生成想法，制作游戏。而且，我想说，布雷特刚才提到的关于通用性的观点非常重要。能够灵活转变并快速学习各种技能。具备生成能力是非常非常重要的。
我们有一种能够快速产生想法并不断迭代这些想法的节奏。我们会坐在 ChatGPT 面前，我的孩子会想象各种情景。哦，要是月球上有一只猫会怎么样？要是月亮是由奶酪做的会怎么样？要是里面住着一只老鼠又会怎么样？我们就这样不断生成这些不同想法的各种变体。我发现这能让他们变得更有想象力、更有创造力。我告诉孩子们的第一条规则是，无论如何都要远离色情内容。我宁愿他们有吸毒问题，也不愿他们有色情问题。我是真心这么想的。我认为色情对人类来说比吸毒问题还要危险。但当我们谈到如何面对世界，以及你在职场中将被期望完成的任务等等问题时，我想对他们说的是：你们正面临一个复杂系统时代的新开端，而你们必须与这些系统互动。在复杂系统时代，你必须明白，你无法预先规划出一个完美的解决方案。你必须用一套升级后的谦逊工具来面对这些系统，因为系统可能会做出一些你意想不到的事情……
预测的难度远非一个高度复杂的系统所能比拟。因此，你必须提前预料到这一点，并对“你原本设想会发生的事情并不会真正发生”这一事实保持高度的敏感。所以，你需要监测自己任何行为所带来的意外后果。而真正有效的工具其实有两个。其中一个你刚才已经提到了，那就是原型制作。你要对事物进行原型制作。你不要抱着“我知道解决方案，现在就要把它建出来”的想法。你应该这样想：“我认为那里存在一个解决方案，我要先做一个概念验证，然后去发现那些我还不知道的东西，再做出下一个版本。”
去发现那些你所不知道的东西，最终你可能会触及到真正能实现目标的东西。所以，原型制作是其中一点。另外，与其在脑海中用蓝图作为隐喻来指引方向，你不如直接去某个地方进行探索。我的理解是，冲浪者在某种程度上是在驾驭一个复杂的系统，但他们并不是通过计划每天如何冲浪来做到这一点的。你无法那样做。你能做的是，成为吸收反馈并顺着浪头前行的专家。而这正是应对复杂系统的正确方法，除此之外别无他法。所以我想最后一点是，通用工具永远比专业工具更重要。这是一个通才的时代，投资这些工具，它们终将带来回报。
所以，我的指导理念是培养具备高度自主性的通才。最终，我希望他们能成为有动力、能主动出击的人，并拥有广泛通用的工具箱。我想象中的他们，就像你想象的那样——指导机器人、指挥智能体、提出各种创意。我还想象他们的生活节奏非常快，可能同时在做很多事情：写一本书、组织一个节日、主持一个播客、开创一番事业，同时参与别人的生意——因为他们大多有多动症。是的，没错。
正是如此。所以，培养具备高度自主性的通才就是我们的指导理念。我们开展的一些活动包括下国际象棋、练巴西柔术、跳舞、上表演课、在自然中玩耍、体验创业，让他们明白自己可以开一家柠檬水摊。我们刚就办了柠檬水摊活动，效果棒极了。我们在街上卖出了很多柠檬水。就是这类活动，让他们从一个项目跳到另一个项目，但同时尽量避免让他们接触太多屏幕，并促使他们利用家里现有的东西动手创造。我们试图教给他们的一个区别是“创造”与“消费”之间的不同。因为我认为人工智能有一种超能力，它会让你变成极度的消费者或极度的创造者。如果你不理解创造与消费的区别，最终就会掉入消费的陷阱——无论是色情内容、新闻，还是那些让你感觉自己在高效做事、但实际上只是在消耗信息的东西。难道最能成功的人工智能，不就是那个最能刺激我多巴胺的吗？
是的。这会让你误以为自己正在成就些什么，而实际上你只是在消费一些东西。所以，我试图让他们明白，在他们的生活中，创造与消费之间存在着这种区别，而他们应该站在创造的一方。我12岁时创办了第一家公司，之后在14、15、16、17、18岁时又陆续创办了更多公司。而当时我没有意识到的是，作为一个身无分文的创业者，我还得同时担任市场营销人员、销售代表、财务团队、客服以及招聘人员。但幸运的是，如果你今天开始创业，有一款工具可以为你承担所有这些职责。我们今天的支持者Shopify正是如此。凭借其所有的AI集成功能，使用Shopify的感觉有点像你从第一天起就聘请了整个增长团队，他们会负责撰写产品描述、设计你的网站、优化产品图片，更不用说那些你本就该由Shopify处理的环节，比如物流、税务和库存管理。如果你想开启自己的事业，请访问shopify.com/bartlet，注册每月1美元的试用。网址是shopify.com/bartlet。
我想我们所有人都同意的一点是，这种情况是不可避免的。Brett，你同意吗？我觉得它不可避免令人感到悲哀，但事到如今确实如此。你觉得哪一部分最令人悲哀？我们浪费了一段漫长的、充满生产力与和平的时期，本可以利用这段时间为此刻做好准备。而我们过于狭隘地专注于竞争，造就了一个脆弱的世界，我担心它将无法承受即将到来的冲击。而事情本不必如此。这一切本可预见。坦白说，在我出生前一年上映的电影《2001太空漫游》就已经预见了其中一些问题。你知道的，我们当时更多地把它当作娱乐，而不是教育。因此，我们现在是在没有讨论其对人类影响的情况下，就开启了AI时代。从博弈论的角度来看，现在已经没有任何办法能减缓这一进程，因为正如你所指出的，如果我们自我约束，就只会把AI交到竞争对手手中。那并不是解决方案。所以，我并不主张那样做，但我们本可以做更多的准备。我们本可以意识到，有许多从事着即将被彻底取代的工作的人，而我们本可以提前思考……
深入思考其道德含义，以及我们手头可能有哪些解决方案。由于事先没有做好准备，接下来造成的破坏将远超必要程度。阿姆贾德，我刚才听到你说，我们真正该讨论的是如何应对岗位被取代的问题。如果你是世界总理或世界总统，你的职责就是应对岗位取代问题——我们就以美国为例——你会有哪些设想？首先，我会让人们了解这些系统，无论是通过电视节目、宣传推广还是其他方式，总之就是让人们理解 ChatGPT 如何运作、这些算法如何运作。而随着新岗位不断出现，我认为人们将有机会识别出：这个岗位需要这样一套技能，而我恰好具备这类经验。尽管我的经验可能已经过时，但我可以重新利用这些经验来胜任那个岗位。我给你举个例子：一位名叫阿迪尔·汗的老师，他当时开始使用 GPT-3，觉得它作为教师的工具非常出色，甚至可能本身就是一名……
教师。于是他学了一点编程，前往 Unreallet，创办了这家公司。仅仅两年后，公司市值就达到了数亿美元。显然，并非每个人都能创办如此规模的企业，但正因为你在某个特定领域拥有经验，你就能利用技术打造出该领域的下一版迭代。因此，即使你的岗位被取代了，你也能弄清楚接下来可能出现的是什么。所以，我认为人们积累的专业知识并不会完全白费。即使你的岗位消失了，你也无法真正预测未来会出现哪些新岗位。我想起一个很奇妙的场景：当我告诉祖父“私人健身教练”是什么时，他简直不敢相信这个概念——哦，原来我不想自己去健身房，就得预约并花钱请个人去健身房陪我，然后他站在那儿，指挥我举起那些我根本不想举的重物，再帮我数次数，说我做得很好，最后我再把重物放下，然后……
我感觉非常好，而且我付给他一大笔钱。我爷爷肯定会说，你到底被什么玩意儿骗了啊？我们永远无法预测未来的工作会是什么样子。哪怕只是相隔20年、30年、40年，工作也会迅速而彻底地变成另一种东西。我认为那种强调我们必须专注于技能的想法非常危险。我觉得未来并不在于技能，技能正在被取代。关键在于教育体系必须停止被分门别类，而必须采取一种终身学习的方式。教育部需要把人们看作终身学习者，他们不断受到冲击，需要重新接受教育。有意思。这确实会成为一种趋势。教育部需要从孩子时期开始，一直持续到大概70岁。那么，教育部现在到底还有存在的意义吗？这取决于你对教育的定义。我认为，如果你只是想教孩子记住历史书上的事实和数字，那确实没有意义。但如果教育是关于指导、辅导、应对被取代、寻找下一个方向，并且可能是由人工智能驱动的，是涉及所有这些方面的事，那这就是另一种范式了。
这会让教育的定义及其目的发生转变。如果我们把教育看作一个流动的过程——我们进入一个机会，然后又回到教育中，发现新的机会，再回到这里——如果我们学习的不是技能，而是工具，那么这就是一种以工具为基础的教育，而非以技能为基础的教育。在人类历史的大部分时间里，教育的目的是培养品德，是成为一个有良好判断力和正确价值观的杰出人物。而如今，我们在这方面做得已经不多了。
但我认为，如果我们回到根本，如果我们提出这样的问题：教育的目的是什么？它在我们的生活中占据什么位置？它的时间跨度又是多长？然后我们只需相信，人们总能想出各种稀奇古怪又精彩的工作。这听起来可能很疯狂，但这也算是一个奇怪的类比吧。我的猫就过得无比幸福。你怎么知道？嗯，它表现出了所有幸福猫咪的特征。在它自己的世界里，它生活在一个超级智能的环境中。它有一个家，食物总是神奇地出现。它完全不知道有一个谷歌日历在幕后操控着它周围发生的很多事情。食物被送上门，钱也由某种比它智能得多的东西神奇地赚来。然而，这只猫已经进化到能在房子里过着充满目标和意义的生活。
就它所知，它过得很好。但如果你某天心情不好，随时都有能力对那只猫做些不那么友善的事，而它其实没法以牙还牙。没错。但问题是，我为什么要去伤害那只猫呢？因为在这个类比中，你可能想搬家，而房东不允许养猫。所以你不得不做出一个决定。是的，有些事情会让那只猫深受其扰，而这并非它的错。我明白。
但就猫的存在以及猫的历史而言，如果你问那只猫，愿不愿意和它之前的任何一只猫交换身份，它大概会说，我不想冒这个险，因为其他猫都得靠自己谋生，而我不必如此。我们最终很可能过上和家猫非常相似的生活——从我们的角度来看，我们过着极其有趣、有目标、有意义的生活，只是有一种更强大的高等智慧在掌控一切。我们不知道它如何运作，但这其实并不重要。我们是它的受益者，它在做着重大的事情，而我们则乐在其中，享受着作为家猫的生活。
关于这一点，我有几件事想说。首先，我很确定你的猫并不像你那样，或者不像你认为的那样，对你的能力印象深刻。嗯，我对猫足够了解，所以对此相当肯定。不过，它确实看不起我。是的，你说得对。我认为这个观点很有道理：确实存在这样一种生活，而且说真的，宠物如果拥有疼爱它们的主人，它们的生活真的相当不错。我还想指出，在某种程度上，我们其实已经处于这种状态了。我们大多数人并不了解电流如何从家里的插座中产生，也不了解水如何从水龙头里流出来。但我们基本都能接受有人负责处理这些事，而我们可以专注于自己的事情。不过，我在你的描述中发现一个令人不安的地方是，你说我们面临的现实是，工作总是在不断被颠覆。这是一个非常新的过程，也就是所谓的“超新奇”过程。过去，一个群体极少会遇到这样的情况——你做的事情和直系祖先所做的几乎完全一样。对吧？嗯，通常来说，你只是继承前人从事的工作。
你选择了一件适合自己的事情，并且代代相传。代代相传。关键在于，我们现在已经到了这样一个阶段：即便在你的一生中，能够获得报酬的工作内容，也会以谁也无法预测的方式发生根本性转变。而这就是一种危险的处境。大概每两年，或者两三年就会变一次，对吧？所以，也许存在某种模式，能让我们驾驭这股浪潮，让你学会一套通用的技能工具，并且明白自己的生存并不取决于你是否能每两年就切换一次、从不掉队。也许我们做不到这一点，但我确实认为，我们有必要提出这样一个问题：技术变革的速度，是否已经让我们脱离了人类以往那种可以根据祖先的职业来推断自己未来生计的正常处境，而将我们置于一个无论怎样，祖先的经验都将完全无关紧要的境地？但事实上，这个选择已经替我们做出了。我们本可以选择减缓变革的速度，从而生活在某种和谐之中，让我们的成长环境与成年后的环境相匹配。现在，作为一名生物学家，我会认为，如果我们不采取……
……类似的措施，这只是时间问题。是的。我们该如何改变？我们该如何减缓变革的速度？嗯，我的意思是，你可以选择成为阿米什人，对吧？你可以成为阿米什人，生活在自己的社区里，我猜想有些人会希望如此。你知道，当希瑟和我写那本书时，我原本想让第一章探讨的是：阿米什人是对的吗？答案是他们不可能完全正确，因为他们在某个任意的时刻选择了走下自动扶梯。但他们所认为的——这种持续的技术变革模式存在危险——这一点是对的吗？显然，他们是对的。可能有人不了解，阿米什人到底做些什么呢？
阿米什人的生活方式仿佛还停留在1850年左右。他们不开车，我想他们可能有电话，但没有电。基本上，他们自愿选择了一种技术……他们其实是一个简化的社区，而且事实证明，面对许多颠覆现代生活的因素时，他们的表现出乎意料地好。其中一个因素就是……是的，他们做得非常好，人们很快乐，自闭症发病率也很低。他们拥有各种各样的优势。所以，我并不是在主张我们应该像阿米什人那样生活，我没这么想。但我确实认为，他们有一个洞见可能是正确的：你需要从那条自动扶梯上走下来，因为你只会让自己变得越来越糟。也许这是一次性的转变。我们已经越过了事件视界，将生活在一个AI世界里。也许如果我们对此保持谨慎，就能想办法把你所描述的那个充满无限可能的领域，变成一个不会改变的地方。在那里，你始终有机会决定需要做什么。但越过那个事件视界之后的生活，并不应该是一个不断变化的过程。
这只是下一个前沿领域。我还想提出或探讨一个问题：当我们谈论这个瞬息万变的世界时，是不是因为大脑在处理速度和记忆灵活性方面的运作方式，导致老年人学习起来更困难？所以我想知道，你是否会面临这样一种情况：比如我的父亲，由于他的大脑功能以及随着年龄增长而下降的记忆灵活性和处理速度，会比我的侄女困难得多。我的侄女会五种语言，她才七岁，简直不可思议。但大脑的可塑性不是更强吗？这又回到了我们进化心理学的范畴——你对进化历史的了解远比我多——我们本应在年轻时学到教训，并将这些信息用一生。但如果这些信息变化得太快，那……这正是我想指出的问题。你的成长环境无法为成年后的环境做好准备，这并不正常。正常的情况是，作为年轻人，你会逐步承担起越来越多的成人责任。
环境。然后在某个时刻，你知道，在一个正常运作的文化中，会有一个成人礼。你会进入荒野十天，回来时带着一头大型猎物，然后你就成了大人，把你一直在准备的项目启动起来。这很正常。而且你知道，如果你的人生有这种延续性，你会快乐得多，也更有成就感。我知道，我不反对我们让自己能够做到一些原本做不到的事情——如果这就是极限的话——但我们也因此严重伤害了自己。我希望 somehow 能把我们提升幸福感的能力，从因这种永无止境的变革节奏而自我造成的伤害中分离出来。我不知道这是否可能，但我认为这是一个值得追求的目标。说点有趣的事吧，我不确定这算不算一个反论点，但尤其是在疫情期间，以及近期的技术变革中，有些人开始更贴近祖先那样的环境生活。比如，那些工作可以在线完成的人，我的一些朋友就跑去建立了类似集体社区的地方，他们在那里生活，创建农场，然后……
他们自给自足，同时做着需要发邮件的工作。他们花五个小时处理邮件，然后出门活动，大家都有孩子，这是一种非常迷人的生活。硅谷有很多人重新思考了我们该如何生活。有一大批初创公司正试图打造这样的城市：他们想，好吧，我们知道现在之所以痛苦，是因为我们的城市其实并不适合步行。我们痛苦的原因有很多。首先，我们缺乏运动；其次，步行城市还有社交层面——你可以与人互动，仅仅因为和别人身处同一地点就能交到朋友。所以，我们干脆建造适合步行的城市吧；如果我们想加快交通，可以在城市外围设置自动驾驶汽车来绕行。我认为，技术确实能让我们以一种更贴近本地化方式的生活——我猜可以这么说。
我喜欢那种愿景，但我也意识到还有另一种不同的愿景，对吧？比如，你看帕洛阿尔托的一些人，他们实际上对自家孩子接触手机的程度施加了非常严格的管控。我就住在帕洛阿尔托。是的。所以你能看到这种情况。但另一方面，我担心的是，帕洛阿尔托的精英们没有意识到，他们正在想办法减少这些技术对自己家庭的伤害，同时却把这些伤害转嫁给世界上其他所有人——因为这些技术对其他人来说是完全不受监管的。所以问题在于，我们能否让所有人都一起跟上？如果人工智能革命真的要改变我们与工作以及一切其他事物的关系，我们能否确保所有人都能参与其中，以至于在这一切结束时，我们不必说“唉，真遗憾，有三十亿人在这场转型中被牺牲了，但进步就是进步”，而是能真正地说：“我们搞定了，现在所有人都过上了更符合自身天性、更符合身体机能期望的生活。”
你知道，如果真是那样，我倒希望自己对未来局势的担忧是错误的。但不幸的是，如果我们不刻意推动，市场是不会解决这个问题。你最大的担忧是什么？比如当你提到“我对未来局势的担忧”时，你脑海中浮现的画面是什么？哦，这其实完全是另一个话题了。我因技术和人工智能而产生的担忧是，这会变成一个失控的过程，而这个失控的过程将与某些潜在的人类机制产生非常糟糕的冲突。也就是说，对劳动力的需求在很大程度上消失了，而那些主导着导致劳动力需求消失的技术流程的人，开始把这些人称为“无用阶层”。
也许这次他们会想出一个新词，比如“精简种群”。没错。或者他们允许种群被精简之类的。对。我之前听你提到过你五大主要担忧或五大主要威胁，你能具体说说是哪五个吗？第一个是我最不担心的。我几乎完全不担心它，但要说最担心的，那还是它——也就是那些“末日论者”特别关注的那种恶意人工智能。第二个担忧是，人工智能可能会与人类目标不一致，不是因为它有与我们相悖的利益，而仅仅是因为它误解了我们的要求。
这些自主智能体。你知道，有个著名的例子是，你让它们尽可能多地制造回形针，结果它们就开始把整个宇宙都变现来制造回形针。你知道，这就像“魔法师的学徒”那种问题。第三点，我想说的是，其实其余所有问题都可以算作是确定会发生的。而第三点就是人类理智的错乱——我们已经生活在一个连事实究竟意味着什么都很难搞清的世界里了。对吧？事实被层层过滤，我们又被算法不断说服，以至于我们连对自己专业领域内基本事实的把握都常常降到了历史最低点，而且情况还在恶化。而当你能够生成无法被察觉的深度伪造内容时，这个问题就向前跨出了一大步。对吧？当你看到一段视频录像，显示有人在抢劫银行，但这并不意味着他真的抢了银行，甚至可能根本没人抢银行——这种情况将彻底改变世界。总之，我管这个叫……顺便说一句，我们经常处理这类问题。我想几乎每周，真的每周，我都会收到一些人发来的消息，他们现在基本上要花掉……我想说……
他们30%的时间来应对那些深度伪造的“我”——这些伪造内容涉及加密货币骗局，邀请人们加入Telegram群组，然后索要他们的信用卡信息。我们在X平台上就遇到过一次。丹，我想你可能也看到了吧？就是有人在X上投放了我的深度伪造广告。而且不止一条广告，简直像打苍蝇一样，一下子就有10条。我给X平台发消息举报，结果又冒出10条。第二天再来10条，第三天还是10条。后来这种事也开始出现在Meta平台上。视频里的“我”基本上是在邀请你加入一个Telegram群组，而那里的人正在被骗，我的观众里也有人被骗。当我把这些情况报告给Meta时，他们很庆幸地把视频下架了。但紧接着又冒出5条新的。昨天我登录领英，私信里全是这样的内容：“史蒂夫，顺便说一句，最近有个新骗局。”说实话，我现在真需要雇一个全职人员专门把这些情况转给Meta。我的情况也一样，只是规模小一些。几乎每周都会有人问：“你真的是在Facebook上给我发消息，要我的加密货币钱包地址吗？云云。”我最讨厌的是那些单亲妈妈发来的消息，说她们刚被骗了500英镑……
§03文稿 — 第 3 部分
钱，以及她有多么绝望。我觉得自己有道德义务把钱还给她，嗯，因为她掉进了某种骗局。那个人就是我。那是我的声音。那是一段我告诉她某件事的视频。是的。我不知道……我不知道该怎么处理这种事，但抱歉，请继续。嗯，我的意思是，这其实就在清单上。它会极大地扰乱现有的运作方式，一方面是因为大量的人将失业，另一方面是因为那些不遵守我们社会契约的人，会比遵守契约的人获得更多权力。所以在这种情况下，这位可怜的女士不仅因为那个骗局损失了500美元，而且无论你是否还钱给她，你其实也被抢了——她以为自己买的东西，实际上你也被骗了。你的信誉正被某人窃取，而你却毫无能力阻止。这种事也发生在我身上，这真的令人极度不安。而这只是人工智能助长那些不惜缩小我们所有人赖以生存蛋糕、只为扩大自己份额的人所采用的十几种方式之一。你知道，这种情况可能发生的途径数不胜数，嗯，我认为人们并没有意识到……
……它会到来。他们不明白自己会以多么多种方式被抢劫，其确定性与有人直接印钞并无二致。嗯，最后一点是，这仅仅加速了一些人口进程，而这些进程最终可能导致那些早于人工智能就已存在的技术被释放出来。你知道，这很容易导致局势升级，演变成核战争。嗯，总之，我认为现在这个清单或许可以进一步补充了。毕竟，我们已经在人工智能时代待了一段时间，可以开始更具体地描绘这个时代的可能性，以及我们应当担忧的是什么。其中一点，你刚才提到了——真相，你知道，真相的问题。
如果做个思想实验，你觉得像今天一个受过大学教育的普通人，和苏联时期的普通人相比，是更容易受到宣传误导，还是更容易被带偏？嗯，我不确定，因为我没生活在苏联。但根据那些生活过的人的说法，当时人们普遍意识到宣传并非事实。这并不意味着他们知道该相信什么，但至少存在一种犬儒心态。而我的一个担忧正是如此：在一个你无法分辨何为真相的世界里，你其实只能在两个糟糕的选项中做出选择。
你要么过于轻信，总是被人当傻瓜；要么变得愤世嫉俗，因为什么都不信而陷入瘫痪。但这两种方式都不是好办法。那么你认为，谷歌搜索，以及现在可能帮助人们更多或更少地找到真相的 ChatGPT，情况如何呢？我想，确切地说不只是 ChatGPT，而是我们从谷歌开始使用的各种人工智能引擎，都在一定程度上增强了我们辨别真伪的能力。因为事实上，它们让我们能够看透算法操控——毕竟人工智能目前并没有受到严格监管。你可以让它识别出那些人们信誓旦旦说不是真的模式。嗯，总之，我们很多人都发现它很有用，能帮助我们摆脱那些精神操控。嗯，这一点非常积极。但我也记得搜索功能刚出现时的样子：那时候只是说，外面有一些网页，但我不知道它们在哪儿。
当时只是有一套机械化的东西在浏览这些信息，然后把我指向包含这些关键词的内容。这正好发生在算法操控开始引导我们相信各种荒谬言论之前——因为掌控这些工具的人觉得，让我们相信那些东西是有用的。所以我的猜测是，目前人工智能确实在增强我们更清晰地看清真相的能力，但这其实取决于我们是否达成某种协议来保护这种能力，而据我所知，我们还没有这样的协议。你是想说，人工智能能保护我们免受人工智能的伤害吗？比如我听众里那个被骗了的女士，如果平台内置了相关工具，就能很快识别出那并非本人，而且广告很可能是由另一个国家的人发布的。然后，当她十分钟后在 Telegram 上被要求提供信用卡信息时，系统也能在那个接触点上识别出这很可能是一场骗局。它不仅能用于主动防御，也能用于事后反击。
首先，呃，问题是：Meta 有动力解决这个问题吗？有。是的。所以 Meta 很可能正在积极地开发人工智能，而且这又会像应对所有现实中的滥用行为一样，是一场猫鼠游戏。所以我认为，市场会自然而然地对此类问题作出反应，就像我们安装了杀毒软件一样，尽管它们很烦人。我想我们也会在电脑上安装人工智能工具，至少能帮我们分辨出哪些是假的，哪些是真的。好，但让我们以你说的例子来看：Meta 真的有动力解决这个问题吗？表面上看，它似乎应该有这个动力，但回顾近期的历史，我们有多少次看到一家公司为了满足其股东那些充其量只能算古怪的要求，而牺牲掉自己的业务呢？对吧？为什么 X（推特）、Facebook 或 Google 要驱逐那些拥有大量粉丝的用户？从市场选择搜索引擎或社交网站的角度来看，你本会预期这些公司表现得极其逐利，然后说：你知道的，如果 Alex Jones 拥有庞大的受众，我们凭什么去评判他呢？这正是我原本会预期的。但现实是，这些公司却在监管人们的思想道德。
尽管这样做减少了平台用户群体的规模。我很难解释为什么会发生这种事，但我有充分的理由相信，人工智能领域也会出现同样的情况。那么，你对人工智能的哪些方面感到兴奋呢？你持怎样的乐观看法？因为在本对话开始时，你曾说，人工智能有无限种可能改善我们的生活，但也有十倍于此的可能伤害我们的生活。不过，让我们探讨一下那些能极大改善我们生活的可能性吧。
有几种不同的方法。首先，正如我们之前提到的，我们缺乏称职的教师和教授。这个问题至少需要三代人的努力才能解决，前提是我们从明天就开始，以正确的方式教育人们，使他们具备站在讲台上授课的能力。但如果我们能加速这一进程，如果能利用人工智能这样的工具，让少数称职的教师能够接触到更多的学生，我想这是可行的。其次，我们面临着大量阻碍人类在地球上安居乐业的问题，而这些问题单凭人类智慧可能无法应对，但人工智能或许可以处理。对吧？就像计算能力能够以人类无法企及的速度进行计算，而有些问题又需要非常精确的计算一样。同样，也存在一些推理问题。你可以想象，与其让那些因被钻空子而效果不佳的静态法律来约束行为，不如实现一种动态的互动。你可以为某项法律设定一个目标，然后监测特定的干预措施是否成功。
它把你引向了你所希望的方向，或者也可能会产生一些悖论性的结果——这种情况时常发生。你基本上可以建立一种以导航和原型制作为导向的治理方式，而不是去为我们如何生活制定一份详尽的蓝图。这样一来，我们就不需要政治家了。嗯，眼下我们却被那些已经构建完成、但依然无法适应现代现实的宪法保护机制所束缚。
丹，从个人层面和社会层面来说，你对人工智能最期待的是什么？嗯，最大的期待是在医疗保健和教育领域。我的意思是，一个人坐在那里忍受着痛苦，做了核磁共振，却偏偏还没有人去看那张片子，也没人告诉你该怎么办，这实在太荒谬了。而这个问题其实很容易解决。在医疗保健领域，类似的情况还有很多。不仅如此，世界各地有些地方根本就没有全科医生，也没有医疗顾问。所以，全球医疗保健领域的突破将是巨大的，而全球教育领域的突破则可能彻底改变整个地球。从个人层面来说，我很期待的一点是，我认为工业时代创造了很多非常消磨人性的工作，我们只是渐渐习惯了，也忍受了下来。那种认为工作应该是重复性的想法——一遍又一遍地重复同样的循环，十年下来可能才晋升一级之类的——我觉得这很不人性化。而那种可以同时写书、同时启动……
经营一家企业、带领一个团队、创办一个节日、举办一场活动。嗯，也就是说，你其实可以从事这种“迷你王国”式的工作——你身边会形成一个小小的生态系统，里面充满了你参与的各种有趣事物。如果大多数人能善用这类工具，这一切其实都将成为可能。嗯，你可以过上一种极其充实、精彩且富有影响力的生活——我知道我自己就是如此，因为这些工具融入我的生活后，我正在做着儿时只能梦想的事情。那么，你对企业家们有什么建议呢？我知道你与成千上万的企业家都有合作。针对他们目前的企业或你预见到的商业机会，你会对他们说些什么？我认为，如今小型团队能发挥的杠杆效应是无限的。比如，当一个由五到十人组成、对某个有意义的全球性问题怀有巨大热情的团队，他们渴望看到这个问题得到解决，并以创业精神团结起来共同应对时——这样一支五到十人的小团队，借助我们如今拥有的技术，就能产生巨大的影响，也能赚到可观的收入。你……
可以收获很多乐趣。你可以解决世界上那些有意义的问题。你可以规模化地提供解决方案。在三年时间里，你或许能做到的事情，比大多数人用30年职业生涯能做的还要多。呃，然后那5到10人的小团队，既可以一起转向下一个有意义的问题，也可以解散开来，你知道的，去和其他团队合作，解决其他有意义的问题。在一个你拥有这种近乎无限的杠杆效应，但其他人同样也能获得同样无限杠杆效应的世界里。
那什么会成为独特的卖点呢？回到护城河这个概念，当我们所有人都能拥有$$20无限的杠杆效应时，真正有价值的东西到底是什么？首先，你需要明白的是，当下这个时刻是竞争最不激烈的时刻。呃，如果你懂得如何使用这些工具，你明天就可以开始赚钱。就像我们，你知道的，我见过无数例子，有人通过我提到的那些副业赚到数千美元，或者在创业的最初几个月就建立起能创造数百万美元收入的企业。所以，我会说，现在就行动起来。开始动手打造东西吧。因此，这是一个史无前例的财富创造时代。显然，在某个时刻，随着市场变得越来越高效，越来越多的人掌握了这些工具的使用方法，呃，快速打造出这种庞大商业帝国的机会就会越来越少。我们已经见过类似的情况了，比如互联网或万维网的黎明时期，你知道的，那时候创建Facebook比现在容易得多。后来我们迎来了移动时代，在三四五年的时间里，打造大型企业非常容易，再后来就变得难了。仅仅处于前沿的…
在未来几年里，这一点将会非常非常重要。而这正是让我感到兴奋的地方，因为那些关注此事的企业家们不仅会玩得很开心，还能赚到很多钱。到目前为止，有多少应用程序是在 Replet 上构建的呢？嗯，我可以谈谈我们公司成立以来已经构建的数百万个应用，但仅从我们推出 Replent 的去年 9 月算起，就已经有大约 300 万个应用程序完全是用自然语言构建的，完全没有编写任何代码，纯粹是自然语言。其中，我想大概有 30 到 40 万个已经部署到了实际网站中，人们正在用它们来开展某种业务或作为某种内部工具。顺便说一句，我昨晚就构建了一个内部工具，或者说，我构建了一个应用程序来追踪我的孩子们是如何赚零花钱的。太神奇了。我只是告诉它，我想追踪家里正在进行的各项任务，给它们设定一个价值，并且希望在周末时能按一个按钮，就得到一份每个孩子该拿多少零花钱的总结报告。我们这下可真是完蛋了。
不到 15 分钟，它就创建出了这个应用程序，效果惊人。你可以切换查看不同的部分，比如添加孩子信息的页面、每周报告，还有每项任务对应的金额，你还可以勾选任务、删除任务或添加新任务。就这样，我只花了 15 分钟描述自己的需求，现在就有了一个专门用来管理家里零花钱的应用程序。
顺便说一句，以我多年前经营 IT 公司的经验来看，这样的东西我们通常会收取 5000 到 10000 英镑，也就是 5000 到 10000 美元的费用，而且大概需要三到四周的时间才能完成。而现在，我们正处于你所描述的那个 S 型曲线的起点。如果 Replet 的套餐是每月 20 美元左右，基础版是 25 美元，假设你使用了一天，大概花了一美元和几分钟时间——我们现在就处于这个曲线的起点。而且，你和它的交流方式就像在和开发人员聊天一样。开发过程中一个拖慢进度的环节是，你得把需求信息发送给开发人员，他们需要理解这些需求，然后去构建东西，最后再反馈给你。但这个过程完全是在你眼前实时发生的，你看着它一步步构建出来，它还会向你展示正在开发的内容，这真的太不可思议了。
这一项改变彻底转变了我以及我的团队活动、训练和思考身体运作的方式。当丹尼尔·利伯曼博士做客《DEO》节目时，他解释说，现代鞋履的缓冲和支撑设计正让我们的双脚变得更弱，也更难发挥其应有的自然功能。我们已经失去了双脚原有的力量和灵活性，而这正导致背痛、膝痛等问题。我当时已经买了一双Viva赤足鞋，于是拿给丹尼尔·利伯曼看，他告诉我，这正是能帮我恢复双脚自然活动、重建力量的鞋款。不过，我想真正让我下定决心的是当时患上的足底筋膜炎，从那以后我的双脚突然开始持续疼痛。
在那之后，我决定开始用Vivo赤足鞋来强化自己的双脚。利物浦大学的研究也证实了这一点。他们的研究表明，连续6个月穿着Vivo赤足鞋，可以将足部力量提升多达60%。请访问vivo barefoot.com/doac，并使用我的赞助商提供的“diary 20”代码享受八折优惠。强健的身体始于强健的双脚。这还从未有过先例——一份由全球100位顶尖首席执行官共同运营的时事通讯。人们总是对我说：“你能指导我吗？你能请某个人来指导我吗？我该如何找到一位导师？”那么，我们现在要这样做：你把问题发给我，然后我会把收到最多的问题通过短信发送给100位首席执行官，其中一些是全球顶级企业的首席执行官，他们掌管着市值千亿美元的公司。之后，我会通过电子邮件将他们的回答回复给你。你可能会问：“在创业期间，该如何维系一段感情？如果我有一个想法却不知从何入手，最重要的是什么？”我们会把这些问题的答案通过电子邮件发给你。
我们选出五六个最佳答案，然后通过电子邮件发给您。我当时很紧张，因为我觉得市场营销宣传可能和实际情况不符。但后来我看到创始人们回复的内容，以及他们愿意回复的态度，我就觉得其实这真的很好，而您所要做的只是完全免费地注册。我想我们花了很多时间讨论自主武器。这正是真正让我担忧的地方。而人们对人工智能感到担忧的，正是这样一种想法：它是一个……你知道的，一种涌现式系统，背后并没有单一的控制者，它可能会以一种难以预测、并非由人类真正引导的方式行事。我也认为这对公司和政府来说同样如此。所以我觉得，个人往往可能有最好的意图，但集体却可能导致做出有害或道德上不可原谅的事情。我想我们谈到了中国与美国之间的对比，这造成了一种特定的竞争态势，双方都有动机去走捷径，甚至可能做出有害的事情。在地缘政治和战争的世界里，你知道，真正让我害怕的就是自主武器。那它为什么让您害怕呢？因为……你知道，你可以想象……
……自主无人机被训练识别某人的面部，然后你可以派出一群无人机，它们可以成为一种……自主的杀人暗杀机器。它可以在国家与国家之间的技术对抗中发挥作用——这在当今世界仍然很疯狂——但它也可能成为政府用来镇压公民的工具。人们以为我们在西方是安全的，但我认为新冠疫情的经历表明，即使是西方的体系也可能迅速变得严苛。是的。
据我所知，我听说在伊朗，他们使用面部识别摄像头来检测女性是否在自己的车里佩戴了头巾，然后会自动扣留车辆。如果你正在开车却没有戴头巾，或者你走在街上，摄像头就能识别出来，你立刻就会惹上麻烦。它就像同时充当警察、法官，你知道，还有立法者——它基本上就是法官、陪审团和行刑人，而且这一切都是即时发生的。就像加拿大卡车司机抗议时发生的那样，他们仅仅因为出现在那个地点，银行账户就被冻结了。为了确认这一点，伊朗已经实施了一套全面的监控系统来强制执行其强制性头巾法规，其中用到了多种技术，其中之一就是摄像头和面部识别。因此，他们在公共场所安装了摄像头，用来识别那些没有遵守头巾着装规定的女性。
是的。就这一点而言，伦敦刚刚在伦敦以及威尔士全境部署了面部识别系统。这些系统正在快速推广开来，而且只要换上一个想要实施类似政策的政府，所有底层技术都已经具备。情况在伊朗则更糟糕一些，因为他们推出了一款名为“Nazar”的新应用。政府推出了这款“Nazar”移动应用程序，允许公民举报其他未佩戴头巾的公民。该应用会记录他们未佩戴头巾时的位置、时间，以及通过众包数据获取的车辆牌照。然后，政府就可以追查该个人。我还想指出，我认为我们的想象力还不够丰富。我同意你的看法。我对这些自主武器也有同样的担忧，但我同时也认为，这种情况不一定非得发生在战争或政府压迫的背景下。我们完全有理由相信，这实际上会使得那些无法被察觉或无法被起诉的犯罪成本大大降低。
也许经济动机还会以这样的形式出现：有人利用无法追踪到自己身上的自主无人机来除掉竞争对手，或任何试图与他们竞争的人。你知道，这背后有面部识别技术的支持。而且，你并不需要真的杀死很多人，就能让别人明白这是一个你最好不要招惹的地方。所以，我可以想象，一种新型高科技有组织犯罪可能会应运而生，它会保护非法牟利活动，赚取巨额利润，并让那些什么都没做错的人屈服。2023年，当这一切刚开始兴起时，我曾邀请穆斯塔法·沙利文做客播客，他是微软人工智能部门的首席执行官。你认识穆斯塔法吗？当然认识。是的。当时他对我说的一番话中，有一件让我印象深刻，他说：“我其中一个担忧是，一小撮意图造成伤害的人将能够使用那些可以瞬间动摇我们世界稳定的工具。这正是挑战所在——如何阻止那些可能造成危害甚至导致死亡的东西。”
这正是我们需要实施遏制措施的地方。这听起来和你刚才所说的有些相似，也就是我们现在将拥有这些工具。你是在军事背景下谈论这个问题，但正如布雷特所说，即使是规模更小的群体，比如我不确定，可能是贩毒集团或黑帮，也能造成类似的伤害。而就目前而言，在自主武器方面，美国和中国都在大力投资人工智能驱动的武器、自主无人机和网络战，因为双方都担心对方会率先掌握这些技术。我们谈过我们的日常生活有多少都依赖于互联网，但能够被部署用来摧毁中国的X、Y或Z，或者反之的网络武器和网络人工智能代理，确实是一个实实在在的担忧。
是的。是的。我认为所有这些确实都是实实在在的担忧。你知道，与穆斯塔法不同，我并不认为遏制是可能的。部分原因在于，美国、中国、企业和个人之间这种博弈论式的竞争体系，使得这项技术已经问世，真的很难再把它装回笼子里。我曾问过他这个问题，我记得他的回答，因为那对我来说是一个极具冲击性的时刻。我对穆斯塔法说：“你认为遏制是可能的吗？”他回答说：“我们必须遏制。”于是我又问了他一次：“你认为遏制是可能的吗？”他回答说：“我们必须遏制。”我又问了一次：“你认为遏制是可能的吗？”他仍然回答：“我们必须遏制。”这种思维链条的问题在于，它可能会导致一个压迫性的体系。有一位我尊重其著作的人工智能“末日论者”或哲学家，他的名字是尼克·博斯特罗姆。他曾试图思考我们该如何遏制人工智能，而他提出的方案，或许比人工智能自己设想出的方案更具压迫性，那就是一个全面监控的国家。你需要对计算资源以及人们进行全面的监控。
……关于人们是否应该发明人工智能或通用人工智能的想法。这就像禁止枪支之类的。没错，完全正确。我的意思是，任何技术都存在一个共性问题：要控制它，就需要压迫和严苛的政策。除了自主武器之外，你对人工智能还有没有其他害怕或担忧的地方？你知道，我们刚才谈到了“出生权危机”，我认为一个更普遍的问题是，通过虚拟现实技术创建虚拟环境，让每个人都生活在自己构建的宇宙中。这实在太诱人了，甚至可以模拟工作和模拟挣扎，以至于你真的不需要离开这个世界。这样一来，我们每个人都会变得自私自利，有点像《黑客帝国》或《头号玩家》里的场景。《头号玩家》……我们所有人都会……甚至比《头号玩家》更糟。至少那还是一个多人在线环境。而我说的则是人工智能为我们模拟一切，这样一来你就真的身处“矩阵”之中了。你知道吗，我本来也想说同样的话。我很喜欢这个精彩的模拟世界。是的。那么，你听说过“费米悖论”吗？不，我没听说过。
“费米悖论”……嗯，就是这样一个问题：你知道，那位教授叫费米，他提出了一个问题——如果宇宙如此浩瀚，那么外星人到底在哪里？从人类存在这个事实，我们可以推断出其他文明也存在。而如果它们真的存在，为什么我们却看不到它们呢？这个问题催生了许多“费米解决方案”。所以，你可以在网上找到成百上千种解释。其中一种是“家猫”思想实验：外星人其实存在，但他们把我们安置在一个类似特定时期阿米什人那样的环境中，不让我们接触外面的世界。也就是说，我们成了他们的宠物。
也许他们正在观察我们，欣赏我们所做的一切，阻止我们伤害自己。可能性有很多，但我觉得其中一种可能对“费米悖论”的解释，也是最令人难过的结果之一，就是：文明会一直发展，直到发明出一种技术，将我们永远困在无限的享乐和无限的模拟之中，以至于我们再也没有动力进入太空去探索，去发现可能存在的其他外星文明。也许这就是人类的必然结局，或者极大概率会发生在任何类似人类的物种身上——我们喜欢享乐。
快乐与痛苦是主要的驱动力。所以，如果你创造了一台无限快乐的机器，那是否意味着我们只需待在家里，沉浸在虚拟现实环境中，所有事情都由它为我们打理，就像《黑客帝国》里那样？在这种情况下，现实世界会变得糟糕透顶吗？是的，会变得非常糟糕。我的意思是，对“费米悖论”更简单的另一种解释是：你发展出足以终结自己物种的技术，而从那一刻起，这只是时间问题——关于核武器，我们当然可以展开讨论；关于人工智能，我们也可以讨论。但问题是，如果我们一直沿着这条技术阶梯不断向上，我们创造的某些技术，究竟是能让你离开地球，还是能让你炸毁地球？就是这样。
我想听听各位的总结陈词和最后感想。希望在你们的发言中，能为正在通勤途中收听这段对话的普通人、为单亲妈妈、为那些可能不像我们桌上许多人那样精通科技、但正努力在这个时代摸索、试图在未来10年、20年甚至30年里过好生活的普通人，提供一些切实可行的建议。好的，大家不用着急，慢慢说。我认为我们正生活在人类历史上最有趣的时代之一。所以，对于正在收听的单亲妈妈，对于那些不符合“科技发烧友”刻板印象的人，不要以为自己做不到这些事。如今，这些机会比以往任何时候都更容易获得。你可以在工作中成为创业者，不必冒巨大风险，不必辞掉工作去创业。这样的例子数不胜数。我们有一位用户，他是一家大型房地产公司的产品经理，他开发出了一款工具，将公司的转化率提升了10%，为公司带来了数百万美元的收入。他因此成了公司的名人，还带动了所有人一起进步，教大家如何使用这些工具。
显然，这对任何人的职业发展都非常有利，你也会因此获得晋升。再比如，你可以为家人、为孩子开发一款软件，帮助他们成长、学习更多知识，成为更优秀的孩子——这就是在家庭中扮演创业者角色的一个例子。因此，我真心希望大家能摆脱那种“创业就是像《一个CEO的日记》播客里所描述的那样”的观念。我最初创办这个播客时，采访的都是CEO，对吧？但随着时间的推移，内容发生了变化：现在人人都可以成为CEO，每个人在某种程度上都是自己生活的CEO。所以，我认为我们如今拥有前所未有的工具，让这一愿景真正变为现实。
嗯，这显然是一个人类相变时刻。我相信，其意义将堪比农业、文字或电力的发现。而我认为，在审视这一情景所有可能结果时，那种不确定性其实也可能成为另一个故事的一部分。在进化生物学中，我们谈论“适应度景观”，其中某个生态位被比作一个山峰，而更高的生态位、更优的生态位则被比作更高的山峰。但要从较低的生态位到达较高的生态位，就必须穿越我们所说的“适应度山谷”。而且，并没有任何保证说你能成功穿越。事实上，我们认为画在板上的那张图过于乐观了，因为它用二维的方式呈现。它看起来好像你确切地知道该往哪里走才能登上下一座山峰。但实际上，这些山峰更像是迷雾中群岛上的岛屿——你无法判断那座山峰在哪个方向，只能推测它大概在那边，然后祈祷自己别偏离几度。但无论如何，如果我们即将为人类发现一个更优的阶段，那么这种不确定性正是我们意料之中的。
我认为这一次我们应该非常审慎地对待这件事。我们应该认真思考，如何避免这种全新且极其强大的技术与市场力量的结合，将我们引向某种新型奴役。我并不认为事情非得如此。我认为这里的潜力确实让我们几乎可以重构一切。也许我们终于来到了一个平凡琐碎的工作不再需要的时代，而追求意义可以取而代之。但如果不弄清楚如何实现这一点，这一切不会自动发生。我希望我们能够认识到，这一时刻的危险性，只有在它促使我们直面那个问题时，才能得到最有效的利用。
我们每个人都有自己的父母、祖父母、曾祖父母，人数分别是2人、4人、8人，然后是16人、32人、64人。你拥有这样一条长长的祖先血脉，他们所有人都必须相遇。他们所有人都必须从战争中幸存下来，都必须从疾病和病痛中活下来。所有这一切都必须发生，我们才能存在。对我们每个人来说，所有这些事情都必须发生，我们才能走到今天。如果我们想一想那成千上万的人中的每一个，只要有机会，他们中的每一个都会毫不犹豫地选择活在这个特定的时刻。他们会说，自己的生活充满挣扎和疾病，是大量枯燥无味、毫无意义的工作，而且充满危险。你知道，我们每个人可能都有被奴役的祖先，可能有英年早逝的祖先，也可能有在恶劣条件下工作的祖先。我们都有这样的祖先。而他们中的每一个，只要看到这个时刻，都会惊叹地说：“哇。”所以，你是想说，你有能力解决有意义的问题，去创造冒险，去环游世界，去与地球上任何你想请教的人交流吗？你甚至可以随便听听播客，看看视频。
你可以和人工智能交谈。你是想说，你竟然能活在这个特定的时刻吗？请一定要好好利用这一点。去做点事情吧。你可以坐在那里，对社会以及社会应该如何运作高谈阔论。但最终，一切都取决于你如何利用当下。去解决有意义的问题，去勇敢面对，去享受生活，在宇宙中留下属于自己的一点印记。你知道，这就是全部的意义所在。我觉得我们有义务不辜负祖先，好好利用当下。
非常感谢大家能来到这里。我学到了很多，也深化了自己的思考，这正是我希望把大家聚集在一起的主要原因。因为我知道，你们每个人都有不同的经历、不同的教育背景，也都在做着不同的事情。但大家聚在一起，有助于我梳理这些想法，从而明确自己的立场。我提了很多问题，但我其实相信人类。我刚才还在想这件事。
我在想，我对人类应对这一切的能力是否真的乐观？还是说，这只是因为我别无选择？因为正如你所言，另一种选择其实根本不值得考虑。因此，我确实对人类将如何应对这一切抱持乐观态度，部分原因就在于我们正在开展这样的对话。回顾历史，我们并非总能在社会变革的初期就进行这样的讨论，比如社交媒体的出现及其所带来的影响。
我们正在努力追赶由此带来的后续影响。而我对此充满希望。也许这就是我身上的创业精神吧。我感到很兴奋。或许这也是我身上的创业精神在作祟。但与此同时，正如 Brett、Amjud 和 Dan 提出的许多观点一样，当我们从一座岛屿游向另一座岛屿时，确实有许多需要认真考量的问题。由于 Brett 所强调的这场变革的速度和规模，再看看这项技术的增长数据——它正像野火一样蔓延开来。比如，当我第一次尝试 Replit 时，我立刻走出去，马上告诉 Cozy：“Cussie，快试试这个。”她立刻就动手了，而且完全被吸引了。接着我打电话给在巴厘岛的女友，她是一位呼吸练习师，我跟她说：“把这个输入你的浏览器。R-E-P-L-I-T。”
然后，她就开始为即将举行的静修活动，根据所有客户的信息制定呼吸练习计划。它之所以能像野火一样蔓延，是因为我们本身就是互联网原住民。我们天生就熟悉这项技术。所以这并非一项全新的技术，而是在我们本就熟悉的事物基础上叠加而成的。因此，正如 Brett 所描述的那样，从一座山峰跨越到另一座山峰，或从一座岛屿游向另一座岛屿的这个过程，我认为将会带来极大的动荡。
我采访过这个领域的许多领导者，从领英创始人 Reed Hoffman 到谷歌首席执行官，再到我提到的 Mustafa。他们之间在很多问题上意见不一，但他们所有人都同意的一点——Sam Altman 也同意——那就是从长远来看，我们社会的运作方式将发生根本性的改变。人们会为短期利益争吵不休，有时甚至会对中期目标或时间规划产生分歧，但他们都一致认为，未来将呈现出截然不同的面貌。Amjud，感谢你正在做的一切。今天我们没能在这方面多花些时间，而这通常是我在这里会深入探讨的话题。但你的故事真的非常鼓舞人心——从你的出身，到你取得的成就，再到你正在构建的一切。你正在为从孟加拉国到开普敦再到旧金山的创业者们实现民主化，为他们创造平等的竞争环境，让他们能够将想法变为现实。而且我认为，单就这一点而言，这本身就是一件非常了不起的事。要知道，我出生在非洲的博茨瓦纳，而因为有了你所做的工作，我同样有机会将我的想象变为现实，从而改变我的人生。
在 Replet 做的事情。我强烈推荐大家都去体验一下。那天晚上你大概会睡不着，因为对我来说，能参与这件事实在太让人着迷了——它一直以来都是我创作道路上的障碍。过去我总是得找人帮忙才能把东西做出来。Dan，再次非常感谢你，因为你代表了企业家的声音，而且你已经成为英国企业家群体中一位举足轻重的思想领袖。那种视角和平衡感真的非常重要。所以，我一如既往地非常感激你能来到这里，你也是我们节目的超级人气嘉宾。Brett，真的要感谢你无数次，是你为复杂的挑战提供了一个人性化的观察视角。你以一种我认为至关重要的无畏精神去面对这些挑战——在这种时候，我们当中有些人可能会一头扎进乐观主义里，像追逐奶酪一样一头撞向捕鼠器。而我认为，你正是当下这个世界里重要的制衡力量和清醒之声。所以，感谢各位的到来，我真的非常感激。嗯，我们下次再见吧。这些内容会永远流传下去。
这件事总让我觉得有点不可思议。在定期收听本节目的听众中，竟然有 53% 的人还没有订阅。所以，能请大家帮个忙吗？如果你喜欢这个节目，喜欢我们在这里所做的一切，并希望支持我们，最简单免费的方式就是点击订阅按钮。我向你承诺：只要你订阅了，我和我的团队就会竭尽全力，确保这个节目每周都能为你带来更好的内容。我们会倾听你的反馈，找到你想让我对话的嘉宾，并继续坚持做我们该做的事。非常感谢大家。