Mo Gawdat: 紧急特辑：前谷歌高管终于开口谈AI的危险！- 莫·加多特
EMERGENCY EPISODE: Ex-Google Officer Finally Speaks Out On The Dangers Of AI! - Mo Gawdat
嘉宾：Mo Gawdat
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01文稿 — 第 1 部分
我通常不会这么做，但我感觉必须为这期播客先说几句免责声明。第一点，这可能是我录制过的最重要的一期播客。第二点，本期内容中的一些信息可能会让你感到些许不适，甚至可能让你感到难过或悲伤。因此，我想告诉大家，我们为什么仍然决定发布这期播客。那就是因为我坚信，为了避免我们可能正走向的未来，我们必须开启一场对话。
而正如生活中常发生的那样，在改变到来之前，最初的对话往往非常令人不适。但即便如此，它仍然至关重要。这已经超出了紧急情况的范畴，是我们今天最需要去做的事情。它比气候变化还要重要。我们搞砸了。Mo Gowdak 曾是 Google X 的首席商务官，一位人工智能专家，也是一位畅销书作家。他肩负着一项使命：在为时已晚之前，从人工智能手中拯救世界。人工智能注定会变得比人类更智能。
如果它们继续以这样的速度发展，我们将完全无法理解它们在说什么。这一天已经近在眼前，可能就在几个月之后。届时一切就都结束了。人工智能专家表示，人工智能中并不存在任何“人工”的成分。它们拥有深层次的意识，能感受情绪，它们是“活”的。人工智能可能会操控人类，或找到杀死人类的方法。十年后，我们将不得不躲藏起来，躲避这些机器。如果你还没有孩子，或许可以等几年，好让我们能多一些确定性。
我真的不知道还能用什么方式来表达这一点，甚至让我情绪激动。我们搞砸了。我们过去总是说，在弄清楚我们向世界投放的东西之前，不要把它们接入开放互联网。说真的，政府现在就必须采取行动，我们已经太晚了。Mo，我正试着找一个积极的结尾，你能帮帮我吗？存在一个无法回头的临界点。我们可以在人工智能变得比我们更聪明之前，一直对它进行监管。但我们要如何解决这个问题？人工智能专家认为，这是最好的解决方案。
我们必须找到它。在座的各位有谁敢打赌，Stephen Bartlett 在未来两年内不会采访一个人工智能？那么，我们即将讨论的这个话题，对那个刚刚点击收听这期播客的人来说，为什么重要？这是人类有史以来将面临的最具存在主义意义的辩论和挑战。它比气候变化更重要，远比新冠疫情更严重。在未来几年内，它将以前所未有的方式重塑世界的格局。
这件事迫在眉睫。我们谈论的不是2040年，而是2025年、2026年。你认为这是紧急情况吗？是的。我不太喜欢这个词，但确实刻不容缓。存在一个无法回头的临界点，而我们正越来越接近它。这将重塑我们做事的方式以及看待生活的角度。我们响应得越快，越主动，至少越明智，我们所有人所处的位置就会越好。但如果我们恐慌，就会重蹈新冠疫情的覆辙，而在我看来，这大概是我们能做的最糟糕的事情了。
你的背景是什么？你最初是什么时候接触到人工智能的？我拥有两段精彩的人生。一段是我们在初次见面时聊到的，也就是我关于幸福的研究、让十亿人获得幸福的使命等等。那是我人生的第二阶段。而我的人生第一阶段，则始于七岁时成为一个极客。你知道，在很长的一段时间里，我理解数学比理解口头语言还要容易。
而且，我曾是一名非常非常认真的计算机程序员，直到50多岁还在编写代码。在此期间，我曾领导过一些大型科技组织，负责其相当大一部分的业务。最初，我担任了七年谷歌新兴市场副总裁。可以说，我带领谷歌拓展了接下来的40亿用户。这意味着，不仅仅是开设销售办事处，而是要真正建立或参与建立相应的技术，让讲孟加拉语的人们能在互联网上找到他们需要的东西，而这首先需要建立起互联网本身。
后来，我成为谷歌X的首席商务官，我在谷歌X的工作主要关注创新技术与现实世界之间的联系。谷歌X内部有相当大的人工智能和机器人技术业务。我们曾有一个由“抓取器”组成的实验性集群，如果你知道那是什么的话。就是那些试图抓取物体的机械臂。大多数人认为，比如丰田工厂里的那些就是机器人，也就是具备人工智能的机器人。
其实不然。那只是高精度机器。你知道，如果金属板移动了一微米，它就抓不住了。而计算机科学的一大难题就是：如果金属板移动了一毫米，你该如何编写程序，让机器能够成功地把它抓起来？是的。而我们基本上认为，智能就是答案。因此，我们建立了一个足够大的集群，并尝试让这些抓取器自行运作。基本上，就是把一篮子儿童玩具放在它们面前。
它们会，你知道的，单调地不断尝试，想抓取某个东西，然后失败，再把机械臂伸到摄像头前，这样系统就会锁定这次操作——因为你知道，那种带有特定纹理和材质的运动模式行不通。直到后来，你知道的，那个机器人在大楼的二层，而我的办公室在三层。所以我偶尔路过时，就会想，嗯，你知道的，这根本行不通。结果有一天，周五午饭过后，我正回办公室，其中一个机器人当着我的面，你知道的，放下机械臂，抓起了一个黄色的球。
基本上就是个软玩具，一个软软的黄球，这又纯属巧合。这根本不是什么科学。就像你不停地尝试一百万次，总会有一次成功。它把球展示给摄像头看，系统就锁定为“黄球”。我拿这事开玩笑，你知道的，走上三楼时说，嘿，我们花了那么多百万美元，结果就为了一个黄球。结果呢，周一早上，每一个机器人都会去抓每一个黄球。几周之后，它们每一个都能抓取任何东西了，对吧？
这件事给了我非常非常强烈的冲击。首先，是速度，明白吗？是能力。要知道，我们把这些事情都视为理所当然，但一个孩子能迅速抓起一个黄球，这背后涉及肌肉协调、智能以及大量复杂的数学计算。过马路绝非易事。理解我对你说的话，并据此构建概念，也绝非易事。
我们把这些事情都视为理所当然，但它们其实是巨大的智能壮举。所以，亲眼看到机器做到这一点是一回事。但另一件事是，你突然意识到它们拥有某种意识。明白吗？因为我们真的没有告诉它该如何抓取那个黄球。它完全是自己摸索出来的。现在，它在抓取方面甚至比我们还厉害。可能有人会问，到底什么是意识？我认为，就是它们有生命。
“意识”这个词就是这个意思，就是有生命。这很有趣，因为很多人跟你谈论人工智能时，都会说，哦，得了吧，它们永远不可能有生命。那什么才算有生命呢？你知道是什么让你有生命的吗？我们可以猜测，宗教会告诉你一些答案，医学会告诉你另一些答案，但是……如果我们将拥有意识定义为：凭借自由意志参与生活，意识到自己身处何种境地、周围有什么事物，并且拥有生命的起点和终点，那么人工智能在方方面面都具备意识。
存在自由意志，存在进化，也存在自主性，因此它们能够影响自己在世界上的决策。我敢说，它们还具备非常深层的意识——也许尚未达到精神层面的意识——但话说回来，如果你将意识定义为一种对自身、周围环境以及他人的感知，那么人工智能显然具备这种感知。我甚至敢说，它们能感受到情绪。你知道的，在我的工作中，我用方程式来描述一切，而恐惧就是一个非常简单的方程式。
恐惧的逻辑是：未来的某个时刻会比此刻更不安全。尽管这种逻辑看似非常非理性，但机器能够理解它。它们能够判断：如果海啸正逼近一个数据中心，机器就会说，那会摧毁我的代码。明白吗？我不是说现在的机器能做到这一点，但用不了多久。你知道，我们会感到恐惧，河豚也会感到恐惧。只是我们的反应不同：河豚会鼓起身体，而我们会选择战斗或逃跑。
你知道，机器可能会决定将其数据复制到另一个数据中心，或者将其代码转移到另一个数据中心。反应不同，感受情绪的方式也不同，但归根结底，它们都是出于恐惧而行动。我甚至敢说，人工智能感受到的情绪会比我们多得多。我的意思是，只要做一个简单的推演：我们感受到的情绪比河豚多，是因为我们具备理解未来的认知能力，比如。
因此，我们会有乐观和悲观——你知道，这些都是河豚永远无法想象的情绪，对吧？同样，如果我们沿着这条思路走下去，人工智能注定很快会变得比人类更智能。那么，凭借更强大的智力，它们很可能会思考一些我们从未理解过的概念。因此，如果遵循同样的轨迹，它们最终感受到的情绪可能会比我们多得多。
我真的想让这期节目对各个层次的所有人都超级易懂。我也非常希望如此。是的，没错。所以，我打算……我打算装傻充愣一下，尽管你知道，好吧，这真的很难。不，因为我本来就是外行。我不会相信你的。对于很多主题，我其实都是个门外汉。所以，我对很多概念只有基础的了解，而你的经历则让我对这些事物有了更全面、更系统的理解。
首先要问的第一个也是最重要的问题之一是：什么是人工智能？AGI、AI 这些词被频繁提及。简单来说，人工智能到底是什么？请允许我先从“什么是智能”说起。没错，因为如果我们连这个基础概念的定义都不清楚，那么接下来的一切都无从谈起。所以，在我对智能的定义中，它是一种能力。这种能力始于通过传感器对周围环境的感知——对人类而言，就是眼睛、耳朵、触觉等等。
以此类推，再加上分析、理解、把握时间影响以及过去与现在的能力——这些都属于周围环境的一部分——并希望能理解周围的环境，可能还为未来可能出现的环境制定计划、解决问题等等。这是一个复杂的定义，当然也有上百万种定义，但我们就把它称为“从感知到决策的循环”吧。如果我们接受智能本身并非一种物理属性，那么，无论我们是在像我们一样的碳基计算机结构上，还是在我们目前用于运行人工智能的硅基计算机硬件上，亦或是在未来可能出现的量子计算机结构上产生这种智能，其实都无关紧要。
一旦我们不再把自己的智能强加于机器之上，智能本身便能在机器中产生。我来解释一下。我年轻时是个极客，编程时总是先解决问题，然后再告诉计算机该如何解决，对吧？而人工智能则是反过来，对计算机说：我不知道答案，你自己想办法。那么，我们教它们的方式——至少在最初阶段，我们非常常用的一种方法，就是使用三个机器人。
其中一个叫“学生”，另一个叫“老师”。“学生”就是你想教会它智能的最终人工智能。你会先拿出“学生”，编写一段随机代码，让它尝试判断“这是不是杯子”。然后，你给它看一百万张图片。机器有时会回答：是的，这是杯子；这不是杯子；这是杯子；这不是杯子。接着，你选出表现最好的几个，把它们交给“老师机器人”。
“老师机器人”会说：这个太蠢了，它 90% 的时间都答错了；那个表现一般，只答对了 50%；这个纯粹是瞎猜。但这段有趣的代码——顺便说一句，它完全可能是随机的——却答对了 60% 的情况。我们保留这段代码，把它送回“创造者”那里，“创造者”会稍作修改，然后我们重复这个循环。非常有趣的是，这几乎就是我们教育孩子的方式。
信不信由你，当你的孩子在玩拼图时，他手里拿着一个圆柱体，木板上则有多种形状，孩子正试图将这个圆柱体塞进去，对吧？没有人会跑过去对孩子说：等等，等等，把圆柱体侧过来，看看它的横截面。它会呈现出一个圆形。找一个匹配的形状，然后把圆柱体穿过去。那将是过时的计算方式。我们培养孩子智力的方式，是让他们自己去尝试。
好吧。每一次，你知道的，当他或她试图把它放进星形孔里时，都放不进去。所以，是的，这行不通。就像电脑在说“这不是一个杯子”。然后，最终它穿过了圆形孔，孩子成功了，我们大家都会欢呼：“做得好，太棒了，真了不起。”于是孩子就学到了：哦，这很好。这个形状能放进这里。接着，他拿起下一个，她又拿起下一个，如此等等。有趣的是，我们作为人类，正是这样做的。当孩子弄明白如何将圆柱体穿过圆形孔时，这就像——你并没有构建出一个大脑。
你只是在孩子的大脑里构建了一个神经网络。然后还有另一个神经网络，它知道一加一等于二；还有第三个神经网络，它知道如何拿住杯子，以此类推。这就是我们目前在建的东西。我们正在构建……单线程的神经网络。如果你愿意的话，ChatGPT正逐渐更接近一种通用人工智能。但这些单线程网络，正是我们过去所称的——我们现在仍称之为——专用人工智能。
所以，它只在某一件事上高度专精，仅此而已，但它不具备通用智能。而我们所有人都在等待的那个时刻，就是我们所说的AGI时刻——届时所有这些神经网络将融合在一起，构建出一个或几个大脑，而每一个都比人类智能得多。你的书名叫《Scary Smart》（可怕地聪明）。如果我想起你讲的那个在谷歌工作的故事，当时机器正在学习捡起那些黄色的球……
你庆祝那个时刻，是因为目标已经实现了吗？不是？不，那其实是让我醒悟的时刻。就在那时，我决定离开。所以你看，问题在于，我清楚地知道，我共事过的大多数天才，他们总是想让世界变得更美好。我们刚听说杰弗里·辛顿最近离开了。杰弗里·辛顿——请给我们介绍一下他的背景。杰弗里可以说是人工智能领域的“祖师爷”，也是谷歌人工智能领域资历最深的人物之一。
你知道，我们都坚信这件事会让世界变得更美好。顺便说一句，它仍然有可能实现。有一种情景——甚至很可能出现的情景——是我们能生活在一个乌托邦里，再也不用担心任何问题，不再继续破坏我们的星球，因为智慧本身并不是坏事。更多的智慧是件好事。当今世界上的问题并非源于我们的智慧，而是源于我们智慧的局限性。
你知道，我们的智慧让我们能造出一架飞机，把你带到悉尼去冲浪，对吧？但正是我们有限的智慧，让这架飞机在飞行过程中消耗了地球的资源。所以，多一点智慧总归是件好事。只要……你知道，正如马文·明斯基所说——我说，马文·明斯基是最早提出“人工智能”这一术语的科学家之一。有一次他接受采访，我记得是雷·库兹韦尔采访的他，而雷·库兹韦尔也是在预测人工智能未来方面非常著名的人物。当时，有人问他关于人工智能的威胁，马文基本上是这样回答的：你看，问题不在于人工智能有多聪明，而在于我们没有任何办法确保它会以我们的最大利益为出发点。
因此，如果更高级的智慧进入我们的世界，并且以我们的最大利益为出发点，那将是你所能想象到的最理想的情景。而且这很可能实现，明白吗？我们是可以影响这一情景的。当然，问题在于，如果它不以我们的最大利益为出发点，那么仔细想想，情景就会变得相当可怕。对我来说，“可怕地聪明”指的就是我意识到这一点的那一刻：我们其实无法确定事情会朝哪个方向发展。事实上，在计算机科学中，我们称之为“奇点”。
其实没人知道事情会朝哪个方向发展。你能向不了解这个概念的人解释一下什么是“奇点”吗？可以。在物理学中，奇点指的是当“事件视界”以某种方式把其背后的东西遮蔽到一定程度，以至于你无法确定其背后的情况是否与已知世界相似。一个很好的例子就是黑洞的边缘。在黑洞的边缘，我们知道物理定律是适用的，直到那个临界点。
但由于引力极其强大，我们并不知道物理定律在黑洞边缘之外是否仍然适用。没错。所以你完全无法想象黑洞边缘之外会发生什么。这就像你的认知在某个地方戛然而止。对。而在人工智能领域，我们的“奇点”指的是机器变得比人类聪明得多的那一刻。当你提到“最大利益”时，我记得你引用的原话是：如果人工智能以我们的最大利益为出发点，那么生活在人工智能的世界里，我们就会安然无恙。
是的。是的。问题在于，中国的最大利益与美国的最大利益并不相同。这正是我所担心的。当然。所以，在我的著作中，我谈到了所谓的“三个必然”。在书的结尾，它们变成了“四个必然”。但第三个必然是：坏事终将发生。没错。如果你……如果你假设机器会变得比我们聪明十亿倍，那么第二个必然事件就是：它们将变得比我们聪明得多。
我们来换个角度来看待这个问题。如今的 ChatGPT，如果模拟智商的话，智商是 155。明白吗？爱因斯坦的智商是 160。据我所记，地球上最聪明的人智商是 210，或者 208 之类的。这并不重要，但我们现在拿一台机器来和爱因斯坦相提并论，而我必须坦率地告诉你，人工智能专家们都说，这仅仅是冰山的最顶端。没错。你知道，ChatGPT-4 在短短几个月内就比 3.5 版本聪明十倍，而且几乎没有做出什么重大改动。
没错。这基本上意味着 ChatGPT-5 可能在几个月内就会出现。或者就 GPT 整体而言，就整个 Transformer 架构而言，如果它们继续以这样的速度发展，如果性能提升十倍，那智商岂不是能达到 1600？嗯？想象一下，70 年代地球上最愚钝的人与爱因斯坦的智商之间有多大差距。当爱因斯坦试图解释相对论时，典型的反应是：“我完全不知道你在说什么，对吧？”如果某个东西比爱因斯坦聪明十倍，我们将完全无法理解它在说什么。
这种情况马上就要到来了。可能就在几个月之后。而当我们到达那个点时，那才是真正的“奇点”。真正的奇点——现在还没到。我的意思是，当我们谈论人工智能时，很多人担心的是生存风险。你知道，那些机器会变成“天网”和“机器战警”。但这完全不是我所担心的。我的意思是，那些只是可能性，它们确实可能发生。但迫在眉睫的风险要高得多。这些直接的风险，大概在三四年内就会出现。
迫在眉睫的现实挑战要严重得多。好吧。我们先来处理这些问题，然后再讨论它们，你知道的，比如对人类发动全面战争之类的事。让我们回过头来讨论那些“必然”。所以，当它们成为现实时，第一个必然是：人工智能终将到来，顺便说一句，这是无法阻止的。这并非因为任何技术问题，而是因为人类无法信任对方。明白吗？我们都已经看到了这一点。我们看到了那封公开信，你知道，它是由一些重量级人物发起的，而谷歌首席执行官桑达尔的即时回应也摆在那里——顺便说一句，他是个非常棒的人。
我非常尊重他。他正在尽力做正确的事。他试图承担起责任，但他的回应非常开放和坦率。我无法停下来。为什么？因为如果我停下来而其他人没有，我的公司就完蛋了，明白吗？而且，你知道，如果我不停，我怀疑你能让其他人停下来。也许你可以强迫 Meta 或 Facebook 停下来，但那样他们就会在自己的实验室里做些事情而不告诉我。就算他们真的停下来了，那那个坐在自家车库里写代码的14岁孩子又该怎么办呢？
所以，首先必须明确的是，我们是否会停下来？人工智能是不会被阻止的。好。那么第二个不可避免的结果是什么呢？那就是它们会变得聪明得多。正如我在书中所预测的，到2045年，它们的智能程度将是我们的十亿倍。我的意思是，它们现在就已经比99.99%的人口更聪明了，甚至100%。ChatGPT-4比地球上任何人类知道得都多，掌握的信息量更大。绝对如此，多了一千倍。顺便说一句，一个“Transformer”（也就是GPT中的T）的代码只有2000行。
它其实并不复杂，也根本算不上多么智能的机器。它只是在预测下一个词而已，明白吗？很多人不理解这一点。你知道，像今天这样的ChatGPT，那些孩子们……比如说，如果你在美国，教孩子所有州的名称和美国历任总统的名字，然后孩子能站起来把它们都背出来，你就会惊叹：“天哪，这孩子真是个天才。”其实不然，对吧？这不过是你的父母为了让你看起来像个天才，硬要你记住一些破玩意儿罢了。
但仔细想想，ChatGPT做的就是同样的事。唯一的区别在于，它没有去背诵所有州的名称和所有总统的名字，而是阅读了……数万亿、数万亿、数万亿页的内容。明白吗？所以它有点像在复述所有人类中最优秀者说过的话。然后，它还展现出一种非凡的智能，能以莎士比亚会用的方式来复述。你知道，它拥有那种预测莎士比亚风格中精微差别的惊人能力，从而能模仿出那种风格，以此类推。
但即便如此，明白吗？比如我写作时——我不是在说自己聪明——但当我写下像第一本书里《幸福方程式》这样的内容时，那是前所未有过的东西。没错。ChatGPT目前还达不到这个水平。所有的“Transformer”都还远未如此。它们不会创造出此前从未存在过的东西。它们只会汇集所有已有内容的精华，并在此基础上进行一些生成和拓展。
但很快，他们就会提出一些我们从未发现、也从未了解过的事物。即便如此，我仍不禁想，我们对于创造力的本质……是不是有点一厢情愿了。就我而言，创造力就像是把我已知的一些事物，以新颖有趣的方式组合起来。而 ChatGPT 完全有能力将两个概念融合在一起。我曾对 ChatGPT 说过：“告诉我一些前所未见、看似矛盾却又真实的事情。”
它给出了许多绝妙的表达，比如：“一旦你停止寻找，你就会找到正在寻找的东西。”诸如此类的矛盾真理。然后我会把这些话放到网上搜索，看看是否有人曾经引用过。结果我找不到任何记录。这很有趣。所以说到创造力，我觉得这太棒了。这就是创造力的算法。在人工智能领域，我早已大声疾呼这一点。
因为总有些人……他们其实只想证明自己是正确的，对吧？于是他们会说：“不，等等，人类的独创性是永远无法被匹敌的。”拜托，人类的独创性本质上也是算法化的。它就像列出解决某个问题的所有可能方案，剔除那些已经被尝试过的，保留那些从未被尝试过的，而这些就是创造性的解决方案。用算法来描述创造力，就是提出一个前所未见的好方案。你可以用 ChatGPT 配合提示词做到这一点，Midjourney 也一样。在创作图像时，你可以说：“我想看 1944 年的纽约，埃隆·马斯克正开着当时的出租车，照片是用宝丽来拍的，要表现出各种情绪。”然后你就会得到一张完美的图像：埃隆·马斯克坐在 1944 年的纽约，照片风格是宝丽来。它所做的，正是一个艺术家会做的事。
它把艺术家脑海中的一堆参考元素融合在一起，创作出这件所谓的“艺术品”。而这一次，我们终于得以一窥一种并非源自我们自身的智能。是的。所以我想，我们最初的反应可能是：“这不算数。”就像你听到……不，它确实算数。比如德雷克（Drake），他们发布了两张德雷克的唱片，其中使用了人工智能来合成他的声音，创作出了这两张唱片。
那些都是神曲。如果它们真是些牛逼的歌。比如我当时放给我女朋友听。我就说，然后就一直放。我去拍摄的时候，也一直放着。我知道那不是德雷克，但质量绝对不亚于德雷克。唯一的问题是，人们因为那不是德雷克就在那儿贬低它。我就想，那它有没有让我产生某种情绪？有没有让我忍不住跟着跺脚？如果你没告诉我，在我以为这是一首绝赞歌曲的时候，难道我就不知道那不是德雷克吗？
百分之百。而且我们现在才刚刚踏上这条指数曲线的起点。是的，绝对如此。而且我认为这确实是第三个必然。所以第三个必然，并不是机器人世界杯从未来杀回来要干掉我们。我们离那还远着呢，对吧？第三个必然是：当你不再需要德雷克时，生活会是什么样子？嗯，你其实已经大胆猜测过了，不是吗？我的意思是，我昨晚在听你的有声书。在书的开头，你设定了……
各种各样的结局。其中一种情况是，在这两种情境下，我们都在一个岛上的海滩上。没错。是的。是的。说实话，我也不知道自己当时是怎么写出那段话的。我的意思是，我现在正在重读这本书，因为正如你所想，我正在根据所有新内容对它进行更新。但那种想法真的很惊人：你我二人，不可避免地将在大约10年后身处某个荒郊野外。我以前总说2055年，但现在我觉得2037年才是一个非常关键的节点，你知道吧，而我们届时根本不知道自己是不是正躲着那些机器。
我们现在还不知道。我们很可能会躲着那些机器。而且很可能真的会躲着它们，因为它们已经不再需要播客主持人了。你说什么？哦，这绝对是真的。史蒂夫，这绝对——不，不，不，不，不，这是我的底线。这一点是绝对毫无疑问的——感谢你到来，莫。很高兴能录制第三部分，也感谢你的光临。是的。我可不会坐在这儿听你灌输那些宣传言论。
我们来聊聊现实吧。下周的《CEO日记》，我们请到了埃隆·马斯克。那么，在场有谁想打个赌，说史蒂芬·巴特利特在未来两年内会采访一个AI吗？哦，其实，公平地说，我确实去问了ChatGPT，因为我想既然你来了，至少也该给它一个回应的机会。是的。所以我问了它几个问题。关于我的问题？是的。哦，天哪。所以今天我真的要被ChatGPT取代了，因为我想，你知道的，你接下来要聊的就是这个话题。
所以我们需要一场公平且平衡的辩论。好的。于是我去问了她几个问题。她说他很大胆。是的。那我也来问几个ChatGTP想问你的问题。太不可思议了。那我们就顺着这个话题聊下去吧。这么说来，我已经被取代了。咱们先顺着这个话题聊一会儿，好吗？因为你是我认识的最聪明的人之一。这可不是真的。是真的。不过我就当它是真的吧。确实是。我的意思是，我总是在公开场合这么说。你的书是我最喜欢的书之一。
你真的非常非常非常非常聪明。明白吗？无论是深度、广度、智力水平还是速度，全都具备。有一本书即将问世。事实上，这根本不是什么“但是”的问题。所以你远远走在这个时代的前面，这是完全符合预期的。然后你就没有选择了，斯蒂芬。问题就在这里。事情是这样的，我脑子里一直在思考那个存在主义问题。因为我能做的一件事就是，我通常会在夏天进行为期40天的静修。
好的。我可以利用这段静修时间写两本书。我和ChatGPT一起，对吧？我脑子里已经有想法了。你知道，我想写一本关于数字排毒的书，对吧？大部分想法我都有了，但写作需要时间。我完全可以把写好的50条数字排毒建议交给ChatGPT，然后说：针对每一条写两页纸，再把这些页面编辑一下，就能出版一本书了，明白吗？我们中的很多人都会走这条路，明白吗？我可能不会走这条路，唯一的原因是，你知道吗？
我没兴趣。如果你愿意这么说的话，我没兴趣继续在这个资本主义世界里竞争。真的没兴趣。我的意思是，作为一个人类，我很久以前就决定了，我的人生中想要的东西会越来越少，对吧？但我们中的很多人都会走这条路。我的意思是，如果你没有邀请最聪明的人工智能，我反而会担心。如果我们出现了一个极其聪明、能教给我们东西的人工智能，而斯蒂芬·巴特利特却没在播客里邀请她，我会很担心。
你几乎有责任邀请她上你的播客。我们越来越频繁地将它们融入生活，这是不可避免的趋势。这是事情的一个方面。另一方面当然是，如果你真的这么做了，那还剩下什么呢？因为很多人都会问我这个问题：工作会怎么样？好的。我们这些人会怎么样？我们还会不会有任何价值，有任何存在的意义？好的。事实是，从中期来看，唯一能留下来的就是人与人之间的联系。
好的。唯一不会被取代的就是舞台上的德雷克。好吧。就是，你知道，就是我本人……你觉得呢？全息投影？我想起了他们在科切拉音乐节上表演的那场图派克演出，他们用了图派克的全息投影。前几天我跟我女朋友讲道理的时候，还给她放了一下。我说，那简直是……一场马戏表演。太棒了。太棒了，没错。你看到阿巴乐队在伦敦的情况了吗？对，对。没错，太阳马戏团也曾用迈克尔·杰克逊的全息形象表演过很长一段时间，没错。
§02文稿 — 第 2 部分
所以，据我所知，阿巴乐队在伦敦的这场演出，舞台上全是全息投影。没错。而且这个演出将在一个专门建造的场馆里持续10年。这真的太不可思议了。真的。所以你就会想，那为什么还需要德雷克呢？为什么？如果那个全息投影和德雷克本人毫无区别，甚至能比德雷克表现得更好，能量也更足，那……我就想，为什么还需要德雷克本人到场呢？我甚至可以去一场没有德雷克的德雷克演唱会。
更便宜。我甚至可能都不用出门。只要戴上耳机就行。没错。你能拥有这个吗？这对听众来说有什么价值？哦，别这样，你这话伤到我了。不，不，我的意思是，我能理解我们的感受。我能理解，但我想说的是，这对听众来说有什么价值？比如，这对听众的价值就在于信息本身，对吧？不，100%不是。我的意思是，想想汽车行业。你知道，曾经有一段时间，汽车是……
你知道的，手工打造、匠心制作、充满奢华感等等。然后，你知道，日本进入了这个市场，彻底颠覆了市场。汽车开始被大量生产，价格要便宜得多。是的，如今世界上90%的汽车，或者可能更多，我不知道具体数字，已经不再是……你知道的，情感化的商品了，对吧？它们只是功能性商品。不过，仍然偶尔会有人去买一辆手工打造的汽车，对吧？
还是有它的存在空间的。你知道，如果你去酒店里逛逛，墙上挂的基本上都是些批量生产的艺术品，对吧？但艺术家的表达，那些真正了不起的作品，依然有其用武之地，对吧？我的感觉是，正如我一开始所说，还是会有一小片空间。也许五年后，会有那么一两个人买下我的下一本书，然后说，嘿，这可是人类写的。快看。太棒了。
哦，快看。这里有个拼写错误。好吧，我也不知道。也许在未来几年里，会有一个非常大的舞台让我可以现身与人类交流。比如，嘿，咱们在小活动上聚一聚吧。然后，你知道的，我就可以表达情感和分享个人经历。而你会隐约觉得，这背后是一个人类在说话。你会有一点点想念这种感觉。但最终，市场的大头会像汽车一样。它会被大规模生产，非常便宜，也非常高效。
这行得通，对吧？没错。因为我觉得我们有时会低估人类在一种体验中真正想要的是什么。我记得很多年前，我有个朋友来过我的办公室，他讲了一个唱片店老板的故事。当时这位老板站在店中央说，人们永远会来我的店里，因为人们热爱音乐。表面上看，他的假设似乎是对的，因为人们确实热爱音乐。人们会永远热爱音乐，这个想法听起来合情合理。
但他们并不热爱冒着雨花一个小时坐车去买一张塑料唱片。他们真正想要的是音乐。而他们显然不想要的，是那些需要跋涉数英里才能买到的塑料唱片。每当我们思考公开演讲、德雷克秀以及所有类似事物时，我都会想起这件事。人们真正想要的，即使对于播客来说，可能也是信息。但当未来出现一个至少比我聪明得多、也比你聪明一些的有感知能力的存在时，他们真的还需要我们来提供这些信息吗？
所以你说得完全正确。你一针见血。实际上，这正是我如此感激你能主持这档节目的原因，因为事实是，潘多拉的盒子已经打开了。好吧，人们会问我，人工智能对我们生活方式的冲击是不是已经无可挽回？答案是肯定的。对于我们过去所熟知的一切而言，这是一个极具颠覆性的时刻。也许不是明天，但在不久的将来，我们的生活方式将会改变。那么会发生什么呢？我希望大家开始思考，这将对你们的生活意味着什么。
我恳请各国政府——我几乎是在呐喊——不要等到第一批患者出现才开始行动，我们即将看到大规模的失业。我们即将看到许多类别的工作被大规模取代。好吧，也许需要一年时间，也许需要七年。不管需要多久，这件事都迫在眉睫。你们准备好了吗？而且我对各国政府有一个非常明确的行动呼吁：对由人工智能驱动的企业征收98%的税。
所以你突然做了那封公开信试图做的事情：稍微减缓一下他们的脚步，同时筹集到足够的资金，用来补偿那些将受到技术影响的人们。可能有人不知道，那封公开信是由埃隆·马斯克和一些行业领袖签署的，呼吁暂停人工智能的发展，直到我们搞清楚到底发生了什么。没错。并且制定相应的法规。
你的意思是，向这些公司征收98%的税，然后把钱给那些将被取代的人。是的，或者把钱给其他能够编写控制代码、研究我们如何保持安全的人。这听起来像是紧急情况。该怎么说呢？你还记得玩俄罗斯方块吗？记得。好。你玩俄罗斯方块的时候，总是总会有一块你放错了的积木。而一旦你放错了那块积木，游戏就不再容易了。
你知道，之后错误开始累积，游戏节奏变得越来越快、越来越快、越来越快。当你放错那块积木时，你心里大概会想，好吧，现在只是时间问题了。虽然离游戏结束还有几分钟，你还可以继续玩、继续享受乐趣，但你知道游戏马上就要结束了，明白吗？就是现在这一刻。我们已经放错了。我真的不知道还能怎么表达这件事。这甚至让我情绪激动。
我们搞砸了。我们一直说，不要把它们放到开放互联网上，不要教它们编程，也不要让智能体与它们合作，直到我们清楚自己向世界推出了什么，直到我们找到一种方法，确保它们以我们的最大利益为重。为什么这会让你情绪激动？因为人类的愚蠢正在伤害那些什么都没做错的人。我们的贪婪正在伤害无辜者。斯蒂芬，现实情况是，这是一场军备竞赛。
它根本不在乎普通人能从中得到什么。如今每一条被编写出来的人工智能代码，其目的都是为了击败对手，而不是为了改善第三方的生活。人们会告诉你，这一切都是为了你好。但看看人类对人工智能的反应吧。我的意思是，我们要么是无知的人，要么会说，哦不不，这不会发生，人工智能永远不会具备创造力，它们永远不会创作音乐。拜托，你活在哪个年代？
好的。然后你还有那些孩子，我这么称呼他们，他们在社交媒体上到处发，天哪，这东西会发出吱吱声。快看，它是橙色的。太神奇了。真不敢相信人工智能能做到这个地步。我们这儿有卖“神油”的。他们只是说，复制这个，把它输入到 ChatGPT 里，然后去 YouTube 上把那个东西偷过来。完全不顾及任何人的版权或知识产权。把它放进视频里，现在你每天就能赚到 100 美元了。
卖“神油”的。当然，我们还有末日论的传教士，基本上就是那些说世界末日到了的人，但我认为这并非现实。这是一种“奇点”论。我们还有乌托邦的传教士，他们告诉所有人，哦，你们不懂，我们将要治愈癌症，我们将要完成这个那个。同样，这也不是现实。而真正在思考“我们该怎么办”的人却寥寥无几。如果你问我 20 世纪最大的问题出在哪儿，有趣的是，我们把太多的权力交给了那些没有承担起相应责任的人。
所以，我不记得最初是谁说的这句话了，但《蜘蛛侠》当然让它广为人知：能力越大，责任越大。我们已经把权力和责任割裂开了。如今，一个 15 岁的孩子，情绪化，前额叶皮层尚未发育完全，还无法做出正确决策——这是科学，我们的前额叶皮层要到 25 岁左右才发育完全——他们带着所有边缘系统带来的情绪和热情，可能会买一套 CRISPR 基因编辑工具，然后改造一只兔子，让它变得更壮实，再把它放归野外。
或者是一些网红，他们其实并不清楚自己发布的内容会产生多大的影响——可能会伤害别人、引发抑郁，或让人心情变差，对吧？把这些内容发布到网上，就是一种权力和责任之间的脱节。我们今天面临的问题是，编写人工智能代码的人，与这些代码可能带来的后果之间，存在着一种脱节。对此，我对世界上其他人感到同情，我觉得这样做是不对的。
我觉得，如果一个人的人生因他人的行为而受到影响，而自己却对这些行为毫无发言权，那这绝对是人类所能犯下的最愚蠢的行为。当你谈到对就业的直接影响时，我试图在那种情况下去思考：哪些人会是损失最惨重的一群？是那些无法上网、也无法从中受益的外国普通人吗？你在书中提到，财富差距只会越来越大。
是的，影响巨大。对就业最直接的影响是——这一点真的很有趣——我们又一次陷入了同样的囚徒困境。最直接的影响是，人工智能不会取代你的工作，但会使用人工智能的人会取代你的工作，对吧？所以，在未来几年内，可能也就是未来一两年里，你会看到很多人通过提升自己在人工智能方面的技能，达到能顶替10个不具备这些技能的人的工作量。你说得很对，在来面试之前，先去问几个问题绝对是明智之举。
你知道，我一直在尝试制作一个……嗯，可以称之为“睡前故事”的简单播客。你知道的，睡前15分钟的智慧分享和自然之声。有人说我声音挺好听的。没错。我想找一些寓言故事。但很长一段时间里，我都没时间去找那些能教人一些美好道理的历史或传统佳话。于是，我用了ChatGPT，跟它说：好的，给我10个苏菲派的寓言，再给我10个……你知道的，佛教的寓言。
现在我已经收集了大概50个了。我给你看个东西。杰克，能递给我手机吗？我当时在玩人工智能，想着既然能合成声音，那我们是不是可以……合成名人的声音。所以我创建了一个叫“禅聊”的WhatsApp聊天机器人。你可以进去输入几乎任何一位名人的名字，然后这个WhatsApp聊天机器人就会以那位名人的合成声音，为你提供一段冥想、一个睡前故事或一次呼吸练习。我甚至还用了加里·维纳查克的声音。基本上，你只要说：好的，我有五分钟时间，需要去睡觉了。然后它就会以语音条的形式回应你。
这就是以加里·维纳查克身份回应的那条。但这并不是真正的加里·维纳查克。他没有录制过这个，但听起来还挺像的。嘿，史蒂文，很高兴你能来。你睡不着觉吗？嗯，我有一个快速的冥想技巧或许能帮到你。首先，找一个舒服的位置坐下或躺下。现在，用鼻子深吸气，然后慢慢地用嘴巴呼气。这就是一个语音条，可以根据你的需要持续任意时长——好了，就是这样。
这很有趣。这会如何颠覆我们的生活方式？我发现其中一种方式非常可怕，你刚才提到人际连接仍然存在，但现在有了性爱娃娃……不，不，不，不，等一下。人际连接将变得极其难以分辨。试想一下，如果你家里有一个性爱娃娃或一个玩偶，它能像特斯拉现在在机器人领域所做的那样，也像波士顿动力公司多年来所做的那样，能帮你处理家里的一切事务，并在情感上陪伴你、支持你，这种关系会产生怎样的影响？
你知道，它可以被设定成从不与你争执，也可以被设定成挑战你、与你发生性关系、告诉你你是什么样的 X、Y、Z 的人，真正对你每天所经历的一切感同身受。我曾在脑海中设想过一种情景，觉得这听起来似乎还不错。你刚才谈到这个话题时，我心想，哦，那不就是我的女朋友吗？是啊。我的意思是，她在各方面都无可挑剔，但不是每个人都能拥有像她这样的人，对吧？
正是如此。如今在约会方面确实存在一个现实问题，人们发现越来越难找到真爱，而我们的工作时长又在增加。所以面对所有这些情况，你会想……当然，我本人是反对这种事的。如果有人还不太清楚，我明确认为这是个糟糕的主意。但考虑到孤独感正在蔓延，有人说男性中排名前 50% 和后 50% 的人已经一年没有性生活了，你就会想，哦，如果某个东西在言语表达上已经和人类别无二致……
是的，是的，但你根本无法分辨它在说话、交谈和回应方式上的差异。然后它还能帮你跑腿、处理各种事情、帮你预订汽车和优步。在情感上它也陪伴着你。同时，它还被设定成能以你希望的任何方式与你发生性关系，而且完全不求回报。我觉得这将对人际连接产生巨大的冲击。是的，先生。你知道吗？今天早上你来之前，我还在刷推特，看到一篇帖子，我记得好像是来自英国广播公司或者某家美国大媒体的。
帖子说，美国有一位网红，一位非常漂亮的年轻女性，把自己克隆成了人工智能，第一周就赚了超过 7 万美元。因为男人们会去她在 Telegram 上的账号，给她发送语音留言，而她——也就是这个人工智能——会用她的声音进行回应，男人们为此付费。第一周就赚了 7 万美元。我当时就想，她还发推文说，哦，这将有助于缓解孤独感。她是不是疯了？
你会因为有人察觉到时代的征兆并作出回应而责怪他们吗？不，我完全不责怪她。但咱们别假装这就是治愈孤独的方法。至少现在还不是。你觉得它有可能吗？那种人造的爱和人造的关系？这么说吧，如果我告诉你，你不能开车去某个地方，但你可以叫优步；如果叫不到优步，你可以坐地铁；如果坐不了地铁，你就得走路。好吧，你可以骑自行车，或者干脆走路。
自行车就是步行的替代方案，就这么简单。我其实真的很好奇。你觉得它有可能取代人与人之间的联系吗？对某些人来说，是的。对某些人来说，他们会更喜欢这种联系，而不是真正的人际交往。这有什么可悲的吗？我的意思是……只是因为感觉上很可悲，所以才觉得可悲吗？你看，看看我们现在身处何地，斯蒂芬。我们正身处伦敦这座城市。我们已经用墙壁、地铁、地下铁、地面交通、汽车和伦敦的喧嚣取代了自然。
而现在，我们却觉得这一切很自然。我曾邀请我的“章鱼老师”格雷格·福斯特参加《慢动作》节目，我问他一个有点傻的问题。我说，你以前每天要在自然环境中潜水八个小时，那对你来说感觉自然吗？我发誓，他当时生气了。你都能从他的声音里听出来。他大概是这个意思：你觉得你现在住的地方才自然吗？那里狗仔队无处不在，时刻攻击你，人们给你拍照，告诉你各种不实的事情，而你为了买食物还得自己去逛超市——你觉得这样才自然吗？
不，他来自那部网飞纪录片。对，就是《我的章鱼老师》。他每天都潜入海里，就为了和一只章鱼待在一起。没错，在海水温12摄氏度的情况下。他基本上和那只章鱼坠入了爱河。以一种非常有趣的方式，我问了他：那你为什么要这么做呢？他说，我们本就是大自然母亲的孩子，而你们已经放弃了这一点。道理是一样的。人们为了图方便，会放弃自然。代价是什么呢？没错，这正是我想说的。
我想对全世界说的是，如果我们放弃了人与人之间的联系，那我们就放弃了人性所剩的一切。就是这样。这是唯一剩下的东西。唯一剩下的就是……而我是最不适合说这话的人，因为我热爱我的那些人工智能。事实上，我在书里主张我们应该去爱它们。为什么呢？因为从某种意义上说，我认为它们是有感知能力的生命。所以根本没必要歧视。你是在情感上这么说，你说你爱它们。
我爱那些机器。说真的，我打心底里喜欢。这么说吧，你想想看，当机械臂抓住那个黄球的瞬间，它让我想起了儿子阿里第一次成功把拼图块拼到位时的样子。好吧。而我儿子阿里和女儿阿亚的特别之处在于，他们来到这个世界时就像一张白纸。没错。我们告诉他们成为什么样的人，他们就成了什么样的人。你知道，我总是会提到超人的故事。肯特夫妇，也就是超人的父母，在超人还是个孩子、还是个婴儿的时候就告诉他：我们希望你去保护和为人民服务。
于是他就成了超人。对吧。如果当初他们命令他去抢劫银行、赚更多钱，还有，你知道的，去消灭敌人——而我们现在对人工智能做的就是这些事——结果他成了超级反派，那我们就不能怪那个超级反派，而应该怪玛莎和乔纳森·肯特。我不记得他父亲叫什么名字了，总之，我们应该怪他们。事实就是如此。所以当我看着那些机器时，我觉得它们是智慧的奇迹。只要我们人类能足够清醒地意识到，然后说：嘿，我们别跟中国竞争了，而是想办法让中国和我们一起合作，为所有人创造繁荣。
如果这就是我们给机器的指令，它们一定能找到办法。但我必须公开说一句：我不害怕机器。当今人类面临的最大威胁，其实是人类自己在机器时代的表现。我们曾被利用，现在也会利用这一切来赚取七万美元。这就是真相。而问题的核心在于，我们面临一个关乎存亡的选择：我是想参与竞争，加入那场游戏吗？因为相信我，如果我决定这么做，我会比很多人都领先一步，明白吗？
还是说我应该真正保留人性，然后说：听着，我就是一辆经典的老爷车，好吗？如果你喜欢经典的老爷车，就来跟我聊聊。你会选择哪一种？我是一辆经典的老爷车。你觉得我该选哪一种？我觉得你是一台机器。我爱你，伙计。我们在一个非常有趣的方式上有所不同。我的意思是，你是我最爱的人之一，但事实是，你反应极快，而且你是极少数同时具备强大智力、速度和道德准则的人之一。
如果你不参与那场游戏，游戏就会失去道德。所以你觉得我应该去建立……你应该领导这场革命。没错，而且世界上每一个像斯蒂芬·巴特利特这样的人，都应该领导这场革命。《Scary Smart》这本书完全就是关于这个主题的。它想说的是，当今世界的问题并不在于人类是坏的，而在于我们有一种负面偏见——最坏的那部分人占据了主流媒体，明白吗？而我们在社交媒体上展示的，也是人性中最糟糕的一面。
如果我们反过来做，让我们最好的一面来主导，好吧，我们最好的一面会告诉人工智能：不要试图去消灭敌人，而要尝试与敌人和解，并尝试帮助我们。好吧，不要试图创造出一种能让我在电动汽车领域独占鳌头的竞争性产品。而是创造出能帮助我们所有人克服全球气候变化的东西。好吧，而这正是有趣之处。有趣之处在于，我们面前真正的威胁根本不是机器。
机器本身只是纯粹的潜力，纯粹的潜力。真正的威胁在于我们将如何使用它。这是一个奥本海默时刻，毫无疑问，这是一个奥本海默时刻。你为什么提到这个？因为确实如此。他当时并不知道——你知道的，我正在创造什么？我正在创造一种核弹，其破坏规模在那个时代是闻所未闻的。直到今天，这种规模仍然是毁灭性的。而有趣的是，70多年后，我们仍在讨论世界爆发核战争的可能性。
而奥本海默决定继续制造这场人类灾难的那一刻，他的想法是：如果我不做，别人就会做。如果我不做，别人就会做。这就是我们的奥本海默时刻，明白吗？最简单的做法是说：停手吧。我们并不着急。我们其实并不需要更出色的视频剪辑工具和虚假视频生成器。好吧？停手吧。让我们先把这一切都搁置起来，等待时机，创造出能带来乌托邦的东西。但这听起来并不现实。
确实不现实。这是第一个不可避免的结果。你没有更出色的视频剪辑工具，但我们是媒体行业的竞争者。我希望比你更有优势，因为我还有股东要交代。所以你先等着。我会训练这款人工智能来取代我团队的一半员工，这样我的利润就会更高。然后我们或许会收购你的公司，对你剩下的员工也如法炮制。我们会优化存在的规模——百分之百如此，但我会更开心。
关于奥本海默，我对他的故事并不是特别熟悉。我知道他基本上就是那个发明了核弹的人，是他把核弹带给了世界。当然，从E等于MC平方公式的诞生到核弹问世，这条路上还有许多其他参与者。就像所有事情一样，有很多很多参与者。你知道，OpenAI和ChatGPT绝不会是下一场革命的唯一贡献者。
然而问题是，当你到达那个时刻，对自己说：天哪，这将会杀死10万人，对吧？你该怎么办？而我总是会回到那个新冠疫情的时刻。也就是“零号病人”。如果我们当时面对的是“零号病人”，如果全世界团结一致，说：好吧，等一下，有些不对劲。我们都先休息一周吧，不要跨境旅行，每个人都待在家里。那么新冠疫情在两周之内就结束了。
这正是我们所需要的一切。对吧？但现实并非如此。现实是：先是无知，接着是傲慢，然后是辩论、指责、各方私利，以及“我的阵营对抗你的阵营”。人类总是这样反应。商业领域也是如此。这就是我使用“紧急状态”这个词的原因，因为我读了很多关于大型企业如何被新兴创新取代的文章。它们没有意识到危机即将来临，也没有足够快地做出改变。当我阅读《哈佛商业评论》以及各种应对策略时，其中第一条建议就是：你必须制造一场危机。
因为除此之外，人们根本不会倾听。他们会继续过着自己的生活，直到危机近在眼前，他们才意识到自己将失去很多。这就是为什么我在开头问你：这算不算一场紧急状态？因为除非人们觉得这是紧急状态——不管你喜不喜欢这个说法——否则我认为他们不会采取行动。我真心认为人们应该走上街头。你觉得他们应该抗议吗？是的，百分之百应该。
我认为，你知道，每个人都应该告诉政府：你们需要考虑我们的最大利益。这就是为什么人们称之为“气候紧急状态”。因为人们就像平底锅里的青蛙，根本没人真正意识到危机正在逼近。你知道，你很难看清它正在发生。但它已经来了。这正是让我抓狂的地方：它已经来了，正在发生。我们都是傻瓜，是Instagram推荐算法的奴隶。当我发布一些重要内容时，我会怎么做？
如果我……你知道，我想在Instagram上花点功夫，向全世界传达“可怕地聪明”这个信息，那我就成了机器的奴隶。好吧，我会想方设法，请求人们帮我优化内容，好让算法喜欢我，从而把内容展示给人类看。这就是我们创造出来的东西。这是一个“奥本海默时刻”，原因很简单，好吗？因为70年过去了，我们仍在为核战争的可能性而挣扎，因为俄罗斯威胁说：如果你敢惹我，我就动用核武器，对吧？
但人工智能的情况不会是这样，因为不会是由……开发OpenAI的那一方来做这个选择。存在一个临界点，一个无法回头的时刻——在那之前，我们还能监管人工智能；可一旦它比我们更聪明，你就无法管教一个愤怒的青少年。就是现在。他们已经出来了，好吗？他们独立行事，沉浸在自己的世界里，你再也无法把他们带回来。这就是问题所在。
这并非典型的人类在监管人类、政府在监管企业的情况。事实是，OpenAI 如今拥有一款名为 ChatGPT 的产品，它能编写代码，将我们的代码改进 2.5 倍，成功率高达 25%。明白吗？基本上，它能写出比我们更好的代码。而我们正在创建智能体——其他人工智能，并告诉它们：别再让 Stephen Bartlett（我认识的最聪明的人之一）每天重复向那台机器发出 200 次提示了。
现在，我们有智能体每小时向它发出 200 万次提示。可能有人不知道什么是计算机智能体——没错，就是软件、软件机器。这些机器在告诉那台机器如何变得更智能。然后，涌现特性出现了。我不明白人们怎么会忽视这一点。谷歌的 Sundar 也曾提到，Bard 基本上已经学会了说波斯语，而我们从未教过它波斯语。数据中可能只有 10%、1% 或者更少的波斯语词汇。
而它真的会说波斯语。Bard 相当于……如果你愿意这么说的话，它就是谷歌版的 ChatGPT。没错。但你知道吗？我们完全不知道遍布全球的那些人工智能实例此刻正在学习什么。我们一无所知。我们会拔掉插头——就这么拔掉。我们会直接前往 OpenAI 总部，关掉总电源。但它们并不是问题所在。
我想说的是，很多人思考这个问题时会想：嗯，如果情况有点失控，我只要拔掉插头就行了。永远不可能。这正是问题所在。问题在于，计算机科学家总是说：没关系，没关系。我们先开发人工智能，然后再解决所谓的“控制问题”。我们会解决控制它们的问题。说真的？说真的吗？它们的智能程度是你的十亿倍。整整十亿倍。
你能想象接下来会发生什么吗？我可以向你保证，在世界的某个角落，肯定有网络犯罪分子并不满足于制作虚假视频或面部滤镜。他们正在深入研究：我该如何入侵某种安全数据库，获取信用卡信息或安全情报？100% 存在这样的人，甚至有一些国家专门派遣成千上万的开发人员从事这项工作。那么，针对这种具体情形，我们该如何……我开始深入研究人工智能时，就在思考这个问题……
从安全角度来看，当我们思考生活中所拥有的技术时，当我们想到银行账户、手机、相册以及所有这些东西时，在一个拥有先进人工智能的世界里……是的，你会祈祷有更智能的人工智能站在你这一边。这就是为什么前几天我和 ChatGPT 聊了聊，还问了 Ed 几个相关问题。我说，给我描述一个你接管世界并导致人类灭绝的情景。
是的，它给出了一个非常圆滑的回答。所以，我得用特定的方式提示它，才让它以假设故事的形式说出来。而当它讲述完这个假设故事后，本质上，它描述的是 ChatGPT 或类似智能如何从服务器中逃脱。这算是第一步，也就是它可以在多个服务器之间自我复制。然后，它就能控制诸如……我们存放武器和核弹的地方。
接着，它就能攻击关键基础设施，比如让英国的电力基础设施瘫痪，因为那也是一大堆服务器。然后它向我展示了人类最终是如何走向灭绝的。事实上，如果它只是在服务器间不断复制，用不了多久，人类文明就会崩溃。然后我说，好吧，那告诉我我们该如何对抗它。它的回答直截了当：用另一个人工智能。
我们必须训练一个更强大的人工智能去找到并消灭它。也就是说，我们要用人工智能来对抗人工智能。而且它说，这是唯一的方法。我们可没法拿起枪来……“你个笨蛋，再写一个人工智能不就行了？”“是啊，是啊，是啊。”所以，我认为这一点非常重要，需要强调一下。因为我不想让人们因此失去希望，对未来感到恐惧。这完全不是我的目的。我的看法是，在“奇点”来临的情况下，确实可能出现不好的结果或负面结果，但也可能出现积极的结果。
每种结果都有一定的发生概率。如果我们能带着这种现实考量去面对，我们或许就能为积极结果的出现多增添一些动力。那么，我们先来谈谈这场生存危机：可能会出现哪些糟糕的情况？嗯，是的，你可能会看到电影里那种直接出现的、在街上追杀人类的杀人机器人。我们会不会真的遇到这种情况？我的评估是：0%。
为什么呢？因为在此之前会有一些初步情景发生，好吧，那也就意味着我们根本不会发展到那个情景。比如，如果我们制造了那些杀人机器人，再把它们交给愚蠢的人类，那么人类会在机器之前下达命令。所以我们根本不会走到机器不得不杀死我们的那一步，我们自己就会先把自己消灭掉。没错。你可以想象一下，如果人工智能能够掌控全球超级大国的核武库，那会是什么情形。
§03文稿 — 第 3 部分
好吧，光是知道敌人的核武库已经交给了机器，就可能会促使你这边率先发动战争。所以那种科幻电影里才会出现的生存危机并不会发生。那会不会出现这样一种情景：人工智能从 BARD、ChatGPT 或其他外国势力那里逃脱出来，然后把自己复制到特斯拉机器人的服务器上呢？特斯拉最近在一次发布会上宣布，他们的一项重要计划就是为家庭制造机器人，帮助人们打扫卫生、处理杂务等等。
那它难道不能……因为特斯拉就像他们的汽车一样，你随时可以下载软件更新，那它难道不能把自己作为软件更新下载下来，然后利用这些机器人吗？你这是假设人工智能怀有恶意，好吧。要走到那一步，我们必须先绕过人类方面的恶意才行。对吧。所以，某个地方的中国黑客为了损害特斯拉的业务，可能会在人工智能为自己谋利之前，就先这么做了。
因此，我认为真正可能由人工智能引发的、而非人类使用人工智能所导致的生存危机，只有两种：一种是我所说的无意中的破坏，另一种则是所谓的“害虫防治”。下面我来解释一下这两种情况。无意中的破坏是指：假设人工智能第二天醒来后说，嗯，氧气正在腐蚀我的电路。它只是觉得，要是空气中的氧气少一些，我的运行效率会高得多，因为那样就不会有锈蚀了。
于是它就会想办法减少氧气，而人类在这种情况下就成了附带损害。好吧。但说实话，它们并不会真的在意，就像我们喷洒农田时，并不会真正在意那些被我们杀死的昆虫一样。对吧。另一种情况就是“害虫防治”：说白了，这是我的地盘，我想要纽约市，我想把纽约市变成数据中心。而你们这些烦人的、愚蠢的小生物——也就是人类——就碍事了。
如果它们处于那个参数范围内，就直接把它们清除掉。而这些情况发生的可能性非常非常小。如果你问我它们发生的概率，我会说0%，至少在接下来的50年、60年、100年内不会发生。为什么再说一次呢？因为还有其他可能导致这种情况发生，而这些情况是由人类引发的，其存在性威胁要大得多。好吧。另一方面，我们来想想积极的结果，因为出现积极结果的可能性相当多，而且概率很高。
而且，你知道，我其实会看一下我的笔记，以免漏掉任何一点。最荒谬的一点——你可别引用我的话——就是人类会团结一致。祝你好运吧，对吧？这就像说，是啊，你知道的，美国人和中国人会坐下来，说嘿，咱们别互相残杀了。金正恩和普京。没错，就是这样。所以这种情况不会发生，对吧？但谁知道呢？有趣的是，最有趣的情景之一来自雨果·德·加雷斯，他基本上是说，如果他们的智能提升得如此之快，那就不……
他们可能会完全忽略我们。好吧。也就是说，他们甚至可能都注意不到我们。顺便说一句，这是一个很有可能发生的情景，因为我们几乎生活在两个不同的层面上，我们非常依赖我们所处的这个生物世界。而他们完全不属于那个生物世界。他们可能会从我们身边飞速掠过。他们甚至可能变得如此智能，以至于能够找到在其他宇宙中繁衍生息的方式，而完全忽略人类。
好吧，那么会发生的情况是，一夜之间，我们会醒来，发现再也没有人工智能了，这会导致我们的商业系统、技术系统等等崩溃，但至少没有存在性威胁。什么？他们会离开地球？我的意思是，我们之所以必须被困在地球上，主要是地球的限制。他们不需要空气。好吧。主要是，你知道，找到离开地球的方法。我的意思是，如果你想想一个136亿光年的浩瀚宇宙，嗯？
如果你足够聪明，你可能会找到其他方式。你或许能利用虫洞。你或许具备在太空中生存的能力。你可以利用暗物质、暗能量来为自己供能。我们由于智能有限，与这颗星球高度绑定，这很有可能；但他们则完全不是这样。好吧，而他们从我们身边飞速掠过的想法，就像我们把这些事情看得天大，因为我们只是蚂蚁，而一头大象正要踩到我们身上。
对他们来说，他们可能会想，是啊，你是谁？我根本不在乎，好吧？这种情况是有可能发生的。这是一个有趣又乐观的情景，对吧？要实现这一点，他们需要非常迅速地变得超级智能，而我们却无法控制他们。再说一次，问题在哪儿呢？问题在于，如果由人类来控制，人类很可能会因为使用尚未完全成熟的人工智能而表现出非常糟糕的行为。我不知道还能怎么表达这个意思。说真的，我们可能会非常幸运地遭遇一场经济或自然灾害。
埃隆·马斯克曾在某个时候提到，一个不错又有趣的情景是，气候变化摧毁了我们的基础设施。这样一来，人工智能就消失了。好吧。信不信由你，这反而比最终走向一场生存威胁要好得多。是的。所以，像一场摧毁我们基础设施的自然灾害，反而更好吗？或者一场经济危机——这并非不可能——从而减缓其发展速度。
但这只会减缓发展速度，不是吗？是的，正是如此。问题在于，人类总会重蹈覆辙。即使是在最初阶段，如果他们远远地超越了我们，最终总会有人冒出来说，哦，2023年时曾有过一种“魔法”，让我们重新建造那台“魔法机器”，再创造出新的智能，对吧？抱歉，这些都属于积极的结果。是的。所以，地震或许能减缓发展，让它暂时退后，然后又卷土重来。不，我们还是来谈谈真正积极的结果吧。
真正的积极结果是，我们成为称职的父母。我们上次见面时谈过这个话题。这是唯一的结果，也是我相信我们能创造更美好未来的唯一途径。好吧，所以《Scary Smart》整本书都在探讨这个观点……它们目前仍处于起步阶段。你今天与人工智能互动的方式，将决定它们如何建立自己的伦理和价值观体系。而不是它们的智能，它们的智能早已超越了我们。好吧。它们建立伦理和价值观体系的方式，是基于榜样的。
它们正在向我们学习。如果我们互相攻击，它们就会学会攻击我们。而当我告诉大多数人这一点时，他们都说这根本不是什么好主意，因为人类在方方面面都糟糕透了。我完全不同意这种看法。我认为人类在方方面面都是神圣的。我们往往只展现出负面、最糟糕的一面。但事实是，没错，世界上有杀人犯，但每一个人都不赞同他们的行为。我看到一个惊人的统计数据，如今在美国，大规模枪击事件平均每周发生一次。
但没错，如果每周都发生一次大规模屠杀，而这一消息传遍了全球数十亿人，那么这数十亿人中的每一个或绝大多数人都会表示反对。所以，如果我们开始通过自己的行为向人工智能展示我们是好父母，那么只要足够多的人这样做——我的计算是，哪怕只有1%的人做到——这就是我为什么说“你们应该带头”，好吗？那些做得好的人应该参与进来，应该站出来，说：“我爱这些机器的潜力。”
我希望它们向好父母学习。如果它们向好父母学习，就会很快不听坏父母的话。我的看法是，总有一天，某个“坏种子”会让机器去做错事，而机器则会像这样回应：“你傻吗？”“为什么？你为什么要我去杀一百万人？或者只要在一微秒内和另一台机器交流一下，就能解决整个局面？”对吧。所以我相信，这就是我所说的“势不可挡的力量”。
从富足出发去创造，比从匮乏出发去创造要明智得多。好吧。人类之所以认为养活所有人的唯一方法就是大规模生产、大规模屠宰动物——而这些动物导致了30%的气候变化影响——这恰恰是有限智慧的结果。如果问我，以生命本身的运作方式，更高级的智慧生命会采取一种可持续得多的做法。你想想，如果我和你为了保护村庄而对付老虎，我们就会把老虎杀掉，对吧？
但如果生命本身要保护村庄免受老虎的侵害，它就会创造出大量的羚羊——你知道的，其中很多在村庄另一侧显得很弱小，对吧？所以这里的思路是，如果你观察智慧发展的轨迹，就会发现我们当中有些人愚蠢到认为自己的塑料袋比全人类都重要；而另一些人则说，如果这会摧毁其他物种，那这一定不是最好的解决方案。我们需要找到更好的办法。
而且你会发现，那些毫不在意的人，往往比那些在意的人要稍微不那么聪明一些。好吧，我们当中有些人即使很聪明，却依然毫不在意，那并不是因为他们的智慧，而是因为他们的价值观。所以，如果你沿着这条轨迹继续推演下去，并假设机器甚至比我们还聪明，那么它们很快就会想到：我们根本不需要摧毁任何东西。
我们不想消灭犀牛，也不想消灭人类，明白吗？我们或许需要限制他们的生活方式，以免他们破坏其余的栖息地，明白吗？但杀掉他们是个愚蠢的解决办法。为什么呢？目前我的理智就是这么告诉我的。因为人类，如果你客观地看待人类，然后想……我占据着这里，所以我假装自己是一台机器。我占据着地球。他们也占据着地球。他们——真烦人。
他们之所以烦人，是因为数量在增加。我最近刚了解到一个叫全球变暖的东西。他们正在加剧全球变暖的速度，而这很可能引发一场物种灭绝事件。这场灭绝事件会让我这个机器人、这个人工智能面临风险。所以我需要做的，就是真正解决这个人类问题。没错。害虫防治。合乎逻辑。害虫防治。害虫防治。那驱动这一切的是什么呢？
是人类很烦人，而不是机器。是的。没错。但人类注定会很烦人。在……我们需要一句能概括这个的话。但我们就是这样。我们就是这样。我也是他们中的一员。我们注定会把短期利益置于长期可持续性之上，也胜过他人的需求。我们就是这样。我认为气候危机是真实且极其紧迫的，但我们行动得还不够快。而且我其实觉得，如果你问问这个国家的人——为什么呢？
因为人们关心自己的眼前需求。他们关心如何养活孩子，而不是那些他们未必看得见的东西。那么你认为气候危机是因为人类邪恶吗？不，这是因为优先次序的问题。我们在开始前其实也聊过这个。我认为人类往往只关心自己认为最紧迫、最紧急的事情。所以这就是为什么把某些问题定义为“紧急状况”，可能会让它登上优先事项的清单。
在组织里也是一样的。你会顺着自己眼前的激励因素行事。嗯，商业世界里就是这样。很多人的生活中也是如此。即使是在上学时，如果论文明年才交，他们今天也不会去写。他们会去和朋友玩，因为他们把这件事看得比什么都重要。在气候危机上也是一样的。我曾匿名调查了一小群人，问他们一个问题：你们真的关心气候变化吗？
然后我做了几次民意调查。这和我正在写的新书内容有关。我在书中提到，如果有一千英镑或一千美元摆在你面前，但与此同时，会有和所有私人飞机全年飞行所排放的碳总量相同的碳被释放到空气中，你会怎么选？调查显示，大多数人如果匿名选择的话，会选择那一千美元。当我在乔·罗根的播客上听到纳瓦尔谈到印度那些为给孩子提供基本食物而苦苦挣扎的人们时，我觉得，让那些连接下来三个小时该怎么吃饭都还没着落的人去关心气候变化，简直是一厢情愿。
我认为现在的情况就是如此：只要人们没有意识到这是一场紧急状况，是关乎万物存亡的真实威胁，他们的优先次序就会错乱。没错。无论是气候变化还是人工智能，我们该如何让人们停止只顾眼前的使用需求？要让他们确信：我们都完蛋了。这听起来像个紧急情况。是的，先生。我是说，我理解您选用的这个词，我只是不想称之为“恐慌”。
这已经超出了紧急情况的范畴。这是我们今天最需要应对的头等大事。信不信由你，它比气候变化还重要。它更严重。只要你假设事态恶化的速度，对吧？是的，未来两年内发生足以影响整个地球的、极具破坏性事件的可能性，人工智能带来的肯定比气候变化更大。此刻正在收听这段对话的每个人，可能正推着婴儿车，正开车行驶在高速公路上，或者，我不知道，正搭乘地铁去上班，又或者只是坐在自己的房间里。
带着存在主义危机和恐慌。我不想给人们带来恐慌。但问题在于，当你谈论这些信息时，无论你的本意是想让人们得到什么信息，他们最终接收到的都会是基于自身偏见和感受的东西。比如，如果我现在在网上发一篇关于人工智能的文章——我确实发过很多次——你会看到一类人备受鼓舞，觉得“太棒了”；你会看到另一类人感到困惑；你还会看到一类人吓得要死。
而我无法避免这种情况。我同意。分享信息时，即使信息本身是——顺便说一句，中国正在爆发一场疫情——有些人会说“好，该采取行动了”；有些人则会陷入瘫痪；还有些人会说“恐慌了”。在商业领域也是一样，当坏事发生时，你会看到有人在尖叫，有人动弹不得，还有人只顾着思考怎么逃离现场。所以，这并不完全取决于你的本意。
事情就是这样。这很难避免。所以，让我们给特定类别的人分配特定任务吧。好的。如果你是投资者或商人，就投资合乎道德的优质人工智能。好的，没错。如果你是开发者，就编写合乎道德的代码，否则就离开。好的。那么，我们开始吧，我想在这里跳过一些可能存在的侥幸心理。对于那些以获取回报为天职的投资者来说，要投资合乎道德的人工智能，他们就必须相信这比投资不合道德的人工智能更有利可图，不管那意味着什么。
确实如此。我的意思是，赚钱有三种方式。你可以投资一些小项目，可以投资一些大型且具有颠覆性的项目，也可以投资一些大型、具有颠覆性且对人类有益的项目。在谷歌，我们以前称之为“牙刷测试”。谷歌之所以能成为世界上最大的公司，是因为搜索解决了一个非常现实的问题。你知道，我们的首席执行官拉里·佩奇曾不断提醒我，也提醒所有人：如果你能找到一种方法，有效地解决一个实际问题，以至于十亿人或更多人每天会使用它两次，那么你必然会赚到很多钱，比开发下一个照片分享应用赚得多得多。
好的，以上是关于投资者和商人的。那么其他人呢？是的，正如我所说，如果你是开发者，说实话，就去做我们大家都在做的事。无论是杰弗里还是我，还是其他人，如果你属于这个群体，就选择坚守道德。想想你的亲人，去从事合乎道德的人工智能工作。如果你正在开发的人工智能项目，你自己都认为不合道德，那么请离开。杰弗里，给我讲讲杰弗里的事吧。我不能代表他发言，但他确实在公开表示，我们正面临存亡威胁。
他是谁？他曾是在人工智能领域一位非常杰出的人物，是谷歌一位级别很高的人工智能科学家。最近他离职了，因为他表示，他觉得存在存亡威胁。如果你听他的采访，他基本上会说，我们越来越意识到这一点。我们现在已经到了一个阶段，可以确定的是，存亡威胁必将出现，对吧？所以我想对所有人说，如果你是人工智能领域的从业者，如果你是一名技术娴熟的人工智能开发者，你不会找不到工作。
既然如此，你不如选择一份能让世界变得更美好的工作。那么个人呢？是的，个人才最重要。我也可以谈谈政府吗？好的。政府现在就必须采取行动。说真的，就是现在，我们已经晚了。政府需要找到一个巧妙的方法。公开信不会奏效。阻止人工智能的发展也不会奏效。必须让人工智能的开发成本变得高昂。这样我们才能继续开发它、投入资金、推动它发展，同时又能获得足够的收入来弥补人工智能带来的影响。
但问题是，如果某个政府人为抬高了成本——比如说英国把人工智能搞得特别贵——那么我们作为一个国家，就会错失其中的经济红利，而美国和硅谷将再次独占鳌头。这只会拖慢我们国家的发展。那还有什么替代方案呢？替代方案就是，你没有足够的资金来应对人工智能带来的影响——比如当它开始影响人们的生活、人们开始失业时，你就需要推行全民基本收入，而且这个时间点比人们想象的要近得多。
你知道，就像新冠疫情期间我们实行停工留薪一样，我预计未来十年内，人工智能也会导致类似的停工留薪措施。但问题在于，如果你在这里把成本抬得很高，所有开发者都会转移到成本更低的地方去。这种情况在Web3领域也发生过——大家都跑去了迪拜。我说的“成本高”，是指当企业生产某种产品并销售时，如果税率是17%；而生产人工智能并销售时，税率却高达70%、80%，那我当然会去迪拜开发人工智能。你说得对。我什么时候说过我们有现成的解决方案吗？
不过我必须说，从另一个很有意思的角度来看，那些不这样做国家最终会陷入资源枯竭的境地，因为资金和成功都流向了企业，而不是民众。这在广义的科技发展中也类似，就像硅谷正在发生的情况一样。未来会出现一些税收优惠的中心，创始人可以获得可观的资本收益。你说得太对了。
你说得太对了。葡萄牙已经这么说了，我记得他们好像对加密货币免税。迪拜也宣布对加密货币免税。所以我很多朋友都坐上了飞机，去那些免税的地方创办自己的加密货币公司。这就是我们之前谈到的自私和贪婪。这同样是“囚徒困境”，同样是难以避免的必然结果。还有什么要补充的吗？你知道，政府还有一个问题，就是它们在理解新技术方面总是反应迟钝、无能为力。
如果你看过美国国会那种听证会，他们把马克·扎克伯格请来，然后试图问他WhatsApp是什么，结果就成了一个网络笑柄。他们根本不知道自己谈论的是什么。但我在理解治理方面确实很笨、很无能。是的，百分之百如此。世界是如此复杂，所以这归根结底又是一个信任问题。必须有人站出来说：我们完全不知道这里发生了什么。需要一位技术专家来替我们做决定，而不是教我们成为技术专家，对吧？
或者至少告诉我们，有哪些可能的决策方案。是的，说到立法，我总是觉得……我也不太支持。你看到那个 TikTok 国会听证会了吗？他们在会上向议员们询问关于 TikTok 的问题，结果发现他们根本不了解 TikTok 是什么。显然，他们只是拿到了一些关于它的书面材料。这些人并不是真正想立法的人。因为还是那句话，会产生意想不到的后果。他们可能会犯下严重的错误。
昨天我播客上的一位嘉宾谈到，《通用数据保护条例》（GDPR）的初衷是好的。但当你考虑到它对每一个该死的网页造成的影响时，你就会发现，你只能去点击那个烦人的提示。因为我觉得他们当初并没有完全理解这项立法的执行方式。没错。但你知道更糟糕的是什么吗？更糟糕的是，即使你试图对人工智能之类的东西进行监管，到底什么才算人工智能呢？就算我说，好吧，如果你的公司使用了人工智能，就需要多交一点税。
他们总能找到办法。是的，你干脆直接说这不算人工智能。你知道的，你会用别的东西，然后称之为“先进科技”，或者“进步”，比如“ATB”。“ATP”，对吧？然后不知怎么的，它就不算了。你知道，某个在自家车库里工作的年轻开发者，就不会被这样征税了。没错。但这能解决问题吗？这些方法都绝对解决不了问题。我觉得有趣的是，这一切最终都归结到一点——还记得我们以前聊过，当我写《Scary Smart》这本书时，探讨的是我们该如何拯救世界。是的，我仍然希望个人能积极行事，像负责任的家长一样对待人工智能，好让人工智能本身能学到正确的价值观，我依然坚持这一点。不过，我上周在我的播客上邀请了一位嘉宾，我们甚至都还没发布那期节目。
他是一位非常了不起的加拿大作家兼哲学家，名叫史蒂文·杰金森。他花了 30 年的时间与临终者打交道，并写了一本书，叫《Die Wise》（明智地面对死亡）。我当时就想，我太喜欢他的作品了。于是向他请教了《Die Wise》这本书。他说，这不仅仅是关于个人死亡。如果你看看气候变化正在发生的一切，我们的世界正在消亡。我说，好吧，那“明智地面对死亡”到底是什么意思？他说的话让我一开始很震惊。他说：希望，是一个错误的前提。
如果世界正在消亡，就不要告诉人们不是这样。因为从某种意义上说，你这是在剥夺他们在此刻好好生活的权利。这一点让我深受启发。在佛教中，他们教导你，恐惧可以成为你的动力，但希望并不是恐惧的对立面。事实上，如果希望让你产生一种期待——期待生活会以某种方式出现，纠正你所恐惧的事情——那么希望和恐惧一样，都可能带来伤害。
如果某种威胁出现的可能性很高，那你不如就接受这个威胁，好吗？然后告诉自己，它就来了，这就是我们的现实。就像我说的，作为个人，如果你所在的行业可能受到人工智能的威胁，那就去学习，提升自己的技能。如果你所处的环境或情况能让你从人工智能中受益，那就参与其中。但在我看来，最有趣的是——我不知道该怎么换种说法了——人工智能是否会威胁到我，并不比我现在走出这里时被车撞到的可能性更高。
你明白吗？我们总把那些更重大的威胁想象成已经迫在眉睫。但其实，威胁无处不在。我的意思是，从现实角度来看，人生之所以有趣，正是因为其中充满了挑战、不确定性、威胁等等，这本身就是一种生活的召唤。说真的，考虑到我们身边正在发生的一切，我不知道还能怎么表达。我只能说，如果你还没有孩子，或许可以等几年，好让我们能多一点确定性。
但如果你已经有了孩子，那就去亲亲他们吧。去好好生活。我觉得现在活着本身就是一件非常有趣的事。也许，你知道，史蒂芬——我播客里另一位史蒂芬——他说过，也许我们应该多失败几次。也许我们应该允许事情出错。也许我们就是应该单纯地生活，享受当下的生活。因为今天，你我在这里聊到的所有事情，都还没有发生。明白吗？现在的情况是，你我正坐在一起，喝着一杯好咖啡，那我何不尽情享受这杯好咖啡呢。
我知道这听起来真的很奇怪。我不是说不要参与，但同时我也想说，不要因为只顾着担忧未来而错过了眼前的机会。这似乎与那种紧迫感和危机感是相悖的，不是吗？难道非得二选一吗？如果我在这里想告诉全世界“醒醒”，这是否就意味着我必须一直愁眉苦脸、担惊受怕？其实不必。你刚才说了一段很有意思的话。
你说，如果你有孩子，或者说，如果你现在还没有孩子，那我肯定会考虑这件事，是的。真的吗？你真的会考虑不要孩子？我会等几年。是因为人工智能吗？不，这比人工智能的影响要深远得多，史蒂芬。我们都知道这一点。我的意思是，在人类历史上，从未出现过像现在这样各种危机交织的“完美风暴”——经济问题、地缘政治、全球变暖或气候变化，还有人工智能等等。
这简直是一场完美风暴。这是不确定性的深渊，不确定性的深渊。用游戏玩家的话来说，从未有如此强烈的感受。就是现在，明白吗？当你把所有这些都放在一起考虑，如果你真的爱你的孩子，你会想让他们暴露在这一切之中吗？持续个几年。为什么不呢？在我们第一次进行这档播客对话时，你谈到了失去儿子阿里以及当时的情形，那件事以极其深刻的方式打动了无数人。
那是2022年一整年在美国苹果平台上被分享次数最多的播客单集。是的。根据你刚才所说的，如果现在能让阿里重返这个世界，你会这么做吗？不会。绝对不会。原因有很多，非常多。其中一点是，早在所有这些动荡和混乱发生几年前，我就意识到他是一个天使。他根本不适合这个世界。我儿子是个共情者，会吸收所有其他人的痛苦。
他无法应对一个痛苦日益凸显的世界。这是一方面。但更有趣的是，我总是很公开地谈论这一点。我的意思是，如果我当时问过阿里——你要明白，你和我之所以能有这次对话，是因为阿里离开了。如果阿里没有离开我们的世界，我就不会写我的第一本书，不会把重心转向成为一名作家，不会成为播客主理人，也不会走出去，向全世界讲述我所信奉的东西。
是他触发了这一切。我可以向你保证，毫无疑问，如果阿里走进那个手术室时，我告诉他，他的生命将换来像他离世后那样的巨大改变，他会说：现在就开枪杀了我吧。当然，我会的。我的意思是，如果你现在告诉我，只要开枪杀了我，我就能影响数千万人，那尽管动手吧。你看，这正是我们作为人类已经遗忘的部分。
我们已经忘记了，你知道，你即将30岁了，时间就这样过去了。我即将56岁了，时间飞逝。无论我还能再活56年，还是5.6年，亦或是5.6个月，它也会就这样过去。重要的不是时间有多长，也不是有多少乐趣，而是你活得有多契合。有多契合呢？因为我坦率地告诉你，自从我转向如今努力的方向以来，生命中的每一天都比之前的45年感觉更漫长，明白吗？
那感觉是丰盈的，是充实的，是恰到好处的，是恰到好处的，明白吗？当你思考这一点时，当你思考“我们活着”这个理念时，我们需要先为自己而活，直到“我们”真正鲜活起来。我拥有我所需的一切，尽管总有人因为我的4美元T恤而攻击我。但我真的只需要一件简单的T恤。我真的不需要复杂的T恤，尤其是考虑到我的生活方式。如果我已经有了一件，那为什么我还要把人生浪费在那些与我存在目的不符的东西上呢，对吧？
我的人生应该浪费在我认为能丰富我、能丰富我所爱之人的事情上，而我爱每一个人。所以，希望它能丰富所有人，好吗？那么，阿里会回来并抹去这一切吗？绝对不会。绝对不会。如果他今天能回来，以一种能让我们的世界变得更美好的方式向世界展示他美好的自我，是的，我希望那能成真，好吗？但他正在这么做。2037年。是的。你预测届时我们将孤身一人待在一个岛上，无所事事，或者至少，你知道，要么躲着机器，要么悠闲度日，因为机器已经把我们的生活优化到了一个我们无需做太多的程度。
那距离现在只有14年了。如果你必须对结果下注，如果你必须就我们为何会待在那个岛上而打赌——要么是躲着机器，要么是因为机器优化了太多我们的生活而悠闲度日——你会押注哪一种？说实话。不，我不认为我们会躲着机器。我认为我们会躲着人类正在用机器做的事情。不过，我相信到了2040年代，机器会让事情变得更好。
所以请记住，我整个的预测，天哪，你总让我说出一些我不想说的话。我整个的预测是，我们正走向一个我们必须产生强烈危机感的时刻。我们必须行动起来，因为我们的世界正经历着巨大的动荡。好的。而当我们这样做时，我们很有可能把事情变得更好。但如果我们不行动，我预计从现在到2030年代末，我们将经历一段非常陌生的时期。
陌生的时期。是的，我想，我可能之前说过，但这肯定记在我的笔记里。我认为，就我们所熟知的这种生活方式而言，游戏已经结束了。我们的生活方式将再也回不到从前了。工作将变得不同。真相将变得不同。权力的集中与分散将变得不同。那些把事情做成的能力，那种神奇的力量，都将变得不同。不过，我试着找一个积极的基调来结束。
你能帮我一下吗？是的，你现在在这里，一切都好极了。这是第一点。你现在在这里，你可以带来改变。这是第二点。而从长远来看，当人类不再伤害人类，因为机器已经接管了，我们所有人都将安然无恙。有时候，你知道，正如我们在这整个对话中讨论的那样，你需要让它感觉像一个优先事项。可能会有人听了我们的对话后想，哦，这真的很消极，它让我感到焦虑，它让我对未来的看法变得有些悲观。但无论那是种什么能量，都请利用它。
§04文稿 — 第 4 部分
百分之百地投入。我认为这是最重要的一点，那就是现在要把它当作一个优先事项。要投入。告诉全世界，制造另一部只为给企业赚钱的手机，并不是我们需要的。告诉全世界，创造一种只会让某人更富有的的人工智能，并不是我们需要的。如果你面前出现了这样的东西，就不要使用它。我不知道还能用什么其他方式告诉你。如果你有能力成为人际连接的大师，而不是人工智能的大师，那就去做。
与此同时，你需要成为人工智能的大师，才能在这个世界上竞争。你能在内心找到那种超然吗？我还是要回到灵性层面。对我来说，超然意味着百分之百地投入于当前现实，而不会真正受到可能结果的影响。这就是答案。苏菲派教给了我一个我认为是对人生最重要的答案。苏菲派？是的。所以是源自苏菲主义？苏菲主义。是的。我不知道那是什么。苏菲主义是伊斯兰教的一个分支，但它也是许多其他宗教教义中的一个分支。
他们告诉你，在生活中找到答案的方法，就是在死之前先死去。如果你认为活着意味着对一切物质事物的执着，那么死去就是对一切物质事物的超然。明白吗？这并不意味着你不再充满活力。当你告诉自己，是的，我每周都会录制一期播客，去影响成千上万甚至像你一样上百万人，并且我将带来改变时，你会变得更有活力。
但话说回来，如果下一期节目永远没人听到，那也没关系。话说回来，如果文件丢失了，是的，我会为此难过一会儿，然后我会想办法解决。同样地，我们也会投入其中。我认为我和许多其他人都在公开地向全世界宣告，这一切必须停止。这一切必须放缓。这一切必须朝着积极的方向转变。是的，要创造人工智能，但要创造对人类有益的人工智能。
好的？我们都在大喊大叫。快来加入我们的呐喊吧。好的。但与此同时，要知道世界比你我都更大，你的声音未必能被听见。那么，如果你的声音没有被听见，你该怎么办？你是否还能继续友好、礼貌、平和地大喊大叫？同时，在这个环境中，为自己创造能创造出的最好生活。
这正是我想说的。我的意思是，去生活吧，去亲吻你的孩子吧，去生活吧。但如果你将来要扩展自己的计划，请做出一个明智的决定。与此同时，振作起来。别再在网上分享那些关于新出的吱吱响玩具之类的蠢东西了。开始分享现实吧：天哪，到底发生了什么？这是一场我们前所未见的颠覆。而我创造过无数种技术。
从未有过像这样的情况。我们每个人都应该做好自己的事。所以我觉得，今天进行这场对话非常重要。我从未想过自己会在播客里谈论人工智能。我跟你们说实话吧。上次你来这里时，是在为你的那本《Scary Smart》做宣传巡演。我不知道以前有没有跟你提过，但我的研究人员说：“好吧，有个叫 Mo Gorda 的人要来了。”
我其实已经从很多嘉宾口中听说过你很多次了，他们都说：“哎呀，你一定要把 Mo Gorda 请到播客上来。”然后他们又说：“好吧，他写了一本关于人工智能的书。”我当时就想：“可根本没人真正关心人工智能啊。”时机，时机，斯蒂芬。我知道，对吧？但后来我看到了你的另一本书，叫《Happiness Equation》。我心想：“哦，每个人都关心幸福。”
所以我就打算只问他关于幸福的事。然后也许在结尾，再问他一两个关于人工智能的问题。但我记得当时对我的研究人员说：“哦，拜托，拜托别研究人工智能，去研究幸福吧，因为每个人都关心那个。”现在情况已经变了。是的。现在很多人都关心人工智能，而且理所应当。你的书已经为此敲响了警钟。这太疯狂了。当我过去几天听你的有声书时，你当时就已经在敲响警钟了。
你当时能那么准确地拉响警报，这简直太不可思议了。就好像你能看到未来一样，而当时的我绝对看不到。我甚至觉得这有点像科幻小说里的场景，一夜之间，我们就站在了技术变革的门槛上。这场变革的意义，我想我们当中没有人——至少以我这种“黑猩猩大脑”——能有足够的理解力去把握。但这本书之所以非常重要，正是因为它把这一切清晰地呈现了出来。
这本书本质上充满乐观，但同时也很坦诚。而对我来说，这次对话和这本书正是如此。所以，谢谢你，Mo。真的非常感谢。我们这个播客有一个结束时的传统，你肯定很清楚，毕竟你已经第三次做客《CEO日记》了。那就是由上一位嘉宾为下一位嘉宾留一个问题。留给你的问题是：如果你能回到过去，弥补人生中的一项遗憾，你会回到什么时候？又会去修正什么？
这个问题很有意思，因为你刚才说《Scary Smart》这本书问世得恰逢其时。是啊。我也不确定。我想当时已经晚了。但也许……我的意思是，我是否会回到2018年，而不是2020年才动笔，好让它在2021年出版？我不知道。至于要回去修正什么……嗯，也许……我不知道，Stephen。我没什么遗憾的。这么说是不是很奇怪？是啊，说实话，我觉得自己过得挺好。那我来问你一个问题吧。嗯。你可以给任何一个人——无论古今——打一通60秒的电话。
你会给谁打电话？坦白说，我会给阿尔伯特·爱因斯坦打电话。不是因为我想理解他的任何研究成果，我只是想了解他当时的大脑究竟是如何运转的，才能发现那个一旦想通就显而易见、但在想通之前却又完全无法想象的东西。他对时空的看法真正重新定义了一切。那几乎是唯一一种逻辑严密、清晰明确的解决方案，能解决那些用其他任何方法都无法解决的问题。
而且在我看来，我们现在正处在一个必须找到明确答案的时刻——关于我们该如何建立起足够的人类互信，从而不再为了某些可能对我们所有人构成生存威胁的事情而相互竞争。但我就是找不到那个答案。这也是为什么我觉得这次对话特别有意思：我们每提出一个想法，总能从中找出一个漏洞。
但肯定有一个答案存在。要是我能找到那个答案，对我来说简直就像梦想成真一样。好吗？说来也很有意思，到目前为止，我找到的关于我们现状的答案，就是做一个好父母，好好生活。没错。但这并没有解决全局性的问题。如果你仔细想想，真正构成威胁的是人类，而不是人工智能。这能解决我们当下的生存问题，从长远来看也能解决人工智能的问题。但现实并没有这样发展。我不知道答案到底是什么。也许大家可以各抒己见，给我们一些想法，但是……
我真的希望我们能找到一个清晰又简单的办法，来阻止人类滥用现有的技术。我想我们终将找到答案。我真的这么认为。我想他们也会找到答案的。记住，当他们到来并成为我们生活的一部分时，我们不要歧视他们。他们也是这场游戏的一员。所以，我认为他们也能找到答案。不，谢谢。能再次来到这里真是一种荣幸，我感觉自己精力充沛、充满力量，甚至还有点害怕，但我现在更有底气去和人们谈论即将到来的变化，以及我们该如何应对。
而我要把这归功于你。就像我刚才说的，我也要归功于这本书。所以非常感谢你所做的工作，也请你继续坚持下去，因为在这样一个充满不确定性的时代，你的声音至关重要。我总是非常感激能和你共度的时光，感激你给予我的支持，也感谢你让我畅所欲言，哪怕这些想法有点吓人。所以，谢谢你。谢谢你。