Nick Bostrom: 尼克·博斯特罗姆

乔·罗根开场回忆两人大约五六年前的对谈，把当时的话题概括为博斯特罗姆解释模拟理论，以及现实处于模拟中的概率超过一半。这是罗根在开场的回顾，不能直接认作博斯特罗姆此刻给出的个人概率判断，也不是对正式模拟论证的完整表述。博斯特罗姆指出，那之后发生了很多事，他甚至不确定当时有没有聊到 AI。他说 AI “大概稍微提到了一点”，但那时它还不是笼罩在文明之上的东西。罗根觉得这种速度令人惊叹：大约六年间，一项新技术已经“深度缠绕进社会的方方面面”。他把它比作互联网：互联网也是悄悄逼近人们，直到大家干脆接受了它。（文字稿没有标注说话人，因此这里的归属是根据上下文推断的。）

博斯特罗姆说，正在发生的事情太多了，“光是关注局势就差不多是一份全职工作”。他还认为节奏正在加快。他说，对业内人士而言，大约每隔几周就有一个新模型问世。他打了个比方：就像给一场录播格斗配解说，第一回合按正常速度播放，第二回合是 2 倍速，第三回合是 4 倍速。

“然后就只剩下一团飞速旋转的胳膊和腿。”

罗根把他听到的乐观论点摆了出来：繁荣到再也没有人需要辛苦劳作，不再有第三世界国家，贫困终结，食物和住房变得“轻松又免费”。在那幅图景里，剩下的问题就是寻找人生目标。罗根说他很喜欢埃隆·马斯克，但对这种观点的来源心存警惕。照他的说法，持这种观点的人，包括马克·安德森在内，都在 AI 上投入巨资，并将从中获利。他说，当他眼中更客观的分析者，比如博斯特罗姆，听起来也很乐观时，他会“更兴奋一点”。

博斯特罗姆没有接下这份认可。他以不确定性作答：

“事实是我们并不知道，对吧，事情最终会如何发展。”

博斯特罗姆把成功的情景描述为一种“水涨船高、惠及所有人”的局面。机器能做人类能做的一切，无论体力还是脑力，而且“好得多也便宜得多”，人类的工作沦为一种不合时宜的旧事物。他认为，在真正行得通的情景中，这种变化远比大多数讨论所设想的更深刻。他把讨论分成几个层次：

最表层的问题：如果 AI 取代了我，我去哪里找工作？ | 表层的答案：让工人接受其他领域的再培训，或许在再培训期间提供类似就业保险的保障（博斯特罗姆对这个建议补了一句“我不知道”）。 | 更深一层的认识：这不只是少数几份工作，而是“在相当近似的程度上”人类能做的一切。 | 最深刻的一层：意义与目标的问题，以及在“技术成熟”状态下人的一生会是什么样子。

他唯一一个带有保留的例外，是消费者直接偏好由人来做的工作。他举了三个“可能会留存下来”的例子：

“比如牧师、妓女和政客。”

罗根希望 AI 能够“毫无腐败地”处理政治事务。有人回应说，总还是会有人出来邀功，这一点得到了认同。

罗根问，什么才算体验？它必须是你能触摸、测量和称重的东西吗？还是说，一种充实而令人满足的虚拟生活就足够了？他认为，如果技术持续发展，“黑客帝国式的现实”显然是一种可能。博斯特罗姆的回答是“萝卜青菜，各有所爱”。他预计虚拟世界会“非常丰富、深邃而迷人”，但认为仍会有人想去攀登真实的珠穆朗玛峰。

罗根设想的最坏情况是，人们被“锁在常规现实之外”。AI 满足人们的需求、运转社会的每一个部分，于是娱乐成了唯一剩下可做的事。接着，一种比现实本身更令人满足的娱乐形式出现了。他的证据是手机：手机“甚至没那么刺激”，却“极其容易上瘾”，他说人们每天要在上面花六个小时。他预测，如果出现一种比现实生活刺激得多的虚拟现实，“所有人都会跳进去”。

博斯特罗姆认为，抽离现实并不需要虚拟世界。他设想度假村里的人整天躺在沙滩椅上喝酒，这也是一种抽离。罗根说那并不令人满足，并指出虚拟现实不必遵循我们的物理规律，所以你可以飞。对话将其描述为“一个更大的可能性空间”。博斯特罗姆列出了其中的范围：在物理现实中过一种被动的生活，玩一场需要调动“每一根神经”去争取成功的激烈游戏，或者像“处于类似药物作用的状态”那样漂浮在云上。

罗根怀疑人们会想要那些被动的版本。在他看来，热门电子游戏起到的是对刺激现实的一种近似：玩家忘掉屏幕，专注于一个三维世界，在其中“端着机枪或者别的什么”奔跑。没有人想玩一个在地球上空漂浮、吃香蕉的游戏。休息过后，博斯特罗姆指出，确实有一些游戏提供被动、放空式的体验。罗根说，大多数人还是更喜欢《使命召唤》、第一人称射击游戏、科幻游戏或《半条命》。博斯特罗姆把这种差异归结为性格。

随后，博斯特罗姆提出了本期节目中最具推测性的论点。他说，如今人们的选择取决于他们“被设计成会对什么产生愉悦反应”。他把技术成熟定义为：一个未来文明已将所有可能的技术发展到极致。这样的文明不仅能控制外部环境，还能控制自身的生物机能和大脑。

一个目前只能从“喝得烂醉”或者自己并不真正认同的事情中获得乐趣的人，可以重新设计自己，在做别的事情时感受到同样的愉悦。博斯特罗姆举的例子是：沉思宇宙之美，欣赏“他人内心的善良”，或者去解抽象数学题，而不是玩第一人称射击游戏。他把这表述为人们将拥有的一种选择，而不是必须去做的事。

罗根以一个关于人性的问题提出反驳。他提出，我们也许需要犯罪才能珍惜和平，需要战争才能珍惜和平，需要恨才能珍惜爱。这两面“总是相伴而生，处于持续的冲突之中”，而这种挣扎正是身为人的一部分。他把人类描述为“这种非常奇怪的、有领地意识的灵长类动物”，而且“永无止境地好奇”。他说，统计数据显示，几千年来这个物种一直朝更好的方向发展，暴力更少，医疗和教育更好，而挣扎是“它之所以前进的部分原因”。

他担心，消除挣扎会把我们变成“另一种东西”。他还指出，人们所热爱的音乐、艺术和小说都诞生于“困惑、痛苦、心碎、爱与喜悦”。如果技术的发展速度持续超过人体生理条件的演变速度，他问人类和机器是否会融合，并给出了自己的看法：

“瓶颈将会是人类的生物机体。”

博斯特罗姆用他所说的一个悖论来回应：

“我们为取得进步所做的努力之中，内嵌着一种悖论。”

科学家、技术专家，以及试图让某个流程稍微更高效一点的公司，都在努力解决问题。顺着这项工作推到逻辑终点，指向的是完美的技术（大概就是 AI 和自动化），它解决一切问题，“留给我们的事情就差不多什么都不剩了，你可能会这么想”。博斯特罗姆说，在很多人看来，这个终点会显得“有点令人难以接受”。即便如此，他说，这似乎正是我们前进的方向，而且“很可能是我们应该前进的方向”。

罗根问，零谋杀、零暴力、零犯罪、零谎言、零腐败，人们和谐共事，难道不是一个更好的目标吗？博斯特罗姆表示同意（“我认为是”），但坚持认为这幅图景带有“略微令人难以接受的特质”，因为它可能显得平淡乏味。罗根不同意：只有拿当下生活的刺激和不确定性来衡量，它才显得平淡；在当下，好的东西是在坏的东西衬托下才显得突出。用他的话说，你是在跟“一帮他妈的混蛋”相处过之后，才会珍惜好人。他补充说，事情“不必是这样的”。

罗根把同样的推理用到工作上。他问，人究竟是否必须有一份工作：“那难道不是人类的发明吗？”他认为，大多数人，尤其是那些靠一份份薪水勉强度日的人，工作主要是为了住房和食物。如果这种压力消失，他认为会有足够多的人想清楚该怎样利用自己的时间。博斯特罗姆表示同意，两人预计会出现“一些过渡期以及变化带来的不适”。

接下来这句话似乎出自博斯特罗姆，不过文字稿没有标注说话人。它把这一点与奴隶制联系了起来：

“雇佣劳动在某种意义上算是一种，你知道的，轻度奴隶制。你不得不出卖清醒时间的三分之一，只为挣钱支付生活必需品。”

罗根说，追求利润最大化的雇主会把工作条件弄得“尽可能糟糕”，因为这样成本最低，背后的驱动力是股东以及每个季度都要增长的要求。博斯特罗姆给出了一个部分的反驳：公司有时会善待员工，以便争夺人才。罗根回答说，这只适用于顶尖人才，所以 CEO 们“把钱都拿走了”，而流水线工人却拿不到。他把自己的制作人杰米（“名副其实的这档节目的另一位搭档”）与给亚马逊码放箱子的人做了对比。

博斯特罗姆的结论是，摆脱被迫劳动将是“一次巨大的解放”，能够“恢复尊严”。他说，除了自己的身体之外，你自己的时间和注意力就是你应该掌控的东西。罗根补充了一个前提：需要教会人们自律，因为灵长类动物一旦有机会什么都不做，就会什么都不做。他把这解释为一种进化而来的倾向：在食物匮乏时节约资源。他警告说，如果没有能赋予人们目标的事物，人们会陷入抑郁。随后节目切入 Visible Wireless 的赞助口播，广告称其基于威瑞森（Verizon）网络提供无限 5G 流量和热点，每月 25 美元起，使用优惠码 Rogan 可享 Visible+ Pro 套餐首月减免 10 美元。

这一部分对话从一种关于无需工作的生活的历史模型开始。一位说话人描述了“传统观念，比如英国贵族”：为谋生而工作“对许多人来说是一种不幸的必要”，但理想状态是本来就有钱，把时间花在政治、艺术收藏、园艺或招待朋友上。这位说话人补充说，这是“它最好的一面”，表明这幅图景是有所取舍的。文字稿没有标注说话人，因此这里的归属依据的是文本本身能明确看出的内容。

主持人立刻提出反驳。主持人一想到英国贵族，想到的就是一帮“废物”：喝醉的继承人把法拉利开进湖里，意外淹死一个朋友，然后花钱摆平警察。另一位说话人接受了这一点（“嗯，是的，确实有那种情况”），但指出还有第二种类型：业余科学家或怪人，他们“有自己那套怪爱好，并一直坚持钻研下去”。随后两人在一定程度上达成了共识。一方提出，更多的自由往往会“暴露出他们的真实本性”。另一方则认为，结果取决于成长环境：父母是谁，灌输了什么样的价值观，以及孩子们是否被教导辛勤工作“其实对你有好处”，专注于一件你想做的事“其实非常令人满足”。

在成长环境这一点的基础上，一位说话人认为，在一个人们“不再需要工作”的世界里，教育“基本上需要从头重新设计”。这位说话人把当今的教育体系描述为“一种机器”：孩子们“在传送带上”被送进来，坐在课桌前完成分配的课堂任务，然后“贴着质量标签出厂”，准备好成为高效的上班族。这被表述为当下的必要之举，而不是道德上的失败。如今世界需要大量办公室职员，所以这套体系必须存在，“直到不再需要为止”，而到了那时还继续维持它“将是荒谬的”。

“你要学会过好一种闲暇的生活。”

所提议的替代课程旨在教人“学会过好一种闲暇的生活”。其中列出了谈话的艺术、对艺术和音乐的欣赏、业余爱好、身体健康、自然、为自己设定目标并主动行动的能力、发展真正的友谊，以及灵性。这位说话人指出：“这些东西学校里都不教。”其目标是帮助人们把自己的自由、财富和空闲时间用于“真正有意义且美好的活动”。