David Pearce: 超人类主义：生物技术如何消除痛苦 - 戴维·皮尔斯 - #076
Transhumanism; How Biotechnology Can Eradicate Suffering - David Pearce - #076
嘉宾：David Pearce
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
本篇目录1 章节
§01转录稿§01转录稿
朋友们好，欢迎回到 Modern Wisdom 播客。今天的嘉宾是 David Pearce。我们要聊的是超人类主义的一切——这里说的不是人们改变性别那类话题，而是要探讨一些我一直很想深入钻研的、非常令人兴奋的领域。所以今天，你可以期待听到：为什么任何形式的痛苦都只是一种产物——它或许对我们的祖先有用，却是我们需要尽快超越的东西；以及 David 为什么认为人类不仅应该、而且必须朝着更享乐的
律令迈进。意识的困难问题，以及为什么我们大概不会在短期内把大脑上传到计算机里。还有关于 CRISPR 和基因编辑整体影响的大量有趣讨论。我们涉及了很多我本应了解得更透彻的话题，因为它们影响巨大，而且对当下社会来说也相当切近。不过，我真的很喜欢这场对话。David 是超人类主义运动中极为重要的人物，能请他来给我们讲这些，我感到非常荣幸。
最具代表性的人物之一。那么，不再多说了，请欢迎 David Pearce。女士们先生们，欢迎回来。今天和我坐在一起的是 David Pearce。David，欢迎来到节目。嗨 Chris，很高兴和你在一起。非常高兴你今天能来。也很高兴听到一个熟悉的口音。我们今天要聊超人类主义。对很多听众来说，这会是一片新领域。那我们就从定义开始吧。你能告诉我们，超人类主义是什么吗？嗯，它没有神圣经典，但非常简单地说，我有时会谈超人类主义的三个「超级」。超级智能——这是说，我们有可能大幅放大我们自身的智能和机器智能，而实现的方式各有不同。对于后人类超级智能有不同的构想，但这是三个「超级」之一。
然后是超级长寿。这个想法是：并不存在一条不可更改的自然法则，规定生物机器人必然会衰老、死去；机器人可以被无限次修理，而超人类主义者相信激进的寿命延长、无限的青春，并以人体冷冻作为后备，甚至可能是冷冻安乐死——这是给那些上了年纪、觉得自己现实中大概等不到那一天的听众准备的。第三个「超级」，也是我最关注的，是超级幸福，或者说超级福祉。这个想法是：我们有可能用完全建立在智能福祉梯度之上的生命，去替换痛苦、悲惨与受苦的生物学。这是要替换受苦的生物学，不只是人类的，长期来看还包括
整个动物界，乃至整个生命世界。除了这三个「超级」，还有很多超人类主义者想再加上第四个「超级」。他们对那是什么并没有共识。比如，超级共情怎么样？但我会论证，任何足够丰富的超级智能概念都已经包含了它——一个完整的超级智能谱系不会只是拥有爆表的智商，它还会拥有超人的换位思考与共情理解能力。所以，简而言之就是这样。太棒了，我想这已经算是概括超人类主义运动的一种方式了——这可不是个小任务。有意思的是，我最近请了 David Sinclair 教授来，
你也许知道他。对，是的，没错。是的，我不久前请他来聊过他正在做的前沿长寿研究，在那次对话中我问他：你觉得人类能活一千年吗？他简短的回答是：能。所以很有意思的是，来自多个领域的人——非常不同的领域，来自遗传学和基因编辑的，来自这种长寿
研究的，再加上你这一边——都指向了相似的方向。是的，就是这样。我想很多人从心理上会直接关掉，如果有人对他们说：瞧，你的孙辈不会老死，但你会。告诉别人科学很快就能找到治愈衰老的办法——而这个「很快」是在你死之后——这件事总是很残酷。而且我知道，和大多数超人类主义者不同，我算不上是那种天生乐观的人；但尽管如此，就像我说的，除了支持抗衰老技术的研究，超人类主义中超级长寿这一面还有一条线索，聚焦于人体冷冻，甚至冷冻安乐死。请给我们解释一下这两个术语？本质上——抱歉，我应该说，这个想法是：如果你被置于最理想的
条件下保存，那么只要没有发生不可逆的信息丢失，就有可能在未来的某个时间点把你复活，那时导致你死亡的那个问题已经有了解法。现在，从技术上讲，要摧毁信息是极其困难的。有些物理学家会说那是不可能的。但尽管如此，我会说有一个很大的未知数：那些被冷冻了很长时间的人——所谓很长时间，我指的是在名义死亡之后数小时——是否还能被复活；在实践中，退化可能已经太严重了；但原则上，无
论如何，你可以采用类似冷冻安乐死这样的做法：与其等到你 95 岁、老糊涂了，不如趁自己还在生命的鼎盛期就把自己冷冻起来。这还没有人做过，但这会是一种可能的选项。这听起来非常像我刚快读完的一本书。你读过阿德里安·柴可夫斯基的《时间之子》吗？我得说，我已经很多很多年没读过小说了。那真不错。它是 2016 年阿瑟·克拉克奖的得主，而且那一年还是该奖的三十周年。所以这个奖颁给了一本很棒的书。书里有些人在休眠与苏醒之间来回穿梭，这些漫长的睡眠是为了跨越不同星系之间巨大的银河距离之类的。他们就那样进进出出，
像洗个澡一样随意。但听起来那项技术还差得远。那我们转到你特别擅长的领域，你刚才在说超级幸福。是的，再一次，这只是一个口号，但没错。如果你把今天的享乐范围想象成从负 10 到零再到正 10，负 10 是绝望的谷底、无法忍受的极度痛苦，享乐零点是不带情绪的中性体验，正 10 是你一生中最美好的巅峰体验。想象一下，如果有可能设计出一个文明，让它的范围从正 70 延伸到正 100。如果这听起来太像科幻小说，那也很可能确实如此。
而我认为，在道德上紧迫得多的是聚焦于那些低于零的状态——它们今天困扰着如此多的生命。遗憾的是，自然选择并没有把我们优化成快乐的，它把我们优化成留下更多基因拷贝的——进化生物学家喜欢说，是最大化我们 inclusive genetic fitness（广义适合度）。而且，并没有真正有说服力的科学证据表明，我们平均而言比在非洲稀树草原上时更快乐或更悲伤、更满足或更不满足
——这非常反直觉。但没错，享乐跑步机就是被设计来让我们在很多时候保持不满足的，本质上因为这对我们的基因有好处。而如果我们真的在伦理上认真地想消除痛苦与受苦，我们就必须处理它的遗传、生物学根源。我的意思是，这听起来可能像粗糙的基因决定论。在实践中，人们需要双轨并进：从基本收入到像样的住房、医疗保健，到目前为止所有那些环境层面的临时补丁，是的；但如果我们想要真正摆脱抑郁、焦虑障碍这些恐怖的东西——这些其实都是达尔文式生命里那些难看的方面——我们就必须
编辑我们的基因源代码。而我认为我们该做的第一件事也许是：对于现在的准父母来说，是要来一场基因上的掷骰子游戏——记住，今天出生的每一个孩子都是一次独特的、未经检验的基因实验——还是要试着为后代把基因的骰子做点手脚，给他们一个较高的享乐设定点、较高的痛阈，以及诸如此类的特质。现在我认为确实存在真正的伦理问题：一个人是否真的想给这个世界带来更多的痛苦与受苦；但考虑到大多数人都想要孩子，我认为能做的最好的事就是敦促他们：首先，考虑胚胎植入前遗传学筛查，以及不久之后的 CRISPR 基因组编辑。
是的，我今天早些时候刚在 Joe Rogan 的节目里听了 Jamie Metzl。你认识 Jamie 吗，你听说过他的工作吗？是的，是的。所以我在听那两位交锋，很多这类话题都出现了。我觉得 CRISPR 目前因为其带来的伦理问题而成了一个热门话题。但 Jamie 提出了一个很有意思的观点，他说，他认为未来那些可能选择生物生育——典型意义上的生物生育——的父母，也许会被看作是不负责任的，就像现在不给孩子接种疫苗的父母一样；也就是说，如果你有选择，可以通过 IVF 或它的某种高级版本
——那是什么呢，胚胎筛选？胚胎植入前遗传学筛查。这和真正的基因组编辑不是一回事，很多人认为后者更激进。它只是挑选大自然随机抛出来的东西。但归根到底，这是一种虚假的区分。是的，我认为这是个很好的类比。在历史的大部分时间里，是的，人只能信赖大自然、上帝、命运、天意之类。但越来越地，这将成为负责任父母的事：负责任的父母将会去选择他们未来后代的基因构成与特质；而选择压力本身的性质也会改变。自然选择、性选择，它是盲目的，建立在随机的基因变异之上；而随着生殖革命展开，我认为将会出现一种选择压力，偏向于建立在
福祉梯度之上的生命。嗯，这显然是推测性的。是的，有意思。我确信很多听众会和我想到一样的事：对于这种选择性生育，我有一种非常奇怪的、发自内脏的反应，它制造出不安的感觉，而我搞不清为什么。而且在这方面我算是相当超前的。我觉得技术进步的兴奋感大概超过一切，兴奋多过恐惧，大概吧。所以，即使是我，对这件事也有某种感觉。但你可以画出类比：如果你在一千年前告诉人们，你能够飞越大洋；或者你在五千年前告诉人们，
你能够打一针，就让他们不再死于那些一直在杀死他们和家人的东西；或者你吃一颗药，就不会再感到恶心。所有这些事情在当时都会被觉得，或者说会被认为是不自然的。这只是又一个前沿，还是说我们正在走向的这个运动真的有什么不同
之处？嗯，这一次是不同的，但每一次都是如此。任何正在想所有可能出错的环节的听众——我认为这是一种健康的怀疑：是的，需要做详尽的风险与回报分析，把所有能想象到的出错情形都想一遍。我的意思是，不可避免地会有很多人把它和优生学、第三帝国的种族卫生联系起来。其他人会说《美丽新世界》。另一个原因是，当我们试着想象未来时，有大量神经科学证据表明，我们其实是在调用记忆，而我们调用的记忆本质上是科幻——往往是我们小时候读的科幻，是那些半消化了的记忆，从
《千钧一发》到超级智能情形下的「天网」。所以，是的，就像我说的，我非常同情任何持怀疑、悲观态度的人；但尽管如此，如果我们要摆脱那无数——如果我们要摆脱这个世界上可怕的受苦重负，我们就必须在它的遗传源头上处理它。本质上，演化把我们设计成在很多时候不快乐、不满足。而除非我们真的去修改我们的基因源代码，否则这个世界上就会无限期地存在令人发指的悲惨与受苦。你会不会有时感到惊讶：考虑到我们的基因倾向，我们竟然还能过上
我们现在这种程度的幸福生活？是的，有时候会。我的意思是，就是这样。大自然似乎只是随手拨弄了一下那些旋钮；而遗憾的是，有相当大比例的少数人承受着长期的悲惨、痛苦、抑郁。同样，也有天性乐观的人，甚至有极端的基因离群者，他们一生大部分时间都极其快乐。这某种程度上就是一种存在性证明：天性极度快乐是一种高风险、高回报的配置——一个人如果天性快乐外向，就更可能走出去做事、探索世界、承担风险等等。
如果你情绪低落，你更可能低着头不声张。这是一种低风险、低回报的配置。我的意思是，这是非常粗糙的二分法。是的。但没错，大多数人总体上还是热爱生活的。我的意思是，鉴于我自己相当阴郁、偏抑郁的性情，我可能会把生命本身看作某种有感知的恶意软件，但这是极少数派的立场。而且，人不必是佛教徒或负效用主义者，才能相信我们应该致力于防止和减少不必要的受苦。而看起来相当反直觉的是这个想法：一切受苦、一切低于享乐零点的体验，都将在技术上变成可选的。就是这样。
人的一生中有时会受苦，但只是有时——有时它是有教益、有价值的。但关键要问的是：它在功能上是否不可或缺？而随着硅基机器人、机器智能、AI 在越来越多的认知领域逐步超越人类，却没有那些讨厌而原始的痛感与受苦，我想我们就必须正视一个事实：受苦只是达尔文式生命一个可怕的实现细节，我们应该转而采用一套更文明的信号系统。是的，它就是这样一种奇怪地搭便车而来的产物，对吧？
所以，我想聊聊享乐主义律令和废除主义计划，这两者你都是大力倡导者。你能给听众解释一下它们是什么吗？好的，享乐主义律令是我 1995 年写的一份网络宣言的名字。为什么叫享乐主义律令？嗯，我其实很想把它叫做「利用生物技术在整个生命世界逐步淘汰受苦的道德律令」。但当然不行，我们需要一个简短好记的名字。David，我觉得这方面你的营销做得更好。我觉得「享乐主义律令」效果更好，是的。我的意思是，它并不理想，因为享乐主义会听起来有点浅薄、不道德。我想到的是伍德斯托克音乐节，你不觉得吗？是的。而与此同时，我确实认为消除受苦有着迫切的道德紧迫性。但简而言之，是的，这个名字给出了要点。
废除主义计划说的其实就是：通过生物技术消除人类与非人类动物的受苦。至于在这之外还要走多远？是的，虽然我个人是负效用主义者，我认为压倒一切的义务是消除受苦，其余的一切都只是蛋糕上的糖霜。不过，是的，我确实预见到一个文明，那里最黯淡的日子也比今天的高峰体验更丰富。但这在大多数人看来大概像科幻小说。
而且，如果面对的是天性更务实的人，是的，我会更多强调受苦这个问题。我明白。那么，进入实际操作层面，可以说，我们该如何开始做这件事？所提议策略的起点是什么？从现在开始的下一步，然后长期来看会把我们带到哪里，比如真正的遥远未来？嗯，很多未来学都是由外推构成的，而外推是危险的。遗憾的是，虽然我们才刚刚开始——你知道，首批 CRISPR 婴儿，如果你想到那桩丑闻，那位中国研究者据称是在未获授权的情况下做的。
从当下说起吧。是啊，不过我想的更多是这项技术的现状。我们现在知道，那位研究者不仅让孩子获得了对 HIV 的抵抗力，而且——似乎纯属无意——记忆和智力可能也被增强了，涉及认知增强的基因也被改动了。我个人相当怀疑这只是疏忽。是啊，嗯，是的。所以，我的意思是，话虽如此，是的，我们正开始锁定与情绪低落、疼痛敏感相关的具体基因和特定等位基因组合。甚至在今天，如果我们伦理上是认真的，就有可能通过胚胎植入前
遗传学筛查，或者 CRISPR 基因组编辑来选择，确保你的孩子拥有，比如说，一个极高的痛阈。那为什么不干脆把痛感彻底抹掉呢？嗯，也许有一天，凭借智能假体，或者干脆是极乐梯度，是有可能做到的；但就目前而言，即便把科幻放在一边，如果你给孩子一个，比如说，良性版本的
SCN9A 基因。SCN9A 是一个调控疼痛的基因，它有几十种不同的等位基因、不同的变体；无义突变会让人完全丧失感受疼痛的能力，而其他突变则会带来高或低的疼痛敏感性。通过这样做，你基本上就能确保……如果你见过今天那些极端个案——他们会说疼痛只是一种信号——当然，这需要谨慎处理：比如，痛阈极高的人会不会对别人的困境缺少足够的共情？这是需要考虑的。但在其他条件相同的情况下，人都想给孩子一个高痛阈。我认为另一个值得关注的特质是享乐设定点。享乐设定点是指大多数人在一生中倾向于围绕波动的那个大致幸福或不幸福水平；有些人有一个高的
享乐设定点，另一些人则低。虽然没法指出某一个起决定作用的基因，但确实有一小批基因——更确切地说，是一些特定的等位基因——与拥有高享乐设定点相关。那我们是否要确保我们未来的孩子拥有这个高的享乐设定点，还是继续今天的基因掷骰子游戏？而我认为这种基因掷骰子是不道德的。当然，除了孩子之外，我们大多数人也想让自己感觉更好。是的，当然，设计药物、情绪提亮剂、促智药。那里有若干可能的干预手段；但冒着听起来很无聊、很保守的风险，考虑到我们无知的程度，
我还是相信——希望不会有人写信问我推荐什么药丸——至少在最初，远不如聚焦于这个三位一体：良好的睡眠纪律、最适度的有氧运动，以及饮食、良好的营养。这听起来相当无聊，但很少有人真正做到这些最适状态。但显然也有药理学干预。对。这里有几点。首先，你最后提到的那点，关于人们似乎认为一个非常复杂的问题必须有一个非常花哨的解法。我们常谈到人们
去滥用促智药或咖啡因，想借此变得更高效，而他们其实根本无法做深度工作，也无法在一个任务上专注十分钟。他们不懂得如何做任务管理，不懂得如何收集、处理或回顾待办清单。这就像从没去过健身房却开始用类固醇——你只是在错误的方向上跑得更快。是的，而且今天太多的药物，非但没有骗过享乐跑步机，反而变本加厉地把它启动了。所以是的，虽然我写作和讨论各种情绪提亮药物，它们都有众所周知的陷阱。
我的意思是，最大的陷阱之一，不幸的是，就是与享乐基调——也就是一个人感觉好还是坏——最直接相关的神经递质系统是阿片系统，即 μ 阿片受体，而阿片类药物显然有非常众所周知的陷阱。所以，如果我们能在基因上就被设计成拥有高
享乐设定点，而不是需要去修补自然的缺陷，那会好得多。是的，我明白。回到你关于疼痛的那一点，我脑子里首先冒出来的一个想法是：我们难道不需要疼痛吗？我需要知道我把手放进了热水里，我需要知道有辆车碾过了我的脚，等等等等。如果人们就这样走来走去，处在一种麻木的、不知道发生了什么的状态
里，那不会带来一些下游的负面影响吗？哦，确实。我的意思是，是的，天生对疼痛不敏感的人得活在棉花包一样的世界里。我的意思是，在野外他们早就会死掉，而且他们更可能去冒险。不过，另有一些人只是单纯拥有极高的
痛阈。有 Jo Cameron 这个案例。这是一位苏格兰女士，算是退休教师，素食者，她引起医学专业人士注意，是因为她对止痛药之类的东西摆摆手，因为在一次本应极其疼痛的医疗程序之后，她只是觉得自己不需要。她把分娩描述为仅仅是挠痒。她似乎不是完全失去痛感的人，而只是天生拥有极高的痛阈；基因研究提示，她特别在两个基因上有突变：FAAH 基因和被命名为 FAAH-OUT 的基因，它们负责分解 anandamide。
Anandamide 从词源上说字面意思就是「极乐分子」，而她天生就有很高水平的 anandamide，她似乎一生都处在一种轻度欣快的状态中——但不是那种……我前面说过，她是一位负责任的本地社区支柱、素食者、退休教师。当然，人必须极度警惕，不要过度相信单个案例研究。不过我给的另一个例子是我的超人类主义同事 Anders Sandberg，他只是
承认：是的，我的享乐设定点高得离谱。回到你最初的问题：对于智能行为、对于对有害刺激做出适应性反应，关键是什么？关键不是一个人在快乐或压力标尺上的绝对位置，而是某种享乐梯度。是的，人们可能会想，那些格外快乐的人会没那么有动力去适应性地行动。但反直觉的是，情况似乎并非如此：在其他条件相同的情况下，你越是热爱生命，你就越有动力去保护和保存它；而陷在窠臼里的恰恰是抑郁者，他们经历习得性无助、
行为性绝望，有时是自我毁灭的行为。但要保留信息的敏感性——这就是「处于极乐」和「乐到麻木」之间的区别。是的，我觉得这正是我脑子里隐约在想的事：如果那是一个基本上人人都在 MDMA 状态里走来走去的世界——像是百倍剂量的 MDMA 感受，但稍微清醒一点、能记得发生了什么——我会好奇那个社会会有多高的效能。我觉得可以把这种基因或药理学方案，与人们对全民基本收入的一些担忧做个类比：当你把人现在赖以生活的理由拿走之后，
他们会不会就陷进那种沉溺的状态，人人只是躺在懒人沙发上吃彩虹糖之类。是的，是的。这个嘛，就全民基本收入而言，我认为这只是一个问题：任何像样的社会都会有类似全民基本收入的东西，并摆脱这套臃肿铺开的福利官僚机构；不过，基本收入可以是相对基本的。我不觉得——我刚才跑题讲了一大段。人很容易就这样高谈阔论，指点江山。但总体上，我并没有同等程度地去处理社会议题。我对从 Donald Trump 到气候变化再到你能想到的任何事都有看法，但关键在于，别人已经说得更好。
是的，我明白。我觉得你也有一些相当小众、需要你去钻研的东西。政治可以留给别的某些人。所以，读完 Nick Bostrom 的《超级智能》之后，我马上想到的一件事——节目听众会知道，我觉得这本书既费脑又非常非常吸引人——与其对我们的基因做挑选，或者用特定药物之类去编辑我们在现实世界中的存在方式，为什么不干脆做全脑仿真，或者把我们自己上传到互联网呢？哦，这是个困难的问题，因为这把我们带到意识的本质和绑定问题上。
那就跳进去吧 David，来吧，我们一头扎进绑定问题里，我的朋友，现在可是深水区了。好，困难问题和绑定问题值得区分，尽管它们相互关联。困难问题是：意识究竟为什么存在？为什么我们不是哲学僵尸？按今天所理解的物理定律，如果一个人接受对世界的基本理解——量子场论描述的是场，而不是彼此分离的东西——如果做出这个非常谦逊的假设，那么今天的物理学和化学中没有任何东西禁止你和我此刻交谈——即便我们俩都是哲学僵尸。
所以问题就在这儿。什么是哲学僵尸？哦，抱歉，是哲学僵尸（philosophical zombie）。哦，好的，是的。它行为方式和你我完全一样，但没有意识，没有感知。而我认为有意思的问题不是那个怀疑论的问题，
「我怎么知道你不是一个哲学僵尸」；有意思的问题是：我们为什么不是哲学僵尸？意识怎么可能拥有因果能力，让我们得以提出关于它自身存在的问题？所以，简而言之，这就是困难问题。绑定问题——大概更少人熟悉——说的是：即便你认为意识是世界的绝对基本特征，我们为什么不是所谓的「微观体验僵尸」？我指的是，人群当中就有这样的例子。
我的意思是，比如说，美国的人口——美国人口是多少来着？不是要显摆，给我一秒钟我就告诉你。是人口。是 3.272 亿。3.12 亿，对。那么，仅仅这个事实：有 3.27 亿个封闭在头骨里的心智，它们彼此交流，尽管如此，却没有理由认为
美国的人口是一个心智、一个统一绑定在一起的心智；或者说，人无法确定美国的人口不是一个统一的经验主体。但那种强涌现会有点像是幽灵式的，很难与一元论的物理主义调和。但问题是：我们的大脑又有什么不同呢？毕竟，你和我，我们是 860 亿个有膜包裹的神经细胞。即便你认为单个神经细胞可能承载某种初级意识、初级体验，
我们为什么不是一堆「微观体验僵尸」，只是一些「心智尘埃」的图案？所以，是的，这就是绑定问题。而且，是的，在这一点上我非常孤立。我不认为现象性绑定是一种经典物理现象。诚然，有强有力的论证反对这一点。但争议较小的是：今天的经典数字计算机不是经验主体，而单纯提高执行速度、增加复杂度，甚至让它们大规模并行，也没有
理由认为感知能力会就此被打开。所以并不是说——我记得 Sam Harris 谈过，认为随着算力提升，意识会顺带出现。嗯，我想很多研究者，那种「顺带」派的研究者，确实假设未来某个时候我们的机器会变得有意识。但我个人认为，意识会在某种计算抽象层级上涌现，这个想法是错的；我认为经典数字计算机永远只会是僵尸。所以因此我不认为
你和我有一天会把自己上传进数字计算机。是的，但我要强调，这显然是个有争议的话题。你提到过，是的，Nick 那本关于超级智能的书。非常粗略地说，在超人类主义者当中，对超级智能有三种相当不同的构想。很有意思，给我们讲讲。好，有一种超级智能的构想，也是我个人赞同的：本质上，后人类超级智能将是我们自己——递归自我改进的生物机器人会编辑自己的源代码，并借助
——而且关键的是——借助狭义 AI 的帮助，把我们自己引导到全谱系的超级智能。基本上，所有那些聪明的机器、你读到的一切，我们将把它们整合进我们自己体内：神经芯片、智能假体。就像我今天带上一块神经芯片，好吧，那是作弊，但从数量上说仍然是一个人。同样，两者都好，所以是这种亲密的人机神经接口。但我的意思是，是的，我不认为数字计算机会本身变得有意识。好，这是第一种
构想：超级智能作为我们最终的生物学后代——跨人类与后人类。然后还有另一种与 Ray Kurzweil 相关的超级智能构想，它本质上把我们看作与机器完全融合，可能还涉及通向意识上传的步骤，人与机器之间的任何区分都将变得完全没有意义。这是第二种构想。但还有第三种后人类超级智能的构想，最初由 I. J. Good 在 1960 年代提出，
由 Eliezer Yudkowsky 和他在 MIRI 的同事发展，并由 Nick 在他的《超级智能》一书里给出了最宏大的形式。它本质上是——我要强调是「结合」——摩尔定律（即计算机处理能力的指数增长）与基于软件的递归自我改进 AI 的结合：那种在螺旋上升的循环中自我改进的软件。而在这种后人类超级智能的构想里，没有特别的理由去期待 AGI（通用人工智能）会对感知生命友好、对人类友好。它的价值观可能与我们的完全正交。所以我在这里略过了各种各样的复杂情况，但如果有人开始谈超级智能，值得追问他们指的是哪一种。我的意思是，比如我
认为，一个全谱系的超级智能会去做这样的事情：探索被彻底改变的状态空间……所以，是的。是的，我明白。听到关于未来超级智能运动的不同立场、不同观点很有意思。当然，Naval——他在播客圈里是我的大英雄——他说，最近其实并没有太多朝向
通用人工智能的进展。我觉得人们看 AlphaGo Zero 这类东西，它们是人类智能的仿制品，但处在一个极其狭窄的领域里，而这个领域正变得越来越复杂，却并没有真正变宽。他谈到，通用人工智能方面的进展其实没有多少实质发展。这某种程度上印证了你所说的：那个「母舰」的头脑仍然依赖我们这样的生物系统，然后你用狭义 AI 去增强
它的能力，补上我们需要的功能？是的，我是说，风险总是存在。当一个人谈超级智能时，实际上最终往往只是在间接表达自己的局限。所以我没法跳出自身，真的告诉你全谱系超级智能会是什么样子。我只是想说，在假定 AI 会以某种方式「醒来」之前，还是保持一定程度的谨慎。我明白。所以 Joe Rogan 前几天问 Jamie Metzl 的问题之一是：
为什么我们会有这种不知满足的、想要改进自己的欲望？你觉得我们就是这样被接线的吗？如果是这样，这不正是一种非常有诗意、很美的方式，让我们超越自己的基因吗？嗨，是的，这又回到自然——你知道，自然选择把我们设计成在很多时候不满足。我不会说我们所有人，甚至未必是大多数人，都在努力改进自己；但确实没有多少人会想：好了，我够了，我的钱够了，我的繁殖机会够了，等等。
在其他条件相同的情况下，想要更多是有利于适合度的。所以，是的。我完全明白。那么继续，有一个我真的很想问的问题：如果你有机会列一份顾问愿望清单，帮助政府理解未来、理解他们应该把研究和资金投向哪里，你能为他们组一支小小的梦之队
并告诉我们你为什么选这些人吗？我大概能，但没法就这么脱口而出。而且这也会出现在视频里。是的，显然，我很希望能做到。我的意思是，到目前为止，还没有——该说「到目前为止」吗？——还没有亿万富翁或企业巨头带着资金来找我；但会有的，David，我保证，在路上呢，伙计。我想会的。那么说到风险，在你思考最前沿的、
随着我们推进而让你担忧的风险里，是这个项目可能走向的风险、公众如何看待它的风险，还是更具体的、关于我们实际如何走向享乐主义律令的担忧？是的，说到风险。有一些人，包括一些超人类主义者，认为生命本质上是好的，我们不想把它全部置于风险之中。而我对今天生命的看法，坦白说要黯淡得多。工厂化养殖场和屠宰场里的非人类动物，和还不会说话的幼儿一样有感知。这是对的吗？如果更谨慎地说，人必须承认：比如一头猪，明显
比一个还不会说话的幼儿更有智慧。人无法确定那头猪是否同样有感知。但尽管如此，那些中介我们最强烈的恐慌、疼痛、痛苦体验的具体结构——神经结构、基因、神经递质——几乎是相同的。所以，除非采取极端怀疑论或唯我论，是的，我确信猪有感知，就像我确信你有感知一样。所以，是的，考虑到我认为后代将会认识到的那几乎是难以想象的、对感知生命的罪行，我想我们目前最紧迫的优先事项，也许就是让工厂化养殖场和屠宰场现在就关停。道德论证显然起到作用，但
我对人性相当悲观。我认为我们需要加快体外肉、肉类替代品的发展与商业化。体外肉并不是超人类主义独有的技术。体外肉可以经过基因工程改造；如果不改造，它被广泛接受的可能性会大得多。但没错，本质上我会认为，是的，我们有一个绝对的道德义务
去关停工厂化养殖场和屠宰场。天知道我们要怎么向孙辈解释我们做过的事。所以，是的，虽然我可以愉快地跟你聊所有那些美妙的超人类主义技术和未来构想，我认为创造一个建立在智能极乐梯度之上的世界，有一部分就是要停止系统性地伤害有感知的生命。如果我们一边系统性地伤害他人来满足自己的胃口，一边说要建设一个幸福的生物圈，那我们就不是认真的。是的，这是个很有意思的视角：能够试着把自己从当下的体验中抽离出来，几乎想象那个被记住的自我从未来回望。
那种程度的换位视角，我想并不是很多人都习惯去做的。而很明显，当你黑白分明地看这件事时，你是对的：你养动物就是为了让它们受苦，纯粹为了你自己吃的享受。这是个很难成立的辩护。是的，我的意思是，就我个人而言，这在伦理上完全站不住脚。我的意思是，我应该补充，你知道，由于出生的偶然，我从来没尝过肉。所以这不是——就像我说的，并不是我在炫耀自己的道德优越，只是一个人没有这个偏见的来源。是的，看到我们正在做的事——你知道，人在报纸上读到某些可怕的虐童案例，
会发自内脏地觉得：这种可怕的虐待应该终身监禁。但然后，你看到对面有人正大口吃着一个培根三明治。是的，但没错，如果我路过超市的肉柜，我会想到奥斯维辛，会想到虐童，是的，就是这样。当人们真的看过那些关于工厂化养殖场和屠宰场里发生了什么的视频，有些人似乎真的、真的被震惊了；是的，你知道，镜头之外发生的事要糟糕得多。我的意思是，是的，那真的、真的是不可言说。是的。太精彩了。那么 David，在我们结束之前，我想请你推荐一本书、
一个资源或者一个博客，如果人们觉得这场讨论很有意思，想多了解一些超人类主义和超人类主义运动。哦，天哪。好吧，我又被将了一军，David。你得言行一致了。这次我可不会像政府顾问那题一样放你过去。尽管我睾酮水平低，我还是要说：1995 年，网络还很年轻的时候——我想是 1996 年——我建了一个母矿级的网站 hedweb.com，虽然那里很多材料在风格上确实过时了，但从关于超人类主义的常见问答到宣言的核心，再加上通往其他超人类主义资源的链接，全都在那儿。是的，如果我跟你谈的这些确实引起了共鸣。
是的，那里有很多热链接。不过 Chris，非常感谢。聊得很愉快，真是太棒了。hedweb.com 会放在下方的节目笔记里，还有我们今天谈到的那些资源。David，我今天真的觉得非常迷人。希望未来几年里，我们能再回来讨论超人类主义世界里一些令人兴奋的新进展。但眼下，我们下次再聊。非常感谢你抽时间。太棒了，Chris。