Will MacAskill——长期主义、利他主义、历史与技术
Will MacAskill - Longtermism, Altruism, History, & Technology
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01Will MacAskill——长期主义、利他主义、历史与技术
好，今天我很荣幸采访 William MacAskill。Will 是有效利他主义运动的创始人之一，最近还写了即将出版的新书《我们欠未来什么》。Will，感谢你来上节目。
非常感谢邀请我。
§02有效利他主义与西方价值观
我的第一个问题是：有效利他主义运动能成功，高层次的解释是什么？它本身是不是也是你在书里谈到的那些偶然性的一个例子？
是的，我认为它是偶然的。也许没到「这事根本不可能发生」那种程度，但至少是几十年量级的偶然。有效利他主义多少有些偶然，证据就是类似的想法在历史上被提倡过很多次，却都没能生根。
我们可以追溯到古代中国，墨家主张一种不偏不倚的道德观，并采取非常讲究策略的行动去帮助所有人。具体来说，就是为被围困的城池提供防御性援助。再往后有早期的功利主义者。有效利他主义比功利主义更宽泛，但有一些相似之处。甚至 Peter Singer 在 70 年代就一直在倡导我们应该把大部分收入捐出去帮助极端贫困的人——但直到 2010 年初 GiveWell 和 Giving What We Can 成立之后，才真正获得不少响应。
那怎么解释它的兴起？我认为它是一个等待发生的好想法。到了某个时点，互联网帮助把大量志同道合的人聚集在一起，这在以前是不可能的。还有一些特别幸运的事件，比如 Alex 遇到 Holden、我遇到 Toby，帮助它在那个特定时间点被催化出来。
如果像你在书里说的那样，道德价值观非常偶然，那这是不是应该让我们怀疑现代西方价值观其实没那么好？它们是平庸的，甚至更糟，因为事前来看，你本该预期自己最终落在我们在此刻可能拥有的所有价值观的中位数上。显然，我们会偏爱自己从小被灌输的那套价值观。
完全同意。认真对待历史、体会价值观的偶然性，体会如果纳粹赢了那场世界大战，我们都会想：「哇，我真高兴道德进步是那样发生的，现在我们身边再没有犹太人了。我们那时候的道德进步多么巨大啊！」这是个可怕的念头。我认为它应该让我们认真对待一个事实：我们离道德真理还很远。
我在书里得出的一个教训是，我们不该以为自己正处在道德进步的终点。我们不该想：「哦，我们应该把我们现在这套西方价值观锁定下来。」相反，我们应该花大量时间去弄清楚什么才是真正道德上正确的，好让未来由正确的价值观引导，而不是由碰巧胜出的那套价值观引导。
这很有道理。但我问的是一个稍有不同的问题——不只是存在可能比我们更好的价值观，而是我们是否应该预期我们的价值观——我们有一种感觉，觉得我们取得了道德进步（事情比过去更好，或者比 2100 年、2200 年大多数可能世界更好）——我们难道不该预期情况就是这样吗？我们的先验难道不该是「这些价值观很一般」吗？
我们的先验应该是：我们的价值观处于平均预期水平。然后你可以做评估，比如「今天的其他价值观是不是特别好？」你可以提出一些论证说并非如此。也许如果工业革命发生在印度而不是西欧，那么我们可能就不会有大规模工厂化养殖——而我认为那是道德上的暴行。话虽如此，我的看法是，我们做得比平均水平好。
如果文明只是重新洗牌，那么从我们的道德信念和态度来看，情况会更糟。废除奴隶制、女权运动、自由主义本身、民主——这些都是我们本来可能失去的东西，也是巨大的收获。
如果这是真的，那长期反思的前景是不是就变得危险了？如果道德进步是随机游走，而我们恰好抽中了幸运的签，那你有可能是在倒退。也许如果你只是让进步持续一千年，你就在冒着均值回归的风险。
总体而言，道德进步不是随机游走。有很多力量作用于文化、作用于人们相信什么。其中之一是：「从道德上讲什么是对的？他们最好的论证支持什么？」不幸的是，我认为这是一种很弱的力量。
长期反思的想法是，让社会进入这样一种状态：在我们采取任何可能锁定某套价值观的激烈行动之前，先让理性、同理心、辩论和善意的道德探究这股力量来引导我们最终得到哪套价值观。
§03我们不明智吗？
在书里，你做了一个有趣的类比：处于历史此刻的人类就像青少年。但人们对青少年的另一个常见印象是，他们过早、过于频繁地无视智慧、传统和成年人的意见。那么，你觉得把这个类比这样延伸是否合理——认为我们应该做伯克式长期主义者，拒绝这些内部视角的、玄奥的威胁？
我的观点与伯克式观点相反。我们天性上是文化动物，非常倾向于同意别人的看法，即使我们并不理解其背后的机制。这在低变化的环境中很管用。我们进化所朝向的环境变化并不大。我们有几百年都是狩猎采集者。
而现在，我们处在这个剧变时期，经济每 20 年翻一番，每年都有新技术出现。这是前所未有的。这意味着我们应该试着从第一性原理出发去把事情想清楚。
但在当前的边际上，你还认为情况是这样吗？如果有效利他主义和长期主义的思想很多都是第一性原理式的，那你觉得多研究历史会比边际上的第一性原理思考者更有价值吗？
两点。如果是关于对历史的理解，那我很希望有效利他主义群体有更好的历史理解。如果你想在世界上做好事，最重要的学科是哲学或经济学。但相比有效利他主义群体里历史知识极少，我们在那方面已经非常充足了。
那是不是应该有更多第一性原理思考？第一性原理思考在新冠疫情期间收效相当不错。从 2020 年 1 月起，我的 Facebook 时间线就完全被两类人占满了：要么惊慌失措，要么以现有机构所没有的严肃态度对待这件事。现有机构没有恰当地根据新环境和新证据更新判断。
§04技术的偶然性
在你的书里，你举了几个经历苦难的社会的例子。原子弹爆炸后的广岛、黑死病之后的欧洲——它们似乎都相对迅速地反弹了。这是不是让你认为，偶然性在历史中、尤其是经济史中的作用也许没那么大？而且这暗示了一种索洛增长模型？也就是即使发生了坏事，你也能反弹，其实无关紧要？
从经济角度看，这正是经济或技术进步与道德进步之间的重大差别。长期来看，经济或技术进步是非常非偶然的。埃及人有过早期版本的蒸汽机，旗语直到很晚才被发明出来，而它本来可能在几千年前就被发明。
但长期来看，技术进步的工具性收益，以及朝向技术进步和经济增长的激励都如此之强，以至于我们会在各种各样的情形下走到那一步。想象有几千个不同的社会，除了一个之外都不增长。长期来看，那一个就会变成整个经济。
你举的埃及人拥有某种古代蒸汽机的例子，似乎反而指向存在更多偶然性？也许因为蒸汽机在很多社会都出现过，但只在一个社会里被变成了工业革命？
在那个具体案例中，关于当时的金属工艺质量是否真的足以造出真正的蒸汽机，存在很大争论。我提到这些，是为了分享工业革命之前一些惊人的偶然性例子。
那仍然是几个世纪到几千年量级的偶然性。工业革命之后的世界，偶然性要小得多。你很难看到有哪种技术，如果没在它被开发出来的那个时候被开发，就会在几十年内都不会出现。
这里的模型是：「技术状态上这些通用性的变化是偶然的，而努力去设计出其中一项会非常重要。但除此之外，反正总会有某个人创办一家初创公司把它做出来？」
即使是看起来偶然的蒸汽机案例，长期来看它还是被开发出来了。如果工业革命没有在 18 世纪的英国发生，它会在某个时点发生吗？那些对工业革命至关重要的类似技术会被开发出来吗？会的，因为做这件事有非常强的激励。
如果存在一种热衷于以自动化方式制造纺织品的文化，而不是 18 世纪的英格兰，那么那个经济体就会接管世界。经济增长比道德进步偶然性小得多，这有其结构性原因。
人们想到 Norman Borlaug 和绿色革命这样的人时，会觉得：「如果你能做成一件事，你就会是 20 世纪最伟大的人。」显然，他仍然是个非常好的人，但那不应该是我们的看法吗？你觉得绿色革命反正都会发生吗？
是的。Norman Borlaug 有时被认为拯救了十亿人的生命。他影响巨大。他是世界上的一股善的力量。假如 Norman Borlaug 不存在，我不认为会有十亿人死亡。相反，类似的进展会在此后不久发生。
也许他拯救了数千万人的生命——对一个人来说，这已经是拯救了很多生命。但这并不等于简单地说：「哦，这项技术被十亿本来可能面临饥饿风险的人用上了。」事实上，此后不久就出现了类似类型的农业发展。
§05谁改变了历史？
什么样的职业或职业选择往往能带来最高的反事实影响？是道德哲学家吗？
不完全是道德哲学家，虽然有一些例子。继续说科学技术，如果你看爱因斯坦，狭义相对论本来也会在此后不久被提出。然而，广义相对论则很可能被提前了几十年。有时你会看到惊人的飞跃。但我们谈的仍然只是几十年，而不是几千年。道德哲学家可以带来长期的改变。马克思和恩格斯带来了巨大而长远的改变。像穆罕默德、耶稣和孔子这样的宗教领袖带来了巨大而偶然的长远改变。道德活动家也是如此。
如果你认为今天思想版图的变化非常快，你还认为像马克思这样的人在遥远的未来会被认为极具影响力吗？共产主义持续了不到一个世纪，对吧？
从结果看，马克思在长远未来不会有多大影响力。但事情本来可能朝另一个方向发展。那并不是一个截然不同的历史。20 世纪胜出的不是自由主义，而是共产主义。技术越进步，统治性意识形态就越能巩固自身并长期延续。你可以得到一连串连锁效应，让共产主义在 20 世纪的思想战中获胜。
假设一个世界政府建立在这些观念之上，那么通过抗衰老技术、基因增强技术、克隆或人工智能，它能够建立一个永远按照那套意识形态存续的社会。
当你思考偶然性时，独裁者的死亡特别有意思，因为会发生巨大的政权变化。这让我觉得，那里具体的个人非常重要，而他们恰好是谁这件事，在某些有趣的方面既是偶然的又是持久的。
如果你有一个独裁政权，那就是一个人统治整个社会。这意味着它在很大程度上取决于那个人的观点、价值观、信念和性格。
§06科学人才
回到第二节，在书里，你非常关注生育率。你关于科学技术进步的模型似乎是：人口数量乘以平均研究者生产率。如果资源生产率在下降，而人口数量增长没那么快，那就令人担忧了。
是的，人口数量乘以投入到研发的人口比例。
谢谢澄清。看起来历史上曾有过很多人才和进步的高度集中。威尼斯、雅典，甚至像 FTX 这样的东西，对吧？有 20 个开发者把它做成了价值数十亿美元的公司——这些例子是不是表明，研究者的组织和聚集比总量更重要？
这个模型运行得还算不错。纵观历史，你从一个与今天相比非常低的技术基线出发。大多数人甚至都没在尝试创新。关于巴格达为何失去其科学黄金时代，有一种论证是：政治格局发生了变化，以至于在公元 10、11 世纪，被激励的是神学研究而非科学研究。
同样，关于为什么是英国而非德国发生了科学和工业革命，有一种论证是：德国所有的知识人才都专注于创作了不起的音乐。那种东西不像制造纺织品那样能产生复利。如果你看斯巴达对雅典，差别是什么？它们有不同的文化，而在雅典，知识探究得到更多回报。
因为他们从更低的基线出发，那些试图做今天我们所认为的知识探究这类事情的人，影响巨大。
如果拿贝尔实验室这样的例子，到 20 世纪后期，低垂的果实已经被摘完了。你有这样一个很小的组织，拿了六个诺贝尔奖。这是巧合吗？
我完全不会这么说。我们所用的模型是人口规模乘以从事研发的人口比例。这是你能有的最简单的模型。贝尔实验室是超水平发挥。在某种环境下，把最高产的人放在一起，让他们比在其他情况下高产十倍，你就能创造出惊人的东西。
然而，当你纵观历史长河时，与一个社会更广泛的文化或人口的绝对规模相比，这些效应相对较小。
§07长期主义的制度改革
我想谈谈你那篇关于长期主义制度改革的论文。在这篇论文里你主张的一件事是，我们应该让其中一个议院专门致力于长期主义的优先事项。你能说出一些具体的绩效指标，用来评判或激励组成这个机构的那群人吗？
关于长期主义制度，我要先加个说明：我对它们持悲观态度。如果你想代表未来的人、甚至只是考虑他们，你必须面对一个事实：他们并不在场，也无法为自己游说。不过，你可以设立一个拥有某些法律监管权力的议事机构。你会怎么组成它？我最好的猜测是从人口中随机抽取？你又怎么确保激励是一致的？
30 年后，他们的表现会由一个小组来评估，这个小组回顾过去，评估这些政策的有效性。也许这个议事机构的成员，其养老金就按那次评估的结果发放。其次，30 年后的人——他们的政策以及他们对前 30 年那个议事机构的评估——又会被再往后 30 年的另一个议事机构评估，如此类推。这能行得通吗？理论上也许可以——实践中我持怀疑态度，但我很希望有某个国家试一试，看看会发生什么。
有一些证据表明，只要告诉人们他们扮演的角色，就能让他们更认真地对待未来世代的利益。有一项研究让人们穿上仪式性的长袍，充当未来的受托人。结果他们提出的政策建议，确实与仅凭自身信念和私利行事时不同。
如果你在那个评判这些人的委员会里，有没有像 GDP 增长这样的指标，可以作为评估过去政策决定的好启发式？
有一些事情你可以做：GDP 增长、无家可归人数、技术进步。我绝对希望有专家对灾难风险做评估。我们目前还没有，但可以想象一个由超级预测者组成的小组，预测未来十年发生大国战争的概率，并汇总成一个战争指数。
那会比股市指数重要得多。把灾难风险纳入进来会很有帮助，因为你不希望某个机制只激励经济增长，却以尾部风险为代价。
这是不是你对 Robin Hanson 那类方案的反对意见——用预测市场最大化未来预期 GDP，并据此做决策？
最大化未来 GDP 是我会联想到 Tyler Cowen 的一个想法。至于 Robin Hanson 的想法——对价值观投票，但对信念下注——如果人们能对想要哪一组公共品投票，GDP 和失业率可能是好指标。除此之外，就是纯粹的预测市场。这是我很想看到被尝试的东西。这是一种思辨性政治哲学的想法，关于一个社会在结构上可以多么不同，而它被极大地忽视了。
我认为它在实践中会奏效吗？大概不会。这类想法大多不会奏效。预测市场可以被操纵，或者单纯流动性不足。相比预测，预测市场还没有取得很多成功。也许你可以解决这些问题。你可以立法规定哪些事情可以在预测市场上被投票或预测，你可以用政府补贴来确保足够的流动性。总体而言，它可能很有前景，我很想看到它在一个城市层面之类的地方被试验。
让我们设想一个场景：政府开始认真对待长期影响，并推行一些改革来纳入这种视角。举个例子，你可以看看环保运动。有环境影响审查委员会，会尝试评估新项目的环境影响，并基于某些指标否决提案。
这里的影响，至少在某些情况下是，那些对环境并无强烈、可信利益的团体，能够钻这些机制的空子，去阻止实际上对环境有帮助的项目。放到长期主义上，评估某件事的实际影响需要很长时间，但政策制定者却被要求评估某件事的长期影响。你担心这会是一个容易被恶意行为者钻空子的体系吗？他们会问：「你觉得环保主义被写进法律的方式，问题出在哪里？」
这可能是个毁灭性的担忧。你创造了某个东西来代表未来的人，但他们不被允许为自己游说（那它就可能被收编）。我对环境影响声明的理解也类似。同样，环境并不像能代表自己——它没法说出自己的利益是什么。那里的正确答案是什么？也许有一些思辨性提案，设立一个代表机构来评估这些事情，并由 30 年后的人来选举任职者。这是我们目前能想到的最好的办法，但我们需要多得多的思考，看看这些提案中是否有哪个能长期稳健，而不是只盯着狭窄目标的东西。
要求危险生物实验室购买责任保险的监管，并不是要代表未来世代的利益。但它对长期非常有利。目前，如果长期主义者想要改变政府，那就让我们聚焦于一组狭窄的制度变革，它们对长期非常有利，即使它们并不在代表未来的游戏里。这并不是说我反对所有这类事情。但对其中任何一项，实施上都有重大问题。
如果我们不知道怎样才能做对，你有没有想法，环保主义本来可以怎样被更好地写进法律？为什么它在某些情况下并不成功？
老实说，我对此没有很好的理解。我不知道这是这件事本身固有的，还是本来可以有一套不会在长期被收编的体系。
§08公司是长期主义的吗？
理论上，美国最长期的机构的激励是最大化未来现金流。明确地、从理论上说，它们应该有激励为自己的公司做最大的善事——这意味着如果存在生存性风险，公司就不可能继续存在……
我不这么认为。不同机构有不同的衰减率。所以，一家位列最大 200 家的公司，其半衰期只有十年。它的寿命短得惊人。而如果你看大学，牛津和剑桥有 800 年历史。博洛尼亚大学更古老。这些是非常长寿的机构。
比如，牛津的基督圣体学院曾就设立一个新传统做决定，而这个传统每 400 年才发生一次。它之所以能做这种决定，是因为它是如此长寿的机构。同样，传说的寿命还可以更长。这种自然的半衰期，确实会影响一家公司、一所大学、一个宗教机构各自会做出的决定。
这是不是说明，试图让你的机构长久存续，存在某种脆弱和危险——如果公司试图这样做却做不到的话？
公司是由人组成的。让一家公司长久存续符合公司的利益吗？让那家公司长久存续，符合组成它的人（比如 CEO、董事会和股东）的利益吗？不，他们并不特别在意。有些人会在意，但大多数不会。而其他机构则是双向的。这就是我在《我们欠未来什么》里详细谈到的锁定（lock-in）问题：在一个新机构形成的过程中，你会遇到可塑性的时刻。
无论是基督教会还是美国宪法，你都会锁定一套规范。这可以非常好。回头看，美国宪法作为第一部民主宪法显得像个奇迹。据我理解，它在四个月的时间里被制定出来，似乎经受住了时间的考验。反过来，被锁定的规范也可能极其危险。美国宪法里有可怕的东西，比如把奴隶制的合法权利作为宪法修正案提出。如果那被锁定下来，那将是可怕的。很难抽象地回答，因为这取决于那个长期存续的东西是什么。
§09生活在一个可塑性的时代
你在书里说，你预期我们当前这个时代是一个可塑性的时刻。你为什么这么认为？
有两种特定类型的「可塑性时刻」。一是世界以一种历史上罕见的方式完全统一。你可以瞬间与任何人沟通，而且道德观点极其多样。我们可以有争论，比如上你播客的人可以辩论什么在道德上是正确的。在我看来，很多套不同的道德观点中的某一套最终成为最受欢迎的，是很有可能的。
其次，我们处在这个事情真的可以改变的时期。但它是一个可塑性时刻，因为它有可能走向终结——我们所习惯的道德变化可能在未来几十年内结束。如果存在一个偏好意识形态一致性的单一全球文化或世界政府，再结合技术，那么很难看出为什么它会在长期内终结？这里的关键技术是人工智能。到了世界上统治者是数字的而非生物的那一点（可能比我们想的更早），那种意识形态上的一致性就可以持续下去。
一旦你有了那个，加上单一意识形态的全球霸权，那套价值观随时间改变的理由就不多了。你有不朽的领导者，也没有竞争。随时间推移，还有哪些其他类型的价值变化来源？我认为它们也可以被解释掉。
我们正处在一个互联互通的时代，而如果我们殖民太空，这种互联互通就不会持续——这不正是认为锁定不太可能的一个理由吗？如果你的霸主在数百万光年之外，他们能多好地控制你？
你面对的那个「是否」在于，控制会不会发生在太空殖民之前。如果有一天我们走向太空，有很多不同的定居点、不同的恒星系追求不同的善的愿景，那么（考虑到相关的物理规律）你会在很长时间里保持多样性。
一旦一个恒星系被殖民，其他文明就很难过来征服你——至少如果我们处在一个没有突破性技术可被发现的技术成熟期。但我担心控制会更早发生。我担心控制可能就在这个世纪、在我们有生之年发生。我不认为这很可能，但它确实严肃地摆在桌面上——大概 10%？
嗯，对。回到长期主义运动的长期来看，一个世纪前设立了很多有启发性的基金会，比如洛克菲勒基金会、卡内基基金会。但它们今天似乎并不特别有创造力或有影响力。你觉得是哪里出了问题？为什么会有——如果不是价值漂移的话——能力和领导力、洞察力的某种衰退？
我对那些具体例子没有很强的看法，但我有两个自然的想法。对于那些想长期存续、长期保持影响力的组织，它们在历史上把目标定得过于狭窄。一个有趣的例子是本杰明·富兰克林。他为费城和波士顿各投了一千英镑，在 100 年后和 200 年后按不同比例支付。但他把用途指定为帮助铁匠学徒。你可能会觉得，到了 2000 年这就不太说得通了。他本可以更宽泛地投资：为了费城和波士顿人民的繁荣。那很可能会有更大的影响。
第二点是「均值回归」论证。你有一个新基金会，它做了大量非凡的善事，就像洛克菲勒基金会那样。随着时间推移，如果它在某个维度上出类拔萃，那它很可能在该维度上向平均水平靠拢。这是因为参与其中的人在变。如果你挑选了格外能干、有远见的人，那么从统计上说，下一代人会不如他们。
回到那个难题：如果你把使命定得太窄，而它在未来不再说得通——是否存在权衡？如果你定得太宽，你就给未来的行动者——恶意的或缺乏创造力的——留出了空间，把这场运动带向你不会认可的方向？就为费城做好事而言，如果它变成了本杰明·富兰克林不会认为对费城有好处的东西呢？
这取决于你的价值观和看法。如果本杰明·富兰克林只关心铁匠学徒，那么他这样指定用途就是对的。但我自己的价值观往往比那宽泛得多。其次，我预期未来的人会更聪明、更有能力。随着时间推移这确实是趋势。那样的话，如果我们共享类似的宽泛目标，而他们用不同的方式去实现，那就让他们去做。
§10未来能有多好？
我们来谈谈我们应该预期未来有多好。你有没有看过 Robin Hanson 的论证：我们最终会停留在仅能维持生存水平的模拟人（ems），因为会有大量竞争，而最小化每个数字人的算力消耗，会让每个实体的体验勉强值得一活？
是的，我熟悉这个论证。但我们应该把「模拟人处于仅能维持生存水平」和「我们会过着糟糕的生活」区分开。所谓仅能维持生存，是指人均收入和人口增长达到某种平衡，使得再穷一点，死亡就会超过新增出生。
这并不能告诉你他们的福祉如何。作为一个被模拟的存在，你可能非常贫穷，却一直处于极乐之中。这与马尔萨斯理论完全相容。这看起来可能离最好的可能未来很远，但仍然可能非常好。在仅能维持生存的水平上，那些模拟人的生活仍可能比我们好上千倍。
说到贫穷而快乐，你那一章里有一段很有意思的内容，提到你委托进行的研究：你想弄清发展中国家的人是否觉得生活值得过。结果发现，19% 的印度人不愿每一刻都重过自己的人生。但有 31% 的美国人说他们不愿每一刻重过自己的人生？那么，为什么印度人在人均 GDP 不到十分之一的情况下，似乎快乐得多？
至少凭记忆，我觉得那些数字比这低。凭记忆，更像是 9% 的印度人说如果有选择，他们不愿再活一遍，13% 的美国人说不会。不过你在幸福感指标上说得对。我们调查的印度人对自己的生活更乐观、对自己的生活更满意，比美国人更甚。老实说，我不想由此过度推广，因为我们抽样的是相对贫穷的美国人和相对富裕的印度人。也许这只是抽样效应。
还有与印度教和轮回信仰之间的奇特交互，可能会破坏这个结果的可推广性。一方面，我不想从中得出任何强有力的结论。但作为一条信息，它相当引人注目，因为你通常会发现富裕国家的人的福祉显著高于较贫穷国家。
我猜你在某种意义上确实做了推广——你把它当作今天大多数人的生活是值得过的证据，对吧？
正是如此。所以我把各种证据拼在一起：大约 10% 的美国人和 10% 的印度人似乎认为自己的生命是净负的。他们认为其中包含的痛苦多于快乐，如果有机会，不愿重生再过同样的人生。
还有另一项研究，考察美国和其他富裕国家的人，问他们如果可以选择，愿意跳过多少有意识的生命。这里的「跳过」意思是，眨眼之间就把你带到你正在进行的任何活动的终点。比如，也许我太讨厌这期播客了，宁愿失去意识也不想跟你说话。那样的话，我就有跳过的选项，30 分钟后一切就结束了。
如果你看那项研究，然后再问人们愿意做怎样的权衡，以此衡量他们对某种体验的享受强度，你会得出这样的结论：略多于 10% 的人认为，自己受访那天的生活，还不如整天失去意识来得好。
§11与 Tyler Cowen 商榷：什么最重要
这里稍微换个话题，在 80,000 Hours 播客上你说过，你预期那些明确试图最大化自身影响力的科学家，可能会产生不利影响，因为他们可能会忽视那些在这种思路下不明显、但可能更重要的基础研究。
你觉得这会是长期主义的一个普遍问题吗？如果你试图找出对长期而言最重要的东西，你可能会漏掉那些用这种思路看不明显的东西？
是的，我认为这是个风险。在人们可以用来反驳我整套观点的方式中：我主张我们应该做相当具体、有针对性的事情，比如努力让 AI 变得安全、为 AI 的崛起建立良好治理、减少可能杀死我们所有人的最坏情况大流行病、防止第三次世界大战、确保良善价值观得到推广，以及避免价值锁定。但有些人可以论证（Tyler Cowen 和 Patrick Collison 这样的人就是这么做的），你行动的未来影响非常难以预测。
连尝试都是傻瓜的游戏。相反，你应该看看过去那些持续产生大量善的事情，然后试着做同样的事。具体来说，他们可能论证这意味着技术进步或促进经济增长。我对此有异议。这不是我能给出完全决定性论证的事，因为我们不知道什么时候才能弄清谁对。也许是千年之后。但有一条证据是预测者整体的成功。这对 Tyler Cowen 也是如此，但有效利他主义群体当时就意识到新冠疫情会是个大事件。在很早期，他们就提前很久担心大流行病。有些事情其实是相当可预测的。
比如，摩尔定律已经持续了 70 多年。AI 系统会变得大得多、领先模型会变得更强大，这符合趋势。同样，我们很快就能够开发出具有前所未有破坏力的病毒，这个想法感觉争议不大。尽管很多事情难以预测，会有大量意外。但有些事情——尤其是相当长期的技术趋势——我们能做出合理预测，至少能预测桌面上有哪些可能性范围。
听起来你是在说，我们现在知道重要的事情就是重要的。但如果某件事在一千年前回头看并不那么重要，它今天对我们就不显著了？
我说的是我和 Patrick Collison、Tyler Cowen 之间，谁对？我们只有在一千年后才能得到那个信息，因为我们谈的是长期的、有影响力的策略。我们可能更早得到提示性证据。如果我和其他从事长期主义的人对 AI 的走向、生物技术的进展做出具体、可衡量的预测，然后能够采取行动，从而明显降低某些风险，那就是相当有利于我们策略的证据。
反过来，他们做了各种各样的事，却没有对将要发生什么做出明确预测，但从中冒出了对长期有利的东西（假设我们在十年后衡量这一点），那就会是有利于他们观点的好证据。
你之前说技术的偶然性意味着，按照他们的世界观，即使你试图最大化过去影响最大的东西，如果过去影响最大的是价值观的改变，那么经济增长也许才是最重要的？或者试图改变经济增长率？
我确实认真对待关于人们过去如何行动的那个论证，尤其是对那些试图产生持久影响的人。他们做的哪些事情是说得通的，等等。所以，在 19 世纪末，John Stuart Mill 和其他早期功利主义者有过这样一波长期主义浪潮，他们开始非常认真地对待未来世代的利益。他们主要的担忧是英国会用尽煤炭，从而未来世代会陷入贫困。这相当引人注目，因为他们对经济如何运作的理解非常糟糕。他们没有预见到我们能够通过持续创新摆脱对煤炭的依赖。
其次，他们对世界上有多少煤炭和化石燃料的看法错得离谱。所以，那个具体行动按照我们现在所知是说不通的。事实上，考虑到当时英国涉及的煤炭量要低得多——低到在那个水平上气候变化效应可以忽略——那个把煤留在地下的具体行动很可能是有害的。
但我们可以看看 John Stuart Mill 本可以做的其他事情，比如推广更好的价值观。他为妇女选举权奔走。他是第一位英国议员。事实上，也是世界上第一位推动妇女选举权的政治家——这看起来相当不错。这似乎经受住了时间的考验。这是一个历史数据点。但可能我们可以从中得到一个更普遍的教训。
§12人工智能与权力的集中
你认为你的全球政策制定者达成共识的能力，净效果是好事还是坏事？好的一面是，也许它能帮助阻止某些危险技术起飞；但坏的一面是，它可能阻止人类挑战试验，从而在未来造成某种锁定。净来看，你怎么看这个趋势？
全球一体化这个问题，你说得完全对，它是双面的。一方面，它可以帮助我们降低全球性灾难风险。世界能够团结起来禁用氯氟烃，是过去 50 年的重大事件之一，让臭氧层空洞得以自行修复。但另一方面，如果这意味着我们都趋同于一种单一文化、失去多样性，那可能是不好的。我们可能因此失去最大的可能价值。
解决办法是只做好的部分，不要坏的部分。比如，在一部自由主义宪法下，一个国家可以在某些方面受其宪法和某些法律约束，同时仍然容许道德思想和不同生活方式的繁荣多样。同样，在世界上，你可以有非常强有力的监管和条约，只处理某些全球公共品，比如减缓气候变化、防止开发下一代大规模杀伤性武器，而不必有一个非常强硬的全球政府去推行某种特定的世界愿景。我们目前正朝哪个方向走？在我看来，我们一直走在相当不错、不太令人担忧的方向上。但那可能会改变。
是的，历史趋势似乎是，当你有一个联邦式的政治体，即使宪法上中央权力受到约束，随着时间推移它们往往会获得更多权力。你可以看美国，也可以看欧盟。是的，这似乎就是趋势。
这取决于那里所体现的文化，可能是个隐忧。如果文化本身是自由主义的、促进道德多样性和道德变迁与道德进步的，那也许不是问题。但情况未必如此。
你的道德变迁理论意味着，在一小群人开始倡导某个特定观念之后，这个观念可能需要一个世纪或更久才能被普遍接受。就你认为这是一个非常重要的世纪而言（我知道你和其他人在这一点上有分歧），这是否意味着长期主义没有足够时间靠改变道德价值观来取得成果？
我认识并相当尊重的很多人认为，通用人工智能很可能在未来 10-20 年内带来奇点级的技术进步和极快的技术进步速度。如果是那样，你说得对。价值变迁是那种随时间缓慢见效的东西。
我谈到道德变迁在历史上需要几个世纪，但今天它可以快得多。有效利他主义运动的成长是我很了解的。如果它以每年 30% 左右的速度增长，复利回报意味着它不需要那么久。那不是以世纪为量级发生的变化。
如果你看其他道德运动，比如同性恋权利运动，按历史标准是非常快的道德变迁。如果你认为我们距离历史的终结只有十年，那就不要广泛地去推广更好的价值观。但我们应该给「我们不会在本世纪撞上某种历史终点」这个想法分配非常显著的概率质量。在那些世界里，推广更好的价值观可能回报极好。
你听说过 Slime Mold Time Mold 的土豆饮食法吗？
我确实听说过 Slime Mold Time Mold 的土豆饮食法，而且作为一个噱头，我很想试试。我相信你知道，土豆接近超级食物，如果你偶尔补充扁豆和燕麦之类的东西，你可以靠黄油土豆泥无限期地活下去。
嗯，有意思。关于你的职业有个问题：你为什么还是教授？它还能让你做那些你本来会做的事吗，比如转化更多 SBF、为有效利他主义做道德哲学论证？我很好奇。
我该做什么，对我来说相当开放，但我确实花大量时间共同创办组织，或者担任我帮助建立的这些组织的董事。最近，我在与未来基金（Future Fund）——SBF 的新基金会——密切合作，帮助他们尽可能多地做善事。话虽如此，如果要说我想长期做什么的单一最佳猜测，而且显然是更发挥我长处的方向，那就是发展想法、努力把大局弄对，然后以可理解的方式把它们传播出去，让更多人从座位上站起来，开始为长期做大量善事。我在这方面产生了很多影响。从这个角度看，拥有牛津的教席相当有帮助。
§13学术界的问题
你在书里和其他地方提到，思考大图景问题的人很稀缺——历史有多大偶然性？人们总体上有多快乐？——这些问题对其他人来说太难了吗？还是他们不够在意？到底怎么回事？为什么谈这些的人这么少？
我只是觉得有很多极其重要的问题，在世界任何地方都没有激励。公司不会激励人们研究它们，因为它们太宏大。其中一些问题是：「未来是好的，而不是坏的？如果发生全球文明崩溃，我们能恢复吗？长期停滞的可能性有多大？」几乎没有人研究这些议题。公司对规模如此宏大的东西不感兴趣。
学术界形成了一种不去处理这类问题的文化。部分原因是它们掉进了不同学科的缝隙里。部分原因是它们显得太宏大或太思辨。学术界更多处于在我们理解上取得增量进展的模式。它并不一直是这样。
如果你回看学术研究制度化之前，除非你有一套关于伦理学、政治哲学、形而上学、逻辑学和认识论的宏大统一理论，否则你算不上真正的哲学家。大概还包括自然科学和经济学。我不是说所有学术探究都应该那样。但应不应该有一些人的角色就是真正去思考大图景？应该。
我能把我的孩子送去 MacAskill 大学吗？那个项目进展如何？
我对创建一所新大学的想法相当感兴趣。有一个项目，我一直在和另一个人讨论，他相当热衷于把它做成。它会不会推进？时间会证明。我认为研究和教育都可以做得比现在好得多。要打入或创造出非常有声望的东西极其困难，因为领先的大学都有几百年历史。但也许有可能。我认为如果我们能做成，它会创造出巨大的价值。
太好了。那么这本书是《我们欠未来什么》。我了解到预售帮助很大，对吧？读起来真有意思。一个人写一本书去讨论他认为最重要的问题——即使它们不是最重要的问题——这种事多久发生一次？既是大图景思考，又考察非常具体的问题和议题。读起来超级有意思。
太好了。非常感谢你！
大家还能在哪里找到你？或者有什么其他信息他们可能需要知道？
当然。《我们欠未来什么》8 月 16 日在美国出版，9 月 1 日在英国出版。如果你想在 Twitter 上关注我，我是 @WillMcCaskill。如果你想用你的时间或金钱做好事，Giving What We Can 是一个鼓励人们承诺把收入的相当一部分（10% 或更多）捐给最有效的慈善机构的组织。它有一份推荐慈善机构名单。80,000 Hours——如果你想用职业做好事——是获取关于哪些职业影响最大这类建议的地方。他们也提供一对一辅导。
如果你感到受启发、想在世界上做好事，你关心未来的人，想帮助他们的生活变得更好，那么除了读《我们欠未来什么》，Giving What We Can 和 80,000 Hours 就是你可以去了解并参与进来的资源。
太好了，非常感谢你来上播客！非常有意思。
非常感谢，我很喜欢。