Fin Moorhouse:长期主义、太空与创业

Fin Moorhouse 是牛津大学人类未来研究所的研究学者,担任 Toby Ord 的助理,也是播客 Hear This Idea 的主持人。他说自己一直没能专精于某一件事,而是涉足那些看起来被低估的项目。他加入有效利他(EA),是因为热爱哲学;读了 Peter Singer 的著作后,他意识到自己并没有真正践行这些理念,又遇到了一个让他喜欢的学生社群。疫情给了他一段休整期,让他去阅读、学编程,随后几份成算不大的申请竟然成功了。

Moorhouse 参与设立了两套奖项:五个各 10 万美元的奖项,奖励讨论有效利他相关理念的博客;五个各 2 万美元的奖项,奖励对有效利他的批评。他的论点是:一个想让信念尽量接近正确的运动,必须对“出错”保持反脆弱,并且公开庆祝改变想法。

至于时机,有效利他正开始做成一些大事,资助者也想要有雄心、可扩展的项目。在这样的拐点上,批评越早吸收成本越低,这一点他归功于 Will MacAskill。其他运动会僵化成受到社会奖励的信念,质疑它们的代价变得过高。在收到糟糕的反馈后叫停一个项目,也应当算作成功。

主持人提出,一笔 2 万美元的奖金也许能帮助像 SBF 这样的人把大约 1000 万美元分配得更好,并问还有没有别的运动会资助针对自身的批评者。Moorhouse 除了政治自由主义之外想不出好的答案,并说兑现承诺比宣称开放更重要。

空口无凭,这件事要看实际成效

营利组织能很快发现世界并不买账,非营利组织缺少这种回路,所以慈善评估机构提供了一种类似市场的第三方检验。主持人预期一个只有十年历史的运动会有错误。Moorhouse 说,好的批评可以补上被遗漏的区分;他为非实证领域的进步辩护,称之为概念工程:在区分之上搭建有用的结构。

主持人问,为什么“未来很庞大”这个想法花了数千年才出现。Moorhouse 提到历史学家 Tom Moynihan,并说我们低估了自己习以为常的概念工具。形式化的概率,以及人类可以防止自身过早终结的想法,都是晚近才有的。他承认自己的回答不够有力。

有点像我们如今身处其中的水,所以很难察觉

被问到是否仍有与AI对齐一样重大的事项尚未被发现时,Moorhouse 说,最有用的概念大概也是最容易摘到的低垂果实,但他称这个论证薄弱而含糊。他补充说,按人而不是按时间来看,进步更接近线性;并引用 David Deutsch 的话说,新想法总会产生新问题。因此防范灾难性风险是在为后续进步争取时间,始终稳健地重要。

主持人怀疑物理极限能否约束我们,因为在计算理论出现之前,单位物质的计算量这类极限根本无从定义,而且即便知道极限,也无法说明什么是可能的。Moorhouse 承认有些风险可能因无法表述而被遗漏,但大体上我们知道什么最重要。