高频回听时刻：AI 公司如何让你怀疑自己的判断——Karen Hao

讨论首先把人们的公开表态与其所处的利益和动机相对照，并引述了达里奥在 2017 年的一项判断：文明规模灾难的发生概率可能在 10% 到 25% 之间。这里的时间和观点归属很重要。这是在对话中呈现的一位个人的估计，并非测量得出的概率，也不是共识性研究结论。随后，讨论转向伊利亚离开 OpenAI 一事。Karen Hao 表示，自己的采访使她得出一个结论：伊利亚认为山姆·奥尔特曼的管理方式，同时损害了对 AGI 的追求及其安全性。节目呈现的是她对伊利亚担忧的转述，并不是伊利亚在此作出的一项新的直接声明。

Karen Hao 回忆了自己在 2019 年对伊利亚的采访，并复述了他把强大 AI 与人类对待动物的方式相比较的类比。修建高速公路的人，即使并不憎恨动物，也可能毁坏动物栖息地。在这个类比中，危险来自权力不对等与不同的优先事项，而不一定来自恶意。随后，她指出了这项预测背后的一个假设：大脑本质上是统计模型，而规模足够大的统计系统，可以复制或超越人类智能。她反复强调，这是一项存在争议的假说，而不是已经确立的科学结论。