← Dwarkesh Podcast

Steve Hsu:智力、胚胎筛选与人类的未来

Steve Hsu - Intelligence, Embryo Selection, & The Future of Humanity

第2022-08-23期2022-08-23简体中文

嘉宾:Steve Hsu

收听本集00:00 / 2:20:49
阅读设置
按你的习惯阅读
正文字号
下载播客精读
把这一篇,带走慢慢读

中文 · 精读 · 当前版本

下载功能还未开放

§01Steve Hsu:智力、胚胎筛选与人类的未来

今天我很荣幸能和 Steve Hsu 对话。Steve,感谢你来做客这期播客,我对这次对话很期待。

00:04嘿,我的荣幸!我也很期待。我想说,我听过你早些时候的一些访谈,觉得你很有洞察力,所以我很高兴能和你聊聊。

00:14听你这么说对我意义重大,因为我是你播客的忠实粉丝。

§02费曼关于追女孩的建议

00:17那我的第一个问题是:“理查德·费曼(Richard Feynman)给过你什么追女孩的建议?”

00:24哈哈,哇!是这样的,我大四那年春天的某一天,我正走过校园,看到费曼迎面走来。我们因为各种事情认识——校园很小,我是物理专业的,而他是我的偶像——所以我从大一起就认识他了。他看到我,带着那种长岛或者纽约市区的口音说:“嘿,Hsu!”

我说:“您好,费曼教授。”我们就聊了起来。他对我说:“哇,你块头真大。”当然,我那时候比现在大得多,因为我是加州理工橄榄球队的线卫。我当时大约 200 磅,身高略高于 6 英尺。我那时是个健身房常客,块头比他大得多。他说:“Steve,我得问你点事。”费曼生于 1918 年,所以他不属于现代这个时代。第二次世界大战爆发时他正在读研究生。所以他理解不了健身俱乐部或者健身房是怎么回事。那是 80 年代,Gold’s Gym 正在成为全国性的连锁品牌。到处都有健身房,比如 24-Hour Fitness。但是费曼不知道那是什么。

他是个很有意思的人。他对我说:“你们在那儿都干什么?那只是个认识女孩的地方吗?还是真的是为了训练?你们去那儿是为了练壮吗?”于是我开始向他解释,人们去那儿是为了变大块头,但人们也会在那儿看女孩。健身俱乐部或者举重室里有很多事情在发生。费曼就这个问题盘问了我很久。关于费曼的一个著名特点就是他有激光般的专注力。所以只要有他不明白、又想弄个水落石出的事,他就会盯着你,开始不停地提问,直到弄清楚为止。他的大脑就是这样运作的。因为他不理解举重之类的事情,所以他就那样对我问了好一阵。最后他对我说:“哇,Steve,谢谢你。让我给你一些好建议。”

然后,他开始告诉我怎么追女孩——这方面他可是专家。他对我说:“我不知道女孩们有多喜欢像你这么大块头的家伙。”他觉得这可能会让人反感。“不过你知道吗,你笑起来很好看。”这是他给我的唯一一句夸奖。接着,他开始跟我说,这是个数字游戏。你得理性地对待。你在机场休息室,或者在酒吧里。那是帕萨迪纳或者韦斯特伍德的一个周六晚上,你在和某个女孩聊天。他说:“你再也不会见到她了。这是你五分钟的交流。该做什么就做什么。如果她不喜欢你,就去找下一个。”他还分享了一些很有“色彩”的细节。但重点是,你不该在乎她们怎么看你。你只管做你自己的事。他在加州理工确实有风流浪子的名声,这个我也可以展开讲,不过这些我都是从秘书们那里听来的。

04:30是跟学生,还是只跟秘书们?

04:35秘书!嗯,主要是秘书。那时候她们几乎全是女性。他对这件事想了很多,把它看作一个数字游戏。PUA 们(搭讪艺术家,pick-up artists)会说:“照着算法走,不管发生什么,都不代表你自尊心有问题。那只是发生了的事。然后你继续去找下一个。”这就是他给我的建议,他还说了其他一些相当常见的东西:要幽默,要自信——都是些基本的东西。Steve Hu:不过我记得最主要的,是他把这件事操作化成了一套算法。如果被拒绝了,你不应该往心里去,因为那会让人受伤。当年我们要穿过酒吧去跟那个女孩搭话时(也许在你们这一代已经不这样了),那真是吓死人。我们得穿过酒吧去跟某位女士说话!环境很吵,你只有几分钟时间来争取。没有什么比走向那个女孩和她的朋友们更可怕的了。费曼是在告诉我要训练自己克服这种恐惧。你再也不会见到她们了;人类的“面孔空间”那么大,你多半不会再遇到她们。这无关紧要。所以,尽力就好。

06:06嗯,这很有意思,因为……我在想他是不是在 40 年代就这样做了——就是在他那个年纪的时候,他是这样做的吗?我不知道当时的文化习俗是什么样的。40 年代有那种你可以直接上去搭讪女孩的酒吧吗?还是说……?

06:19哦,当然有,绝对有。如果你读那个时代的文学,或者再早一点的,比如海明威或者约翰·奥哈拉(John O’Hara),他们会写到男女在纽约市的酒吧之类的地方是怎么交往的。所以,那在当时比你们这一代要普遍得多。这正是我对自己的孩子们搞不明白的地方!到底是怎么回事?现在的男孩女孩是怎么认识的?以前,男生得做所有的事。那是你能做的最吓人的事,你得训练自己克服它。

06:57顺便说一下,为了给听众交代背景,费曼说你块头大,是因为你曾是加州理工的橄榄球运动员,对吧?你的网站上有一张照片,可能是大学毕业前后拍的,你看起来肌肉相当发达。今天因为健身文化,这似乎更常见了。但我不知道当年怎么样。我不知道那种体格在当时有多常见。

07:24你居然会问这个问题,真让人惊讶。我给你讲个有趣的故事。费曼觉得这事这么奇怪的原因之一,是健美运动进入美国的方式。起初,人们把健美者看作怪胎和同性恋。我记得我在高中时练游泳和橄榄球(游泳不一样,因为它是国际性的),在游泳方面,我从俄罗斯人和东德人那里学到了很多先进的训练技术。但橄榄球更偏美国本土,不太国际化。所以我们的橄榄球教练在我们上初中的时候常告诉我们不要举重,因为那会让你变慢。“块头太大就没用。”“打橄榄球你得快。”然后在我上高中前后,情况变了——教练们开窍了。我因为是青少年组游泳运动员,大概 12 岁或 14 岁就开始举重了。后来橄榄球教练们也开始搞这个,主要是因为内布拉斯加大学有一个著名的力量训练项目,把它推广开了。那时候,大块头的人确实不多。懂得怎么训练的人,用的是 80 年代所谓的“高级知识”。比如,他们知道怎么做分化训练,一天练深蹲,第二天练上肢——这在当时被认为是高级知识。我记得有一次……我受了伤,在加州理工体育设施的训练师办公室里。那位女士在看我的股四头肌。我拉伤了肌肉,她在看膝盖骨正上方的股四头肌。如果你的股四头肌发达,膝盖骨上方会有一个隆起,一个鼓包。她是从这个角度看的,站在我面前,从正面看我的腿。她说:“哇,肿了。”我说:“那不是伤,那是我的股四头肌!”而她可是个训练师!当时我大概能深蹲 400 磅。所以我挺强壮的,腿也很粗壮。训练师居然不明白发达的身体结构应该是什么样子,这让我大为震惊!

总之,我们已经走了很远了。这不是那种必须上了年纪才能了解这些东西在过去三四十年里是如何演变的事情。

10:13不过,我在想,这是不是只是那个特定时代的现象,还是说在人类历史上人们本来就没那么肌肉发达。你听过一些故事,说罗马士兵每天背着 80 磅走 10 到 20 英里。我是说,古代世界有很多雕塑,或者没那么古老的,那些人看起来肌肉都很发达。

10:34希腊人很特别,因为他们是第一批想到“体育馆”(gymnasium)这个词的人。有一种叫摔跤学校(Palaestra)的地方,他们在那里训练摔跤和拳击。他们是第一批认真投入体育文化、为竞技比赛做专门训练的人。

即使在 70 年代,我还是个小孩的时候,回头看老照片里的那些男人,他们都很瘦。非常瘦!那些上战场打第二次世界大战的人,不管是德国一方还是美国一方,都是 5 英尺 8 到 9 英寸,体重大约 130 到 140 磅。他们和现代美国海军陆战队员的样子大不相同。所以是的,体育文化是个新鲜事物。当然,罗马人和希腊人在某种程度上有过,但它失传了很长时间。而在我成长的时候,它才刚刚回到美国。所以如果你相当精瘦(大约 200 磅)而且卧推能超过 300 磅……在那个年代是相当罕见的。

§03胚胎筛选

11:46好的,那我们来聊聊你的公司 Genomic Prediction。你能介绍一下这家公司,讲讲它是做什么的吗?

11:55好的。介绍它有两种方式:一种是科学视角,另一种是试管婴儿(IVF)视角。两种我都可以讲一点。从科学上说,问题在于我们拥有越来越多的基因组数据。如果你给我一批人的基因组,再给我每个人的一些信息,比如:他们有糖尿病吗?他们多高?他们的智商分数是多少?那么,找出人与人之间 DNA 变异中的哪些特征能够预测你想预测的变量,就是一个很自然的人工智能、机器学习问题。

这是一个古老的科学问题:如何把生物体的基因型(具体的 DNA 模式)与表型(生物体表现出来的特征)联系起来。仔细想想,这就是生物学本身!我们经历了分子革命,弄清楚了是人的 DNA 存储着被传递下去的信息。进化是依据 DNA 变异所表达出的表型来选择的,因为这种表型会影响适应度/繁殖成功率。这就是生物学的全部游戏。作为一个受过数学和计算训练的物理学家,我很幸运,赶上了这样一个时代:我们将通过蛮力计算、人工智能和机器学习来解决生物学这个最基本的根本性问题。这就是我进入这个领域的经过。现在你作为创业者会问:“好吧,Steve,你和你的博士后及合作者在办公室里用电脑做这些研究。它有什么用呢?”

最直接的应用场景是这样的:全世界每年都有数百万个家庭做试管婴儿(IVF)——通常是因为他们有生育方面的问题,而且主要是因为母亲已经 30 多岁甚至 40 来岁了。在试管婴儿的过程中,他们用激素刺激来产生更多的卵子。每个周期不是只有一个,而是根据女性的年龄,可能产生五到二十个,对于接受激素刺激的年轻女性(卵子捐赠者)甚至可以有六十到一百个。接下来就简单了,因为男性一直在产生精子。你可以很容易地在一个小培养皿里让卵子受精,得到一批胚胎并让它们生长。受精之后它们就开始生长了。问题是,如果你是一个家庭,产生的胚胎比你要用的多,你就面临胚胎选择问题。你得从比如 20 个可存活的胚胎里弄清楚选哪一个。

我所描述的这门科学最直接的应用,就是我们现在可以通过少量活检样本对这些胚胎进行基因分型。我可以告诉你这些胚胎的一些情况。比如我可以告诉你,你的第四号胚胎是个离群值。就乳腺癌风险而言,我会认真考虑是否使用四号。十号在心血管疾病风险上是离群值。你可能要考虑不用那一个。其他的都还行。这就是 Genomic Prediction 所做的事。我们与六大洲的 200 到 300 家不同的试管婴儿诊所合作。

15:46是的,这件事超级迷人的地方在于,你谈到的那些疾病——至少它们的风险概况——是多基因的。可能有成千上万个 SNP(单核苷酸多态性)决定你是否会患某种疾病。所以我很好奇,你是如何转入这个领域的,你的数学和物理知识又是如何帮助你弄清楚如何理解所有这些数据的。

16:16嗯,这是个好问题。所以,我刚才是在强调这一切在基础科学上的重要性。如果你再深入到稍微细一点的层面——也就是你提到的单个 SNP,或者说多态性——基因组中有一些个别位置,在那里我可能和你不同,你也可能和另一个人不同。通常每一对个体在基因组中会有几百万个位置不同——这就控制了为什么我看起来和你有点不一样

很多时候,理论物理学家会有一点多余的精力,对思考夸克之类的东西感到厌倦。他们可能想涉足一下生物学,或者计算机科学,或者别的什么领域。作为理论物理学家,我们总觉得:“哦,我马力很足,什么都能搞明白。”(比如,费曼就曾帮助设计了 Thinking Machines 公司的第一批并行处理器。)我必须搞清楚自己能在哪些问题上产生影响,因为我可能会浪费大量时间。有些人把一生都花在研究一个问题、一个分子或者一个生物系统上。我没有时间做那样的事,我只想跳进去,再跳出来。我是个物理学家。这是理论物理学家中很典型的态度。所以,大约十年前,我必须直面测序成本的问题,因为我知道它下降的速度。我能预见到总有一天(也就是今天),会有数百万份带有良好表型数据的基因组可供分析。一次典型的训练可能会用到将近一百万份或五十万份基因组。于是,数学上的问题就是:给定一组基因组和表型信息,什么是构建最佳预测器的最有效算法?这可以归结为一个定义非常明确的机器学习问题。结果发现,对于某一类算法,存在一些定理——性能保证,它们给出了一个界限,告诉你需要多少数据才能捕捉到特征中几乎所有的变异。我花了不少时间,大概一两年,研究这些非常著名的结果,其中一些是由一位名叫陶哲轩(Terence Tao)的菲尔兹奖得主证明的。这些结果涉及一种叫压缩感知(compressed sensing)的方法:一种带惩罚项的高维回归,试图构建稀疏预测器。搞机器学习的人可能会注意到这就是 L1 惩罚优化。我们就此写的第一篇论文,是要证明:把准确的基因组数据和这些非常抽象的定理结合起来,可以预测要“解出”人类个体性状需要多少数据。我们表明,要把身高作为一种表型解出来,至少需要几十万个人的基因组和他们的身高数据。我们在 2012 年的一篇论文里用所有这些花哨的数学证明了这一点。然后在 2017 年前后,当我们拿到了五十万份基因组时,我们就能在实践中实现它,并证明我们几年前得出的数学结果是正确的。预测器从低性能到高性能的转变(我们称之为这两个区域之间的“相变边界”)恰好发生在我们所说的位置。即使是计算基因组学中数学功底不那么深的从业者,也不理解其中的一些技术细节。他们不理解我们早期论文里的这些结果,也不明白为什么我们能做到别人做不到的事,或者为什么我们能预测做成这些事需要多少数据。这在这个领域里都没有得到充分的重视。但是,当未来奇点中的那个大 AI 回头看,问:“嘿,21 世纪初发生的这场基因组学革命,功劳最大的是谁?”它们会在 arXiv 上找到这些论文,我们在其中证明了这是可能的,以及五年后我们是如何真正做到的。现在,这被低估了,但未来的 AI——那个 Roko’s Basilisk(罗蝎蛇)AI——会回头看,并给我记上一点功劳。

21:03是的,几年前我对这个有点兴趣。当时我研究了这些多基因风险评分是怎么计算的。基本上,你找出表型与和它相关的等位基因之间的相关性。你把你拥有的这些等位基因的拷贝数加起来,乘上相关性,做一个加权求和。所以这看起来非常简单,尤其是在我们拥有各种机器学习的时代,但它似乎确实从这个概念中得到了不错的预测结果。那么,用所有这些花哨的数学能做到多好,与简单地对相关性求和相比,差距有多大?

21:43你说得对,经过所有训练、尘埃落定之后所使用的最终模型是很直接的。它们相当简单,具有加性结构。基本上,我要么给基因组中这个特定区域分配一个非零权重,要么不分配。然后我需要知道权重是多少,不过那个函数就是你的基因组在某个位置子集上的状态的线性函数或加性函数。你最终得到的模型是很直接的。不过,如果回到十年前我们做这件事的时候,当时有很多说法称它会是极度非线性的——不会像我刚才描述的那样是加性的。区域之间会有大量的交互项。有些生物学家至今仍然相信这一点,尽管我们已经知道我们有不含交互项的预测器。

另一个更技术性的问题是,在你基因组的任何一个小区域里,各个变异的状态是高度相关的,因为它们是成块遗传的。你需要弄清楚要用其中哪一个。你不想把它们全部激活,因为那样可能会重复计算。所以,这就是 L1 惩罚稀疏方法的作用,它迫使预测器保持稀疏。这是关键的一步。否则,你可能会重复计算。如果你做一些简单的回归运算,你可能会在附近有十来个统计显著性大致相同的不同变异。

但是,你不知道其中哪一个才是真正起作用的,你可能会高估或低估效应。所以,你最终要做一个高维优化,在信号足够强的时候,才勉强激活一个 SNP。一旦你激活了那一个,算法就必须足够聪明,去惩罚附近的其他 SNP,不去激活它们,因为那样做会重复计算效应。这里面有一点微妙之处。但是,你提出的主要观点是对的:最终的预测器非常简单,是加性的——对效应大小与状态求和——而且效果很好。这与一个关于个体差异的遗传结构具有加性结构的深刻论断有关。

换句话说,奇怪的是,我与你的不同之处仅仅是因为我拥有更多的某种东西,或者你拥有更少的某种东西。并不是说这些东西以某种极其可理解的方式相互作用。这是一件很深刻的事——生物学家们对此还没有太多认识。但随着时间推移,他们会在这里发现一些有趣的东西。

§04为什么自然选择没有早已把人类优化到极致?

24:19对。我觉得这超级迷人,我还在推特上评论过。有意思的地方有两点。第一,关于为什么会这样,有一个很迷人的进化论论证,你也许可以解释一下。第二,它让人不禁想,变得更聪明是不是只是打开某些 SNP 的问题。并不是说需要像解数独那样做一大堆不可思议的优化。如果真是这样,那为什么人类群体没有早就被选择到在所有这些性状上都达到极致呢,如果这只是翻转一个比特的事?

25:00好的,第一个问题是,为什么这种遗传结构如此出人意料地简单?再说一次,十年前我们并不知道它会这么简单。所以,当我在考察这是不是一个我应该根据自己的能力去取得进展并进入的领域时,我们不得不研究非线性可能性这个更一般的问题。但最终,我们意识到,大部分方差很可能可以用加性的方式捕捉。因此,我们可以把问题大大缩小。这在进化上是有原因的。有一个著名的定理,出自费希尔(Fisher),他是群体遗传学(也就是频率学派统计学)之父。费希尔证明了所谓的“费希尔自然选择基本定理”(Fisher’s Fundamental Theorem of Natural Selection),它说的是:如果你对一个种群施加某种选择压力(比如说,是个头更大的老鼠胜过个头更小的老鼠),那么这个种群对选择压力做出反应的速度——也就是老鼠种群以什么速度开始变大?他证明了,主导进化速度的是加性变异。很容易理解为什么:如果是非线性机制,你要让老鼠变大,而在有性生殖时,基因被切碎重组,你可能会破坏那个机制。而如果每个短的等位基因都有自己独立的效应,你就可以遗传它们,而不必担心破坏机制。在一小撮理论生物学家当中,大家都清楚,叠加变异是种群应对选择的主要方式。这一点早已为人所知。另一件事是,人类经历过相当窄的瓶颈期,我们彼此之间并没有那么大差别。很有可能,如果我想编辑一个人类胚胎把它变成一只青蛙,那我得做各种微妙的非线性的事情。但是所有那些相同的、非线性的复杂子系统在人类中是固定的。你的系统和我的一样。你拥有那段 DNA 区域的“非人类、非青蛙或猿类”的版本,我也一样。而我们之间微小的差异,大多是一些小小的加性开关。这是过去五到十年这一领域的研究工作带来的深刻科学发现。

现在,你问的是为什么进化没有早已把人类的所有性状都完全“优化”。我不知道你有没有做过深度学习或高维优化,但在那种高维空间里,你经常是在一个略微倾斜的表面上移动。所以,你在获得收益,但表面同时又是平的。即使你把算力或数据规模放大一个数量级,你也不会走得多远。你会得到一些收益,但在这些高维空间里,你永远不会真正到达任何东西的全局最大值。我不知道这对你是否说得通。但在我看来,很可信的是,这里有两件事很重要。第一,进化并没有那么多时间去优化人类。人类所处的环境在过去一万年里发生了根本性的变化。曾经有一段时间我们没有农业,现在我们有了农业。现在,我们有“左滑”(swipe left)这种东西,决定你今晚是否发生性行为。环境没有保持不变。所以,当你说完全针对环境优化时,你指的是什么?

对矩阵做对角化的能力,在一万年前可能并不太适应环境。甚至现在也未必适应。总之,这是一个复杂的问题,不能天真地去推理。“如果上帝想让我们有 10 英尺高,我们就会有 10 英尺高。”或者“如果聪明更好,我的大脑就会有这么大”之类的。对这类事情,你不能天真地推理。

29:04我明白了。嗯……好的。那我想这就说得通了,比如某些健康风险,今天让你更容易得糖尿病或心脏病的东西,可能……我不知道它的多效性(pleiotropic)效应可能是什么。但也许一年之后它就没那么重要了。

29:17让我指出,我们现在关心的大多数疾病——不是罕见病,而是常见病——都是在你 50 到 60 岁时才表现出来的。所以,活得特别长从来没有带来过进化上的优势。甚至还有一种争论:祖父母在身边帮忙抚养孩子,是否会提高整个家庭单位的适应度。但在我们进化历史的大部分时间里,人类就是相当早死的。所以,这些疾病中有很多从来没有受到过进化的针对性优化。但我们现在看到它们,是因为我们生活的条件如此之好,能让人活到 80 岁、90 岁以上。

29:57关于线性和加性这一点,我本想做一个类比——我不确定这个类比是否成立——就是在编程的时候,一个好的做法是把所有的实现细节放在单独的函数调用或者单独的程序里,然后让你的主循环只是调用不同的函数,比如“做这个,做那个”,这样你就可以很容易地注释掉一些东西或者改变参数。这看起来与之很相似:通过打开和关闭这些名称,你可以改变接下来的产出会是什么。而且,你不必操心底层的机制究竟是怎么实现的。

30:41嗯,你说的和费希尔在他的定理中证明的东西有关。也就是说,如果突然间,拥有 X 变得有利(比如白毛而不是黑毛),那么最好的情况就是有一些小拨杆,你可以通过以加性的方式修改这些开关,让某个个体从黑毛连续地变为白毛。事实证明,对于有性生殖、DNA 在每一代都被打乱的物种来说,拥有这种类型的开关更好。与你的软件类比相关的另一点是,基因组中似乎有模块化的、相当模块化的东西在运作。

我们研究这件事的时候,我们是第一个拥有最初 20 种主要疾病的像样预测器的团队。我们开始仔细看一个看似很简单的东西:我那个稀疏训练出来的预测器之间的重叠程度。它会为糖尿病打开并使用这些特征,却为精神分裂症使用另一些特征。这是最愚蠢的度量,实际上就是成对疾病之间有多少重叠,或者说所解释的方差有多少重叠。重叠非常小。这与天真的生物学家谈到多效性(pleiotropy)时会说的恰恰相反。它们是互不相交的!是你基因组中互不相交的区域在控制某些东西。为什么不能这样呢?你有 30 亿个碱基对——里面可做的事情太多了。那里有大量的信息。如果控制糖尿病风险需要 1000 个位点,我估计你完全可以有 1000 个在遗传依赖上互不相交、大致独立的性状。所以,如果你想想《龙与地下城》(D&D),你的力量、敏捷、智慧、智力和魅力——它们都是互不相交的。它们都只是独立的变量。所以就像你的角色生活在一个七维空间里。而你我之间那几百万个差异,包含的信息量足够支撑一个 1000 维的变异空间。

“哦,你的脾脏有多大?”我的脾脏小一点,你的大一点——这可以独立于你的智商而变化。哦,这可真让人意外。你脾脏的大小可以独立于你大脚趾的大小而变化。如果你用信息论来算,我可以根据你我之间变异的数量,独立地改变大约 1000 个不同的参数。因为你懂一些信息论,所以很容易向你解释,但你试着向生物学家解释,就没那么容易了。

33:27是啊,是啊,就是取……的以二为底的对数,基本上就是这样算的吗?对。

33:33对,就这么简单。我是说,这在我们的论文里。我们看了通常有多少个变异解释了这些主要性状中大部分的变异,然后设想它们大多互不相交。那么问题就只是:你需要多少个变异才能独立改变 1000 个性状?嗯,你我之间的几百万个差异就足够了。这是非常简单的数学。一旦你理解了基础,知道如何用信息论去推理,那就非常简单了。但是据我所知,对理论生物学家来说,这可不简单。

§05衰老

34:13但这个结果非常有意思,因为我记得在《自私的基因》里读到,他(道金斯)假设我们之所以会衰老,是由于一种拮抗性的冲突。有某种东西在你年轻、有生育能力时让你更健康,却在你年老时让你变得不健康。进化会选择这样的权衡,因为当你年轻、有生育能力时,进化和你的基因是在乎你的。但是,如果基因组里有足够的空间——在那里这些权衡并非必然需要——那么这可能就是对衰老的一个糟糕解释,还是说你觉得我在强行类比?

34:49我喜欢你的访谈,因为你在这里提出的观点真的很好。道金斯是老派的进化理论家,那时候他们几乎没有数据——你可以想象他们的数据量与今天相比有多少——他会给你讲一个关于某个特定基因的故事,这个基因也许在你年轻时有正面作用,但会让你衰老得更快。

所以,这里存在权衡。我们知道镰状细胞贫血之类的例子。我们知道这方面的故事。毫无疑问,关于你基因组中的特定变异,有些故事是真的。但这不是普遍的情况。你在过去五年里才发现的普遍情况是:成千上万个变异控制着几乎每一种性状,而这些变异往往与控制其他性状的变异互不相交。他们并没有错,但他们没有看到全局。

35:44对,我明白了。所以你有一篇论文,里面有多基因、健康指数、总体健康和疾病风险……你表明,有十个胚胎的话,你可以把伤残调整生命年增加四年,仔细想想这是一个巨大的提升。比如,如果你能多活四年,而且是健康状态下的四年呢?

36:05是啊,这值多少钱?你会愿意花多少钱,为你的孩子买到这个?

36:08是的。但是,回到之前关于权衡的问题,以及为什么这没有早就被选择出来:如果你是对的,而且这样做并没有权衡,那么只是多活四年(即使那已经超出了你的生育年龄),只是当个爷爷之类的,看起来是纯粹的好事。那么为什么这种保障没有早就被选择出来呢?

36:35我很高兴你问这些问题,因为这些是人们非常困惑的事情,即使在这个领域里也是如此。首先,让我说,当一个性状由 10,000 个变异控制时(例如,身高由大约 10,000 个变异控制,认知能力可能还要多一点),10,000 的平方根是 100。所以,如果我来到这个小小的胚胎面前,想给它多加一个标准差的身高,我只需要编辑 100 个位点。我只需要把 100 个“负向”变异翻转成“正向”变异。这些都是非常粗略的数字。但是,一个标准差就是“n”的平方根。如果我抛“n”次硬币,我想在正反面比例上得到一个更好的结果。我想把它提高一个标准差。我只需要多翻转“n”的平方根个正面,因为如果你抛很多次,你会得到一个在一半附近达到峰值的窄分布,而这个分布的宽度就是“n”的平方根。

一旦我告诉你:“嘿,你的身高由 10,000 个变异控制,而我只需要翻转 100 个遗传变异,就能让你(作为男性)提高一个标准差”(那大约是高三英寸,两英寸半或三英寸),你就会突然意识到:“等一下,这里有很多变异可以拿来用。如果我能翻转你基因组中的 500 个变异,我就能让你高出五个标准差,你会有七英尺高。”我甚至没怎么费力,而且那里还有更多的变异可用。我本可以翻转更多,因为我只翻转了 10,000 个里的 500 个,对吧?所以,这里有一口近乎无穷无尽的变异之井,进化或基因工程师都可以利用。再说一遍,早期培育玉米和动物的群体遗传学家就知道这一点。这是他们明确知道的东西,因为他们做过计算。

有趣的是,主要关注疾病之类问题的人类遗传学家,往往不熟悉动物育种者早已掌握的数学。你可能有兴趣知道,你喝的牛奶来自经过高度遗传优化的奶牛,是用与我们做基因组预测几乎完全相同的技术人工培育出来的。不过他们是为了优化产奶量之类的东西。所以确实存在一口巨大的变异之井。这是性状多基因性的一个结果。在长寿方面,看起来人们确实可以通过翻转那些会提高缩短寿命的疾病风险的变异,而被“改造”得活得更久。那么问题就是:“为什么进化没有给我们几千年的寿命?”《圣经》里的人曾经活了几千年。我们为什么不行?我是说,(笑)那多半没有发生过。但问题在于,你有这个非常高维的空间,你有一个适应度函数。这个适应度函数在某个特定方向上的斜率有多大?如果穴居人乔活到 150 岁而不是只活 100 岁左右,他在繁殖上会成功多少?只是没有足够的时间去探索这个超高维空间。这才是真正的答案。但现在,我们有了技术,我们他妈的要快速地探索它。这才是应该让人恍然大悟的地方。我们现在正在绘制这个空间的地图。我相当有信心,大约十年后,CRISPR 基因编辑技术将为大规模多重编辑做好准备。我们将开始在这个高维空间里想怎么导航就怎么导航。这就是这些科学洞见更长远的后果。

40:53对,这太有意思了。你认为寿命这个性状的平台期会在哪里?以目前的数据和技术,你认为它能显著高于那个水平吗?

41:05我们做了一个简单的计算——令人惊讶的是它给出了正确的结果。我们构建的这个多基因预测器(还不完美,但随着我们收集更多数据会不断改进)今天就在被用于筛选胚胎。如果你问:在十亿人中,“典型来说最好的那个人,在这个指数上的得分会是多少,然后预测他们能活多久?”大约是 120 岁。所以完全吻合。

十亿分之一的那种人能活到 120 岁。你还能做得多好?可能好得多。我不想猜测,但其他的非线性效应,以及我们没有考虑到的东西,在某个时刻会开始起作用。所以,很难估计真正的限制因素会是什么。

但有一个超级稳健的论断,我会坚持它,甚至愿意与任何想讨论的生物学诺贝尔奖得主辩论,那就是:有很多变异可供选择或编辑。这一点毫无疑问。这在动物育种、植物育种中已经确立很长时间了。如果你想要一只长到这么大而不是这么大的鸡,你可以做到。如果你想要一头产奶量是普通奶牛 10 倍或 100 倍的奶牛,你也可以做到。你今天早上早餐吃的鸡蛋,那些经过生物工程改造、几乎每天下一个蛋的鸡……野外的鸡一个月才下一个蛋。我们到底是怎么做到的?通过基因工程。我们就是这么做到的。

42:51是的。那是通过粗暴的人工选择实现的。没有什么花哨的机器学习。

42:58过去十年,已经发展到对鸡进行复杂的机器学习基因分型。过去十年里,人工授精、用机器学习对性状建模。奶牛育种就是用机器学习完成的。

§06先发优势

43:18我完全不知道。这太有意思了。你提到你在不断积累数据、随着时间推移改进你的技术,那么像这样的基因组预测公司有先发优势吗?还是说,谁拥有最新、最好的算法来处理生物样本库的数据,谁就赢?

44:16这是另一个很棒的问题。对你听众中的创业者,我想说,从短期看,如果你问 GP 的估值应该是多少?这是风投们希望我回答的方式。先发优势是巨大的,因为我们和诊所之间的渠道关系很重要。后来者不会很容易挤进去,因为我们正在与全球的诊所建立信任和广泛的业绩记录——而且我们很有名。

那么,23andMe 或者某家拥有海量数据的公司——如果他们找来更好的 AI/ML 人才来做这件事——会不会因为数据比我们多得多,而在一定程度上把我们压倒,构建出更好的预测器?有可能,是的。不过,我们多年来一直拥有做这项工作的核心专长,我们就是擅长这个。即使我们的数据没有 23andMe 那么多,我们的预测器仍然可能比他们的更好。

我一直在外面跑,和世界各地的生物样本库合作。我不想说出所有的名字,但其他国家也在努力获取尽可能多的数据。

但是,除了在那个特定市场里实际的业务渠道关系之外,可能并没有持久的优势。公司周围可能没有一条可防御的、纯科学的护城河。我们在关于如何进行基因分型、或对胚胎 DNA 做纠错等具体技术上有专利。我们确实在这类东西上有专利。但是,谁能最好地从 DNA 预测人类性状,这个总体想法呢?谁会成为这场竞赛的赢家并不清楚。也许 50 年后是中国政府?谁知道呢?

46:13是的,这很有意思。如果你想想 Google 这样的公司,理论上,你有可能想出比 PageRank 更好的算法并击败他们。但看起来 Google 的工程师会想出任何可能的边缘情形处理或任何可能的改进。

46:28我也正是这么想的。PageRank 现在已经过时了。但是,即使别人想出了一个稍微好一点的算法,只要他们多一点数据,如果你有一个团队长期做这件事,专注而且优秀,别人仍然很难打败你,尤其是当你在市场上领先的时候。

46:50那么,你们是自己做实际的活检吗?还是他们只是上传基因组,由你们来处理并给出建议?基本上是一次 API 调用吗?

47:03太好了,我喜欢你的问题。这完全是标准流程。世界上每一家好的试管婴儿诊所都会定期做胚胎活检。所以这是标准做法。有实验室技术员在做这件事。好的。然后,他们取下那一小份样本,放在冰上,寄过来。DNA 作为一种分子异常坚固稳定。我的另一家创业公司利用 DNA 来侦破 100 年前的案件,这些 DNA 来自强奸受害者身上的精液斑迹、连环杀手受害者的胸罩带,这类事情我们都做过。

47:41开膛手杰克(Jack the Ripper),我们什么时候能破解这个谜团?

47:44如果他们能给我样本,我们就能做这件事。比如,我们刚刚了解到,如果有人舔一下邮票贴在信件上,你可以相当好地从中提取出 DNA。既然连尼安德特人都能做,那在破案方面就能做很多事。在试管婴儿的工作流程里,我们位于新泽西的实验室可以服务世界上每一家诊所,因为他们取下活检样本,放进标准的运输容器,寄给我们。我们实际上是在自己的实验室里对 DNA 进行基因分型,但我们也培训了几家较大的诊所在他们自己的场地做基因分型。到那时,他们把一些数据上传到云端,然后从我们的平台取回一些东西。到那个时候,这将是全世界,每一个希望自己的孩子健康、得到尽可能最好条件的人——那些数据会传到我们这里,报告再传回给他们的试管婴儿医生。

48:46如果你认为这项技术有可能会受到某种监管,那这很棒:你可以去墨西哥之类的地方,让他们上传基因组(你不在乎他们从哪里上传),然后在那里得到推荐结果。

49:05我认为我们会演变到这样一个阶段:我们将退出这门生意中“湿”的部分,只留在云端和比特的部分。无论在哪里,诊所都会有一台测序仪,大概这么大,他们的技术员会很快上传数据,三秒钟后取回给医生的报告。然后,父母会在手机之类的设备上查看。我们和一些诊所基本上已经做到这一点了。这很难监管,因为它就是这样的:你拥有的是比特,你身处某个压抑、糟糕的国家,那里不允许你选择一些人们紧张的特殊性状,但你可以把数据上传给新加坡或某个自由国家的供应商,他们把报告发回给你。

不一定是我们,我们不做那些有争议的东西。我们目前只做与健康相关的事情。但是,如果你想知道这个胚胎将来会有多高……我告诉你一件令人震惊的事!当你在 AI 里做人脸识别时,你是把某人的脸映射到一个有几百个参数量级的参数空间里,而这些参数中的每一个都是高度可遗传的。

换句话说,如果我给一对双胞胎拍照,算法给出双胞胎一号和二号的那个参数的值,它们非常接近。这就是为什么我分不清这两个双胞胎,而人脸识别系统如果真的很好,最终能把他们区分开。但你可以得出结论:对这对双胞胎来说,几乎所有这些参数都是相同的。所以它是高度可遗传的。

我们很快就会到达这样一个阶段:我可以反过来解决这个问题,也就是我有你的 DNA,我预测人脸识别算法里的每一个参数,然后重建出这张脸。如果我说,当这个胚胎 16 岁时,她会长成这个样子。当她 32 岁时,她会长成这个样子。我肯定能做到这一点。现在这只是一个 AI/ML 问题。但基础生物学显然是行得通的。所以到那时你就能说:“这是一份报告。四号胚胎好可爱。”以前我们不知道我们不会做这个,但它将变得可能。

51:37在我们结婚之前,你会想看看他们的基因型对他们面孔的“持久度”意味着什么。有意思的是,你听说过一些毒枭头目会做整容手术之类的来躲避法律,你可以做一次检查:看一个实验室结果,看它是否与你五年前被他们录像抓到时本该有的那张脸相符。

52:02这有点回到老派的《千钧一发》(Gattaca)了,但你甚至不需要脸!你只需要取几个皮肤细胞分子,对它们做表型分析,就能确切知道他们是谁。我和那些神秘的情报圈人士谈过。他们非常感兴趣的是:“哦,如果某个俄罗斯外交官来了,我们认为他是间谍,但他有大使馆的身份,他和我喝了杯咖啡,我留下杯子寄给我在兰利的哥们,我们能不能查出这个人是谁?而且他有个女儿要去乔特中学(Choate,原文转录作 Chote)读书?”这些现在都能做到。

52:49如果这是真的,那么将来世界各国领导人就不会想吃任何东西或喝任何东西了。他们会穿着防化服,确保不会掉一根毛囊。

53:04下次佩洛西(Pelosi)去的时候,如果她在意的话,她会穿着太空服。或者另一种情况是,他们干脆交出去。他们会说:“是啊,我的 DNA 到处都是。如果我是公众人物,我没法追踪我的 DNA。它到处都是。”

53:17但问题是,有那么多关于普京可能得了癌症之类的猜测。如果我们有他的 DNA,我们就能看出他在 70 岁,或者他现在多大年纪时,患癌症的概率是 85%。所以,那会是一个得到验证的传闻。那会很有意思。

53:33我认为那不会是很确凿的。我不认为我们会达到这样的地步:你能说普京得了癌症,是因为他的 DNA——我在他还是胚胎时就可以知道的东西。我不认为会达到那种程度。但是,我们可以说他罹患某种癌症的风险很高。

§07约会中的基因组学

53:49在 50 年或 100 年后,如果大多数人口都在这样做,而且高度可遗传的疾病被从人群中剔除,这是否意味着我们将只剩下生活方式疾病?也就是说,你不会再得乳腺癌,但你仍然会发胖,或者因为吸烟得肺癌?

54:18很难讨论这里最终的渐近极限会是什么。我对做这样的预测没有太大把握。可能会发展到这样的地步:每一个富有的人,或者已经经历这些事情一段时间的人(特别是如果我们让基因编辑起作用的话),对于对预期寿命影响最大的前 20 种致命疾病,风险都超级低。也许这些人自然就能活到 300 岁。我认为这完全没有被排除。所以,这在可能性的范围之内。但它会先发生在埃隆·马斯克(Elon Musk)这样的少数幸运儿身上,然后才轮到你我这样的普通人。

会有非常愤怒的反不平等抗议者,抗议特朗普的孙辈,模型预测他们会活到 200 岁。人们对此是不会高兴的。

55:23太有意思了。所以,看待这些不同胚胎的一种方式是:如果你制造了多个胚胎,并且可以从中挑选一个,那么每一个都有一份看涨期权,对吧?因此,你可能想要优化的是波动率,至少和优化该性状的期望值一样多,甚至更多。所以我在想,有没有什么机制可以在减数分裂或其他过程中增加波动率。你只是得到了更高的方差,然后你就可以从尾部做更好的挑选。

55:55嗯,我告诉你一件相关的、相当有趣的事。我和拥有所有约会应用的那家公司的一些相当资深的人聊过。你可以查一下是哪家公司,他们拥有 Tinder 和 Match。他们有点想考虑加入一项特殊功能:你上传你的基因组,来取代 Tinder Gold / Premium。当你们匹配时——可以根据你们的基因组谈谈你与对方有多匹配。有个人告诉我一件令人震惊的事。男生在这些应用上会谎报身高。

56:41我震惊了,真的震惊,哈哈哈。

56:45假设你可以有经过 DNA 验证的身高。这会防止严重的失真,比如有人声称自己 6 英尺 2 英寸,实际上是 5 英尺 9 英寸。DNA 可以说这不太可能。但不,对你刚才所讨论的内容的应用更像是这样:“假设我们在选择智力之类的东西。假设你女朋友所有正向位点所在的区域,与你的正向位点所在的区域是互补的。那么我们可以对此建模并说,由于你基因组中影响智力的那些区域的互补结构,你很可能会生下一些超级聪明的孩子,远高于你和你女朋友数值的平均值。所以,你可以说,比如娶这个女孩比娶另一个更好。只要你做胚胎筛选,我们就可以把糟糕的离群值剔除。这在技术上都是可行的。确实,最早的专利申请之一——她现在会否认。她叫什么名字来着?天哪,23andMe 的 CEO……沃西基(Wojcicki),对。她现在会否认。但是,如果你查专利数据库,23andMe 还是个小创业公司时提交的最早的专利之一,说的恰恰就是这个:就择偶以及孩子会长成什么样向父母提供建议,诸如此类。我们在 GP 甚至没有走这么远,我们甚至不谈这类东西,但他们在创立 23andMe 的时候就在考虑这些了。”

58:38这太不可思议地有意思了。顺便说一句,我刚想到——身高应该是高度可遗传的,尤其是在亚洲国家的人,他们的经历是祖父母比我们矮得多,然后父母也比我们矮,这暗示环境,比如营养不良之类的,在其中起很大作用。那么,你如何调和我们的父母往往比我们矮这一事实,与身高应该是超级可遗传这个观点呢?

59:09又是一个很棒的观察。正确的科学说法是:我们可以预测那些将在有利环境中出生和成长的人的身高。换句话说,如果你住在麦当劳附近,并且买得起你想要的所有食物,那么身高这个表型就变得超级可遗传,因为环境差异没有太大影响。但是,你我都知道,如果我们回到我们祖先来的地方,人们要矮小得多,而且如果你看他们吃的食物、热量、蛋白质和钙的量,也和我、和你成长过程中吃的不一样。所以我们从来没有说环境效应为零。我们说的是,对于在特别有利的环境中长大的人,也许基因对能达到的高度有一个上限,我们可以预测这一点。事实上,我们有来自亚洲的数据,在那里你可以看到大得多的环境效应。年龄的影响:对于性状上多基因评分固定的人,年长的人比年轻的人矮得多。

§08祖先人群

60:31哦,好的。有意思。这引出了我正要问的下一个问题:这些评分在不同祖先人群之间的适用性有多大?

60:44一个大问题是,大部分数据都来自欧洲人。情况是,如果你在这个祖先群体中训练一个预测器,然后用到一个血缘更远的祖先群体,预测质量就会下降。再说一次,这是一个前沿问题,所以我们并不确切知道答案。但很多人认为,每个人群中都有特定的相关结构:如果我知道这个 SNP 的状态,我就能预测邻近这些 SNP 的状态。这是该群体的婚配模式和祖先所造成的结果。有时,仅仅靠统计功效来找出规律的预测器,会抓取其中一个 SNP,把它当作真正因果 SNP 的标签。它并不知道哪个才是真正的因果位点,它只是抓了一个标签,但如果你换到另一个人群,这种标签的质量就会下降(例如:这个标签对英国人群中真正因果的 SNP 是非常好的标签。但对南亚人群中真正的因果 SNP,它就不是那么好的标签了,而我们假设这个因果 SNP 是同一个)。

在这些不同的祖先群体中,潜在的遗传结构是相同的。我们不知道这是不是一个假设。但即便如此,标签质量仍然会下降。所以我的团队花了大量时间观察用人群 A 训练的预测器在较远的人群 B 上的表现,并对它建模,试图检验各种假设,看是否仅仅是标签衰减造成了大部分缺陷。所有这些都是一个正在积极研究的领域。大概五年内会被解决。第一批非欧洲的大型生物样本库正在上线。我们会在几年内解决它。

62:38哦,解决方案会是什么样的?除非你能识别出每个 SNP 产生效应的因果机制,否则你怎么知道某个东西是标签,还是真正的底层开关?

62:54现实的本质将决定这件事怎么发展。所以我们并不真正知道这种内在的底层生物学是否成立。这是一件很了不起的事。人们争论人类生物多样性之类的事情,而我们甚至不知道那些让你更容易长高或得心脏病的具体机制,在这些不同的祖先群体中是否相同。我们假设是相同的,但我们并不知道。当我们再往远处看,比如尼安德特人或直立人,你可能会发现他们的结构与我们略有不同。

但让我们假设南亚人和英国人的因果结构是相同的。那么这就是改进标签的问题。如果我不知道哪一个是因果的,我怎么知道?我说的改进标签是什么意思?这是一个机器学习问题。如果有一个 SNP,每当我在多个祖先群体中使用它时,它总是显得非常显著,那么也许那个就是因果的。当我改变该 SNP 附近的标签相关性时,我总是发现那一个是所有这些不同集合的交集,这让我认为那一个会是因果的。这是我们现在正在进行的过程——尝试这样做。同样,这只是一个机器学习问题。但我们需要数据。这是主要的问题。

64:32我本来希望那是不可能的,因为我们进行这项研究的一种方式,可能会使这项研究本身变成禁忌,或者带来其他类型的不良社会后果——如果你能明确地表明,在某些性状上,不同祖先人群之间存在差异,对吧?

所以,我原本希望也许存在一个逃避按钮:我们没法说,因为它们只是标签,而标签在不同的祖先人群之间可能不同。但有了机器学习,我们就会知道。

64:59这就是我们现在所处的情形:如果你想宣称意大利人的身高潜力低于北欧人——这是有可能的——你就得做一些复杂的分析。关于这个已经有大量研究,因为存在选择的信号。在身高预测器中被激活的那些等位基因,看起来在过去 5000 年里,由于某种原因,在南欧和北欧之间受到过某种选择。但是,这是研究分子进化的人们在争论的事情。

但假设这是真的,好吗?那就意味着,当我们最终弄清楚一切,找到了身高所有的因果位点,意大利人的平均值低于生活在斯德哥尔摩的人。这可能是真的。人们不会为此太激动吧?他们对身高会有一点点激动。但如果对其他某些性状来说这是真的,他们就会真的非常激动,对吧?

假设影响你外向程度的因果变异是系统性的,这些状态的加权平均值在日本和西西里是不同的。人们可能会为此抓狂。我应该说那显然不是真的。怎么可能是真的呢?进化的时间不够这些差异产生。毕竟,尽管在过去 5000 年的欧洲,身高看起来是这样的,但不可能有其他任何性状在过去 5000 年里被差异化地选择过。这才是危险的地方。很少有人对这个领域了解到足以理解你我刚才讨论的内容,而且对此如此警惕,以至于只想压制一切。他们中的大多数人并没有在你我刚才讨论的这种技术层面上跟进。所以,他们本能地对此有些负面看法,但并不太了解它。

67:19这是个好消息。你会看到这样一种模式:等到有人想要监管或以某种方式干预某项技术或某些信息时,它已经获得了广泛的采用。你可以说今天的加密货币就是这种情况。但如果确实有一批全球的试管婴儿诊所在使用这些评分来做筛选和其他事情,那么等到人们意识到这些数据对其他类型的社会问题意味着什么时,这已经是一项现成的消费级技术了。

§09这是优生学吗?

67:58没错,如果事实证明这里有巨大的收益可得,而只有亿万富翁得到了这些收益,那么主要的抗议就会出现。但这可能会带来一个后果:促使各国把这一服务纳入国家医疗体系,免费提供。丹麦和以色列为试管婴儿付费。对于不孕不育夫妇,它是国家医疗体系的一部分。他们对基因检测相当积极。在丹麦,每 10 个婴儿中就有 1 个是通过试管婴儿出生的。目前还不清楚会如何发展。但我们将迎来一些有趣的时代。这一点毫无疑问。

68:45嗯,一种可能的走向是,有些国家决定彻底禁止它。另一种走向是,如果各国决定让每个人都能免费使用它。如果必须在这两者之间选择,你会希望选第二种。那会是个希望。也许只有这两种走向与人们在这类事情上的道德直觉是相容的。

69:10这非常有趣,因为今天大多数“觉醒派”(wokeist)的人都讨厌这类东西。但是,大多数进步派人士,比如玛格丽特·桑格(Margaret Sanger),或者任何作为今天觉醒派的进步派知识分子先驱的人,在 20 世纪初,按我们今天的说法都是优生学者(原文转录作“in Genesis”),因为他们会说:“多亏了达尔文,我们现在知道这一切是怎么运作的了。我们应该采取措施保持社会健康(不是以消极的方式去杀死我们不喜欢的人,而是我们应该帮助社会在繁衍和生育健康孩子时做健康的事)。”现在,进步派中这整件事已经被彻底颠倒过来了。

69:52即使在印度,不到 50 年前,英迪拉·甘地(Indira Gandhi),她属于印度政治光谱的左翼。她因推行强制绝育计划而臭名昭著。有人就此发表过一个有趣的评论,当时有人问他:“哦,历史是否总是倾向于进步派?如果是这样,那其他所有人难道不是注定失败了吗?他们的观点难道不是注定要失败吗?”

这个人提出了一个很有意思的观点:我们在当时认为是左的东西往往会获胜。但什么是左,随着时间推移已经发生了很大变化,对吧?在 20 世纪初,禁酒是左派的事业。那是进步派的事业,后来这种情况变了,现在相反的东西才是左派的事业。而现在,大麻合法化是进步的。没错。所以,如果康奎斯特第二定律(Conquest’s second law)是真的,一切随着时间都向左倾,那就改变什么是“左”,对吧?这就是解决办法。

70:59没有人能要求这些觉醒派的人在智识上自洽,甚至要求他们一年到下一年说同样的话。但人们可能会想,他们对这些货真价实的中国共产党人怎么看。他们把 GDP 的很大一部分重新投入,去帮助穷人和南方的东西。医疗是免费的,教育是免费的,对吧?他们显然是社会主义者,而且字面上就是共产主义者。但是在中文里,“优生”这几个汉字是一个正面的词。它的意思是健康的生育。

总的来说,在东亚,对这一切的整体看法与这里相比是相差 180 度的,甚至在货真价实的共产党人当中也是如此。

71:55那么,让我们来谈谈人们可能有兴趣潜在地进行选择的性状之一:智力。我们获取数据,把基因型与智力关联起来的潜力有多大?

72:15嗯,这是这一切当中最让我个人感到沮丧的方面。如果你十年前我开始做这些的时候问我我们会得到什么,结果全都落在了我当年预测中乐观的那一侧,一切都很好。事实证明它没有交互式的非线性,也没有交互式的多效性。所有这些好事——没有人能事先知道它们会如何运作——最后对 21 世纪的基因工程师来说都是好消息。

唯一令人沮丧的是,由于疯狂的觉醒主义,以及对疯狂觉醒派的恐惧,所有表型中最有趣的那一个落后了,因为每个人都害怕,尽管医学研究者有很好的理由想知道他们研究对象的认知能力。例如,当你想研究衰老,或者老年人认知功能记忆的衰退时,你会想要有他们年轻时认知功能有多好的基线测量,对吧?所以你想要拥有所有这些数据,是有非常好的理由的。但是,研究者们很害怕,因为这也与所有这些有争议的社会议题相关联。所以,有海量的基因组数据,却没有任何认知测量作为一个字段附在这些数据上——而测量它本来是非常便宜的。再说一次,觉醒派讨厌这个,但我用一个 12 分钟的测试就能测你的智商,没问题,对吧?不是完全准确,但我能得到可用的测量值。美国国家橄榄球联盟(NFL)有一个叫 Wonderlic 的东西——每一个被考虑参加选秀的球员都要参加这个 Wonderlic 测试——这是一个 12 分钟的简短测试,它与更完整的智商测量相关性相当高(0.8 或 0.9)。所以,收集这些数据会是很容易而且不贵的。一旦我们有了我之前说的那个数学推导所做的预测,当你达到大约一百万的量级时,也就是 100 万或 200 万个有良好表型数据的人和基因组,我们就能构建出一个相当不错的智商预测器,其标准误差可能大约 10 分。这对科学来说会是不可思议的,但现在没有人在做。

74:58假设不同祖先群体之间,标签的方式有所不同(我说的不是平均差异之类的,只是基因型被标记的方式)。如果中国人先做这件事,那么他们就拥有一个无法转移出去的优势,对吧?因为它只适用于,或者说只对他们的人群有利地适用。

75:24这是个很好的观点。即使是像新加坡或台湾这样的小国,也有足够的数据来做这件事。对爱沙尼亚来说也没问题。他们可以做出来,让这东西运转起来,只是不与任何人分享。所以,这当然是可能的。不过,这有点太科幻了,因为管理这些国家的领导人并不是读你的博客或我在网上的博文的超人类主义理性主义者。我不认为会发生什么那么令人兴奋的事。也许会吧。

§10智力的权衡

75:59你认为智力出现多效性的可能性更高吗?我是指在某些人群中。哦,当然,顺便说一下,(时间)很短或者 5000 年不够,等等,等等。但是考虑到在某些人群中,比如阿什肯纳兹犹太人,你会看到神经系统疾病的发病率更高,比如泰-萨克斯病(Tay-Sachs)和其他疾病,这看起来可能是更高平均智力的权衡。你认为多效性在智力上出现的几率是否更高?

76:39现阶段这只能是猜测。就阿什肯纳兹犹太人的历史而言,他们也经历过非常窄的人口瓶颈。他们的遗传学有一些特别的方面。它是否与认知功能有关,我们并不确切知道,但有很多原因导致他们有相当高比例的遗传病和需要应对的问题。这就是以色列在基因筛查和试管婴儿方面如此积极的原因之一。

人们谈论得很多的一件事是精神分裂症。他们说,精神分裂症可能与创造力相关。所以,如果你的兄弟患有精神分裂症,也许你更有可能有创造力。他超级有创造力,但我们不知道他在说什么。哈哈哈。所以人们说,如果你开始筛查精神分裂症,也许我们就不会再有富有创造力的天才了。所以,有各种各样可能为真的多效性的事情。但我一直想回到的一点是:如果有 10,000 到 20,000 个不同的遗传变异,也就是你基因组中的位点,在或多或少地决定你的遗传认知潜力,那么我可以在高维空间里绕行。如果我发现,用这个簇里的这些东西可以让一个人变聪明,但它同时让他们变迟钝,或者让他们患上自闭症,或者让他们没有大块肌肉,我就绕开。我不需要用那些,我还有很多别的,看这边!那 500 个,我不需要用,我会用这 500 个。这就是为什么要看看历史上那些相当正常的天才,这很重要。也许他们甚至是不错的运动员。也许他们甚至很受女士欢迎。这样的人存在过。所以你有这些存在性证明:如果需要,如果我是个非常优秀的基因工程师,我能在这个 10,000 维空间中操作,不管你给我设置什么障碍,我都会绕过去。我需要大量的数据和大量的机器学习。我会做到的。这就是答案,而同样,大多数人并没有真正领会这一点。但它是真的。

78:56所以我的意思是,有这样一种情况:如果两个性状在极端处是相关的,那么比如最聪明的那个人,不一定就是强壮的那个人。这些不一定相关,但数学能力最高的人,不会是语言能力最高的人——尽管这两者是相关的。

到了某个时候会很有意思,因为父母将不得不做出这种权衡,即使两件事极度相关。看他们如何选择会很有意思。

79:21最终,你将不得不相信你友好的街坊基因工程师来给出建议。在背后会有多得多的建模工作在进行。

79:30目前,我们只能用受教育程度作为相关指标。这让我担心,因为受教育程度也可能与别人可能想要或不想要的其他东西相关——也就是尽责性和从众性。如果你是 Bryan Caplan,在《教育反对论》(The Case Against Education)里,他说教育所传递的三个信号是尽责性、从众性和智力。你想要智力吗?大多数父母可能想要的是尽责性而不是从众性,但有些人可能不想要。希望我们能得到直接的智力数据本身。但是,有没有什么办法能把受教育程度数据中的从众性部分分离出来?

80:12在我的梦想世界里,如果我是 23andMe 的 CEO 之类的,我会怎么做呢(哦,提醒一下,他们实际上正在悄悄做这件事,但你可没从我这儿听说)?我会在网站上放一些小问卷,说:“你能做一份人格问卷吗?其中一个类别是尽责性,一个是外向性,对吧?”从众性不是传统的大五人格中的内容。但是,你可以设置关于一个人有多从众的问题。当然,我们知道怎么做一点数学。所以,我们可以对所有这些不同事物的相关测量值矩阵进行对角化。这样,我也许就能去掉受教育程度(EA)里由从众性导致的那一块,去掉由尽责性导致的那一块,只留下与我用不同方法另外构建的那个独立智商预测器高度相关的那一块。所有这些都是已知的解决方案,这些问题是已被理解的。这只是一个数据问题。

我告诉你一件有意思的事。英国生物样本库(UK Biobank)里有 20,000 对兄弟姐妹。三年前,大多数人并不真正理解这些多基因评分,他们非常怀疑,认为我们并没有真正捕捉到实质的东西,等等。我的团队是第一个说:让我们来看看,对于在相同环境下成长的两个兄弟,我们能多好地预测哪一个会更高。我的预测器在这方面做得有多好?我要预测这两个兄弟中哪一个有糖尿病。那么,糖尿病预测器真的能做到吗?因为他们在同一个家庭里长大,你等于把所有环境上的乱七八糟的因素都排除掉了,对吧?我们表明,如果你对不相关的人配对使用这个技巧,与对在同一所房子里长大的兄弟或姐妹使用相比,预测能力下降得很小。预测能力只有很小的下降。

基本上,我们得到的是真正的遗传信息。其中一件有意思的事是,当你看受教育程度(EA)时——如果你构建一个预测器,然后问:“当我试图预测两个兄弟中哪一个受教育更多时,它的效果是更好还是更差?”结果发现效果差得多。这是因为这个预测器捕捉到的一部分可能是父母的某种特性,比如父母打他们、逼他们去上学,但两个兄弟都挨了打,也都具备了这种技能——所以,对兄弟来说,EA 预测质量的下降,比你只是试图预测 G(一般智力)时要大得多。

所以,我们构建了只预测 G 的预测器。把这些预测器应用到兄弟身上时,与应用到不相关的配对上相比,质量的下降要小得多。我讲得很快,所以大家可以去查那篇论文。但重点是,从这类结果中我们可以看到,EA 很奇怪,是与 G 非常不同的性状。再说一次,批评我们的人完全不知道这项工作有多精细。他们不读我们的论文。

如果他们试着读我们的论文,他们也看不懂。但我们已经做了所有这些工作。现在,一个有物理背景或 AI/ML 背景的人可以吸收它。但我们的很多批评者就是吸收不了。这字面上就是 G 的问题。他们吸收不了。所以他们就想永远批评我们下去。

84:04有趣的是,我读你的论文要容易得多。在行文方面。还有解释和组织方式是……我不知道是不是你的物理学背景之类的原因。但是,我注意到 Scott Aaronson 的论文也是如此。它们写得像随笔,只要你理解了底层的想法,就非常容易吸收。而如果我随便读 bioRxiv 上的某篇东西,就会觉得“我甚至不知道从哪里开始读”。

它写得就是太晦涩冗长了。

84:30我完全同意你。这有多个原因。其中之一也许是我是个局外人。所以我努力把它写得很清楚。从概念上讲,也许理论物理学家会这样写。但同时,这也是一个经过一定筛选的群体。Scott 有一个极其受欢迎的博客,他一直在写这些长篇大论。我也有博客,所以我们比起那些只想把东西赶出来发表在《自然》上的普通科学家,稍微更擅长表达自己或澄清想法。

§11消费者偏好

85:01太棒了。让我们谈谈消费者究竟想要什么。Gwern 有一篇关于胚胎筛选的非常详细的文章。他在其中写道:“我的看法是,就占人口的比例而言,总体采用率会相当有限”,他在那里谈的是胚胎筛选。“很大一部分人口对任何新的生育相关技术都表现出敌意,而对此持开放态度的人,也会被提前做好家庭规划的必要性、试管婴儿高昂的经济成本,以及试管婴儿过程漫长而痛苦这一事实所劝退。”所以,他对数以百万计的人使用这项技术的可能性似乎非常悲观——你对他在这里的看法有什么反应?

85:49看待这件事你可以采取两种视角。一种是风险投资人的视角,你会问:“这个市场有多大?主导这个市场值多少钱?我应该接受 GP 这些海盗开出的什么估值?”另一种视角是担心人类都会把自己改造成金发、6 英尺 4 英寸的样子,然后我们会突然容易患上各种疾病——一个普通的感冒病毒就会杀死我们所有人。所以,对这项技术会有多大的渗透率,有两种不同的视角。从风投们的角度,我只想说:丹麦每 10 个婴儿中就有 1 个是这样出生的。你会不会占据一个能触达十分之一家庭的市场,而且这个比例当然还会增长。所有发达国家,也许包括中国,十分之一的家庭。你有妈妈、爸爸和孩子的基因组吗?也许你以后可以向他们出售健康服务?也许你与这些人的关系是有黏性的?这是对风投们说的。而从“哦,我真的很担心人类进化!”或者“我们什么时候才能再出一个冯·诺依曼?”这个角度来看,那是另一个问题。也许使用试管婴儿的人口永远不会超过 10% 或 20%。通过试管婴儿、胚胎筛选,将来也许还有基因编辑。从这个意义上说,何必担心呢,总会有这样一个自然的野生型储备库,拥有多得多的遗传多样性?也许这就是“金发姑娘”式的世界。但是想象一下这个金发姑娘世界:有大量的野生型人群,也有大量使用这些先进技术的人群,每个人都很开心——包括我们的投资人。

88:01我有种感觉,这不会让那些担心进化多样性之类的人满意。我觉得整个论证只是对这项技术的道德保留态度的一个幌子。

88:17没错。这是给那些单纯讨厌它的人的幌子。但 Gwern 在说什么呢?他是在说,丹麦那 10% 出生的婴儿已经大多做了染色体异常筛查吗?如果我用同样的数据,就能生成另一份报告,你真的不会去看那份报告吗?你会说:“嗯,我的某个孩子将来患黄斑变性的风险会非常高,但我已经在筛查染色体异常了”?这真的会发生吗?我不这么认为。使用试管婴儿的那 10% 的人口会去看那份报告,而生成这份报告的成本,不过就是把一些比特放到 AWS 服务器上跑一遍。

我不确定他的意思是什么。我非常钦佩 Gwern。但他这么说是什么意思?没有多少人会采用它。他是指试管婴儿家庭内部的采用百分比,还是指已经在做试管婴儿的人口比例?因为那些已经是很大的数字了。所以我不知道他是什么意思。

89:28考虑到你之前提到北欧国家有大量试管婴儿,一种思考基因预测的方式是:这是因为人们生孩子时的年龄。风险投资人可以把你的公司看作是一种获得人口崩溃敞口的方式,对吧?

89:47是的,有人提过这一点。顺便说一句,我们当中有 3% 到 5% 是这样出生的。这可不小。如果你去幼儿园,那里就有试管婴儿。你有没有见过试管婴儿在操场上跑来跑去?所以我不知道他们的视角是:这个市场是不是大到足以让你赚钱?还是说这会改变人类物种的未来?你可以有不同的视角。

§12Gwern

90:14顺便说一下,Gwern 是个非常有意思的人物。我读他的东西很久了,但显然,他这个人非常神秘。你知道这是怎么回事吗?这个人是怎么进入这一领域的?他发表的那份关于胚胎选择的报告非常有意思,也非常详细。到底是怎么回事?

90:40嗯,Gwern 是个超级聪明的人!我认识很多学界的学者、严肃的科学家和知识分子,虽然我不太同意你刚才提到的他的那个看法——我是说,它在技术上也许并没有错,因为我不确定他的话到底是什么意思。我甚至不确定他会不会不同意我刚才告诉你的那些量化的东西。但是,我只想说一些关于 Gwern 的正面评价,因为我喜欢读他的东西。

在早期,他就已经在关注很多关于基因组预测和胚胎选择的东西了。他写过关于 GPT-3 和对齐风险的东西。他写了很多很多有洞察力的东西。即使把他与最著名的学术学者相比,比如史蒂芬·平克(Steve Pinker),或者某个写了很多人们爱读的东西的人,他也相当令人印象深刻——显然他在严肃的一生中一直在深入思考许多不同的事情。我觉得 Gwern 超级棒。他完全可以和那些人相提并论。所以,我们生活在这个互联网时代真是太棒了,一个完全匿名的家伙可以就各种各样的话题产出非常好的想法。他写的关于胚胎选择的大部分内容并没有错——基本上是对的。我对 Gwern 评价很高。

92:13像 Gwern 这样的人很有意思——几乎可以套用一个模型,你可以想想 20 世纪初或 19 世纪末的那些绅士学者,他们会就许多不同的主题高谈阔论——我在想我们是否会看到这类通才型思想家的回归。也许我们过度偏重了专才,但现在是像你这样的人的时代了!理论物理学,把所有那些计算和数学知识带到基因组学中——这是科学中的新趋势吗,至少在高层次上?

92:47我不认为这是一种趋势。至于 Gwern 拥有一个平台,你能看出他读了很多、想了很多。他在思考,然后写出非常有洞察力的东西,而且多亏了互联网,他有读者,所以人们可以读到。这是一个了不起的积极趋势,而且会持续下去。所以,我们在某种程度上处于智识交流的黄金时代。即便是你我正在进行的这场对话,也是一个例子。

我担心不会发生的事情是:因为现在科学高度专业化(要在大学或实验室之类的地方把事情做成,需要太多的资金、资源和机构支持),能够在前沿做出重要贡献、并且得到该细分领域内行认可的博学之人,越来越少见了。在费曼和冯·诺依曼那样的时代,这要不罕见得多,仅仅因为当时的科学规模更小。费曼玩过一些分子生物学,那在当时是件大事。他和弗朗西斯·克里克(Francis Crick)是朋友——克里克在圣地亚哥。所以,他会做那样的事。现在,这几乎是不可能的。人们会对我说:“Steve,你为什么要瞎折腾这些东西?你是在浪费你的才华。”所以,我不认为趋势对此是有利的。但就一般的智识交流而言,趋势是好的。

§13父母还重要吗?

94:35是的,这很有意思。回到试管婴儿,你认为在你能想到的任何一个性状上,对于已经在该性状上较高的父母,与在该性状上低于一般人群平均水平的父母相比,哪一类父母的收益会更大?

94:52我不认为父母的基础水平是个大因素。大因素是你的预测器有多好?你要看多少个胚胎?或者你的编辑工具有多好?顺便说一下,我想强化一件我最近才了解到的事——它给我的印象如此深刻,以至于让我吓了一跳。我原以为:“哦,我身处这个领域。所以这个行业的事我都知道”,但我们公司当时在和一家处理卵子捐赠的公司交谈。那是试管婴儿领域。卵子捐赠者通常是 22、23 岁的年轻女性,甚至可能是大学年龄的女性,她们拿一笔钱去做一次试管婴儿周期,把卵子捐给某个亿万富翁家庭或任何想要卵子的人。有人告诉我,每个周期 60 到 100 个卵子并不罕见。这很令人震惊,因为通常接受这个过程的是 30 多岁或 40 多岁的年长女性,她们光是想得到一些可存活的胚胎就很艰难。而当你对一个 19 岁的女孩运行同样的过程,你会得到什么?我对这些数字之高感到震惊。原则上,让我们想象你是一个亿万富翁寡头,但非常懂技术。你想要有一个大家庭,你想要高质量的孩子,也许是非常长寿、健康的孩子——你可能是在几百个里选最好的。我可以生活在 100 个平行宇宙里。我可以向每一个窥探一眼,然后选择。我要走进 742 号门,因为那是我喜欢的结果。并没有那么贵。但令人惊叹的是,人们现在可以做到这一点。

96:53这就意味着,在年轻时生孩子的回报会增加,因为试管婴儿理论上是用来帮助年纪大了才生孩子的人,所以它是在拉平竞争环境。再加上像我所知道的这样,对于非常年轻的人,有更多的胚胎,就是我们现在正倾向于有利于年轻——至少如果你关心那些基因筛查可以帮你弄清楚的性状的话。

那么让我问问你对 Gwern 在那篇文章中谈到的一些可能性怎么看。其中之一是,我们也许可以把诱导多能干细胞变成胚胎,然后我们就能在数百个胚胎中进行选择,而无需采集卵子。

97:41是的,卵子是限制因素;精子很便宜。干细胞技术是取一个皮肤细胞,把它逆转回多能状态,这样它就可以变成另一种细胞,也许是卵细胞——这项技术在小鼠和大鼠身上已经基本掌握了。日本有几个实验室,似乎已经利用诱导多能干细胞制造卵子,在多代大鼠身上完全掌握了这一点。所以,我的猜测是,要让它在人类身上起作用并不太难。这只是需要在实验室里埋头苦干几年让它运转起来的事。我知道有创业公司正在做这个。当然,会有一些顾虑。起初,如果你能付钱给某个 19 岁的女孩做你的卵子捐赠者,你为什么要那样做呢?

例如,一些同性伴侣非常想这样做,因为也许他们认为可以把自己伴侣的皮肤变成卵子。所以,这样做是有理由的。但对很多人来说,他们会说一颗卵子是通过一个全新的、未经检验的过程制造出来的,他们宁愿要一颗正常的卵子。嗯,那样我在整件事里就没有这个额外的风险了。所以我不知道在采用方面会发生什么。但我确实认为,这只是一个技术预测。它将成为可能。我们离能够做到这一点并不太远。

我们能在大鼠身上做到,这意味着我们离得不太远。它可能对自然选择产生巨大的影响。如果你想从 1000 个胚胎中挑选最好的一个,最终没有技术障碍。不过,我会说,在大致相同的时间尺度上,多能干细胞制造的卵子要成熟,它们还要经过测试,让人们对它有信心。多重的、非常精确的、基于 CRISPR 的编辑也将在同一时间尺度上到来。到那时,你为什么还要折腾这个呢?我直接进去,做我需要做的修改就行了。在同样的时间尺度上,大致也是我们弄清楚真正的因果位点在哪里的时间尺度。

100:32这很好,因为否则你只是在改变方向而已。

100:36所以,所有这些都是我完全有信心你将会看到的东西。我可能不会全部看到,但我会看到技术臻于完善;我不一定会看到它对社会的影响。但你很可能会看到。

100:54我希望在我准备好要孩子的时候它已经准备好了——那还要等一阵子。Gwern 讨论的另一个可能性是迭代式胚胎选择,你可以不断……我让你来描述它是怎么运作的。但你怎么看这种可能性?

101:08是的,你制造一批胚胎,然后决定你想要哪些。在你真正把它变成一个人、让那个人长大并繁衍之前,你只是用胚胎的迭代来繁殖。这也是可能的。所有这些分子技术都有可能成功。我不认识谁把全部时间都花在研究那个上。但是,是的,那也可能行得通。

嗯,我仍然想说,我对觉醒派、进步派和讨厌我们的人开了这些玩笑,我觉得他们的想法是错误的。我认为自己是进步派,我不认为自己是觉醒派。但是,拥有健康、美丽、能活到 200 岁的人——这个目标谁会反对?我也反对社会中的不平等。在与科学和技术的增长与进步相一致的前提下,我们应该努力拥有一个相当平等的社会。我支持所有这些。所以,如果你是一个觉醒派,看这期访谈只是为了讨厌 Steve Hsu 之类的,请想想你为什么对我生气。

我实际上是在探索这个世界是怎样的。如果我们存在不平等问题,是因为有些人在学校里表现不好,你难道不想知道世界究竟是怎样的吗?你难道不想把这些资源给那些家庭,让他们能为下一代解决这个问题吗?那难道不是你想要的终极目标吗?

102:50稍微做一下最强版本的反方论证(steel-man),有人可能会说:“听着,在皮凯蒂(Piketty)之类的模型中,防止家庭之间随时间出现失控的分化的因素之一,是向均值回归。我听了你对格雷戈里·克拉克(Gregory Clark)的访谈,他说情况已经是这样了。但这在一定程度上使得它不会随着时间被放大。原因是,由于向均值回归,在遗传上很难维持一个优势(原文转录作 leech)。”

如果你能一直保持下去,并且如果拥有好基因有递增的回报,因为那样你就负担得起这类治疗,那么社会就有可能不是正态分布,而是出现一个双峰分布,两个峰之间的距离越拉越远。这是一种潜在的可能性。

103:43莫洛克人和埃洛伊人(the Morlocks and the Eloy)。这是一个合理的担忧:这可能导致怪诞的、巨大的不平等。这是这项技术的一个风险。很大程度上也取决于社会。我是说,当有人拿这个质问我时,我会承认这是一个合理的担忧。但随后我会说,我们生活在一个国家——在某种意义上是世界上最富有的国家——而这里有很多人甚至没有医疗保健。你担心过那种不平等吗?我们有很多不平等,在不平等方面有很多事情值得你担心。

104:26实际上,也许这未必是全球有益的,至少对于这个特定的辩论而言。如果当我问你“哦,在某个性状上较低的人,是否比在该性状上较高的人更有潜力提高该性状?”时,答案是肯定的,那可能就是有益的。如果是那样,你就可以说:“听着,聪明人到了某个时候就会碰到天花板,而不太聪明的人可以随着时间追上来,对吧?”

104:51嗯,再说一次,如果你更偏左,喜欢政府干预,那么这就成为政府医疗体系的一部分,而且是免费的。你说我们将允许进行更积极的编辑,或者产生更多的胚胎。

对于低于平均水平的家庭,有一种非常自然的再分配方式,就像你会在我死的时候强行拿走我本来更愿意留给孩子的一大笔钱,你会强行从我这里拿走。但你也可以强制性地把更多的基因组预测资源给那些需要它们的人。这很容易。

§14文字型思维者与形状旋转者

105:25稍微转换一下话题,你有一篇有意思的帖子,是关于最近推特上疯传的那个关于“文字型思维者”(wordcels)和“形状旋转者”(shape rotators)的梗。说的是形状旋转者的内涵结合了两种不同的能力,数学能力和空间能力,也就是说,当你对心理测量学做主成分分析时,它们被证明是不同但相关的。作为一名程序员,我真的很好奇,这两种能力中,哪一个对编程这套技能的要求更高。因为我这种人,当我们谈论抽象、数据结构和程序的流程时,我只是凭直觉去想。我只是在想、在想象它在视觉上是什么样子。而我知道有些朋友,我对他们说:“显然编程是视觉空间能力。”他们说其实他们根本不用视觉想象,对他们来说,更多只是顺着循环一路看下去,问接下来会发生什么。所以,我很好奇,这两种说法哪一个更好地描述了编程?

106:33你的描述抓住了整个故事:人们在处理问题的方式上非常不同,即使他们在处理的是同一个问题,大脑的做法也不一样。这是心理学中心理测量学这个领域最迷人的地方之一,它真的在试图深入这一点。当我接受教育并在理论物理和数学方面受训时,让我着迷的事情之一,就是观察我在加州理工的同学或理查德·费曼,或者某个人是如何处理一个问题的,这可能与我的做法完全不同,也可能与我们得到解法之后沟通解法的方式完全不同。有些人显然是视觉型的:费曼就是一个非常视觉化的思考者。另一些人更有逻辑性,或者偏语言型,他们一步一步地推进。甚至可能是,他们在一步步推进时会“听到”论证之类的。所以每个人都不同。这些事情超级迷人。有一件东西现在已经过时了,但在我成长的时候其实是非常标准的,那就是我上的金工课(shop class)。我不知道你在初中或高中是否必须上金工课,但我们必须上,你去弯折金属,字面上他们有机器,我用钢之类的东西做了一个烟灰缸之类的。所以,在那门空间性很强的课上,会出现这样的人:我有个朋友,他 LSAT 分数非常高,去了普林斯顿学英语,那家伙完全无法在空间中旋转物体,他在弄清楚怎么弯折才能做出烟灰缸之类的东西时完全迷失了,对吧。

所以你能非常清楚地看到这一点。在那些旧日子里,当事情更多地基于上金工课这种经历时,有时我们会给你一份标准化测试,那是一种空间能力的标准化测试。所以我们所有人,我这一代人,你不用对我撒谎,说所有这些事情不是这样。我们看到了它是怎么运作的——我们看到人们参加空间能力的标准化测试,特别是在视觉化方面。我们看到人们试图操作那台他妈的金属弯折机,有些人就是真的做不出东西来。

在原子的真实经济中,克数的钢、千克数的钢(现在这些全都转移到中国之类的地方去了),所有这些东西都超级重要。你不能只是理论化地说:“好吧,那么我有这个模块做这件事,这个函数会有这些类型。”就像,嗯,在经济中的这一部分(学术界)那很好、很有价值,但总得有人让这个工厂运转起来。而且它必须是高效的。我们得把机器放在这里,这样就不必把东西搬离这儿太远。这是空间性很强的,过去它是美国经济和教育体系的一部分。现在全没了。但它是真实的,不是假的。不,人们不是在编造这个。1950 和 60 年代的心理测量学家会说:对,这是我关于空间、测量空间可视化能力之类的十卷本专著。

109:43如果你读爱因斯坦这样的人的传记,我是说,他尤其以空间思考者著称。他的视觉性极强。他的思想实验,比如“以这个速度运动时看起来是什么样,或者感觉是什么样”之类的?超级有意思。就程序员的情况而言,我不确定我得到了你的答案。那么你认为对于这个特定的学科,更重要的技能是什么?

110:09人们会以不同的方式去做。是的。我确实认为,如果你把工程师这个类别与软件开发者这个类别比较,工程师总体上平均空间能力更高,而且他们在使用这种能力。而你可以是一个空间能力为零的出色程序员。这是我的猜测。

110:31是的,我在想,当你学习历史之类的时候,你会注意到有些人对军事史这方面特别着迷,喜欢看部队如何移动。我在想这是不是因为他们空间能力更高,需要能够理解部队是如何移动的,等等。

110:50我正想说——透露这一点对我来说很奇怪,有时候我难以入睡时,我会做视觉想象。最近,我在想我会如何用一枚弹道导弹打击一艘航空母舰。或者有时候,如果我想睡觉,我就会想象:“好吧,当你在大约五公里的高度时,你的雷达能看到什么?你需要多高的分辨率?然后你有多少时间去击中那艘船?”我会为了放松而思考这类东西。这是高度视觉化的,但也是定量的,因为你得做一些估算。不过,这在很多物理学家身上是很典型的。因为如果我们开始谈论它,我们会说:“哦,对,没错。你大概只有十分之一秒的量级来做这件事。而你想着在毫秒内完成,所以我们没问题。”总之,这种类型的思考在某些类型的人当中非常普遍。

111:52对。现在,我很好奇为什么从事物理的人经常转向金融。我知道那是你曾经考虑过的事情——是底层的数学知识本来就是一样的吗?还是说这是数学能力一个如此可信的信号?而且,量化基金是不是想雇用物理学专业的学生?

112:20答案有点复杂。你提到的所有因素都是对的。但其中一点是,在早期,在 80 年代和 90 年代,我这一代的很多人进入金融业时,他们中的许多人去交易衍生品。如果你看期权,定价理论看起来很像物理——那是随机游走的数学。所以,存在一种非常紧密的,说不上紧密吧,但概念与所需要的东西有很强的关联。现在,他把话题引申了一下,说:“好吧,但如今,如果你去真正大型的量化基金,他们在寻找信号、分析海量数据,”他们不交易衍生品,只是交易实际的股票名称之类的。

现在对有机器学习和计算机科学背景的人要求更多。进去的物理学家必须使用他们技能的那个子集,但基金公司同样愿意雇一个 CS 或 ML 类型的人来做这件事。所以答案有点复杂。

113:28是的,这太有意思了。因为,我是说,在 90 年代和 2000 年代初,我读过那本关于长期资本管理公司(Long-Term Capital Management)倒闭的书。

113:42实际上,有两本书;有一本叫《当天才失败时》(When Genius Fails)。然后实际上有三本书,至少三本书,但它们都很好。

113:50然后你就会听说那些创立了期权和定价理论的人,把微积分应用到随机游走之类的东西上——这些我不懂。但超级酷的是,有这些数学家直接进来,把这些想法应用到金融上。

114:06他们会的。关于物理学家,我想说一件事,这和数学家、计算机科学的人有点不同。也许和数据科学的人没那么不同,但肯定和大多数计算机科学的人、大多数数学的人不同,因为我们花大量时间去看糟糕的、有噪声的数据。所以即使你是理论物理学家,你也得上这些实验课。对我来说,这些实验课是最难的之一,最糟糕的!你得进去搭建一些电子设备来取一些数据,而数据可能噪声极大。你在测量穿过屋顶打到你探测器上的宇宙射线 μ 子,然后你还得分析这些数据。

而且,当你在搭建这个东西时,你会搞砸。你得到的数据毫无意义,或者你会说放大器有点不对,或者你已经习惯了看到糟糕的数据。你有一个关于应该发生什么的理论图景,也许你在想象 μ 子进来,然后它这样、那样,你要在关于粒子和系统应该发生什么的理论图景与实际数据的样子之间进行插值,然后说:“哦,糟了,我们没做这个,或者我们没有屏蔽这个部分。”

所以这就是我们得到那个结果的原因。”这是物理学家非常习惯做的事情。数学家往往在这方面很差——他们只是接受:“哦,我就接受这是数据。现在我要用这些数据来推理。”计算机科学的人也可能如此。但你需要的是真正处理过糟糕数据、并试图把它与一个非常优雅的数学模型联系起来的人。这是物理学家独有的熟练之处。

115:45这对计算机科学的人也成立,那就是在调试时,可能发生的问题有很多。显然,其中之一是你代码写错了。但往往到了实际实现的时候,在你之下和实际硬件之上有那么多层抽象,你必须弄清楚:“为什么我脑子里的想法和实际程序输出之间的对应关系不一致?”

116:14这说得对。因为当你调试代码时,它可能以很多不同的方式失败。从某种意义上说,你必须退一步建模:“哦,也许是这个模块给我喂了错误的东西。这就是导致问题的原因,或者是另一层。”所以这与我们在实验室里处理物理实验时非常类似。不过,物理学的特点是,我们真的非常倾向于去触及底层的现实。

比如,如果已经很晚了,我和我的实验搭档只想出去睡觉,我们不能告诉自己事情没问题。“我们其实并没有搞砸那个屏蔽。”“没关系,我们把数据带回家看看。”现在,我们实际上必须决定:我们是不是得再花三个小时把这个东西拆开,重新做屏蔽?

否则我们就得触及真正的底层现实,我们不能造假。我们不能假装这个入射方案会完美运行。我们不能对自己撒谎。对写代码的人来说也是如此。但是,不管怎么说,这与社会科学家之类的人非常不同,他们可以直接决定:我不喜欢那个现实,我就编造一个关于社会如何运行的模型,然后就完事了。我们做不到这一点。

§15贝佐斯与杰出的物理学家

117:29是的。那么,考虑到理论物理学家的技能组合,正如你刚才提到的,有没有可能是这样:我是说,显然对物理学界这个群体的一个常见批评是,他们吸收了太多人才——智力高出平均水平三四个标准差的人在从事一个领域,而按通常的看法,至少看起来,这个领域并没有取得那么多进展。

Dwarkesh:更多物理学的人正在迈出你迈出的那一步,也就是学到理论物理中的所有这些技能,然后离开这个领域。也许金融是我们从物理学培养的技能中获得这类亲社会收益的一种方式。进入基因组学之类的领域。是不是应该有更多的物理学家把他们的技能用在别处?

118:16第一,流失率超级高。所以,即使你取这样一批能力高出三四个标准差的孩子,他们进入普林斯顿或麻省理工之类的学校的物理专业,其中最终成为执业物理学家的比例相当小。所以他们在各个环节都在流失。

贝佐斯(Bezos)起初学物理,在普林斯顿的学业快结束时转到了计算机科学。埃隆(Elon)曾在斯坦福读应用物理或物理的研究生,然后他退出了。所以对我来说已经是这样了:一种说法是,教育是了不起的;你应该争取接受那种教育;它以后会给你带来回报。你很可能会流失,会转行去做别的事情。现在,如果你说:“好吧,在世界各地数以千计的理论物理学家,或者做基础研究的物理学家(包括实验物理学家)中,有几万人。也许其中一些人也应该多做一些癌症研究或金融建模。”

也许我们应该把他们拉走,你应该让更多这样的人转出去,让他们多做一些,所以这样做仍然有一些论据支持。但是,我们确实需要一批核心人员,去试图回答这些关于自然的艰难的基础问题。

119:38贝佐斯这个例子很迷人。对于观众中可能不知道的人:他最初的计划是成为理论物理学家。他没有走这条路,是因为他注意到他的一位朋友在这项技能上明显比他有天赋得多。他们给我们讲的故事是:贝佐斯在一个问题上工作了好几个小时没有进展,然后去问一位朋友,那位朋友在脑子里就把整个问题解决了。基本上,贝佐斯意识到(理论物理)不是他的竞争优势。

120:20我得补充一个轶事。我认识贝佐斯饭社(eating club)里的很多人,我们也是同一个年代的,他们中的很多人是晚来的。所以我认识所有这些人,我知道所有这些贝佐斯的故事。有趣的是,你说的那个人(在脑子里解出了物理问题的人),我相信他的名字叫 Asana(as transcribed),是斯里兰卡人。他去了加州理工读研究生。

有一次,我去加州理工访问时我们见了面,他当时在读研究生。我见到了这个人,并和他聊过贝佐斯。我们还有其他共同的朋友,所以我们并没有专注于贝佐斯,但是,是的,我见过你刚才提到的那则轶事里的那个人。

121:19很高兴知道这个。因为这与我的问题相关。我的朋友和我一直在争论,智力对创业或工程能力的顶峰有多重要。他用那则轶事来说:“哦,看,贝佐斯的聪明程度不足以成为理论物理学家。所以,智力并没有那么重要。超过一个不算特别高的点之后就不重要了。之后贝佐斯靠的是创造力,等等,等等。他很勤奋。”

我不知道;我对这个故事的理解是:“好吧,他的智力不足以成为理论物理学家。他低于均值之上五个标准差或四个标准差;显然,光是在普林斯顿学物理本身就证明了他大概至少高出两三个标准差,嗯,至少三个。”你在普林斯顿交谈的那些人,对杰夫·贝佐斯的看法是什么?是他只是超级勤奋或有创造力?还是智力超高,只是没有高到足以成为理论物理学家?

122:30是的,这是一个很棒的话题,很多人都感兴趣。甚至在我的亲密朋友当中也是。在学校里,我们都谈论这些事情。你必须区分非常抽象的智力——它在物理和数学,或者也许计算机科学中有帮助——与更偏通才式的智力。这两者是相关的,但不是同一回事。所以,我会说,贝佐斯在努力工作、承担风险、在压力下运转、专注力和通才式智力方面,很可能是远超常规量表的。

因为这些特质至少在某种程度上是不相关的,如果你在这五项中同时都位于前 10%,那已经是相当罕见的个体了,因为很多在物理课上比贝佐斯成绩更好的物理学的人,无法领导一家公司,他们无法准备出一场能说服风险投资人投资的演示。所以我们说的是一种不同的技能组合。认为存在一个单一维度的认知能力度量,这种想法并没有那么有用。我可能也有罪。人们会说:“等等,Steve Hsu 刚才这么说,可他是最应该为传播这种观点负责的人。”但那只是因为这是最容易谈论的东西。如果你把它压缩成一个一般因子,谈论起来就更容易——这并不意味着其他成分没有意义。我们刚刚才谈完言语能力对空间能力,对某种更一般化的数学才能。所以显然,我们谈论的是一个高维的,也不是那么高维的,至少是一个多维的能力空间。不过,关于贝佐斯的这一点是不平凡的,而且它直接关系到离开物理去做其他事情的物理学家们的人生经历,那就是:在工程环境或创业环境中,人们常常会说:“你对这个一窍不通!你在说什么呢?”

但现实是,那些确实在创业公司必须解决的技术问题上有所表现的人——就贝佐斯的情况而言,常常是优化某个供应链环节,或者优化某个分拣流程,或者降低错误率。公司里的人一致说,当贝佐斯走进房间,他会对这个运营问题的解决方案给出很好的反馈,可能比我们说的更好,或者至少他会发现我们所说方案的问题,又或者如果我们在这件事上做得很出色,他一下就能明白,而有些高管可能不会马上明白。所以我的观点是,这些原始 G 能力超高的人,通常在这些技术环境中是有帮助的。即使他们没有很多背景知识,他们仍然可以进来并提供帮助。有时他们能解决那些在该领域受过良好训练的人都感到棘手的问题。这样说是公平的。但如果说存在某种单一维度的智力度量——这个人总是胜过那个人,那个人总是胜过另一个人——那就不公平了,事情不是这样运作的。只是在其中一些量表上,这些人通常比批评者所认为的更有帮助。

126:01你的人生故事就是一个例子。不过,我对此还有另一次经历,那就是我最近在播客上采访了 FTX 的 CEO Sam Bankman-Fried。对于所有的访谈,我都会试着想出嘉宾可能之前没有听过的问题。我非常努力地想出他可能没听过、回答起来可能非常有趣而且有挑战性的问题。我听了他做过的所有访谈,然后祈祷了很久。但是,如果你去看、去听那期访谈,你会注意到他是如何回答这些问题的。听起来他就像只是在和某个人聊这件事。不管我能抛给他多有创意的问题,都在于他的领悟能力。所有背景都以听众能理解的方式解释出来。非常出色。

127:03成为一个超级成功的创始人,筛选出的是这样一种能力:根据对方的背景,想出如何与这个人有效沟通。无论是投资人,还是来自某家重技术的风投基金的人,你都得想他们是如何思考一个问题的。创始人被筛选出来,是因为他们是出色的、能跨越不同文化的多频段沟通者,诸如此类。这个人具备这些能力,对我来说并不令人惊讶。

127:54好的,那么你是柔术和其他武术的练习者。这些运动的一个显著之处是,你可以以弱胜强,对吧?罗伊斯·格雷西(Royce Gracie)和 UFC 就是这方面的好例子。智力这样的性状有没有可能做到这一点?有没有可能我们有一些技巧或其他方式来补偿,用你的类比来说,就是弥补天然的体重差?柔术之于格斗相当于什么?

128:37很好的问题。所以,从某种意义上说,柔术是应用物理学,因为你在思考两条手臂,以及这样的问题:“你是否更容易在我缩短距离、迫使你与我缠斗之前就一拳把我打倒?”我之所以这么痴迷柔术,是因为它非常理性。它是对两个人能对彼此做什么的一种科学分析。就人们可以使用的各种技术而言,它是一种放大人们脑力的技术。我们被这样的技术包围着。

这里有一件令人兴奋的事。假设你和你的女朋友在设法找到某个问题的答案。你们都在用 Google。在谁能立刻输入一个搜索词,并让排在最顶端的结果就是对你问题的直接答案这件事上,人与人之间存在巨大的差异,而这是非常廉价的、非常依赖 G 的。但是,如果你擅长使用特定的技术或特定的信息渠道,你也无法把自己的能力放大到超出原始能力的范围。所以,我的回答是,工具是有的,但没有人去用。没有一个道场,你去了以后他们马上开始教你:“这样,这样做,这个、这个和这个”,然后你去找比你块头大的人,把他放倒,把他勒晕。在认知方面没有任何类似的东西。不过,我能看到人们可以通过不同的方式放大自己的能力,效果或高或低。

§16精英教育

130:23很久以前你写过一篇关于精英教育的博客文章。在文中你谈到,即使控制了 SAT 成绩,来自精英学校的人在顶尖工作岗位上的占比仍然偏高。所以我很好奇,你认为这是因为选择效应吗,也就是哈佛按个性来挑选?那会选出某些高成就者?还是说,在哈佛这件事本身会让你成为高成就者,到底是怎么回事?

130:57我刚成为创业者的时候,对这个问题做了相当深入的研究。因为我当时想:“嗯,我们能融到这么多钱,我们能争取到和这些基金的会面。可是这个家伙怎么为一个愚蠢的点子融到了 1 亿美元,到底怎么回事?”然后我就会开始调查这个人的背景,发现他上的是哈佛。于是我对那些超级离群的人产生了强烈的兴趣——这个家伙是怎么得到给《辛普森一家》写剧本的工作的?我该写什么?另一个人也给《辛普森一家》写剧本,但他上的是俄亥俄州立大学。所以他和《辛普森一家》隔着十层社交网络,而哈佛的人则不然——他的哥们都在《哈佛深红报》(Crimson)。原因是多方面的。拿两个孩子来说。他们的 SAT 都考了 1580 分。一个靠俄亥俄州董事会奖学金去读俄亥俄州立大学的工程专业。另一个去了哈佛,尽管那里的工程学院很糟糕。他们的人生有什么区别?也许去哈佛的那个人更懂得世界是怎么运转的。他到了哈佛,会遇到很多超级有野心、有进取心、聪明的孩子。其中一些孩子是超级富有的人的子女。

其中一些是非常有影响力的人的子女。而且他们所有人都在努力出人头地。他们超级有野心——他们知道成为高盛的董事总经理或成为麦肯锡的合伙人意味着什么——他们知道这些东西是什么。如果你因为在俄亥俄长大而不知道,你会马上学到。你仅仅是通过这种接触,就能更好地看清社会精英阶层中有哪些可能性。所以在人脉方面有多重因素:这些哈佛孩子中有些来自超级富有的家庭,有些人的爸爸以前就和他想争取会面的基金负责人一起打高尔夫,对吧?所以是所有这些因素加在一起。我不是说这是好事,但我理解世界是怎么运转的。我明白为什么另一个人能比我融到多得多的钱,或者能争取到我争取不到的会面。对吧。所以这就是我最初对这个问题产生兴趣的原因。

133:26为什么按人均计算,中国和印度在诺贝尔奖上的占比极低?即使在计算机科学领域,当我试图查找某些特定主题的论文时,来自中国之类的论文也很少见。而当有的时候,质量就是比我能从美国教授那里找到的差得多。我很好奇你认为这是为什么。这不可能仅仅是人口之类的原因,因为当这些研究者来到美国后,他们会产出出色的研究;这里到底发生了什么?为什么这种效应是自然的?如果是的话,解释是什么?

134:11嗯,对这个问题的简单回答是,你提到的很多东西都是滞后指标。它们反映的是西方如何发展起来,拥有扎实的科学与工程传统,而中国和印度当时极度贫穷,什么都没有。就我自己的经历而言,在过去 20 年里,当我访问中国、韩国和台湾的大学时,那里有很多有才华的本科生,但最优秀的本科生总是想来美国读博士。后来情况从那样变成了一些最优秀的本科生决定留在那里——因此那里作为教授的研究者正在变成世界级的。但这只发生在我成年后的一生之中。所以,你可以看出这是一个严重滞后的指标。有趣的是,在我的物理学生涯中,我认识几位……印度的说法叫“toppers”(状元)。也就是参加考试的人,全国每个参加考试的孩子都会被排名,对吧?所以,我认识一些在印度理工学院(IIT)入学考试中排第一、第二或第五的人,但他们最终去了加州理工,或者去了麻省理工。所以,存在着这种巨大的人才流失。这是一种超级强大的精英人才流失。麻省理工最近一直在招募。如果你在奥赛中拿金牌,比如信息学奥赛或数学奥赛,麻省理工会设法让你来麻省理工。所以,这种把人才大规模吸进美国的做法是极好的。但这就是为什么当你去 IIT 时,尽管本科生超级聪明,教授们却……(不是冒犯我在那里教书的同事),但如果那些教授收到 UCLA 的聘约,那里的教授通常会转到 UCLA。这就是区别。不过这种差距正在逐渐缩小。

136:10我们在美国可以给研究人员或博士后付更少的薪水,因为我们在一定程度上是通过签证来雇用外国劳动力,这样做有什么坏处吗?这仅仅是一种对经济有正外部性的市场套利吗?还是说,这样做对本土出生的工人缺乏竞争力,有什么坏处?

136:34对美国合适,总体上平均而言是好的;对发展中国家不好,因为你在偷走他们的人才。对必须与来自世界各地的最强大脑竞争的美国本土出生者来说,则很糟糕;在这些精英层次上,美国孩子要得到他应得的工作,也要难得多,这受到了移民的强烈影响。所以,有赢家也有输家。至于这对美国是否是长期问题……有些人超级痴迷,他们时不时在我的博客上评论,研究了所有国际数学奥林匹克(IMO)获奖者去了哪里,他们在哪里,他们声称看到,在美国长大、但不是移民第一代子女、而只是在这里待了一段时间的孩子,出现了大幅下降。

他们就是从来没有赢过这些比赛。所以,最终,你可能是在通过敞开大门、引进所有这些来自外部的超级有才华的人,而打击本土的人才库。因此,可能会有一些并不那么好的二阶效应。

137:49不过有意思的是,当你看科技这样的行业,由于 H1B 签证而允许外国竞争的情况类似,但薪酬仍然保持着竞争力。这仅仅是因为科技行业对人才的需求极度缺乏弹性吗?

138:10是的。这更多集中在软件开发和机器学习之类的领域,但如果你看更传统的工程领域,那些不那么热门的领域(例如波音公司的工程师等),这些人大概会说,他们的薪水因为来自印度和中国的、渴望机会的工程师的存在而被严重压低。所以在软件/科技行业,因为它已经热了这么久,感受不到这种效应那么明显。所以是的,它有足够的弹性。

138:42太棒了。好的,Steve,这次非常有意思。我真的很享受这次对话。我喜欢为它做准备,喜欢和你交谈,我也真的在这个我感兴趣了很久的主题上学到了很多。关于我们今天谈到的任何主题,或者今天没来得及谈到的,还有什么我们应该再触及的吗?

139:00嗯,我们已经谈了那么多,我真心觉得你是个很棒的采访者。你的问题总是触及很多人困惑的关键点。其中有很多深度。所以,我觉得这很棒。我们还有很多可以聊的——我们应该找时间再聚在一起做一次。但我不认为你遗漏了什么。

139:21如果你愿意的话,我很乐意做这次的第二版,谈谈你的物理工作,以及我们这次可能遗漏的其他主题。

139:29好啊,我们可以谈谈多世界诠释和量子计算。没问题。

139:33哈哈,这会很有趣。在此期间,你想把你的网站、播客和推特告诉大家吗,让他们知道在哪里能找到你?

139:45我姓 Hsu。这是对人们来说最难的地方,因为它的拼写和发音不对应。直接搜我就行。我在推特上。我有一个博客,还有一个叫 Manifold 的播客,听众不算多,但我努力保持高质量,请到一流的嘉宾。我们愿意深入一些,所以它的受众非常小众。但如果你喜欢我们刚才的这场对话,你大概会喜欢 Manifold。你可以在你收听播客的所有常用平台和 YouTube 上找到它。

140:23这个播客也类似。这恰恰是我在这里努力要做的事。你对这么多不同的领域了解得太多了。听你们进行专家级别的对话真是太有趣了,从社会科学到外交政策,各种话题都有。所以,是的,Manifold 播客是值得一看的地方。

140:54是的,我的荣幸。

— 读到这里,多懂一点。 —