Adam Marblestone——AI 漏掉了关于大脑的某样根本性的东西

Dwarkesh 把整场对话框成他一路带着的问题——他在每一次访谈 AI 研究者时都在问：大脑是怎么做到的？模型被喂进的数据远多于人类一生所见，却只拥有人类能力的一小部分。有某样东西被漏掉了，而标准的扩展叙事并没有说出那是什么。

Adam Marblestone 把赌注抬得更高——这是千万亿美元级的问题，很可能是科学中最重要的那个问题——然后拒绝回答它。他不知道，而且他认为答案不会仅仅来自许多聪明人更用力地想。他那个元层面的立场是制度性的：在这样一个问题被破解之前，神经科学必须先在技术上被赋能。

Marblestone 的做法是把机器学习的拆解搬进来，问哪一部分被低估了。一个学习系统有架构；有超参数——多少层、有什么性质；有学习算法——反向传播、梯度下降，或者别的什么；有权重的初始化；还有代价函数，也就是系统被训练去做什么，奖励信号是什么，损失与监督信号是什么。

他的直觉是，这个领域忽略了最后一项。机器学习偏爱数学上简洁的损失——预测下一个 token、交叉熵——那是计算机科学家觉得自然的损失。相比之下，进化有数百万年关于什么成功、什么致死的反馈，因此可以把那些知识编码成一份课程，而不是一个标量。

所以猜想是：大脑运行着许多不同的损失函数，分布在不同区域，在发育的不同阶段被打开——实际上就是大量 Python 代码，为大脑每个部分该学什么生成一份专门的课程。这就引出一个他想保持开放的问题：大脑的损失函数从哪里来？不同的损失函数能否让学习效率大幅提高？

Dwarkesh 把那个标准说法摆上桌：皮层被认为承载着通用的人类学习算法。Marblestone 指出我们实际知道的少得可怜，首先就卡在词汇的混淆上。皮层有六层实体组织——这里的「层」与神经网络的层不是一个意思——这些区域彼此相连，那才更接近网络里「层」的含义。

流行的理论路数是问一个皮层区域如何近似反向传播。但这个问题在你说清网络被要求做什么之前是不完整的：在下一 token 预测上反传？在图像分类上反传？还是在做什么？没有人知道。一种可能是：它是一个极其通用的预测引擎，任何一个区域都在试图从任意一个变量子集预测任意另一个子集——全向推断。

与语言模型的对比很锋利。LLM 看到上下文窗口里的一切，然后计算一个特定的条件概率：给定过去几千个 token，下一个是什么。它可以学会填补句子中间的空，但那是骑在一个只朝前看的天生目标之上的涌现能力。

如果皮层天生就是这样构造的：任何区域都能在给定任意其他子集的条件下，预测其输入任意子集中的任意模式？那更接近概率式 AI，而 Marblestone 指出这与 Yann LeCun 的能量模型相似：所有变量的联合分布，推断就是钳住一部分、采样其余部分。钳住不同的子集，你就得到不同的条件分布。这就是「全向」的意思。

这也解释了这样一个区域为什么费劲去预测这些东西。有些联合区可能用听觉预测视觉；另一些可能预测大脑那些先天部分即将做什么。整个皮层骑在一个蜥蜴脑和一具蜥蜴身体之上，而那个东西也值得预测——不只是我是否看到这个或那个，而是这块肌肉是否即将绷紧、我是否即将笑出来、心率是否即将上升、某个本能行为是否即将触发。

Dwarkesh 用一个具体例子检验这个想法。有人告诉你背上有只蜘蛛，这句话就征用了你在真的看到面前有蜘蛛时会启动的同一套先天机制。你学会了这个联想，尽管从来没有任何东西监督过那句话。

Marblestone 把这一点连到 Ilya Sutskever 的说法——关于进化如何编码高层次欲望或意图，我们没有好的理论——以及他最近为之着迷的 Steve Byrnes 的工作。他举的例子是尴尬：想象 LeCun 在听、在评判他对能量模型的描述，这会激活一种先天的羞耻反应，而这种激活是有用的，否则他可能会被 LeCun 那群来势汹汹的军队杀掉。

问题在于，进化从没见过 LeCun，没听说过能量模型，也不知道科学家或播客是什么。可大脑必须稳健地编码「不要得罪部落里重要的人」这个欲望，而又无法预先知道那个会学习的大脑皮层会把什么放进世界模型里。无论哪些神经元表征「LeCun 生我的气」，它们最终都必须接到羞耻反应上。

而且这套接线必须在事后持续有效。寻求地位、向有知识的人学习、与朋友而非敌人交换技能——这一切都依赖于把学到的世界特征接到先天奖励函数上，然后再据此继续学习。下一次他就不会再去惹 LeCun，因为修正会反馈进学习。

按 Marblestone 的转述，Byrnes 的提议是：大脑中学习的那些部分——皮层、杏仁核的一部分——在建模「操控子系统」：那个先天编程的部分，承载着原始反应以及一系列奖励、代价与自举函数。

诀窍在于，操控子系统有它自己的感官。我们以为视觉是皮层的事，但存在一个皮层下的视觉系统——上丘——带有对面孔和威胁的先天检测器。它也有关于社会地位和友善的先天启发式。于是一个携带先天先验的视觉系统、一套先天反应，和一个试图同时预测两者的学习系统，就这样并存。

这就回答了「正确的神经元如何被接上线」的问题。哪些皮层神经元对社会地位或友谊重要？那些能预测地位与友谊之先天启发式的神经元。你训练一个预测器，然后问哪些神经元是它的一部分；那些就是已经被接到奖励函数上的神经元——而没有人需要预先规定「朋友」是什么。

Dwarkesh 追问泛化问题。皮层拿到的是关于字面蜘蛛的标签——这是一张图，这是坏的，要害怕——但它从未在「你背上有只蜘蛛」这句话上得到过监督。这种迁移是怎么发生的？

答案是：学习子系统是一个真正强大的泛化算法，先天那一侧只提供种子。某个小而暗、高对比、刚才还不在那儿却朝身体快速移动的东西，可能是只昆虫；你会缩一下。下丘脑里有些神经元就是「我刚缩了」神经元。对奖励的负向贡献本身不含泛化——但奖励函数下游的泛化是可能的，杏仁核可以学会提前几百毫秒预测那次退缩。

所以对下丘脑和脑干关心的每一个变量——即将退缩、正在和朋友说话、现在该不该笑、这个朋友地位高不高、即将尝到盐——都有一个预测器，而预测器的输入是世界模型提供的任何东西。泛化就来自那个输入。「蜘蛛」这个词可以被一本关于蜘蛛的书激活，被一个住着蜘蛛的房间激活，被某人说的一句话激活；预测器学会对概念而不是对视网膜图像发火。

Dwarkesh 指出这场对话正在让听众起多少鸡皮疙瘩，Marblestone 则观察到：他现在正在激活他们的操控子系统——那个蜘蛛—下丘脑亚群，正凭着播客里的抽象概念而放电。

Marblestone 把蜘蛛这条线收口。那句话之所以有效而反射之所以不行，是因为皮层从抽象的、整合的变量做预测，而操控子系统只能用上丘和少数几个其他传感器输出的东西。皮层之所以泛化，是因为它在世界模型上做推断；先天那一侧只能困在自己的先验里。

Dwarkesh 指出这有多奇怪：把这些拼成一幅图的人——Steve Byrnes——是物理学家出身，后来转做 AI 安全研究。Marblestone 说他只是在做综合，而这恰恰是学术激励咬人的地方：下一个实验是什么？这要怎么发表？怎么让研究生靠这个毕业？它太推测性了。

但文献里已经有那些零件，而 Marblestone 认为 Byrnes 实际上已经回答了 Ilya Sutskever 的问题：大脑如何为高层次欲望编码，并把它们接到原始奖励上。