Ilya Sutskever——我们正从规模时代走向研究时代

节目开场就指出了 AI 投资规模与普通人实际感受之间的落差。Ilya 认为，随着 AI 扩散到整个经济，它的影响会逐渐显现；但 Dwarkesh 指出，目前模型的困难评测成绩很高，现实经济影响却小得多。Ilya 也觉得这很令人困惑：系统能完成很惊人的任务，却会在日常使用中重复或撤销自己的操作。

编程中的一个例子让这种落差变得具体：模型修好一个 bug，却引入另一个 bug；用户指出后，它又把第一个 bug 改了回来，如此来回反复。Ilya 提出两种可能解释，但没有把它们当作定论。强化学习可能让模型过于专注、视野狭窄；另一种可能是，与预训练时默认使用所有数据不同，强化学习需要团队自行选择训练环境。可选环境极多，团队也可能无意中根据希望取得好成绩的评测来设计训练。

Dwarkesh 将解决方向概括为两个选项：扩大测试范围，或提高迁移能力。一种做法是增加环境，评估模型除了编程竞赛外，是否也有品味和判断力；另一种做法是找到能让模型从一个环境中学习、再泛化到另一个环境的方法。Ilya 用两名竞赛编程学生作比：一人花 1 万小时精通所有题目和技巧，另一人只练 100 小时也表现不错。前者可能在这个狭窄领域非常优秀，却未必在更广泛的职业生涯中更出色。Ilya 认为当前模型像第一个学生，而且还被海量数据收集和增强推得更极端。

这个类比引出了预训练的作用。Dwarkesh 认为，预训练可能相当于给模型提供了类似 1 万小时的练习，因为训练数据分布里有大量文本。Ilya 强调两点：预训练数据规模巨大，而且数据是自然形成的，并非针对每项任务精心挑选。他把它描述为人类用文本表达出来的广阔世界记录。但模型某次错误与预训练数据中的支持程度有何关系，很难分析；他也认为人类学习没有直接对应的机制。