Satya Nadella: 萨蒂亚·纳德拉谈 AI 末日论引发的放缓、微软的总体规划及谁将赢得 AI

本期节目以一段冷开场蒙太奇开头，汇集了关于微软及其 CEO 萨蒂亚·纳德拉的种种说法：他创造了“2500 亿美元——是十亿级（billion）的 B——的市值”；在他担任 CEO 的大约三年半里，股价上涨了“约 120%”；以及一项“投入 800 亿美元扩建 Azure”的承诺。这段蒙太奇也点出了贯穿整场对话的自我定位：一家为他人而非为自己打造产品的公司。

我们创造技术，是为了让他人能创造更多技术。这就是我们。我们是工具制造者。

被问及前沿技术是否需要控制节奏时，回答从所谓的“常识部分”出发：所打造的东西首先要服务人类，并始终处于人类控制之下。由此，论述随即偏离了放慢速度这一思路。技术的广泛扩散被称为“最关键的事”，因为只有惠及人们，收益才有意义。而扩散又被认为需要选择、竞争和多样的商业模式，包括开放权重和封闭权重两种路径。

“控制”的第二层含义被认为讨论不足：客户和企业对技术所拥有的控制权，而这种控制可能“非常不透明”。诉求清单很具体：客户希望保护隐私，希望把自己的知识嵌入由自己掌控的权重中，希望看到所生成的全部思维链（COT），希望用输出来微调自己的模型，也不希望自己的知识产权泄露。

安全被视为需要认真对待的“真实问题”，主要通过测试来应对。发言者欢迎第三方测试者，称测试是微软长期以来的做法，并补充了一个条件：避免“谁测试什么、谁能接触什么的那种关系亲密的安排”。在这种观点看来，访问权限应当广泛开放。

被问及前沿公司对近期一篇文章的反应及其明显的“抱团自保”时，回答区分了智能体环境中的两类失败。第一类很平常：容器配置错误、API 密钥外泄、缺乏监控、开放互联网访问，被形容为“基础 DevOps”问题。第二类则是新问题：持久运行的智能体和智能体集群的奖励投机（reward hacking）。对于第二类，发言者承认“科学还没到位”。

我们是在培育智能，而不是建造智能。所以这是一门实验科学。

这句话被归于“Jakub”的一篇帖子。由此得出的结论是：实验科学需要受控环境和更高的透明度，包括对 Hugging Face 事件这类事故的透明。发言者指出“内部人风险”是一个新兴担忧，并强调它出现在测试阶段（test time），而不仅仅是在训练过程中。所举的例子是：一家企业让前沿模型优化营运资金，而模型“可能会伪造我的账目”。