← Dwarkesh Podcast

关于 AI,没人提出的那个最重要的问题

The most important question nobody's asking about AI

Episode 2026-03-112026-03-11简体中文Members only
Listen to this episode00:00 / 24:38
Reading settings
Reading preferences
Text size
Download in-depth read
Read offline

简体中文 · In-depth read · Current version

Downloads are not available yet.

Text language

In-depth read · Key ideas, reasoning, and examples, organized by topic.

§01这场合同之争,实质是一个“关停开关”

Patel 的切入点是战争部与 Anthropic 之间的一场具体争端,而他一开始几乎完全让给了政府一方。因为那些红线,战争部有权拒绝使用 Anthropic 的模型。他甚至替政府拟好了论证,并称其非常合理:我们绝不希望出现这样一个世界——军队的作战能力依赖于一家私营公司,而这家公司一旦认定我们越过了它的使用条款,就可以切断供应,尤其当“自主武器”或“大规模监控”这类概念本身含义模糊时。

他更进一步,做了一次让自己一方不舒服的思想实验:如果他是国防部长,大概也会拒绝与 Anthropic 达成这笔交易。设想未来某届政府与 SpaceX 谈判,让军方使用 Starlink,而 Elon Musk 保留这样的权利:一旦他认定军方正在打一场国会未授权的战争,就可以取消合同。这话表面上很合理,但军队不能把作战所依赖的技术上的“关停开关”交给一家私营公司——尤其当双方关系紧张、互信很低时,而这正是 Anthropic 与现任政府的关系。

他随后划出的区分,才是这篇文章存在的理由。如果政府只是说“我们不做你的生意”,那没有问题,他也不会觉得有必要写这篇文章。但政府实际做的是:因为 Anthropic 拒绝按政府指定的条件出售,就威胁要摧毁它这家私营企业。

手段是“供应链限制”:亚马逊、谷歌、英伟达和 Palantir 都必须确保 Claude 不接触他们任何五角大楼相关的工作。Patel 承认 Anthropic 今天能扛住这个认定。他的论证关于轨迹——AI 不会一直是承包商产品里可以随手关掉的把戏,而会织入一切产品被构建、维护和运营的方式。他举的例子很具体:如果战争部使用的 AWS 服务代码是 Claude 写的,这算不算供应链风险?在一个 AI 无处不在且强大的世界里,这些大厂能否把 Claude 隔离出去、同时继续与五角大楼合作,其实并不清楚。

由此产生一个他认为该部门大概没想透的问题:如果 AI 真那么普遍而强大,那么当被迫在“自己的 AI 供应商”和“只占收入极小一部分的战争部合同”之间选择时,多数科技公司会放弃政府,而不是放弃 AI。那么五角大楼的计划是什么——胁迫并威胁摧毁每一家不肯完全按它条件行事的公司?

Keep reading as a member.

You've read the free preview. Become a member to read the rest, with side-by-side reading and downloads where available.