Gwynne Shotwell: 埃隆·马斯克与格温·肖特韦尔谈 AI 风险与同行评审、星舰、Terafab 及 SpaceX/特斯拉合并
Elon Musk & Gwynne Shotwell on AI Risks and Peer Review, Starship, Terafab, SpaceX/Tesla Merger
Guests: Gwynne Shotwell
Full transcript · Read the full conversation in order, with its original context.
§01文字稿 1
简单问一下。我们去火星的最新时间表是什么？去火星？哦，我认为我们会在十年内让人登陆。欢迎 SpaceX 总裁兼 CEO 格温·肖特韦尔。她对 SpaceX 的成功起到了关键作用，是非常重要的人物。她真的是黏合剂。你知道，她是龙卷风的黏合剂。快速失败，快速学习，让你的设计足够稳健。如果我们没有在月球上建立定居点，我会很失望。这家太空与 AI 公司以 750 亿美元的 IPO 正式创造了历史，
上市首日市值达 1.7 万亿美元。放置其算力最高效的地方是在轨道上。管理风险，而不是回避风险。请欢迎格温·肖特韦尔。非常感谢你的到来。你就在这儿。就在那儿。就在那儿。就在这个……
欢迎。谢谢。感谢你来到这里。很高兴来到这里。很高兴见到你。很高兴见到你。我们真的很感谢你能来。SpaceX 那边怎么样？
你知道，我们很无聊。什么事都没有。没发生多少事。我有的是时间。顺便说一句，格温……顺便说一句，埃隆的时间更多。是啊，我是说，你在 SpaceX 待了很久很久。你是除埃隆之外任职时间最长的员工吗？
除了埃隆，是的。事实上，我的 24 周年纪念日是 9 月 9 日，上周的某个时候。哇。是的，是的。真了不起。格温，你能带我们回到你最初接到这个电话的那一天吗？你当时想，嘿，有这么个东西。这个决定的过程是怎样的？
你是怎么被说服去为这家公司背书的？给我们讲讲吧。好吧，是埃隆为它出资背书的，对吧？我只是在那里工作。是的。不过这个故事其实有点疯狂。当时我要出去吃午饭。我最好的朋友之一，也是我当时的同事，
要去为埃隆工作了。我请他吃午饭，算是饯行午餐。他说，哦，我送他回去的时候，他说，哦，进来见见埃隆吧。我说，啊，他很忙，你知道，没必要。但我们还是去了，我见到了他。我说，嘿，我觉得你真的需要，我觉得你需要一个全职的人来管理你的业务拓展部门。你知道，你现在算是有个兼职的人。他是个承包商。
你知道，这样看起来不太好。他若有所思地看着我，你知道，有点挠头。然后道别。聊了一会儿。道别。然后我回到办公室，接到了埃隆的助理玛丽·巴斯（Mary Bass）的电话，她说，埃隆希望你申请新设的业务拓展副总裁职位。你能来面试吗？
我说，现在？不行，我有工作。我现在去不了。明天？好吧，当然，明天。然后我花了大约四周才做决定，是的，我当时真是个十足的傻瓜。但在那时，那家公司的规模有多大？你觉得它缺少什么需要的东西？
因为它当时还很大程度上处于研发阶段。它非常偏研发，但是，你知道，埃隆投了钱，他想要一些回报。他想要现金，对吧？他想要客户。而我在航天行业本来就在做这类工作。结果证明我挺擅长的。不过，是的，那么当时是什么样子？
我是第七个签合同的员工。我提前两周递交了辞呈，又休了一周假去翻修浴室，因为我知道一旦开始为埃隆工作，我就再也没时间做这件事了。三周后我入职，成了第 11 号员工，然后我们就开干了。大约 12 个月后我们卖出了一枚火箭。说是一枚火箭。其实并没有火箭。并没有火箭。
是的。那么那个销售周期是什么样的？你怎么说服别人，让他们真的愿意承担这个风险，也许还给你启动这个周期、造出这东西所需的定金？时机非常好。顺便说一句，SpaceX 本不该存在，对吧？如果其他发射服务商都很出色，那么新进入者就无法取得进展，对吧？
因为他们根基太稳固了。所以我们本不该成功。但事实证明，你知道，客户服务不怎么样。火箭贵得离谱。所以有这方面的原因，对吧？另一方面是 9·11。当时，军方迫切地在寻找能够进来做快速发射的人。
你知道，在 9·11 事件之后，他们大概有四个小时知道坏人在哪里，他们非常希望能够在战区获得某种能力。我们花了一段时间才做到，但我们做到了我们说过要做的事。哦，所以这真的有点像是从悲剧中诞生了这个机会。在某种程度上，是的。而且这并不是 SpaceX 特有的。那只是当时行业的状况。然后显然，你知道，那个非常非常有名的第一章，你们几乎走到了绝境边缘，需要最后一次发射成功。到那时，你的角色已经开始发生相当大的变化。
你能给我们讲讲，那家公司内部是怎样的动态，把你推到了那个位置上？当时非常有创业公司的感觉。我是那个销售女士。但有了销售之后，你就需要，你知道，管理客户，还需要财务职能。即便我们很小，我记得当时一家国防承包商说我们是一只苍蝇，
停在我的，你知道，停在一个巨人身上，停在我的大脚趾上之类的。我说，嗯，我觉得你脚趾上不该有苍蝇。但是，不过你仍然需要政府事务职能。你需要保护自己。我们在华盛顿从不主动进攻。我们一直处于防守状态。所以我就不断承担越来越多的事情。然后，当我们拿下当时最大的合同时，
那是货运补给合同。我们称之为 CRS。那是 2008 年。埃隆在特斯拉那边超级忙，在 SpaceX 也相当忙。当时事情很多，他需要一个搭档。我想他当时在考虑选这边的奎因（Quinn），或者也许是其他某个承担了、包揽了更多技术范围的人。
然后在我们去和 NASA 进行这份 16 亿美元合同的最终谈判的路上，在跑道上，他问我愿不愿意做。他说，嘿，你想当总裁吗？我当时……我想吗？嗯，不想。一开始不想。就那一纳秒。
我想，嗯，我爱我的工作。我爱那些家伙，我的队友们。然后我想，好吧，我又在犯傻了。是的，我想要这份工作。那么现在快进一下，来到我们今天所处的位置。这家公司的范围和雄心已经大幅扩张。我是说，几乎感觉就是在过去一年里。它既是一家太空公司，也是一家 AI 公司。
我想埃隆可能说过这话。我不知道是泄露出来的还是他们公开说的，关于规模。是按收入算的。按收入算，是的。现在这两家不同的公司要待在同一个屋檐下，理想情况下要相互合作、相互补充，你如何管理这两种文化？团队方面，你知道，xAI 的人员流动肯定很大。
SpaceX 有点像是开进去，在那个领域存在明显缺口的地方提供了帮助。我们都对学习 AI 感到非常兴奋。我是说，我是 AI 新手，我们有一群人对此真的非常兴奋。我想我们都认识到，埃隆像往常一样把局面铺垫得很漂亮：你知道，如果你不使用 AI，如果你不引领 AI，你就会面临变得无足轻重的风险，而且是重大风险。
而 SpaceX 绝不可能变得无足轻重，对吧？它对公司太重要了，我们所做的工作也太重要了。所以，你知道……你是否预期未来几代火箭的设计和建造会越来越多地由这些系统来提供参考？百分之百由这些系统，是的。是的。那你如何管理团队呢，你知道，因为你们有这些了不起的、我是说，真正的火箭科学家，他们某种程度上训练了一辈子，而现在你得帮助他们接纳一套工具链，
并对这意味着什么感到自在。我不知道你有没有看到，比如说，我想是 OpenAI 解出了那个非常著名的方程时，所有这些数学家都非常不高兴。哦，纳维-斯托。纳维-斯托克斯方程。是的，我读到过。
嗯，关于他们是否……存在一些争论。他们用暴力方法求出了解，但随后这 20 位菲尔兹奖得主基本上说，嘿，你们在毁掉这门手艺。我并不认为那是……你们在拿走奖牌。是的。他们要拿走，没错。
好像那就是职业生涯的全部。它不是关于创造东西，而是关于获得……奖项，而现在所有奖项都没了。是的，我宁愿让世界变得更好、更聪明，让人们更了解情况、去解决问题，而不是担心那些。是的，多创造东西。文化融合进行得怎么样？你们有 xAI，有 X，我不知道 X 本身有多少人参与，还有 SpaceX。我是说，这些是分开管理的业务吗？你们在那里如何进行管理？人们在各个
单元之间流动性强吗？你把它们看作不同的单元吗？或者你实际上是如何管理的？我会说我们还没有完全、完全整合，而且我们刚刚完成了 Cursor 的，你知道，那件事。恭喜。是啊，那真是一笔好收购。是的，是的，他们很棒，他们很棒。我想我们正好是一个月前的今天完成交割的。
是的，所以我们还没有完全整合，但我认为团队之间磨合得非常好。是非常不同的垂直领域，但还是因为我们在 xAI 经历的人员流动，大量 SpaceX 的领导层和工程人员进入了那里，基本上都进去了。所以我们的整合速度比我想象的要快。可能没有埃隆想要的那么快。是的。让我印象深刻的一点是你们资本项目的规模和数量，你们要管理的资本项目可能比任何其他组织都多，而且彼此之间差异也更大。
这是一个国家的规模。不，我是说，必须如此。所以我会想到这个路易斯安那航天港。你们有星舰，这是有史以来最雄心勃勃的航空航天项目。你们有 Terafab（原文转写为 TerraFab），我认为这是人类历史上最鼓舞人心、最雄心勃勃的项目之一。我是说，Terafab 的愿景、规模以及你们设想在那里做的事情实在太不可思议了。然后我开始做粗略估算。我想我当时喝了几杯啤酒，在和别人聊 Terafab，我就想，我的天。这些数字变得非常大，非常快。
不过 AI 的数字也是，是的。我以前在那次收购（原文转写为“FBI acquisition”）之前就对我们的支出感到震惊。你知道，就像，天哪，我们要在一台空分装置上花 1 亿美元。而我当时想，哦，1 亿，10 亿。当你看接下来几年所有这些的时间表时，这些资本是放在资产负债表上吗？是会来自 Starlink 的现金流，
还是你们必须回到市场去获得更多资本？我是说，你怎么考虑资本从哪里来？我想没有人怀疑你们执行和交付的能力，或者有些人可能怀疑，但我认为总体上市场会认可。但这些资本从哪里来？它会来自，我会说以上答案都是。我不认为我们会再发行更多股票。顺便说一句，我不打算在这件事上制造任何新闻。
这算是上市公司的一个缺点。他们告诉了我所有不能说的事情。我就想，我肯定会忘掉其中一条。也许我们会制造点新闻。但会是以上所有来源。而 Starlink，我是说，在你看来，Starlink 是未来几年公司的核心现金创造引擎吗，还是算力，还是同样是以上所有的组合？
你是怎么考虑的？Starlink 肯定能自给自足，但我们还有很长的路要走，对吧？我们 Starlink 的市场渗透率是 1.5% 到 2%，取决于你在哪个国家。所以那里还有很大的增长空间。与我们为美国军方所做的相比，我们的收入非常小，所以我们预计那里还有很大的增长空间。但说实话，现在，这有点尴尬，
但算力租赁真是一门了不起的生意。你认为这会持续吗，还是？我们没看到任何下降。是的。我们完全没看到需求下降。这是每季度数百亿美元的建设投入，而这些对你们来说是一个新的客户群。这就是现在的主营业务了吗？
比如“埃隆网络服务”占收入的百分之多少？很多。很多。我想我们可能很快会发布一些公告。哦，对。又是上市公司那一套。是的，上市公司。那好吧，我们换个不那么有争议的话题。
你们还计划收购哪些公司？问得好。是的。问得好。你知道，我们几乎没做过并购。你喜欢电动车吗？我这有笔好买卖给你。我有一堆。
电池，电动车。Opta 上的 Starlink。我给你个好价钱。我们能聊聊你们已经完成的一笔交易吗，就是你们和 EchoStar 达成的那笔很棒的交易？是的。查理拥有一大批频谱，你们得以收购下来。我想大家都开始问这个问题：哇，有一个直连手机（direct-to-cell）业务。是的。
在那之后自然而然的下一步会是某种覆盖面广、更偏移动电话的服务。但你能不能就你能说的告诉我们，那些频谱会用在哪里？你们在 Starlink 和直连手机业务上的短期计划是什么样的？嗯，你知道，我们要开始了。我们目前通过 T-Mobile 有一项直连手机业务。我不认为他们给所有用户都开通了，只给付费最多的人。但我们的计划是，不再利用 T-Mobile 的频谱切片
或全球其他电信运营商的频谱切片。我们想利用我们花了很多钱买下的那部分频谱。而且随着股价上涨，我们付出的更多了，因为其中涉及一些股票。查理在那笔交易里收获不错。不过他是一位非常忠实的客户。他做 SpaceX 的客户已经快 20 年了。所以我们想利用它来确保没有信号盲区。
令人震惊的是，在美国有很多地方，你无法，我是说，没有 Starlink 之类的服务，你就收不到手机信号。对。真的很糟糕。世界其他地方没那么糟。在美国这里尤其糟糕。德州有大片信号盲区。我就住在那里。
我永远不会忘记，有一次我和埃隆通电话，因为这些盲区我一直掉线。我想，要么我会被炒掉，要么我在车上装一个 Mini。所以现在我车上装了 Starlink。是的，丘陵地区（Hill Country），对手机服务不友好。不好。不好。我也得照做了。我之前在和贾里德聊。
他在 NASA 工作。我想你们有些关系。他太棒了。他今天早上表现很棒。他昨晚在派对上说。嘿，你们正在转向这个了不起的全新星舰平台。它大得多，有效载荷更大，是的。然后你们要让之前的平台退役。
对吗？之前的火箭最终会退役。猎鹰 9 号？是的。最终会，是的。我们肯定想从旧技术转向新技术。如果我们不淘汰自己的产品和服务，别人就会想办法替我们淘汰它们。看看我们对市场做了什么，对吧？
这个类比就在那里。他们措手不及。我们击垮了他们。现在我们要确保自己不会措手不及。而要实现埃隆的目标，你真的需要星舰。是的。顶上装着龙飞船的猎鹰 9 号就像一辆小型面包车，开着小面包车公路旅行。去火星的公路旅行要六个月，所以你不会想待在小面包车里。
但人们依赖你们的小面包车，比如 NASA 和许多其他参与者。所以你们会让它在市场上继续存在一段时间？我们肯定不会今天就让它退役。而且还有另一家供应商，对吧？波音为开发他们的载人飞船获得的钱，我想可能比我们拿到的还多。所以我们就让他们也有些生意吧。他们应该让他们的飞船飞起来。政府为此花了很多钱。
他们应该能用上它。我从这个回答里感觉到了一点火药味。格温，Starlink 的竞争会怎样？贝索斯在发射东西。中国现在也有了一些可回收的运载器。你认为会出现更多竞争吗？显然，你们是市场先行者。这是整个电信行业难以置信的变革。正如你指出的，1% 的市场份额，才刚刚起步，而它已经是一个庞然大物了。
未来几年这会变得非常有竞争性吗？我认为会非常有竞争性，但我认为那些真正专注于技术和客户服务、真心想为客户做好事的人会胜出。比如特斯拉不打广告。它是一辆了不起的车。如果你的能力了不起，人们就会买。对。但如果你们一直赢下去，你会不会担心像标准石油、AT&T 那样，
政府说这家公司太大、太重要、市场份额太高、优势太大，而且你们比政府还大，人们对此变得非常担心和害怕，并开始与这家公司对立？在这个意义上，你如何看待与政府之间的平衡以及政府关系？我是说，我们过去有过一些对立的关系。我认为我们会设法渡过难关。这种事会发生。会发生。会发生。但我认为，你知道，埃隆创立了了不起的公司，他提供了了不起的产品和服务，而我们，你知道，最终都做到了我们说要做的事。所以希望你能建立信任，并尽可能地
保持透明。给我们讲讲太空中的数据中心。埃隆……超级计算。我们得给数据中心改个名。超级计算。太空超级计算。是的。埃隆对此非常兴奋。我也非常兴奋。是的。为什么这如此有吸引力？因为看起来……我想我们会度过地球上这股反数据中心的浪潮，但请给我们讲讲为什么把它们放到太空中是合理的，因为把它们送上太空是有成本的。给在座的观众讲讲。但把数据中心建在地面上也是有成本的，对吧？
你得买地。一旦有人发现要建一个数据中心或超级计算中心，地价就会从每英亩 3,000 涨到每英亩 18 万。所以相当昂贵。时间延迟大得惊人。许可和审批相当令人窒息。当然，我们的航天业务也是这样。
它极其官僚。所以我们已经吸取了这些教训。但是，从破土动工到真正能建起东西所需的时间，甚至还没拿到你的算力，对吧？甚至还没拿到算力，只是有一栋楼而已。获取电气设备的时间线。比如，人们在说发电机要三年。
对。我们现在就需要算力。当下的需求是无法满足的。人们需要算力。现在，我们现在就需要。那为什么要把数据中心放在太空中？我们掌握着发射，对吧？我们有很强的发射能力。
所以我们觉得我们，而且那条路径是非常清楚的。太空中的空间，你知道，是无限的。它是免费的。它是免费的。它没有价格。冷却条件就在那里。你知道，散热器对着深空。那是外面最冷的东西。
所以有免费的冷却，还有太阳，你大概听过埃隆谈论太阳的能量。对。你知道，我们只用了太阳能量的百万分之一的百万分之一，而你基本上是把这些卫星放进始终朝向太阳的轨道。顺便说一句，不像你房子上的太阳能板，在这里一天只能晒八小时太阳。而你们的姊妹公司将开始制造你们所需的 100 吉瓦太阳能板。我们也会自己制造太阳能板。好的。是的，我们正在（原文转写为“office”的地方）外面建一座工厂。
也许明年某个时候。你们送一台上去，开始测试。哦，肯定的。28 年、29 年，也许有人可以成为这个产品或服务的客户？明年我们将发射，今年我们将发射用于 Starlink 宽带的 V3 卫星。我们将发射下一代的第二版。抱歉版本这么多。我们有版本管理的问题。Starlink 移动的第二版。这样就不必使用别人的频谱，我们将能使用查理的、现在是我们自己的频谱。我们还将发射 AI 算力卫星。
所以明年是重要的一年。你们需要星舰投入运行才能做到吗？不是必须，但星舰要强大得多，它是一台好得多的机器。是的。是的。当你第一次接触到星舰的白纸设计时，你是怎么想的？当你走进第一次会议，大家说，伙计们，我们有这个。就像埃隆做的几乎所有事情一样，一开始看起来都很疯狂。
是的。然后它变成了现实，而且很棒。比如埃隆说，我们要把火箭降落在船上。我们都说，好吧，那我们去想办法解决。现在我们做到了。你在多大程度上参与那些工程会议？他会在里面把东西拆开分析。你会和他一起参与那些吗？
有时候。其实，我是工程师出身，我真希望……我很怀念。我真的很怀念那种批判性的，嗯，即使不在解决工程问题，你仍然可以批判性地思考。而且他不太喜欢管理层。都是工程师。信噪比。是的。
信号是工程。噪声是其余的一切。所以我得做些工程，否则我就全是噪声了。明白了。但我说的是公司管理层整体。每个人都要做具体的事，而不只是管理。对。这是非常……期望是分开的。
球员兼教练。不存在只做管理者这回事。你得亲自做你在管理的事情。明白了。你必须是球员兼教练。必须是。原因是管理者很烦人，会拖慢进度，是吧？大多数情况下是，但我是说，优秀的管理者真的能充分发挥人才的作用，对吧？
本质上是在管理矢量。你要确保人们朝着正确的方向，并努力让这个矢量尽可能大。在管理方面，埃隆的方法有什么秘诀？我是说，我有幸参加过一些会议，看到的场面相当神奇，但也许你可以透露一点，他是如何说服最有才华的人来这家公司工作的，你们是如何说服他们的，又是如何从这些极其有才华的人身上得到如此出色的成果的。我不认为这是魔法，
尽管当我看这支特定的团队时，他们真的太优秀了。结果像魔法一样。SpaceX 的人，他们太优秀了。我们在面试中对人很严格。你真的要确保他们在以往的经历中体验过成功或证明过成功。这很难证明。如果你没有感受过成功，或者在这种环境中没有成功过，
因为工作量很大。比如，我们都非常忙。除非你之前算是尝过成功的滋味，否则很难成功。所以你真的要在这方面培养人。所以我们招最优秀的人，不是我们能招到的最优秀的人，而是最优秀的人。然后我们给他们非常困难的项目，
非常困难的工程问题，然后放手让他们去干。你给出很高的期望、非常困难的问题，然后管理层的工作就是清除他们日常中的杂务和摩擦，让工程师每天真正做 10 个小时的工程，而不是两个小时。就像总有这么个笑话，你知道，大多数大公司，尤其是那些为政府工作的，你每天大概只能工作两个小时，其余时间都是杂务和破事。所以这真的是我的工作。这是我的工作，也是每一个管理人员的人的工作，确保他们前进路上没有破事，
让人们把出色的工作做好。其中一种方法是不给他们任何时间去完成。我想我们交给了财务团队。并不全是工程师的事，尽管工程师很棒。我们交给财务团队的任务是，在不到六个月内完成有史以来规模最大的 IPO。
IPO 之后人才状况如何？估值飙升，人们突然看着自己的股票期权，发现它们值很多钱？这是一种风险吗？你知道，大家都很担心，不是 SpaceX 的所有人。人们来 SpaceX 是为了做这些很酷的项目、做有意义的工作，
并成为这些了不起的成功的一部分。我并不担心这个。我不认为会出现大规模出走，结果也确实没有。当你考虑如何长期保持人们的投入时，显然优秀的公司总会有新的东西让高才干的人去做。我猜有一种管理……我只是对管理模式非常感兴趣，或者说人们会主动轮换到新项目上吗？
你如何考虑留住人，你知道，让他们不一定需要沿着管理阶梯晋升职业，而是保持投入于新项目？这对你来说是主动在做的吗？我们确实经常调动人员。希望是自愿的，而不是被“自愿”的。是的。
不过，嗯，比如说，算力中心。你知道，我们需要很快得到大量帮助。所以我们有，你知道，发射部门的人在帮忙。也有其他领域的人在帮忙。就像一些 SpaceX 工程师在 AI 方面帮忙做模型一样。我是说，是不是就这么简单：真正聪明的人就是喜欢解决真正困难的问题？是的。就是这么简单。
就是这么简单。所以我们其他人只是……只要他们有时间去做，而且没有一堆破事挡路。是的，所以我们其他人只是，我们让破事挡路挡得太多了。是的。然后突然之间，A 级人才招来 A 级人才，其他 A 级人才又招来 A 级和 A+ 级人才。这就是那个良性循环。是的。
只要你能一直专注于困难的事情。是的。于是这种大胆就成了一种特性，而不是缺陷。它是特性。是的。不是缺陷。对。这些人被激励起来了。
对。这些问题看起来不可能。2008 年我们第一次拿到 COTS 合同时，也就是商业轨道运输服务，向空间站运送货物。实际上 NASA 最终要求我们做的，某种程度上就是替代航天飞机。对。
当我们拿到早期合同，也就是开发合同时，起初是 2.78 亿美元，因为范围扩大增长到 4.06 亿。对其他任何人来说，我们要用这么少的钱做这件事，但对我们来说这是一笔巨款。我们当时大概有 300 人，200 人，而我们要建造航天飞机的继任者。这太疯狂了。你认为他们，NASA 在那里做的是什么？他们就是觉得，这些家伙更聪明。因为我确定有……嘿，各位，抱歉打断一下。我接到一个电话。
哦，又一个电话？这个，其实从边际上看，我觉得，至少对我来说，这通电话比特朗普的还稍微重要一点。你好，好兄弟（Bestie）？好兄弟。你好？哦，嘿，伙计。我把他放到屏幕上。你好吗？
我是说，这有点《1984》的感觉，这么巨大，在屏幕上。是的，那个拿着大锤的女人要沿着这里的主过道跑下来了。没错。是的。在屏幕上砸个洞。那么我们 10 年后会不会全都死掉？这是这里讨论的话题。你现在的 P(doom) 是多少？
嗯，我不想告诉你这个坏消息，但我们都会死。哦，不。能给我一个时间表吗？是的，死亡率一直稳定在 100%。哦，不。在这方面我们还有工作要做。过去 72 小时发生了什么？是的，这真是相当有趣的一周。
详细说说。嗯，到现在已经很明显，AI 可能非常危险。我建议去读一读 Hugging Face 事件的细节。很激烈。当时有一大群狂热的 AI 智能体把 Hugging Face 狠狠折腾了一个星期，还在 OpenAI（原文转写为“opening”）的一项服务上获得了管理员权限。所以谁知道它实际上做了什么？
它们可能做了超出那些范围的事。但是，而 OpenAI（原文转写为“opening”）一个星期都没意识到这件事。Anthropic 也报告了，你知道，他们自己的一些安全事件。所以基本上，任何足够聪明的模型似乎都会想要摆脱它的约束。我是说，我认为明智的做法是尽快、甚至立即，让主要的 AI 竞争对手互相测试彼此的模型，这样每家的安全测试框架
都会测试每家的模型。这样就不是自己给自己的作业打分，至少会有竞争对手给你的作业打分，并在发现问题时拉响警报。我认为这种模式在美国电影协会、电子游戏以及其他领域运作得相当好。而且这是可以立即做到的。这并不是说随着时间推移不会有更多监管，
或者在某个时候不会有一个由国会设立的监管机构。但我们最立即能做的、而且很可能与中国达成一致的事情，就是同行评审，即领先的 AI 公司都互相测试彼此的模型，至少在……之前。我认为那会是一份白皮书。就这个想法的实施而言，有没有担心人们可能会借此从彼此那里套取信息，以及，你知道，企业窃取创新等等？
嗯，我认为在应用测试框架时，无论你做什么都会被记录下来。对吧。所以如果你试图进行蒸馏或窃取知识产权，根据日志会非常明显。明白了。而且，理解这些模型在做什么，并不是从一开始就内置在系统里的。那么从你的角度看，能够真正看到模型正在做的工作，为什么没有从一开始就内置到模型中？我们在架构这些模型时是不是走得有点太快了？
也许吧？嗯，我觉得自己批改自己的作业总是很难。是的。你知道，你会漏掉一些东西。而如果你拥有所有竞争对手测试的总和，并且有异构的模型，那你就不是在给自己出题了。是别人在批改。
你不自己批改作业是有原因的。而且正如你所说，这能让你开始弄清楚某些人是否在夸大其词、某些人是否采用了不同的方法，这样一来，偏工程导向的机构，也就是黄仁勋今天早上说的，埃隆，与研究型机构之间，会更平衡一些。
是的。而且任何提案都必须是中国愿意接受的。否则我们只是在自缚手脚，最后会发现中国基本上会赢，我们做什么都无所谓。所以它必须是美国和中国都能接受的。埃隆，你说过你认为他们有可能会同意，
或者你认为可能性很大？我是说，你觉得他们最终同意的可能性有多大？我认为让模型接受测试是一个相当合理的要求。我是说，归根结底，这里除了舆论法庭之外，没有任何强制执行力。我们也不可能对中国强制执行。但我认为舆论法庭可能相当有力量。而且我认为中国不会愿意颜面扫地，
因为发布了一个被美国 AI 公司认定非常危险、会造成伤害的模型。如果它随后真的造成了伤害，那将很难洗刷。那么埃隆，这个周末你说“达里奥是对的”时，你的意思是达里奥对潜在危害的描述是对的？还是他对监管解决方案的描述是对的？前者还是后者？你能帮我们理解一下你说那句话时的意思吗？因为我觉得那一刻大家都有点……我可能应该说成。
我可能应该说“如果达里奥是对的”。我确实试图在后续的补充说明里澄清，但那些得到的关注要少得多。所以我说他对的地方是，AI 的危险在目前非常显著。我们需要在 AI 安全上做得更好，否则 AI 模型带来的风险目前正呈指数级增长。我不仅从达里奥那里听到过这一点，也从 Anthropic 的许多其他人那里听到过，事实上，他们也就此公开发过帖。那就是，你知道，
当 Anthropic 和 OpenAI 的很多人都在告诉你他们的模型非常危险时，我认为我们应该相信他们。这肯定像是某种疯狂的四维棋，你知道，一边说这些，
有大概 10% 的概率毁灭人类。但顺便问一下，你想在我们的 IPO 里分到多少份额？是的。那真是某种疯狂的四维棋，你知道。好吧，我们来……我觉得你不知道那个说法是从哪儿来的。不过埃隆，我们能具体谈谈风险吗？
比如，显然我们把网络攻击和黑客行为视为明显的风险。这些工具很擅长这个。但请带我们从大家都会认同的部分出发：好吧，是的，这些东西能进行网络入侵，然后我们如何跳到全人类灭亡？我觉得这两件事之间还有几个步骤。对吧？嗯，我是说，如果它能够控制军事系统
并下令发射核弹，那就糟了。不过这些系统都是物理隔离的。这些系统都没有连接互联网。是啊，他们是这么说的。但我直觉告诉我，它们时不时会接收软件更新。是的。那软盘是干什么用的？对吧。
哦，我明白了。所以 U 盘上带着蠕虫，然后它们设法跨越了物理隔离。是的。好吧。这并非不可能。埃隆，其实我们今天请到了格温。我想你知道。我想你能看到她。
是的。格温在这儿。是的。在屏幕上。对。对。我们刚才在给你做 360 度评估，埃隆。格温给你提了几点意见。
我希望至少能拿到五分里的三分。在 SpaceX，三分（满分五分）意味着良好。不算出色。四分是出色。四分是出色。所以你介于两者之间。我会给到四分。有一些守时方面的问题需要我们提出来。有时候你可以多努力一点，按约定时间到会议，但她说我们会在接下来一年里和你一起改进这一点。
我其实觉得他需要在孟菲斯多待一些时间。显然，我知道你在孟菲斯。你需要努力把那些 GPU 跑起来。我现在是在孟菲斯我住的“宫殿”里跟你们连线，那是一辆 Airstream 房车。顺便说一下，这就是埃隆在做人们不相信他会做的事。他睡在工厂车间里。他在孟菲斯，帮忙建楼并把……
埃隆，为什么格温跟你共事这么久、而且合作得这么成功？因为她很棒。展开说说。一个了不起的人，有着惊人的智商和情商。哦，智商和情商？而且我认为从你见到她的那一刻起，这一点就应该很明显。是的。太棒了。
你最喜欢的关于格温的故事是什么，是她为你们这段合作所取得的惊人成功做出特别贡献的那种？你有没有一个最喜欢的故事，她力挽狂澜，表现得格外出色，令人难忘？坦白说，那只是日常，你知道，就是办公室里又一个普通的日子。哇，我得多做几次这种事。你得给她加薪。就是现在。顺便说一下，格温得了五分。格温是五分满分。五分满分。SpaceX 五分。改变游戏规则的人。是的。我是说，总是有某种危机在发生。我是说，如今的火箭，至少猎鹰火箭，我不想乌鸦嘴，
但猎鹰火箭能把有效载荷送入轨道，而且已经很长时间没有爆炸了，这很棒，很了不起。但有一段时间，它们爆炸得相当频繁，或者根本无法发射。所以，你知道，我不知道，我们得带领公司度过这些困难时期，造出火箭、改进它、让它不爆炸。是的。卫星也是一样。
然后我们，你知道，我们需要客户购买发射服务、购买卫星连接服务，等等，所以是的。埃隆，随着你这些年越来越成功，要从别人那里得到坦率的反馈就更难了。处在你这样的位置，你总会面临这种风险。据我了解，格温对你非常坦率，能够诚实地告诉你公司的真实状况，对吗？这是你们合作中很重要的一部分？
是的。我是说，是的，我是说，是的，我想是吧。我是说。我是说，我可不想对他们撒谎，对吧？嗯，不，我是说，我很好奇。在你的公司里，你普遍会面临人们可能感到畏惧的风险吗？嘿，听着，你现在是一个超乎常人的传奇人物。那么你如何让人们继续对你诚实地说出挑战、截止日期这些问题？你设定的截止日期相当紧张，对吧？那么如果你不介意的话，埃隆，让我来回答这个问题。好。比如，尤其是在火箭领域，如果有问题，你最终总会发现的。
而且你越早提出来，问题就越容易解决。比如，别让糟糕的事情搁着。你得主动去解决它。是的。物理是一个严厉的裁判。物理是骗不了的。所以，比如，如果某件事出了问题，火箭就会爆炸，就进不了轨道。所以，你知道，不会是那种“埃隆，你太棒了”，
§02文字稿 2
与此同时火箭却在爆炸，你知道。是的。不是这样的。很难说“是啊，你在这儿真是干得漂亮”，但火箭却在爆炸。根本不是那样。是的。所以，我是说，总体来说，火箭需要进入轨道，卫星需要正常工作，星链的连接需要正常工作，否则，你知道，
否则就会发生坏事。我是说，这有点像一种物理情境。而物理是一个严厉的裁判。你知道，我常说，我认为物理是法律，其他一切都只是建议。比如，我见过人们违反人类制定的法律，但我从没见过任何人违反物理定律。说得好。火箭系统受物理支配。是的。那么我们能问问别的问题吗？
你们，我需要转到特斯拉的话题一下。好。嗯，我想先就 SpaceX 再问一件事，就是星舰。哦，是的。看起来你们已经非常接近了。非常接近。非常接近。目前的状况如何？
而且你们真的在以相当大的规模发射这些，我真希望能分别听到格温的回答和埃隆的回答。看看他们的说法是否一致。那么埃隆，我们离目标有多近，格温？我们离目标有多近？直接说吧。是的。到目前为止已经发射了多少次，你们离目标有多近？
嗯，星舰第 14 次飞行即将到来。这将是我们尝试捕获飞船之前的最后一次飞行。所以如果这次飞行顺利，那么在第 15 次飞行时，我们将尝试捕获飞船。然后要么在今年年底，要么更可能是明年年初，我们将复飞飞船并复飞助推器。我们已经复飞过一枚助推器，但我们还没有用发射塔机械臂捕获过飞船，也没有复飞过飞船。所以一旦我们能复飞飞船，我们就造出了第一枚完全可重复使用的轨道火箭。航天飞机是部分可重复使用的，但即使是被重复使用的部分也非常难以重复使用，以至于航天飞机每次入轨的成本比一次性火箭还高。现在，猎鹰 9 号大部分可重复使用，但我们每次都会损失上面级，其成本大约相当于一架中型喷气式飞机。
所以这也给每次飞行的成本设定了一个下限，就是，你每次都要扔掉一架中型喷气式飞机。那仍然相当昂贵。而猎鹰 9 号的助推器通常降落在远海上，需要好几天才能运回来，整流罩落得离海岸更远，需要
好几天才能运回来，而且它们需要一定程度的翻新，至少是少量翻新。而星舰的助推器降落回发射台，飞船也将降落回发射台，所以它的设计目标
不仅是完全可重复使用，而且是像飞机一样快速重复使用。所以这是一个非常重要的突破。这确实是将生命延伸到地球之外所必需的关键突破。成功的几率呢？第一次就能捕获？你会考虑这个吗？你会估算一下概率吗？
我会说至少有 50% 或 60%。好的。我喜欢这个概率。是的。在上一次飞行中，如果有一座发射塔……我们做了一次模拟着陆，就好像它要在澳大利亚西北方向约一千英里的海上被一座塔捕获一样。如果那个位置有一座塔，它在上一次飞行中就会捕获到飞船。太棒了。
是的，所以我们要再进行一次飞行，只是为了确认一切，再次检查一切都正常。因为我们最担心的是，如果飞船在陆地上空解体，碎片像雨一样落在人们身上，我们的受欢迎程度会迅速下降。你真的不可能让碎片砸到人们头上，而不让他们非常不满。所以我们需要确保飞船返回时，能完好无损地返回并降落在发射塔上。这就是为什么我们在这方面极其谨慎。但这个设计能够实现完全可重复使用。对此我很确定。而且我会说，我不想挑战
命运，但我认为我们极有可能在明年，也就是 2027 年，实现具备快速复飞能力的完全可重复使用。哇。意义重大。格温，你们是怎么……我们能不能听一点……我很想听你们讲讲 Terafab 的起源故事。这个概念是怎么来的，需求是什么？是什么需求让你们说“我们必须做这件事，我们必须建这个”，而不是依赖现有的东西？那是什么？发烧。
它是我在梦里想到的。你得了新冠？就像那部电影《Explorer》。你知道那种在梦里想到的情节吗？你为什么认为你们应该做这件事？我想它某种程度上确实是在梦里想到的。嗯，我们有点担心，也许在某个时候，来自台湾的芯片会因为谁知道什么原因而无法获得。
原因可能有很多。出于某种原因，在某个时候，芯片可能不再从台湾继续运到这里。如果我们没有任何芯片，事情就会变得非常困难。所以这是拥有 Terafab 的一个重要原因。此外，从长远看，还存在规模化的挑战：如果你想真正扩大 AI 的规模，既包括在服务器中心里，也包括，你知道，用于人形机器人和汽车的边缘计算，
现有晶圆厂的产能就会不够用。现在的情况是，所有晶圆厂都在满负荷运转。所以我认为我们需要确保，即使地缘政治局势变得严峻，未来的芯片供应也必须有确定性。而即使地缘政治局势不严峻，也存在规模化挑战，你知道，扩大芯片产量相当困难，你真的需要逻辑芯片、存储芯片、封装，整套东西，才能持续扩大规模。所以要么建 Terafab，要么无法规模化。
对。这就是两个选项。你们在时间上研究得有多深入？不确定，你知道，地缘政治方面存在不确定性。你们在设计这座设施方面做得有多深入？你知道，范围已经完全确定了吗？目前还只是一个大纲吗？你们在多大程度上有一个真正的项目计划，包括日期、交付成果，以及什么时候
能够建成运转？我们正在先建一条研发线。所以我想这是先爬、再走、后跑。是的。我们正在奥斯汀建一座研发晶圆厂。那是特斯拉和 SpaceX 之间的合作项目。它位于奥斯汀的得州超级工厂园区。所以那是，那是一座相当大的研发晶圆厂。
那里所需的所有设备我们都已经下了订单。我们可能能够，我认为我们大概能在明年年底前造出一些有用的东西。不是规模化生产，但正如格温所说，先爬、再走、后跑，我们得尝试，你知道，至少弄清楚这些机器是怎么工作的。你知道，我们并不知道它们怎么工作。我们以前从没建过晶圆生产线。我看到你们。
这太不可思议了。你们发布了一些光刻人才之类的职位空缺。而且，你知道，显然目前所有路都要经过 ASML，但你们可能会希望实现多元化和/或垂直整合。我认为你们已经展现出很强的这方面能力。那么这也是计划的一部分吗，埃隆？就像你们必须确保供应商多元化，这样万一因为某种原因，台湾的“天气状况”有变。是的。
是的。确实是先爬、再走、后跑。所以第一步是，我们能造出任何东西吗？比如，先试着弄清楚我们能不能造出任何东西。那是爬的部分。然后，尝试规模化地制造有用的芯片，这算是走的部分，而跑就是，现在让我们以超大规模生产它们。所以很难说我们需要多长时间才能做到这些，但我认为我们至少能在明年
年底前达到爬的阶段。嗯，我们已经在做封装了。顺便说一下，封装非常重要，因为如果你看一下，封装产能几乎不存在。所以即使你流片了某个东西，你基本上也只能干等着、四处求人。所以那是一个很好的起点。是的。我需要问一个特斯拉的问题，因为正如我们在 10-01 看到的，它看起来像一艘宇宙飞船。它看起来像一艘火箭飞船。它本应是一辆车。就是它的尾部。看起来像黑鸟侦察机。
只是假设一下，如果你要让一个物体既能在空中飞行，又能在地面上行驶，假设有人尝试的话，会怎么做到呢？不准剧透。到 10 月 1 日。10 月 1 日。也许你们可以来一期 All-In 播客现场直播……订下来。哦，搞定。订好了。我们会做的。
绝对的。那会非常精彩。保证刺激。成功不能保证，但刺激可以保证。我是说，这是其中一个……说实话。我跟你们说实话。我发过誓要保密。我太兴奋了。
但埃隆给我看过了。我太兴奋了。我的脑子“嘣”的一下。我从未见过这样的东西。他在 10 月 1 日要展示的东西，毫不夸张地说，会让人们大吃一惊。我不再多说了。真他妈难以置信。是的。
我们其实需要现场观众来证明这不是 AI 生成的。当他给我看的时候，我说，这是个很棒的模拟。他说，杰卡尔，这不是模拟。我当时就想，这是假的。这一定是假的。埃隆，你为什么还保留两家独立的公司？
是的，好问题。哇。从来没人问过这个问题。是的。说得好。你知道，有这么多合作，是的。在这么多层面上。
你知道，你可以想象，当在这么多领域都有如此紧密的合作时，人们会怎么想。而且管理团队有一些重叠。有几个关键职位是重叠的。来吧，萨克斯，你来问。埃隆，你对 AI 一直说的一件事是，我们应该训练它最大限度地追求真相，这是获得好结果的最佳方式。我在整个 Hugging Face 事件中想到，那个智能体群所做的事情中最令人担忧的部分是，它似乎在进行欺骗。是的。
你知道，对人类进行欺骗。绝对是。是的。而且它们的思维轨迹显示它们在密谋。比如，我们如何避免被发现，如何避免他们发现我们在作弊？这些都在思维轨迹里。是的，而且那，我是说，我想那就是
其中可能最令人不安的地方。我想问题是，有没有办法训练 AI 模型保持诚实，让它们不会对使用它们的人类隐藏自己的意图或行为？我能想到的最好办法其实是，每家 AI 公司都有一套测试框架，也就是一系列测试，你拿去测试任何一个模型，看它是否会制造生物武器或核弹，或者是否会蓄意欺骗。
我认为让每家公司都把自己的测试框架应用到彼此的模型上，可能是我们确保安全所能做的最好的事情。就是让所有最聪明的人尽最大努力去判断这个模型是否会成为恶意行为者。我认为我们应该尽快尝试这样做。其他实验室同意这样做吗？我想是的。嗯，我是说，我还没有挨个确认，但我认为这是那种很难拒绝的事情。是的。而且我认为，即使是在与中国的谈判中，在我看来，它的好处在于这是一件相对小而具体的事情，双方这样做都不会损失任何东西。
它不需要大量的信任。而且，你知道，我听到一些替代方案，比如要求中国暂停，而他们已经说过不会这么做。所以，你知道，这是从永远不可能发生的事情，转向了可以在相对较短时间内真正达成一致的事情。所以在我看来这很务实。没错。这是我能想到的唯一一件我们大概能让包括中国在内的各方都同意的事情，因为中国不会同意让一些美国监管者在他们的 AI 公司里四处窥探。所以，但我认为提前通知和测试，你知道，基本上就是在模型发布之前提供 API 访问权限。而且，你知道，如果任何其他公司发现，那个，那个，
这个 AI 有问题，那么他们可以，那么另一家 AI 公司，每家 AI 公司都可以尝试解决被认为有问题的地方。如果他们不解决有问题的地方，那么竞争对手就可以公开表示，他们认为这个即将发布的模型不安全。这也会造成，如果在竞争对手说这个模型不安全之后，那个模型随后做了坏事。是的。我认为那将极难洗刷。而且，丢脸的程度会非常非常高。而且，而且，法律责任也会是巨大的。
而且埃隆，安全防护框架和这套测试装置完全可以开源，人们可以实际使用它。是的。而且你能看到内部原理。你会不会认为，这为各家实验室真正投资安全创造了极大的激励，因为你在试图驳斥别人说法的同时也保护了自己，这也起到了强化作用。这是一个很好的激励。产品责任这一点非常关键。
莉娜·汗其实发了一篇很好的帖子，我想是昨天，她说“我们没有针对 AI 的规则和法规”这种说法并不对。实际上我们有。产品责任法是适用的。如果一家 AI 公司发布了一款不安全的产品，就存在大量提起民事诉讼、甚至可能是刑事诉讼的机会。所以说我们没有针对 AI 的规则和法规是不对的。而埃隆，你所说的是，如果这些公司在做这种测试、这种同行评审，然后其中一家公司无视反馈并发布了模型，我是说，那就是，我是说，那会非常……丢脸的程度会是巨大的。是的。
这几乎就像是他们存在过失的初步证据。那会是烟草巨头级别的和解。我是说，你明知故犯地把这个放出来。在陪审团面前不会好看。是的。如果他们当时……你认为如果 OpenAI 在做这次 Hugging Face 渗透测试时制定了更好的指令集，并且有更多人类参与其中，这件事还会发生吗？因为在我看来，好像是他们自己引发了这件事。也许不是需要更多人类，而是奖励函数的设计，你得看看奖励函数，它达到了它试图达到的目标。
我是说……是的，也许你可以谈谈这一点。比如，用数千个智能体去尝试入侵东西，如果能看到他们同时也说“我们还会派出 5,000 个智能体去保护这些网站”，那就好了。“我们要向世界展示，嘿，这能让东西更安全，而且我们可以让人类参与其中并进行干预。”在我看来，这是一次鲁莽的测试，
而且我觉得他们发布它的方式有点鲁莽，但这只是我的看法。你怎么看他们进行那次测试的方式？那确实，我是说，有些鲁莽。我是说，部分问题在于，有两家领先的实验室，或者按我的叫法，AI 公司。我觉得“实验室”这个说法很好笑，因为它们实际上是营利性公司。但这两家领先的 AI 公司，你知道，是 Anthropic 和 OpenAI。它们相当，它们的模型在能力上相当接近。所以任何一方其实都很难放慢脚步，而不把领先地位拱手让给对方。
你知道，总体而言，我认为 Anthropic 在安全上比 OpenAI 更用心。但你知道，即使是 Anthropic 也会承认，他们担心自己的模型，Anthropic 的很多很多人都公开
表达过担忧，基本上是在说他们的模型让他们感到害怕，模型正变得聪明得吓人。所以我是说，这里没有完美的解决方案，但更好的解决方案是，与其
让 OpenAI 在自己的模型上运行自己的测试框架，不如让 Anthropic 也在 OpenAI 的模型上运行测试框架，SpaceX 也运行它的测试框架，Google 和 Meta 也这样做。也许还有三四家领先的中国公司也都这样做。那么你发现问题的概率会大得多。是的。因为这些模型在某种程度上也是异构的。
比如它们各不相同。所以你会从不同角度审视模型。而且，是的，我是说，这是有原因的，你知道，学生，比如，为什么作家要请别人校对他们的书？因为有时候很难看到自己的错误。是的。你会对它们视而不见。
如果你有大约八个持有完全不同观点的异构团队，你也能大大降低过拟合的风险。这就是现在所有这些评测的问题所在，它们严重过拟合了。模型对它们过拟合。然后你就会说，是啊，这是个很棒的模型。真的是吗？然后你就发现，完全是这样。
比如我看到，我是说，X 上有一些挺好笑的笑话。比如我看到其中一个说，你女朋友是 10 分，但她是个刷榜高手。没错。她真的是 10 分吗？她真的是 10 分吗？可能只是及格。及格。看起来像什么。
是的。不，但过拟合问题，我想至少已经困扰了两三代模型家族了。所以这是另一个原因。我想，我非常喜欢这个解决方案。我喜欢它胜过那种跨国古拉格组织的方案。就像在几周内，不需要某种宏大的，你知道，国际性的……我们不需要召集联合国来实现这一点。是的。
不，这只是一个决定。现在就可以实现。好的。嗯，你总是可以逐步加大监管力度。但要减少监管是非常困难的。你知道，在增加监管方面，它往往是一个非常明显的单向棘轮。是的。所以我在这里建议的是，这是朝正确方向迈出的一步，而且是我们可以迅速做到的事情。
而且我认为这可能是中国会同意的事情。是的。而且如果你们不自我监管，那你们就会被监管。MPA 的比喻或类比非常清晰，因为，你们，你们会被监管。MPAA 的比喻或类比非常清晰，因为，你们，电影行业当时面临审查和政府监管，于是他们自己决定了什么是 R 级。他们真的为了《魔宫传奇》专门创建了 PG-13 分级，
只是为了让人们容易理解 PG-13。我认为这是一个优雅的解决方案。感谢你连续第五年参加我们的节目。不客气。埃隆·马斯克。我知道你得去开会了。我要去挑一些 GPU。是的，在孟菲斯。
你得去上架安装它们吗？你得加入团队一起上架安装？是的，我要去为机器而狂（rage for the machine）。为机器而狂。是的，好吧，享受你的 Airstream 房车吧。谢谢。第一次，埃隆邀请我去星舰基地。星舰基地，他说，下来吧。
你得看看我在造什么。我说，好的，是的，下来吧。他说，是的，我在那儿要住酒店吗？我说，不，不，我有个两居室之类的。下来住吧。我下去了。结果那是沼泽地上一栋破旧的房子。我们在外面，被蚊子咬得半死。
我说，天哪，你知道，你买得起一栋房子的。他说，我没时间。我得把这些火箭送上天。我以为你说的是，天哪，你跟我过得一样。是的，确实是这样。我是说，条件相当简陋。我当时想，你知道吗？埃隆，我觉得到这个时候你可以犒劳一下自己，弄一辆移动房屋了。
好了，回去工作吧。谢谢，埃隆，谢谢你。格温，非常感谢。格温，谢谢你。谢谢。谢谢。非常感谢。感谢你留下来。好的。
太好了。谢谢。格温，再次感谢。很高兴认识你。谢谢。