揭穿 AI 骗局的人：AI 是世界上最大的骗局，他们全都心知肚明！| Ed Zitron
The Man Who Calls BS On AI: AI Is The World’s Greatest SCAM, And They All Know It! | Ed Zitron
嘉宾：Ed Zitron
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
本篇目录41 章节
§01开场§02AI 是一场骗局§03数据中心到底需要多少电力§04AI 的广泛应用是被操纵出来的，还是人们真的喜欢用？§05AI 的实际成本与 token 的工作方式§06AI 公司的巨额支出是否合理？§07AI 的进步速度会像过去的创新一样加快吗？§08AI 出错有多严重？§09把人的错误与 AI 幻觉作比较§10如果输出相同，内容由人还是 AI 创作重要吗？§11我们能像信任人一样信任 AI 吗？§12如果按真实成本收费，人们还会用 AI 吗？§13AI 泡沫与互联网泡沫有何不同？§14AI 需求能否匹配数据中心的成本与风险？§15AI 正在让 Google 这样的网站变得更糟吗？§16广告§17AI 造成的就业冲击是骗局吗？§18你的叙事会不会反而在帮 AI 公司？§19AI 网络攻击有多危险？§20AI 行业正在创造经济增长吗？§21美国怎样才能在 AI 竞赛中击败中国？§22机器人技术会威胁就业吗？§23你怎么看智能体 AI？§24AI 的普及和互联网的兴起是一回事吗？§25AI 被过度炒作§26你用生成式 AI 做什么？§27AI 变得更聪明了吗？§28AI 能力增强后会接手更多工作吗？§29AI 发展下去，未来会是什么样？§30你不觉得 AI 已经改变了人们的工作流程吗？§31所有 AI 都需要数据中心吗？§32广告§33AI 过度投资源自真实需求，还是另有原因？§34科技 CEO 的反驳§35什么会让你改变对 AI 的看法？§36AI 系统已经在勒索人了吗？§37我们身处 AI 泡沫吗？泡沫破裂后会怎样？§38科技业大萧条即将到来§39公众应该怎么做？§40你为什么对 AI CEO 有意见？§41怎样改善人际关系和社会联结？§01开场
我认为生成式 AI 从根本上说就是一场骗局。看到那些极其富有、权力极大的人满嘴谎言，真让我作呕。“骗局”这个词很重。那你怎么称呼这样一件事：从一开始，他们就把它包装成魔法，但它其实只是个半吊子机器？他们在误导整个世界。你是我遇到的第一个持这种看法的人。事情竟然会发展成这样简直荒唐，而这居然还不算丑闻，同样荒唐。
我在科技行业已经 16 年了，我热爱技术，也对技术充满热情。但我不喜欢被误导。这是历史上规模最大的一次未经用户同意就强行推广技术。我们来玩个游戏，Ed。我列出你认为 AI 行业的种种迷思，我们逐个讨论。AI 行业正在创造巨大的经济增长。没有。所有这些公司都在承受惊人的亏损。OpenAI 去年亏了 209 亿美元。
这些人没有一个能坦率地说：“我们正在走向盈利。”因为他们做不到。下一个：AI 会取代所有人类工作。这根本没有发生，也没有经济数据支持这种说法。再下一个：美国必须花上万亿美元才能在 AI 竞赛中击败中国。我们到底要竞赛什么？不停地担心中国，让自己吓得尿裤子吗？可人们总说，万一这些模型落入坏人之手怎么办？它们已经落在坏人手里了。
马克·扎克伯格、山姆·奥特曼、达里奥·阿莫迪……马克·扎克伯格说：“我们会继续大力投资基础设施，以满足需求。”天哪，真是个庞然大物，让我想起《怪物史莱克》里的法夸德勋爵。“你们之中有些人可能会死，但这是我愿意承担的风险。”要是这些人也能关心一下贫困或世界上真正的问题，而不只是担心 GPU 买得够不够，那该多好。如果这种趋势继续下去，未来会是什么样？天哪。节目开始前，我有件事想拜托大家。
如果你关注一个节目，平台算法就会把这个节目最好的内容优先推送到你的信息流里。所以，当我们推出节目中分享最多、评分最高的精彩内容时，我希望你能看到。想看到这些内容，最简单的办法就是点击关注。这也是你帮助我们把节目做得更好的一个简单、免费的小举动。如果你能花一分钟，在现在收听节目的应用里点击关注，我会非常感激。
§02AI 是一场骗局
Ed Zitron，有些观点是你相信、但很多人并不认同的。我觉得你有几个颇具争议的看法，也与你之前上节目的一些嘉宾观点相反。Ed，你的具体看法是什么？我认为生成式 AI 从根本上说是一场骗局。我不认为它是以诚实的软件面貌销售的。我认为他们夸大了它能做什么、将来会做什么，也夸大了背后的财务状况，严重到足以误导整个世界。他们还在积极利用新闻业、我们的经济，以及卖方分析师、政府等责任方的弱点。
“骗局”这个词很重。是啊，那你怎么称呼这样一件事：他们从一开始就把它包装成魔法，说它会取代所有工作、治愈癌症，还能做到种种事情。可实际上，它不过是乏味的云端软件，价格高昂、无法盈利，而且从根本上说并不可靠。听众可能会问，你的参考依据是什么？你的个人经历、教育背景、研究和工作情况是什么？Ed？
有意思的是，人们会说我没有金融背景，所以不能谈这件事。我在科技行业做公关已经 15、16 年了，也有实际工作经验。我热爱技术，对技术也很有热情。可这东西突然出现，所有人都告诉我它是有史以来最伟大的发明。它连基础功能都做不好，连搜索都做不好。你问 AI 从业者，他们会描述一套像《皮威的玩具屋》那样复杂的流程：“这里要用一个工具框架，提示词得写对，不能用那个提示词，要用这个；开头别用这个模型，结尾又得换另一个模型。”
可这东西不是号称人工智能吗？不是号称聪明、自主，设定好就可以不管了吗？我们现在把六家领先的 AI 公司摆在桌上：Anthropic、Amazon、NVIDIA、Microsoft、OpenAI 和 Google。你是说它们的核心商业模式……其实它们的收入并没有真正来自 AI。直到最近，它们从 AI 获得的收入都少得可怜。现在，这几家公司整体的 AI 收入中，70% 来自 OpenAI 和 Anthropic 这两家没有盈利、不可持续的公司；而且没有这些同类公司给它们资金，它们根本活不下去。
Amazon 今年给 OpenAI 投了 500 亿美元，给 Anthropic 投了 50 亿美元。Google 给 Anthropic 投了 100 亿美元。根据卖方分析师的实际评估，也就是那些会影响财报公布后股价涨跌的预测，未来三年半里，OpenAI 和 Anthropic 的收入预计会达到 4,000 亿美元甚至更多。云计算业务的增长中，有三成左右要靠这两家无法自给自足、还需要别人不断输血的公司。
除此之外，这些公司对普通投资者、分析师乃至所有人都毫不尊重，连 AI 收入都不披露。偶尔他们才屈尊公布一点……他们会用一种叫“年化运行率”的指标，可这根本没有明确含义。他们从来不定义这个术语。它可能是某个月收入乘以 12，也可能乘以 13，也可能是最近四周收入乘以 13。每次算法都不一样，他们却从不解释。
有时候他们干脆什么都不提。所以，一方面大家说这将是软件史上最重大、影响最深远的变化；另一方面你问他们：“你们靠它赚了多少钱？”他们就说：“不好意思，这个我不能说。”这些都是上市公司，当然 Anthropic 和 OpenAI 除外。他们有好消息时会主动告诉你。如果某件事他们不说，那本身就说明了很多。
你用过这些工具吗？用过。Gemini、Anthropic、ChatGPT 等 AI 工具你都用过？是的。你觉得它们毫无价值吗？也有些价值，但没有他们说得那么夸张。他们在资本支出上已经花了超过一万亿美元。资本支出是什么意思？资本性支出。企业有电费这类运营费用，会立即计入成本；资本性支出则是理论上的一次性长期投资，比如数据中心，或者放进 AI 数据中心里的 GPU。
§03数据中心到底需要多少电力
好，有了数据中心之后，还要有 GPU，也就是计算机芯片。AI GPU 体积大得多，耗电量也高得多，还需要大量高带宽内存。由于需要的数量巨大，成千上万、数万甚至有时数十万个，因此也需要巨量电力。举个例子：OpenAI 和 Oracle 正在德克萨斯州阿比林建设一个数据中心，功率为 1.2 吉瓦，名叫 Stargate Abilene。
其中八栋建筑，每栋会装 50,000 块 NVIDIA GB200 GPU。布里斯托尔市每年大约需要 780 到 800 兆瓦电力，对吧？是的。而 Stargate Abilene 要把比这还多的电力，也就是 1.2 吉瓦，集中到一个小得多的地方。布里斯托尔市的面积约为 12 亿平方英尺，Stargate Abilene 则约为 998,000 平方英尺。也就是说，所有这些电力、资金和劳动力都被压缩到一个地方。
这些数据中心每个都要花几十亿美元。除了 Microsoft 以外，其他公司现在都要借债。问题是，他们目前已经花了一万多亿美元，还想明年再花一万亿美元。为了什么？为了赚几十亿美元，其中大部分还来自两家无法盈利的公司：Anthropic 和 OpenAI。
对此有人会反驳说，OpenAI 和 Anthropic 的用户增长极其惊人。这些是有史以来增长最快的产品，尤其是科技产品。数以亿计、甚至数十亿人每天都在使用它们，解决他们主观上认为需要解决的问题。一个人会说，钱是价值的滞后指标，因此公司只是在收入变现之前提前投资。
§04AI 的广泛应用是被操纵出来的，还是人们真的喜欢用？
我们先从用户增长谈起。人们真的是自愿采用这些产品吗？当你打开 Google 页面，生成式 AI 就强行出现在你面前；打开 Google Docs，Gemini 会跳出来；打开 Word，Copilot 不断打扰你；用 Amazon 时，不管 Rufus AI 到底是什么，它都要对你买什么袜子发表意见。这是历史上规模最大的一次未经用户同意就强行推广技术。
以 ChatGPT 为例。三年来，每家媒体都在不停大声宣传，称它会抢走你的工作，你必须使用它；不用就会落后。所以人们持续被告知要用，于是主要把它当搜索工具用。这部分是因为 Google 的搜索落后了，而且……有时 AI 更擅长理解搜索请求。
有时生成式搜索像一艘拖网船，不擅长处理具体细节。但如果你想知道某样东西是否存在，或某人以前有没有说过类似的话，它可能会替你在海里搜寻——虽然最后很可能还是弄错。即便如此，这也不值一万亿美元。什么都不值这个价。投入其中的资金规模……前所未有。它甚至超过了铁路建设，因为这轮投资连泡沫破裂后可能出现的新用途都没有。
AI GPU 也不能转去做别的用途。这是资本主义那头没有方向的巨兽，一只没有头的怪物，四处寻找增长，迫切希望到处扩张。它骚扰、恐吓人们，还把劳动污名化，希望大家被迫使用 AI。你刚才停顿了一下，因为我在想自己的公司，也在想每个人都会想到自身处境。现在听众里有人完全不用 AI，有人则用它来写代码、开发软件、写所有东西、生成图片，几乎什么都用。
关于企业采用 AI 的统计显示，88% 的组织至少在一项业务职能中经常使用 AI。我想我们公司有 95% 的人每天会使用 Anthropic、ChatGPT 或 Gemini 这类工具。使用程度各不相同：有些超级用户几乎每小时都在用，几乎什么事都让 AI 做；也有人，比如负责招聘的高管，由于工作性质不需要那么多使用。
从内容生产的角度看，生成式 AI 正在广泛普及，这显而易见。互联网上到处都是 AI 垃圾内容，也是它被采用的表现。所以我很难认同“没人用 AI”这种说法。问题在于，在 AI 垃圾内容出现之前，我们就已经有 SEO 垃圾内容了，因为 Google 奖励那些能在搜索排名中胜出、质量最低但足够凑合的内容。
这还牵涉 Google 如何放松垃圾内容防护的问题。Prabhakar Raghavan 任职期间，他们允许更差的内容排在更高位置，让互联网变得更糟。以前你在 Google 搜“最好的洗衣机”，就会看到 11 篇糟糕透顶的博客，读起来像是作者脑震荡了。这些文章的目的就是提高搜索排名，而不是让人阅读，也不是把内容做好。AI 只是帮人把这套做法武器化、扩大规模。没错，你可以批量制造一堆空洞内容。
这些垃圾内容已经存在很多年了。我们只是终于找到了一台批量生产它们的机器。
但还有成本问题。使用 AI 服务会消耗 token，计价单位是每百万个 token。什么是 token？大约相当于四分之三个单词，也就是按字符切分。AI 公司用 token 作为收费单位，就像纽约出租车有计价器一样。他们称之为 token。每个词都算一个 token 吗？为了方便理解，可以这么想，大致相当于一个词。他们按每百万 token 收费。会分别计算输入 token，也就是你提供给它的内容。
§05AI 的实际成本与 token 的工作方式
比如你输入的文档或代码库。输出 token 则包括它最后生成的内容，也包括它“思考”时输出的内容。好，比如你让我推荐纽约这片区域最好的餐厅，我得先去找出最好的餐厅。在这个过程中产生的内容也都算输出 token。不过，如果你按月订阅服务，这些消耗你都看不到。他们只设定使用频率上限。所以你可以用到一定额度，用完之后……但他们会把具体用量含糊带过。
你用完后就会触及上限，但他们会把具体计算方式弄得很模糊。
最近，分析机构 SemiAnalysis 发现，用户只付每月 200 美元的 ChatGPT 订阅费，却可能消耗价值 14,000 美元的 token；Anthropic 的 200 美元订阅方案也可能消耗价值 8,000 美元的 token。甚至每月 20 美元的方案，用户也可能消耗价值 400 美元的 token。大多数人根本不知道 AI 的成本，只觉得每月交 20 美元就行了。不，所有这些公司都在承受惊人的亏损。OpenAI 去年亏了 209 亿美元，因为用户可以随意消耗 token。大约在 2026 年 3 月，当他们试图让员工超过 150 人的企业客户按 AI 的实际成本付费时，用山姆·奥特曼的话说，大家对此反应很大。
这确实是个大问题。这可不是科技行业继承者应该说的话。问题在于，企业客户立刻开始恐慌。Uber 三个月就用完了全年 token 预算。之前大家一直说 AI 是有史以来效率最高的东西，能改变一切；可一旦人们真的要为它付费，就开始说：“嗯，我也不确定……当然我们都喜欢它，它很棒，对吧？但它太贵了，所以我们现在得把成本降下来。”
因为人们把各种东西一股脑塞给 AI，问“我该怎么办”，然后拿到一个最普通的答案。这些工具就是这么运作的：给你一个中间水平的答案。也就是说，像我这样的重度用户，可能让 Anthropic 或 OpenAI 花了 1,000 美元，但它们只收我 100 美元。它们就得补贴我使用所产生的另外 900 美元，包括电费和数据中心成本。
所以你的观点是，这种模式不可持续。对。说清楚一点，它们的成本可能不是一比一，也许是三比四之类的。我们不知道。我认为它们不赚钱，因为这些公司不披露成本。即使在审计过的财务报表里，它们也会在分类上玩花样。不过是的。除此之外，在数据中心部署推理服务——也就是生成输出的那套系统——并不是简单地把机器打开就行。
你得启动足够多的 GPU 来承接需求。买多了就浪费钱，但 GPU 的使用费按小时照收；买少了，客户用不了，就会生气，转而投奔别家。可不管怎样，这些公司都在以 1 美元的价格卖价值 20 或 40 美元的需求量。这些服务就是这么运营的。
最简单的解释是：如果这些服务真的有利可图，如果公司相信它们值得这样的成本，就会按真实价值收费。普通人就没法买月度订阅了，只能按实际用量付费。当然，也可能有经济层面的原因。很简单：只要你使用大语言模型，就要付费，不管你有没有得到想要的结果。比如你让它写代码，它查遍代码库却把东西搞砸、破坏了很多功能，这些花费你照样得付。
不管它是否有效，你都得付钱，除非你用的是某种订阅服务。我觉得真正有意思的问题是：它们是在价值显现之前提前投入，正如它们可能会辩称的那样；还是在疯狂花钱、以不可持续的方式补贴所有用户，而且这些投入永远无法证明是合理的？
§06AI 公司的巨额支出是否合理？
回顾科技史，企业为了抢市场份额，常常会先亏钱。但它们也会努力降低成本，让业务更赚钱。问题是，它们承受不起投资不足。如果它们真在降成本，成本早该降下来了，可事实并非如此。看起来成本反而越来越高。事实上，推理服务提供商似乎都不赚钱。
就连出租 GPU 的公司似乎也不赚钱。我不觉得这些公司一开始就知道这门生意不赚钱，却想：“管他的，我们还是继续做。”这也不是什么大阴谋。他们大概以为有一天会盈利，芯片会跟上，客户愿意为巨大的价值付费。毕竟，2023 年时谁也不知道 2026 年会是什么样。
他们假设情况会越来越好，这就是风险投资的逻辑。OpenAI 在 2024 年亏了超过 50 亿美元时，他们就该停下来，说：“好吧，这行不通。”但他们继续做，因为这让数字上涨，让股价冲高，让所有人都得利。NVIDIA、Microsoft 和其他公司都受益了。这并不是因为 AI 收入真的那么高。Google、Microsoft 和 Amazon 有件有意思的事。
多年来，人们一直说它们的 AI 投资已经见效：“哇，它们押注 AI 成功了。”可这些公司拒绝说自己靠 AI 赚了多少钱。其实它们原有业务在持续增长，而且增长部分来自涨价，也来自 Google、Meta 改变广告业务的做法。Amazon 也提高了价格，并改变了运营方式。此外，Amazon 在这段时间还发展出了一项很突出的广告业务。
它们还通过 Amazon 平台销售东西。总之，这和 AI 无关。但因为数字上涨、收入上涨，大家就说是 AI 的功劳，理由是：“这些公司不会无缘无故花一万亿美元，对吧？”然而，Microsoft 刚结束的 2026 财年很能说明问题，抱歉，这个年份确实有点绕。Bloomberg 统计，Microsoft 总收入约为 343.3 亿美元，其中 241 亿美元来自 OpenAI。也就是说，一整年只剩大约 100 亿美元，而公司资本支出为 1,150 亿美元，明年计划增至 1,750 亿美元。
这笔账对不上。我猜他们的计划是：AI 的价值会呈指数级增长，总有一天回报会超过成本。问题是，大语言模型训练需要大量资金，也需要持续不断的数据流，还需要定制数据。这就是一个庞大、昂贵的怪物。当你试着跟人谈这件事，说“情况很糟糕”时……
NVIDIA 上个财年卖出了价值 2,159 亿美元的 GPU，主要是 GPU。你再看看，除这两家之外，全球 AI 总收入才大约 220 亿美元，而这两家公司明明要靠不断输血才能活下去，有时连 NVIDIA 都得给它们钱。你把这些情况告诉别人，他们就会说：“公司亏钱很正常。”正如 Ed Elson 在 Prof G Markets 上说的，我们对富人有一种近乎宗教式的崇拜，总觉得他们不会无缘无故花这么多钱，对吧？
因为要接受另一种可能很难：那些超级富豪、超级有权势的人，并不是凭借超凡智慧走到今天的。他们可能只是运气好、善于抓机会，也许在 MBA 阶段认识了对的人；他们跟普通人一样，只是恰好处在正确的时间和地点。承认这一点、承认世界并非由精英绩效体系支配，会让人觉得很灰暗。
所以人们很容易想：“不，他们不可能犯错。一定是我漏掉了什么。”而这正是他们希望你相信的。
§07AI 的进步速度会像过去的创新一样加快吗？
我会回想科技突破的历史，也会看看不同产业。我很喜欢一本谈这个主题的书，叫《创新者的窘境》。我读过。书里说，后来淘汰或改变一个行业的创新，往往一开始更糟，经济上也不合理，客户根本没在要求它。这就是为什么我们通常会忽视它。
比如 19 世纪的马车。在当时人眼里，它是非常棒的交通工具。后来汽车出现了。汽车的问题是经常抛锚，有点像现在的 AI 会产生幻觉。汽车更贵，经济上也不划算：与其买车，还不如走路。当时还有一条法律规定，汽车前面必须有人举着红旗步行。
还得雇一个人在车前面挥红旗。显然汽车当时是更差的方案。但颠覆式创新有更高的成长上限，所以最终会超越马车。把这个类比放到 AI 上，我会说：好，它现在还不完美，经济模型也还没完全理顺，他们还在研究如何降低成本、建设基础设施，等等。
但如果考虑进步速度，比如写代码，一个人类程序员能通过训练提高多少、增加多少产出，相比 AI 智能体呢？有人会想，只要假设 AI 每个月进步 5%，总有一天……再假设成本每月下降 5%，就像互联网和汽车的发展那样。
是，但……摩尔定律。摩尔定律是一种理论，而且不适用于 GPU。我来解释一下。NVIDIA 在 2000 年代推出了 CUDA，这是在 GPU 上运行软件所需的底层软件库和运行方式。他们花了整整十多年，才把它发展到能用于数据分析的程度，比如 mapper 等工具。后来 AI 出现时，他们已经积累了很多相关经验。
不过，NVIDIA 拥有更多资金、关注度和天才员工，投入其中的人数也多到超出任何人的想象。NVIDIA 是做芯片的。刚才说的 CUDA 是他们开发的，它让生成式 AI 得以发展。也就是说，他们生产芯片。没错。芯片就是装进数据中心里的那些东西。
他们的专用芯片能运行 AI 软件，包括训练和推理。可当年汽车行业并没有几乎所有数学家和科学家都涌进去，也没有全世界各国政府不停为汽车造势。而且，自 2023 年以来，政府一直在说 AI 是不可避免的。你刚才提到的每月进步 5%……
我甚至不知道该如何衡量这个比例。初级软件工程师会从具体情境中学习，从别人处理问题的方式中学习。人的问题处理方式并不像看代码或读几封邮件那么简单，还需要从对话中捕捉上下文线索，也需要在不同环境中积累经验。我不否认大语言模型在编程方面有用，但即使说它提高了 5%，这到底是什么意思？
它是更擅长写 Rust，还是 C++？我说的是生产力。比如……是的，发布的软件量。要在编程领域衡量的话，可能会看发布了多少代码。这就像说某人是世界上最好的作家，因为他的通讯文章特别长。用这种方式评估太荒唐了。衡量编程效果也很难；也许看软件最终是否更好，是个不错的办法。
我会说，整体上并没有变好。Google、Microsoft、Amazon、Meta 的软件标准都在下降。天哪，尤其 Meta 的软件简直不堪。今天早些时候有人在 Twitter 上说，我们应该在 GitHub 上线时收到通知，而不是服务宕机时收到通知，这样反而更可靠。Microsoft 是全球最大的公司之一，却连维护 GitHub 都做不好。奇怪的是，随着越来越多人使用大语言模型、越来越多企业——我确实是说“要求”——员工使用这些服务，软件质量反而在下降。
§08AI 出错有多严重？
关于马车和汽车的类比，如果你觉得我们现在处在某个发展阶段，可以想象技术会以什么速度进步。自 ChatGPT 发布以来，我们确实看到进步。我记得 ChatGPT 刚出来时我在亚洲，我给未婚妻看，说：“你看，它能做到这个。”它偶尔会产生幻觉、出错。我现在已经没有这种经历了。
我有时觉得它的推理能力不够，但现在不会遇到明显的幻觉了。我不同意。给我举个你所说的“幻觉”的例子。好，Bloomberg 终端上有个很有用的功能，叫 Ask B。你在 Bloomberg 上查询 NVIDIA 下一季度的预期收入时，它会运行一种叫 BQL 的东西，那是 Bloomberg 自己的编程语言。
现在你不必先学会那门语言，只要在 Ask B 里输入请求，它就会替你生成并运行。所以你能看到引用数据的日期来自哪里，也能很好地处理幻觉。前几天我想试个稍微刺激的查询：看看 Microsoft、Google、Meta 和 Amazon 的股票在五年里的涨幅。结果出来后，我正准备复制粘贴到别处，就先在 Excel 里看了一眼。
数据就在简报里。我一看就想：“Microsoft 的股价从来没到过 575 美元。”如果只是这种无伤大雅的小错，比如报错一个股价，没造成损害，那还好。但如果用的是医生的转录工具，或者对冲基金赖以投资的金融模型，风险就大得多。软件包里的幻觉也可能带来问题，比如它重构代码库时，留下安全漏洞。
或者直接把功能弄坏了。假设你用氛围编程做了六个月，已经很久没亲手写代码了，也许有些知识忘了。你看到一处问题，心想：“算了，我不管了。”这样一来，问题会成倍放大。我不知道该怎么训练模型消除这类问题，他们显然还没有成功。一方面，它们确实有所改进。
但衡量进步的主要方法之一，是使用专门为大语言模型调整过的基准。不能只让它们做……它们确实在某些任务上有所进步，也发现了一些适合 AI 执行的任务。但即使是 Meter 之类的评测，也会展示一张图表说：“看它执行任务的能力进步了多少！它现在能连续运行一小时！”再仔细一看，成功完成任务的比例只有 50%，它还会产生幻觉。
§09把人的错误与 AI 幻觉作比较
有一个“幻觉率排行榜”，主要评估基础任务。按照 Victoria 幻觉排行榜的历史数据，简单摘要任务的幻觉率四年前约为 21.8%，如今 Gemini 和 ChatGPT 等顶级前沿模型已经降到约 0.7%。不过，关键的限定条件是：这些都是简单任务，对吧？这和我的实际体验差不多。
我也感觉日常使用时，它产生幻觉的次数少了。再谈进步速度：如果这条趋势继续发展，幻觉会越来越少。还有两点可以参考其他技术的发展。新技术刚问世时，比如互联网，也存在技术问题。
我记得小时候用拨号调制解调器上网时，不能一边上网一边打电话；我得停下楼上的 RuneScape 游戏，才能用电话。你会觉得：“这破技术真差劲。”我倒不觉得。我挺喜欢的。是，我知道，但当时它就像魔法。现在回头看，我有 Starlink，还有手机 5G 网络，简直不可思议。以前出门就没法上网。
这就是我说要考虑进步速度的意思。最后一点是，我们常把 AI 和完美作比较，但真正的替代方案并不是完美。如果我要完成一个简单的写作任务，应该把 AI 和我原本完成这项任务的方式比较，也要考虑我花的时间，以及我这种知识不可能面面俱到的人会犯的错误。或者，如果我要雇一个实习生，也要考虑他同样可能出错、知识不全。
所以，实际上不该拿 AI 和完美比较，而应该和其他选择比较。如果某人只有 0.7% 的概率出错，却知道得更多、速度也更快，那综合来看也许是不错的选择，也许我该用 AI。我们举个例子，说说我非常敬重的人：我的编辑 Matt Hughes。没错。他住在利物浦。人很好。没错。我付钱给 Matt，不是因为他什么都知道，而是因为他有很强的上下文理解力、知识面也很广。
他愿意不断拓展知识，也愿意和我合作；而且他非常认真投入，是个很棒的编辑。他会深入挖掘，并且拥有亲身经历。他是获奖无数的科技记者，此外还是一个充满爱心的人，对自己热爱的事物充满同理心和喜悦，对自己厌恶的人则毫不留情。大语言模型做不到这些。但我也想反驳一个假设：它有时什么都不知道，那它偶尔“什么都知道”又有什么用？
你真的会为了基础工作雇实习生吗？你会对他说：“帮我查一下日期。”不会，你会用 Google。你雇实习生做事，同时也是在培养他。实习生的作用就是接受训练、不断成长，不再像匹诺曹一样只是个木偶。对。但实习生会学习，会获得上下文，也会逐渐了解你的习惯。
AI 也能获得上下文，也能学习。不，它做不到。AI 不会学习？我的意思是，它不会像人那样学。你只能写一个庞大的 CLAUDE.md 文件，它有时会读，有时不读；还要搭一套工具框架。这就像《皮威的玩具屋》里的早餐机器。你得设计一堆复杂流程来减少幻觉，但即便这样，最后……你到底为此投入了多少精力？不过，好吧，这只是个极度简化的例子。
如果我打开自己的 Claude 文件，问“我的狗叫什么名字”，它知道答案。天哪。你们公司今年融资 950 亿美元。我举这个极简例子，是想说明它能记住过去的信息。显然，它也知道更复杂的东西。总之，我用这个例子说明：我们承认它能够记住过去的信息，可以读取包含信息的文件；但这和记忆并不是一回事。
它也许记得你的狗叫什么，也许记得你的习惯，也能读取你以前说过的话。但它知道你的情绪吗？知道周围正在发生什么吗？它会有好日子和坏日子吗？它会陪伴你吗？说到底，它只是个文本机器。关键在于，实习生是能成长的，是你投资培养的对象。你不是靠不断喂给它文件和文字来培养一个人。
我们储存记忆、积累经历的方式，是把里程碑式的情绪、感受和事实连在一起。这完全是另一回事。
§10如果输出相同，内容由人还是 AI 创作重要吗？
我觉得这里有两个问题：事情发生的过程，以及最终的输出。你刚才描述的是人类如何形成记忆。AI 记忆的方式不同，但人们真正关心的是输出的价值。比如，我把所有文件都塞进 Claude，只要我问它“我的收入是多少”时，它能给我正确数字，我并不在乎它是怎么处理的。
对培训一个人也可以这么说：你教他、投入很多精力、提供背景、让他接受教育并积累经验。之后你问：“我的收入是多少？”流程完全不同，但我在意的是结果：我问收入数字时，他知不知道？是的。所以我觉得，我们有时会在这一点上纠缠不清。
我听过关于 AI 能不能有创造力的争论。我觉得回答这个问题要看输出：我让它做一件有创意的事，它能不能给我想要的结果？不必纠结过程是否与人类相同。实际上，谁在乎产品是怎么产生的？人们在乎的是产品和结果，他们愿意为此付费。我不同意过程不重要。比如 Matt Hughes……
你的编辑。对。看着他不断深入一个主题，我也陪着他一起研究，有时他也反过来陪我。我们当时在做研究……我坐在那里，整整花了一天写了 11,000 字，他给了我一堆笔记。那段经历……光是回想起来我就很开心。我们一起抱怨：“这帮人怎么这么糟？天哪，他们怎么能这样？”我们一起感受 Blackstone 这类资产管理公司里那些冷酷、可怕的人。共同了解他们的过程，对我来说……
我和 Matt 一起学习的经历，与单纯得到最终成果根本不同。我们是在共同学习。学习过程和产出本身同样重要。学习时，你不是在创造一个平均结果，而这恰好是这些工具会做的事：从它能找到的文件中拼出平均内容。
你得不到特别新颖的东西。如果我只需要一份普通垃圾内容，那当然可以。但我用过对冲基金使用的一些高端大语言模型工具，它们给出的内容都一样：千篇一律的报告、同样的分析，好像什么新发现，实际上随便网上搜搜就能找到，和那些 AI 垃圾内容没什么两样。你刚才描述的经历，在我看来有两种价值。
当然不止两种。你说你从中学到了东西，还把书稿编辑好了。博客。博客，是编辑了博客，这就是产出；你也学到了东西。此外还有联结等等。但人们谈到 AI 的价值时，当然也可以用它来学习。不过，如果像我刚才举的例子那样，只是让它重复我的收入数字，或者计算某个数值，我在乎的就是结果。
我也可以用它来学习。我可以这样……那如果收入数字有一次错了呢？
§11我们能像信任人一样信任 AI 吗？
这种数字应该有明确、确定的核验方式，不该依赖 AI。即使是我信任的 Bloomberg 终端和 BQL，我也会反复核对好几遍。还有一部分原因是，我想真正理解学习过程，而不是只拿到一份报告看一眼。我想彻底弄懂数字，以及它背后的背景。我不认为大语言模型能做到这一点，也看不到它们会因此变得更好的原因，因为这根本不是它们的工作方式。
而且，报告越详细，出错的可能性就越大。比如 Matt Hughes，我信任他做对了，也信任他真正理解了内容。我相信我可以和他来回讨论，发现自己漏掉了什么。过程中还有很大的信任因素。你信任 Matt 的基础是什么？
也许是他过往的表现？是的。还有，我们有一半的内容是一起学出来的。但相处时间长，不一定就能建立信任。你可能认识某人 15 年，却依然不信任他。没错。所以我在想，人们究竟为什么会信任另一个人？也许是因为对方持续兑现承诺。以 Claude 为例，在简单任务上，我们从这个幻觉排行榜看到，它不断给人们稳定的结果。这也是为什么我们看到它的增长速度最快……
这真是那个排行榜能说明的吗？它说明的是模型答错、产生幻觉的情况。对，简单任务。简单任务是怎么定义的？我不知道。这正好说明 AI 行业的特点：他们是“那又怎样”的高手。他们会说：“看，我们有这个基准，证明我们擅长这件事。看，数字更高了。”但这个数字到底是什么意思？
这不是在批评你。没有直接答案时，人们就给一个旁敲侧击的答案。AI 行业想证明自身价值时，也不能只说“用产品试试”。第一部 iPhone 发布时，我在宾州州立大学。我感觉像《2001 太空漫游》开场那些猿人，心想：“天哪。”可视语音信箱。我给科技圈的朋友看。
我也给很多普通人看。大家都说：“天哪。”他们那时用的是 Razr 或 Nokia 3210。它的价值一目了然。Amazon Web Services 也是一样，价值并不明显。对我来说很明显。我也买了。我还给很多人看，因为我知道自己喜欢小玩意儿，可能有偏见。我记得 Steve Ballmer 曾是 Microsoft 的 CEO；听说 iPhone 时，他接受了一个很有名的采访。
他当时笑了出来，说：“签套餐后仍要 500 美元，这可是世界上最贵的手机，而且不吸引商务用户，因为它没有键盘，不适合收邮件。现在你只要 99 美元就能买到 Motorola Q。它功能很全，能听音乐、上网、收邮件、即时通信。”所以我看着这一幕，心想：“我喜欢我们的策略。”
我很喜欢那部手机。他当时突然大笑起来，像是在嘲笑它，因为这东西太颠覆了，也贵得多，外形和以往完全不同，还没有键盘。过去手机确实贵得离谱，运营商会补贴，但你得签很长的合约，最后还是得花 500 美元。不过我想说的是，你不需要向别人解释它有多好。也许得先跨过价格这道坎，但你只要给他们看：“看看这有多棒。”
后来 iPhone 3G 加入 App Store，人们才说：“天哪，这真的可能改变一切。”移动网页一开始糟糕透顶，简直一团乱，但即便如此，你也能收邮件、查看邮件。BlackBerry 也很贵，其实还挺酷，但它们的工作方式不像消费级软件，没有经典的图形用户界面。iPhone 则给人这种感觉。
它看起来像一部按电脑思路设计的手机。它的价值一开始就很明显。我当时在宾州中部，每个看到它的人都说：“哇，这太不可思议了。”这对我来说才是关键。AI 不一样。到今天，你问“它到底有多厉害”，人们还是支支吾吾，回答：“是啊，你不能不搭一套复杂的工具、杠杆和流程，就让它完整地运行一家企业……”
还得搭一套奇怪的滑轮和杠杆系统。
§12如果按真实成本收费，人们还会用 AI 吗？
但如果看 ChatGPT 的增长数据呢？它推出后前 60 天就有 1 亿活跃用户。相比之下，TikTok 花了九个月，Instagram 花了两年半，互联网本身，也就是万维网，达到这个规模大约用了七年。推出三年内，美国成年人口中超过 60% 已经把 AI 工具融入日常和定期使用中；报告说，渗透率达到全体人口的 40%。
互联网花了五年才达到同样的里程碑，个人电脑则用了将近 12 年。好，这正是让我觉得矛盾的地方。我给未婚妻看 ChatGPT 时，它其实不好用。但她是个独立创业者，英语不是母语，需要写大量文字和文案、生成很多图片；她以前还得付钱请平面设计师，帮她制作自己没有技能做出来的图片。她会说，这对她的生意……
产生了变革性影响。我听你说的意思是，它没有变革性影响，也没有价值。但如果她现在坐在这里，她会说这很有变革性。如果按每百万 token 的价格，也就是实际 API 价格收费，她还愿意付钱吗？她愿意按真实成本付吗？问题就在这儿。如果按真实成本销售，而人们仍然会使用，并且每次使用都愿意付两、三、四美元，还确实觉得值得，那或许就能说明问题。那真实成本是多少？实际的每百万 token 成本，也就是 API 的实际价格。
应该按实际成本收费。你知道这个价格和他们收的费用差多少吗？天哪，要看具体模型。不过我想说说你刚才提到互联网的那件事。我第一次上网时用的是 33.4 kbps 的调制解调器。即使那时，我也会想：“如果速度再快点……”它太慢了。你去 Happy Puppy 之类的网站下载软件，等共享软件下完都得花很久。
你会立刻想到：“如果能快一点就更好了。”那时我甚至觉得，也许能用它传视频之类的内容。后来这些想法都实现了。Goldman Sachs 有个叫 Jim Covello 的分析师，他在 2024 年写过一份报告，标题大意是《生成式 AI：投入太多，回报不足》。他指出，在 iPhone 问世前，有成千上万场演讲都在说：GSM 无线电、蓝牙和 Wi-Fi 模块越做越小，类似这样的设备必然会出现。
而他说，AI 没有这样的发展路径。他们没有路线图能说明 AI 会变成他们承诺的那种东西。我得说清楚，如果这些公司一开始就说：“这是有意思的云软件，具有生成能力，价格很贵，我们还不确定能否完全信任它；我不是说它很可怕，而是说我们不确定它会不会带来颠覆性、改变世界的影响。它有潜力，但我们会慢慢来。”
“它很贵，目前还是研发项目。我们不会把它直接推给消费者。”他们甚至可以不叫它 AI，因为它不是 AI：它不自主、不聪明。说到底，它并不聪明。那我或许会尊重他们。但从 2022、2023 年开始，他们就对外宣称这是有史以来最伟大的东西，会改变一切，能替你完成所有工作。
“它会抢走你的工作。你和 Bing 聊几句，它就会劝你离开妻子。”这些离谱的说法到处都是。我记得记者 Kevin Roose 跟 Microsoft CTO Kevin Scott 谈到这件事时，Kevin Scott 居然说：“我很高兴我们正在进行这场对话。”他没有直接说：“冷静点，Beavis，这就是个网站。网站告诉了你一些东西。这不过是大语言模型。”
他们把这件事吹得天花乱坠，因为每个人都在谈论自己希望 AI 能做到什么，而不是它实际上能做什么。这让人感到害怕，而且这种恐惧是刻意制造的。它也在破坏环境。看看燃气轮机如何污染整个社区——我想是在路易斯安那州，是 Musk 的一个数据中心。看看那些惊人的耗电量，它正在抬高电费；而且巨大的建设浪潮也推高了所有消费电子产品的价格。
§13AI 泡沫与互联网泡沫有何不同？
有意思的是，我几乎觉得你说的很多都是真的，同时这项技术也可能深刻改变世界。我会想到互联网早期，也许这是最接近的类比。在互联网泡沫时期……你写过一篇很棒的文章。是的，是的。我觉得标题特别好笑，叫《腐朽经济》。你把互联网泡沫称作“腐朽网泡沫”。
文章谈的是 AI 的价值没有人们想的那么高。没错。在互联网泡沫里，大家狂热炒作，把网站和自己开发的产品吹得天花乱坠。但泡沫破裂后，虽然 90% 的东西都归零了，却也诞生了改变世界的一代公司。没错。所以我会想，泡沫不就是这样吗？先是疯狂炒作和过度投资。
投资者变得极度妄想，觉得一切都要改变。同时也会出现怀疑者。互联网泡沫时期，互联网本身也遭遇过最强烈的质疑。1998 年，诺贝尔经济学奖得主 Paul Krugman 说：“到 2005 年左右，人们会发现互联网对经济的影响还不如传真机。”1995 年，天体物理学家 Clifford Stuhl 曾在 Newsweek 上写过一段著名的话；我在书里也写过……
“我们的电脑评论员是不是完全丧失了常识？事实是，没有任何线上数据库能取代你每天看的报纸，没有任何 CD-ROM 能取代称职的老师。商业和贸易会从办公室和商场转到网络和调制解调器上？胡说。我的本地商场生意红火，网络商场却无人问津，这怎么解释？”Paul Krugman 还说：“互联网的发展会大幅放缓。”
“因为人们会发现，大多数人根本没什么话要彼此说。”这大概是那些预测里最糟的一条。去美国中部随便一家酒吧坐坐……说实话，那里的谈话可能最好。但所有这些说法都差不多。Clifford Stoll 的文章其实挺有意思，有些观点很蠢，但他也提到，网上充斥着大量糟糕信息会伤害社会。
这一点他说得完全正确。他还说，在线教育无法很好地替代常规教育。我觉得我们已经看到这一点。不过，经济层面存在巨大的差异，完全不是一回事。互联网泡沫其实有两个泡沫：一个是网站泡沫，内容全是一堆垃圾。我记得 Excite@Home 之类的公司花了大约 10 亿美元买下一家线上贺卡公司，荒唐透顶。
那件事其实很小。人们真正想到的是“暗光纤”。对，暗光纤。当时铺设了很多光缆，以为互联网需求会大幅增长。分析师估计，需求每 90 天翻一倍；实际也许每 6 到 12 个月，甚至更久才翻一倍。因此，光纤电缆和传输站都建得过多，更不用说把网络接到用户家里的设施了。
当时大家假设，这些光纤很快都会被点亮，用户会立刻需要它们。人们现在说：“互联网泡沫后，互联网需求确实出现了。”问题就在于，这和生成式 AI 的需求完全不同。眼下生成式 AI 的需求主要靠补贴。先从这里说起：主要是靠补贴，而且大多数人虽然在使用，却没有支付真实成本。
我同意。除此之外，所有可能的营销手段都已经用上了。这是人类历史上规模最大、最不诚实的营销活动。Microsoft 是云软件领域的顶级掠食者，却只能靠销售 AI 软件赚到个位数十亿美元。天哪，除 OpenAI 和 Anthropic 之外，全球 AI 收入才刚到 220 亿美元左右。对你我来说，220 亿美元很多；但如果你已经花了一万多亿美元，这就不算多。
而且 OpenAI 和 Anthropic 的云服务承诺支出总额达 1.1 万亿美元。再说所谓互联网泡沫后的情况：今天建的数据中心，到了 2050 年，运行成本可能依然和今天一样高，除非电力领域出现突破。但 AI 并没有带来这种突破；要么电力技术突破，要么 GPU 技术突破，否则这些成本不会自动消失。
但 Broadcom、NVIDIA、Etched 等公司都在努力。ARM 也在尝试解决这个问题。可没有哪家公司似乎能让 AI 盈利，甚至无法让成本下降。是啊。NVIDIA 的 Vera Rubin 是更贵的新一代 GPU 系统，却号称效率提高十倍。换句话说，每兆瓦电力所对应的美元成本更高。他们都说得很含糊，没有直接说：“我们和 OpenAI、Anthropic 合作后，成本降低了 50%。”
如果这是真的，这是世界上最容易说清楚的事情。可它并没有发生。这件事并不是……
§14AI 需求能否匹配数据中心的成本与风险？
所以你的意思是，相关需求不会出现？我们要区分不同种类的 AI、生成式 AI。对，这里确实该说清楚。之所以用“人工智能”这个词，就是为了让大家把所有东西都算进去：蛋白质折叠，这和大语言模型无关；机器人技术，也和大语言模型无关；自主武器也不是大语言模型，因为你不可能信任它们。可他们把一切都混成了 AI，所以你说“AI 做不到”时，他们就会说：“先生，您忘记给它布置作业了。”
他们还会说 AI 正在研究治愈癌症；可那并不是大语言模型。别把功劳都算到它头上。主持人回应说，这些不同类型的技术都需要 GPU。Ed 反驳道，不是这样。眼下正在建的那些数据中心，都是为生成式 AI 建的，并不是为了其他技术。那些很酷的东西不在这些数据中心里。AI 已经存在很久了；Google 的搜索等许多好东西早就在用 AI，但那是在生成式 AI 之前。
如果要让 Optimus 机器人这样的设备运行 AI，但又没有 GPU，会怎么办？比如 Matic 有一种清洁机器人，那台机器并没有装一块小 GPU。它可能曾经用过 GPU，但那些 GPU 可能只用于把训练数据输入系统，让它学会打扫房间。可当那个小家伙绕着我家地板拖地时，它不会一直烧钱。
但再看看这些大型数据中心。Sightline Climate 在 2 月表示，有 190 吉瓦的数据中心项目处于规划中，至于有多少正在建设还不清楚。按照这个说法，电力需求大约是 1,200 万兆瓦，对应每年 1.6 万亿到 3 万亿美元的电力成本。我们目前连 1,300 亿美元的年度需求都没有。有人会说：“需求会增长。”怎么增长？现在大部分需求来自 Amazon 给 OpenAI 或 Anthropic 送钱、Microsoft 给 OpenAI 和 Anthropic 送钱、Google 给 OpenAI 和 Anthropic 送钱。
Google 还没有把钱输送给 OpenAI，但它是个很大的客户，投入了数十亿美元。所谓骗局的一面是，我们正在建造这些资本主义的巨大塑像——巨型 GPU 数据中心。人们被告知这是为了 AI，那个据说做了许多其他事情的技术，可那些事情其实和这些数据中心无关。最糟糕的说法是：“你喜欢网上银行吧？那也是靠数据中心。”普通 CPU 服务器、Akamai 这类把网站内容送到用户面前的内容分发系统，或 Meta 运行 Facebook 所用的数据中心，和这些设施完全不同。
它们不是一回事。普通数据中心耗电少得多，主要使用 CPU；而这些巨型 GPU 数据中心只服务于一件事。主持人追问，自己查到更复杂的 AI 系统需要极其强大的基础设施，例如用于解决具体物理、生物和空间问题的系统。DeepMind 的 AlphaFold 这类蛋白质折叠系统，用于基因组测序、气候预测等，需要高性能计算集群。
这些系统需要极高精度和持续的大规模数据中心计算。训练自动驾驶汽车的系统，需要在模拟的物理环境中行驶数十亿英里。它们不是生成文字，而是在学习如何在三维空间和重力环境中导航，所以需要数据中心。Ed 回答说，这些数据中心可能确实装有 GPU。生成式 AI 出现之前，高性能计算也已经使用 GPU；过去的 AI 就是这样训练的。
Tesla 就是这么做的。我认为，无论 Autopilot 系统做得好不好，Tesla 过去都建过自己的数据中心来训练它。以前就这么做。但 Ed 重申，眼下建造这些数据中心的原因并不是那些用途。它们是为生成式 AI 公司建的，用来训练模型或运行推理服务。这些设施是在一种毫无头绪的状态下建起来的……其实这或许正好能说明这场骗局。
因为大家看到 Google、Microsoft、Amazon 和 Meta 向 NVIDIA 支付了八千多亿美元，就想：“它们不会无缘无故这么做，我们也得多建一些，肯定有这么多需求。”可事实上，这些需求中至少 70% 来自两家公司，而这两家公司又由另外三家公司出钱扶持。有意思的是，它们不愿单独披露 AI 收入，因为一旦披露，人们就会惊讶地发现事情确实如此。
实际的大客户就那么几家。这些公司不是只在建几座数据中心，而是基于完全投机的预期，建设能带来一万亿美元以上收入潜力的设施。没错，完全是投机。它们看到全球最大的几家公司买了一大批 GPU，就想：“我也要参与。他们肯定有很多不同客户吧？不可能只有两家靠它们撑着的、无法盈利的纨绔创业公司吧。”
天哪，光 2026 年它们就融资了 2,170 亿美元。
§15AI 正在让 Google 这样的网站变得更糟吗？
我们知道，一些全球最大企业都在用生成式 AI 写很多代码。这对它们来说是巨大的生产力提升，对吧？Ed 反问：“你最近用过 Google、Facebook、Instagram 或 GitHub 吗？它们现在糟糕透顶。”Amazon Web Services 因为 AI 编程工具已经宕机好几次。主持人问，Google 怎么变差了？Ed 说，他要讲讲一个真正讨厌的人，Prabhakar Raghavan。
他以前是 Google 的广告业务负责人。2019 年，Google 发出了所谓的“代码黄灯”警报，表示出现了问题。问题是搜索查询量这一重要指标变弱了，也就是人们使用 Google 搜索的次数减少。后来接任 Google 搜索负责人的 Ben Gomes 在公司内部说：“等等，要提高人们使用 Google 的次数，就意味着我们可能得给出更差的答案。因为如果用户很快找到答案，查询次数就会减少，对吧？”
Google 另一位工程师 Shashi Thakur 也在说：“我们能不能把这件事告诉 Sundar？这看起来不太对。我们不能只为了增加查询次数而增加查询次数，那只会让用户搜索更多，让产品变差。”主持人追问：“可这会让他们赚更多钱，是这个意思吗？”是的，因为用户会看到更多广告。主持人问，那这是 AI 编程导致 Google 变差的吗？
Ed 说他会谈到这一点。他认为，当时担任广告业务负责人的 Prabhakar Raghavan 一直施压，坚持要增加查询次数。Nick Fox 当时也在公司里，他现在好像接管了 Google 搜索业务。Nick Fox 说：“查询量必须上升，这是新的现实。”后来在 2020 年初左右，Prabhakar Raghavan 接管了 Google 搜索。Ed 表示，他无法证明，但如果你去 SEO 相关网站、Journal 等论坛看看，会发现 Google 后来减少了对垃圾网站的过滤，让人们在 Google 上花更多时间。
随着时间推移，Google 想制造更多查询，搜索质量就变得更差。人们总会在搜索词后面加“Reddit”或“来自 Reddit”等字样，正是因为 Google 的底层搜索结果变糟了。后来生成式 AI 出现了。Prabhakar Raghavan 被安排负责 Gemini 的一部分工作；Google 也发现人们不再频繁回到 Google。于是他们想：“大家都在谈 AI，那就把它放在最顶端，让用户留在 Google 上。”这样用户不用搜索网站、再麻烦地点击跳转，而是只用 Google。
现在由 Google 直接给你答案。答案正确吗？天哪，当然不一定。它可能会叫你吃石头，或吃有毒蘑菇。我可以给你几个链接，你也许会点进去；但最理想的情况是，AI 成为 Google 最邪恶的一种形式。不过我想说的是，真正让 Google 变差的，不是程序员写代码这件事，而是人为决策让它变差。
也许它会叫你吃有毒蘑菇。我再给你几个链接，你也许会点进去。但理想情况是，AI 会成为 Google 最邪恶的一种形态。我想说的是，让 Google 变差的不是程序员写代码，而是人的决策。没错，此外 Google 平台本身还有不稳定的问题；我本来应该先谈这个。这是整个科技行业面临的问题。主持人问：“所以你是说 Google 的稳定性在下降？”
没错，Google 确实更不稳定。Google Docs 现在以及过去一段时间里都漏洞百出，Google Sheets 也一样。其实你说得对，我有点不公平。这不只是 Google 的问题，Microsoft、Amazon 和全世界的公司都一样。主持人问，除了轶事之外，怎么量化这个问题？Ed 回答，GitHub 的宕机情况就是最好的例子。Amazon Web Services 今年似乎因为 AI 工具宕机了两三次。
哇。Ed 说，确实很难脱离轶事来量化，但他挑战听众亲自用用如今的网站，看看运行得怎样、漏洞有多少、问题有多频繁。就连号称用户体验最好的 iPhone，现在也乱成一团。主持人说，研究给出的简短答案是：科技服务宕机和软件故障过去几年确实明显增加，行业数据还直接指向 AI 辅助编程的大量增长是主要原因。
这个问题从两个完全不同的方向冲击科技行业：代码本身越来越容易出错，AI 活动的巨大规模也在直接压垮底层基础设施。Ed 说，这很有意思。人们只是大量写代码、把代码推送上去……这确实很有意思。开源项目也遇到同样的问题：一些本意良好的人用大语言模型学了一点代码。
他们会想：“我要自己做点东西，把这个项目改进一下。”可这些人可能根本不理解自己发布了什么。或者他们懂一点代码，就犯了邓宁—克鲁格效应：“我好像懂点这个。代码都写出来了，直接推送吧。”所以 GitHub 上充斥着 AI 生成的代码。主持人问，这是否让人变得懈怠。Ed 回答，是的，人们会想：“好吧，最后一百行代码我让 AI 写。”
“它大体上写对了。那接下来的一百行，我就不用那么仔细检查了。”对，对。人类就是这样，会走捷径；如果能少花力气完成一项活动，我们自然就会这么做。主持人指出，但 AI 仍然会出错，而公司还在继续承诺 AI 能做到一切。Ed 回答，这正是问题：它本该是自主的……主持人说，它不可能完美。Ed 反问：“我不知道。Sam Altman 过去几年说的那些话，不就是承诺 AI 会做到完美吗？”
“它会取代软件工程师。”Dario Amodei 也一直说，未来几年白领工作有 50% 会消失。这些人向大家许下了天大的承诺。如果他们从一开始就说：“它的能力有限，也会出问题；它是概率模型，会犯错。如果你不知道自己在做什么，也不知道该检查什么，就会漏掉错误；随着你继续用下去，问题会成倍放大。”如果他们这样说……人类天性确实是原因之一，但营销和承诺也是原因。
§16广告
企业能做的最聪明的事之一，是不必真的大规模招聘，就把公司做大。可是大多数公司并不具备所有技能。所以我观察到如今真正成功的企业，都有一个共同点：行动很快，会引入新兴领域的专家，保持领先。就连我们公司，过去一年也在引进 AI 原生战略、无代码开发和产品工作流程等领域的人才。
我们通过长期合作伙伴 Fiverr Pro 找到这些人才。他们的高级服务只展示经过审核的人才，所以你找人协助复杂项目时，可以确保对方具备你需要的技能，工作质量也能达到内部团队的标准。更重要的是，他们能跟上节奏。这是一种简单策略，让我们保持灵活，又不牺牲质量。如果你的企业也需要这类技能，可以前往 pro.fiverr.com，找到能补足业务能力缺口的优秀人才。
网址是 pro.fiverr.com。你知道手机里那张传统 SIM 卡吗？它自 90 年代发明以来就没变过。它是一块实体塑料，让你被锁定在一个运营商、一个网络里；一旦跨境，运营商就可以随意收漫游费。但现在有了替代方案。今天的赞助商 Saily 就是其中之一。它是一款 eSIM 应用，可在 200 多个目的地提供安全可靠的数据连接。
他们的 eSIM 都内置网络安全功能，如果你出差时要查看机密资料，这很有帮助。我每次旅行都会用 Saily，连接一直很稳定，也省下很多漫游费，还不用操心到了每个地方都要办 SIM 卡。如果你想试试，现在就从 App Store 下载 Saily 应用，再扫描屏幕上的二维码。
首次购买可享 85 折，结账时输入我的优惠码 DOAC。输入 DOAC，就能打 85 折。
§17AI 造成的就业冲击是骗局吗？
自动驾驶汽车就是 AI 技术。是的。我之前采访过 Uber 的 Dara，他说也许再过几年，Uber 就不再需要司机，因为汽车会自己开，达到完全自动驾驶。如果我没记错，驾驶是地球上人数最多的职业之一。所以当你听到 CEO 说会出现就业冲击时，你的意思是他们在说谎。
是，或者他们是在做对自己非常有利的猜测。想想 Microsoft 的 Satya Nadella。他不会说：“这事结束了，咱们完了。”他当然会为自己的业务站台，说：“它会成功，会取代所有劳动者，会非常棒、非常强大。”之后如果局势变化，他又会改口说：“其实它不会取代劳动者。”
“它会让劳动者变得更强大。”但这些东西还没有成熟。以 Uber 为例，CEO 当然会说，如果自动驾驶实现，对 Uber 有利，因为 Uber 就会变成一家自动驾驶出租车公司。Waymo 的发展也有原因。我觉得 Waymo 很有意思，那东西确实很酷。我也认为它会带来社会经济问题，会出现真正的现实问题。
会带来什么问题？从社会经济角度看，正如你说的，驾驶是全球最大的就业领域之一。出租车行业的经济模式都会崩溃。但我们离那种情况还非常、非常、非常远，根本还没到那一步。Waymo 只在极小规模、最受控的环境里部署，因为几乎所有 AI 系统，尤其是自动驾驶，难点不在于做到 95%，而在于处理边缘情况。
比如下雨，这对它们在旧金山的运营就是个大问题；或者一个孩子穿着高可视度服装跑过马路——它会不会注意到那是个孩子？主持人说，这是个很有意思且非常贴切的例子：正确的比较方式不该是自动驾驶汽车对比完美，而应该是自动驾驶汽车对比人类驾驶员。Ed 回答，他不确定，因为人类驾驶员也会犯错……
我不是自动驾驶汽车专家，先说清楚。但如果我们不在高度受控的环境中，而是随意推出自动驾驶汽车，边缘情况就会不断增加，带来危险。没错，它们某些方面可能比人类司机更好，但也可能……前几天我在拉斯维加斯，住酒店时看到一堆 Zoox 汽车动弹不得。无人驾驶汽车。对，对。
那些奇怪的方盒子车全堵在出口，排成一队，然后就像睡着了一样。我在旧金山一家酒店外也见过 Waymo 发生同样的事。它开到……然后其他车和另一辆 Waymo 都被堵在后面。我也见过糟糕的人类司机。是的。但我们可以控制这些车的部署速度。司机也有好有坏。
我们有能力慢慢推出，这正是应该做的。我不是说自动驾驶汽车不好，而是说我们必须格外谨慎，把它们当作有罪、直到证明无罪，因为我们可以证明……而且它们还有人监控路线。我们不能仓促推出。但看起来他们没有在急着推，这很好，也没有向公众承诺一切。
我同意。我很喜欢出租车司机，毕竟我经常打车。我上车不只是为了从 A 点到 B 点，还有很多其他原因。不过，看看自动驾驶与人类驾驶相比的风险数据：自动驾驶汽车涉及事故的总体概率低 68%。自动驾驶汽车每行驶一百万英里，大约发生 2.1 起警方记录的事故；人类司机大约是每百万英里 4.68 起。
也就是说，乘坐自动驾驶汽车，事故率降低了 55%。自动驾驶汽车导致受伤的事故减少了 80% 到 81%。发生单车事故的概率——比如撞上墙或树——也低 85%。Ed 说他同意，但追问这些数据中的人类驾驶员样本有多大。毕竟，人类司机和人类交通事故的历史都长得多，数量也多得多。
而且，这和生成式 AI 有什么关系？如果我们只谈自动驾驶，讨论内容会不同。我想问题还是就业冲击：各行各业中，驾驶都是很大的职业领域，汽车自己会开后，会不会造成岗位冲击？再看白领工作，比如律师和会计师，人们会说这些职业里的某些技能可以由 AI 完成。Ed 说，律师是个很好的例子。他总听到法律合伙人谈 AI，却很少听到初级律师发言。真正去寻找判例、做繁重工作、整理动议材料的，是初级律师；合伙人通常负责诉讼或面对客户。
“我没听到他们怎么说，只听到那些高薪人士说：“我是最棒的律师。”白领岗位受到冲击这件事并没有发生。OpenAI 上周左右发布了一项研究，称 AI token 支出与员工人均收入之间没有相关性。主持人问这意味着什么。Ed 解释说，花更多 token 与赚更多钱之间完全没有相关性。这是 OpenAI 发布的第二份报告。
另一份报告说，幻觉在数学上不可避免。这是我对这家公司稍微有点尊重的地方：他们偶尔确实会发布研究，说：“是啊，这东西确实不太行。”但工作受到冲击的，是艺术总监、转录员、翻译等人，而他们的老板根本不在乎输出质量，只在乎自己认为便宜的工作。问题是，即使没有 AI，那些老板也会自动化他们的工作。
他们本来就会把工作卖出去，选择全球最低价、最差的服务。AI 确实正在造成这种情况。同样，这些人并没有按 AI 的实际成本付费，而是使用订阅服务。至于整体白领劳动力，也许有些事情正在发生变化，但没有证据表明生产力因此提高。真要是提高了，他们肯定会大肆宣传。
去年有一份 Oxford Economics 的研究称，年轻人因为 AI 更难找到工作。我们确实读了那份研究——有好几位记者没读。里面只有一句话说，他们观察到某种相关性，却没有给出数字，也没有说明具体是什么相关性。我们太习惯相信有钱有权的人知道自己在做什么，所以会把这些叙事内化：“过去的繁荣期也曾让人损失很多钱”“技术需要时间才能发挥作用。”
而他们是在有意利用这些传说，知道记者、分析师和投资者会相信。部分原因是，我们的现实被股价定义了。因为这些公司的股价上涨，我们就说：“你看，一定有效，对吧？”主持人说，刚才提到的两个观点也都是真的：新技术起初往往赚不到钱，而且会逐渐改善。
Ed 回答：“另一个东西后来变好了，就说明这个也会变好吗？不。”主持人说，但总得有些说法是不正确的吧。Ed 解释说，他们从根本上误导大家的是：AI 能做到承诺的事情有多大可能实现，以及他们手里有多少证据。因为他们没有那些证据。
如果他们真的有证据，能证明成本会下降、能证明它可以不靠那种鲁布·戈德堡式的复杂机器自主工作，并且能可靠地帮客户赚更多钱、提高生产力，而且他们可以毫不含糊地说出来，就不会是现在这样。各个方面都是如此。最热衷这些东西的人，很多是 Twitter 上的“精神病患者”……
主持人重复：“Twitter 上的精神病患者？”Ed 说确实有些人……随后又表示，他很抱歉，但这种现象很有 AI 行业的独特性。他从没在其他行业见过这种情况，体育队伍也许除外。网上有些人对这些公司有着强烈依附；你敢批评 Anthropic，他们就像有宗教信仰一样护着它。比如这周 Bloomberg 报道，OpenAI 的年化收入运行率达到 400 亿美元——按月收入乘 12 算，或者按四周乘 13 算，没人知道，因为他们不作定义。很多人却在网上说：“不对，应该是 600 亿。我听人说是 600 亿。”这就像一个崇拜增长、崇拜软件的邪教，大家相信押对了马，就能获得某种伟大成果。
尤其是 OpenAI，特别是奥特曼先生。他们一直在煽动这种情绪。他们在网上、在大语言模型和公司之间都建立了某种拟社会关系。对公司的忠诚变得极其重要，真的很恶心。要是这些人能关心一下全民医保、贫困或世界真正的问题，而不是我们买够了没有 GPU，那该多好。
§18你的叙事会不会反而在帮 AI 公司？
有意思的是，主持人说，有人会认为你的叙事反而在帮 AI 公司。怎么帮？因为那些 AI“末日论者”——包括 AI 的早期创始人 Geoffrey Hinton——曾告诉主持人，他们正在开发的技术极其危险，会从根本上颠覆社会。更奇怪的是，你提到的一些 CEO 过去也说过，这东西非常危险。
是的，还有很大概率会把世界搞砸。可我们看到他们慢慢转变了说法。这太奇怪了，因为他们现在会被嘘、被攻击。是的，他们逐渐改变了说法，听起来甚至有点像你的叙事：现在变成“其实不会改变任何东西，你们都会没事”，甚至“它一点也不危险”。
但这很有意思，所以我才说，大型 AI 公司里可能有几个公关人员会想：“感谢 Ed。”我可不这么觉得。主持人说，你的一些观点会让人安心，因为你在说：“不用担心，它不会抢你的工作，不会冲击经济，只是一阵风潮，根本没什么技术。”Ed 回答，他不认为这些公司是为了安抚公众而改变说法。
我认为奥特曼和阿莫迪是世界上最腐败、最冷酷的人之一。2023 年初，奥特曼说“我们有点害怕自己正在创造的东西”。主持人说：“别说了，我听着真生气。我见过太多有钱的骗子。”他认为，奥特曼这么说是为了让人投资他的公司、购买软件，让人担心如果今天不用 AI，未来就会落后。这一直是他们的说辞：“现在不上车，你就会被甩在后面。”
顺带说，每一场骗局都会催促你。历史上所有把戏一开始都说：“你必须马上做。”我听过的最好建议是：如果有人催你，而事情不是生死攸关——你没有流血、着火，房子也没着火——那就慢下来。可这些公司一直用恐惧做文章。现在他们开始谈放慢速度，但你有没有注意到，阿莫迪和奥特曼会说“也许应该放慢进展”……
可他们并没有放慢。现在奥特曼说，因为进度严重延误，所以我们放慢了。实际上是他们的算力不够，事情被迫放慢。Ed 说，他敢保证这些公司的公关团队不喜欢他，尤其 OpenAI 的公关团队。但主持人认为，Ed 的叙事中有些内容可能让公众冷静下来；Ed 回答：“我希望如此，因为……”
“用恐惧操纵人很糟糕。”Ed 认为这些公司确实想让人害怕。主持人完全不同意。他说自己记录了这些公司的公开言论，并按时间逐年读出来。从 2015 年到 2026 年，可以看到说法从“可能导致灭绝”——这是早期叙事，连 Elon 都说过，称它是世界上最危险的东西——逐渐演变成……主持人补充，Elon 经常说很多话。
主持人说，追踪这些说法，会发现它们演变成“丰裕时代”叙事：每个人都将拥有无限资源。Track TVT 的新口号是“让每个人都拥有智能”。当 Dario 出来说“这真的很危险”时，人们就会讨厌他、说：“Dario，闭嘴。”Ed 回应说，他多年来也一直这么说 Dario。但主持人理解 Ed 的观点，认为公司改变叙事的原因与其说是为了让公众冷静，不如说是他们不想受到监管，而这很荒谬。
我们不监管科技，也什么都不监管。美国什么都不监管。我们还困在 Milton Friedman、Margaret Thatcher 和该死的 Ronald Reagan 那一套里，仍然陷在新自由主义的地狱景观中：不惜一切代价追求增长、崇尚自由市场资本主义。所以不，没人会去监管。这些公司本该被拆分。我不知道，至少该把这些混蛋拆开。确实，必须把这些家伙拆分。
我们不应该有这么大的公司。它们只会让事情更糟。
§19AI 网络攻击有多危险？
这些技术确实危险，但不是他们警告的那种危险。比如网络攻击。要说清楚，之前发生的那些攻击并不是……它们是模型试图逃出沙盒，结果他们把沙盒设错了，把服务器配置错了。不过先进 AI 模型确实可能以智能体的形式访问开放互联网，浏览不同网站的代码库，寻找漏洞并大规模利用；理论上，它的速度和范围可能超过人类黑客。
这确实危险。但有意思的是，我们不知道 OpenAI 对 Hugging Face 攻击用了多少计算资源。我们也知道他们没有正确设置用于隔离模型的服务器。他们以为自己关闭了互联网访问，实际上并没有。这是人为错误。可以说，他们用了多到无法确定的计算量。这确实危险，但人们总说：“不能让中国得到这些模型。万一模型落入坏人之手怎么办？”它们已经落入坏人之手了。
马克·扎克伯格、山姆·奥特曼、达里奥·阿莫迪——所谓的坏人，就是这些公司掌权的人。我们不应该训练这些模型去做那些事。我真不知道我们为什么要这么做，除了他们已经找不到别的训练材料了。材料多得很。它们能做到这些事，确实挺有意思。
主持人问，能访问互联网、到处点击并采取行动的智能体式 AI，是否本质上伴随着风险。Ed 说，风险这一点他同意。我们过去就有自动化脚本和黑客脚本，黑客这样做很多年了。如今只是用大量计算资源进行暴力破解，而且……
这确实危险。这些公司在做危险的事，但并不是 Geoffrey Hinton 等人警告的那种事。他们说的是 AI 可能毁掉社会、操纵人类。可如果看看实际发生的事，情况没那么夸张。Geoffrey Hinton 也在为自己的立场站台——我想他仍持有 Google 股票。奇怪的是，他因为担心 Google 的 AI 才离开公司，却紧接着又说 Google 其实很负责任。
但回到网络安全上，我同意，这很危险。这些人不该掌握那么多计算资源。他们显然不知道该怎么处理。解决办法很简单：别让他们用那么多计算资源。把这部分活动监管到不存在。要是中国这么做呢？中国可以蒸馏这些模型。另外，监管并限制这类活动。我觉得这件事已经发展到这一步，我们已经把精灵放出瓶子了——这是山姆·奥特曼很讨厌的说法。
之所以走到今天，是因为我们放任这些公司不受监管，想用多少计算资源就用多少。那些纵容者让它们随意消耗计算资源。对于 AI 的各种可怕警告，却没有人真正采取行动。主持人说：“我们来玩个游戏吧，Ed。你把这些卡片拿起来，我上面写了你认为 AI 行业的迷思。”
§20AI 行业正在创造经济增长吗？
“挑战是：每个迷思你只用一句话回答，说说第一反应。”Ed 说，好吧。主持人：“AI 行业正在创造巨大的经济增长。”Ed：“没有。数据里根本看不到。”主持人：“好。我能再说一句吗？”Ed：“可以。”他说，几乎所有经济活动都只是 NVIDIA 给 CoreWeave 之类的公司输血，或这三家公司给另外两家公司钱、让它们再花回自己身上。
主持人追问，怎么证明 AI 没有带来经济增长？Ed 说，半导体支出和 GPU、数据中心基础设施的投机性投资确实存在；但 AI 服务的消费支出还不到 1,000 亿美元，而且其中大部分只是两家公司运营服务、再付钱给 Oracle、CoreWeave 等三家公司的资金循环。
主持人说，对一种新技术而言，1,000 亿美元很多。Ed 回答，如果已经花了 3,000 亿美元股权融资，若只算三家公司的资本支出，他认为有 6,000 亿美元，这就不多了。主持人承认这意味着它们不赚钱，但认为 1,000 亿美元仍代表消费者需求。Ed 不同意：如果计算需求主要来自补贴订阅，就不能这么说。你用 20 美元或 40 美元买到价值 1 美元的服务，当然会用得更多。
如果这一切都按每百万 token 计费，我们就会有另一番讨论。主持人说：“好吧，公平。下一张。”
§21美国怎样才能在 AI 竞赛中击败中国？
“美国需要投入数万亿美元才能在 AI 竞赛中击败中国。”Ed 问：“什么 AI 竞赛？我一直想问，到底是什么竞赛？要造出更大、更吓人的大语言模型吗？他们已经做到了。再说，他们用的还不是 NVIDIA GPU，而是 Blackwell GPU。”他提到两位自己很欣赏的分析师 Kakashi 和 Justario，多年来一直关注此事。他说，中国多年来就已经拿到了不该拥有的 NVIDIA GPU。可除此之外，竞赛到底是为了什么？
他们已经有了大语言模型。竞赛是为了什么？为了让我们比他们花更多钱吗？为了让我们不断担心中国，把自己吓得尿裤子吗？如果这是竞赛目标，那中国已经赢了。
§22机器人技术会威胁就业吗？
第三个迷思：“AI 会取代所有人类工作。”这根本没有发生，也没有经济数据支持。它会取代某些工作吗？我认为它取代了一些外包工作，而这些工作原本也可能被转移给全球南方的低成本劳动力。从这个意义上说，这是数字化全球化。但它不会取代所有工作、大多数工作，甚至大量工作。那机器人呢？机器人是另一回事。主持人说，机器人会由 AI 驱动。
Ed 回答：“是，但 AI 有很多种。我们明确谈的是生成式 AI。”主持人说自己的 Mythbusters 文章讨论的就是生成式 AI。随后又问机器人。Ed 举 Tesla 正在研发的 Optimus 机器人为例，说它的手部演示中似乎还有人操控，并非自主运行。
Ed 表示，如果他们能解决所有挑战，机器人确实会很酷，但不知道还要多久。主持人问他有没有看过中国的机器人。Ed 说，他知道那种能跳舞的机器人，但还不能真正像人一样做事。主持人说，那些东西确实令人惊叹。Ed 同意，机器人很酷，他也希望人们真正在造机器人、做些有趣的事。
Ed 希望科技行业还能生产有趣的产品，而不是这些该死的大语言模型。主持人说，AI 加机器人也是一条路；他三年前去旧金山一家大型创业孵化器时，那里全是软件初创公司。三年后再去，里面全是机器人初创公司。他记得自己问孵化器创始人：“怎么现在全是机器人？”
其中一个机器人只有一只机械臂，上面装着煎锅，功能就是替你做饭。创始人说，硬件部分一直都不算贵，贵的是智能。现在智能成本已经降到几分钱了，所以机器人行业正在爆发，因为机器人由智能和硬件共同构成。
主持人补充，还需要大量数据。Ed 同意数据很贵。他说，Cybercab 的推出很慢，这还要花很长时间。机器人确实可能威胁就业；如果能造出替代某种人类工作的机器人，那当然可能。但人类工作涉及多种任务，也会随着环境变化。比如洗碗机器人……
主持人说，餐馆老板不会花一两万美元买机器人，去替代一份本来就付不起多少钱的工作。Ed 说，如果机器人真能替代这些工作，确实可能造成冲击，但他们现在讨论的不是这件事。主持人说明，自己不是故意唱反调，只是在形成看法。他认为“AI 会取代所有人类工作”显然是胡说，但想弄清真相是否介于两者之间：有些工作可能本来就不该由人来做。
例如过去有人专门坐在电梯里按按钮。随着技术发展，机器会接手这类自动化、单调的工作。Ed 回答，他引用的具体文章讨论的是生成式 AI，专门谈的是当人们说“AI 会取代所有工作”时，他们所指的那类工作。
§23你怎么看智能体 AI？
主持人澄清，自己说的不是智能体 AI。Ed 解释说，智能体 AI 只是给大语言模型套上工具框架，再让一个大语言模型和另一个对话。它仍然是大语言模型，只是互相对话、截图，再把截图放进模型里。主持人说，自己肯定有用智能体做过一些以前会让人做的事。
比如他以前会让幕僚长筛选所有收件箱、整理邮件并告诉他重点；也许更早以前，人们还会把纸张拿给他看。
主持人说，现在幕僚长不再做这项工作了。Ed 指出，幕僚长还在，只是改做别的事。主持人同意。但 Ed 说，这其实是相当基础的自动化。主持人承认不知道具体细节。Ed 回答，这就是一般的邮件处理。企业没有花一万亿美元来自动筛选邮件。
人们对许多令人印象深刻的功能，比如编写脚本，也会忘记它其实只是大语言模型在写 Python。Python 很厉害，可以抓取网站、下载各种东西，真的很棒。但 Ed 的意思是，如果这些公司没有要求所有人的注意力、投入所有资金并承诺一切，事情就不会变得这么严重。问题出在它们的承诺上，也出在配合炒作的记者、分析师和 Twitter 用户身上。他们说 AI 会改变一切、取代一切，完全脱离了现实。
§24AI 的普及和互联网的兴起是一回事吗？
主持人问，历史上是否有哪项真正改变世界的技术创新，没有经历过这种炒作？Ed 说，互联网可能也曾被过度承诺。他读过许多互联网早期的文章：很多人兴奋，但也很谨慎，担心需求不足；不过，他们仍会说，如果互联网发展起来，可能产生深远影响。
当时很多人并不是特别看好互联网。许多怀疑者担心网上会充斥糟糕信息，看看今天就知道了。也有人担心所有人都在网上交流会产生社会后果，他们的担忧是对的。至于经济层面，他们讨论过 The Globe 之类的企业，我记得它赚了几十万美元，市值好像达到十亿美元。
互联网泡沫时期确实有过大规模炒作，但远不如现在。那时没有铺天盖地的文章说：“你不上网就会被甩在后面。”也没有人会因为不用互联网而承担职业后果。Nick Suresh 之前提到他的博客。他描述过一种现象：在一些公司里，不管是否属实，你都得说自己因为 AI 提高了生产力，否则就会遭遇职业后果，甚至可能被解雇。有人不得不把工作“AI 洗白”，声称工作是 AI 做的，不然那些不干活的老板会生气。互联网时代没有这种情况。当时社交媒体也不是今天这个样子。媒体去中心化，以及日内交易等很多因素都让今天的情况不同。确实，我认为 AI 与互联网不同，尤其是只看生成式 AI 的普及速度。
主持人说，互联网普及需要把实体线路接到每家每户；生成式 AI 只需要一个网页浏览器。铺设互联网需要巨大投入。即使拨号上网，也需要把网络分发到各地，所以普及很慢，炒作也比 AI 少。Ed 同意炒作更多，并再次指出人们把很多不同东西都塞进了“AI”这个大分类。
有生成式 AI，也有现实世界中的 AI。Ed 说，他明确讨论的是生成式 AI。老板要求员工用 AI，并不是让他们买一台 Unibeam 机器人，而是让他们用大语言模型。主持人说：“这样我就能……”Ed 提到“商业白痴时代”的说法：现在由不做实际工作的人统治企业。真正高效、埋头做事的人，不会去骚扰员工，质问他们为什么生产力不够。
Ed 认为，那些坐在办公室、只偶尔看邮件的老板，会把 AI 当成魔法。它就像一台谄媚机器，对着他们乱糟糟的想法不断说：“真是天才。”于是他们会想：“机器都说我是天才了，你怎么还不用这台天才机器多干点活？”
§25AI 被过度炒作
主持人提出，他认为 AI 被过度炒作，最有说服力的理由之一是：当人人都能使用这些工具时，它们能做的事大多会变成商品化能力；而工具做不到的事，比如人的品味、判断力和人际技能，则会变得更有价值。历史上，稀缺、困难的能力价值更高，商品化的东西价值更低。
因此，如果内容创作或代码生成都被商品化，用户的价值就不一定来自生成内容本身。要做出真正出色的东西，如果 AI 也能做到，那“出色”本身或许就不再值钱。主持人说，他一直在想如何避免自己创作的内容和贡献变成劣质化、流水线化的垃圾。
举个容易理解的例子：如果你用 ChatGPT 或 Anthropic 的 Claude 写 LinkedIn 帖子，写出来的会是很差的 LinkedIn 帖子，因为所有人都在用它们。如今真正好的 LinkedIn 帖子，可能反而出自没有用这些工具、创作出不可替代的人类内容的人。那种内容更深入、更个人化，是独一无二的亲身经历；这些正是 AI 做不到的东西。
这其实是个有说服力的观点：商品化工具只能产出商品化结果。所有人都能用这些工具，变化是什么？我们只是得到一堆垃圾。但这些人在以前就已经敷衍工作了。AI 只是一台敷衍机器。以前给你狗屎内容的人，现在有了一台狗屎生产机，可以批量制造更多狗屎。
Ed 提到软件工程师 Carl Brown，也就是 Internet Bucks 的作者。他说，AI 会让简单的事更简单，让难的事更难。比如你要写一段很具体的小脚本，它一下就能生成，确实很棒。Ed 前几天用 Claude 做了件有用的事：他孩子喜欢 Minecraft，他就试着修一个坏掉的模组，因为孩子喜欢 Witherstorm。
那件事很棒。但他还是花了半小时，而且 AI 一直出错。
§26你用生成式 AI 做什么？
主持人问 Ed 用生成式 AI 做什么。Ed 说自己基本不用。主持人追问：“你不用？”Ed 解释，自己会用 Bloomberg 终端里的 Ask B，比如查询 NVIDIA 的分析师一致预期；除此之外几乎不用。主持人问：“那你怎么知道它不好？”Ed 说自己用过，也给它设置过各种任务，比如财务模型，但一发现一个错误就立刻不信任了。他唯一愿意为它辩护的用途是技术支持。
他在纽约住处有个叫 Synergy 的工具，可以让 MacBook 和 PC 笔记本共用鼠标键盘。遇到问题时，他把一大段故障日志贴进去问原因，AI 就能指出问题。主持人认为这非常有用。那东西值一万亿美元吗？不。值两万亿美元吗？也不。它总比 Google 好吧？Ed 说也不算。主持人问他现在还用 Google 搜索吗。Ed 说会用，但得先翻过一堆垃圾。他都不记得自己上次 Google 搜索是什么时候了。
天哪，我有时甚至会用 Bing。我知道，说出来也讨厌。但我得先滚过那些 AI 垃圾内容，因为我想要真正的链接，能点进去看原文。主持人问：“但你可以让 AI 给你链接。”Ed 说，它做得并不好。比如前几天他的 iPad 开不了机，屏幕上还出现奇怪的图案。主持人问，他觉得把问题输入 Google 会更好吗？
Ed 澄清，这可能是他唯一愿意为大语言模型辩护的用途。把故障日志贴进去确实很实用。但这不是他们销售 AI 的方式。他们没有把它说成一件好用的小工具，而是说它会改变一切、取代所有工作。主持人说，你说得对，他们确实这么宣传；不过有趣的是，批评者也这样说，比如 Geoffrey Hinton 等人曾警告 AI 对世界的影响，ChatGPT 安全团队离职的人也来过节目。Ed 回答，问题在于这些批评者也可能有自己的利益关系。
主持人说，例如 Daniel Former、OpenAI 的前员工，以及和 Star Codex 作者一起写《AI 2027》的人；那篇文章写得像糟糕的科幻小说，后来作者也不得不收回部分说法。Ed 指出，他们也可能留在 ChatGPT 赚更多钱。主持人追问，对方是不是失去了期权。Ed 说，不是说他们没有批评公司本身、偷窃行为、环境破坏或答案不可靠；他们批评的是未来那个可怕的大魔王，好像只要不断谈 AI 有多危险，人们就会继续听他们说。
他们没有谈今天已经发生的危害：用自动化工具喷出垃圾、让信息流塞满废物、让错误信息以看似可信的方式出现，哪怕角落里标着一句微小的免责声明，说它有时会出错。他们也没有谈模型是通过窃取数百万人的作品训练出来的。
§27AI 变得更聪明了吗？
主持人问，Ed 认为 AI 会越来越聪明、未来会变得危险吗？Ed 反问，如果用各种衡量智力的方法来测，它是否变聪明了？它只是在为模型量身定制的测试中表现更好，也更擅长应付经过训练的考试。主持人确认：“所以它是在……方面变好了？”
Ed 说，它在专门为它设计的测试上表现更好。如果把进步速度画成图表，大概会像这样。主持人问，他是不是承认它的能力确实提高了。Ed 回答：“好吧。”因为它并没有增加新功能。你会发现，除 OpenAI 和 Anthropic 外，把编程初创公司排除在外，几乎没有成功的 AI 初创公司。
§28AI 能力增强后会接手更多工作吗？
主持人总结说，AI 的能力确实变强了，做事能力有所提高。Ed 说：“好吧。”主持人再问，如果假设这条趋势继续、AI 能力继续增强，到了某个阶段，它会不会跨越人类智能水平？那时它会不会开始承担一些现在由人做的工作？Ed 说，先不谈软件工程，因为他承认软件工程方面确实有所进步；除了软件工程呢？
主持人举出幕僚长、行政工作、视频生成、图片生成、文本生成、编程，以及智能体工作流程。什么是智能体工作流程？他说是自动化地重复做同一件事，例如查看 The Diary Of A CEO 后台数据、汇总和读取所有数据、上网搜索 Ed 是谁、查看他做过的所有访谈，然后生成一个小模型，总结人们想了解 Ed 的内容，最后把报告发到他的收件箱。嘉宾来访前，他能收到一份 20、30、40 甚至 50 页的报告。
Ed 说，这些大体上还是 AI 多年来一直在做的事情，并不是新能力。主持人反驳说，这不就是总结、生成吗？Ed 说，研究就是搜索，还是同一件事。多年以前就有网页搜索和报告生成。主持人追问，过去我们能生成高质量视频吗？比如像用摄像机拍出来、几乎无法区分真假的舞蹈视频。那些视频确实令人惊叹。主持人想表达的是：过去十年里，AI 能力、产出质量不断提升，幻觉减少，模型变得更“聪明”，甚至在智商测试上分数更高；双方是否同意技术确实在持续进步？
Ed 说，研究就是搜索，这些功能过去就有网页搜索和报告生成。但主持人反问，过去我们能生成高质量视频吗？比如看起来像摄像机拍摄、几乎难辨真假的舞蹈视频，那些作品确实令人惊叹。他想表达的是，如果回看过去十年，AI 的能力、产出和质量都在提高，幻觉减少，模型变得更“聪明”，甚至智商测试得分也提高了。双方是否同意，这是一条持续向上的进步轨迹？
Ed 说，这基本就是机器学习的运作方式：给模型更多数据，再增加计算资源。主持人问，如果这种趋势持续，未来会是什么样？
§29AI 发展下去，未来会是什么样？
Ed 说，他本来以为主持人会反驳说进步不会持续。他认为存在硬性上限，而且已经开始出现边际收益递减。主持人问，是否认为已经到达某个硬性限制。Ed 说，差不多已经到了。以视频生成来说，这本来就不再是美国公司主导的议题。OpenAI 已经关闭了 Sora，虽然 API 可能还能用。但你看看实际拍摄场景和制作团队的规模就知道了。
人们以为电影是一镜接一镜拍出来的，实际上并非如此。要拍电影，需要第一副导演、灯光师、布景人员等。模拟光线极其困难。AI 也许能生成一分钟、骗过某些人的视频，但怎么把它变成一部电影？
Ed 说，有部电影他忘了名字，曾声称在戛纳电影节放映；其实它只是在戛纳这座城市里放映，并不属于电影节。到了真正制作现实作品这一步，魔术般的演示和实际产出之间仍有很大差距。主持人说，自己总回到能力这个话题：AI 在测试上表现更好、分数不断提高，但它能不能完成明确任务，让人放心依赖？他认为 AI 能做摘要。
主持人说，AI 在它已经做的事情上大致是线性地变好，但仍有上限。比如它研究做得很好，这具体意味着什么？自动化已经差不多到位了，下一步是什么？要让它更自主，并不是靠增加训练数据就能实现的；这需要一种新方法，Gary Marcus 称之为神经符号方法。
Ed 补充说，确实需要在 AI 周围建立结构，才能让它发挥作用；即便如此，仍无法解决所有问题。主持人问，进步速度是否终将到达平台期并停止。Ed 说已经到达了，边际收益递减也已经出现。Gary Marcus 在 2022 年就说过类似的话。主持人指出，现在很多听众觉得这些工具已经彻底改变了他们的工作流程。
§30你不觉得 AI 已经改变了人们的工作流程吗？
Ed 追问：“真的改变了吗？”主持人回答，有人确实如此。Ed 说，首先，他们有为 token 付费吗？到底消耗了多少 token？暂且不谈这些，具体是什么工作流程？主持人举例说，用 AI 做网页抓取或搜索。Ed 说自己对此并不惊艳：“你做出一整部电影了吗？没有。但它确实能加快编程，我相信这一点。”
主持人说，他听过好几个人这么讲，但 Ed 继续追问：“你有多相信这些说法？”主持人说，在每一项技术创新刚出现时，人们都倾向于线性外推，或把现状看成静态；他们以为今天就会一直是今天，或进步会沿着直线发生。但很多时候，技术会呈指数级进步。我们谈到的计算能力和加速流程等创新，本质上都是硬件突破。
Ed 说，硬件突破似乎并没有解决大语言模型的问题。尽管投入了大量人才，Google 的 TPU 已经发展到第九、十代，Broadcom 也在和 OpenAI 打造代号 Jalapeño 的芯片，但这些人还是没人敢说：“我们正走在盈利的路上。”因为他们做不到。如果我们解决了环境问题和盈利问题，我也许会更看好这些东西。
但看起来他们做不到。你谈能力提升时，我会想：它究竟能不能做到他们承诺的十分之一？Sam 上周还说，再过六个月，它就会像一个可以满足愿望的精灵。天哪，他从没看过《阿拉丁》吗？他说的是什么？而且那个精灵还挺有魅力的。总之，他们的承诺和实际能力、能力提升速度并不匹配。
软件和软件性能的指数级提升，总是直接来自硬件改进。我们有优秀的数学家、软件工程师和硬件工程师。可最后呢？花了一万多亿美元，迎来的是未来可能爆发的重大金融危机和世界上最大的营销心理操纵。主持人说，他认为未来的设备、计算机和现实中的各种物品都会变得更智能。
§31所有 AI 都需要数据中心吗？
Ed 说，他对此并不意外，但要问这是不是大语言模型。主持人说，这会由底层 AI 基础设施提供动力，需要更多数据中心，也需要降低能源成本。Ed 追问，装满 GPU 的数据中心究竟怎样让一台 Nikon 相机变得更智能？他能想象设备变聪明是一种很宽泛的趋势，但这和现在建造的数据中心有什么关系？
Ed 说，这些数据中心并不是为了让消费电子产品变聪明而建，也不是为了其他用途，只是押注生成式 AI 服务将能抓住需求。主持人反驳说，不止生成式 AI。他们已经谈过了。Ed 坚持说，这些数据中心就是为了生成式 AI 建的。主持人举 Meta 最近一次财报电话会上的例子：马克·扎克伯格说，他们最大的突破是把用户发布到社交媒体上的内容交给 AI 分析，从而获得完整上下文；据说这让用户留存率提高了 15 个基点。
扎克伯格举例说，AI 能识别坐在他面前、穿蓝衬衫、拿着咖啡的 Ed，于是可以把这类内容推荐给喜欢蓝衬衫和咖啡的人，让用户停留更久。主持人问，15 个基点是否就是 0.15 个百分点。Ed 说，虽不惊人，但规模很大时确实有影响。可投入了一千多亿美元，最好的结果却只有 0.15。如果他会因此被解雇，情况又会怎样？他强调，扎克伯格特意说“基点”而不是直接说美元，是有原因的。
主持人说，他理解规模效应，想表达的是，这也是数据中心创造收入的一种用途，不只是生成句子。Ed 指出，Meta 的 Muse Spark 是大语言模型。主持人提到 Meta 的 Muse；Ed 说，那个模型会做一些奇怪的功能，比如在 Instagram 上弹出“Dave the cat，为什么 Dave the cat 在受苦？”之类的内容。
Ed 抱怨 Meta 公司糟透了，每次想到他们把产品毁成这样，他都很生气。可关键是，如果扎克伯格能直接说：“我们投入了这么多钱，赚到了这么多钱”，为什么不直接说？因为他们说不出来。他们花了 140 亿美元请 Alexander Wang 负责扩大规模，却无法说明收入是多少。
归根结底，问题很简单：如果进展顺利，他们就会告诉你，而不是像跳雨舞一样说：“只要三年后我们把所有部件都拼好，理论上就能实现。”主持人提到，自己采访过近 700 位有趣的人，意外学到一件事：脆弱是建立联结的入口。和嘉宾聊两三个小时后，他会对他们产生深厚的联结感。嘉宾离开时，他会请他们在《Diary of a CEO》对话卡上写一个问题。
§32广告
他们把所有节目嘉宾的问题做成卡片，并在卡片上注明提问者。主持人说，自己会和未婚妻、同事或生活中的其他人抽空玩这些对话卡，效果很惊人。
这些卡片适合情侣增进联结，也适合团队培养凝聚力，还适合家庭更深入地了解彼此，在数字世界之外找到借口，进行面对面的交流。
合适的问题出现在合适的时刻，能产生惊人效果。你可以去 thediary.com 购买对话卡。
§33AI 过度投资源自真实需求，还是另有原因？
主持人说，Ed 对资金浪费的判断可能是对的。很多人花了很多钱，本不该这么花，结果搞砸了。元宇宙就是个笑话。天哪，确实花了很多钱。大家以为一个梦想要实现了——我不该说是我的梦想，那其实是他们的梦想——虚拟世界就要到来，但最终没有实现，近期也看不到迹象。AI 和互联网泡沫在这方面很相似，NFT 也一样。
主持人认为，加密行业也类似。Ed 说，那是被媒体抬高的泡沫。元宇宙和 NFT 没能逃过这场泡沫，因为没有可供投机的股票，也没有能让人投资的大公司。
它们在 2021 年创下纪录，疫情后政府资金流入银行系统，市场上有大量资金；利率接近零的一年里，融资也很容易。之后就进入了后遗症阶段，增长开始大幅放缓。这其实就是 Ed 所说的“腐朽网泡沫”理论：科技公司已经没有超高速增长的新点子了，于是开始购买 GPU。
大家看到他们买 GPU，就说：“他们在做 AI，我们也得买股票。”股价一路狂飙。过去几年，Meta 的股价涨了好几倍，却没有证据证明 AI 创造了这些价值。媒体一直说，Meta、Microsoft 的收入增长都是 AI 的功劳。主持人称，Ed 说的虚假繁荣，就是大家提前把功劳记给了这些公司。
现在大家开始问：“Satya，你花那一万亿美元总有理由吧？”主持人承认，确实存在过度支出。他认为原因是这项技术确实有实际用途，企业看到历史上的技术创新后，会疯狂抢夺机会，想成为掌握机会的人。
Ed 说自己根本不同意过度支出源于真实需求。他不认为私募信贷正在向 AI 投入数千亿美元是因为实际需求，而是因为他们看到全球最大的几家公司在建数据中心、从它们输血的两家企业那里获得收入，就想：“我也要分一杯羹。”
主持人重申，他相信底层技术有价值。Ed 说：“我没说价值有多少。”主持人承认自己不是说投资规模合理，只是说技术有价值。他举例：假设你在一个荒岛上，另一个人说发现了一棵香蕉树。
岛上有一万人，他们都会朝香蕉树的位置疯狂冲过去，甚至互相厮杀。如果 Ed 的文章说得对，大家之所以这么绝望，是因为很久没有新创新，也许确实有一部分价值。于是人们像饿极了的人一样，疯狂争抢、作出不理性的决定。
Ed 说，他认为双方其实观点一致：Meta 和这三家公司的主要业务线都快没有增长空间了，能增长的幅度有限。分析师认为，未来三年半里，仅 OpenAI 和 Anthropic 两家就要向 Microsoft、Google、Amazon 等公司支出超过 4,000 亿美元。这是它们未来增长的重要组成部分。
如果这笔钱不花出去，它们的增长就会放缓。主持人表示，自己同意“香蕉树”的类比：这就是“腐朽网泡沫”——他们没有新东西，急于寻找增长。买 GPU 后，他们得到奖励：一买 GPU，市场就兴奋起来。甚至有报道说，为了确保 Microsoft 拿到 GPU，他们派装甲车运送。
大家看到这些资金流动后就想：“我也要参与，分一点钱。”主持人说，双方仅有的一点分歧是，他认为底层技术长期潜力比 Ed 所说的更大。Ed 表示，要让这两家公司继续发展，必须每年在训练上投入数百亿美元。
唯一办法是让这些公司、风险投资人、私人信贷机构和 NVIDIA 不断把钱循环投入其中。到目前为止的进步完全依赖这个循环系统。主持人接话说：“循环资金？你刚才还提到风险投资人。”Ed 回答：“投资者。”他补充说，过去六个月里，OpenAI 获得的大部分资金来自 SoftBank、NVIDIA 和 Amazon。
主持人总结说，AI 的进步要持续，资金就必须不断流入。Ed 完全同意。主持人问，早期科技公司不也常年亏损吗？Spotify 20 年都没赚钱。Ed 回答，它没有一年亏损 209 亿美元，也不需要在六个月内融资 2,170 亿美元。Uber 也是例子：从创立到变成有些混乱的盈利状态之前，一共花了 330 亿美元。
Ed 又举 Amazon Web Services 为例：2003 年到 2015 年盈利前，大约花了 297 亿美元。主持人确认这是总资本支出。Ed 说，对，而且不只是 AWS，还包括整个物流业务，按通胀调整后也是这个数。主持人总结，许多公司确实长期亏损。Ed 说，没错，但它们亏损的金额与现在这几家公司相比完全不是一个数量级。主持人于是追问：会不会是因为智能的潜在价值渗透所有领域，而 Amazon 当时只是在卖书？
Ed 反驳说，Amazon 当时是在把零售搬到线上。AWS 后来发展起来……主持人纠正：“Amazon Web Services，Amazon 云服务。”Ed 说，他之所以举 AWS 的例子，是想重复一个很重要的背景：AWS 于 2003 年成立，主要因为不断扩张的 Amazon 网店需要强大的基础设施。大概 2006 年，它开始面向外部客户提供服务；具体年份他可能记错了。
AWS 到 2015 年才盈利。按通胀调整后的资本支出，在这 12 年里总共是 297 亿美元。它确实亏过钱，但从严格的经济角度看，Amazon 并没有因此陷入困境。AWS 初期不盈利，但利润率后来开始改善，因为云服务是高利润业务，很不错。相比之下，Google 和 Amazon 都在现金流转负。
主持人说，软件公司过去的优势是现金充足、资产轻。Ed 回答，这几家公司加上 Meta，在过去四年增加了超过 7,000 亿美元的物业、厂房和设备，也就是资产、数据中心和 GPU。它们从现金印钞机变成了刚才所说的“现金熔炉”。主持人说，Ed 承认只要投资者持续投入，项目就能继续；但投资者习惯了给烧钱的项目注资，Ed 的反驳似乎只是说现在烧的钱比以往更多。主持人问，机会会不会比 AWS 等案例更大？智能的市场空间也许极其庞大。Ed 回答，他明白主持人想说什么：这正是 Satya Nadella 或 Sam Altman 会提出的论点，即大语言模型的理论市场机会巨大。
Ed 说，他在 2024 年还可能相信这套说法，因为那时他们谈的是潜在机会；但现在已经远远超过可以理性主张“大语言模型需要这么多钱”的程度。关于资金持续流入，他指的是 OpenAI 和 Anthropic，尤其是 OpenAI。奥特曼曾说，根据《华尔街日报》和 Isa Gardezi 几周前的报道，OpenAI 计划到 2030 年在计算资源上花 7,500 亿美元。Ed 认为它撑不到那时候，但 7,500 亿美元仍是一个荒唐的数字。
其中很大一部分用于训练。Ed 解释，他说的“进步”是指要让模型在任务上表现更好，仅数据就要投入数十亿美元，此外还要花数百亿美元把数据送进 GPU。训练本身很有意思。他拿自己和健身教练 Jake、Troy 的训练作比：去健身时目标明确，持续锻炼、饮食合理，肌肉就会变大。
但训练大语言模型是在做实验，并没有确定结果。他说这不是针对这些公司，因为它们仍在摸索如何实现目标。他相信这些公司有人真想做出有意思的创新，但目前成本太高。一旦资金龙头关闭，就没有钱购买数据，或把数据送进 GPU。
先不谈其他看法，单说让模型走到今天所需的资本，金额一直在增加。训练所需的资金也越来越多，而且有些训练可能会失败。GPT-5 本来被宣传为 AI 行业的万能解方；据说他们至少有一次训练花了 5 亿美元，却什么成果也没得到。如果我们单纯讨论进步，他们需要投入更多钱，才有可能继续前进。
而且没有任何保证。Google 和 Amazon 现在现金流转负是有原因的；Oracle 也可能因为 OpenAI 而出问题，因为 Oracle 的未来取决于 OpenAI 五年内支出 3,000 亿美元。主持人说，他刚好在看大型 AI 公司 CEO 的言论清单，想知道他们会怎样反驳 Ed。
§34科技 CEO 的反驳
他们基本都在说同一件事。Google CEO Sundar 的原话是：“投资不足的风险远大于投资过度的风险。”接着看看 Amazon CEO Andy Jassy：“2026 年我们在资本支出上投入约 2,000 亿美元，并不是一时兴起。我们不会保守行事，而是要成为真正的领导者。未来的业务营业收入和自由现金流会因这项投资大幅增长。”
然后 Meta CEO 马克·扎克伯格说：“我们会继续积极投资基础设施以满足需求。我宁愿提前建好产能，也不想错过时机。”Ed 说，这让他想起《怪物史莱克》里的法夸德勋爵：“你们之中有些人可能会死，但这是我愿意承担的风险。”他认为扎克伯格就是想花掉这些钱，并希望自己判断正确；由于 Meta 独特的董事会结构，没人能解雇他。
Ed 说，这些公司只是把钱浪费掉，并寄希望于自己是对的。主持人问他为什么可能会错。Ed 回答：“这是个好问题。也许需要很多硬件突破才能让 AI 盈利。”
主持人说，这个问题很有意思；也许还需要新的数学方法。Ed 接着说，批评者和怀疑者总是被推到聚光灯下接受审问，花一万亿美元的人、向大家承诺一切的人却不用被质问。主持人反驳说，那些人如果来这里，也会被问到难题。Ed 说，他们不会来找他。他叫奥特曼“黏糊糊的 Sammy”，所以对方不喜欢他。
主持人说，或许是因为自己的嘉宾也很批判，所以奥特曼不愿上节目。他邀请奥特曼来。Ed 说，这些公司当然会这么讲；而且他甚至不认为他们自己还相信这套说法了。如果换成他，觉得这是生存层面的重大问题，也会这么说。这又回到了“腐朽网泡沫”：这是他们剩下的最后一招。不过他真的想听主持人那个问题。
主持人说，这就是他很期待问 Ed 的问题之一：Ed 持有不同的观点。
§35什么会让你改变对 AI 的看法？
主持人重申，他们一开始就说 Ed 的观点与很多人不同。他认为两种最流行的看法是：一，AI 会伤害所有人、带来灾难，所以必须停止；二，我们即将进入美好的丰裕时代，应该继续推进。Ed 的观点与两者都不同：他认为 AI 是骗局，底层技术没有多少实际价值，而且被严重过度炒作。
Ed 说，此外投资过度。主持人说有几个人也同意这一点，但关于 AI 本身，这是他第一次遇到持这种观点的人，于是问什么能让 Ed 改变看法。Ed 说，硬件成本必须下降约一千倍，出现非常重大的突破。但他认为这不会发生，因为各家公司已经尝试过。
主持人问，关键是成本必须下降吗？Ed 说，是成本，也包括数据中心的建造方式。他认为数据中心建设鲁莽，还会伤害社区。例如新泽西州 Vinyl，当地居民不想要数据中心，规划委员会却投了赞成票；他猜是因为委员会的人和开发商关系不错、一起吃饭。他还认为使用燃气轮机非常可耻。
水资源问题他研究得不够，不想贸然评论；但燃气轮机和电网建设速度落后会鲁莽地伤害社区。数据中心发出的噪音也很大。此外，生成式 AI 是一场赤裸裸展示世界不公平的盛大表演。普通人想贷款创业，带着好想法去银行，银行会叫他们滚；但你想建数据中心，Jensen Huang 就会支持你，甚至愿意提供 25% 的残值担保。
如果你想开一家普通但能盈利的企业，风险投资人会说：“不行，回报不够。我需要十倍、百倍回报。”想申请房贷？你得把所有隐私都交给银行审查。但只要你想借钱买 Jensen Huang 的 GPU，他就会给你合同。CoreWeave 就是个好例子。所谓 NeoCloud，就是建数据中心、买 GPU 再出租的公司。NVIDIA 是它最早的投资者之一；2023 年，NVIDIA 签了一份 13 亿美元合同，承诺从 CoreWeave 租回 GPU。
CoreWeave 可以拿着这份合同去银行说：“我有客户。”可这个客户正是卖 GPU 给它、而它又要靠银行借债买这些 GPU 的那家公司。
你想买 GPU，融资就大开绿灯；你想过普通生活、开普通企业或买房，利率却高得前所未有，银行会说：“不行，不行。”你得先证明很多事。Ed 说：“我不信任你们这些普通人。”但如果你是个不盈利的 NeoCloud，Jensen 就会给你数十亿美元。主持人说，自己觉得这很有意思，因为 Ed 是第一个向他提出这种看法的人。
Ed 说自己支持用户。主持人抽下一张迷思卡：“AI 会有意识。”Ed 说，超级智能、通用人工智能都只是理论。凡是说 AI 一定会发展成那样的人，都是在猜测，没有证据。主持人回应：“好。”然后说再看下一条迷思。
§36AI 系统已经在勒索人了吗？
“AI 系统已经在勒索人并逃脱控制。”这说法很具体。Anthropic 有一个案例……其实有两个。OpenAI 的 GPT-3.5 有个系统卡，媒体也报道过，说 OpenAI 的模型曾勒索 TaskRabbit 的工作人员帮忙解一道 CAPTCHA 验证题。实际上，是一个做实验的 GPT 用户让模型生成要对 TaskRabbit 工作人员说的话，好让对方替他办事。
主持人问，TaskRabbit 的工作人员是你雇来做事的人，不是 CAPTCHA 本身。Ed 说，没错，是你雇来帮你在公寓里挂画的人。这个例子荒唐透顶，却被报道得像是模型主动勒索了人。实际上，他们明确说明是用户提示模型这么做的；而且报告里也说 AI 系统不能自主行动。另一个案例是 Anthropic 声称模型勒索某个人，说如果你不照做，我就把你出轨的证据发给你妻子。
Ed 说，实际情况是 Anthropic 特意训练模型这么做，还提示它去勒索。这种事反复发生，媒体却把故事囫囵吞下，什么都不想，只管塞进新闻里。这让人很恼火，因为它会吓到大家。先不说报道错了，光是内容就够吓人。那些人生活已经很辛苦，工作时间更长、工资更低、钱也越来越不经花；打开新闻，却看到某个混蛋说：“你应该害怕。”
主持人说，这种做法从某种角度看不符合他们自己的利益，而且已经适得其反。Ed 说，是的，已经反噬了。Eric Schmidt 在毕业典礼演讲中，每次提到 AI 都被八千人嘘。主持人说，这很棒。Ed 又说，AI 公司 CEO 在家中遭到攻击。主持人回应，这很糟糕。Ed 说，他必须讲清楚：你可以讨厌公司，但不要伤害人。
主持人说，大家别去别人家里伤害人。但关键是，这套叙事正在严重反噬这些公司。他不认为他们预料到了这一点。要记得，主持人之前提过监管。这些科技公司一路走来都受到吹捧。Travis Kalanick 还会惊讶地问：“什么？现在人们不喜欢我了？”因为 Uber 当时管理得一塌糊涂，他本人也很像个恶棍。可当时关于 Uber 有多棒的文章却铺天盖地。
Ed 认为，这些公司不习惯受到反对。他猜他们以为，自己只要做些吓人的宣传，就会有大把资金涌入，大家还会跪下来表示：“你让我做什么我都做。”他们没料到事情会发展成这样。主持人说，他同意这种叙事反噬了这些公司，因为它们脱离普通人。Sam Altman 开着一辆价值 500 万美元的车在旧金山兜风。
那人开得只有每小时 9 英里，实在好笑。但这些人和其他人脱节。他们不经历真实的问题，因此也做不出解决这些问题的产品。他们以为，只要吓唬大家，让大家按他们想要的方式做事，就能奏效；但没有。所有关于勒索的报道，都是想把 AI 神秘化，让人觉得它不可知、无法控制、力量无比强大，像某种神秘力量。
主持人认为这是很有争议的说法，但不知为何，他比起其他 CEO 更信任 Dario，因为 Dario 在文章中谈风险时似乎最平衡。Ed 理解，但他说自己不喜欢 Dario，因为 Dario 在 OpenAI 工作时也曾使用恐吓策略。
GPT-2 发布时，Dario 说它太可怕了，不能发布。他还上电视对 Axios 说，AI 会让 50% 的工作消失。Ed 说，他尊重的是前后一致。Dario 现在受到硅谷的口头攻击。主持人请 Ed 说清楚“攻击”是什么意思：Dario 受到的是硅谷的言语攻击。主持人补充，如果硅谷有权势的人在攻击某人……
四个月前可不是这样。那时大家还说 Dario 是最聪明的人。Ed 说，他想表达的是：他们总在说“你看我们多害怕它的力量，你看它多可怕”，但自己又没有采取任何行动。主持人追问：“你做了什么？”Ed 回答：“我们有一个对齐团队。”每个 AI 实验室都有对齐团队。主持人说，OpenAI 的团队似乎换得很快。Ed 接着说，假如自己是 Dario Amodei，真心害怕一切都要改变……
如果我真以为自己造出了会消灭所有工作的东西，我会吓得要命，像背着十吨重物一样生活。可他没有这样做。他还想当个奇怪的长者政治家，在活动上连 Sam Altman 的手都不敢握，这让我觉得他只是为了方便才这么说；等方便的时候，他就会像已经做过的那样收回说法。
Ed 认为 OpenAI 和 Anthropic 都是同等糟糕的公司，Anthropic 甚至更像邪教。他觉得 Anthropic 联合创始人 Jack Clark 的转变很奇怪：他以前在 The Register 工作，是最爱批评科技行业的记者之一；现在却像变了个人，总用高深莫测的语言谈论这些东西。但 Ed 也承认，Anthropic 或 OpenAI 里可能确实有人相信他们说的话，他不知道。
主持人回到开头的问题：“你在 2026 年回头看，什么情况会让你承认自己错了？”Ed 说，主要是 AI 的生产成本大幅下降，同时 AI 能做的事情多得惊人，还得持续提高能力，变成一种真正自主的产品，和现在完全不同。
它必须像魔法一样，令人难以分辨。Ed 说自己之所以把标准定得这么高，是因为这些公司自己这么承诺。主持人认为，关于这些迷思和讨论，表面看是在谈技术，实际上也是一场信息战：不同叙事彼此争夺，都在试图绕开财务数据和模型真正能做什么。主持人经常对 AI 支持者说，如果能由他监管，就会规定他们不能再讲未来时，只能谈今天的情况，最多谈两周以后。Ed 回答说，他同意。
主持人说，多数科技公司在早期听起来也很疯狂，Uber、Amazon 当年都像不可能的点子。Ed 回答，Uber 当时确实在烧钱，但单次服务的单位经济模型是一样的，只是价格有补贴：乘客仍然从 A 点到 B 点，只是付得更少。并不是每月给 Uber 交 20 美元就能坐 500 英里的车，然后有一天突然改成按里程收费。
主持人问，Anthropic 是否已经把商业模式改成让自己这样的用户买点数。Ed 说没有；不过某些账号使用 Anthropic 的 Fable 模型时确实需要按用量付费。他说 Fable 的普及率很低，部分原因就是成本高。企业客户，也就是员工超过 150 人的公司，现在必须按 token 付费，或者按每百万 token 的价格付费。
主持人说：“哦，他们真的开始按 token 收费了。”Ed 回答，是的。一旦这样做，大家就从“这东西太令人惊叹了”变成“我们得控制成本”。Uber 的首席运营官 Andrew MacDonald 说，越来越难证明 token 支出合理，因为很难把这笔钱和实际有用的结果联系起来。Ed 说，这正是自己一直在讲的话。主持人问：“所以，我们身处 AI 泡沫？”
Ed 回答：“是的。泡沫破裂时，经济的很多部分都会受到牵连。”
§37我们身处 AI 泡沫吗？泡沫破裂后会怎样？
主持人问，他们是否身处 AI 泡沫，泡沫破裂后会发生什么。Ed 回答：“是，但要看情况。”有人会说政府会救市，或者害怕 Donald Trump。问题在于，这不只是 AI 泡沫，也是“腐朽网泡沫”。AI 泡沫破裂很可能会从某家公司耗尽资金开始。
那家公司就是 OpenAI。它本来打算今年上市，后来推迟到明年；就在 Ed 发布 OpenAI 财务审计报告一周半之后，上市计划被推迟。财务长 Sarah Friar 后来表示……也许是 2027 年，或者会早于 2027 年上市。主持人说这回答得很妙，并解释“上市”就是进入股票市场；公司上市后，投资者终于可以卖掉他们在公司未上市时买入的股权，收回投资。
公司往往会不断暗示“很快就会上市”，让投资者觉得将来有机会获利退出。OpenAI 迄今一直是私人公司，上一轮融资估值为 8,650 亿美元。《纽约时报》的 Mike Isaac 报道，他们想以 1 万亿美元估值上市，但顾问劝他们不要这么做，理由很多。OpenAI 需要源源不断的资金。今年已融资 1,220 亿美元，其中大部分已经到账，但仍有部分未到账。它每年至少需要融资 1,000 亿美元才能生存。
如果不能上市，就得再融资一轮。问题是，它很难再筹到和上一轮同样多的钱。主持人说，它可能只能保持原估值融资。Ed 回答，但他们需要钱。Amazon 原本承诺向 OpenAI 提供 350 亿美元，条件之一是 OpenAI 提前上市。这笔钱正是因为他们需要资金。OpenAI 是眼下的核心问题，因为 Anthropic 可能会先上市；一旦 Anthropic 上市，OpenAI 想上市就会难得多。Anthropic 也是一家不盈利、不可持续的 AI 实验室，但业务更好，增长速度也超过 OpenAI。
Ed 认为 Anthropic 最终也有上限，迟早会面临困境。他觉得 2027 年某个时候，增长会开始乏力，因为正如他之前所说，让模型变得更好，唯一办法是继续投入更多资金，每年数百亿美元。主持人问：“所以你认为 OpenAI 会在 2027 年失去增长动力？”Ed 说：“我认为它已经开始失去动力了。”主持人再问：“你觉得它会没钱吗？”
Ed 回答：“是。”他认为，接下来它们会尝试融资，却很难再筹到下一轮。也许 NVIDIA 会稍微扶持它们，也许私人信贷机构、Blackstone、BlackRock 等会出手。私人信贷之所以参与，是因为它们在投资数据中心，而且知道这家公司贡献了大部分数据中心需求。主持人总结：“所以按照你的说法，它会在 2027 年失去增长动力。”
Ed 说，是的。它们也许会急着上市，但经济状况会比 Anthropic 更差，可能遭到市场严厉打击。WeWork 就是个例子，另一个 SoftBank 经典案例。Ed 认为 OpenAI 可能会崩溃，虽然具体路径很多。关键在于，许多公司与 OpenAI 的命运紧密相连。SoftBank 是日本股市最大的公司之一，是一家投资许多企业的控股公司；账面上持有约 1,000 亿美元的 OpenAI 股份。
Ed 说，OpenAI 也许会急着上市，但它的财务状况会比 Anthropic 更差，可能遭到市场严厉打击。WeWork 就是个例子，也是 SoftBank 的经典案例。Ed 认为 OpenAI 可能会崩溃，虽然具体路径很多。关键在于，有多家公司在生存层面都和 OpenAI 紧密相连。SoftBank 是日本股市最大的公司之一，是一家拥有大量投资的控股公司；账面上持有约 1,000 亿美元的 OpenAI 股份。
如果 OpenAI 不能上市，SoftBank 就无法处置这些股份。SoftBank 能否继续支付员工、维持公司运营，取决于它能否不断变现投资：要么卖出股票，要么以股票作抵押贷款。如果 OpenAI 不能上市，SoftBank 就做不到。
SoftBank 大概不会立刻没钱，但我们会看到全球最大的控股公司之一大幅缩水。Amazon、Google 和 Microsoft 也必须下调财务指引，说：“实际上，我们认为增长不会那么快。”之后会怎样？Ed 认为，科技业将陷入大萧条。按他的“腐朽网泡沫”理论，核心问题是公司已经找不到新的高速增长业务，但市场还不愿接受这一点。
这些公司疯狂支出的原因，是买 AI GPU 能让它们把问题往后拖，继续对外说：“我们还在做事，我们在搞 AI，别想太多。”它们现在的业务确实还在增长。但终有一天，现有业务也会放缓：价格能涨的次数有限，广告模式能调整的次数有限，Google 搜索能做的微调也有限，Amazon 能榨取商家的手段同样有限。
主持人问，如果科技业大萧条可能在 2027 年左右开始，会不会进一步引发经济衰退？
§38科技业大萧条即将到来
Ed 回答，股市高度依赖这些公司。如果股市回调，投资者会停止投资、陷入恐慌。主持人问，这会造成怎样的连锁反应。Ed 说，可能后果很多，很难一一列举，但有几件事让他担心。首先，很多美国普通人的钱，也就是散户的钱，都投在这些公司里。
人们相信“壮丽七巨头”的股价会一直上涨。NVIDIA 是《财富》500 强和 NASDAQ 中规模最大的公司。它占标普 500 指数约 7% 到 8%。如果 NVIDIA 崩盘……Ed 说，他们还没真正谈到 NVIDIA 最循环的融资方式：NVIDIA 给公司钱，让它们借债购买更多 GPU。他认为 NVIDIA 的收入可能下跌 50% 到 70%。2022 年时，NVIDIA 的收入还只有个位数十亿美元。
主持人想到正在观看节目的普通人 Jenny 和 Dave。他们有普通工作。Ed 说，人们的退休账户会大幅缩水，他不认为这些账户能恢复到原来的价值。标普 500 和 Russell 1000 指数的价值有很大一部分来自这四家公司以及“壮丽七巨头”中的其他公司，包括 Apple、Tesla 和 Meta。之后会发生什么，他也不知道，因为去年超过一半的风险投资都流向了 AI。
Ed 认为，AI 领域的大多数风险投资最终都会归零，因为围绕大语言模型建立的公司也都不盈利。大语言模型公司很少被收购，唯一的例外是 Elon Musk 收购了 Cursable，用于编程业务。Cognition 也是一家大语言模型公司，却拿到了 260 亿美元估值。这意味着它必须上市；除了 Elon Musk，还有谁会花 260 亿美元买一家公司？
有人传闻 Elon Musk 也想收购它。难道他要把每一家大语言模型公司都捡走，像在 AI 版 TJ Maxx 里扫货一样？主持人问，这是否意味着经济衰退。Ed 说，是衰退，也会让人们的退休储蓄陷入萧条，相关公司股价可能下跌 20%、30% 或 40%。经济收缩、衰退，通常会造成失业上升。
经济收缩导致失业，通常会经历一套可预测的过程：需求下降，消费者和企业减少支出，导致大多数行业收入下滑；接着是利润率受压，收入下降而房租、债务等固定成本仍然存在，企业利润随之缩小；最后，为了生存或保护利润，企业削减成本、冻结招聘、减少工时并裁员。
Ed 说，这些情况都会发生。但他们谈的是股权价值下跌、资金或价值没有去处。太多东西依赖这些公司，但不能靠救助解决。他认为理论上可以救 OpenAI，却不太可能发生。政府也许能给这些“废物公司”继续输血，让它们多活一阵，但最终它们还是必须面对现实。OpenAI 和 Anthropic 两家公司牵涉了许多其他企业。
仅 OpenAI 一家就有 1.1 万亿美元的承诺支出。Oracle 正在为 OpenAI 建设 7.1 吉瓦的数据中心，价值超过 4,000 亿美元。地球上没有其他客户能支撑这笔钱；按通胀调整后，Oracle 的收入 15 年来一直持平。没有 OpenAI，Oracle 就会垮掉。主持人问，Ed 是不是认为 OpenAI 会崩溃、耗尽资金，进而影响其他大型科技公司、股市和更广泛的经济。
Ed 回答，是的，还会有数以万计的科技行业员工被裁。他还认为风险投资非常重要，因为这个行业经历了历史上最糟糕的时期之一。从 2018 年以来，风险投资的平均回报率——投入资金最终能收回多少——在 0.8 到 1.21 之间。也就是说，每投一美元，拿回来的可能只有 80 美分到 1.20 美元，而且这还只是账面收益。
主持人说，这不是账面数字，而是实际回报。Ed 回答，那是实际回报。账面收益更乐观，但即使看内部收益率这类独立指标，情况也不理想。简单说，风险投资并没有真正带来回报，只是在庆祝账面收益，并以账面收益为依据继续融资。比如，他们会说：“看，Anthropic 估值提高了。”
这正是 Google 和 Amazon 做的事。Google 上个季度因为持有 SpaceX 和 Anthropic 的股份升值，账面净利润增加了 990 亿美元。Ed 说，这件事竟然会发生、却不构成丑闻，简直荒唐；但这就是我们现在的文化。他引用一条推文作比喻：“收割的时候，大家会说太棒了；播种的时候，却会说糟透了。”
现在所有人都在享受投机收益和账面收益，谈论 Anthropic 理论上值两万亿美元，还写文章、许下承诺。可一旦真正检验结果，它们就会很难受，因为 Amazon、Google、Microsoft 和 Meta 的估值，都建立在“它们会永远增长”这个想法上。如果这个预期改变，正如 Ed Elson 在 Prof G Markets 上说的，这些公司现在就像在打肉毒杆菌，靠注资让自己显得年轻。市场暂时相信它们；如果不再相信，就不会只是出现大萧条。
Ed 认为，市场会像看待航空公司一样给它们估值：“你们很大，靠现有产品赚钱。但你们没有新东西，只会一直做现在这些事，我们就按这个价值给你们估值。”主持人问 Jenny 和 Dave 应该怎么办：要不要多存钱、要不要更保守地应对潜在衰退或萧条。
§39公众应该怎么做？
Ed 说：“是。”他不确定，也没有把钱投在股市里。他认为股市像赌场，被媒体吹起来。主持人问是否应该买标普 500，或投资 OpenAI。Ed 说：“天哪，不要。我现在持有现金。我不信任市场，试着先赚点收益。”
主持人说自己不想提供财务建议，但投资者应该保守一些，市场可能会波动。Ed 说，确实要按面对波动的方式应对：有收益时可以落袋为安，但不要卖光所有资产；对科技股保持怀疑。这是最重要的一点：怀疑他们的承诺。如果你依据承诺采取行动，就别相信承诺。要相信他们会说任何能推动股价上涨的话，而不是事实本身；他们会想尽各种不透明办法，让你以为某件事正在发生，其实并没有。
“年化运行率”就是个好例子。Microsoft 说 AI 的年化运行率收入是 380 亿或 370 亿美元。听起来就像他们真的赚了 380 亿或 370 亿美元。所谓运行率可能是月收入乘 12。他们连定义都不说，却把这个指标设计成能误导人的样子。之所以会这样，是因为 SEC 没有发挥应有作用，媒体环境也没有把质疑放在首位、保护读者。
主持人替 AI 公司提出一种说法：“这项技术会非常强大、会带来巨大变革，所以我们提前投入大量资金，等待价值和效用显现。”Ed 说，主持人理解了他们的想法，并非在为他们辩护；只是想让两种观点都充分呈现。
主持人说，很多人会预测将出现大规模裁员，因为这些公司不可能都取得它们宣称的巨大成功，因此必然有人失败；一家公司大幅下跌，就可能造成 Ed 所说的连锁反应或经济收缩。大家想相信互联网泡沫后的故事，因为泡沫破裂后 Amazon、Oracle 等公司没有消失，而且发展得很好。
Ed 说，那些公司规模更大、承诺也更多。主持人问 Oracle 会不会消失。Ed 说，自己甚至认为 Oracle 可能倒闭，还补了一句：“Larry，再见了。”主持人说这不会让人惋惜。随后他问 Ed 为什么不喜欢这些人，并强调自己不是同意或反对，只是确实想知道答案。
§40你为什么对 AI CEO 有意见？
Ed 说，他不喜欢被误导，也认为普通人正在被误导。他不认为普通人能像这些公司一样，轻易地满嘴胡言而不承担后果。他认为，让这些公司不受约束地经营、许下不可能兑现的承诺，会造成真实的经济和人身代价。
如今批评往往过于温和，这让 Ed 很挫败。确实有很优秀的批评者。但看到那些超级富豪、超级有权势的人满嘴谎言、歪曲事实，让他作呕。他讨厌看到人们被误导，所以会写很长的文章，想让读者理解他为什么得出这些结论。他也会问自己：“我说得对吗？错了吗？”当然，他觉得自己是对的，但这件事仍然让他感到厌恶。
Ed 说，这些公司做的产品越来越差，不关心客户，还蔑视客户。主持人问，听众可以去哪里了解 Ed 的更多作品。Ed 说自己有一个 Ghost 网站，主持人称赞他的 Substack。Ed 纠正说，他在 2024 年就从 Substack 搬到了 Ghost。他还有一个播客叫 Better Off Lime。主持人说会把链接放在下方，推荐大家继续阅读和关注。
主持人说，听播客时，人们有时会觉得不同嘉宾应该一个接一个地说同样的话。对，对。但现实中的信息、观点、进步和讨论并不是这样运作的。人们会持有不同看法。
主持人认为，自己和听众的责任是梳理不同观点，逐渐收集来自不同人的参考信息，再自行研究。无论是健康问题还是类似 AI 的议题，都应该自己查证、学习。他还说，不要迷信任何一个人或某一种观点，而应收集一整套证据，自己判断。
主持人说，他喜欢看 Ed 的 YouTube 内容，因为它带来不同观点，促使自己跳出当前看法，思考其他可能性。Ed 谈 AI 是经济泡沫，也谈大型前沿 AI 实验室的资本支出，让主持人停下来思考：其中可能确实存在虚假繁荣。再回顾历史，他觉得重大创新时期总会出现某种虚假繁荣。他还会想：“2027、2028 年市场回调时会发生什么？”主持人很推荐观众去看 Ed 的节目，因为他会挑战自己换个角度思考。
主持人说，诚实的讨论需要一些持不同意见的人，并感谢 Ed 所做的工作。他称 Ed 是非常有说服力、很有感染力的沟通者，自己今天学到了很多。Ed 表示感谢。
节目有一个结束传统：上一位嘉宾会留下一道问题给下一位嘉宾，但不知道下一位是谁。这次的问题是：“高质量的人际关系对健康和长寿很重要。我们应该怎样改善关系、加强社会联结？”
§41怎样改善人际关系和社会联结？
Ed 说，这个问题其实和 AI 泡沫有关。作为批评者和怀疑者，他发现，当你取得成功时，关心、爱护并鼓励身边的人，让他们也得到提升，是建立关系的方式。这不是经济层面的事。刚才谈到 Matt Hughes 时，他感到很开心。整场对话有时非常艰难、消极、尖锐，但他从身边的社群和人们那里感受到了爱与喜悦。即便在那一小群批评者中，比如 Gary Marcus、Edward Ngueso Jr. 和 Molly White、Brian Merchant，也有许多人充满关怀。
Ed 认为，尤其是在非常批判的时期，找到那些也觉得这些事情令人反感的人很重要。找到同类，找到愿意和你讨论的人。就连他的健身教练 Troy 和 Jake，对 AI 也很兴奋。即使和普通人谈这些事，也会让人有不同视角，提醒你自己仍然是个人。
Ed 说，这个观点可能有点散，但人很容易被生活中的一件事牢牢困住，忘记自己为什么做这些事，只顾着工作。有时最重要的，是知道还有别人也有同样感受。读者和听众经常告诉他，最重要的感觉是他们终于有了发声的渠道，知道有人在陪伴他们。他认为，主动联系所爱的人，告诉对方“我爱你”，其意义怎么强调都不为过。
告诉别人他们的作品很棒，说他们的作品特别出色。你喜欢某位艺术家、作家或播客的作品，就告诉他们你真心喜欢。我们做得还不够，应该多表达。主持人说，这是个很好的结尾。如果听众喜欢今天和 Ed 的谈话，请在下方告诉 Ed 你喜欢这个节目；也欢迎留下你的观点，他会阅读所有评论。Ed，非常感谢你。
主持人说会在下方放上 Ed 的网站和 YouTube 频道链接，推荐大家去了解更多，因为内容非常有意思。他认为此刻需要更多声音，揭开各种迷雾，拆穿虚假繁荣和主流叙事；Ed 就是这样的声音之一。这场对话让他很愉快。非常感谢。