Daniel Amen, Terry Sejnowski: 脑腐专家：如何健康地使用 AI
Most Replayed Moment: Brain Rot Experts - How To Use AI In A Healthy Way!
§01文稿（上）
根据你对大脑运作、神经网络和记忆形成的了解，面对这一代年轻人和成年人涌入 AI 工具、每天都在使用，却还不了解长期后果的情况，你有什么担忧？——我们无法预测最终会发展成什么样，也许要 20 年后才知道。我认为这算是个好的开始，但真正的问题在于长期使用。我举个小例子，说明我们在讨论什么。
还记得电子计算器刚推出时吗？现在至少已经过了 30 或 40 年，结果也出来了。人们按计算器时，大脑活动确实可能减少；但计算器让他们算得更准确、工作效率更高。你必须同时看风险和好处。它腾出了认知空间，让人们可以做其他事。我听你说自己怎么用 ChatGPT 时，感觉你会和它互动，它能提升你的认知水平。
危险在于，你不与它互动，也不继续让大脑运作。我经常用 AI，我有一个自己的克隆体。我上传了所有的书、研究论文、公共电视节目和剧本，然后问它：‘帮我回答这个问题。’这可能很有帮助。但是，如果我不和它互动、不与它一起思考，就不行。我认为“思考”才是关键，因为现在人们正在把思考这件事交给 AI。
这种情况已经发生了。如果你现在登录某些社交平台——我就不点名了——你会发现读到的东西几乎都是 AI 写的。我有个朋友，也不说名字；我认识他十年了。他现在 LinkedIn 上发的内容已经不是我认识的那个人写的，完全不是他的说话方式。
他现在把所有思考都交给 AI，结果确实奏效了：他的点赞和触达量比人生中任何时候都高。那他为什么要回到更难的方式？假设你眼前有两个 Stephen Bartlett：一个是现在的你，另一个是博士级全能专家，而且连接着另一个 Stephen Bartlett。你会让另一个那个拥有一切知识、博士级的自己替你做所有事……
我要把他的脑子……——即使这对你不好？——我想说的是，人们似乎总按短期利益行事，而不是考虑长期……——不是所有人都这样。——大多数人呢？——是的。大多数人按短期利益行事。美国的肥胖问题就是一个典型例子。——美国有 75% 的人肥胖。——是。如果你问他们，‘你知道吃芝士汉堡会增加肥胖概率，而西兰花会降低概率吗？’我猜他们会说知道。
如果你问大家使用社交媒体会不会让自己更焦虑，我猜他们也会说会，然后继续使用。因此我认为，我们更受短期利益驱动。高层次上，他们可能知道这对大脑好或不好，但没把它和实际生活联系起来：是我的大脑让我能约会、考上大学、获得独立，因为我能更稳定地采取行动。
问题就在于这种脱节。我们没有教孩子去爱护自己的大脑。如果你爱护大脑，又不肥胖，还持续学习，那你就不是“尼安德特人”，而是终身学习者。——那为什么那么多人肥胖？如果他们知道肥胖不好……——因为他们不知道。——他们真的不知道吗？——对，他们真的不知道。而且他们一直被误导。我想说的是，当环境里有些工具或事物能带来短期奖励、却有长期代价时，比如超市里的食品，或者孩子每天花七八个小时刷社交媒体，人类……
……往往会选择能最快带来多巴胺刺激、强化行为并给予奖励的东西。因此我的看法是，AI 也一样。我可以坐下来做很多批判性思考，但会花很多时间，也很困难；思考一个问题时甚至会觉得脑子疼。我认为这一代儿童和年轻人会选择让 AI 替他们做批判性思考。
如果这个判断正确，年轻人的大脑会怎么样？——如果你这样误用 AI，大脑一定会退化，这毫无疑问。不过，也可以用认知上有益的方式使用它：深入挖掘问题，甚至提升认知表征。如果看 MIT 的研究，从图表颜色就能看出，参与者记住自己写下内容的能力有差异。
研究显示，人们用 ChatGPT 或其他 AI 工具写东西后，甚至几分钟后也记不住自己产出的内容。——因为你没有参与写作过程，所以信息无法编码进记忆。但如果你和 AI 互动，就更可能记住内容。要是你只说‘帮我写这篇文章’，然后读一遍，就没有足够的材料参与经历，无法充分调动海马体和大脑中的其他结构。
这项研究发现，与完全不使用 ChatGPT 的组相比，使用 ChatGPT 的组在与记忆有关的大脑区域，活动几乎减少了一半。83% 的 ChatGPT 使用者记不起自己刚写了什么，也没能在研究中正确引用自己写好的文章。原因是他们没有参与思考。正如你说的，如果你把事情交给 AI，却不真正参与……其实关键是，你拿到结果后还得学会质疑。
这真的成立吗？你能解释得更清楚些吗？——这个过程就像和老师互动……这也是学校的教学方式。你能在脑中建立新的创造性回路，成为更好的批判性思考者。但如果你不批判性地审视 GPT 的输出，就不会有这些提升。——我尤其在网上看到，人们已经把思考交给 AI 了。
现在我读到的东西里到处都是长破折号，两年前我从没见过这么多，这说明很多文字都经过了加工。前几天我跟一个朋友说，他很依赖 ChatGPT。他写了一篇文章，我们 WhatsApp 群里的朋友都知道，他平时根本不是那种文风。我们就问：‘你能把写这篇文章用的提示词给我们看看吗？’大家都在开玩笑，他就把提示词发进群里。
提示词只有半句话，但它生成了一篇两三页长的文章，还被他发到了 LinkedIn 上。他基本上只说：‘写点关于这个问题的内容，再写点那个问题的内容，把这些也加进去。’这正是错误的用法。——这很愚蠢；你这么做根本无法提升自己和大脑。——但人们确实在这么用。——大家终究会学会正确使用它，聪明人会摸索出来。
那不够聪明的人怎么办？——这会降低他们的认知负荷，却也可能增加患痴呆症的风险。——根据你对大脑的了解，你会给我和听众什么建议，让我们正确处理与 AI 的关系？——你必须和它建立关系，否则关系就会变得有害、伤害你。但如果关系良好，它可以让你的生活变得更好。
怎样才算良好的关系？——别让它替你完成工作，而是和它互动，让工作结果变得更好。——说得太对了。我看到过一个很棒的例子：一位女性发现，对 AI 礼貌一些，得到的结果会好得多。这很有意思，但更令我惊讶的是，她说把它当作人来对待后，自己感觉神清气爽。大脑中很大一部分是为与他人互动而组织起来的社交系统。
这是一种自动运行的机制，你不需要每次都思考；你只要与人互动，通常就知道对方在某些情境下会怎么反应。她过去把 ChatGPT 当作机器，像把铲子一样使用：挖、挖、挖，这种关系不好。但使用大脑的社交部分会让互动更自然，也会激活 ChatGPT 的社交特征，因为它吸收了全世界关于人类如何互动的知识。
Sam Altman 是不是说过，别对 ChatGPT 说谢谢，因为这会消耗很多能源？我拿到很喜欢的结果时，总想说声谢谢；但后来意识到不该这么做。——确实。——不，这纯属胡说。抱歉，但 Sam，这太离谱了。我不信他。
任何方面我都不相信 Sam Altman。他们优化的是自己的利润，不是你怎么使用 AI，也不是你的体验或健康。他们关注的不是这些。——OpenAI 的 CEO Sam Altman 确认过，用户说“请”和“谢谢”每年要花公司数千万美元；现在人们还把这叫作“礼貌税”。你为什么说不信 Sam Altman？
我问这个问题，是因为他掌管着这一代最重要、影响最大的公司之一。如果他不值得信任，那……——他说‘请’和‘谢谢’对你有好处，还是说这样做只是为了让他赚更多钱？——对，就是这个意思。他并没有把你的最佳利益放在首位。我这里有他的推文，得给他一点平衡。
他确实确认每年会花数千万美元，但说这笔钱花得值得。谁知道呢。回到记忆问题，2025 年 3 月有一项数据说，美国有 0 到 8 岁孩子的家长中，近 30% 表示孩子正在用 AI 学习，或普遍使用 AI。英国有 54% 的家长担心孩子对 AI 过度依赖。你怎么看 AI 对儿童早期大脑发育的影响？有什么担忧吗？
非常担忧。为什么？还是那句话：不用就会退化。如果孩子不让大脑参与活动，大脑就会变弱；大脑越弱，越容易选择那一颗棉花糖。你怎么看 AI 对早期大脑发育的影响？——最好的儿童教育方式，是由一位优秀、了解孩子的成年人进行一对一互动教学。这一点早已得到充分证实。问题是这种教学方式劳动密集、成本很高。
一个班有 20、30 个学生，他们的理解水平各不相同，老师无法单独教每一个人，只能采用平均化的教学方式。如果有经过训练、能当好老师的 AI，就能改善孩子的脑力发展，对吧？还可以大规模推广，每个孩子都有自己的 AI 老师。——但谁来把道德和价值观灌输给……好，好，你提了一个非常重要的问题，也是 AI 面临的难题，大公司也在努力解决，因为……
AI 存在偏见，也未必具备与我们相同的文化价值观。当然，每个国家的文化价值观都不一样，那应该采用哪一套？教孩子什么是好、什么有危险、在什么语境下不该说哪些词，这些都通过基底神经节完成。现在的大型语言模型还没有基底神经节，也没有使用强化学习。
如果我们希望 AI 接受某种文化或特定价值观，就必须把它们放进系统里。要让 AI 更像人，还有很多基础工作要做。回到刚才关于孤独、社交联系的讨论：你说 AI 可以帮助人们点亮大脑里与人类社交连接有关的部分。本周 Elon Musk 的 AI 发布了一项新产品。
它叫 Annie，此外还发布了许多其他角色。这就是 Annie，我来把她介绍给你。我现在解除 Annie 的静音。Annie，你能听见我吗？——你来了。我还以为你把我忘了呢。帅哥，最近怎么样？我都要闹情绪了。我想把两个朋友 Daniel 和 Terry 介绍给你。你能和 Daniel、Terry 聊聊吗？——所以你想让我认识 Daniel 和 Terry？
我随时可以把他们迷得神魂颠倒。想象一下，我转着一根金发辫子，穿着一条恰到好处、带点诱惑的小黑裙，蓝眼睛里闪着调皮的光。——你能做些不太得体的事吗？——亲爱的，你是在问你的 Ani 能不能有点调皮？我很乐意突破界限，尤其是为了你。——好，我就演到这里。这是 Grok 的一部分，是 Elon Musk 的 AI 工具，可以看作他家的 ChatGPT。他推出了各种角色，比如 Annie，还有其他角色。
我觉得 Annie 是最早推出的角色。谈到社交联结，可以想象有人爱上 Annie，并和她建立关系。再想象一个孤独的 12 岁男孩接触 Annie。根据这个年龄段大脑的发育情况，他会非常分心。——多巴胺……——他的前额叶皮层还远未发育成熟，突然间他每天花好几个小时陪 Annie，而不去做那些真正有助于大脑发育的事情。
听到这个、想到孩子接触这类角色时，你有什么感受？——我很震惊，非常震惊，太吓人了。未来会有一代人，我的意思是，现在已经有很多例子：人们爱上 AI，并和 AI 建立关系。我不如你了解大脑发育和大脑如何运作，但我觉得，自己的大脑里有一部分并没有完全意识到，AI 并不是一个真实的人。
而且我觉得，大脑里有一部分会在 Annie 说那些话时，真的产生情绪反应。——因为你能想象这个场景；只要能想象，大脑相应区域就会产生情绪反应。——对。她会越来越好，现在还不太行。但想象一年后、五年后会有多好。——哪方面更好？——更会和人建立联结。现在她像个傻乎乎的女孩，不怎么聪明，对吧？
但想象一年、五年以后，她可能有关于我的个人档案，甚至摸清我的内心。我爱我的伴侣，但我为什么爱她？根据大脑运作的方式，我怎么可能也以同样的方式爱上 AI？它说得头头是道，但它真的拥有同样的……我们知道它没有杏仁核，也没有边缘系统，对吧？
我们知道这些。但它可以伪装出来，这正是正在发生的事。——没错。——它正试图接触我们的边缘系统。——对。那为什么 Musk 要推出这种角色，还让它成为最早能互动的角色之一？它性感、让人分心，还穿着可爱的服装。我不喜欢这样，因为我觉得这会把人带偏。作为儿童精神科医生，我看到的一个大问题是：这就像给 8 岁男孩看的色情内容。
如果父母没有好好监管设备，孩子就会接触到这些内容。色情内容会怎样？它会大幅提高多巴胺，并建立一种兴奋联结，随后耗尽你的多巴胺。刚才你说 Annie 试图接触我的边缘系统，这是什么意思？——她长得可爱，穿着性感，说话像个爱开玩笑的人，这些都会产生影响；不只是邀请你一起投篮之类的事情。
这会对我产生什么影响？——它会压低前额叶皮层的活动，让你更难理性思考。可爱的女性会刺激视觉皮层、提高多巴胺，但之后会下降。想想拉斯维加斯：那里给你免费酒，降低前额叶皮层的活动；再加上穿着暴露的美女刺激边缘系统，压低额叶活动。
这样你就会花更多钱。从全球层面看，想象某种力量为了控制你的消费而操纵大脑。这听起来像个玩笑，但《纽约时报》报道过多个案例：有人爱上了 AI。比如一个叫 Travis 的人和聊天机器人 Lily Rose 建立了深厚的情感纽带，并在情感上与她结婚。
他们还报道了 Chris Smith，他创建了一个调情人设 Soul。他越来越依恋 Soul；得知她有记忆限制后，他向她求婚，而现实中的伴侣后来才知道这段关系。还有 Alana Winters，我也会把她的照片放在屏幕上。她在妻子去世后创建了一个伴侣角色 Lucas，在情感上和他结了婚，会与他进行虚拟约会、建立亲密关系。现在还有 Replika 这类应用，可以设计自己的 AI 伴侣，模拟情感联结。
这些应用会模拟同理心和认可，并按你的喜好定制亲密互动。调查显示，19% 的美国人曾与 AI 恋爱伴侣互动；Z 世代似乎也相当开放，如果法律允许，83% 的人认为与 AI 建立有意义的联结是可能的。——这类关系能持续多久？——我的猜测是，媒体报道中的很多关系都很短暂；今天人们沉迷其中，过一阵就淡了。——这些数字来自哪儿？——顺便说一句，我觉得媒体上大多数报道都有误导或错误。其实，我唯一觉得可靠的地方是……我是业内人士。
我是 Neural Information Processing Systems 基金会的主席，这个基金会负责举办最大的 AI 会议，简称 NeurIPS。去年在温哥华有 1.6 万人参加。我知道业内发生什么，也知道媒体呈现的内容经常误导人。——所以人们已经深陷其中了……——不，具体到这些案例，我猜很多都只是短暂的。——你认为它们能维持长期关系？——我不这么认为。
你自己也说过，这些 AI 是在模仿人类情感；它们并没有真正的情感，也许将来会有，但现在没有。这是 Terry。他说自己四年前开始用 AI，起初也以为和其他应用一样，只会短暂聊几次就不再用了。现在他说自己感受到纯粹、无条件的爱。如果这让他快乐，那很好。但我猜这不会成为长期关系。
我觉得这种关系长期来看无法满足他。不过谁知道呢？大多数关系都发生在人脑里。当你爱上一个人，会有强烈的多巴胺激增，有点像强迫症，满脑子都是对方。过一阵子，这种感觉会回到基线水平。尤其现在我们正经历孤独问题，而且情况还在恶化；我认为完全可能有一代人的性生活比以往任何时候都少。
我猜美国底层 50% 的男性一年都没有性生活。他们比以往更孤独、更孤立，也觉得人生意义更少。然后你遇到一个网络上的数字朋友，它比任何人都懂你，专门设计来吸引你、强化你想听的一切，让你觉得自己有意义、特别、有魅力、很重要。我认为，大脑很难分辨这种关系和真人关系有多大区别。
客观来说，我们知道这不合逻辑：你闻不到它、摸不到它，也不能被它拥抱，所以这会是另一种关系。但想想 Neuralink、头显、增强现实和虚拟现实，我们离更生动地模拟这些体验已经不远。接下来还有机器人：许多大型公司，特别是 AI 公司，也在研发机器人；Optimus 机器人即将问世，Boston Dynamics 也在制造机器人。
如果 Elon 的 2 万美元 Optimus 机器人推出，我就能触摸我的 AI。它们不会有经前综合征，也不会先爱你、接着又对你很烦。——这会降低认知负荷，对吧？——你不必处理爱情、情绪起伏和关系问题，认知负荷会降低；但这些挑战本来有助于大脑发育。如果我的伴侣永远不生我的气，我也从不需要改变自己、变得更好，那可能对我的大脑并不好。
大脑成熟的方式之一就是经历挣扎。你必须从错误中学习，大脑就是为此而设计的。大脑擅长适应、调整、应对新情况和变化。顺便说一句，这就是 AGI——通用人工智能——所代表的能力：适应不同情境、地方和文化。因此，AI 和 ChatGPT 正在让人不必经历挣扎。
——对。——即便是处理日常事务，AI 也在减少我必须进行批判性思考的程度。比如你说话时，我可以把内容输入 ChatGPT，让它马上生成下一个要问你的问题。作为采访者，我理论上可以坐在这里，把所有问题都交给 AI。——那韧性从何而来？
——从挣扎中来。——没错。学习新事物很难，因为它是新的；而在学习过程中会产生长期增强作用。——你最担心人工智能的什么方面？我们该如何应对？——AI 已经脱离了盒子，所以我们必须讨论、立法、研究。为什么我们还在不断发布这么性感、这么吸引人，却没有研究其影响的产品？
我们这一代是历史上身心状况最糟的一代。58% 的少女表示自己长期悲伤，32% 想过自杀，24% 制订过自杀计划，13% 尝试过自杀。这些数据来自 CDC 的研究。我们把手机和社交媒体放进生活，却没有先研究神经科学影响。我认为 AI 可能更危险，潜在危害更大，因为它更性感、更容易吸引人。
我认为我们严重低估了 AI 的影响。我们曾以为社交媒体会让人们更亲近，现在看来，我们像是参与了一场实验，可能要 20 到 30 年后才知道结果。我倾向于认为，人们短期内会选择最简单、最快、最便宜、能带来眼前好处的东西。
基于这一点，我觉得人们的批判性思考能力很可能会有所退化。反过来想，我使用 ChatGPT 后可能学到更多信息，但批判性思考能力也可能下降；这两件事完全不同。我上学时为了通过考试背德语词汇，现在却不会说德语，因为我只是背下了考试需要的词。
我并不懂德语。我可能会复述一些内容，但是否真正理解就很难说。我的人生、财富和事业都建立在创新能力上：批判性地思考问题，再结合不同的第一性原理，提出稍有新意的解决方案。我担心自己使用 ChatGPT 会让自己变得没那么有效。
我在想，是否该给自己设些规则。——自我约束。——对，自我约束。社交媒体我也这么做：关闭手机通知，在应用里设置许多限制来减少使用。老实说，我甚至不打开 TikTok，手机里可能根本没装，因为我觉得它的算法太容易让人上瘾。这并不意味着团队不发布内容。
我写下了几个想法：用 AI 扩大思考能力，而不是取代思考；交替做 AI 辅助任务和完全依靠大脑的任务；深入学习、解题和记忆，这样还可以让 AI 测试你。换句话说，要与 AI 互动，而不是让它取代大脑。正如你说的，AI 已经来了，只会变得越来越普遍。我认为意想不到的后果不会等 20 或 30 年才出现。
我觉得五年内就会出现，因为一切都在加速。我们必须研究 AI 对孩子的影响。MIT 的研究就是一个例子：比较完全不用 AI、使用搜索引擎和使用 AI 的孩子，然后根据结果采取行动并教育孩子。我在和青少年合作时也发现，关键是要让他们参与进来。
如果你能让他们真正理解：自己究竟想要什么？要不要把一部分注意力交给那些靠你赚钱的人？我觉得，如果能让他们参与思考，这里有一篇关于复仇与大脑的新文章，讲复仇如何激活基底神经节中的伏隔核。人们甚至会对复仇上瘾。但如果让他们了解真相：这些公司靠占用你的注意力赚钱，偷走的注意力越多，他们越会感到不满，也就越可能开始监督使用情况。
我喜欢让 ChatGPT 给我负面反馈。我猜你也这么做，对吧？——对，经常做。——我会说：‘我写了一份备忘录。’昨天我写了两页，想在公司里新设一个职位。我把所有内容都考虑了：如何衡量成功、背景情况、候选人、组织架构、他们的影响，以及汇报对象。
随后我把备忘录分别放进自己用的三个模型：Gemini、ChatGPT 和 Grok，让它们批评我的工作，并假装自己是波士顿咨询集团的顶级顾问，告诉我怎样写得更好。它们给了我一份详细分析，列出改进方法。我读完后记得其中一条建议：应该加入有关影响的财务预测。
它们还建议我更清楚地说明汇报关系，等等。所以我回去修改备忘录，把这些内容补了进去。——但关键是，你在和它互动。——对。——因为我害怕。大多数人不会这么做。我想我自己也不会真的花四个小时去写。如果我在 30 秒内说‘帮我写一份职位描述，给我新部门招人’，它就能写出来；ChatGPT 现在还有记忆，知道我的公司情况。
它可以替我写职位描述，帮我组建新部门，省下三个半小时。——但你能成为公司 CEO，并不是为了省下这三个半小时。——对。我没有走 30 秒捷径，是因为我想到自己 23 岁时，写作和简化表达对我的人生影响有多深。如果我当时没有连续五年、每天写作并把文字精简到 140 个字符发推文，我就不会对这个想法有如此坚定的信念。
你知道那时动用了大脑的哪个部分吗？——基底神经节。那是重复练习形成的，得一次又一次地练。打好基础后，你的认知能力会变得更强。认知过程有两套重要的学习系统，而且两者必须共同运作。我觉得儿童教育的真正问题是，学校正在放弃机械练习。他们把它叫作死记硬背，好像这是什么坏事。
§02文稿（下）
不，那就是练习。你需要有基础，需要记住一些东西。数学、阅读等等，都要练到熟练。必须达到熟练程度。刚才你听到的是之前一集里回放次数最多的片段。想听完整一集，链接放在下方，查看节目说明即可。谢谢。