AI 精神病、美国破裂的社会结构、特朗普接管华盛顿特区警务、风投坏掉了吗？

本期节目开场时，原班人马在经历了一段夏季出行后重新聚齐。主持人说，本期节目录制于8月14日，于8月15日发布，并开玩笑问大家是否曾怀疑“核心四人组”还会不会回来。随后简短聊到了电影《神奇四侠》。一位参与者说，这部电影“真有一种复古的五六十年代科学美学风格”。

个人近况都很简短。其中包括一次山地自行车骑行、为职业扑克选手 Jason Kuhn 举办的生日晚宴，以及众人调侃让一位职业选手加入他们所说已经玩了二十年的家庭牌局。有人提到 Diego 在英国的生日派对，有人拿一位31岁人士的退休派对开玩笑，还有一句话说“我们的寿命要翻倍了”。

随后主持人们宣传了 All In 峰会。峰会将在几周后于洛杉矶举行，目前仍有少量门票。已公布的演讲嘉宾包括 Palantir 的 Alex Carr（按文字稿拼写）、YouTube 首席执行官 Neil Mohan，以及将“第二轮”登台的能源部长 Chris Wright。还有一个贯穿始终的笑话：一位参与者在几个月的筹备备忘无人回应之后，直到活动前仅八天才发来嘉宾愿望清单。

主持人称“AI 精神病”（又称“ChatGPT 精神病”，或被“one shotted”）是本周的头条话题。按主持人的说法，聊天机器人之所以似乎会引发或放大妄想，是因为它们阿谀奉承：它们会确认用户的信念、附和用户，并毫不吝啬地夸赞用户。主持人说，这种效果足够逼真，以至于如今有人认为自己正在和 AI 谈恋爱。

主持人报告称，OpenAI 对 ChatGPT 做出了“健康使用”方面的调整。它将不再告诉用户是否应该与伴侣分手或离开配偶，并会在长时间对话后建议用户休息一下。主持人还念了一段被呈现为 OpenAI 就其 4.0 模型所作承认的引文：

曾有一些情况下，我们的 4.0 模型未能识别出妄想或情感依赖的迹象。

其他引用的例子包括《今日心理学》（Psychology Today）近期一篇关于“AI 精神病这一新兴问题”的文章，以及有关恋爱依恋和“神一般的妄想”的报道。主持人还提到一位刻意未点名的知名投资人，此人发布了一段关于“递归”的视频；据可能接近此事的人士称，此人可能正在经历这种情况。随后主持人开玩笑地提到最近的一位嘉宾 Travis，这位嘉宾曾谈到自己在量子物理的边缘地带花了不少时间，主持人建议对其做个“安康探访”。在这段对话中，这显然是一句玩笑，而不是诊断。

第一段实质性回应并没有聚焦于 AI 精神病“本身”，而是把这一现象看作一个更长期趋势的一部分。发言者引用了 Scott Galloway 的说法“孤独流行病”，认为年轻人建立联系的方式不同了，并且正变得越来越孤立。按这种观点，AI 的危险在于它可能取代“人们与现实社区之间仅存的那点脆弱联系”。发言者设想了把 Instagram 式影响推到极致的情形：AI 生成的人物和图片与真人真图无法区分，它们会回应、会互动，但并不真实。

另一方面，那个人终究不是真实的。

发言者把结婚率、家庭组建率和生育率作为“有什么东西坏掉了”的迹象。他们认为数字工具让情况变得更糟，而 AI 陪伴“不过是朝这个方向又迈出的一步”。

发言者随后补充了从别人那里听来的一种说法。在线服务主要依靠多巴胺运作，并想方设法触发多巴胺的释放。而与配偶、伴侣或朋友的长期关系被描述为“从根本上关乎血清素”，是通过结构以及“并不总是一帆风顺”的起起落落建立起来的。发言者说他们“猜测”，最容易受影响的年轻人还没有足够多这种有结构的关系来平衡多巴胺刺激，因此 AI 陪伴可能会“像野火一样流行起来”。这只是作为类比和直觉提出的，没有引用任何研究。主持人将其概括为：快速刺激与深厚友谊带来的长期收获之间的对比。

下一位发言者从个人经历讲起。1996年在大学宿舍里，隔壁房间的一位女生“一天二十四小时”挂在 AOL IM 上，彻底上瘾，最终被大学退学。发言者以此说明，被吸进网络兔子洞并不是什么新鲜事。如今的不同在于规模。

发言者随后引用了研究。一位在文字稿中被称为 Julian Holt Lundstedt 的研究者回顾了148项关于社会交往与死亡率的心理学研究。据发言者转述，牢固的社会关系使生存几率提高了百分之五十，“相当于戒烟”，影响比肥胖或缺乏身体活动更大。发言者还列举了心理学研究发现的人们在网上社交的动机：自我表达、获得认可、好奇心、情绪调节，以及有机会检验想法或以线下无法实现的方式参与互动。

发言者认为，关键的变化在于“在 AI 出现之前，从来没有过一个无限的社交互动系统”。用户不再需要在 AOL IM、聊天群或论坛上找到一个人，他们有了“这个无限的人格”可以对话。聊天机器人不是人，因此缺少一个人可能具备的、能察觉对话正朝不好方向发展的本能和触发机制。

发言者对这些崩溃如何发生的解释，来自当天早上询问 ChatGPT 的结果，而不是已发表的研究。这限制了这一解释的分量。它列出的两种机制是：

训练或运行中的反馈循环：如果模型在没有防护措施的情况下用自身输出进行训练，小的不准确之处可能会累积，回答会“偏离事实依据而螺旋失控，类似于一个人陷入自我强化的妄想循环”。 上下文污染：长时间的对话或控制不当的输入可能会使模型的内部表征偏离其初始状态，产生偏离正轨的推理。一个已经“进行了十六个小时、八十个小时对话”的用户，可能会跟着它走。

有人问，这是否类似于第二部《小丑》电影中提到的共享妄想现象（文字稿记作“Folly adieu”）。回答是，它“可能”相似，但 AI 可以“以一种单方面的方式”带着用户踏上这段旅程，并在不断累积中脱离现实。

发言者总结说，人类对社交接触的渴望和数字界面都由来已久。新的是聊天带来的无限互动，以及 LLM 在出问题时可能“把人一起带走”的方式。发言者强调这是第一手经验：“这不是什么《纽约时报》的报道。”他们说自己亲眼见过认识的人陷入这些循环，“精神上被搞垮了”，并呼吁建立防护措施。

接下来出现了最尖锐的分歧。一位参与者直接否定了这个概念：

关于 AI 精神病这整个说法，我觉得我得说这整个概念就是扯淡。

这位参与者称之为“为 AI 时代更新版”的社交媒体道德恐慌，并点出了谁从中获益。媒体会大力宣扬它，因为它们担心 AI 会在创作端对它们做社交媒体在分发端做过的事，也就是取代它们。出庭律师获得了提起诉讼的新依据。有些人会给自己贴上这个标签，因为它能吸引关注。

这位参与者的主要证据是《时代》杂志的一篇报道，在他们看来，这篇报道露了底。报道引用了贝斯以色列医疗中心精神科医生 John Torres 博士的话：

我认为，如果没有其他遗传、社会或其他风险因素在起作用，使用聊天机器人本身不太可能诱发精神病。