Christof Koch：意识
Christof Koch: Consciousness
Guests: Christof Koch
Full transcript · Read the full conversation in order, with its original context.
§01原文文稿 · 00:00–08:03
作为 MIT 6S099「通用人工智能」课程的一部分，
我有机会与克里斯托夫·科赫（Christof Koch，原文转写为 Christoph）坐下来交谈，
他是神经生物学、神经科学、
以及总体上意识研究领域里一位开创性的人物。
他是西雅图艾伦脑科学研究所的所长、
首席科学官。
从 1986 年到 2013 年，他是加州理工学院的教授。
在那之前，他在 MIT。
他被引用得极多，引用量超过 10 万次。
他的研究、他的著述、他的思想，对科学界和广大公众
在我们如何思考意识、
如何看待我们作为人类自身的方式上，
产生了巨大的影响。
他是好几本书的作者，
《探寻意识：一种神经生物学的进路》，
以及一本更近的书，
《意识：一个浪漫还原论者的自白》。
如果你喜欢这场对话、这门课程，
就订阅、点一下那个小铃铛图标，
确保你永远不会错过一期视频，
并在评论里留下建议，
告诉我们你希望看到哪些人参与这门课程，
或者你希望我们去探讨的任何想法。
非常感谢，希望你喜欢。
好，在我们深入意识那些美丽的
奥秘之前，我们先稍微拉远一点视角。
让我问一句，你觉得宇宙中别处
有智慧生命吗？
——是的，我确实这么认为。
我们没有它的证据，
但我觉得概率是压倒性地
倾向于它的，考虑到这个宇宙，
这里有 10 的 11 次方个星系，
而每个星系有 10 的 11 次方到 10 的 12 次方颗恒星，
而且我们知道大多数恒星都有一颗或更多行星。
——那这让你有什么感受？
——它仍然让我觉得自己是特别的，
因为我拥有体验。
我感受这个世界，我体验这个世界。
而无论外面是否还有别的生物，
我仍然感受这个世界，
而且我以这种非常奇特、
非常引人入胜的方式触及这个世界，
而那正是人类存在的核心。
——那，你说了「人类」。
你觉得，如果那些智慧生物真的在外面，
你觉得它们会体验它们的世界吗？
——是的，如果它们是演化而来的，
如果它们是自然演化的产物，
而它们必然如此，
那它们也会体验它们自己的世界。
所以意识不只是人类的，你说得对，
它要宽广得多。
它大概——它也许遍布于整个生物界。
我们所拥有的、唯一特别的东西，
就是我们能谈论它。
当然，并非所有人都能谈论它。
婴儿和小孩子不能谈论它（原文转写为 can，疑漏 not），
左额下回中风的病人
不能谈论它（原文转写为 can），
但大多数正常的成年人能谈论它，
所以我们觉得那让我们变得特别，
相比于，比方说，猴子、狗、猫、老鼠，
或者所有其他与我们共享这颗星球的生物。
但所有证据似乎都表明，
它们也体验这个世界，
所以极大概率上，别的外星——
外星人也会体验它们的世界。
当然，方式不同，
因为它们有不同的感觉系统，
它们有不同的传感器，
它们有一个非常不同的环境。
但我会强烈地推测这样一个事实：
它们也拥有体验。
它们感受痛苦和愉悦，
并在某种光谱里看见，
并听见、并拥有所有其他的感官。
——当然，它们的语言，
如果它们有语言的话，会是不同的，
所以我们也许没法读懂它们关于自身体验的
诗歌。
——没错。
——对。
那么，在一次演讲里、一段视频里，
我听到你提起 Sapuzo（原文转写），
一只你养大的腊肠犬，
你和它一起长大，
它在你小时候是你家庭的一员。
首先，严格说来你是个中西部的男孩。
你只是————严格说来是。
（笑）
——但在那之后，你四处游历了一番，
因此带了一点口音。
你谈到过 Sapuzo，
那只腊肠犬，
具有这些人性的、
意识的要素，是你发现的。
所以，我只是想问，
你能回顾你的童年、
回忆起你第一次
意识到你，你自己，
某种程度上从第三人称的视角来看，
是一个有意识的存在，是在什么时候吗？
这种跳出你自己、
看到在我大脑里正发生着某种特别的事情
的想法。
——其实我真的没法，
这是个好问题。
我不确定我记得某个确切的时刻。
我是说，你把它视为理所当然，
因为那是你所知道的唯一的世界，对吧？
我所知道的唯一的世界，你知道的，
是一个看见、听见声音、
触摸以及所有其他事情的世界。
所以，直到很久以后，
在我本科的早期，
当我选修了物理和哲学时，
我才真的思考起它来，
并想，嗯，这真的是，
从根本上说，非常非常神秘。
而现在物理学里真的没有任何东西
能解释这种从大脑的物理
到感受的过渡。
这些感受是从哪儿进来的？
所以，你可以去看量子力学、广义相对论的
基础方程。
你可以去看元素周期表。
你可以去看我们基因里那无尽的 ATGC 絮语，
而意识哪儿都不在其中。
然而，我每天早上醒来，面对的是一个
我拥有体验的世界。
所以，那就是那个古老的身心问题的
核心。
体验是如何进入这个世界的？
——那么，什么是意识？
——体验。
意识就是任何体验。
有些人把它叫做主观感受。
有些人把它叫做现象学。
有些人把它叫做感质（qualia），如果他们是哲学家的话。
但它们全都指的是同一样东西。
「作为某物，是有某种感受的」，
用哲学家托马斯·内格尔（Thomas Nagel）那句名言来说，
作为一只蝙蝠，是有某种感受的，
或者作为一个美国人，
或者在愤怒、在悲伤、
在恋爱、或在疼痛时，都是有某种感受的。
而那就是体验之所是。
任何可能的体验。
可以平凡到只是坐在一把椅子上。
也可以崇高到在深度冥想中
经历一个神秘的时刻。
那些只是体验的不同形式而已。
——体验。
那么，如果你坐下来，面对也许是下一代的——
跳过几代——的 IBM Watson，
那个赢了《危险边缘》（Jeopardy）的东西。
那道鸿沟是什么，我想问题是，
在 Watson 与之间——Watson 也许比你、
比我们、比任何在世的人都聪明得多，
但它可能没有体验。
那道鸿沟是什么？
——嗯，所以那是个大大的问题。
那个问题占据了人们——
肯定是过去 50 年——的心思，
自从计算机的出现、计算机的诞生以来。
那是艾伦·图灵试图回答的一个问题。
当然，他是以这种间接的方式去做的，
通过提出一个测试、一个可操作的测试。
但那并不真的——
他试图触及的是，一个人「思考」究竟意味着什么。
然后他有这么一个测试，你把他们关起来，
然后你和他们进行交流，
然后过一阵子你试着猜，
那究竟是一个人、还是一个计算机系统。
毫无疑问，现在，或者很快，
Alexa、Siri 或 Google Now 就会通过这个测试。
而你可以耍花招骗过它，但最终，
肯定在你这一代，
会有一些机器，它们说起话来完全从容，
它们会记住你曾说过的每一句话，
它们会记住你收到过的每一封邮件。
就像萨曼莎，记得电影《她》（Her）里的吗？
毫无疑问这会发生。
但当然，关键问题是，
作为电影《她》里的萨曼莎，是不是有任何感受？
作为 Watson，是不是有任何感受？
而在这一点上，人必须非常强烈地认识到，
这里有两个我们混为一谈的不同概念。
有智能这个概念，
自然的或人工的，
还有意识、
体验这个概念，自然的或人工的。
那是非常非常不同的东西。
而在历史上，我们把意识
与智能联系在一起，为什么？
因为我们生活在一个世界里——把计算机撇开不谈——
一个自然选择的世界，在那里我们被各种生物环绕，
要么是我们自己的同类，或多或少更聪明一些，
要么我们跨越物种去看。
§02原文文稿 · 08:05–15:40
有些更适应某个特定的环境，
有些则不那么适应，无论它是一头鲸、一只狗，
还是你去谈一个草履虫、一条小虫子。
而我们看到，神经系统的复杂度
从单个细胞，到特化的细胞，
到一条有三张神经网（原文转写为 three nets）的虫子，
它有 30% 的细胞是神经细胞，
再到一个像我们、或者像蓝鲸这样的生物，
它有 1000 亿、甚至更多的神经细胞。
所以，基于行为上的证据
以及基于底层的神经科学，
我们相信，随着这些生物变得更复杂，
它们更好地适应了各自特定的生态位，
它们也变得更有意识，
部分原因是它们的大脑在增长，
而我们相信意识——不像古代——
古代的人大多认为、几乎每一种文化都认为，
意识连同智能
与你的心脏有关。
而你今天仍然能看到这一点，你看，
亲爱的，我全心全意地爱你。
但你其实应该说的是，
你说，不，亲爱的，我用我的整个
外侧下丘脑爱你。
而在情人节，你应该送给你的心上人
你知道的，一块下丘脑形状的巧克力，
而不是一块心形的巧克力，对吧？
总之，我们仍然保留着这种语言，
但如今我们相信那是大脑。
所以我们看到不同复杂度的大脑，
然后我们想，嗯，
它们有不同层级的意识。
它们有能力去拥有不同的体验。
但如今我们面对一个这样的世界：我们知道，
我们正开始工程化地造出智能，
而极度不清楚的是，我们正在工程化地造出的
那种智能，是否与意识有任何关系，
以及它是否能体验任何东西。
因为从根本上说，区别是什么？
智能关乎的是功能。
智能，无论你究竟如何定义它，
某种对新环境的适应，
能够学习并迅速理解，
你知道的，这里的设置是什么、正在发生什么、
参与者都是谁、接下来会发生什么，
那全都关乎功能。
意识关乎的不是功能。
意识关乎的是存在。
它在某种意义上要根本得多。
你可以在好几种情形里看到这一点。
你可以，比如说，在临床的情形里看到它。
当你在应对那些——比方说——
中过风、或者出过车祸等等的病人时，
他们基本上无法动弹。
特里·夏沃（Terri Schiavo），你也许听说过这段历史，
她是上世纪 90 年代佛罗里达这里的一个人。
她的心脏停跳了。
她被复苏了过来。
然后在接下来的 14 年里，
她处于所谓的植物人状态。
所以有成千上万的人处于植物人状态。
所以他们是这个样子。
偶尔，他们睁开眼睛，
睁两三个、四五个、六到八个小时，
然后又闭上眼睛。
他们有睡眠—觉醒周期。
偶尔，他们有行为。
他们会做一些——你知道的——他们——
但你没有任何办法，在你所说的话
——或者医生所说的、或者妈妈所说的——
与病人所做的之间，
建立起一种有规律的关系。
——没错。
——所以没有任何行为，
然而在这些人当中的一部分身上，
仍然存在体验。
你可以设计并构建脑机接口，
在那里你能看到他们仍然体验着某种东西。
当然，在这些闭锁状态的病例里，
有这么一本著名的书，叫做
《潜水钟与蝴蝶》，
书里有一位编辑，一位法国编辑，
他的脑干中了风，
除了垂直方向的眼睛、眼球运动之外无法移动。
他只能上下移动他的眼睛。
而他口述了一整本书。
而有些人到最后甚至连这个也失去了。
而所有证据似乎都表明，
他们仍然在里面。
在这种情形里，你没有行为，却有意识。
第二种情形是今晚，像我们所有人一样，
你会去睡觉。
闭上眼睛，你睡着了。
你会在你沉睡的身体内部醒来，
而你会拥有有意识的体验。
它们不同于日常的体验。
你也许会飞，你也许不会对
自己在飞感到惊讶。
你也许会遇见一只早已死去的、童年养的宠物狗，
而你并不对遇见它们感到惊讶，
你知道的，但你拥有关于爱、
关于恨的有意识的体验，你知道的，它们可以非常情绪化。
在这种状态期间，你的身体——这通常是快速眼动（REM）——
会向你的运动神经元发送一个主动的信号，
让你麻痹，这叫做肌张力缺失（atonia），对吧？
因为如果你没有那个，像某些病人那样，
你会怎么样？
你会把你的梦表演出来。
你会患上，比如说，快速眼动行为障碍，
那可是个染上就很糟的东西，好吧？
第三种情形是纯粹的体验。
所以我最近有过这样一次——
有些人称之为神秘体验。
我去了新加坡，进了一个漂浮箱，对吧？
这是一个大浴缸，里面装满了
与体温相同的水，还有泻盐（硫酸镁）。
你脱得一丝不挂，躺进它里面。
你把盖子合上。——一片黑暗。
——完全的黑暗，隔音的。
所以你很快就变得没有身体，
因为你在漂浮，而且你赤身裸体。
你没有戒指、没有手表、什么都没有。
你再也感觉不到你的身体。
没有声音，无声无息。
没有一个光子，没有视觉，没有时间，
因为过了一阵子——在早些时候，
你其实能听见你的心脏，
但接着你算是适应了那个，
然后时间的流逝就算是停止了。
而如果你训练自己，就像在冥想里那样，
不去想，早些时候你会想很多。
这有点吓人。
你会觉得有些不舒服，
或者你想，嗯，我会觉得无聊。
但如果你试着主动地不去想，
你就变得没有念头。
你就在那儿，没有身体、没有时间、
没有声音、没有视觉、没有念头，
但你处在一种有意识的体验之中。
你并没有睡着。
你并没有睡着。
你是纯粹的存在。
不存在任何功能。
你没有在做任何计算。
你没有在记忆。
你没有在投射。
你没有在规划，然而你是完全有意识的。
——你是完全有意识的。
外面正发生着某种东西。
它可能只是一种副作用。
那么什么是——
——你是指副现象。
——那么什么是————你是指一种副作用。
——意思是，你能够
躺在这个感觉剥夺箱里、
却仍然拥有一种有意识的体验，其功能是什么？
——演化上的？——演化上的。
——显然，我们并不是在一个环境里带着漂浮箱
演化出来的。
我是说，所以生物学出了名地不擅长
提「为什么」的问题、目的论的问题（原文转写为 tele-anomical）。
我们为什么有两只眼睛？
我们为什么没有四只眼睛，像某些生物那样（原文转写为 teachers，疑为某种多眼动物），
或者三只眼睛之类的？
嗯，不，那大概——那是有一个功能的，
但我们不太擅长回答那些问题。
我们可以无休止地臆测。
生物学非常——或者说科学非常擅长
机制性的问题。
宇宙里为什么会有电荷，对吧？
我们发现自己身处一个
有正电荷和负电荷的宇宙里，为什么？
为什么量子力学成立？
为什么别的某个理论不成立？
量子力学在我们的宇宙里成立。
为什么，非常不清楚。
所以目的论的问题、「为什么」的问题，
是很难回答的。
显然，在复杂度、
大脑处理能力与意识之间存在某种关系。
但是，然而，在这些情形里、在我给出的这三个例子里，
一个是夜里的日常体验。
另一个是一种创伤，
而第三个，原则上，
每个人都能拥有这类神秘体验。
你有一种功能、
智能与意识的分离。
——你抓到我在问一个「为什么」的问题了。
让我问一个不是「为什么」的问题。
你今天晚些时候要做一个关于智能与意识的
图灵测试的演讲，
在两者之间划界。
那么，有没有一种科学的方式去断定
这个实体里是否存在意识？
而为了预判你的回答，
因为存在一个神经生物学上的答案。
所以我们能测试人类的大脑，
但如果你拿一个机器的大脑，
一个你还不知道如何测试的，
你甚至要如何着手去测试
§03原文文稿 · 15:44–23:25
这个东西里是否存在意识呢？
——好，那是个真的很好的问题。
那么让我分两步来处理它。
正如你所指出的，对人类而言，
我们就先只谈人类，
现在有一个叫做 ZAP 和 ZIP 的测试。
这是一套流程，你用经颅磁刺激
去「拍击」大脑。
你观察那些电的回响，
本质上用的是脑电图（原文转写为 EG，即 EEG），
然后你就能测量
这个大脑反应的复杂度。
而你可以在清醒的人身上做这个，
在睡着的、正常的人身上，
你可以在清醒的人身上做、然后再给他们麻醉。
你可以在病人身上做。
而它有 100% 的准确率：在所有那些情形里，
当你很明确地知道病人或那个人
要么有意识、要么无意识时，
其复杂度就要么高、要么低。
然后你可以把这些技术套用到
类似的生物身上，比如猴子、狗
和老鼠，它们有非常相似的大脑。
当然，现在你指出，那也许帮不了你，
因为我们没有一个皮层——
而如果我把一个磁脉冲送进我的 iPhone
或者我的电脑，那大概会弄坏某个东西。
所以我们没有那个（对机器的办法）。
所以我们最终需要的，
我们需要一个意识的理论。
我们不能只依赖我们的直觉。
我们的直觉是，嗯，是啊，
如果某人会说话，那他们就是有意识的。
然而，那又有所有这些孩子，
婴儿不会说话，对吧？
但我们相信婴儿也有有意识的体验。
然后又有我提到的所有这些病人，
而他们不会说话。
当你做梦时，你没法说话，因为你处于麻痹状态。
所以我们最终需要的，
我们不能只依赖我们的直觉。
我们需要一个意识的理论，它告诉我们，
一块物质身上，是什么东西？
一块高度可兴奋的物质身上——
比如大脑、或者比如一台计算机——
是什么东西催生了有意识的体验？
我们都相信——我们当中再没有人相信
那个旧说法了，说那是一个灵魂，对吧？
那曾经是大多数人所接受的
最常见的解释。
而今天仍然有很多人相信，
嗯，有上帝（原文转写为 God and doubt），
唯独我们有一个动物所没有的特别的东西。
勒内·笛卡尔有句名言说，
「一条狗，如果你用你的马车撞到它，
可能会哀叫、可能会嚎哭，
但它没有这个特别的东西。
它没有那种神奇的佐料。」
——灵魂，是的。
——它没有「思维的东西」（res cogitans），一个灵魂。
如今我们相信情况不再是那样了。
那么大脑与这些家伙、
与硅，之间的区别是什么？
而尤其是，一旦它们的行为相匹配，
所以如果你在 20 年后有一个 Siri 或 Alexa，
她说起话来和任何可能的人类一样好，
你有什么依据说她没有意识？
尤其是，如果她说——
她当然会说。
嗯，我当然是有意识的。
你问她，你好吗？
而她会说，嗯，你知道的，
他们会生成某种方式来——当然。
她会表现得像一个人。
那么这里有几个区别。
一个是，这关系到那个问题，
那个非常难的——意识为什么是一个难题？
是因为它是主观的，对吧？
只有我拥有它，只有我知道，
我对我自己的意识有直接的体验。
我没有对你的意识的体验。
那么，作为一个某种意义上的贝叶斯主义者，
一个相信概率论以及那一整套东西的人，我假定，
你知道的，我可以对现有最好的事实做一个溯因推断。
我推断你的大脑和我的非常相似。
如果我把你放进一台扫描仪里，
你的大脑大致会和我的表现出同样的方式。
如果我给你这份什锦麦片，然后问你，
它尝起来怎么样？
你会告诉我一些我也或多或少会说的东西。
所以基于这一切，我推断你是有意识的。
可是对 Siri，我没法那么做。
所以在那里我真的需要一个理论，它告诉我，
任何一个系统——这个或那个——身上，是什么东西
让它变得有意识。
我们有这样一个理论。
——是的，就是整合信息论。
但让我先——也许作为给那些不熟悉的人
的一个引子——笛卡尔。
你能不能——你很多地方谈到泛心论。
你能描述一下什么是物理主义对比二元论吗，
这个——你提到了灵魂。
那个想法的历史是怎样的？
——泛心论这个想法吗？
——哦不，是那场辩论，真的，
泛心论可以从那场辩论中浮现出来，
也就是二元论对比物理主义的辩论。
还是说你不认为泛心论能放进那个框架里？
——不，你可以论证有某种——
嗯，好，那我们往后退一步。
所以泛心论是一个非常古老的信念，
它一直存在着，我是说，柏拉图和亚里士多德
都谈到过它，现代哲学家也谈到它。
当然，在佛教里，这个想法非常普遍，
就是——我是说，它有不同的版本。
一个版本说万物皆有魂，一切皆然。
岩石、石头、狗、人、
森林、iPhone，我们所有的一切都是。
一切物质皆有魂，那算是一个版本。
另一个版本是，所有生物、
所有生灵，无论大小，
从一个单细胞到一棵巨大的红杉树，
都「有某种感受」。
那是我觉得多少更现实一些的一个。
所以不同的版本——
——你说「有某种感受」是什么意思？
——拥有——
——拥有感受，拥有某种体验。
——「有某种感受」，很有可能
作为一个草履虫，是有某种感受的。
我觉得相当有可能，作为一只蜜蜂、
一只老鼠或者一只狗，是有某种感受的。
——当然，所以，好。
——所以你可以说那也是——
所以泛心论的范围非常宽，对吧？
而你可以——所以有些人，比如伯特兰·罗素，
试图倡导这个想法，它被称为罗素式一元论，
即泛心论其实就是从内部来看的物理学。
所以这个想法是，物理学非常擅长
描述物体之间的关系，
比如电荷、比如引力，对吧？
你知道的，它描述
曲率与质量分布之间的关系，好吧？
那是事物之间的关系。
物理学并不真的描述终极实在本身。
它只是——你知道的——
夸克或者所有这些其他东西之间的关系——
——几乎就像是从一个第三人称的观察者（视角）。
——对，对，对。
而意识就是物理学从内部所感受到的东西。
所以我的有意识的体验，
它就是我大脑、
尤其是我大脑皮层的物理，从内部所感受到的方式。
所以如果你是草履虫，你得记住，
你说草履虫，嗯，那是个相当愚笨的生物。
没错，但它已经拥有十亿个不同的分子，
大概，你知道的，5000 种不同的蛋白质，
组装在一个高度、高度复杂的系统里，
这个系统，迄今为止这颗星球上没有任何一个人、
没有任何一个计算机系统曾设法精确地模拟出来。
它的复杂度远远超出我们所能把握。
是的，而很有可能那个小东西
有那么一丁点儿感受。
当然，它没有像我这样的脑内声音。
它没有期待。
你知道的，它没有那一整套复杂的东西，
但它很可能「有某种感受」。
——是啊，所以这真的很有意思。
我们能不能划一些界线，也许试着去理解
生命、智能
与意识之间的区别？
你是怎么看待这所有这些的？
如果你必须定义什么是有生命的东西、
什么是有意识的东西、
什么是有智能的东西，
在你看来它们彼此交织吗，
还是说它们是完全分开的？
——好，那么首先，那是一个
我们没有完整答案的问题。
——我们今天所谈的很多东西
都充满了奥秘，而且是引人入胜的奥秘，对吧？
——嗯，比如说，你可以去看亚里士多德，
他大概是某种西方文化里有史以来
最重要的科学家和哲学家，
生活过的人当中。
他有这么一个想法，它被称为质料形式论（hylomorphism），
如今它相当流行，
即存在不同形式的灵魂。
灵魂其实就是某物的「形式」。
他说，「所有生物性的生灵都有一个植物性灵魂。」
那是生命原则。
今天，我们觉得我们对它多理解了一些，
即它是生物化学和非线性热力学。
然后他说，「它们有一个感觉性灵魂。」
只有动物和人类还拥有一个感觉性灵魂，
或者欲求性灵魂（原文转写为 petitive，即 appetitive）。
它们能看、能闻，而且它们有驱力。
它们想繁殖、想进食等等。
然后只有人类拥有他所称的理性灵魂。
好吧？——对。
§04原文文稿 · 23:25–31:26
——而那个想法后来进入了基督教世界，
然后理性灵魂就成了那个永生不灭的灵魂。
他说得非常不清楚。
他并不真的——我是说，对亚里士多德的
不同解读会给出不同的结论，
即他是否相信理性灵魂
是不朽的？
我大概觉得他并不相信。
但接着，当然，那个想法进入了——
经由柏拉图进入了基督教，
然后灵魂变成了不朽的，
然后又变成了与上帝的联结。
那么，所以你问我的，本质上是，
我们对这三者的现代概念是什么——
亚里士多德本会把它们称作不同的形式。
生命，我们觉得我们对它知道一些，
至少是这颗星球上的生命，对吧？
尽管我们并不理解它是如何起源的，
但要严格地把它钉死一直都很难。
你在死亡的现代定义里就能看到这一点。
事实上，就在此刻，有一场会议正在进行，
又一次，试图在法律上和医学上定义
什么是死亡。
它过去非常简单。
死亡就是你停止呼吸、你的心脏停止跳动。
你就死了，对吧？——是啊。
——完全是老办法（原文转写为 unconventional，疑为 conventional）。
如果你不确定，你就再等 10 分钟。
如果病人不呼吸，你知道的，他就死了。
可是，如今我们有呼吸机、我们有起搏器。
所以要定义死亡是什么就难得多了。
通常，死亡被定义为生命的终结，
而生命被定义在死亡之前。
——它是死亡之前的那个东西。
——好，所以我们其实并没有非常好的定义。
智能，我们没有一个严格的定义。
我们知道一些如何去测量它的办法。
它叫做智商（IQ）或者一般因素（G 因子），对吧？
而我们正开始在一种狭义上把它造出来，对吧？
比如围棋、AlphaGo、Watson，还有谷歌的汽车，
还有 Uber 的汽车，以及所有那些。
那仍然是狭义 AI，
而有些人正在思考
通用人工智能。
但大致上，正如我们之前说的，
它与学习以及适应新环境的能力
有关。
但那，正如我也说过的，
它与体验有着根本的不同。
而非常不清楚的是，如果你造一台拥有 AGI 的机器，
先验地，完全不——完全不清楚
这台机器会拥有意识。
它可能有，也可能没有。
——那我们反过来问。
你觉得，如果你要试着造一个
通用人工智能系统，
你觉得弄明白如何构建
人工意识会帮助你达成一个 AGI 吗？
所以，或者换个说法，
你觉得智能需要意识吗？
——在人类身上，它们是携手并进的。
在人类身上，或者我觉得在生物学里，
意识、智能是携手并进的。
这（原文转写为 Quay is illusion）是因为大脑演化得
高度复杂。
复杂度，通过那个理论，
即整合信息论，
某种程度上归根结底是与意识
紧密相连的东西。
归根结底，它是作用于自身的因果力。
所以在演化而来的系统里，它们是相伴相随的。
在人工系统里，尤其是在数字机器里，
它们并不相伴相随。
而如果你直截了当地问我，
在 2040 年的 Alexa 20.0，
当她能轻松通过每一个图灵测试时，
她有意识吗？
没有。
即便她声称自己有意识。
事实上，你甚至可以做这个思想实验的
一个更激进的版本。
我们可以构建一个人脑的计算机模拟。
你知道亨利·马克拉姆（Henry Markram，原文转写为 Markham）在「蓝脑计划」里，
或者瑞士的「人类脑计划」里，正试图做什么。
我们就假设他取得了全部的成功。
所以在 10 年内，我们有了这个人脑的
完美模拟。
每一个神经元都被模拟了。
它有——（原文转写为 alarmics）——它有运动神经元，
它有一个广播区，而且它当然会说话，
而它会说，「嗨，我刚醒来，我感觉棒极了。」
好吧？
即便那个原则上能够映射到你大脑上的
计算机模拟，也不会有意识。
为什么？
因为它是在模拟。
这是被模拟之物与真实之物之间的区别。
所以它模拟的是与意识相关联的行为。
它可能——如果做得恰当，它将会
拥有它所模拟的那个特定的人
所拥有的全部智能。
但模拟智能，和拥有有意识的体验
并不是一回事。
而我给你一个真的很棒的比喻，
工程师和物理学家通常能领会的。
我可以写下爱因斯坦的场方程，
九个或十个方程，它们描述了广义相对论里
曲率与质量之间的联系。
我可以做到，我可以在我的笔记本电脑上运行它，
来预测那个中心，那个黑洞
在我们星系中心的那个黑洞，会质量如此之大，
以至于它会把它周围的时空扭曲，
使得没有光能逃逸。
它是一个黑洞，对吧？
但有意思的是，你有没有想过，
这个计算机模拟为什么没有把我吸进去？
对吧？
它模拟引力，但它并不具有
引力的因果力。
那是一个巨大的区别。
所以这是真实之物与模拟器之间的区别，
就像在一台模拟暴风雨天气的计算机里，
当这台计算机运行时，它内部并不会被淋湿。
所以为了拥有人工意识，
你必须赋予它与人脑相同的
因果力。
你必须构建一台所谓的类脑（neuromorphic）机器，
它的硬件与人脑非常相似，
而不是一台数字的、有时钟节拍的计算机（原文转写为 phenomenon）。
——那么这——不过，澄清一下，
你认为意识对于创造人类水平的智能
并不是必需的。
在人脑里它似乎会相伴出现，
但对一台机器来说，不会。
——没错。
——那么，也许正因为这谈的是 AGI，
我们稍微深入挖一挖
我们所说的智能是什么意思。
所以一个是一般因素（G 因子），
这类测量智能的智商测试。
但我觉得，如果你——也许换个说法，
所以在 2040、2050 年，人们会拥有一个
真的令人印象深刻的 Siri。
你觉得人们会说 Siri 是有智能的吗？
——会。
——智能是这么一个无定形的东西。
所以要成为有智能的，看起来你似乎必须
与其他人类有某种联结，
在这个意义上：你必须用你的智能
让他们印象深刻。
而感觉上，你必须以某种方式
在这个充满人类的世界里运作。
而为此，感觉上似乎必须有
某种像意识一样的东西。
那么你觉得，你可以只拥有世界上最好的
自然 NLP 系统、自然语言理解
和生成，而那就会——
那就会让我们开心地说，
你知道吗，我们创造出了一个 AGI。
——开不开心我不知道，但是的，我确实相信
我们能得到我们所称的高层级功能性智能，
尤其是那种一般因素（G），你知道的，
这种我们所珍视的、流体般的智能，
尤其是在像 MIT 这样的地方，对吧？
在机器身上，我先验地看不出任何理由（说它做不到），
而我看到很多理由相信它会发生，
很——你知道的——在接下来的 50 年或 30 年里。
——那么，对于有益的 AI、对于创造一个 AI 系统——
你提到了伦理——
一个异常聪明、
但同时也不会做——会，你知道的——
使它的价值与我们作为人类的价值对齐的系统。
那你觉得它需要意识吗？
——是的，我觉得那是一个非常好的论证：
如果我们担心 AI 以及 AI 的威胁，
像尼克·博斯特罗姆那样的、存在性的威胁，
我觉得拥有一个有共情能力的智能，对吧？
我们为什么会觉得虐待一条狗——
我们大多数人为什么会觉得那令人憎恶，虐待任何动物？
我们为什么会觉得那令人憎恶？
因为我们有这么一个叫做共情的东西，
如果你去看它的希腊语词源，
它真正的意思是「与……一同感受」，我感受到一条共情的路径。
我与你一同感受。
我看到另一个受苦的个体，它甚至不是我的同类，
它不是一个人，不是一段爱，
不是我的妻子或我的孩子，它是一条狗，
但我自然而然地感到——我们大多数人，并非所有人，
我们大多数人会感到共情。
所以，这很可能符合智人（homo sapiens sapiens）
长期的生存利益：
如果我们真的造出了 AGI，而它真的变得非常强大，
那么它要有一种共情的反应，
而不是干脆灭绝人类。
——那么，作为完整的有意识体验的一部分，
要创造一种意识，人工的，
或者在我们人类的意识里，你觉得恐惧——
也许我们待会儿会聊到你早年、
与尼采等等有关的时期——但你觉得恐惧
和受苦对于拥有意识是必不可少的吗？
§05原文文稿 · 31:30–39:30
你是否必须拥有全部范围的体验，
才能拥有一个有体验的系统？
还是说你可以拥有一个
只有非常特定的、非常正面体验的系统？
——你看，原则上你可以拥有——
人们在老鼠身上做过这个，
你把一个电极植入下丘脑，
老鼠的快感中枢，
然后这只老鼠会不顾一切地自我刺激，胜过其他任何东西。
它不再在乎食物、自然的性
或者饮水，它只是自我刺激，
因为那是一种如此愉悦的感觉。
我想它就像一场性高潮，只不过你一整天都在经历。
所以，先验地，我看不出你为什么需要
极大的多样性。
当然，很显然，要生存下去，那是行不通的，对吧？
但如果我是人工地工程设计它，
我不觉得你需要极大多样的
有意识的体验。
你可以只有愉悦、或者只有恐惧。
那可能是一种糟糕的存在，
但我觉得那是可能的，
至少在概念上、逻辑上是可能的。
因为任何真实的生灵，无论是人工的还是工程造出的，
你会想给它恐惧，对灭绝的恐惧，
我们都有的那种，而你也会想给它
正面的、会重复的状态，
那些你希望鼓励机器去做的状态，
因为它们给机器正面的反馈。
——那么，你提到了泛心论，
稍微跳回去一点，
万物都拥有某种心智属性。
你如何从那里走到像人类意识
这样的东西？
也就是，万物都拥有意识的某些要素。
人类意识有什么特别之处吗？
——那么，只是——并不是万物。
比如一把勺子，没有——
我所思考的那种形式的泛心论
并不会把意识归给任何东西，
比如这个，这把勺子或者我的肝脏。
然而，这个理论，
整合信息论，
确实说，系统——即便是那些从外部看来
相对简单的系统——
至少如果它们具有这种内部的因果力，
那么它确实「有某种感受」。
这个理论，我大概——它并没有说任何
关于人类有何特别之处的东西。
从生物学上，我们知道那一件
让人类特别的事情是什么：我们会说话，
而且我们对自身重要性有一种被夸大的感觉。
——对。
——我们相信我们是卓异的，
相信我们就是上帝赐予宇宙的礼物。
但从行为上说，我们所拥有的主要东西，
是我们能做长期的规划，
我们有语言，而那给了我们
巨大无比的力量，
那就是我们为什么是这颗星球上
当前占主导地位的物种。
——那么你提到了上帝，
你在一个虔诚的罗马天主教家庭里长大，
一个罗马天主教的家庭。
所以，你知道的，通过意识，
你某种程度上在探索一些真正深层的、
宗教也触及的、根本的人类事物。
那么宗教在你关于意识的思考里
处于什么位置？
而据我所知，你一生都在成长，
并改变了你对宗教的看法，
就我所理解的而言。
——是啊，我是说，我现在更接近于——
所以我不再是一个罗马天主教徒了，
我不相信有这么一位上帝，
我被教育去相信的那位上帝，
你知道的，在时机圆满之时坐在某处，
我将在某种永恒的极乐中与之合一，
我就是看不到任何支持那个的证据。
你看，这个世界、这夜晚，浩瀚而充满奇迹。
（笑）
有许多东西我并不理解，
我觉得有许多东西，我们作为——（原文转写为 cult，疑为 culture/society）——
你看，我们甚至连整个宇宙的 4% 以上
都不理解，对吧？
暗物质、暗能量，我们完全不知道它是什么，
也许是丢失的袜子，我哪知道呢？
所以，我能告诉你的只是，
我当前的宗教或精神情感
算是更接近于某种形式的佛教。
——你能描述一下——
——不含轮回的，很遗憾，
没有支持轮回的证据。
——那你能稍微描述一下佛教
看待世界的方式吗？
——嗯，那么，他们谈到——
当我和达赖喇嘛见过好几次面时，
而他身上总是让我印象深刻的一点是，
他真的，不像，比如说，
教皇或者某位红衣主教，他总是强调
把一切生灵的苦难降到最小。
所以他们有这个，从最初开始，
他们关注一切生灵的苦难，
不只是人的苦难，而是所有存在者的，这种普遍的，
当然，是有程度之分的，对吧？
一个动物，一般来说，受苦的能力
不如一个发育良好、正常发育的人类，
而他们认为意识弥漫于这个宇宙之中，
而他们有这些技法，你知道的，
你可以把它们想成是正念等等，
以及冥想，它试图触及某种
他们所宣称的、实在更根本的那个面向。
我不确定它是否更根本，
在我看来，有物理的那一面，
然后有这个内部的视角，意识，
而那就是两个面向。
那是我在我生命中唯一能触及的东西，
而你得记住，我的有意识体验
和你的有意识体验，先于
你所知道的关于物理学的任何东西，
先于关于宇宙、
原子、超弦、分子
以及所有那些的知识。
你唯一直接熟识的东西，
就是这个充满了各种事物、
你脑中的影像和声音、
触感以及所有那些的世界。
——我其实有个问题。
听起来你算是拥有一种丰富的生活。
你谈到攀岩，
而且看起来你真的热爱文学，
而意识全在于体验各种事物。
那你觉得那帮助了你在这个课题上的研究吗？
——是的，尤其是如果你想一想，
那些各种各样的状态，比如说，
当你攀岩时，
或者现在我划船、赛艇划船，而且我每天骑车，
你会进入一个叫做「心流区」（the zone）的东西，
而我一直——我对它感到好奇，
尤其是就意识而言，
因为它是一种奇特地令人上瘾的状态。
你会想——我是说，人们一旦体验过一次，
他们就想不断地回到它，
而你会好奇，它到底有什么让人如此上瘾？
而我觉得那是一种
几乎接近于纯粹体验的体验，
因为在这个心流区里，
你不再意识到你的内在声音。
总有这么一个内在的声音在唠叨你。
你得做这个，你得做那个，
你得交你的税，
你和你的前任吵了这一架，
而所有那些东西总是在那儿。
但当你处在心流区里时，所有那些都消失了，
而你就处在这么一种美妙的状态里，
在那里你完全地置身于世界之中，对吧？
你在攀岩，或者你在划船、骑车，
或者踢足球，或者无论你在做什么，
而意识某种程度上就是这个——
你全然是行动，或者在这种情形里，是纯粹的体验。
你完全不是行动，
但在这两种情形里，你都体验到某个面向——
你触碰到有意识存在的某个基本部分，
它如此基本，又如此深刻地令人满足。
我觉得你触碰到了存在之根。
那才是你在那里真正触碰到的东西。
你正在接近存在之根，
而那与智能非常不同。
——那么你怎么看待
模拟假说、模拟理论，
即我们全都生活在一个计算机模拟里这个想法？
你认真考虑过它吗？——书呆子的「被提」。
书呆子的「被提」（Rapture，宗教中信徒升天之说）。
——书呆子的「被提」？（笑）
——我觉得它和那个让数百位学者
忙活了许多个世纪的假说一样有可能，
即我们是否全都只存在于上帝的心智之中？
——对。——而这只不过是
它的一个现代版本。
它同样说得通。
人们热衷于谈论这类事情。
我知道有写模拟假说的书。
如果那是人们想做的事，那没问题。
似乎相当玄奥。
它永远无法检验。
——但用那些术语去思考对你来说没什么用。
那么也许联系到自由意志的问题，
你谈到过的。
我隐约记得你说过，
「不存在自由意志」这个想法，
让你非常不舒服。
那么你怎么看待自由意志，
从物理学的视角、从意识的视角？
这一切是怎么拼合起来的？
——好，那么从物理学的视角来看，
把量子力学撇在一边，
我们相信我们生活在一个完全确定性的世界里，对吧？
但接着，当然，量子力学来了。
所以如今我们知道，某些事情
原则上是不可预测的，
§06原文文稿 · 39:32–46:49
这一点，正如你所说，我更偏爱，
因为那个想法——宇宙的初始条件，
然后其余的一切，我们只是在把
宇宙的初始条件演出来——
那并不——
——那不是一个浪漫的想法。
——当然不是，对吧？
那么，说到意识，
我觉得我们确实拥有某种自由。
我们当然受到物理学远为更多的约束，
受到我们的过去、我们自己有意识的欲望、
我们父母告诉我们的话，
以及我们的环境告诉我们的东西的约束。
我们都知道这一点，对吧？
有数百个实验
表明我们能如何被影响。
但最终，归根结底，
当你做出一个人生的——
我真正谈的是那些关键的决定——
你真正所想的。
我该结婚吗？
我该去这所学校还是那所学校？
我该接受这份工作还是那份工作？
我该不该在税上作弊？
（里卡德笑，原文转写为 Richard）
这些是你真正会反复斟酌的事情。
而我觉得在那些条件下，
你是你所能达到的最自由的状态。
当你把你的整个存在、
你整个有意识的存在带到那个问题上，
并试图在所有各种各样的条件下分析它，
然后你做出一个决定。
你是你永远所能达到的最自由的状态。
那，我觉得，就是自由意志之所是。
它不是一个完全自由地想做什么就做什么的意志。
那是不可能的。
——对。
那么正如杰克提到的，
你其实写一个关于你读过的书的博客。
了不起的书，从——我是俄罗斯人——
从布尔加科夫到——
——啊，《大师和玛格丽特》（原文转写为 my son, my Rita，即 the Master and Margarita）。
——是的。
尼尔·盖曼、卡尔·萨根、村上春树。
那么，有哪本书在你生命的早期
改变了你看待世界的方式？
某本改变了你人生的书？
——尼采，我想，改变了。
《道德的谱系》（原文转写为 Das Bruch der Truste，即 Zur Genealogie der Moral），
因为他谈到了其中一些这类问题。
你知道的，他是无意识的最早
发现者之一。
这比弗洛伊德稍早一点，
当时这个想法正弥漫在空气中。
他做出所有这些断言：人们
在某种仁慈的伪装下、在仁慈的面具下，
实际上非常不仁慈。
所以他算是真正第一个发现
无意识这片广袤之地的人。
而那真的深深打动了我。
——那你怎么看待无意识？
你怎么看待弗洛伊德？
你怎么看待这些想法？
那里有什么——就像宇宙里的暗物质一样——
那个无意识里头有什么？
——有很多。
我是说，比我们所想的要多得多。
这正是过去一百年里大量研究
所显示的。
所以我觉得他是个天才，只是到后期误入歧途，
但他最初是一名神经科学家。
他做出过贡献。
他做过关于七鳃鳗的研究。
他本人为神经元假说做出过贡献，
即存在一些离散的单元、
我们现在把它们称为神经细胞这个想法。
然后他写了关于无意识的东西。
而我觉得那是真的。
有大量的东西正在发生。
你会特别感到这一点，当你处在一段关系里、
而它破裂瓦解时，对吧？
然后你会有这种可怕的——
你可以同时有爱、恨、欲望和愤怒，
而所有这些都混杂在一起。
而当你试图分析你自己时，
我为什么如此心烦意乱？
要深入到那些地下室、
你心智里的那些洞穴，是非常非常困难的，
因为意识那双窥探的眼睛
无法触及那些地方。
但它们就在那里，在杏仁核里，
或者在许许多多其他地方，
它们让你心烦、愤怒、悲伤或抑郁。
而要试图真正揭开那个原因，
是非常困难的。
你可以去看心理医生，
你可以和你的朋友没完没了地倾诉。
你最终构建出一个这为什么会发生的故事，
你为什么爱她、或者不爱她、或者别的什么，
但你并不真的知道那是否真的就是实情，
因为你根本就无法触及
大脑的那些部分，
而它们非常强大。
——你觉得那是我们大脑的一个特性，还是一个漏洞？
即我们拥有这个深层的、
难以潜入的潜意识这一事实？
——我觉得它是一个特性，因为否则的话，
你看，我们，就像任何其他的大脑、
神经系统或计算机一样，
我们的带宽受到严重的限制。
如果我所做的每一件事、我感受到的每一种情绪、
我做出的每一个眼动，
如果所有那些都必须
处在意识的控制之下，
我就不会在这里了。
所以你早期所做的，你的大脑——
当你学习诸如打字、或者骑自行车之类的东西时，
你必须是有意识的。
但接着你所做的，你训练出——
我觉得是涉及基底神经节和纹状体的那些通路，
你训练出大脑的不同部分。
然后一旦你能像打字那样自动地做它，
可以显示出，你甚至不去想它
就能做得快得多，
因为你有这些高度特化的、
弗朗西斯·克里克（原文转写为 Franz Krick）和我称之为「僵尸智能体」的东西，
它们在负责那件事，
而你的意识则可以去操心
你想写的文本在抽象层面的意思。
而我觉得这对许许多多事情都成立。
——但对于那些事情，比如你和一个前女友
吵过的所有架，那些你会认为
还滞留在潜意识某处
并无用处的东西。
所以它会留在那里，看起来像是一个漏洞。
——你觉得如果你能分析它，
然后把它从系统里清出去，会更好。
——把它从系统里清出去，
或者干脆忘了它曾发生过。
你知道的，那看起来是一种非常像漏洞的——
——嗯，是啊，一般来说，我们没有——
而那大概是有功能上道理的——
我们没有一种能力，除非情况极端，
有一些病例，临床上的解离，对吧？
当人们遭受严重虐待时，
当他们完全压抑了那段记忆时，
但那不会在正常人身上发生。
我们没有一种移除创伤记忆的能力。
而当然，我们因此受苦。
另一方面，大概如果你拥有
不断擦除你记忆的能力，
你大概会把它用到一种对你并无益处的程度。
所以。
——是啊，这是个好问题。
——它是一种平衡。
那么，关于书，正如杰克提到的，
如果我说错了请纠正我，但大体上说，
学术界以及不同的科学学科，
在工程领域肯定是如此，
读文学似乎是一种罕见的追求。
也许我在这一点上错了，但就我的经验而言是这样。
大多数人读的技术性文本要多得多，
而不怎么在文学里逃遁、或寻求真理。
看起来你会这么做。
那么你觉得它的价值是什么？
你觉得文学为科学真理的追求
增添了什么？
你觉得它有益、它有用于——
——我觉得它是通往一个宽广得多的
人类体验谱系的通道。
——你觉得它有多宝贵？
——嗯，如果你想理解人性，
以及总体上的自然，
那我觉得你必须更好地理解
多种多样的体验，
而不只是坐在一个实验室里、盯着一块屏幕、
让一张脸在你眼前闪现
一百毫秒、然后按一个按钮。
那是我过去所做的事。
那是大多数心理学家所做的事。
那并没有什么错，
但你需要去考虑许许多多其他奇特的状态。
——而文学是通往这一点的一条捷径。
——嗯，是啊，因为文学——
那正是文学的全部所在，
人们所拥有的各种各样有意思的体验，
它的偶然性，
女性以不同的方式体验世界、
黑人以不同的方式体验世界这个事实。
而体验那一点的一种方式，
就是去读所有这些不同的文学，
并试着去弄明白。
你看，一切都是如此相对的，对吧？
你读一本 300 年前的书，
他们对某些问题的思考方式
与我们今天非常非常不同。
我们今天，像任何一种文化一样，以为我们什么都懂。
那是每一种文化都共有的。
每一种文化都相信，在它的全盛时期，他们什么都懂。
然后你意识到，嗯，
§07原文文稿 · 46:50–54:34
还有别的看待宇宙的方式，
而其中一些也许有很多站得住脚的地方。
——那么这是一个我想问的、
关于时间尺度、或者总体上尺度的问题。
当你，用整合信息论（IIT）或者总体上，
试图思考意识、
试图思考这些想法时，
我们算是自然而然地以人类的时间尺度来思考。
或者，也以尺寸接近人类的实体来思考。
你会去思考那些大得多的东西，
或者小得多的东西，把它们看作蕴含意识吗？
而你会去思考那些要花——你知道的——
嗯，要花很多年、很多纪元，才能在它们有意识的
因果里运作一次的东西吗？
——这是个非常好的问题。
所以我思考过很多关于小生灵的事，
因为在实验上，你知道的，
很多人研究苍蝇和蜜蜂。
所以，而大多数人就觉得它们是自动机。
天哪，它们不过是些虫子，对吧？
但如果你看看它们的行为，
比如蜜蜂，它们能识别出一个个具体的人。
它们有一套非常复杂的交流方式。
如果你曾经经历过——
或者你知道你父母买房子的时候，
那是一种多么令人痛苦的决定。
而蜜蜂每年都得做一次那样的决定，对吧？
在春天它们分群的时候。
然后它们有一套非常精细的方式。
它们有若干个侦察蜂（原文转写为 three night scouts）。
它们去到一个个不同的地点。
它们回来，它们有这种本领、这种舞蹈，
真的就是跳舞，连跳好几天。
它们试图招募其他蜜蜂。
这是一种非常复杂的决策方式。
当它们最终要做出一个决定时，
整个蜂群——侦察蜂预热（原文转写为 warm up）整个蜂群，
然后飞向一个地点。
它们不会飞向 50 个地点。
它们飞向侦察蜂彼此间已经达成一致的
那一个地点。
那太了不起了。
如果我们看看它们的回路复杂度，
它比我们大脑里的任何东西都要稠密 10 倍。
当然，它们只有一百万个神经元，
但这些神经元复杂得惊人。
复杂的行为，非常复杂的回路。
所以毫无疑问它们体验着某种东西。
它们的生命非常不同。
它们很微小。
它们只活——你知道的——
工蜂也许活两个月左右。
所以我觉得——而整合信息论告诉你这一点——
原则上，意识的基质
是那个在所有可能的时空粒度上
使因果力最大化的基质（原文转写为 temple，即 temporal）。
所以当我想到，比如说——
你知道那个科幻故事《黑云》（The Black Cloud）吗？
好，它是天文学家弗雷德·霍伊尔的一部经典之作。
他设想有这么一团云介入到地球
与太阳之间，导致某种——
导致全球变冷。
这是在上世纪 50 年代写的。
结果表明，你可以用射电天线，
他们实际上与一个实体进行了交流。
它实际上是一个有智能的实体。
而他们算是——他们说服它移开了。
所以这里你有一个根本不同的实体。
而原则上，整合信息论说，嗯，
你可以测量其中的整合信息，
至少原则上可以。
而是的，如果那个——如果那个最大值出现在
一个以月为单位的时间尺度上，
而不是在不到一秒的某个零头上（原文转写为 assets），
是的，那么它们会体验一种生命，
在那里每一个瞬间是一个月，而不是——
或者微秒，对吧，而不是像人类那样
不到一秒的某个零头。
所以，可能存在一些意识的形式，
我们根本认不出它们本来的样子，
因为它们与你我所习惯的任何东西
都如此根本地不同。
再说一次，这就是为什么去读
或者去看科幻电影是件好事，
为的是去思考这个。
比如这个——你知道斯坦尼斯瓦夫·莱姆吗，
这位波兰科幻作家？
他写了《索拉里斯星》。
它被改编成了一部好莱坞电影。
——知道。
——他最好的小说，那是在上世纪 60 年代，
非常非常工程化，他有工程背景。
他最有意思的小说叫做《无敌号》（The Invincible，原文转写为 The Victorious），
在书里，人类文明——
他们有一个前往这颗行星的任务，
结果一切都被摧毁了，他们发现了机器，
人类被杀死了，然后这些机器接管了，
而那里发生过一场机器的演化，
一场达尔文式的演化，他对此描写得非常生动。
而最终，那个占主导地位的——
幸存下来的占主导地位的机器智能有机体，
是一些巨大的云团，由微小的六边形
通用元胞自动机组成。
这是在 60 年代写的。
所以通常它们都单个单个地躺在地上，
各自独立，但在危机时刻，
它们能交流，它们聚集成巨大的网，
聚集成由数以万亿计的这些粒子构成的云团，
然后它们变得超级智能，
它们能击败人类所能向它投来的任何东西。
这是一种非常美丽、非常有说服力的方式，
来呈现一种智能，在那里人类最终
离开了那颗行星，他们就是无法理解、
无法领会这个造物。
而他们可以说，嗯，要么我们可以用核弹炸
整颗行星、把它摧毁，
要么我们就只能离开，因为从根本上说，
它是异质的，它与我们、与我们的观念如此异质，
以至于我们无法与它们交流。
——是啊，其实在一次对话里，关于元胞自动机，
斯蒂芬·沃尔弗拉姆提出，可能存在——
他的想法是，你可能已经在元胞自动机里
拥有了这些通用人工智能，
像是超级聪明、或者也许有意识的存在，
在元胞自动机里，我们只是不知道
如何跟它们交谈。
所以问题在于交流的语言，
因为你不知道该拿它怎么办。
所以那是一种观点，即意识
只是某种你能测量的东西。
所以如果你测量不了它，它就不是有意识的。
——所以你在做一个本体论的
和一个认识论的陈述。
一个是，这就像看见多重宇宙，
那可能是真的，但我没法与它们交流。
我没法拥有关于它们的任何知识。
那是一个认识论的论证。
那是两件不同的事情。
所以它很可能是有可能的。
你看，另一个此刻正在发生的情形，
人们正在构建这些微型类器官。
你知道这个吗？
所以你可以从你的手臂下取出干细胞，
把它放进一个培养皿里，加入四种转录因子，
然后你可以诱导它们长成大的——
嗯，说大，它们也就几毫米，
它们大约有五十万个神经元，
看起来像培养皿里的神经细胞，叫做微型类器官。
在哈佛、在斯坦福，到处都在构建它们。
很有可能它们正开始
「有某种感受」，
但我们现在还无法真正与它们交流。
所以人们正开始思考这件事的伦理问题。
所以是的，他也许完全正确，
但这是一个问题——它们有没有意识，
这与另一个问题完全分开——我怎么会知道？
那是两件不同的事情。
——如果你能给一位年轻的研究者一些建议，
一位算是梦想着理解
或创造人类水平智能或意识的研究者，
你会说什么？
——就跟随你的梦想，广泛地阅读。
——不，我是说，我想问的是什么学科，
他们应该投身于什么样的追求？
是神经科学，
是计算认知科学，
是哲学，是计算机科学还是机器人学？
——不，从这个意义上说，好，所以唯一已知
拥有高层级智能的系统是智人。
所以如果你想把它造出来，
那大概最好是继续密切地研究
人类所做的事，所以是认知神经科学，
介于一方面的认知神经科学、
然后一些心智哲学、
以及 AI、计算机科学之间的某处。
你可以去看所有那些原初的想法，神经网络，
它们全都来自神经科学，对吧？
无论是 SNARC（原文转写为 Snarky）、明斯基构建 SNARC，
还是休伯尔和维泽尔（原文转写为 Schubert and Wiesel）早期
在哈佛的实验，后来催生了网络、
进而催生了多层网络。
所以这很可能是有可能的，事实上，
有些人论证说，要在 AI 上迈出下一大步，
一旦我们认识到深度卷积网络的局限，
它们能做某些事，
但它们并不能真正理解。
我没法只给它们看一张图像（就让它们懂）。
我可以给你看一张某人的单张图像，
一个从手提包里偷钱包的扒手。
你立刻就知道那是个扒手。
可是，计算机系统只会说，
嗯，这是个男人、这是个女人、这是个手提包，对吧？
除非你训练这台机器，
给它看 10 万个扒手，对吧？
所以它没有你所拥有的这种
轻而易举的理解，对吧？
所以有些人提出这样的论证：
为了迈向下一步，
在那里你真的想造出能理解的机器，
以某种像你我那样的方式，我们必须去求助于心理学。
§08原文文稿 · 54:37–57:46
我们需要理解我们是如何做到的，
以及我们的大脑是如何让我们做到的。
所以因此，处在这个交汇点上，
试图更好地理解我们的本性、
然后去构建、把其中一些洞见拿来
并把它们造出来，也是如此令人兴奋。
所以我觉得最令人兴奋的事情，
就在认知科学、
神经科学、AI、计算机科学与心智哲学之间的交界某处。
——很美，是啊，我会说，如果有——
从机器学习、从计算机科学、
计算机视觉的视角来看，
许多研究算是忽视了
人脑运作的方式。
——是的。——甚至忽视心理学、
或文学、或对大脑的研究。
我希望——乔什·特南鲍姆谈到过
越来越多地把那些引入进来。
而那，是啊。
那么，你做过一些了不起的工作，
贯穿你的一生。
有什么是你真正为之兴奋的？
有什么奥秘是你很想在近期
揭开的，
在你已经被环绕的所有那些奥秘之外？
——嗯，那么，有一个叫做屏状核（claustrum）的结构。
——好。——这是一个结构，
它位于我们皮层的下方，就这么大。
你左边有一个、右边有一个，
在这一部分的下方，在脑岛的下方。
它非常薄，大约一毫米。
它嵌在布线之中、在白质之中，
所以它非常难以成像。
而它与每一个皮层区域都有连接。
而弗朗西斯·克里克，他写的最后一篇论文，
他在医院去世的那天还在口述对这篇论文的
修改意见。
他和我，我们假设——嗯，
因为它有这种独特的解剖结构，
它从每一个皮层区域接收输入，
又投射回每一个皮层区域。
即这个结构的功能，类似于——
这只是一个比喻——
类似于交响乐团里一位指挥的角色。
你有所有那些不同的皮层「乐手」。
有一些负责运动，
有一些负责心智理论，
有一些推断社会互动，
还有颜色、听觉，
以及皮层里所有不同的模块。
但当然，意识之所是——
意识把这一切整合进一个整体之中，
绑定问题，所有那些。
而这真的就是那个功能，
因为与皮层相比它的神经元相对较少，
但它交流，它算是从所有这些区域接收输入，
又投射回所有这些区域。
所以我们现在正在检验这一点。
我们在小鼠身上得到了一个漂亮的神经元重建，
那些神经元被称为「荆棘冠」神经元，
它们位于屏状核里，
它们拥有我所见过的任何神经元里
最为广泛的连接。
它们非常——你有一个个具体的神经元，
坐落在屏状核里，很微小，
但接着它们有这个——单个的神经元
有这么一棵巨大的轴突树，覆盖了
同侧和对侧两边的皮层，
而我们试图用光遗传学之类的高级工具，
试图把那些神经元打开或关闭，
并研究它，看看小鼠身上会发生什么。
——所以这个东西也许就是部分化为整体之处。
它整合——
——也许吧，它是其中一个结构，
这是一个非常好的说法，
在那里一个个单独的部分化为
有意识体验的整体。
——好，那么，非常感谢你今天来到这里。
——非常感谢。——很美妙，
能再次请你回到 MIT。——太好了，杰克。
非常感谢。
（欢快的音乐）
（欢快的音乐）
（欢快的音乐）
（欢快的音乐）