Pamela McCorduck: 帕梅拉·麦考达克：《会思考的机器》与人工智能的早期岁月
Pamela McCorduck: Machines Who Think and the Early Days of AI
Guests: Pamela McCorduck
Full transcript · Read the full conversation in order, with its original context.
§01原文文稿 · 00:00–23:42
以下是与帕梅拉·麦考达克（Pamela McCorduck，原文转写为 McCordick）的对话。她是一位作家，写过
人工智能的历史及其哲学意义。她的著作包括
1979 年的《会思考的机器》，1983 年与爱德·费根鲍姆合著的《第五代》，费根鲍姆被视为
专家系统之父，还有以女性为主题的《混沌的边缘》，以及许多其他著作。
我是以一种不寻常的方式接触到她的作品的：偶然读到《会思考的机器》里的一句话，
大意是：人工智能始于锻造众神的古老愿望。
这是一种很美的方式，把我们社会与 AI 的关系连接起来，
从脚踏实地的日常科学、数学和工程，到大众故事和科幻小说，
再到可追溯数百年的自动机神话。通过她的文学作品，
她花了大量时间接触人工智能领域的奠基性人物，包括
1956 年达特茅斯夏季研讨会上的 AI 创始人，这一领域正是在那次研讨会上起步的。
我联系了帕梅拉做一场对话，希望了解那些早期
岁月是什么样子，以及他们的梦想如何继续在我们这个社群
今天的工作中回响。我常常不知道对话会把我们带向何处，但我会投入其中去看看。没有任何
约束、规则或目标，是发现新想法的绝佳方式。这里是《人工
智能播客》。如果你喜欢，请在 YouTube 上订阅，在 iTunes 上打五星，
在 Patreon 上支持，或者在推特上联系我，账号是 Lex Friedman，拼写为 F R I D M
A N。现在，请听我与帕梅拉·麦考达克的对话。1979 年，你的《会思考的机器》
出版了。书中你采访了一些早期的 AI 先驱，并探讨了这样一个观点：
AI 或许并非诞生于数学和计算机科学，而是诞生于神话和传说。那么，请告诉我，
如果可以的话，讲讲你最初是怎样写到这本书的，开始写作的历程是怎样的。
我原来是个小说家。我出版过两部小说，有一天我坐在斯坦福的门廊下，
那是我们夏天租的房子。我想，我该写一部关于这些
AI 领域怪人的小说，我认识他们。然后我又想，啊，别写小说，写一部历史吧。简单。
只要四处走走，采访他们，拼接起来，瞧，一本现成的书。哈哈哈。
其实比这难得多。但没有别人在做这件事。所以我想，嗯，这是个绝好的
机会。有些人，比如约翰·麦卡锡，认为这是个疯狂的
想法。这个领域还没发展起来，等等。他还有个数学方面的东西，觉得我应该
改写那个。我说，不，约翰，我不是在找项目的女人。这是我想
做的事。我希望你能配合。他说，哦，嘟囔嘟囔，好吧，那是你的时间。
你当时是怎么推介这个想法的？我的意思是，那时这个领域还那么年轻。你怎么为一个如此年轻的领域
写一部个人化的历史？我说，这太好了。这个领域的创始人
都还健在，精力充沛，能谈论他们在做的事。他们当时听起来或感觉起来像创始人吗？
他们知道自己创立了某种东西吗？
哦，是的。他们知道自己做的事非常重要。非常。我现在回头看到的
是，他们正处于研究生涯的巅峰。让我感到谦卑的是，他们
抽出时间，放下身处那个位置必须做的所有事情，来和
这位说“我想我要写一本关于你们的书”的女人交谈。不，这太了不起了。真的了不起。
那么谁给你的印象最深？也许回顾 63 年前的达特茅斯会议，
马文·明斯基在，麦卡锡在，克劳德·香农、艾伦·纽厄尔、赫伯·西蒙，
还有你提到过的一些人。还有其他人物，对吧？你的一位合作者
他不在达特茅斯。
他不在达特茅斯。
不在。我想他当时还是本科生。
当然还有乔·特劳布。这些都是那个时代的参与者，虽然不在达特茅斯。
对。
卡内基梅隆大学等等。那么如果你能描绘一幅图景，有哪些人物令你印象深刻，
凭记忆来说？包括你采访过的人，也可能没采访过，只是身处那种
氛围之中的人。
氛围之中。
当然，四位创始人都是非凡的人物。他们确实是。
四位创始人是谁？
艾伦·纽厄尔、赫伯特·西蒙、马文·明斯基、约翰·麦卡锡。他们四人不仅
参加了达特茅斯会议，而且纽厄尔和西蒙带着一个能运行的程序抵达，
名叫“逻辑理论家”。其他人对如何做都有很好的想法，但
但他们还没打算动手。
你提到了乔·特劳布，我的丈夫。在认识乔之前，我就已经沉浸在 AI 之中，
因为我曾是斯坦福的爱德·费根鲍姆的助理。在那之前，
我参与过一本由费根鲍姆和朱利安·费尔德曼编辑的书，名叫《计算机与思维》。
那是第一本 AI 读本教材。他们编这本书，只是因为他们想给伯克利的人
讲授 AI。当时什么都没有，你得让他们去这本期刊那本期刊上找。
那时不是可以上网查文章的互联网时代。所以我从一开始就对
AI 着迷。我是英语专业的，我懂什么？可我就是着迷。这就是
你看到那种历史的、文学的背景的原因，我认为它在很大程度上是
AI 这一延续脉络的一部分，AI 正是出自同样的冲动。那种传统的，那是什么，
是什么吸引你走向 AI？你当时是怎么看待它的？有哪些可能性、
哪些梦想？什么让你感兴趣？人类头颅之外的智能这个想法，
这是个非凡的想法。即使在我写完《会思考的机器》时，
我也不知道他们能否成功。事实上，最后一章非常含糊，
坦率地说。这个领域是成功了。是的。那么，是否存在这样的想法：AI 始于锻造众神的
愿望？也就是我们渴望创造这种比我们自己
更伟大的另一种存在的精神成分。对那些人来说，我认为不是。纽厄尔和西蒙是认知心理学家。
他们想要的是模拟人类智能的各个方面，
并且发现可以在计算机上做到。明斯基只是觉得这是件很酷的事。
麦卡锡也是一样。麦卡锡在 1949 年还是加州理工学院的学生时就有了这个想法。
他听了某个人的讲座，这在我的书里有，我忘了是谁了。他想，
哦，这会很有趣。我们怎么做呢？他采取了非常数学化的方法。
明斯基是混合型的，纽厄尔和西蒙则非常偏认知心理学。我们如何模拟
人类认知的各个方面？多年来发生的事情当然是，
我们对智能的定义大大扩展了。如今，生物学家
可以坦然地谈论细胞的智能、大脑的智能，
不只是人脑，而是任何一种大脑的智能。头足类动物，我是说，章鱼
无论怎么衡量都非常聪明。我们在 60 年代甚至 70 年代都不会这样想。
所以所有这些都融入了进来。我确实听一位行为灵长类学家弗朗斯·德瓦尔（Franz De Waal）
说过，AI 教会了我们该问什么问题。是的，这就是会发生的事，对吧？当你尝试去构建它，
你才真正开始提问。它给我们自己照了一面镜子。是的，没错。所以你
身处其中。似乎没有多少人在问你问的那些问题，
或者像你这样去审视这个领域。我当时地位很低。我去
为此申请资金，因为我需要有人转录访谈，也需要差旅
费用，我找遍了你能想到的所有机构，国家科学基金会、DARPA，还有一个空军的
拨款机构。每一个都说，嗯，这是个很有趣的想法。
但我们会考虑一下。国家科学基金会甚至明明白白地对我说，
嘿，你只是个作家，不是科学史学家。我说，是的，没错。但
科学史学家以后会在这个领域里扎堆。我是为普通
读者写的，我当时是这么想的。他们仍然不肯让步。最后我拿到了一笔私人资助，
起初并不知道来自谁，后来才知道是麻省理工学院的爱德·弗雷德金。他很富有，喜欢他所谓的
“怪人点子”。他认为这是个怪点子，并且愿意支持。我永远
感激他，我要这么说。有人会说，从科学史角度看待 AI，或者哪怕只是一部
历史，或者任何类似你写的这本书的东西，此后就再没人写过。也许是我
不了解，但肯定不多。如果我们把视野放得比这短短的几十年
更大一些，AI 的根源是什么？哦，可以追溯得非常久远。是的，当然，
有各种传说，比如魔像和 20 世纪早期的机器人。但可以追溯得
远得多。如果你读荷马，《伊利亚特》里就有机器人。一位古典学者
几个月前向我指出，你说你刚读完《奥德赛》。《奥德赛》
里到处是机器人。是吗？我问。是的。你以为奥德修斯的船是怎样从一个地方到另一个地方的？
他没有那么多船员来做这件事。对，那是魔法，那是机器人。
哦，我想，真有意思。所以我们很早以前就有了 AI 这个概念。然后到了
19 世纪末、20 世纪初，有科学家真的
试图以某种方式实现它，但没有成功。他们没有相应的技术。
当然还有 19 世纪 50、60 年代的巴贝奇，他看到自己制造的东西能够
表现出智能行为。当他的资金耗尽，英国政府最终说，
够了。他和洛夫莱斯夫人决定，哦，那我们何不拿这个去赌赛马？他
还有其他筹钱的想法。但如果我们再回溯一次，我想人们
其实并不真正知道机器人和机器人的概念确实出现过。你谈到了希腊式的
和希伯来式的观点。哦，是的。你能分别讲讲吗？我是这样界定的。
希腊式观点认为机器人很棒。它们是帮手。它们帮助这位赫菲斯托斯，
这位神祇在他的锻造坊里。我想他造它们是为了帮自己，诸如此类。
他们欢迎机器人这整个概念。希伯来式观点与，我想是第二条
诫命有关：不可为自己雕刻偶像。换句话说，你最好不要
开始模仿人类，因为那是被禁止的。这是第二条诫命。
对人工智能的许多反应，是觉得这在某种程度上是邪恶的，
在某种程度上是亵渎的，我们不该走这条路。现在你可以说，是的，但会有
一些负面影响。我说，是的，有，但亵渎不在其中。
有一种恐惧感觉近乎原始。这有宗教根源吗？
因为我们社会的很大一部分有宗教根源。所以会有一种感觉，就像你
说的，创造“他者”的亵渎，创造某种东西，不一定
是人工智能，而是一般意义上创造生命。这是弗兰肯斯坦的想法。
我的咖啡桌上就放着带注释的《弗兰肯斯坦》。那是一部了不起的小说，真的
极其敏锐。是的，我们确实害怕这个，而且有充分的理由害怕，
因为它可能失控。也许你可以谈谈这种恐惧，
关于它的心理，如果你想过的话。你知道，短期内有一组现实的恐惧和
担忧。如果我们真的思考人工智能
系统，可以想到算法中的偏见与歧视。可以想到社交
网络有推荐你所见内容的算法，这些算法因此控制着
大众的行为。有这些担忧。但在我看来，人们的恐惧
比这更深。那么你思考过其中的心理吗？
我想我肤浅地想过。有这样一种观念：如果我们制造出一台
会思考的机器，它会比我们想得更好，从而取代我们。
我想这是一种近乎对死亡的原始恐惧。你说大约在那个时候
你在斯坦福与爱德·费根鲍姆共事。我们来看看这个人。纵观他的
历史，他显然是关键人物，是 AI 历史上众多关键人物之一。他本人总体上有什么变化，
他周围又有什么变化？斯坦福在过去，我们谈的是多少年？
哦，从 65 年起。
65 年。所以也许不必只谈他，可以更宏观一些。但因为他是专家系统中的
关键人物，比如，那么你在 70 年代、79 年采访过的这些人，
这几十年里发生了怎样的变化？
就爱德而言，我很了解他。我们是亲密的朋友，大约每个月见一次。他告诉我，
《会思考的机器》刚出版时，他真觉得所有的前言部分都有点
胡扯。十年后，他说，不，我明白你想说什么了。是的，这是一种冲动，
数千年来人类一直有这种冲动，要在人类头颅之外
创造出具有智能的东西。我认为当你身处算法层面时，
只是努力让某样东西跑起来，这已经够难了，很难再退后一步去思考
全局。这让我想起在圣达菲时，我认识很多考古学家，
这是我的一个爱好。我会说，是啊是啊，你可以看着陶片说，
哦，这来自这个部落，这来自这条贸易路线，等等。但整体
图景呢？一位非常杰出的考古学家对我说，他们不这样想。不，
他们是在把陶片与其来源对应起来。这堆玉米的其余部分
是从哪来的？是在这里种的吗？还是在别处种的？我认为这是任何
科学领域的一部分。你忙于艰苦的工作，那确实是艰苦的工作，以至于没有退后一步
说，哦，现在我们来谈谈这一切的总体意义。是的。
那么连明斯基和麦卡锡也没有，他们……
哦，那些人想过。是的，创始人们想过。
是早期还是后来？
相当早。但方式与我看待它的方式不同。那两位认知心理学家，
纽厄尔和西蒙，他们想设想改造认知心理学，让我们能够真正、
真正理解大脑。明斯基更偏思辨。约翰·麦卡锡则把它看作，
我想我这样说对他是公道的，他确实认为拥有这项技术对人类是一大福音，
仅此就足以成为去做的理由。他有非常精彩的
寓言，说如果你做了数学推导，就会看到这些东西对
人类确实有益。如果你提出技术上的反对，他有答案，一个技术上的
答案。他会说，我们可以这样克服，然后等等等等。他最喜欢的一件事
是他所谓的“文学问题”，当然他曾好几次向我提起。
就是文学中的一切都有惯例。其中一个惯例
是有反派和英雄。而在大多数文学作品中，英雄是人类，
反派是机器。他说，事情根本不会是这样发展的。
但这是我们习惯的样子。所以当我们讲述 AI 的故事时，总是
套用这种模式。我想，是的，他说得对。回头看，经典作品《罗素姆万能机器人》（RUR）当然就是
机器试图推翻人类。《弗兰肯斯坦》不一样。弗兰肯斯坦是
一个造物。他从来没有名字。弗兰肯斯坦当然是创造他的那个人，人类，
弗兰肯斯坦博士。这个造物想被爱，想被接纳。只有当
弗兰肯斯坦转过头去，其实是朝相反方向跑掉，造物失去了爱，
他才变成后来的那个怪物。
那么《弗兰肯斯坦》里谁是反派？不清楚，对吧？
哦，是不清楚。
其实是那些逼迫他的人。他们把他逼走，激发出了他最坏的一面。
没错。他们不给他任何人间的慰藉。他被赶走了，你说得对。
他曾一度成为一位盲人的朋友。他侍奉这位盲人，
两人变得很亲近。但当盲人家里视力正常的人走进来时，
啊，你这里有个怪物。所以它在某种意义上很有说教性。我原先不知道的
是，玛丽·雪莱和珀西·雪莱是关于废奴
——美国废除奴隶制——的文献的热心读者。他们全盘吸收了这些：你们正在把这些人
变成怪物，因为你们不肯给他们应得的尊重和爱。
如果我们哲学一下，你是否担心，一旦我们造出
稍微更聪明一点的机器，比如看看 Roomba 这种吸尘器、清洁机器人，
人性中那种虐待他者、虐待与我们不同者的阴暗面
会显现出来？
我不担心。我能想象它会发生。但我认为 AI 能为人类带来的东西
会如此有吸引力，以至于人们会被说服。
你深入研究过这些人，与他们有过深入交谈，很有意思的是想了解
他们思考方式的故事，以及它是如何改变的，你自己
§02原文文稿 · 23:42–46:21
对 AI 的思考是如何改变的。你提到了麦卡锡。那么在卡内基梅隆大学的那些年呢，
和乔在一起时？好的。乔不在 AI 领域，他研究的是算法复杂性。
比如说，AI 和计算机科学之间是否一直有一条界线？
AI 是不是一个自成一体的“弃儿”之地？当时是这种感觉吗？
AI 确实有过一段被排斥的时期。比如 1974 年，这个新领域才刚满 10 年。
计算机科学这一新领域被国家科学基金会要求，
我相信是国家科学基金会，但也可能是国家科学院，我记不清了，
向同行科学家说明计算机科学处于什么位置、意味着什么。
他们想把 AI 排除在外。他们同意把它放进去，只是因为唐·克努特说，
嘿，这很重要，你们不能把它漏掉。
真的吗？唐，老兄？
唐·克努特，是的。
我最近也和他聊过。偏偏是他。
是的。但你看，AI 圈的人不可能提出这个论点，没人会相信他。
但克努特是被相信的。是的。
所以乔·特劳布研究的是“真东西”。
乔研究算法复杂性。但他会一再明明白白地说，
我认识的最聪明的人都在 AI 领域。
真的吗？
哦，是的，毫无疑问。总之，乔喜欢这些人。事情是这样的，我想是在
我开始写《会思考的机器》的时候，赫伯·西蒙和我成了非常亲近的朋友。
他每天下班后会走过我们在诺森伯兰街的房子。而我正好
在给打字机盖上罩子。我会探出门去说，
赫伯，要不要来杯雪莉酒？赫伯几乎总是想喝一杯雪莉酒。于是他就进来，
我们聊一两个小时。我的日记里写着，我们今天下午聊了三个小时。
当时他在 AI 方面心里想的是什么？
哦，我们没怎么谈 AI，聊的是别的事。
就是生活。
我们都热爱文学。赫伯用法语原文把普鲁斯特从头到尾读过两遍。
我做不到，我读的是英文译本。所以我们聊文学。
聊语言，聊音乐，因为他热爱音乐。我们还聊
艺术，因为他其实画得够好，后来不得不放弃，因为他担心
这会妨碍他的研究，等等。所以不，真的就是闲聊。
但很温暖。有一年夏天我对赫伯说，我的学生们拥有所有真正
有趣的对话。我当时在匹兹堡大学英语系教书。
他们可以谈论生命的意义之类的话题。而我有什么呢？
我只有大学的会议，讨论复印预算，以及浪漫主义诗歌课
该上一学期还是两学期。赫伯笑了。他说，是的，我明白你的意思。
他说，但你可以做点什么。多特，那是他的妻子，多特和我过去
在芝加哥大学每个周日晚上办沙龙。基本上就是
敞开大门，人们都知道。不是为了闲聊，而是真正为了某个有深度的
话题。他说，但我的建议是你事先选好话题。好，我说。
于是整个夏天我们通信。那时用的是美国邮政，因为
当时没有个人电子邮件。我决定由我来组织，一共八个人，
艾伦·诺兰（原文转写，应指艾伦·纽厄尔）和他的妻子、赫伯·西蒙和他的妻子多萝西娅。城里有一位小说家，
叫马克·哈里斯，他刚到，还有他的妻子约瑟芬。马克当时最出名的是
一部叫《轻轻敲起战鼓》的小说，写的是棒球。再加上乔和我，一共八个人。
我们每月聚会，一头扎进真正困难的话题，非常有趣。
TK 你自己对人工智能的看法
在写作《会思考的机器》的过程中以及之后，发生了怎样的变化，有哪些连锁反应？
RL 我对整件事能否成功有点怀疑。但这无所谓。对我来说，
它太大胆了，AI 总体上就是如此。在某些方面，它至今没有按我预期的那样发展。
也就是说，借助深度学习等等，出现了大量精彩的应用。
但那些都是算法层面的。而在符号处理方面，目前还很少。
那是一个等待勤奋的研究生们去开拓的领域。
TK 也许你可以告诉我，80 年代你的生活中冒出了哪些人物，与专家系统有关，
那时符号 AI 的可能性，也就是大多数人所认为的 AI，
如果你梦想 AI 的可能性，那其实就是专家系统。它们撞上了一些墙，
遇到了一些挑战。我想，是的，它们会带着一些新的突破
再次出现。但那种感觉是怎样的，既有那种可能性，也有随之而来的
研究放缓的寒冬？BG 啊，你知道，整个“AI 寒冬”的说法对我来说
纯属胡扯。TK 雪的冬天。
BG 因为我看 80 年代所做的基础研究，据说那是，
天哪，其实非常重要。它奠定了以前没人想过的东西，
但那是基础研究，无法变现。于是就有了“寒冬”。
TK 那就是寒冬。BG 你知道，研究，
科学研究是时断时续、起起落落的。它不是那种顺畅的，
哦，这个接着那个，那个又接着另一个。不，它根本不是这样运作的。
TK 有意思的是，寒冬的发生方式，从来不是研究者的错。
而是某种炒作、过度承诺造成的。嗯，不，让我收回这句话。有时
确实是研究者的错。有时某些研究者可能会过度承诺
可能性。他们自己相信我们只差几年了。比如我最近
和埃隆·马斯克交谈，他相信他会有自动驾驶车辆，会有自动驾驶车辆
在一年内实现。而且他是真的相信。BG 一年？
TK 一年。是的，同时大规模部署。
BG 说明一下，现在是 2019 年。所以他说的是 2020 年。
TK 要做成不可能的事，你真的必须相信它。我认为当你相信的时候会发生的是，
因为他身边有很多非常杰出的人，
会有一些好东西出来。当你真正相信、那样努力工作时，会产生一些意想不到的
出色突破。BG 我相信这一点。我也相信
自动驾驶车辆会到来。我只是不相信会在一年内。我希望如此。
TK 但无论如何，自动驾驶车辆是个好例子。有一种感觉，
许多公司承诺在 2021 年、2022 年前实现，福特、通用，基本上每一家汽车
公司都承诺会有自动驾驶车辆。这种过度承诺正是
导致寒冬的原因。因为我们会到那些日期，而那时不会有自动驾驶车辆。
BG 然后人们会觉得，等一下，如果我们当时相信了你的话，
那就意味着我们花了数十亿美元，却没有赚到钱，于是会出现一种反向反应，
所有人都放弃了它。从智识上说，在各个层面，希望就
消失了，只剩下少数基础研究者。所以你对这个想法的
某些方面感到不舒服。TK 嗯，这是科学与商业之间的区别。
BG 那你认为科学就按其自身的方式继续下去？
TK 哦，科学确实可能因为得不到适当或及时的资金而被扼杀。
我认为英国就是个完美的例子。莱特希尔报告，
我记不清哪一年了，基本上是说，英国往这上面投任何钱都没有用，
它没有前途。而这一切其实源于英国的社会派系。
爱丁堡憎恨剑桥，剑桥憎恨曼彻斯特。这个故事让别人去写吧。
但它确实对那里的研究造成了沉重打击。现在他们凭借 DeepMind 强势回归了。
但那是一个人和他身边的一群有远见的人。BG 但我想就此追问一下，
这有点意思。你不喜欢“AI 寒冬”这个说法。
这从何而来？你当时在哪里？TK 哦，因为我就是觉得它不是真的。
BG 确实存在过一个特定的时期。这当然是一种浪漫的想法。
TK 是啊，嗯。不，我敬佩科学，也许胜过敬佩商业。商业也挺好。嘿，
你知道，我们都得活着。但科学的眼光比商业长远得多，而且
几乎不受影响地继续下去。不可能完全不受影响，但几乎不受
什么能卖、什么不能卖，什么能变现、什么不能变现的影响。BG 所以寒冬只是
发生在商业一侧的事，而科学继续前进。这是个美好而乐观、
鼓舞人心的观点。我同意你。我认为如果我们看看在 AI 领域工作的关键人物，
以及大多数学科中的关键科学家，他们是出于对科学的热爱而继续工作。
你总能凑到一些资金维持生存，他们会继续勤奋工作。
但现在确实有大量资金，在 AI 和
深度学习方面存在一种担忧：由于过度承诺，我们可能再次遭遇
资金放缓，这确实会影响学生的数量，诸如此类。
RG 是的，确实会。BG 那么你在《会思考的机器》中的那些想法，
在随后的几十年里你是否延续了那种好奇心？
RG 是的，延续了。BG 那你对 AI 社群如何演变的看法，历史性的看法是什么，
围绕它的对话、工作？从诞生至今它是否一直保持同样的样子？
RG 不，当然不是。正如我们刚才谈到的，符号 AI 基本上枯竭了，
一切都变成了算法。我记得一位年轻的 AI 学生告诉我他在做什么，
而我离开这个领域已经很久了。我投入到圣塔菲
研究所的复杂性研究中。我想，算法，是的，它们是服务于某个目标的，但不是主角。
不，它们成了主角。这让我很惊讶。我们都知道这样做的弊端。我们都
知道，如果你用算法根据海量的人类决策来做决定，
其中就固化了人类犯的所有错误，各种偏见、短视，
等等等等。BG 你提到了圣塔菲研究所。你写过小说
《混沌的边缘》，但它受到复杂性思想的启发，其中很多思想已在
圣塔菲研究所得到广泛探索。这是另一个迷人的话题，也就是从混沌中涌现的
复杂性。没人真正知道它是怎么发生的，但似乎所有有趣的
事情都发生在那里。那么，首先不说你的小说，仅就复杂性本身以及
圣塔菲的工作，如何融入 AI 历史这个更大的拼图？或者甚至是你个人的
历程？RG 我做的最后几个与 AI 相关的项目之一，
是研究画家哈罗德·科恩的作品。哈罗德
深度参与了 AI。他首先是一位画家。他的项目 AARON（原文转写为 ARIN）是他的毕生
项目，所做的是反映他自己的认知过程。好的。哈罗德和我，尽管我写了
一本关于它的书，我们之间有很多摩擦。我当时想，就这样吧。这本书
没了声息。它出版后就掉进了沟里。就这样了，我完了。是时候做点不同的
事情了。碰巧那是我丈夫的休假年。我们在
圣塔菲研究所待了两个月，在加州理工学院待了两个月，然后春季学期去了德国
慕尼黑。在圣塔菲研究所的那两个月对我来说极具修复作用。我开始
当时研究所很小，位于老圣塔菲小径上的某个办公楼群里。
每个人都开着门。所以你可以为一个问题绞尽脑汁，如果最终还是没搞懂，
你可以走进去找斯图尔特·考夫曼（Stuart Kaufman）或其他任何人，说，我不明白这个。
你能解释一下吗？我谈到复杂适应系统时交谈的人之一
是默里·盖尔曼（原文转写为 Gelman）。我把哈罗德·科恩所做的事告诉了默里。我说，你知道，
这在我听来像是一个复杂适应系统。他说，是的，就是。嗯，你瞧？
哈罗德的 AARON 在世界各地的科学和经济学等领域有一大批“孩子”和“表亲”，
诸如此类。我如释重负。我想，好吧，你的直觉没错，你做的是
对的事。我当时缺乏相应的词汇。而这正是圣塔菲
研究所给我的东西之一。如果我能重写那本书——不，它刚刚出版，我没法重写。
我本可以有一套词汇来解释 AARON 在做什么。好的。于是我对研究所里正在发生的事
产生了浓厚兴趣。那里的人聪明、风趣，并且愿意向我这个外行
解释任何事情。当时研究所所长乔治·考恩（George Cowan）说，他
觉得如果我写一本关于研究所的书也许是个好主意。我考虑了一下，
正盯着别的什么项目，天知道是什么。我说，抱歉，乔治。是的，我真的很
想做，但眼下对我来说行不通。他说，哦，太可惜了。我觉得这
会是一本有意思的书。结果他是对的，我错了。我真希望当初做了。不过这
很有意思。我之前没这样想过：那是一条我没走、却希望自己走过的路。
你知道吗？就这一点而言，作为作家，你其实相当勇敢，
你来自文学的世界，有着文学思维和历史思维。我是说，就是
从那个世界出来，勇敢地与我想应该是自我相当大的 AI 或复杂性领域的人交谈。
是的，AI 或复杂性领域等等。你是怎么做到的？我是说，我猜他们也可能
被你吓到，因为这是两个不同的世界碰到了一起。
我从来没察觉到有人被我吓到。
但你怎么有足够的勇气？你从哪里找到的胆量去……
天哪，纯属傻运气。我是说，这是一块值得翻开的有趣石头。我打算
写一本关于它的书。你知道，如果人们觉得自己会被写进书里，
他们对作家就会有足够的耐心，任由你瞎折腾，等等。
但他们也会看作家是否有，
眼里有没有那种光彩，是否真的懂。
是啊，当然。
你是什么时候在圣塔菲研究所的？
我说的时间是 1990、1991、1992 年。但之后，因为乔是研究所的外聘教员，
我们每年夏天都在圣塔菲。我们在那里买了房子，我与研究所的往来就没那么多了。
我在写我的小说，做我手头在做的事。
但我热爱那个研究所，我热爱
同样，是那些想法的大胆。这真的吸引我。
我觉得有这样一种感觉，就像在一流的神经科学研究所里一样，
人们是为了长远的目标，去理解关于
现实与自然的某些根本问题。这真令人兴奋。那么如果我们现在把目光放近一些，
AI 如今非常流行。这个世界，你提到了算法化，
但总体来说，人们的精神面貌，你通过小道消息听到的那些
谈话，和你记忆中的起点有所不同吗？
没有。同样的兴奋，同样的那种“这真的会改变
世界”的感觉。而且它会，它已经做到了。你知道，很多人，尤其是年轻人，二十岁左右的，
觉得我们刚刚发现了特别的东西。我们明天就要改变
世界。从时间尺度上看，你是否对 AI 突破发生的
时间尺度有所判断？我真的没有。因为看看深度学习。
杰弗里·辛顿 86 年就提出了那个算法。但花了这么多年，
技术才好到真正可以应用。所以不，我完全无法预测。
我做不到，我甚至不会尝试。那么，我不是让你去预测，而是请你谈谈，
我相信在 60 年代，一直到现在，都有一些人认为，我们不妨称之为，
用这个有趣的词，“奇点”。出现一次相变，出现某种深刻的感受，
我们都对所能实现的事感到真正的惊讶。我相信那些梦想
是存在的。我记得读到过 60 年代的一些言论，并且一直延续。你自己的看法，
如果回头看，对于奇点时间表的看法有什么变化？
嗯，我不太赞同雷·库兹韦尔所描述的奇点。
你如何界定库兹韦尔的观点？你如何看待其中的奇点？
如果我理解库兹韦尔的观点，大致是会有这样一个时刻，机器
比人类更聪明，然后，你知道，游戏结束。至于游戏怎么结束，我是说，它们会把我们关进保留地吗？
它们会怎样，等等等等。首先，机器在很多方面
早就比人类聪明，而且自从加法机发明以来就是如此。
§03原文文稿 · 46:21–1:00:05
所以它不会像某个宏大的十字路口那样到来，在那里
双方相遇，我们的后代，俄狄浦斯，说，你死定了。这根本不会发生。
是啊。所以在计算器面前游戏早就结束了，对吧？它们在基础算术上
已经比我们强得多。但你知道，还有类人的智能。而且不是那些
毁灭我们的，而是你可以当作朋友、可以与之建立深层
联系的，那种通过图灵测试乃至超越它的想法。你
梦想过这些吗？哦，是的，是的，是的，那些可能性。在我与爱德·费根鲍姆合写的一本书里，
在我与爱德·费根鲍姆合写的书里，有一个小故事叫“老年护理机器人”。
我是怎么想出这个老年护理机器人的，本身就是个故事。不过这个老年护理
机器人会做什么呢？它不只是给你清洁、喂你吃饭、推你到阳光下。
它有很大的优点：它会倾听。它说，再给我讲讲 73 年那次了不起的政变。再给我讲讲
你的孙子孙女多么糟糕或多么棒，等等等等。
它不是守在身边想继承你的钱。它守在身边也不是因为找不到
别的工作。这就是它的工作，等等等等。嗯，我会喜欢这样的东西。
是的。对我来说，这深深地让我兴奋。我想我们有很多人是这样。
莱克斯，你要知道，那是个玩笑。我编出它是因为我需要对大学生们讲话，
得让他们对 AI 可能是什么样子有点概念。我越讲越细，他们笑得在过道里打滚。
结果它写进书里后，《纽约书评》把我批得体无完肤：
这正是我们对 AI 圈这些人的看法。
他们没有人性。拜托，别这样。你不觉得这对
这个世界来说是 AI 可能做到的好事吗？我觉得是，绝对是。而且，
我现在快 80 岁了。等我需要这样的帮助时，我也希望它自己滚到角落里，
闭上那张该死的嘴。让我在这一点上多说几句。你真的这样想吗？
是的，真的。原因是这样。你不想让它稍微顶撞你一下吗？
稍微可以。但我看着我的朋友们经历过家里请人帮忙的种种问题。
有些人很幸运，请到了出色的帮手。有些人
家里的帮手想让电视整天开着，想整天
打电话。不行。就自己滚到角落里闭嘴。不幸的是，
我们人类当助手的时候，即使在帮助别人，
我们仍更在乎自己。当然。所以会造成更多的挫败感。而机器人 AI
助手真的可以为你优化体验。我刚才说的是这一点，
你其实提出了一个非常非常好的观点。但我说的是这样一个事实：
我们人类有点复杂，我们不一定想要一个完美的仆人。
我不想，也许你不同意，但我认为人与人之间存在一种推拉。
你说得对。
一点张力，一点神秘感，当然这对 AI 来说很难做对。但
我确实感觉到，尤其是在今天有了社交媒体之后，人们越来越孤独，
即使是年轻人，有时尤其是年轻人，这种孤独，存在一种对联结的
渴望，AI 可以帮助缓解其中一部分孤独。一部分，就是有个倾听的对象，
就像真人一样。可以这么说。可以这么说，是的。可以这么说。对我来说这真的令人兴奋。
这确实令人兴奋。但如果我们看看那种水平的智能，它
其实极其难以实现，作为奇点或者随便什么，那是人类水平的
门槛，人们也梦想过。图灵就梦想过，他还给出了日期时间表。你的
时间表是怎样演变的？
我根本不去想它。
你根本不去想？
不。这个领域对我来说一直充满惊喜。
你只是接受它，享受基础科学的乐趣。
是的，我就是做不到。也许是因为我在这个领域待得够久，会觉得，
别往那个方向走。赫伯·西蒙在预测这件事何时、那件事何时会发生上糟透了，
而他本来是个明智的人。
他的话经常被引用，对吧？
是的，被当作传奇。
是的。你对 AI 有担忧吗，比如许多人
如埃隆·马斯克、山姆·哈里斯等人所思考的生存威胁？
有。这在我的书里占了半章。我称之为“男性凝视”。
你先听我说完。“男性凝视”其实是电影评论中的术语。
提出这个概念的那位女性的名字我一时想不起来。但她指出，大多数电影
都是从男性视角拍摄的，女性是客体而非主体，她们没有任何
能动性，等等。所以当埃隆和他的朋友霍金等人出来说
AI 会把我们的午饭、晚饭连夜宵都吃掉时，我想，什么？
我对爱德·费根鲍姆说，哦，这就是第一个。首先，这些人一直都是
街区里最聪明的人。而现在来了个可能更聪明的东西。哦，趁它接管之前
把它扼杀掉。爱德笑了，他说，我没这样想过。
但我这样想过，确实。这就是男性凝视。好吧，假设这些东西真的有能动性。
那就让我们等着瞧会发生什么。我们能赋予它们伦理吗？能赋予它们
同理心吗？还是它们只会变成，我不知道，我们已经有几个世纪这样的男人了。
有意思的是，自我，男性凝视一下子就感到受威胁了。因此你
无法耐心、冷静地思考这项技术可能如何演变。说到这个，你 96 年的书，
《女性的未来》，我认为在当时和现在，当然是现在，我是说，抱歉，也许当时
但我现在更有体会，它极具现实意义。你和南希·拉姆齐谈到了女性在科学和技术领域的
四种可能的未来。那么如果我们看这本书出版前后的几十年，
你能讲讲女性在科学与技术领域的历史，以及它是如何
演变的吗？情况有何变化？我们现在处于什么位置？不够。变化得还不够。
女性在计算领域被消磨的方式简直令人难以置信。但书中女性在科技领域的
四种可能的未来是什么？你真正看到的是现状的
各个方面。所以对每一种，你都可以说，哦是的，我们确实有反弹。看看
堕胎问题等等的现状。我们是前进一步、后退一步。
“平等的黄金时代”是最难写的一章。我借用了圣塔菲研究所的
一个概念，即沙堆效应：你把沙子非常缓慢地撒到一堆上，
它越长越高，直到突然崩塌。
从某种意义上说，#MeToo 就起到了这个作用。那是压垮一切的最后一粒沙。
那是沙堆效应的完美例证。这让我感觉不错。它并没有
改变整个社会，但确实唤醒了很多人。那么总体上你乐观吗，
也许是在 #MeToo 之后？我是说，#MeToo 针对的是一类非常具体的事。
天哪，解决了那个，你就解决了一切。
但你总体上对未来乐观吗？
是的。我是天生的乐观主义者，没办法。
那 AI 呢？你对 AI 的未来怎么看？
当然，我会被问到，你担心什么？我唯一担心的是
我们无法预料的事情。会有某种意想不到的东西冒出来，我们只能说，
我们没有为此做好准备。我总体上是乐观的。当我最初对
AI 产生兴趣时，和这个领域的大多数人一样，智能越多就像美德越多。
你知道，这能有什么坏处？从某种程度上说，我仍然这么相信。但我意识到我对
智能的概念已经拓宽了。智能有很多种，
我们需要让我们的机器具备这许多种智能。
你刚刚完成或正在完成你一直在写的那本书，那本回忆录，
你有什么变化？我知道这只是写作，但回头看，写作过程让你
有什么变化？它让你想起了什么、让你感到惊讶的东西？
纵观全部。最大的一点，其实并不令人惊讶，
就是我有多幸运。哦，天哪。能接触到一个将要
改变世界的科学领域的开端。我怎么这么走运？当然，我对事物的看法也大大拓宽了。
如果我能回到我们对话中的一个女性主义话题。在不知不觉中，
这确实是潜意识的。我希望 AI 成功，因为我厌倦透了听到
智能存在于男性头颅之中的说法。我想，如果外面有某种
不是男性的东西在思考并表现出色，那就会戳穿“智能
存在于男性头颅之中”这整个观念。我原先并不知道这一点，直到某个晚上哈罗德·科恩和我
喝了一杯酒，也许两杯，他问，是什么吸引你走向 AI？我说，哦，
你知道，我认识的最聪明的人、伟大的项目，等等等等。然后我说，我还想要
男性聪明之外的东西。这话就这样从我心里冒了出来，像是，什么？
其实挺妙的。所以 AI 真的让我们所有人变得谦卑，并让最
需要谦卑的人变得谦卑。但愿如此。
哇，太美了。帕梅拉，非常感谢你和我交谈，这真的是莫大的荣幸。
我也非常愉快。
谢谢。