Garry Kasparov: 加里·卡斯帕罗夫：国际象棋、深蓝、人工智能与普京
Garry Kasparov: Chess, Deep Blue, AI, and Putin
嘉宾：Garry Kasparov
全文文稿 · 按对话顺序保留完整内容，深入理解上下文。
§01原文文稿 · 00:00–09:06
以下是与加里·卡斯帕罗夫（Garry Kasparov，原文转写为 Gary Kasparov）的对话。
许多人认为他是有史以来最伟大的
国际象棋棋手。
从 1986 年直到 2005 年退役，
他统治着国际象棋界，
在这 19 年的大部分时间里都位居世界第一。
虽然他与人类棋手有许多
历史性的对局，
但在漫长的历史弧线中，他也许会因
与机器的对决——IBM 的深蓝——而被铭记。
他最初的胜利以及最终输给深蓝，
吸引了全世界的想象，
想象人工智能系统在我们文明的未来中
可能扮演什么角色。
那种兴奋激励了整整一代
AI 研究者，包括我自己，
投身这个领域。
加里还是一位支持民主的政治思想家和领袖，
一位无所畏惧的人权活动家，
也是几部著作的作者，
包括《棋与人生》（How Life Imitates Chess），
这是一本关于战略与决策的书，
《凛冬将至》（Winter Is Coming），
这本书阐述了他对
普京政权的反对，
以及《深度思考》（Deep Thinking），
这本书探讨
人工智能与人类智能
在定义我们未来中的作用。
这里是《人工智能播客》。
如果你喜欢，请在 YouTube 上订阅，
在 iTunes 上打五星，
在 Patreon 上支持，
或者在推特上联系我，
账号是 Lex Friedman，拼写为 F R I D M A N。
现在，请听我与加里·卡斯帕罗夫的对话。
作为也许是有史以来最伟大的棋手，
当你回顾自己整个职业生涯中的心理，
内省地审视时，
更大的动力是什么，
是对获胜的热爱，还是对失败的憎恨？
难题。
必须承认我以前从没听过这个问题，
所以再次祝贺你。
这相当了不起。
输棋总是痛苦的。
对我来说，它几乎像是一种身体上的疼痛，
因为我知道如果我输了棋，
只是因为我犯了错。
所以我始终相信，棋局的结果
必须由我下棋的质量来决定。
好吧，你可以说这听起来很傲慢，
但它帮助我不断前进，
因为我始终知道还有提高的空间。
所以这就是……
有对犯错的恐惧吗？
其实，对犯错的恐惧必然导致犯错。
处于最顶端的顶尖棋手之间的区别，
在于有能力做出决定，
而后果是无法预测的。
你不知道会发生什么。
只是凭直觉。
我可以走这条路，也可以走那条路。
而且总会有犹豫。
就像你站在十字路口。
你可以向右，可以向左，可以直行，
也可以掉头返回。
而后果非常不确定。
是的，你对走右边会发生什么
或走左边、或直行会发生什么有一些想法，
但这不足以做出经过周密计算的选择。
而当你在最高水平下棋时，
靠的是你的内在力量。
所以我能做出这个决定，
我会坚定不移，不会浪费时间，
因为我完全有信心走得过去。
回到你最初的问题，
我会说两者都不是。
是对获胜的热爱，对失败的憎恨。
它们是重要的因素，心理因素，
但关键因素，我想说驱动力，
始终是我想有所作为的热情。
就是，我可以不断前进，我总能，
我总能享受的不只是下棋，
而是创造新东西。
创造新东西。
你怎么看这一点？
就是在开局中找到新想法，
在中局中提出一些原创的计划。
其实，这帮助我完成了转变，
从我站在顶峰的国际象棋，
转向另一种生活，在那里我知道自己不会是第一。
我未必处在顶端，
但我仍然可以非常活跃、很有成效，
凭借我有所作为的能力，
通过影响他人，比如加入俄罗斯的民主运动，
或者与人们谈论
人机关系。
有很多事情，我知道我的影响力
也许不像在国际象棋中那样具有决定性，
但仍然足够强大，能帮助人们
做出他们的选择。
所以你仍然可以创造新东西，
在国际象棋之外的世界里有所作为。
但等一下，你描绘了一幅美好的图景，
讲述你在国际象棋中创造新东西的动机，
寻找那些绝妙新想法的时刻。
但你是否被什么困扰过？
你让人觉得，要达到你的水平，
可以没有心魔，
没有恐惧，
不被某些更黑暗的力量驱动。
我是说，你听起来几乎像有宗教信仰。
更黑暗的力量，精神上的魔鬼。
我是说，需要请个神父吗？
我穿的就是这身。
现在，我们回到那些关键的国际象棋时刻，
那时我必须做出重大决定。
正如我说的，从很早的时候起，我就相信
我可以靠下得好或犯错
来决定一切。
所以是的，我总有一个对手
坐在棋盘对面。
但无论对手多强，
无论只是普通棋手
还是另一位世界冠军，如阿纳托利·卡尔波夫，
对我的对手怀有一切敬意，
我仍然相信这取决于我自己。
而且我知道自己并非不可战胜。
我会犯错。
我犯过一些大错。
随着年龄增长，我犯的大错更多了。
所以我知道这一点。
但对我来说仍然是，
自己才是棋局中的决定性因素。
我是说，即使现在，你看，
我最近的一次下棋经历很糟糕。
我对阵卡鲁阿纳，法比亚诺·卡鲁阿纳，
如今世界排名第二、第二，
或第三的棋手。
我们下的是 960，也就是费舍尔，
所谓的费舍尔随机象棋，把棋子重新洗牌。
是的，我输得很惨，但那是因为我犯了错。
我是说，我有那么多胜势局面。
15 年前，我会碾压他。
所以，虽然我输了，
我并不太沮丧。
我知道，正如我在采访中说的，
我可以对抗任何对手，但对抗不了我的生物钟。
与时间作战总是注定失败。
但即使今天 56 岁，
我知道自己能下出很棒的棋。
我没能把它下完，因为我没有足够的精力，
或者，
我无法保持同样水平的专注。
但在若干盘棋中，
我完全压制了世界顶尖棋手之一，
这给了我一定的快乐。
也就是说，即使今天，我也没有失去手感。
当然不一样了。
好吧，下颌没那么有力，
牙齿也没那么锋利，
但我仍能把他逼到
几乎被逼到绳边的地步。
宝刀未老。
宝刀未老。
而且，
我觉得我妻子说得很好。
她说，听着，加里，
这不仅仅是在对抗你的生物钟。
也许这是一个信号，
因为国际象棋女神，
既然你谈到了心魔。
国际象棋女神凯撒（原文转写为 Keisha，应指 Caissa），
也许她不想让你赢，
因为，如果你能击败
世界第二、第三的棋手，
我是说，那是最近刚刚打过
世界冠军赛的顶尖棋手之一。
如果你能击败他，
那对国际象棋来说真的很糟。
因为人们会说，
哦，看啊，国际象棋，
毫无进步。
这项运动完全
贬值了，因为你看，
一个退役的家伙复出，
竟然还能赢棋，
也许这对国际象棋有利，对你却不利。
不过，我一直在顺着你的逻辑想。
我们应该总是去寻找心魔，
寻找更高的力量和其他东西，
它们即使不能主宰我们的生活，
也会在结果中
扮演重要角色。
是的，所以国际象棋女神不得不传达一个信息：
是的，没关系。
加里，你该去做点别的了。
时间到了。
现在问一个你以前听过的问题，
§02原文文稿 · 09:06–18:54
但请给我个机会。
你统治国际象棋界 20 年，
甚至宝刀未老。
有没有这样的时刻，你说过，
你总是寻求创造新东西。
有没有哪些棋局或时刻
是你特别自豪的，
体现了你创造性新招的光彩？
你谈到过米哈伊尔·塔尔，
说他是一位进攻性强、有创造力的棋手，
体现在你自己的棋中。
你提到了米哈伊尔·塔尔。
他是非常有攻击性、非常犀利的棋手，
以组合和弃子闻名，
甚至被称为“里加魔术师”，
因为他非常独特的风格。
但任何一位世界冠军，
都是创造者。
有些人像塔尔那样华丽耀眼。
有些人则不那么引人注目，
在棋盘上不那么显眼，比如蒂格兰·彼得罗相，
但每一位世界冠军，每一位顶尖棋手
都给国际象棋带来了些东西。
每一份贡献都是无价的，
因为这不只是关于弃子。
当然，业余爱好者喜欢
弃子的精彩棋局。
那都是子力悬空。
而且突然之间，
子力落后，少一个车，
或者少一个后。
较弱的一方给出最后一击，
将死对手的王。
但还有其他种类的美。
比如缓慢的阵地调动，
寻找弱点，
并逐渐地
扼杀对手，
最终奉上一部阵地战的杰作。
所以我认为，我对国际象棋所起的作用
超出了我开始下棋时的想象。
而我认为该离开的原因，
是我知道我不再，
我不再处于
能带来同样贡献、
同样新知识的位置了。
回过头看，
我可以立刻举出我与
阿纳托利·卡尔波夫的对局。
不只是我在 1985 年赢得了那场比赛，
并在 22 岁成为世界冠军，
而是那场比赛中至少有两盘棋很特别。
当然，最后一盘，第 24 局，
那是比赛的决胜局，
我赢了，成为世界冠军。
但我赢棋的方式也很特别，那是一盘非常犀利的棋，
我找到了一个独特的调动，完全是新的，
如今它已成为某种典型手法，
不过当这步棋在棋盘上
走出来并展示时，
很多人觉得它很丑。
另一盘棋是那场比赛中的第 16 局，
我同样完全压制了卡尔波夫，
执黑，把他的整支军队
瘫痪在其自己的阵营里。
是技术上的还是心理上的，
还是第 16 局两者兼有？
是的，我认为这对卡尔波夫是一个沉重打击。
我认为这是一场巨大的心理胜利，
原因有几个。
其一，当时比分是平的，
而按规则，世界冠军
在平局时可以保住头衔。
所以在第 16 局之前，我们还有九局要下。
而且那在某种程度上是一次诈唬，
因为我和卡尔波夫都没有看出
这个开局想法的反驳办法。
我认为对卡尔波夫来说，这是双重打击，
因为不只是他输了棋，应该说是三重打击。
他输了棋，那是一盘精彩的棋，
而且在这次开局诈唬之后我下得无懈可击。
然后他们发现那其实是诈唬。
不过，我当时并不知道，我并没有在诈唬。
所以这种情况经常发生。
有些想法可能被驳倒。
而我发现的是，
这又回到了你提到的精神层面的主题，
就是你可以花大量时间工作。
我说“可以”，指的是 80 年代、90 年代。
如今不会这样了，因为每个人
都有电脑。
你可以立刻看出行不行得通。
机器在一瞬间就能显示出对你的反驳。
但 80 年代或 90 年代的许多分析，
并不完美，仅仅因为我们是人，
你分析棋局，
寻找一些新鲜想法。
然后偏偏有些东西
你漏掉了，因为在棋盘上的专注程度
与你分析棋局时、
只是摆弄棋子时是不同的。
但是，如果你花大量时间
在棋盘前准备，也就是与教练一起研究，
一小时又一小时又一小时，
而你发现的东西没有一样
在棋盘上真正出现，
这些小时仍不知为何总是有帮助，
总是帮到你。
就好像你所做的工作量可以转化成
某种精神能量，帮助你
在棋盘上想出其他精彩的想法。
再说一次，即使你的准备与你赢下这盘棋之间
没有直接的联系，
也总存在某种无形的联系，
存在于你所做的工作量、
你的投入，以及你的热情，
也就是发现新想法的热情，与你在比赛中
在棋盘前、时钟滴答作响时的能力之间，
当时我们用的还是会滴答作响的时钟，不是电子钟。
从而想出一些精彩的东西。
我还可以提到 90 年代的许多棋局。
显然所有业余爱好者都会选出我 1999 年
对维塞林·托帕洛夫的那盘，在维克安泽（原文转写为 V. Konzai）。
同样因为那是一盘精彩的棋，
黑王从自己的阵营出发，
横穿整个棋盘，进入白方阵营。
相信我，这种情况并不常见，你也知道，
在职业棋手的对局中，
顶尖职业棋手的对局中。
所以从视觉上看，它是
最令人印象深刻的胜利之一。
但我还可以提醒你注意许多其他棋局，
对业余爱好者来说没那么惊艳，
没那么漂亮，因为弃子
总是漂亮的，你牺牲了子力。
然后最终你剩下的资源很少，
基本上只能用它们去击垮对手。
你必须动用王，因为你几乎
没有什么可以调动的了。
但直到最后，虽然越来越少，
但直到最后，我总有一些棋局
包含某种有趣的想法，
以及给我带来极大满足的棋局。
但我认为，从 2005 年到如今所发生的事情
也是一项非常大的成就，
因为我必须找到自己，重新定位自己。
是的，重新引导创造性的能量。
没错，找到一件让我觉得自在、
甚至自信的事情，相信我的参与
仍然能有所作为。
说得真好。
那么让我问一个也许傻气的问题，
但再多谈一会儿国际象棋。
你把现任世界冠军马格努斯·卡尔森
放在历史上所有伟大棋手的什么位置？
从风格、精彩时刻、稳定性来看。
这是个棘手的问题。
你一旦开始给世界冠军排名，
是啊，就会失去些什么？
我认为这不公平，因为任何新一代
对这项运动的了解都比上一代多得多。
所以当人们说，哦，加里是最伟大的，
费舍尔是最伟大的，马格努斯是最伟大的，
这就忽略了这样一个事实：过去的伟大棋手，
无论是拉斯克（原文转写为 Alaskia）、卡帕布兰卡（Capoplank）还是阿廖欣（Alokian），
以今天的标准看，他们对国际象棋
所知甚少。
如今，任何一个孩子，只要花几年时间
与自己的国际象棋电脑相处，就比
他们更了解这项运动，仅仅因为你能获取
这些信息。
而这些信息是一代又一代发现出来的。
我们给国际象棋增添了越来越多的知识。
关键在于世界冠军
与其余棋手之间的差距。
所以，如果你看差距，
那么费舍尔大概可以排第一，
但时间非常短。
那你还应加上时间因素。
我也处在顶端，差距没有费舍尔那么大，但时间长得多。
而且，不同于费舍尔，
我成功击败了下一代。
问题是这样。
看看你是否还有那股劲头，
说到下一代，
因为你确实成功击败了下一代。
很接近。
好，阿南德、肖特，阿南德，希罗夫（原文转写为 the sheer of，应指 Shirov），
克拉姆尼克已经小了 12 岁。
那就是下一代。
但我仍然与他们较量，
而且我击败了其中大部分人。
我在 41 岁离开时仍然占据统治地位。
回到马格努斯。
马格努斯的稳定性令人惊叹。
马格努斯处于顶端的原因，
而且今天他似乎无人能敌，
是马格努斯是费舍尔与卡尔波夫的致命结合，
这非常不寻常，
因为费舍尔的风格非常动态，
§03原文文稿 · 18:54–27:17
战斗到最后一分，
用尽每一种可用的资源。
卡尔波夫则非常不同。
他有一种无与伦比的能力，
让每一枚棋子发挥最大的效果。
以最少的资源总能产生最大的效果。
现在想象把这两种风格融合起来。
就像是
从每一块石头里榨出一滴水，
而且要这样做
50 步、60 步、70 步、80 步。
马格努斯可以像费舍尔那样，带着全部激情和精力
一直战斗下去。
同时又像卡尔波夫那样一丝不苟、
致命，善于
利用每一点微小的优势。
而且他身体很好，非常好。
这很重要。
顺便说，身体状况
非常重要。
很多人没有认识到这一点。
最新研究表明，棋手
在比赛中会消耗数千卡路里。
所以这使他处在世界冠军们
这个群体的顶端。
不过，这又回到了那个讨论，
我最近在网上看到，
巅峰时期的加里·卡斯帕罗夫，
比方说 80 年代末，能否击败今天的马格努斯·卡尔森。
这当然没有意义，
因为 1989 年的加里·卡斯帕罗夫，
下出了很棒的棋，
但我对国际象棋的了解仍然很少，
与 2019 年的马格努斯·卡尔森相比，
顺便说，他也向我学习过。
所以，是的。
我对任何涉及时间跨度的判断
都极其谨慎。
比如你去问足球迷：
你最喜欢谁？
贝利、马拉多纳，还是梅西？
是的。
是啊，你最喜欢谁？
梅西。
梅西。
是吗，为什么？
因为？
也许是马拉多纳，也许。
不是因为你更年轻，而是很简单：
你的直觉回答是对的，
因为你看过，你没看过马拉多纳比赛。
我看过他们所有人比赛。
所以，不过，
当我在关注足球时，
贝利和马拉多纳是
大明星，而梅西已经，
我对其他事情的兴趣在逐渐减退。
我记得 1970 年的贝利，巴西对意大利的决赛。
那是我看的第一届足球世界杯。
实际上我的回答，当我
当我
被问到这个问题时，
我说，
虽然不可能做出选择，
我大概还是会选马拉多纳，原因很简单：
1970 年的巴西队没有贝利也可能夺冠，
他们绝对很强。
也许仍然能赢，但是，
1986 年的阿根廷队没有马拉多纳
就进不了决赛。
所以就是这样，而梅西至今还没有赢得过冠军头衔。
你可以为此争论一个小时，
但你可以说，如果你去问马拉多纳，
看着他的眼睛，尤其是，
比方说 1989 年的加里·卡斯帕罗夫，
他会说，
我肯定能击败马格努斯·卡尔森。
仅仅因为……那种自信，那股劲头。
仅仅因为，他们看到过我的表现。
所以这又是年龄因素很重要。
当然，带着激情和精力，
并且配备所有现代想法。
但这样你就做了
一个非常重要的假设，
即你可以让 1989 年的加里·卡斯帕罗夫
掌握 30 年来积累的所有想法。
那就不是加里·卡斯帕罗夫了。
那会是另一个人。
因为我属于 1989 年。
我远远领先于其他人。
我在世界冠军赛中
多次击败卡尔波夫。
我还突破了 2800 分，顺便说，
如果你看等级分，
即使在今天，
这就是我退役时的等级分，
它仍然排在前二、三位。
也就是卡鲁阿纳和丁立人。
他们现在的等级分差不多。
而我在 1990 年突破了 2800 分。
你看看等级分的通胀就知道了。
1990 年我突破 2800 分时，
2700 分这一档只有一位棋手，
而且不止卡尔波夫一人。
如今有 50 多位。
所以看到这一点，如果考虑通胀，
我认为我的 2851 分，大概
可能比马格努斯的 2882 分更有价值，
那是他的最高等级分。
不过，无论如何，假设太多了。
你在 1997 年输给了 IBM 深蓝。
在我看来，那是历史上
最具开创性的时刻之一。
我再次为把这个想法浪漫化而道歉，
但在我们文明的历史上，
因为人类作为文明，
数百个世纪以来把国际象棋视为
人所能达到的智力巅峰，
对吧？
而当机器能够击败人类的那一刻，
激励了整整一代
所有关心科学、创新的人，
整整一代 AI 研究者。
然而对你来说，那次失败，至少从你的表情看，
似乎是一场悲剧，极其痛苦。
就像你说的，身体上的痛苦。
为什么？
当你回顾那次失败时的心理，
为什么那么痛苦？
你当时无法看到那一刻的开创性吗？
还是正因为如此才那么痛苦？
正如我已经说过的，输棋是痛苦的，身体上的痛苦。
而我在 1997 年输掉的那场比赛，
并不是我输给机器的第一场比赛。
而是我输掉的第一场比赛，仅此而已。
是的。
那……
哦，哇。
所以……
哦，哇。
是的，这……
对。
是的，这对我来说意义完全不同。
是的。
第一次输，就是……
所以我输了，而我之所以那么愤怒，
是因为我怀疑
我的失败不只是因为我下得不好。
是的。
虽然我下得相当差，
你今天回头看这些棋局，
我犯了大量错误。
但我有充分理由相信，
还有其他因素，
与国际象棋本身无关。
这就是我愤怒的原因。
但你看，那是 22 年前的事了。
已经是过去的事了。
我们可以分析这场比赛，
就你所说的一切来说。
我大体同意，只有一个例外，
那就是把国际象棋
视为智力活动的巅峰，
是我们的错误。
因为我们当时认为，
哦，这是最高智力的游戏，
你必须非常、
非常聪明，才能看到
凡人看不到的东西。
它只是一个游戏，机器在这个游戏中要做的
只是少犯错误，而不是破解这个游戏。
因为这个游戏无法被破解。
按香农（原文转写为 Kovalevich Shannon）的估算，
合法局面数是 10 的 46 次方。
零太多了，任何计算机
要在未来几十亿年内完成这项工作都不可能。
但它不需要这样做。
关键在于少犯错误。
我认为，这场比赛，
实际上这场比赛，以及之后
在其他游戏中发生的事，围棋、将棋（原文转写为 Shoggy）、电子游戏，
都表明机器在我所说的封闭系统中
总会战胜人类。
一旦你构建出一个封闭系统，
无论它叫什么，国际象棋、围棋、将棋、
Dota，机器都会取胜，仅仅因为它们会
减少错误的数量。
机器不必破解它，它们只需要，
它们压制我们的方式，并不只是因为
更聪明，而是靠做别的事情，
但归根结底是利用我们的错误。
当你看今天国际象棋机器的等级分，
并与马格努斯·卡尔森比较时，
就像拿法拉利和尤塞恩·博尔特比。
按国际象棋的标准，这个差距
是疯狂的，3400、3500 对马格努斯的 2800、2850。
这就像马格努斯与一名普通棋手之间的差距，
比如国际公开赛上的普通棋手。
这并不是因为机器的理解
胜过马格努斯·卡尔森，
§04原文文稿 · 27:17–36:37
而仅仅因为它稳定。
机器手很稳。
我认为这是我们必须
从 1997 年的经历中学到的，
也要从之后与计算机的进一步交手中学到，
以及从当前 AlphaZero 的状况中学到，
它击败了其他机器。
认为我们可以在所谓的智力领域
与计算机竞争的想法，
从一开始就是错的。
顺便说，1997 年那场比赛
并不是机器战胜 AlphaZero 的第一次胜利。
或者说战胜特级大师。
或者说战胜特级大师。
不，其实，我与
80 年代末起最早的像样的国际象棋计算机对弈过。
我与深蓝的原型机交过手，
它叫“深思”（Deep Thought），1989 年，
在纽约下了两盘快棋，
我轻松赢了两盘。
我们还与 Fritz 等新的国际象棋引擎对弈，
还有其他程序。
然后是以色列的程序 Junior，
出现在 1995 年。
是的，所以有好几个程序。
我在超快棋中输过几盘。
我输过一场对计算机国际象棋引擎的比赛，
1994 年的快棋。
我在 1996 年那场比赛中输给深蓝一盘，
不过那场比赛是我赢的。
有些人往往忘了
我赢下了第一场比赛。
是的。
但是，我们
犯了一个非常重要的心理错误，
认为我们输掉超快棋比赛的原因，
也就是五分钟的比赛，
输掉一些快棋比赛的原因，
25 分钟的棋，
是因为时间不够。
如果下更长时间的比赛，
我们就不会犯同样的错误。
胡说。
是的，我们有更多时间，
但我们仍然会犯错。
而机器也有更多时间。
而机器，机器总是
比人类的不稳定和不一致
更稳定、更一致。
而今天我们已经到了这样的地步：
没有人再谈论
人类能与机器对弈。
现在机器可以让子给顶尖棋手，
而它们仍然会被看好。
我认为我们正在认识到，
这不再是人对机器，
而是人与机器协作。
这是我在 1998 年认识到的，
那时我刚舔舐完伤口，花了一年时间
反复思索
这场比赛到底发生了什么。
我知道，虽然我们仍然可以
与机器对弈。
我在 2003 年又下了两场比赛，
对手是深弗里茨（Deep Fritz）和深少年（Deep Junior）。
两场比赛都以平局告终。
虽然这些机器并不更弱，
其实至少很可能比深蓝更强。
顺便说，今天你手机上的国际象棋应用
大概比深蓝更强。
我说的还不是那些强得多的
国际象棋引擎。
而且顺便说，当你用你的国际象棋引擎
分析我们 1997 年与深蓝下的棋局时，
它们会笑出声。
这也表明国际象棋是如何改变的，
因为国际象棋评论员们看我们的一些棋局，
比如第四局、第五局，说这是绝妙的想法。
现在你去问 Stockfish，问 Houdini，
问 Komodo（原文转写为 Commodore），问所有领先的国际象棋引擎。
30 秒内，它们就会告诉你，
加里和深蓝在那场被吹捧为
1997 年伟大对局的比赛中犯了多少错误。
好吧。
你提出了一个有趣的观点，
如果你能把这个说法理清楚的话。
现在回头看，把国际象棋视为
人类智力的巅峰是个错误。
然而，这样做持续了数个世纪。
顺便说，在欧洲，因为你知道，
到了远东，他们会去，
他们有将棋（原文转写为 show games）。
不过是游戏，游戏。
同样是一些游戏，比如棋类游戏。
是的。
是的，我同意。
那么，如果我稍微反驳一下，你现在说，
好吧，把国际象棋视为典范是个错误，
那么现在可能还有其他东西，
比如语言、对话，
在你看来，有些东西
仍然远在计算机的能力之外，却属于人类。
你能谈谈那些东西可能是什么吗？
你认为它们会不会像国际象棋一样被攻克？
很快，用同一套方法，
比如看 AlphaZero，
同样的学习方法，
随着机器规模增长。
不，不，这不关乎规模的增长。
而在于理解
封闭系统与开放式系统的区别。
所以你认为关键区别在于，
棋类游戏在规则集上是封闭的，
行动、状态空间，一切都是受限的。
你认为一旦开放，机器就会迷失？
不是迷失，而是效果非常不同，
因为机器不明白何时
它已进入收益递减的领域。
换个说法，
机器不知道如何提出正确的问题。
它可以提问，但永远不会告诉你
哪些问题是相关的。
所以，这就像是关于，
关于方向。
在人机关系中，我认为
我们必须考虑我们的角色，很多人
感到不舒服，因为
属于我们的领地正在缩小。
我说，那又怎样，
最终我们只会剩下最后几位小数，
但这就像拥有一支威力极大的枪，
而你能做的只是略微
改变子弹的方向。
也许是这个角度的 0.1 度，
但这意味着一英里之外，偏离目标 10 米。
所以我们必须认识到，有某些
独特的人类特质，在可预见的未来
机器无法复制。
而这种合作、
协作的效果取决于我们是否明白
我们究竟能为这场游戏带来什么。
所以最大的危险是我们试图干预
机器的卓越知识。
所以我总说，有时你宁愿，
在读放射科影像时，
你大概更愿意要一位经验丰富的护士，
而不是顶尖教授，
因为她不会试图干预
机器的理解。
所以很重要的一点是，如果机器知道
如何在 95%、96% 的领域里做得更好，
我们就不该去碰，因为事情已经定了。
就像在国际象棋里，承认它们做得更好，
看看我们能在哪里有所作为。
你提到了 AlphaZero，AlphaZero
其实是迈向你可以称之为 AI 的第一步，
因为今天被称为 AI 的一切，
不过是克劳德·香农所说的“蛮力”的
这样或那样的变体。
它是 A 型机器，无论是深蓝、
沃森，还是所有这些被吹捧为 AI 的
现代技术，仍然是蛮力。
它们所做的只是优化。
它们不断地
改进处理人类生成数据的方式。
而 AlphaZero 是朝着
机器产生知识迈出的第一步。
顺便说，颇具讽刺意味的是，
最早倡导这一点的公司是 IBM。
哦，是在双陆棋上。
有意思，在双陆棋上。
是的，你应该看看 IBM 的这个，它是双陆棋（原文转写为 newer gammon）。
那位科学家叫塞萨罗（原文转写为 Cesaro，应指 Gerald Tesauro）。
他仍在 IBM 工作。
他们在 90 年代初就有了。
那个程序是 AlphaZero 类型的，
试图自己想出策略。
但由于深蓝的成功，
这个项目没有被放弃，
而是被搁置了。
而现在我们，
大家都在谈论这一点，
把机器生成的知识说成是革命性的。
确实如此，但仍然有
许多悬而未决的问题。
是的，AlphaZero 自己生成数据。
AlphaZero 在国际象棋中产生的许多想法
相当引人入胜。
所以我看这些棋局，
不只是怀着兴趣，
了解机器如何
驾驭所有棋子，
在子力平衡被打破的局面下下棋，
牺牲子力，始终领先于其他程序
一两步，
凭借预见后果，
而不是靠算得更多，因为
其他机器在计算方面至少一样强大，
而是拥有这种独特的知识，
基于下了 6000 万盘棋之后发现的模式。
§05原文文稿 · 36:37–45:11
几乎像是某种直觉。
没错，但有一个问题。
是的。
现在，一个简单的问题：
如果 AlphaZero 面对一个更强的对手，
比如另一台强大的计算机，配上一个人，
这个人能帮助发现某些问题，
因为我已经看了许多 AlphaZero 的棋局。
我访问过他们的实验室，
与戴密斯·哈萨比斯及其团队交谈过，
我知道那里存在某些弱点。
如果这些弱点被暴露，
问题是 AlphaZero 需要多少盘棋
才能纠正它？
答案是数十万盘。
即使它不断输棋，它也只能，
仅仅因为整个系统是这样建立的。
现在想象一下，
你可以让一个人只做几处调整。
所以人类仍然更灵活。
只要我们认清自己的角色，
知道我们可以在哪里发挥
这场协作中最有价值的作用。
这将帮助我们理解
人机协作的下一步是什么。
说得真好。
那么我们来谈谈机器
肯定还不知道怎么做的事，也就是道德。
机器与道德。
这是另一个
如今不断被问到的问题。
我认为这是另一个
困扰公众的幽灵，
因为公众被灌输的是
这样的幻觉：我们如何避免机器
有偏见、有成见？
你做不到，因为这就像照镜子
却抱怨自己看到的东西。
如果社会里存在某种偏见，
机器就会照做。
就是，你看镜子，
不喜欢镜中的样子。
你可以把镜子打碎，
可以试图扭曲它，
或者可以真正去改变一些东西。
仅靠你自己。
靠你自己，是的。
所以很重要的是要明白，
你不能指望机器
改善我们社会的弊病。
而且机器只会
放大它。
是的，是的。
但问题是，人们对其他人
做不公正的事、有偏见更能接受。
我们却无法接受机器
有同样的偏见。
这是我们对机器设定的
一个有意思的标准。
对自动驾驶车辆，它们必须安全得多。
对自动化系统也是如此。
当然它们安全得多。
从统计上看，它们比……安全得多。
这可不是理所当然的。
为什么会，这不是理所当然的。
这不是既定的。
自动驾驶车辆，你得非常努力
才能让它们更安全。
我认为不言而喻的是，
这种比较，
我称之为竞争比较，其结果是很清楚的。
但问题不在于是否更安全。
美国每年大约有 4 万人
死于车祸。
而这只是统计数字。
一起自动驾驶车辆的事故
就会登上报纸头版。
是的。
所以，这又关乎心理。
人们因为犯错
在车祸中互相致死，
他们犯的错更多。
对我来说，这不是问题。
我们当然犯更多错误，因为我们是人。
是的，机器是……
而且顺便说，没有机器能达到百分之百的完美。
这是另一个被灌输给公众的
重要的假故事：
机器如果达不到百分之百的表现，就不安全。
不，你对任何计算机能要求的，
无论是下国际象棋、
做股市计算，
还是驾驶你的自动驾驶车辆，
都是少犯错误。
是的，我知道这
对我们来说不容易接受，因为啊，
如果有两个人，
驾车相撞，好吧，这就像，
如果其中一辆车是自动驾驶车辆，
而且顺便说，即使是人的过错，也很可怕：
你怎么能允许一台机器
在方向盘后没有司机的情况下行驶？
让我们在这一点上稍作停留，
这种双重标准，你对
第一次输给深蓝时的感受，
你对待这台机器是否
不同于对待一个人？
或者说，你怎么看我们看待机器
和看待人类的方式之间的差异？
不，当时对我来说，那就是一场比赛。
这就是我愤怒的原因，因为我认为
比赛的组织并不公平。
IBM 肯定得到了不公平的优势，
我想再下一场比赛，一场决胜局。
所以你的愤怒或不满更多针对的是
IBM 背后的人，而不是纯粹的算法本身。
完全如此，我当时就知道，
而且顺便说，客观来说，
当时我更强。
所以这大概加重了我的愤怒，
因为我知道自己能击败这台机器。
是的，是的，所以，
而我输了，我知道自己准备得不够充分。
因为他们，我必须肯定他们。
他们从 1996 年起做了一些很好的工作，而我，
但我仍然能击败这台机器。
所以我犯了太多错误。
还有，整个
围绕比赛的宣传。
我低估了它的影响，
被称为“大脑的最后抵抗”，
好吧，没有压力。
好，我来问一下。
我也出生在苏联。
你从 20 世纪苏联的兴衰中
得出什么教训？
当你看这个国家
如今演变成俄罗斯的样子，
如果你看 20 世纪历史的漫长弧线，
我们能得到什么？
我们从中得到什么？
我认为历史的教训很清楚。
不民主的制度，极权政体，
那些建立在控制公民
及其生活方方面面之上的制度，
不为私人主动性提供机会，
计划经济制度，它们注定失败。
它们无法成为创新的
驱动力，所以在历史的时间线上，
它们可能造成
对进步概念的某种扭曲。
顺便说，它们可能自称进步，
但我们知道它们给人类造成的损害
还有待衡量。
但归根结底，它们失败了。
它们失败了，冷战的结束是自由世界的
一次伟大胜利。
并不是说自由世界是完美的。
很重要的是要认识到这样一个事实，
我总喜欢提到，
我最喜欢的书之一《指环王》，
没有绝对的善，但有绝对的恶。
善有多种形态，
但我们所有人，作为人类，
甚至是童话中的人类
或某种神话生物。
你总能在太阳上找到黑子（原文转写为 songs，应指 sun）。
所以，发动战争，以及
为正义而战，
总有一些东西
很容易被批评。
而人类历史是
对完美永无止境的追求。
但我们知道存在绝对的恶。
对我来说，这很清楚，
没有人争论希特勒是绝对的恶，
但我认为非常重要的是要认识到
斯大林也是绝对的恶。
共产主义造成的损害
超过 20 世纪任何其他意识形态。
不幸的是，虽然我们都知道
法西斯主义受到了谴责，
但共产主义却没有迎来自己的纽伦堡审判。
这就是为什么我们可以看到，
斯大林的继承者
仍然感到自在得多。
普京就是其中之一。
你其实强调了斯大林与希特勒之间
几个有趣的联系。
就调整
或澄清第二次世界大战的历史而言，
这非常有意思。
当然，我们没有时间了。
所以我来问。
你尽管问，
我最近在多伦多发表了一次演讲，
纪念《莫洛托夫-里宾特洛甫条约》80 周年。
我认为这是应该
在学校里教授的内容：
第二次世界大战是由两个独裁者发动的，
§06原文文稿 · 45:11–55:02
通过签订这份罪恶的条约，
1939 年 8 月两个暴君的勾结，
引发了第二次世界大战。
事实是，最终斯大林别无选择，
只能加入盟军，因为希特勒进攻了他。
但这并不能
抹去这样的事实：斯大林帮助希特勒
发动了第二次世界大战。
而且他是早期的受益者之一，
吞并了东欧的一部分。
而作为第二次世界大战的结果，
他吞并了几乎整个东欧。
对许多东欧国家来说，
第二次世界大战的结束
就是共产主义占领的开始。
你谈到普京，说他是一个站在
俄罗斯与民主之间的人，本质上就是今天的情况。
你一直是普京的坚决反对者和批评者。
我再问一次，恐惧在多大程度上
进入你的头脑和内心？
2007 年，有一段有趣的评论，
来自克格勃将军奥列格·卡卢金。
他说：我不谈细节。
知道这些细节的人如今都死了，
因为他们公开发声。
我保持安静。
只有一个人在公开发声，他可能有麻烦了：
国际象棋世界冠军卡斯帕罗夫。
他一直直言不讳地攻击普京。
我相信他很可能是名单上的下一个。
所以显然你的生命一直
并且也许仍然处在危险之中。
你如何看待自己持有的这些观点、
这些想法，处于这样的反对立场，
在这样的背景下，而你的生命可能处于危险之中？
这就是我住在纽约的原因。
它并不是我的首选，
但我知道自己在某个时刻必须离开俄罗斯。
而在各个地方中，纽约是最安全的。
它安全吗？
不。
我知道发生过什么，
普京的许多敌人正在遭遇什么。
但归根结底，我能怎么办？
我可以非常主动，
努力改变我能影响的事情。
但有几个事实。
我不能停止我长期以来一直在做的事。
这是正确的事。
我从小在家人教导下长大，
学到的是苏联异见者的智慧：
做你必须做的，该怎样就怎样。
我可以通过不去某些地方旅行来保持谨慎，
那些地方可能危及我的安全。
有那么多演讲邀请，
来自世界各地。
我必须说，现在很多国家
已不是我敢去旅行的目的地。
我母亲仍住在莫斯科。
我每年见她几次。
当我不得不离开俄罗斯时，她痛不欲生，
因为自我父亲 1971 年去世后，
她当时 33 岁，她把整个人生
奉献给了她唯一的儿子。
但在我离开俄罗斯大约一年后，她就认识到，
这是我继续过正常生活的
唯一机会。
也就是说，为了相对安全，
并去做她教我做的事，有所作为。
你认为自己会回到俄罗斯吗，
或者我换个方式问？
什么时候？
比许多人想的还要早，
因为我认为普京政权
正面临无法克服的困难。
而且我读了足够多的历史书，
知道独裁政权会突然终结。
周日，独裁者还感觉良好，
自以为深受拥戴，周一早上他就垮台了。
有好消息也有坏消息。
坏消息是，我不知道
普京的统治何时、如何结束。
好消息是，他也不知道。
好，说得好。
我来问一个似乎让美国人
从俄罗斯角度念念不忘的问题。
其一，俄罗斯是否干预了 2016 年美国大选，
是否经政府批准，以及未来呢？
其二，俄罗斯会干预 2020 年美国大选吗？
这种干预会是什么样子？
这很老套。
我们之前有过那么有智慧的对话，
而你却因为提出这样一个愚蠢的问题
毁掉了一切。
这侮辱了我的智商。
当然他们干预了。
当然他们竭尽所能让特朗普当选。
他们自己说过很多次。
我这辈子见过足够多的克格勃上校，
可以告诉你，
普京看待特朗普的方式，就是这样的方式。
你看，我不必听他说什么，
也不必听特朗普说什么，
我也不需要经历国会调查。
普京看待特朗普的方式，
就是克格勃军官看待“资产”的方式。
而到了 2020 年，
当然他们会竭尽所能
帮助特朗普保住位置。
因为我认为特朗普连任
可能给美国和自由世界造成的损害，
超乎想象。
我认为基本上如果特朗普连任，
他会毁掉北约，因为他已经在朝这个方向走，
但现在他
仍受到连任门槛的限制。
如果 2020 年 11 月之后他仍在任，
好吧，2021 年 1 月，我不愿去想。
我的问题不只是特朗普，
因为特朗普基本上只是个症状。
问题在于我看不到，
在美国的政治视野里，
有哪些政治家能够对抗特朗普，
针对他给自由世界造成的所有损害。
不只是发生在美国国内的
那些出了问题的事。
在我看来，竞选，
民主党一方的政治竞选
固守在某些重要但仍属次要的议题上。
因为当共和国的根基
岌岌可危时，你不能谈医疗保健。
我理解它有多重要，
但它仍然是次要的，因为美国政治生活的
整个框架都处于危险之中。
而弗拉基米尔·普京
很幸运地拥有了自由发挥的空间，
去攻击美国和其他自由国家。
顺便说，我们有那么多证据
表明俄罗斯干预了英国脱欧、
干预了几乎每个欧洲国家的选举。
认为他们会羞于攻击美国，
在 2020 年、现在特朗普在任的情况下，嗯。
我认为，是的，这肯定降低了
我们对话的智识质量。
我尽力而为。
最后一个问题。
如果你能回顾，审视你的整个人生，
你的成就超过了大多数人一生所能做到的。
如果你能回去重温你生命中的
某一个时刻，那会是哪个时刻？
我生命中有些时刻，我会思考
本可以怎样做得不同，但是……
不，是去体验幸福、喜悦和自豪。
再触碰一次。
我知道，我知道，但是，
我这辈子犯过许多错误。
所以我知道，归根结底，
我相信蝴蝶效应。
我知道有些时刻，我可以，
如果我回到 1989 年和 1993 年的那个时点，
随便选一年，我可以通过不做那件蠢事
来改进我的行动。
但那样你怎么知道
我还会取得其他所有成就呢？
我只是担心，
我们只能遵循这样一种，
如果可以称之为智慧的话，就像阿甘说的（原文转写为 is gump），
人生就是这样，
它是一盒巧克力，
你不知道里面是什么，
但你得一颗一颗地尝。
所以我对我是谁、
以及今天身处何处感到满意。
我非常自豪，不仅因为我在国际象棋上的成就，
还因为我完成了这次转变。
自从我离开国际象棋之后，
我建立了自己的声誉，它对国际象棋有一定影响，
但并不是
直接来源于国际象棋本身。
我很感激我的妻子。
她帮助我建立了这样的生活。
我们是 2005 年结婚的。
那是我的第三次婚姻。
所以我才说我这辈子犯过错误。
不过，顺便说，我和前几段婚姻中的
两个孩子关系很亲近。
所以，我
设法平衡了自己的生活，
我住在纽约。
我们有两个孩子是在纽约出生的。
这是新的生活，也很忙碌。
有时我希望自己能限制
我投入到许多其他事情中的程度，那些事仍然
占用时间和精力，
但生活令人兴奋。
只要我能感到自己有精力、
有力量、有热情去有所作为，
我就感到幸福。
我认为这是个美好的收尾时刻。
加里，非常感谢你今天的交谈。
§07原文文稿 · 55:02–55:29
谢谢。