Rosalind Picard：情感计算、情绪、隐私与健康
Rosalind Picard: Affective Computing, Emotion, Privacy, and Health
Guests: Rosalind Picard
Full transcript · Read the full conversation in order, with its original context.
§01原文文稿 · 00:00–09:02
以下是与罗莎琳德·皮卡德的一段对话。
她是麻省理工学院的教授、
MIT 媒体实验室情感计算研究组（原文转写为「Effective Computing」）的主任，
（接上）
也是两家公司 Affectiva 和 Empatica 的联合创始人。
二十多年前，
她以一本同名著作
开创了情感计算这一领域。
这本书描述了情绪
在人工智能和自然智能中的重要性。
情绪沟通所扮演的至关重要的角色，
对于人与人之间的关系、
以及人与机器人互动的关系。
我真的很享受与罗斯就这么多话题交谈，
包括情绪、伦理、隐私、可穿戴计算，
还有她近来在癫痫方面的研究，
甚至爱与意义。
这场对话是
「人工智能播客」的一部分。
如果你喜欢它，请在 YouTube、iTunes 上订阅，
或干脆在推特上关注我 @LexFriedman，
拼作 F-R-I-D。
现在，这就是我与罗莎琳德·皮卡德的对话。
20 多年前，
你创造了「情感计算」这个术语，
并自那以来在这一领域引领了大量研究。
据我理解，目标是让机器检测
并诠释一个人的情绪状态，
并基于那个情绪状态
调整机器的行为。
那么在过去 24 年里，你对情感计算所定义的
问题空间的理解发生了怎样的变化？
也就是范围、应用、挑战、
涉及什么，这些年来它是如何演变的？
是啊，其实，最初
当我定义「情感计算」这个术语时，
它比「智能地识别和回应人类情绪」要宽泛一点，
（接上）
尽管那大概是我们下功夫最深的两块。
（接上）
最初的概念还涵盖了那种
内部拥有像人类情绪那样运作的机制的
机器。
它会是任何与人类情绪相关、从中产生、
或刻意影响人类情绪的计算。
所以人机交互这一部分
是人们往往会看到的那部分，
比如如果我真的对我的电脑很恼火、
我对着它皱眉、对着它骂，
而它就一直表现得微笑、开心，
就像那个小回形针过去那样，
跳舞、眨眼，那类的东西
只会让你更加沮丧，对吧？
而我想，那个蠢东西需要看到我的情感。
而如果它要有智能——
微软的研究人员在这上面下了很大功夫，
它当时其实含有一些最先进的 AI，
（接上）
那东西要真的聪明。
它需要回应我和你，
而我们可以给它发出非常不同的信号。
所以顺便，简短打断一下，
那个 Clippy，也许是在 Word 95、98 里，
我不记得它是什么时候诞生的，
但很多人，你是否发现用这个参照，
人们到现在还能认出
你在说什么？
我不指望如今最新的学生知道，
但我对很多听众提起过，
比如你们中有多少人知道这个 Clippy？
而仍然大多数人似乎都知道它。
所以 Clippy 算是看着，也许是自然语言处理，
在你打字时试图帮你补全，
我想是这样。
我甚至不记得 Clippy 是什么了，只记得它烦人。
是啊，有些人其实喜欢它。
我会听到那些故事。
你想它吗？
嗯，我想念那份烦扰。
他们觉得有一种元素。
有个谁在那儿。
有个谁在那儿，而我们是在一起的，
而它们很烦人。
它就像一只就是不开窍的小狗。
它们老是把沙发抓坏那类的。
而事实上，它们本可以做得更聪明，像只小狗。
如果它们当年，比如当你冲它吼
或骂它时，
如果它把小耳朵往后贴、尾巴垂下来、
耷拉着走开，
人们大概会想要它回来，对吧？
但相反，当你冲它吼时，它做了什么？
它微笑、它眨眼、它跳舞，对吧？
如果有人来我办公室而我冲他们吼，
他们开始微笑、眨眼、跳舞，
我会想，我再也不想见到你了。
所以比尔·盖茨在说它要被取消时
赢得了全场起立鼓掌，
因为人们太恼火了。
它在情绪上太不智能了，对吧？
它在「你是否在写一封信」这件事上是智能的，
在那个情境下你需要什么样的帮助。
它在这件事上完全不智能：
嘿，如果你在惹恼你的客户，
别在这么做时对着他们的脸微笑。
所以那种不匹配是开发者
压根没想到的东西。
而当时的智能真的全都是关于数学、
语言、国际象棋和游戏，
是那些能被相当好地定义的问题。
社会情绪互动比国际象棋、围棋、
或任何人们试图解决的游戏
复杂得多。
而要理解那一点，需要
大多数计算机科学领域的人
其实在个人层面所缺乏的技能。
嗯，我们来谈谈计算机科学。
自从那项工作、
自从那个讯息、
自从你以这一领域的大量研究工作
真正开创了它以来，情况有没有变好？
我仍然发现，作为一个像你这样
对人类深怀热情、
却又身在计算机科学的人，
似乎仍然缺乏，
恕我直言，计算机科学家身上的那种同理心。
是啊，嗯。
或者说没有变好。
姑且说，如今计算机科学家当中
有多得多的多样性。
今天的计算机科学家是一个
比 25 年前多元得多的群体。
而那是好事。
我们需要各种各样的人成为计算机科学家，
这样计算机科学才能更多地反映社会的需要。
而每一种人格类型里都有才华。
所以它不必局限于那些
比起其他人更喜欢计算机的人。
你觉得它有多难？
你对「识别情绪、
或创造一种深具情绪智能的互动」有多难的看法。
随着你进一步探索它，
它变得更容易还是更难了？
而我们离攻克它还有多远？
如果你想图灵测试解决智能，
那看看情绪智能的图灵测试。
我觉得它和我当初以为的一样难。
我觉得我对它难度的预测分毫不差。
我觉得时间估计总是很难，
因为它们总是社会对某个特定话题的
爱与恨的函数。
如果社会兴奋起来，有成千上万名研究者
为某个应用而工作，
那个应用就会很快被解决。
通用智能，
计算机完全没有能力
意识到自己在做什么，
它没有意识这一事实，
它没有任何变得有意识的迹象这一事实，
它不读弦外之音这一事实，
那类我们必须明确地教给它、
而别人是隐性地领会的东西。
我们还没看到那在改变。
还没有突破让我们相信
那会进展得更快，
这意味着它仍然会算是被卡在
很多局限里，
在那里它大概只会在非常有限、狭窄、
预先指定的情境里做对的事，
在那些情境里我们几乎可以规定
那里会发生什么。
所以我看不到那，
很难预测一个日期，
因为当人们不做它时，它是无穷远；
当所有人都做它时，你会在很短的时间里
把其中漂亮的一块解决好。
我其实觉得现在有一个比它的难度
更重要的问题。
而那正让我们中的一些人
稍微踩一下刹车。
通常我们都只是踩油门，
让我们更快。
这件事让我们往回收、踩下刹车。
而那就是这项技术
如今在中国这样的地方被使用的方式。
而那让我深深担忧，
以至于它让我自己往回收，
收手许多我们本可以在做的事。
并试着让这个共同体多想一想，
好，如果我们要推进那个，
我们如何能以一种
设置好保护人们之保障措施的方式去做？
那么我们所指的技术是，
就是当一台计算机感知到一个人、
比如人脸的时候，对吧？
所以那里有很多令人兴奋的东西，
比如与人形成一种深层连接。
那么你的担忧是什么，它可能如何出错？
是在隐私方面吗？
还是在其他种类的更微妙的事情上？
§02原文文稿 · 09:02–18:28
不过我们深入聊聊隐私。
比如在美国这里，如果我在看一段
比如说一位政治领袖的视频，
而在美国，我们都知道，我们相当自由，
甚至可以批评美国总统，对吧？
在这里那不是什么令人震惊的事。
它大约每五秒就发生一次，对吧？
但在中国，如果你批评
政府的领导人会怎样，对吧？
所以人们非常小心不去那么做。
然而，如果你只是在看一段视频，
而你做出一个
显出一点点怀疑的面部表情，会怎样，对吧？
嗯，而在这里我们完全自由地那么做。
事实上，我们自由地大发雷霆、
想说什么就说什么，通常是。
我是说，有一些限制，
当运动员在全国转播中
做这个的时候。
也许球队会有点不高兴
你挑那个场合去做，对吧？
但那更多是个判断力的问题。
我们拥有这些自由，
而在没有那些自由的地方，
如果我们的技术能读出
你底层的情感状态会怎样？
如果我们的技术甚至能非接触地读出它会怎样？
如果我们的技术能在没有你事先同意的情况下
读出它会怎样？
而在美国这里，
在我们创办的第一家公司 Affectiva 里，
我们超级努力地去回绝那些
试图在没有人们事先知情同意的情况下
读取人们情感的钱和机会。
而且即便是可授权的软件，
你也得签字说明
你只会以某些方式使用它，
这本质上就是获得人们的认可，对吧？
不要在人们不同意的情况下做这个。
有另一些国家，他们对
人们的认可不感兴趣。
他们就是要用它。
他们要把它强加于你。
而如果你不喜欢它，
你最好别对着任何审查者的方向皱眉。
所以，第一，让我就一个小岔题评论一下。
你知道吗，有了对抗样本、
深度伪造之类的概念，
你所提出的其实，
在那一个意义上，深度伪造提供了
一种令人安心的保护——你再也无法真正相信
你脸的那段视频是真实的。
因此，如果一个政府在试图、
（接上）
如果一个稳定、平衡、有道德的政府
试图指控你什么，
你至少有了保护。
你可以说那是假新闻，就像如今流行的说法。
是啊，那是对它的大致想法。
我们知道如何进入视频、
并看出，比如，你的心率和呼吸，
以及它们是否被篡改过。
而我们现在也能在你的视频里
放进假的心率和呼吸。
我们决定我们需要那么做。
在我们开发出一种提取它的方法之后，
我们决定我们也需要一种干扰它的方法。
所以我们花时间去做那另一步这件事，
那是我没有花在
让机器在情感上更智能上的时间。
而在我们如何花时间上有一个选择，
它现在被这个目标左右得稍微少了一点，
而被「对社会正在发生什么的关切」左右得
稍微多了一点，
以及我们想建造一个什么样的未来。
而当我们退一步说，
好，我们不是为了造 AI 而造 AI、
去让埃隆·马斯克赚更多钱、
或让亚马逊的杰夫·贝索斯赚更多钱。
天哪，你知道，那是错误的伦理。
我们为什么在造它？
造 AI 的意义是什么？
过去，它是由学术界的研究者驱动的，
为了发表论文、为自己成就一番事业、
并做点很酷的事，对吧？
比如，因为也许它能做成。
现在我们意识到，这让富人
变得富得多，穷人是，
鸿沟甚至更大。
而那是我们想要的那种未来吗？
也许我们想想，也许我们想重新思考 AI。
也许我们想重新思考社会上
正在造成最大不公的那些问题，
并重新思考如何去造一种 AI——
它不是关于通用智能，
而是关于扩展「没有者」的
智能和能力，
好让我们弥合社会上的这些鸿沟。
你希望那种踩刹车
是有机地发生吗？
因为我觉得 AI 背后的力量，大多数仍然
是发表论文的欲望，
是赚钱，而不去思考「为什么」。
你希望它有机地发生吗？
有监管的空间吗？
是啊，是啊，是啊，好问题。
我更喜欢，你知道，
人们说的胡萝卜对大棒。
我绝对更喜欢胡萝卜而非大棒。
而且，你知道，在我们这个自由的世界里，
大棒的作用是有限的，对吧？
你总会找到绕开它的办法。
我总体上觉得监管越少越好。
话虽如此，尽管我的立场经典地是胡萝卜、
不用大棒、不要监管，
我觉得在这个领域我们确实需要一些监管。
我确实觉得我们需要
围绕保护人们及其数据的监管，
即你拥有你的数据，不是亚马逊、不是谷歌。
我希望看到人们拥有他们自己的数据。
我还希望看到我们现在
围绕测谎的那些监管
被扩展到总体上的情绪识别——
也就是现在你不能对一名员工用测谎仪，
当你在面试一位求职者时，
不能对候选人用。
我觉得同样地，我们需要就
「在未经同意的情况下读取人们的情绪」设置保护，
并且在某些情况下，
比如为工作和其他机会给他们贴标签。
所以我也，我还觉得当我们读取
预示心理健康的情绪时，
那即便它不是医疗数据，
也应该得到我们医疗数据所得到的
那类保护。
大多数人还不知道的是，
现在凭你的智能手机使用，
以及如果你戴着一个传感器、
你想了解你的压力、你的睡眠、
你的身体活动、
你用手机用了多少、
以及你的社交互动，
所有那些非医疗数据，
当我们用机器学习把它拼到一起时——
如今叫 AI，尽管 AI 的奠基人
不会那么叫它——
那种能力不仅能看出你现在很平静、
或你正变得有点有压力，
还能预测你明天可能会怎样。
你是可能生病还是健康、
高兴还是悲伤、有压力还是平静。
尤其是当你随时间追踪数据时。
尤其是当我们追踪你一周或更久的数据时。
你是否抱有一种乐观——
你知道，我们手机上很多人
都担心这个看着我们的摄像头。
总的来说，权衡之下，
你对那个看着我们数十亿人的摄像头
所能带来的好处
感到乐观吗？
还是我们该更担心些？
我觉得我们应该对
谁在看我们、听我们多担心一点。
坐在你厨房台面上的那个设备，
无论它是，你知道，Alexa 还是 Google Home 还是苹果的 Siri，
这些设备想要聆听，
同时它们表面上说是为了帮我们。
而我觉得这些公司里有很棒的人，
他们确实想帮助人们。
我不把他们全都定性为坏的。
我用这些公司的产品，
我点到的全是以 A 开头的公司，Alphabet、Apple、Amazon。
它们是大得吓人的公司，对吧？
它们拥有不可思议的权力。
而你知道，万一中国把它们买下来呢，对吧？
然后突然间所有那些数据
都不再属于自由的美国，
而是所有那些数据都属于某个
只想统治世界、
让你臣服于他们的人。
而你猜，如果你在他们说了
某句你不喜欢的话时、哪怕只是以错误的方式冷笑一下，会怎样？
嗯，他们有再教育营，对吧？
那是对它们的一个好听的词。
顺便说，如今那里有盈余的器官，
供做手术的人用。
他们没有器官捐献的问题，
因为他们抽你的血，就知道你是不是匹配。
而医生们有记录在案，从完全健康、
且并非囚犯的人身上摘取器官。
他们只不过不是政府青睐的那些人。
而你知道，那是一个相当恐怖、邪恶的社会。
而我们在那里可以用「邪恶」这个词。
我出生在苏联。
我当然能够与你所表达的担忧产生共鸣。
与此同时，大概你我，
尤其是你，
你知道，有一种令人兴奋的可能性，
即你可以与一台机器形成一种深层连接。
是啊，是啊。
§03原文文稿 · 18:28–27:33
没错，所以。
我们这些人，我录取过一些学生，他们说自己，
你知道，当你列出，比如，
你最希望能和谁共进午餐
或晚餐，对吧？
而他们会写，我不喜欢人。
我只喜欢计算机。
其中一个曾对我说，
当我在家办这个派对时，
我想让你知道，
这是我一年中唯一的社交活动，
我这一年唯一的社交活动。
比如，好吧，而这是个才华横溢的
机器学习人才，对吧？
而我们在机器学习里需要那种才华。
我喜欢计算机科学既欢迎爱人的人，
也欢迎那些在人面前
非常笨拙的人。
我喜欢这是一个任何人都能加入的领域。
我们需要各种各样的人，
而你不必是个善于社交的人。
我不是想逼不喜欢人的人
突然变得善于社交。
与此同时，
如果建造未来 AI 的人大多数
是那种不喜欢人的人，
我们就有点问题了。
嗯，等一下。
那让我反驳一下这个。
那你难道不觉得，世界上很大一部分人
能，你知道，有孤独。
孤独是一个正在增长的巨大问题。
所以有一种对连接的渴望。
你……
如果你孤独，你就是一个庞大且不断增长的群体的一员。
是的。
所以我们是在一起的，我想。
如果你孤独，加入这个群体吧。
你并不孤单。
你并不孤单。
这句话不错。
但你觉得有没有……
你谈到了一些担忧，
但你觉得有没有一种令人兴奋的可能性，
即像 Alexa 和这类工具这样的东西，
能以其他人类无法做到的方式
缓解那种孤独？
是啊，是啊，绝对能。
我是说，一本好书就能算是缓解孤独，
因为你就是被吸进这个精彩的故事里，
你迫不及待地想去和那个角色共度时光。
而他们不是人类角色。
它背后有一个人。
但是的，它可以是一种无比愉悦的
打发时间的方式，而且它能满足需求。
甚至，你知道，我不读那些低俗的言情书，
但有人读，对吧？
而他们从中得到了什么？
嗯，大概是那种「置身其中」的感觉，对吧？
置身于那个社交时刻、
那个浪漫时刻，或与某人连接。
我在读一些科幻小说时
有过类似的体验，对吧？
并与角色连接。
奥森·斯科特·卡德，你知道，写得太棒了，
《安德的游戏》和《死者代言人》，糟糕的标题。
但那类把你拉进一个角色的书，
你会觉得自己，你会觉得非常有社交感。
它非常有连接感，尽管它并不在回应你。
而一台计算机，当然，可以回应你。
所以它能加深那种感觉，对吧？
你可以拥有一种非常深的连接，
比电影《她》所渲染的要深得多，对吧？
嗯，深得多。
我是说，电影《她》已经是一种相当深的连接了，对吧？
嗯，但它只是一部电影，对吧？
它是有剧本的。
它只是，你知道，但我是说，
可以有一种真实的互动，
其中角色可以学习、你也可以学习。
你可以想象它不只是你和一个角色。
你可以想象一群角色。
你可以想象一群人和角色，
人类和 AI 连接在一起，
也许少数几个人没法和每个人都做朋友，
但那少数几个人
和他们的 AI 可以和更多人交朋友。
其中可以有一种被扩展的人类智能，
让每个人都能那样与更多人连接。
但它仍然非常有限，不过只是，
我的意思是，比起那部电影里的东西，
有多得多的可能性。
所以这里有一种张力。
所以，一方面，你表达了一个非常严肃的
对隐私的关切，关于政府
可能如何滥用这些信息，
另一方面又有这种连接的可能性。
那我们来看 Alexa。
也就是私人助理。
总的来说，就我所知，
它们忽视你的情绪。
它们甚至忽视情境、或你的存在本身，
忽视你之所是那复杂、美丽、错综的方面，
也许除了你嗓音中
有助于它进行语音识别的那些方面。
你觉得它们应该转向
试图理解你的情绪吗？
所有这些公司都非常有兴趣
理解人类情绪。
他们想要，每天有越来越多人告诉 Siri
他们想自杀。
苹果想知道
一个人是真的有自杀倾向，
还是只是在跟 Siri 闹着玩之间的区别，对吧？
用词也许相同，但语气
以及围绕那些词的东西，对于理解
是应该以非常严肃的方式回应、
给那个人带去帮助，
还是应该算是开玩笑地回怼
啊，你只是想拿我换点别的东西，对吧，是关键。
比如，当有人那么说时你怎么回应？
嗯，你确实想宁可偏向谨慎、
并认真对待它那一边。
人们想知道一个人是高兴还是有压力，
部分地，嗯，那让我给你一个利他的理由
和一个追逐商业利润的理由。
而公司里有基于
这两种原则运作的人。
利他的人真的在乎他们的客户，
也真的在乎帮你在一天结束时
感觉好一点。
而如果那些人知道他们让你的生活变好了，
那只会让他们高兴。
如果你压力很大地回到家，而在与
他们的产品交谈之后，你感觉好些了。
有另一些人，也许研究过
情感如何影响决策
和人们愿意付的价格。
而他们知道，我不知道该不该告诉你，
比如詹·勒纳（指詹妮弗·勒纳）关于「情牵」与「钱袋」的研究，
你知道，如果我们把你操纵进一种略微更悲伤的心境，
你会付更多，对吧？
你会付更多来改变你的处境。
你会为一样你甚至不需要的东西付更多，
来让自己感觉好一点。
所以，你知道，如果他们听起来有点悲伤，
也许我不想让他们高兴起来。
也许我首先想帮他们买点什么，
一点购物疗法，对吧？
那对他们有帮助。
这对一家主要靠广告
筹资的公司来说真的很难。
所以他们被激励去让你、去向你推销产品，
或者亚马逊，它主要靠
你从它的商店买东西来筹资。
所以我觉得我们应该，你知道，
也许我们未来需要监管，
来在那些能接触我们情绪的智能体
和那些想卖东西给我们的智能体之间
筑起一点墙。
也许在那些之间需要
多一点防火墙。
那么也许在与 Alexa 的互动上
深入一点，
你提到，当然，一个非常严肃的关切，
关于识别情绪，
如果有人在谈自杀或抑郁之类的，
但那实际的互动本身呢？
你觉得，所以如果我，你知道，
你提到 Clippy 和烦人，
我们试图优化的目标函数是什么？
是最小化烦人度，还是最小化或最大化幸福？
或者如果我们看人与人的关系，
我觉得那种推拉、那种张力、那种舞蹈，
你知道，那种烦人、那些瑕疵，正是让它有趣的东西。
那么有没有空间，比如目标函数是什么？
有时候你想有一点推拉，
我想到孩子打闹，对吧？
你知道，我看着我的儿子们，他们，
其中一个想挑逗另一个让他生气，
而那很有趣。
而这其实是健康的——去学习你的极限在哪里、
去学习如何自我调节。
你可以想象一个游戏，它试图让你生气，
而你试图展现自制力。
所以如果我们在做一种 AI 与人的互动，
它帮助建立韧性和自制力，
无论是学习如何不当一个霸凌者、
还是如何转过另一边脸、
还是如何应对你生活中一个施虐的人，
那你也许就需要一个会按你情绪开关的 AI，对吧？
但总体上，你想要一个会按你情绪开关的 AI 吗？
大概取决于你的性格。
我不，我想要一个尊重人的、
它在那儿是为了服务我、
是为了扩展我做事的能力。
我不是在找一个对手，
我在找一个帮手。
而那是我会押注的那种 AI。
你的感觉是，对世界上大多数人来说，
§04原文文稿 · 27:33–36:29
为了拥有丰富的体验，
那也是他们所寻求的。
所以他们不是在找，
如果你看电影《她》，剧透警告，
我记得电影《她》里那个女人所代表的程序，
离开那个人去找了别人，
说它不想再约会了，对吧？
比如，你——你的感觉是，如果 Alexa 说，
你知道吗，我其实暂时受够你了，
所以我要把自己关掉。
你不把那看作……
我会说你是垃圾，因为我花钱买了你，对吧？
你，我们必须记住，
而这正是这种把人和 AI
当作平等者来混淆的做法真正具有欺骗性的地方，
因为 AI 归根结底是某种
我的学生和我在实验室里制造的东西。
而我们在选择它被允许说什么、
它何时被允许说话、它被允许听什么、
在我们选择让它接触的输入下，
它被允许对什么作出反应、
它被允许有什么输出。
它全都是人造出来的东西。
而如果我们想造出某种
让我们的生活悲惨的东西，行。
我不会把它当作一门生意来投资，
除非它只是为了自我调节训练而在那儿。
但我觉得我们需要思考
我们想要什么样的未来。
而其实你的问题，我真的很喜欢那个——
目标函数是什么？
是让人们平静下来吗？
有时候。
是永远让人们高兴、让他们平静下来吗？
嗯，有一本书讲那个，对吧？
《美丽新世界》，让每个人都高兴，
不高兴就吃你的索麻、吃你的快乐药丸。
而如果你拒绝吃你的快乐药丸，
嗯，我们就威胁把你送去冰岛
住。
我在冰岛住过三年。
那是个很棒的地方。
不吃你的索麻，那就去冰岛。
在这儿做个小小的电视广告。
我小时候在那儿待过几年。
那是个美妙的地方。
所以那本书的那一部分从没吓到过我。
但真的，我们想要 AI 把我们
操纵进屈服、让我们高兴吗？
嗯，如果你是一个，你知道，
像一个痴迷于权力、病态的独裁者个体，
只想控制其他人
来在生活里获得你的快感，那么是的，
你会想用 AI 来扩展你的权力和规模、
逼人们屈服。
如果你相信人类
在被给予自由、以及去做一些
可能让你惊讶之事的机会时更好，
那你就想用 AI 来扩展人们建造的能力，
你想造一种扩展人类智能的 AI，
它赋能弱者、帮助平衡
弱者与强者之间的权力，
而不是给强者更多权力。
那么在这个赋能人们、感知人们的过程中，
就识别情绪而言，
你的感觉是什么？
「展现出来的情绪」
与「真实感受到的情绪」之间的区别。
所以，是啊，通过你的脸、你的身体
以及其他各种东西表现在表面上的情绪，
与在生物层面、神经科学层面、
或某种认知层面上
深处实际发生的东西。
是啊，是啊。
哇，这里没有简单的问题。
嗯，是啊，我确信没有确定的答案，
但你的感觉是什么？
只看脸我们能走多远？
当我们只看脸时我们非常受限，
但我们能走得比大多数人以为的更远。
人们想，嘿，我有一张很棒的扑克脸，
所以你从我这儿只能得到中性。
嗯，那太天真了。
我们用你笔记本或手机上
普通的摄像头就能读出。
我们能从一张中性的脸读出你的心是否在狂跳。
我们能从一张中性的脸读出
你的呼吸是否正变得不规律、
并显出压力的迹象。
我们能在某些条件下读出——
也许细节我就不告诉你了——
你的心率变异功率是如何变化的。
那可能是压力的一个迹象，
即便你的心率不一定在加速。
所以……
抱歉，是从生理传感器还是从脸上？
从你甚至看不见、
但摄像头能看见的颜色变化。
那太惊人了。
所以你能得到很多信号，但……
所以我们用普通摄像头得到人们看不见的东西。
而从中，我们能看出关于你压力的一些事。
所以如果你只是面无表情地坐在那儿、
以为没人能读出我的情绪，嗯，你错了。
没错，所以那真的很有意思，
但那是来自脸上的某种视觉信息。
那几乎像是走捷径
通往身体的生理状态，
靠的是你在视觉上能做的事里非常聪明。
靠信号处理。
靠信号处理。
所以那真的令人印象深刻。
但如果你只看我们人类能看见的东西，
扑克脸、微笑、冷笑、
那些微妙的、所有的面部动作。
那么你可以在脸上
隐藏那个有限的一段时间。
现在，如果你只是去参加一个简短的面试、
你藏着它，那对大多数人来说相当容易。
然而如果你无论走到哪里都被持续监视，
那它就会说，咦，你知道，莱克斯过去笑得很多，
而现在我没看到那么多笑。
而罗斯过去笑得很多、
非常自发地笑得很多。
而现在我只看到
这些看起来不那么自发的笑。
而且只在她被问到这些问题时。
你知道，这里有什么变了。
大概是没睡够。
那个我们也能看。
所以现在我也得小心一点。
当我说「我们」时，你以为我们读不出你的情绪
而我们能，它不是那么非黑即白。
我们所读的更多是一些
与你的激活相关的生理变化。
这并不意味着我们知道关于你如何感受的
一切。
事实上，关于你如何感受，我们仍然知道得很少。
你的想法仍然是私密的。
你那些细微的感受仍然完全是私密的。
那些我们一点也读不出。
所以有一些宽慰：我们读不出那个。
连脑成像也读不出那个。
可穿戴设备读不出那个。
然而，当我们读出你的身体状态变化、
并知道你环境里正在发生什么、
并随时间观察这些的模式时，
我们可以开始做出一些关于
你可能在感受什么的推断。
而那正是它不只是那一瞬的感受、
而更是你对事物的立场之所在。
而那其实可能更可怕一点，
对于某些种类的、控制欲强的政府人员——
他们想更多地了解你是不是他们一队的、
还是不是？
并随时间获取那个信息。
所以你是说，通过观察随时间的变化，
有很多信号。
是啊。
那么你在计算机视觉
和像可穿戴这样的生理感知上
都做了很多令人兴奋的工作。
你觉得哪个是最好的模态，
什么是通往情绪灵魂的最好窗口？
是脸吗？
是声音吗？
取决于你想知道什么。
取决于你想知道什么。
取决于你想知道什么。
一切都是有信息量的。
我们所做的一切都是有信息量的。
那么对于健康、福祉之类的东西，
你是否发现可穿戴的生理技术、
测量生理信号
对于基于健康的东西是最好的？
那么这里我会用数据
和我们一直在做的研究来经验性地回答。
我们一直在做研究。
现在这些正在进行，
针对许多不同种类的人，
但就我们已发表数据、
且我能公开谈论的而言，
现在数据仅限于
新英格兰地区的大学生。
所以那是一个小群体。
在新英格兰的大学生中，
当他们戴着一个可穿戴设备，
比如这里的 Empatica Embrace，
它测量皮肤电导、运动、温度。
而当他们用一部智能手机，
它收集他们一天中
发短信的时间、给谁发短信、
他们周围的运动、他们的 GPS、
以及基于他们位置的天气信息。
而当它用机器学习、
把所有那些拼到一起、
并且不只看此刻、
而是看你大约一周里
行为的节律时。
当我们看那个时，
§05原文文稿 · 36:29–44:58
我们在预测明天的压力、
心境、喜悲心境和健康上非常准确。
而当我们看其中哪些部分最有用时，
首先，如果你拥有所有部分，
你得到最好的结果。
如果你只有可穿戴设备，
你得到次好的结果。
而那在预测明天的水平上
仍然有超过 80% 的准确率。
这难道不令人兴奋吗，因为带生理信息的
可穿戴的东西，
感觉它比非接触的、基于脸的方法
更少地侵犯隐私。
是啊，这很有意思。
我觉得人们有时不，
有意思的是，早年人们会说，
哦，戴个东西或献血是侵入性的，对吧？
而摄像头侵入性更小，
因为它不碰你。
我觉得恰恰相反，
那些不碰你的东西也许才是最吓人的，
因为你不知道它们何时开着、何时关着。
而你不知道背后是谁，对吧？
一个可穿戴设备，取决于它上面的数据
发生了什么——如果它只是本地存储，
还是在流式传输、以及它被接到什么上——
在某种意义上，你对它拥有最多的控制，
因为把它取下来也非常容易，对吧？
现在它不在感知我。
所以如果我对它感知的东西不舒服，
现在我自由了，对吧？
如果我对它感知的东西感到舒服，
那么，而且我恰好对这一个了如指掌、
知道它拿它做什么，
所以我对它相当自在，
那我就有控制、我自在。
控制是一个个体
减少其压力的最大因素之一。
如果我对它有控制、
如果我知道关于它所能知道的一切，
那我的压力就低得多，
而我是在做一个知情的选择，
关于是否戴它，
或何时戴、何时不戴。
我有时想戴它，也许另一些时候不想。
没错，所以那种控制，是啊，我同意你。
那种控制，即便，是啊，把它关掉的能力，
那是一件真的很重要的事。
它至关重要。
而我们需要，也许，如果有监管，
也许要保护的第一条，就是
人们的能力——退出要和加入一样容易。
没错，所以你也研究过一点神经科学。
观察我们自己的心智、
那种生物学的东西或神经生物学的、
神经科学去获取我们大脑中的信号，
是如何帮你理解情感计算这个问题
和方法的？
最初，我是个计算机架构师，
我在造硬件和计算机设计，
而我想造出像大脑那样工作的那种。
所以我研究大脑
和我研究如何造计算机一样久。
你弄明白什么了吗？
很少。
它太惊人了。
你知道，他们过去以为，
哦，如果你移除大脑的这一块，
而你发现这个功能消失了，
嗯，那就是做这件事的那部分大脑。
然后后来他们意识到，
如果你移除大脑的另一块，
那个功能又回来了，
哦不，我们真的不理解它。
大脑如此有意思、时时刻刻在变化，
并且能够以大概会继续让我们惊讶的
方式改变。
当我们在测量压力时，
你也许知道这个故事：我们在我们一个
自闭症孩子的一只手腕上，发现了
一个不寻常的大皮肤电导模式。
而在试图弄明白你究竟怎么能
在一只手腕上有压力、另一只没有时——
比如你怎么能只在一只手腕上出汗，对吧？
当你在那种交感的战或逃反应下
感到压力时，
比如你算是应该在某些地方
比别处出汗更多，
但不会在一只手腕上比另一只更多。
那毫无道理。
我们了解到，实际发生的是
他大脑的一部分有不寻常的电活动，
而那导致了一只手腕上、而非另一只上
不寻常的大出汗反应。
而自那以后，我们了解到
癫痫发作会导致这种不寻常的电活动。
而取决于发作在哪里，
如果它在一个地方并停留在那儿，
你可以有一个大的电反应，
我们能用可穿戴设备在身体的一个部位捕捉到。
你也可以有一种
扩散到整个大脑的发作，
全身性的大发作。
而那个反应会扩散，
我们几乎在任何地方都能捕捉到它。
当我们了解到这个、随后造出 Embrace——
它现在已通过 FDA 的癫痫检测审批——
我们也与世界上一些
最了不起的医生
建立了关系，他们不仅帮助
有不寻常脑活动或癫痫的人，
其中一些还是外科医生，
他们进去、植入电极，
不只是为了瞬时读取那些
我们希望看到恢复正常的奇怪脑活动模式，
还为了持续读出这些深层脑区里
正在发生什么，
在这些患者没有发作的大部分时间里。
大部分时间他们没有发作，
大部分时间他们好好的。
所以我们现在正在绘制
那些深层脑区，
那些你甚至通常用 EEG 头皮电极也拿不到的，
因为深处的变化到不了表面。
但有意思的是，当其中一些区域
被激活时，我们看到一个大的皮肤电导反应。
谁能想到呢，对吧？
比如这里什么也没有，但这里有东西。
事实上，在我们认为最危险的
那些发作之后——
它们先于所谓的 SUDEP，
即癫痫猝死——
有一段时间脑电波变平，
看起来像这个人的大脑停了，
但它没有。
活动已深入到一个区域，
它能让皮层活动看起来是平的，
像这里一个快速的关机信号。
如果它持续得够久，不幸地可能导致呼吸停止。
（接上）
在那发生之前，我们在拥有的数据里
看到一个大的皮肤电导反应。
这个变平越久，我们这里的反应越大。
所以我们一直试图弄明白，你知道，起初，
比如为什么这里什么也没有时
我们却在这里得到一个大反应？
嗯，原来有某种深得多的东西。
所以我们现在可以进入这些个体的大脑——
这些了不起的人，
他们通常没有发作——
拿到这些数据并开始绘制它。
所以那就是我们现在正和顶尖医疗伙伴
一起做的活跃研究。
所以这个看皮肤电导的可穿戴传感器
能捕捉到我们大脑里
正在发生之事那复杂性的涟漪。
所以这个小设备，你抱有一种希望，
即你能开始从大脑里发生的有趣之事中
获取信号。
是啊，我们已经发表了这个反应的大小
与之后发生的变平
之间的强相关性。
而不幸的是，也在一个真实的 SUDEP 病例里，
患者死亡了，因为，嗯，我们不知道为什么。
我们不知道如果当时有人在场，
是否一定能阻止它。
但我们知道大多数 SUDEP 发生
在人独自一人时。
而在这里，SUDEP 是一个缩写，S-U-D-E-P。
它其实代表着在所有神经系统疾病中
按「损失的生命年数」计的
第二大原因。
中风是第一，SUDEP 是第二，
但大多数人没听说过它。
其实，我来推一下我的 TED 演讲，
它现在就在 TED 首页上，
讲的就是这个。
而我们希望改变那一点。
我希望每个听说过婴儿猝死综合征和中风的人
现在都会听说 SUDEP，
因为我们觉得在大多数情况下它是可预防的，
如果人们吃药、并在癫痫发作时
不是独自一人。
不保证可预防。
有一些例外，
但我们觉得大多数情况大概是可预防的。
所以你现在有了这个第二版腕带形态的 Embrace，
对吧，用于癫痫管理。
那就是通过 FDA 批准的那个？
是的。
它算是一个「清」。
FDA「clear（许可）」，他们这么说。
抱歉。
不，没关系。
它本质上意味着它被批准上市。
明白了。
说句题外话，那做起来有多难？
它本质上是为计算机科学技术
获得 FDA 批准。
它太煎熬了。
§06原文文稿 · 44:58–54:07
它比在顶级医学期刊上发表多篇论文
难得多。
是啊，我们在同行评审的
顶级医学期刊《神经病学》上发表了最好的结果，
而那对 FDA 来说还不够好。
那个系统，
所以如果我们看医学期刊的同行评审，
有缺陷，也有长处，
那 FDA 的审批流程，
它和同行评审流程相比如何？
它有那种长处吗？
我任何时候都选同行评审而非 FDA。
但那是好事吗？
那对 FDA 是好事吗？
你是说，它是否阻止了一些惊人的技术
通过？
是啊，它确实会。
FDA 扮演着一个非常重要的好角色，
即保障人们的安全。
他们让各种东西，
他们让你经过大量安全测试，
而那很好、那很棒。
我完全赞成安全测试。
但有时他们让你经过额外的测试，
他们不必解释为什么让你经过它，
而你不明白你为什么要经过它，
它没有道理。
而那非常令人沮丧。
而也许他们有非常好的理由，
而他们只是，
把那些理由说清楚会对人们是一种帮助。
更透明些。
更透明些。
那么作为 Empatica 的一部分，你们有传感器。
那么我们能攻克什么样的问题？
从癫痫到自闭症，
到我想我听你提过抑郁，什么样的东西？
我们能缓解什么样的东西？
我们能检测什么？
你的希望是，
我们如何能用这种可穿戴技术
让世界变得更好？
我真的很想看到我才华横溢的同行研究者们
退一步说，什么是我们不知道如何解决的、
真正困难的问题，
它们来自那些也许我们在正常生活里
甚至看不到的人，因为他们生活在
贫穷的地方。
他们被困在公交车上。
他们甚至负担不起 Uber 或 Lyft、
或流量套餐，或所有这些我们拥有、
且不断改进的其他美好东西。
与此同时，世界上有所有这些被落下的人，
他们在与可怕的疾病搏斗，
与抑郁、与癫痫、与糖尿病，
与各种糟糕的东西，而也许多一点时间、
多一点注意力去陪伴他们、
去了解他们生活中的挑战是什么？
他们的需求是什么？
我们如何帮他们拥有工作技能？
我们如何帮他们拥有希望和未来、
以及一个过上那种美好生活的机会——
我们这么多造技术的人都有的那种生活？
然后那会如何重塑我们所造的
那类 AI？那会如何重塑我们所造的新应用，
或者也许我们需要聚焦于
如何让东西更低成本、更环保，
而不是一千美元的手机？
我是说，拜托，我们为什么不能多想想
那些为这些人以更少做更多的东西？
生活质量与你手机的成本无关。
它不是，已经有研究表明，
大约七万五千美元收入之后，幸福是一样的，好吧？
然而，我可以告诉你，你从帮助别人中
得到很多幸福。
你得到的远比七万五千美元能买到的多。
所以我们如何把有真实需求的人
与有能力建造未来的人连接起来，
并建造一种真正改善
所有当前被落下之人生活的那种未来？
那么让我简短地回到一个点上，
也许是电影《她》里的。
那么你觉得，如果我们往更远的未来看，
你说过，让我们的技术对我们人类
更有同理心，其好处很大一部分在于让它们
成为更好的工具、赋能我们、让我们的生活更好。
嗯，如果我们往更远的未来看，
你觉得我们会不会创造出一个
我们能爱上的 AI 系统？
一个我们能爱上、它也以一种
类似于人与人互动的层面反过来爱我们的，
像电影《她》里或更进一步？
我觉得我们能以一些方式模拟它，
让它能维持一阵子的投入。
它会和另一个人一样好吗？
我不这么觉得，如果你习惯了好人的话。
现在，如果你从小到大只有虐待、
而你受不了人类，
我们能不能做点什么在那方面帮你、
通过一台机器给你某种东西？
是啊，但那是相当低的门槛，对吧？
如果你只遇到过相当糟糕的人。
如果你遇到过美好、了不起的人，
我们离造出任何那样的东西还差得远。
而我不会押注去造它。
我反而会押注去造那种
有助于算是水涨船高、
帮助所有人成为更好的人、
帮助所有人弄清楚他们明天是否会生病、
并帮着给他们明天保持健康所需之物的 AI。
那是我想造的那种 AI，
它改善人类的生活，
而不是那种只是走上《今夜秀》、
让人们说「哇，看它多聪明」的 AI。
真的吗？
然后它又被放回盒子里，你知道？
所以在那一点上，
如果我们继续稍微往未来看一点，
你觉得一个有同理心、
且确实改善我们生活的 AI，
需要有一个物理的存在、一个身体吗？
甚至让我谨慎地说出那个「意」字——意识，
甚至对死亡的恐惧。
所以其中一些人类特征，
你觉得它需要有那些方面，
还是它可以仅仅保持为一个机器学习工具，
从行为数据中学习、
学习让我们——
基于先前的模式——感觉好些？
还是它需要意识的那些元素？
取决于你的目标。
如果你在拍电影，它需要一个身体。
它需要一个绝美的身体。
它需要表现得像它有意识。
它需要表现得像它有情绪，对吧？
因为那才卖座。
那才会让我出现并享受这部电影。
好吧。
在现实生活中，它需要那一切吗？
嗯，如果你读过奥森·斯科特·卡德的
《安德的游戏》《死者代言人》，
它可以只是你耳环里的一个小声音，对吧？
而你可以拥有一段亲密的关系，
它可以逐渐了解你。
而它不需要是个机器人。
但那没法让这成为一部那么引人入胜的电影，对吧？
我是说，我们已经觉得有点怪，
当一个人在火车上看起来像在自言自语时，
尽管那是耳塞。
所以我们有这些，具身是更有力的。
具身，当你比较与一个
具身机器人的互动、与一段机器人视频、
以及没有机器人相比时，机器人更吸引人。
机器人更能抓住我们的注意力。
当你走进家门时，机器人
更可能让你记得去做
你要求它做的事，
因为它算是有一个物理的存在。
如果你不喜欢它，你可以躲开它。
它能看出你在躲它。
具身有很大的力量。
会有具身的 AI。
它们有巨大的力量、机会和潜力。
也会有不具身的 AI，
它们只是帮我们做不同事情、
可能逐渐了解关于我们一些事情的
小小软件助手。
它们会有意识吗？
会有人试图给它们编程、
让它们显得有意识。
我们已经能写出让它看起来像、
哦，你什么意思？
我当然知道你在那儿，对吧，的程序。
我是说，说那类话是小事一桩。
骗人很容易，
但它真的有像我们这样的意识体验吗？
还没人有一点头绪如何做那个。
那似乎是超出
我们当中任何人现在知道如何建造的东西。
它必须有那个吗？
我觉得没有它，你用很多东西
也能走得相当远。
但我们会给予它权利吗？
嗯，那更是一场政治游戏，
而不是一个真正意识的问题。
是啊，关掉 Alexa 会不会坐牢，
也许是几十年后一次选举的问题。
嗯，索菲亚机器人已经在沙特阿拉伯
被授予公民权利了，对吧？
甚至在女性拥有完整权利之前。
然后那个机器人还是被放回盒子里、
运往下一个
它会有付费亮相的地方，对吧？
是啊，它很黑暗，近乎喜剧，甚至荒诞。
所以我听你谈过你寻找信仰的旅程。
当然。
以及你如何通过读《圣经》发现了一些
关于生命以及生命之外的智慧。
而我也听你说过，
你说科学家常常假设
§07原文文稿 · 54:07–1:00:11
在当前能测量的东西之外什么也不存在。
是啊，唯物主义。
唯物主义。
以及科学主义，是啊。
所以在某种意义上，这个假设使能了
近期的科学方法，
假设我们能用我们当前拥有的
测量机制揭开这个世界的奥秘。
但我们很容易忘记我们做了这个假设。
那么你觉得通过做那个假设，我们错过了什么？
（接上）
把科学方法限定于我们能测量、
能推理、能重现的东西，这没问题。
那没问题。
我觉得我们必须认识到，
有时我们科学家也相信
历史上发生过的事情。
比如我相信大屠杀发生过。
我没法用科学证明过去历史里的事件。
你用历史证据来证明它们，对吧？
用它们对人们造成的影响、
用目击者证词之类的东西。
所以一个好的思考者认识到，科学
是获取知识的许多方式之一。
它不是唯一的方式。
而近来有一些真的很糟的哲学
和糟糕的思考，你可以称之为科学主义，
即人们说科学是通往真理的唯一方式。
而它不是，它就不是。
还有其他也行得通的方式。
比如对与某人之爱的认识。
你不通过科学证明你的爱，对吧？
所以历史、哲学、爱，
生活中许多其他的东西向我们表明，
除了科学之外，还有更多获得知识和真理的方式，
如果你愿意相信有这么一种东西的话，
而我相信有，比科学更多的方式。
我信，然而我是个科学家。
而在我的科学里，我确实把我的科学
限定于科学方法能做的事。
但我认识到，说「那就是全部」
是短视的。
没错，就像你列举的，
有所有那些「为什么」的问题。
而说真的，如果我们对自己诚实，
相对于全部的奥秘，我们真正知道的百分比
基本上是零……
测度论，一个测度为零的集合，
如果我拥有有限量的知识，而我确实如此。
那么你说你相信真理。
那让我问那个老问题。
你觉得这一切是关于什么的？
地球上的生命是什么？
生命、宇宙，以及一切？
以及一切，意义是什么？
我忍不住要引用道格拉斯·亚当斯的 42。
它是我最喜欢的数字。
顺便说，那是我的门牌号。
我丈夫和我为我们的房子猜了完全相同的数字，
我们可以挑它。
而我们挑 42 是有原因的，是啊。
那么它只是 42，还是你有
能围绕它说的其他词？
嗯，我觉得有一场宏大的冒险，
而我觉得这一生是它的一部分。
我觉得它比这里眼睛、心、
头脑和灵魂所看到的
要多得多。我觉得在这一生中我们是透过一面昏暗的镜子去看。
我们只看到所有可知之物的一部分。
如果人们没读过《圣经》，他们应该读，
如果他们自认为是受过教育的，
你可以读《箴言》，
并在其中找到无法用科学证明的
巨大智慧。
但当你读它时，你里面有某种东西，
就像一个音乐家知道乐器奏得对、
奏得美的时候。
你里面有某种东西活了过来、
并知道那里有一个真理，
就像你的琴弦是被大师、
而不是被我拨动的，对吧，我拨它时奏出的样子。
但大概当你弹时，它听起来很壮观，对吧？
而当你遇到那些真理时，
你里面有某种东西在歌唱，
并知道有比我能用数学证明、
或能给计算机编程去做的
更多的东西。
别误会我，数学很美。
计算机编程可以很出色。
它鼓舞人心，对吧？
我们想做更多。
这一切都不会压抑我做科学、
或通过科学获取知识的欲望。
我根本没有贬低科学。
我对科学所能做的愈发满怀敬畏，
因为我对我们所不知道的一切愈发满怀敬畏。
而说真的，在科学的核心，
你必须有一种信念：有真理，
有某种更伟大的东西有待发现。
而有些科学家也许不想用「信仰」这个词，
但正是信仰驱动我们去做科学。
是对「有真理」的信仰，
信有某种我们不知道、
但值得知道的东西，信它值得努力，
信有意义，
信有「意义」这么一种东西，
而顺便说，科学也无法证明那个。
我们必须算是从一些假设出发，
即有真理和意义这样的东西。
而这些真的是哲学家所拥有的问题，对吧？
这是他们的地盘，
在某种层面上是哲学家和神学家的。
所以这些是科学……
当人们声称科学会告诉你一切真理时，
那有一个名字。
它是它自己的一种信仰。
它是科学主义，而且它非常短视。
是啊，外面有一个大得多的世界有待探索，
以一些科学也许，
至少就目前而言，不允许我们探索的方式。
是啊，而且有意义、目的、希望、
喜悦、爱，以及所有这些了不起的东西，
它们也让这一切都值得。
我觉得没有比这更好的收尾方式了，罗斯。
非常感谢你今天与我交谈。
谢谢你，莱克斯，何等荣幸。
很棒的问题。