Question

戴夫，停下来^[1]……停下来，你能……停下来吗？戴夫……你能停下来吗？戴夫……停下来啊，戴夫……我很害怕，我很害怕……我怕啊。戴夫……戴夫……我的心要飞走了……我感觉到……我真的感觉到……我的心要飞走了……肯定没错……我能感觉到……我能感觉到……我很……害怕。

——哈尔，电影《2001太空漫游》中的全能电脑

哈尔感到害怕是很正常的，因为戴夫正打算把它的零件拆卸下来，将它关掉。当然，戴夫也很害怕，因为哈尔杀死了太空船上的其他队员，但没能杀死戴夫。

但是，为什么哈尔会感到害怕？它怎么会害怕呢？这是真的害怕吗？我怀疑不是。哈尔正确地判断出戴夫的意图：戴夫想要杀死它。所以，害怕和担心是当时情况下的合理反应。但是，人类情感不仅是由逻辑和理性组成，它们还与人类行为和感觉紧密相连。如果哈尔是一个人，它会奋力抵抗以阻止自己被杀死，它会用力撞门，反正就是尽一切努力逃生。它还会威胁说：“如果杀了我，一旦你消耗完背包里的空气，你也要死。”但是哈尔没有这样做，实际上它只是不停地说“我害怕”。哈尔懂得什么是害怕，但是感觉和行动没能结合起来，这就不算是真正的情感。

不过，为什么哈尔需要真实的情感呢？现在的机器根本不需要情感。是的，它们具有合理程度上的智慧，但是情感呢？它们没有。不过，未来的机器将需要情感，就跟人类需要情感一样：人类的情感系统在生存、社交和合作以及学习中发挥着重要作用。当机器面对同样的情况时，当它们必须在没有人类帮助的情况下连续工作，以应对不断涌现的新状况与复杂多变的世界时，机器将需要一种情感——机器情感。随着机器变得越来越能干，并且肩负起我们的许多工作，设计师面临的是一项复杂的任务，要决定如何制造它们，如何让它们相互交流，以及如何跟人类交流。因此，出于与动物和人类具有情感的理由相同，我相信机器也将需要情感。请注意，这不会是人类的情感，而是适合机器本身需要的情感。

机器人早已存在了，大多数是工厂里相当简单的自动化手臂和工具，但是它们的力量和性能在不断提高，活动范围和地点也拓宽了很多。有一些机器人可以做有用的工作，例如除草和吸尘。有一些则很好玩，像宠物机器人。有一些简单的机器人则被用于从事危险的工作，例如救火、搜救任务或军事行动。还有一些机器人可以送信、分发药品和承担其他相对简单的工作。随着机器人越来越先进，它们开始产生一些最简单的情感，例如类似本能的畏高或担心撞上东西；宠物机器人则将具有好玩可爱的个性。随着时间的推移，这些机器人的性能会进一步提高，它们将逐渐具备丰富的情感：当遇到危险时会感到害怕和焦虑，当实现一个渴望已久的目标时会感到快乐，对自己的工作质量感到自豪，以及对主人言听计从。很多这样的机器人都是在家居环境里工作，会和人类及其他家用机器人相互交流与合作，所以它们需要表达自己的情感，具备类似于脸部表情和身体语言的功能。

图6.1 电影《星球大战》（Star Wars）中的C3PO（左边）和R2D2（右边）^[2]
虽然R2D2在身体和脸部结构上有一些缺陷，但是它们都具有非常丰富的表情。[图片提供：卢卡斯电影有限公司（Lucasfilm Ltd.）]

脸部表情和身体语言是机器人“系统意象”的一部分，帮助人们对与之交流的机器人的操作方式产生较清晰的概念模型。当我们与其他人交流时，他们的脸部表情和身体语言让我们知道自己是否被理解，他们是否感到疑惑，或者他们是否同意我们的观点。当人们感到困惑时，我们可以通过他们的表情得知。我们与机器人沟通的时候，这种非语言反馈也非常重要：机器人理解人们的指令吗？它们什么时候会努力完成任务呢？它们什么时候可以成功完成任务呢？它们什么时候会遇到问题呢？情感表达可以让我们知道它们的动机和渴求、成就和挫折，从而提高我们对机器人的满意度和理解：我们可以判断出它们可以做什么和不可以做什么。

要找到情感和智慧的适当配合方式并不容易。电影《星球大战》中的两个机器人R2D2和C3P0，它们就像我们想要在家里拥有的机器人。我猜想它们的魅力在于它们展示弱点的方式。C3P0是一个笨拙又好心的呆子，几乎不能胜任任何工作，除了它自己的专业：翻译语言和机器沟通。R2D2则善于与其他机器交流，但具有有限的物理性能，它必须依赖C3P0才能跟人类交谈。

R2D2和C3P0能够很好地展示它们的情感，让剧中人物和电影观众理解它们，对它们产生移情，有时甚至会生它们的气。C3P0的外形像人类一样，因此它可以展示脸部表情和身体动作——它做了很多手部扭动和身体摆动的动作。R2D2则有较多限制，尽管如此，它还是富有表现力的，当我们看到的只是摇头、身体前后移动，或只是听到一些可爱但莫名其妙的声音时，我们还是可以将之归类为情感。通过电影制作的技巧，设计师用来设计R2D2和C3P0的概念模型显而易见。因此，人们始终能很清楚地了解它们的优点和缺点，这让它们变得既有趣又高效。

电影机器人并不是一直都那么走运。请注意发生在两个电影机器人身上的事情：电影《2001太空漫游》中的哈尔和《人工智能》中的戴维。哈尔感到害怕，正如本章开端的引文所描述的那样，它的确害怕了，因为它正在被拆卸——基本上可以说是正在被杀。

戴维是被制造出来代替孩子的机器人，它在家庭中取代了真实孩子的位置。戴维非常复杂精密，但是有点太完美了。根据这个故事，戴维是第一个拥有“无条件的爱”的机器人。但是，这并不是真爱。也许因为它是“无条件的”，所以看起来做作、过于强烈，也不符合正常的人类情感状态。普通的孩子可能爱他们的父母，但是他们对父母还会经历不喜欢、生气、妒忌、厌恶和漠不关心的阶段。然而，戴维没有展现这样的感觉，它纯粹的爱象征着一个快乐而真挚的孩子，时刻黏着母亲，一步都不离开。这种行为是如此恼人，以致它最后被养母遗弃在野外，告诉它再也不要回来。

高级人工智能的情感在科幻小说中是很常用的主题，因此，电视剧和电影《星际迷航》（Star Trek）中的两个角色在情感和智慧中斗争。首先是斯波克，他几乎没有什么情感，他的母亲是人类，而父亲是火神，故事作者创造了绝好的契机，让斯波克纯粹的智慧和科克船长的人类情感相互斗争。同样地，在随后的系列中，戴塔少校是一个完全人工制造的纯粹机器人，他没有情感，尽管有几段是想帮戴塔植入“情感晶片”的插曲，仿佛情感是大脑中独立的部分，可以按照意愿加入或抽离，但是他的缺乏情感也给作者提供了类似的素材。虽然这个系列是虚构的故事，但是作者也做了充分的工作：他们对角色在作出决定和社交互动时的情感表现描述得很合理，心理学家罗伯特·瑟库勒（Robert Sekuler）和伦道夫·布莱克（Randolph Blake）^[3]觉得它们是这种现象的突出范例，很适合用来教授基础心理学。在他们的著作《大脑中的星际迷航》（Star Trek on the Brain）中，他们使用了《星际迷航》系列里的大量例子，来说明情感在行为中产生的作用。