Question

我的烤箱怎样才可以做出我喜欢的吐司呢？除非它有自豪感？除非机器具有智慧和情感，否则它们不可能变得聪明和敏感。情感让我们可以将智慧转化为行动。

如果对行动的质量没有自豪感，我们为什么要努力做得更好？正面情绪对于我们的学习和保持我们对世界的好奇心非常重要。负面情绪可能让我们远离危险，但是正面情绪能让我们的生活变得有意义，能引导我们走向生活中的美好事物，它还是对我们所取得的成就的奖励，并且驱使我们努力争取做得更好。

假使只有理智的话，不会永远都能让人满足。如果没有足够的信息会发生什么情况？当存在风险时，我们该如何决定采取何种措施，以使我们在受损害的可能性与来自成功的情感收获之间取得平衡？这正是情感发挥重要作用的地方，也是人类的神经系统受到损伤时^[4]为什么会犹豫不决的原因。在电影《2001太空漫游》中，宇航员戴夫冒着生命危险想要取回同伴的尸体。这从逻辑角度来说没多大意义，可是从人类社会漫长的历史来看，这却非常重要。诚然，让多数人冒险去营救少数人，或者寻回死者，在我们的现实生活和虚构故事（文学作品、戏剧和电影）中是永恒的主题。

机器人需要一些类似情感的东西以便作出复杂的决定。这条通道可以承受机器人的重量吗？那根柱子后面潜藏着危险吗？要作出这些决定，不仅仅需要感官信息，更要利用经验和常识对世界作出判断，并利用情感系统对当时的情况作出评估，进而采取行动。如果单凭纯粹的逻辑推理，我们可能花了一整天却还在原地踏步。当我们在彻底思考所有可能出错的事情时，不会采取任何行动，就像情感系统受到损伤的人们一样。为了作出这些决定，我们需要情感，而机器人也一样。

目前，我们的机器还不具备类似于人类的丰富而多层次的情感，但有朝一日将会变成现实。请注意，机器人所需的情感不一定是照搬人类的情感，而是一套符合机器需求的情感系统。机器人应该注意那些可能发生在它们身上的危险，很多危险都跟人类和动物所遇到的一样，但有些是机器人特有的。它们必须避免从楼梯和某些高处的边缘掉下来，因此它们应该恐高。它们应该会感到疲劳，因此它们在充电前不会耗尽电力或让自己处于低电量（饥饿）状态。它们不需要吃饭或上厕所，但是它们需要定期的保养：给接合处加油，替换老旧零件等。它们不需要担心清洁和卫生问题，但是需要注意别让污垢进入活动部件，别让灰尘和污垢弄脏摄像头，以及别让电脑病毒影响它们的功能。机器人需要的情感既类似于人类的情感，但又有所差别。

尽管机器人的设计师从来没有考虑要把感情或情感融入到机器里，但是他们却为机器设计了安全和生存系统。其中一些类似于人类本能的层次：可以探测到潜在危险并相应地作出反应的简单而快速回应的电路。换言之，如何生存已经成为多数机器设计的一部分。许多设备都安装了保险丝，如果它们突然通过太大的电流，保险丝或断路器就会中断电路，防止机器本身受到损坏（此外，通过这个方法也能避免我们或环境受到危害）。同样地，有些电脑装有不间断电源，一旦电力中断，它们可以立即迅速地转换到电池电源。电池的电量给它们争取了时间，可以从容不迫地关机，并保存所有数据和通知操作员。有些设备装有温度或水位感应器，某些设备可以探测到人类的存在，当察觉到有人出现在禁区时，就会停止操作。现在的机器人和其他移动系统已经装配了感应器和视讯系统，预防撞上人和其他物体，或者预防从楼梯上跌落。因此，简单的安全和生存系统已经是很多机器人设计的一部分内容了。

对于人类和动物而言，本能系统带来的影响不会终止某个原始反应。本能层次给更高层次的处理系统发出信号，设法确定问题的起因，以及确定有效的反应。机器应该也是这样操作。

任何具有自主性的系统——就是按照自身意愿存在，不受管理者支配——不断地在许多可能的行动中决定应该采取哪一种方案。从技术层面来说，它需要一套安排行程的系统，即使是人类，在面对这个问题时也会有困难。如果我们努力完成一项重要的任务，我们应该在什么时候停下来吃饭、睡觉或处理其他需要我们去做但又并非紧急的事情？我如何在每天有限的时间里完成这么多必要的事情，而且知道什么时候把某件事先搁置下来，什么时候又不能搁置？哪件事更重要：明天早上要交的重要计划书还是筹备一个家庭生日宴会？至今，这些是机器几乎不会涉及的难题，但是人类每天都要面对。这些正是情感系统可以帮助处理的决策性和控制方面的问题。

许多机器都采取这样的设计，即使有某个部件失灵，仍然可以继续运作。这种操作对于与安全相关的系统非常重要，例如飞机和核反应堆；同时，对于执行重要工作的系统也很有价值，例如某些电脑系统、医院和其他涉及重要社会基础设施的系统。但是，如果在某个零部件失灵而启用后备零件时，会发生什么事情呢？这时情感系统就会发挥它的作用。

设备在本能层次上会探测到某个零部件失灵，并发出警报：实质上，系统应该开始变得“焦虑”了。不断增强的焦虑感应该会使机器更谨慎地行动，譬如降低速度或延缓非关键工作。换句话说，为什么机器不可以像会产生焦虑感的人类那样行动呢？即使是在尝试去除焦虑起因时，它们也应该谨慎行事。对人类来说，精神会更加集中，直到确定了事情起因和作出合适的回应。无论机器系统作出怎样的反应，都需要改变常规的行为。

为了在不可预知的动态世界中生存，动物和人类都形成了复杂精密的机制，他们把情感化的评价和评估方法结合并用于调整整个系统，从而提高了系统的稳固性和容错度。如果我们的人工系统能从这些例子中吸收经验，也就能运作得更好。