Question

发展可以接替现在由人类完成的某些工作的智能机器，具有重要的伦理和道德含义。当我们谈到拥有情感并且人类可能对其形成强烈的情感依恋的仿人类机器人时，这一点更是尤为重要。

情感化机器人扮演的角色是什么？它们将与我们有怎样的互动？我们真的想要一些自主、自我定向、有广泛的行为自由、高智能化、有情感和情绪的机器吗？我想是的，因为它们能给我们带来很多益处。但是很显然，当机器拥有所有这些技能时，它们就会对我们构成威胁。我们需要确保人类能够永远处于监督和掌控的地位，确保它们能妥善地为人类服务。

机器人教师将会取代人类教师的地位吗？答案是否定的，但是它们可以作为一个补充。此外，在没有其他选择的情况下——在旅途中、在偏远的地方时，或者当某个人想研究一个主题却找不到教师时——它们足以让人们能够开展学习。机器人教师让终生学习变成可能。它们使得人们无论身处世界上的哪个角落、处于一天中的哪个时段，都能开展学习。学习应该是在有需要的时候、在学习者感兴趣的情形下进行，而不应该按照固定的、武断的学校课程表进行。

许多人都被这些可能性所困扰，以致他们把智能机器当做不道德的邪恶东西而拒之门外。尽管我不会这样做，但我确实能体谅他们的顾虑。然而，我发现智能机器的发展是势不可当的，并且大有益处。它的好处在哪里呢？譬如在诸如执行危险任务、汽车驾驶、商船引航、教育、医学以及例行工作的接管等领域。道德和伦理方面的顾虑又体现在哪里？很大程度也在上述所列举的活动中。下面让我以更深入细致的方式探讨它们的有益方面。

来看看其中一些益处。机器人可能被——在某程度上已经如此了——用于处理危险任务，这些任务如果由人类来完成的话，需要冒着生命危险。它们包括搜救工作、勘探和采矿等。问题在哪里？最重大的问题可能来自利用机器人来从事一些不合法或不道德的活动，如抢劫、谋杀及恐怖主义。

机器人汽车会取代人类驾驶员吗？我希望如此。每年，数以万计的人死于交通意外，另外还有数以几十万计的人在车祸中严重受伤。如果汽车能像商业航空一样安全，那不是很好吗？因此，自动交通工具将是一个极佳的挽救方法。此外，自动交通工具相互之间可以更加近距离地行驶，这能帮助缓解交通拥堵，而且它们还可以更加高效地行驶，这也有助于解决与驾驶相关的某些能源问题。

驾驶汽车似乎很简单，大多数时候并不需要什么技巧。结果，很多人会陷入一种安全和自信的错觉里。但危险常常突如其来，在这些情况下，那些心不在焉、技术不精、未经训练，以及暂时被毒品、酒精、疾病、疲劳或困乏侵袭的人，往往不能及时作出适当的反应，即使是受过良好训练的职业驾驶员也会发生意外。自动交通工具固然不能完全杜绝所有意外和伤害的发生，但可以大大降低目前的伤亡人数。是的，有些人真的很享受驾驶这项活动，但可以在特殊的道路上、在娱乐区域里和赛道上进行。日常驾驶的自动化将导致商用交通工具的驾驶员失去工作，但总体而言，它可以挽救生命。

机器人教师在改变我们的教学方式方面，也有着巨大的潜力。目前的教学模式往往是一位教师站在讲台上照本宣科地讲课，强迫学生听一些他们丝毫不感兴趣，而且与他们的日常生活毫不相干的内容。从教师的角度来看，按照教科书讲课是最简单的教学方式，但是对学生而言，这却是效率最为低下的方式。当劲头十足的学生对某个主题产生兴趣，然后努力钻研如何把其中的概念应用到他们关心的事情上时，这才是最有效的学习方式。没错，是努力学习，学习是一个积极和动态的过程，努力是其中的一部分。但当学生真正关注某些事情时，努力学习是令人愉快的。优秀的教学从来都不是通过说教，而是通过讲授、辅导和指导的方式来实现的。这是运动员学习的方式，同时也是电动游戏的魅力所在，只是在电动游戏中学生学习到的东西几乎没有什么实用价值而已。这些方法在学习科学（learning science）中很有名，被称为问题导向式、探索式的学习，或者构建式学习。

这就是情感起作用的地方。只有当学生充满动力、当他们关注某些事情时，学习才能取得最佳的效果。他们需要在感情上投入其中，需要被引导到主题令人兴奋之处。这就是范例、图表、插图、影像及生动的插图如此有效的原因。学习不必是一个沉闷枯燥的练习过程，即使是学习一般被认为沉闷枯燥的主题，也不必如此。每个主题都可以是令人振奋的，每个主题都可以激发某些人的情感，那么为什么不能激发所有人的情感呢？应该是时候让课堂变得生动活泼，让历史被视为人类的奋斗过程，让学生理解并欣赏艺术、音乐、科学和数学的结构了。怎么才能让这些主题变得令人振奋呢？答案是让它们与每个学生的生活关联起来，而让学生把他们的技巧投入即时的应用，则往往是最为有效的方式。开发出令人振奋、感情投入并且有效的学习体验，确实是对设计的一大挑战，值得世界上最有天分的人才来接受挑战。

通过为积极的、问题导向式的学习提供基本架构，机器人、机器或电脑可以为教学带来很大的帮助。电脑学习系统能够提供模拟的世界，学生可以从中探索科学、文学、历史或艺术方面的问题。机器人教师能够使搜索世界上的图书馆及知识库的工作变得相当容易。人类教师则不再需要讲课，他们只需要以教练和指导者的身份，把时间花在指导学生学习知识和学习最佳的学习方法上，这样学生就能终生保持求知欲和好奇心了，而且在必要时具有自学的能力。人类教师仍然是必要的，但是相比起现今的角色而言，他们可以发挥一种完全不同的、更具支持性和建设性的作用。

此外，尽管我坚信我们可以开发出如同斯蒂芬森在《钻石年代》中描述的角色那般高效能的机器人教师，但是我们也没必要舍弃现有的人类教师：自动化教师——无论是书本、机器或机器人——都只能作为人类教师的辅助者。即使是斯蒂芬森本人，他在自己的小说中也写到，他的明星学生对真实的世界和真实的人类一无所知，因为她大部分的时间都把自己封闭在小说的幻想世界里。

医学领域的机器人？没错，它们能够被用于医学领域的方方面面。然而，就像在很多其他的活动中一样，我预见到机器人将以一种合作的方式，即作为受过良好训练的人类医疗工作者的专业机器人助理，和他们一起提高医疗护理的质量和可靠性。

现在眼科的激光手术几乎全部由机器控制，其实任何其他要求高精度的活动都可以选择由机器操作。医疗诊断则比较复杂和棘手，我猜想有经验的内科医师还将会一直参与其中，但他们将受到动态智能机器的帮助，这些机器可以对先前病例、医疗记录、医疗知识及药物信息方面的庞大数据库进行评估。实际上这种援助需求已经存在，因为相关信息数量及新资讯的快速增长，已经对执业医生造成了几乎快无法承受的压力。而且，由于我们有了更好的诊断工具——更加高效的体液和生理数据分析、DNA分析及各种身体扫描，当中的某些信息被定期收集并从病人家里或甚至是工作场所直接发送到诊疗室，在这种情况下，只有机器才能跟得上信息增长的步伐。人类善于综合诊断和创造性的决策，善于从整体上综观全局，而机器则精于从大量的案例和信息文件中进行快速的搜索，而且不像人类记忆一样受偏误所支配。由受过训练的医疗人员和机器助手组成的团队合作，将远胜于他们各自单独工作。

当然，一个普遍的担心是机器人将从人类手中接管很多例行性的工作，从而导致大范围的失业和社会混乱。是的，将有越来越多的机器和机器人从人类手中接管工作，不仅是低技术含量的工作，而且还将逐渐包含管理工作在内的各种各样的例行工作。纵观历史，每一次新技术革命的浪潮都会淘汰一部分工人，不过，总体的结果都是延长了人类的寿命并提升了所有人的生活品质，包括最后增加了就业机会，尽管工作性质与此前不同。然而，在过渡时期，人们会处于遭到淘汰和失业的境地，因为新产生的工种所要求的技术往往和那些被淘汰的工人所具备的技术存在很大的差距。这是一个必须予以重视的重要的社会问题。

在过去，被自动化取代的大部分工作都是低端的、不需要掌握多少技术或受过一点教育就能从事的工作。然而在未来，机器人将倾向于取代一些需要高端技术的工作。电影演员会被电脑生成的人物取代吗？它们能像真人一样发声和表演，而且更能为导演所控制。机器人运动员会参加竞技比赛吗？即便不是和人类比拼，而是在它们的群体内比赛，但这仍然会导致人类体育竞赛的式微。这种情况也很可能发生在国际象棋锦标赛和联赛中，因为电脑棋手甚至可以击败最优秀的人类棋手。那么，诸如会计、簿记、绘图、仓管这些工作，甚至是简单的管理工作呢？它们会被取代吗？是的，所有这些都有可能被取代，有些甚至已经开始被取代了。会不会出现机器人音乐家？可能被机器人取代的工作不胜枚举，因而甚至有产生社会动荡的潜在危险。

当机器人被应用于类似太空探索、危险的煤矿开采或搜救任务之类的活动时，或者甚至是它们在家庭周遭做一些简单的事情时——诸如吸尘及其他家务杂事——它们不至于招致社会大众强烈的抵制。但是当它们开始接管大量的工作或者把很多人的例行工作取而代之时，那么确实会衍生出真正的忧虑，可能引起严重的社会问题。

我相信我们应该欢迎那些能消除许多工作中的沉闷乏味的机器，乏味的文书工作或许比许多低报酬的、例行的服务性工作更加没有价值。当然，这种欢迎是假设机器可以解放人类，让他们能投入到更具创造性的活动中，从中他们可以更加愉快、更加有效地发挥自己的聪明才智。

我曾经到访过世界上很多地方，这些地方的贫穷、连续的饥荒和高死亡率，让我对当今社会制度的优越性产生了怀疑。在印度的丝绸工厂里，我曾经见过女童们被锁在厂房里，被迫从早到晚不停地纺织，禁闭在那里不能离开——如果没有人从外面打开门锁的话，即使发生火灾也不能从厂房逃离。我在历史方面的研究告诉我，这种对许多人的不公平、野蛮、冷酷的对待并不罕见，而且远在现代技术发展之前就已经存在。

是的，我看到了使用智能机器和机器人的弊端，但是我也看到了不使用它们的弊端。如果你愿意的话，把我称为乐观主义者吧，我相信人类在创造这些强大的设备时表现出来的聪明才智，最终也将使我们创造出更加丰富、更具启发意义的活动来为我们所有人服务。乐观主义并没有蒙蔽我的眼睛，我依然看到当今社会的不公平和存在的问题，但乐观主义反映了我的信仰，也就是我们将来必能战胜它们。没错，我们仍然存在贫穷、饥饿、政治上的不公平和战争，但这些更多是源自人类的邪恶而非科技的发展。我看不出为什么引进智能化、情感化的机器人和机器会改变这种状况，无论是在好的方面还是坏的方面。要改变邪恶，我们必须直面它。这是一个社会的、政治的和人类的问题，而不是一个技术上的问题。当然，这一点既没有把问题缩小，也没有把我们从寻求解决方案中释放出来。只是最后的解决方案必须是社会的和政治的，而不是技术的。

如果我把视野扩展到短期范围之外，这个问题将变得更加复杂。在某种意义上，机器人和其他机器将变得真正具有自主性。虽然这是很久之后的事情，也许是几个世纪之后，但它必将发生。到那时候，人类的生活真的会遭到巨大的破坏，大部分甚至全部的人类工作都能由机器人完成：耕种、采矿、生产、配置和销售，还有教育和医药，甚至是艺术、音乐、文学和娱乐上的很多工作。机器人还可以实现自我生产。从这一点来看，自然界的动物和机器人之间的关系将变得极为复杂。这一复杂程度还将扩大，因为很多人实际上已经变成电子人——一半是人，一半是机器。人工移植已经存在，大部分是作为医学修复术；但某些人则是按照需求进行移植，为了更好地提升他们的自然能力。肢体力量、运动能力、感觉能力、记忆能力、决策能力都能通过植入电子的、化学的、机械的、生化的或纳米技术的装置而得到加强。类固醇被运动员用于增强他们既有的体能，眼角膜激光手术已经被某些运动员及飞行员用于提高视力的敏锐度。我眼睛内的人造角膜——白内障摘除术后植入的——让我的视力比之前好很多了，唯一的问题是我的眼睛不能改变焦距。但是有一天，人造眼角膜将能够聚焦，聚焦性能甚至可能比天然角膜还要好，此外，还可能提供正常视力之外的远视功能。当这些可能性实现时，即使是不受白内障困扰的人也可能愿意用这些更有用的角膜来代替他们天然的角膜。其他更加惊人的人工性能的提升也有可能发生。这些可能性将导致复杂的伦理问题，但这已经完全超出本书的讨论范围了。

不过，此书确实把重点放在情感和它们在人造装置开发方面的作用，以及人类如何在情感上把自己跟他们的所有物、他们的宠物和人类相互之间建立联系上。机器人也能担当这一切职能。首先，机器人将成为所有物，不过它是有着清晰的个人情感的所有物，因为如果一个机器人伴随了你大半生，能够与你互动，能够让你回想你的经历，能够给你提供建议，或者仅仅是能够给你解闷，你会对它产生强烈的情感依恋。尽管今天的机器人宠物还比较简陋粗糙，但是它们已经唤起了主人们的强烈情感。在未来的几十年内，机器人宠物也许将拥有真实宠物的所有属性，并且在许多人看来，会比真实的宠物更好。今天，很多人会虐待和遗弃他们的宠物。在很多社区里有成群结队的流浪猫和流浪狗在垃圾堆里觅食。同样的问题会发生在机器人宠物身上吗？谁将对它们的照看和维护负有法律上的责任？如果机器人宠物伤人了该怎么办？谁该负法律责任？机器人吗？还是它的主人？抑或是它的设计师或生产商？如果是真实的宠物的话，主人将是责任方。

最后，当机器人作为独立的、有感官能力、有自己的梦想和抱负的生物存在时，将会是什么境况呢？我们将需要一些类似于阿西莫夫的机器人定律之类的东西吗？有这些定律就足够了吗？如果机器人宠物会造成破坏，那么自主性的机器人又可能会做出一些什么事情呢？如果机器人造成破坏、伤害或死亡，那么责任该归属于谁？又能得到什么赔偿呢？阿西莫夫在他的小说《机械公敌》中总结说，在未来，机器人终将接管世界，人类将会丧失自己的话语权。这是科幻小说？是的，但是在所有未来的可能性变成现实之前，它们只是科幻而已。

我们正处于一个崭新的时代。机器已经变得相当智能化，而且还将变得更加智能化。它们的运动功能正在日益发展，很快它们还将拥有情感和情绪。由此带来的正面影响将是巨大的，但是负面的结果也值得关注。这正是所有科技的问题：它是一把双刃剑，总是结合了潜在的益处和潜在的不足。

[1] “世界上大多数政府将于2003至2007年间禁止使用任何目的的机器人。”（阿西莫夫，1950）

[2] “阿西莫夫的机器人四大定律。”罗杰·克拉克在他的著作和授权网站上（克拉克，1993，1994）注明了第一、第二和第三定律的来源日期，并且是出自与科幻小说家兼编辑的约翰·坎贝尔在1940年进行讨论的内容。（阿西莫夫，1985）

[3] “按照我的意思去做，而不是按照我说的话去做。”请注意，DWIM（按照我的意思去做）是一个老概念，沃伦·泰特曼在1972年将该概念引入了LISP计算机程序系统的命令诠释系统。当它发挥效用时，就非常好用。

[4] “阿西莫夫的主要错误”对关于自生性系统的作品的优秀评论，是约翰逊有关中央控制的著作《紧急状态》。（约翰逊，2001）

[5] “现在已经有一些适用于机器人的安全守则。”[《工业机器人和机器人系统安全》，职业安全和健康监察局，美国劳工部，OSHA技术手册。（ETD1-0.15A，1999）]