走不出的机器人困境

战国时期的思想家列子。

恰佩克的科幻剧本《罗素姆万能机器人》。

美国著名科幻小说家阿西莫夫。

经典科幻片《银翼杀手》。

科幻小说《仿生人会梦见电子羊吗？》。

正因为它们缺乏人类的情感与思维，它们只能是机器人，可是如果它们一旦拥有了人类才能拥有的理性，它们是否就能取代人类呢？它们是不是会反过来奴役人类呢？这些问题一直困扰着科幻小说家，令他们创作出一个又一个作品，幻想着其中的无限可能性。

记者｜何映宇

机器人是科幻小说中的一大主角。如果想要让你的科幻小说科幻感更强，那就多设计几个机器人。当“人造人”出现后，各种问题也就接踵而至。你该如何面对这些机器人，是奴役它，是提防它，是爱惜它，还是愿意和它结婚生子？

他创造出“机器人”一词

其实早在中国先秦时期的典籍《列子》中，就有了机器人的故事了。

《列子·汤问》记载偃师是古代传奇中最神奇的机械工程师，他曾献给周穆王一个偶人。偃师造出的偶人和常人的外貌极为酷肖，周穆王一开始还以为只是偃师的随行之人，经过偃师的解说，才让这位神性极强的名王也惊奇万分。那偶人前进、后退、前俯、后仰，动作和真人无一不像，掰动下巴，则能够曼声而歌，调动手臂便会摇摆起舞，让旁观者惊奇万分，周穆王看得有趣过瘾，还让宠姬一起出来观看。表演将毕，那偶人却向周穆王的宠姬抛了抛媚眼，让周穆王勃然大怒，一心认定这个灵活宛似活人的家伙本就是个不折不扣的真人，便要将偃师当场处决。偃师却将偶人立刻拆开，发现它只是由皮革、木头、胶漆、黑白红蓝颜料组成的死物。周穆王趋前细看，偶人的内部器官俱有，外边则是筋骨、关节、皮毛、牙齿、头发一应俱全，但却都是假物，一经组合，却又是一个活生生的偶人，将偶人的心拆走，偶人便无法说话，拆走肝则眼目皆盲，将它的肾拆走，就无法走路。最后，才让周穆王心悦诚服，大叹偃师技法的高超。

这个故事中的偶人，比现实中我们能看到的已经生产出来的机器人，有过之而无不及，想来应该是作者虚构出来的。否则难以想象，在2000多年前的中国，会有这样的科技水平。

这样的科幻小说在中国后来就绝迹了，在近代西方却大放异彩。现在我们熟知的机器人一词，是捷克作家卡雷尔·恰佩克创造出来的。1920年，恰佩克发表了科幻剧本《罗素姆万能机器人》。在这部剧本中，恰佩克把捷克语“Robota”写成了“Robot”，创造了一个全新的词语，而“Robota”在捷克语中是奴隶、苦力的意思。剧本中一位名叫罗素姆的哲学家研制出一种机器人，被资本家大批制造来充当劳动力。这些大批制造的机器人外貌与人类相差无几，并可以自行思考，然而一场机器人灭绝人类的叛变计划正在进行……

也就是说，在100多年前恰佩克创造出机器人（Robot）这一词的时候，他就在担忧机器人一旦有了情感，他们可能会起来造反，对人类社会产生悲剧性影响，而那时候，世界上甚至还没有一个人见到过机器人长什么样。显然，此时的恰佩克，担心与其说是机器人，更多的可能是机器。一战造成的巨大破坏令世人震惊，当时的知识分子几乎都在反思，这到底是道德的沦丧，还是机器的扭曲？在坦克和马克沁机枪面前，人类是多么的脆弱，一旦这些机器站到人类的对立面，统治了世界，人类的结局只有毁灭。这恐怕才是都没见过机器人的恰佩克会写这个剧本的缘由所在。

在这部脑洞大开的作品中，恰佩克甚至设想，最终，毁灭了人类的机器人相爱了，然后又进化为人类。如果是这样的话，进化为人类的机器人，到底是机器人，还是人类呢？

机器人三原则

1942年3月号的《惊奇》杂志上，著名科幻作家阿西莫夫发表了短篇小说《转圈圈》，首次提出了“机器人三原则”。之后，他在1950年出版的小说集《我，机器人》中系统阐述了这三原则：

1.机器人必须不伤害人类，也不允许它见人类将受到伤害而袖手旁观；

2.机器人必须服从人类的命令，除非人类的命令与第一条相违背；

3.机器人必须保护自身不受伤害，除非这与上述两条相违背。

首先，他强调了“机器人必须不伤害人类”的大原则，但问题在于，他还提出了两个“除非”。两国军队交锋时，一国对另一国的军队使用机器人，请问是否违背了“机器人三原则”呢？人类是一个抽象的词语，一旦具体化，每一个人都有个性、脾气、好恶，人与人之间自然会有矛盾，国家与国家之间当然也会有冲突，此时，机器人应该站什么样的立场？

既然“不允许它见人类将受到伤害而袖手旁观”，那么当人类与人类自相残杀时，机器人是否能作壁上观呢？

更何况第二条已经规定了，“机器人必须服从人类的命令”，如果某国军事首脑命令机器人杀戮另一国的人类，那么机器人当做何选择？难道它还能抗令不尊不成？三原则的前两条难道不是矛盾的吗？

更离谱的就是第三条，什么叫“机器人必须保护自身不受伤害，除非这与上述两条相违背”？阿西莫夫的本意很显然，是在不伤害人类的大前提下谈这个第三原则的。但问题在于，这世界上，如果不是人类来伤害机器人，还有谁能伤害机器人呢？外星人吗？如果人类伤害了机器人，难道它就乖乖地束手就擒？

实际上，阿西莫夫本人也意识到了这个问题，他在小说《可以避免的冲突》中设想出现这样的情况：机器人为了避免人类彼此伤害，便限制人类的行为，转由机器人掌控一切。这难道就是他提出“机器人三原则”最终想要的结果？也就是在处处保护人类、限制机器人的条件下，机器人居然依旧能逆势而为，统治了世界，这是不是更可怕？

如果我们假想机器人和人一样是有感情的，那么情况还会复杂得多。在莱斯特·雷伊的科幻小说《海伦·奥勒》中，人和机器人就坠入情网，并最终成婚。一旦机器人不仅有了七情六欲，并且能像人类一样怀孕生子，那么它还能称之为机器人吗？

阿西莫夫在小说《两百岁的人》中写机器人安德鲁为了成为真正的人，逐步将自己的机械零件替换成活体器官，终于在两百岁生日的弥留之际，以死亡的代价获得了人类的承认。一个全部由人类器官构成的机器人还是不是机器人？死亡了才获得承认又有什么意义？这就是阿西莫夫提出的引人思索的问题。

“科幻小说”这个术语有两层意思，一是“科学”，二是“幻想”，因为有幻想的一面，探讨起来自然是建立在很多假想的前提下的，这样的讨论往往具有一定的前瞻性，却又缺乏对现实的诸多关照，这是它的两难困境。

人类与机器人的伦理

1982年，《异形》的导演雷德利·斯科特拍摄了电影《银翼杀手》，成为科幻电影的经典。这部电影改编自菲利普·K·迪克的科幻小说《仿生人会梦见电子羊吗？》，菲利普·K·迪克是美国科幻文学界的传奇人物，曾获得雨果奖和坎贝尔奖，除了《银翼杀手》，他的另一部作品也非常出名，那就是《少数派报告》。

《仿生人会梦见电子羊吗？》是菲利普·迪克最负盛名的作品，小说描述了从一天早晨到第二天早晨的二十多个小时，主人公里克·德卡德为了赏金追杀几个仿生人的过程，历经无数变故，狗血共桃花一色，阴谋与暴力齐飞。小说里的人类受到地球辐射尘的影响，相貌丑陋，很多在心智上都发生了退化，而仿生人却外表堂堂，多才多艺。当仿生人在外表和心智上无限逼近人类，甚至表面上已经超越人类时，人究竟何以为人？

当机器人发展到仿生人的程度，那么它还是机器人吗？和《两百岁的人》中的机器人相比，仿生人更为极端，两者几乎没有什么区别。正如美国科幻作家金·斯坦利·罗宾逊索说的：“《仿生人会梦见电子羊吗？》指出，机器人也有直觉。它们不只是可以飞快运算的机器，它们也会思考、睡觉和做梦。由此引发了一个更大的问题：什么才是人的特质？”

什么是人？这才是这部小说真正要讨论的问题。正因为这个问题太过深邃，经过复杂的讨论，也不可能一劳永逸地得出一个非此即彼的答案。

在众多科幻小说中，都讨论了类似的问题。美国作家莫尔在《并非生为女人》中，描述舞蹈家黛德丽死后，其思想意识和部分肌体被移植在机器人上，最终成为一个具有独立人格和丰富感情的“女人”。这就是“未来的夏娃”吗？人类与机器人的伦理问题错综复杂，关键问题就在于，人形机器人拥有与人类理性的体型容貌，却是由机械——而非血肉——构成。正因为它们缺乏人类的情感与思维，它们只能是机器人，可是如果它们一旦拥有了人类才能拥有的理性，它们是否就能取代人类呢？它们是不是会反过来奴役人类呢？这些问题一直困扰着科幻小说家，令他们创作出一个又一个作品，幻想着其中的无限可能性。