2025年03月17日 星期一
走不出的机器人困境
第23版:封面报道 2025-03-17

走不出的机器人困境

何映宇

战国时期的思想家列子。

恰佩克的科幻剧本《罗素姆万能机器人》。

美国著名科幻小说家阿西莫夫。

经典科幻片《银翼杀手》。

科幻小说《仿生人会梦见电子羊吗?》。

正因为它们缺乏人类的情感与思维,它们只能是机器人,可是如果它们一旦拥有了人类才能拥有的理性,它们是否就能取代人类呢?它们是不是会反过来奴役人类呢?这些问题一直困扰着科幻小说家,令他们创作出一个又一个作品,幻想着其中的无限可能性。

记者|何映宇

机器人是科幻小说中的一大主角。如果想要让你的科幻小说科幻感更强,那就多设计几个机器人。当“人造人”出现后,各种问题也就接踵而至。你该如何面对这些机器人,是奴役它,是提防它,是爱惜它,还是愿意和它结婚生子?

他创造出“机器人”一词

其实早在中国先秦时期的典籍《列子》中,就有了机器人的故事了。

《列子·汤问》记载偃师是古代传奇中最神奇的机械工程师,他曾献给周穆王一个偶人。偃师造出的偶人和常人的外貌极为酷肖,周穆王一开始还以为只是偃师的随行之人,经过偃师的解说,才让这位神性极强的名王也惊奇万分。那偶人前进、后退、前俯、后仰,动作和真人无一不像,掰动下巴,则能够曼声而歌,调动手臂便会摇摆起舞,让旁观者惊奇万分,周穆王看得有趣过瘾,还让宠姬一起出来观看。表演将毕,那偶人却向周穆王的宠姬抛了抛媚眼,让周穆王勃然大怒,一心认定这个灵活宛似活人的家伙本就是个不折不扣的真人,便要将偃师当场处决。偃师却将偶人立刻拆开,发现它只是由皮革、木头、胶漆、黑白红蓝颜料组成的死物。周穆王趋前细看,偶人的内部器官俱有,外边则是筋骨、关节、皮毛、牙齿、头发一应俱全,但却都是假物,一经组合,却又是一个活生生的偶人,将偶人的心拆走,偶人便无法说话,拆走肝则眼目皆盲,将它的肾拆走,就无法走路。最后,才让周穆王心悦诚服,大叹偃师技法的高超。

这个故事中的偶人,比现实中我们能看到的已经生产出来的机器人,有过之而无不及,想来应该是作者虚构出来的。否则难以想象,在2000多年前的中国,会有这样的科技水平。

这样的科幻小说在中国后来就绝迹了,在近代西方却大放异彩。现在我们熟知的机器人一词,是捷克作家卡雷尔·恰佩克创造出来的。1920年,恰佩克发表了科幻剧本《罗素姆万能机器人》。在这部剧本中,恰佩克把捷克语“Robota”写成了“Robot”,创造了一个全新的词语,而“Robota”在捷克语中是奴隶、苦力的意思。剧本中一位名叫罗素姆的哲学家研制出一种机器人,被资本家大批制造来充当劳动力。这些大批制造的机器人外貌与人类相差无几,并可以自行思考,然而一场机器人灭绝人类的叛变计划正在进行……

也就是说,在100多年前恰佩克创造出机器人(Robot)这一词的时候,他就在担忧机器人一旦有了情感,他们可能会起来造反,对人类社会产生悲剧性影响,而那时候,世界上甚至还没有一个人见到过机器人长什么样。显然,此时的恰佩克,担心与其说是机器人,更多的可能是机器。一战造成的巨大破坏令世人震惊,当时的知识分子几乎都在反思,这到底是道德的沦丧,还是机器的扭曲?在坦克和马克沁机枪面前,人类是多么的脆弱,一旦这些机器站到人类的对立面,统治了世界,人类的结局只有毁灭。这恐怕才是都没见过机器人的恰佩克会写这个剧本的缘由所在。

在这部脑洞大开的作品中,恰佩克甚至设想,最终,毁灭了人类的机器人相爱了,然后又进化为人类。如果是这样的话,进化为人类的机器人,到底是机器人,还是人类呢?

机器人三原则

1942年3月号的《惊奇》杂志上,著名科幻作家阿西莫夫发表了短篇小说《转圈圈》,首次提出了“机器人三原则”。之后,他在1950年出版的小说集《我,机器人》中系统阐述了这三原则:

1.机器人必须不伤害人类,也不允许它见人类将受到伤害而袖手旁观;

2.机器人必须服从人类的命令,除非人类的命令与第一条相违背;

3.机器人必须保护自身不受伤害,除非这与上述两条相违背。

首先,他强调了“机器人必须不伤害人类”的大原则,但问题在于,他还提出了两个“除非”。两国军队交锋时,一国对另一国的军队使用机器人,请问是否违背了“机器人三原则”呢?人类是一个抽象的词语,一旦具体化,每一个人都有个性、脾气、好恶,人与人之间自然会有矛盾,国家与国家之间当然也会有冲突,此时,机器人应该站什么样的立场?

既然“不允许它见人类将受到伤害而袖手旁观”,那么当人类与人类自相残杀时,机器人是否能作壁上观呢?

更何况第二条已经规定了,“机器人必须服从人类的命令”,如果某国军事首脑命令机器人杀戮另一国的人类,那么机器人当做何选择?难道它还能抗令不尊不成?三原则的前两条难道不是矛盾的吗?

更离谱的就是第三条,什么叫“机器人必须保护自身不受伤害,除非这与上述两条相违背”?阿西莫夫的本意很显然,是在不伤害人类的大前提下谈这个第三原则的。但问题在于,这世界上,如果不是人类来伤害机器人,还有谁能伤害机器人呢?外星人吗?如果人类伤害了机器人,难道它就乖乖地束手就擒?

实际上,阿西莫夫本人也意识到了这个问题,他在小说《可以避免的冲突》中设想出现这样的情况:机器人为了避免人类彼此伤害,便限制人类的行为,转由机器人掌控一切。这难道就是他提出“机器人三原则”最终想要的结果?也就是在处处保护人类、限制机器人的条件下,机器人居然依旧能逆势而为,统治了世界,这是不是更可怕?

如果我们假想机器人和人一样是有感情的,那么情况还会复杂得多。在莱斯特·雷伊的科幻小说《海伦·奥勒》中,人和机器人就坠入情网,并最终成婚。一旦机器人不仅有了七情六欲,并且能像人类一样怀孕生子,那么它还能称之为机器人吗?

阿西莫夫在小说《两百岁的人》中写机器人安德鲁为了成为真正的人,逐步将自己的机械零件替换成活体器官,终于在两百岁生日的弥留之际,以死亡的代价获得了人类的承认。一个全部由人类器官构成的机器人还是不是机器人?死亡了才获得承认又有什么意义?这就是阿西莫夫提出的引人思索的问题。

“科幻小说”这个术语有两层意思,一是“科学”,二是“幻想”,因为有幻想的一面,探讨起来自然是建立在很多假想的前提下的,这样的讨论往往具有一定的前瞻性,却又缺乏对现实的诸多关照,这是它的两难困境。

人类与机器人的伦理

1982年,《异形》的导演雷德利·斯科特拍摄了电影《银翼杀手》,成为科幻电影的经典。这部电影改编自菲利普·K·迪克的科幻小说《仿生人会梦见电子羊吗?》,菲利普·K·迪克是美国科幻文学界的传奇人物,曾获得雨果奖和坎贝尔奖,除了《银翼杀手》,他的另一部作品也非常出名,那就是《少数派报告》。

《仿生人会梦见电子羊吗?》是菲利普·迪克最负盛名的作品,小说描述了从一天早晨到第二天早晨的二十多个小时,主人公里克·德卡德为了赏金追杀几个仿生人的过程,历经无数变故,狗血共桃花一色,阴谋与暴力齐飞。小说里的人类受到地球辐射尘的影响,相貌丑陋,很多在心智上都发生了退化,而仿生人却外表堂堂,多才多艺。当仿生人在外表和心智上无限逼近人类,甚至表面上已经超越人类时,人究竟何以为人?

当机器人发展到仿生人的程度,那么它还是机器人吗?和《两百岁的人》中的机器人相比,仿生人更为极端,两者几乎没有什么区别。正如美国科幻作家金·斯坦利·罗宾逊索说的:“《仿生人会梦见电子羊吗?》指出,机器人也有直觉。它们不只是可以飞快运算的机器,它们也会思考、睡觉和做梦。由此引发了一个更大的问题:什么才是人的特质?”

什么是人?这才是这部小说真正要讨论的问题。正因为这个问题太过深邃,经过复杂的讨论,也不可能一劳永逸地得出一个非此即彼的答案。

在众多科幻小说中,都讨论了类似的问题。美国作家莫尔在《并非生为女人》中,描述舞蹈家黛德丽死后,其思想意识和部分肌体被移植在机器人上,最终成为一个具有独立人格和丰富感情的“女人”。这就是“未来的夏娃”吗?人类与机器人的伦理问题错综复杂,关键问题就在于,人形机器人拥有与人类理性的体型容貌,却是由机械——而非血肉——构成。正因为它们缺乏人类的情感与思维,它们只能是机器人,可是如果它们一旦拥有了人类才能拥有的理性,它们是否就能取代人类呢?它们是不是会反过来奴役人类呢?这些问题一直困扰着科幻小说家,令他们创作出一个又一个作品,幻想着其中的无限可能性。

放大

缩小

上一版

下一版

下载

读报纸首页