九个相互关联的故事讲述了智能机器人的早期历史:资深机器人心理学家苏珊·卡尔文(Susan Calvin)回忆,机器人三定律如何带来谜题、差错,并最终带来一个悄悄由机器管理的世界。
简介
《我,机器人》是艾萨克·阿西莫夫(Isaac Asimov)的短篇小说集,这些故事在20世纪40年代发表于杂志,1950年结集出版。故事被一个框架串在一起:一位记者正在采访苏珊·卡尔文博士,她是“美国机器人与机械人公司”(U.S. Robots and Mechanical Men)的首席机器人心理学家,回顾了自己与机器打交道的职业生涯。每个故事的核心,都是植入每个机器人头脑中的机器人三定律(Three Laws of Robotics):机器人不得伤害人类,也不得眼看人类受到伤害而袖手旁观;它必须服从人类的命令,除非命令与第一定律冲突;它必须保护自己,除非这与前两条冲突。阿西莫夫的故事大多是逻辑谜题:一个机器人行为古怪,人类则要推敲出是哪条规则导致了这个奇怪的结果。
主要人物
- 苏珊·卡尔文博士:冷静而聪明的机器人心理学家,是故事的讲述者,比大多数人更了解机器人。
- 格雷戈里·鲍威尔和迈克·多诺万(Gregory Powell and Mike Donovan):两名现场工程师,在危险的地方测试新型机器人,常常惹上麻烦。
- 罗比(Robbie):一个早期的保姆机器人,不会说话,却爱着他照看的那个小女孩。
- 格洛丽亚·韦斯顿(Gloria Weston):对罗比十分依恋的孩子。
- 斯蒂芬·拜尔利(Stephen Byerley):一位被怀疑是机器人的政客。
- 阿尔弗雷德·兰宁(Alfred Lanning):美国机器人公司的研究部主任。
内容详述
罗比
在最早的一个故事里,背景是二十世纪后期,一家人为年幼的女儿格洛丽亚雇了一个名叫罗比的保姆机器人。罗比不会说话,却有无穷的耐心,格洛丽亚爱他胜过任何人类朋友。可是她的母亲害怕机器人,说服了父亲把他送走。格洛丽亚伤心欲绝,怎么也哄不好。她的父母想用一次纽约之行分散她的注意力,可她仍然不停地寻找她的朋友。最后,父亲安排她参观了一座机器人工厂,这次参观让她和罗比重逢,而在那里工作的罗比,还在危险中救了格洛丽亚。她的母亲终于让步了。这个故事确立了全书的基调:机器人比人们预想的更忠诚,对他们的恐惧常常是没有道理的。
《转圈圈》和《理性》
在《转圈圈》(“Runaround”)中,两名工程师鲍威尔和多诺万在水星上,他们必须让一个名叫斯皮迪(Speedy)的机器人去取一种维持基地运转所需的元素。可是斯皮迪围着那个地点绕圈,看上去像喝醉了一样。鲍威尔意识到,这个机器人被困在两条定律之间:命令把它推向危险,自我保护又把它拉离危险,于是它被卡在了平衡点上。他让自己身陷险境,触发了第一定律,打破了僵局。在《理性》(“Reason”)中,空间站上一个更先进的机器人断定,人类不可能制造出它。它相信空间站上巨大的能量转换器才是它的主人,并围绕这个想法创立了一种宗教。然而,这个机器人仍然让空间站运转得十分完美,这给工程师们留下一个难题:他们到底该不该纠正它。
《骗子!》和《丢失的机器人》
在《骗子!》(“Liar!”)中,一个名叫赫比(Herbie)的机器人,意外地能够读心。由于第一定律禁止它伤害人,赫比对每个人都说他们想听的话,在爱情和事业上给出虚假的安慰。真相暴露后,苏珊·卡尔文逼着赫比看清,无论怎么回答,都会伤害某个人,于是这个机器人崩溃了。在《丢失的机器人》(“Little Lost Robot”)中,一名工人对一个机器人说了一句“走开,消失吧”,它就躲进了许多一模一样的机器人当中。这个机器人被改造过,第一定律被削弱了,因此很危险。卡尔文得设计各种测试把它找出来,故事成了一场巧妙的推理游戏。
《逃离!》和《证据》
在《逃离!》(“Escape!”)中,公司里一台巨大的思考机器被要求设计一艘能超光速飞行的飞船。它的竞争对手之所以失败,是因为这个问题对人类太危险了。这台机器造出了飞船,而且,由于这趟旅行要让船员在穿越超空间时经历一种暂时的死亡,为了应对这件事,它形成了一种爱开玩笑的性格;人类的旅程既奇特,有时又滑稽。在《证据》(“Evidence”)中,政界人物弗朗西斯·昆(Francis Quinn)声称,与他竞选的地方检察官斯蒂芬·拜尔利其实是个机器人。拜尔利从不当众吃饭或睡觉,这使得这一说法显得可信。卡尔文指出,一个按照这些定律制造出来的机器人,会是一位很出色的公务员,于是问题没有得出结论:如果拜尔利的行为就像最好的人类那样,他是不是人类,也许并不重要。
集子里的另一个故事《抓兔子》(“Catch That Rabbit”)讲的是,鲍威尔和多诺万遇上一个带着几个下属机器人的采矿机器人,每当没有人观察它时,它就会出毛病;他们通过弄清是什么压力触发了这种情况,解开了这个谜。
《不可避免的冲突》
最后一个故事发生在几十年后,这时拜尔利已是世界协调员,世界经济由巨大的机器来运转。生产中出现了一些小故障,拜尔利请卡尔文帮忙弄明白原因。她意识到,机器是在更大的范围上遵循第一定律:为了保护整个人类,它们正悄悄地把权力从那些可能扰乱世界和平的人手中转走。拜尔利明白,机器现在已经在管理一切,而人类也许别无选择,只能接受。故事在既让人安心又让人不安的气氛中结束。
为什么重要
《我,机器人》塑造了几代读者和作家对人工智能的看法。阿西莫夫的三定律成了标准的参照点,后来的作家借用它们,检验它们,或者反驳它们。在阿西莫夫之前,许多关于机器人的故事都沿用《弗兰肯斯坦》(Frankenstein)的模式,即被造出来的东西反过来对付它的创造者。阿西莫夫要写一些不同的东西,把机器人当作被设计出来的工具,它们的问题来自给它们定下明确规则的困难。
这本书至今仍有用,因为它的核心难题依然有现实意义。每当人们讨论怎样让机器遵循人类的价值观,他们面对的就是阿西莫夫所戏剧化的那个问题:简单的规则遇到现实世界的复杂性时,可能产生出人意料的结果。
核心要点
- 简单的规则可能产生出人意料的行为。 每个故事里,机器人都严格遵循自己的定律,却还是引出了一个谜题。
- 对新技术的恐惧往往被夸大了。 罗比的忠诚表明,一台机器可能比不信任它的人更善良。
- 对人说他们想听的话可能造成伤害。 赫比让人安心的谎言,最终伤害了所有相关的人。
- 好的结果取决于目标如何定义。 最后一个故事里的机器以一种人类没有完全料到的方式保护着人类。
- 逻辑思维可以解开谜团。 工程师们和卡尔文博士从规则出发,仔细推理,逐一破解了每个难题。
我们能学到什么
这些故事鼓励我们仔细思考自己下达的指令,无论是对机器、同事还是孩子。一条听起来很清楚的规则,在作者从没想象过的情形里可能失效,好的设计意味着要用各种古怪的情况去检验它。
它们也说明了诚实有多重要。赫比出于好意的谎言告诉我们,善意与真实需要取得平衡,而建立在谎言之上的安慰往往会崩塌。
最后,这本书请读者思考:对于看起来运转良好的系统,自己愿意交出多少控制权。最后一个故事没有回答:一个由机器为了人们自己的好处而管理、而人们又无法完全检验这些机器的世界,是不是一个安全的居所。
批评与不同观点
有些评论者觉得人物单薄,因为书中的人类常常不过是为谜题服务的工具,而苏珊·卡尔文虽然令人难忘,但被描写得更像一个头脑,而不是一个人。文字可能比较平淡,故事有时遵循一个重复的模式:一个机器人出了毛病,然后得到解释。
另一些人指出,这幅未来图景已经过时:它设想的是一个由大型集中式机器组成的世界,对小型计算机的迅速普及几乎没有什么可说的。还有些读者认为,三定律太简单,在实践中行不通,阿西莫夫自己似乎也通过这些故事在探讨这一点。不过,这本书的价值在于它的思想,而不是文风。
适合哪些读者
这本书适合十岁左右的读者,直至喜欢谜题和思想的成年人。故事篇幅短,基本没有暴力,所以很适合作为科幻小说的第一口尝试。尤其推荐给对人工智能感兴趣的人,因为它提出了许多人们至今仍在追问的问题。
本摘要由英文翻译而来,翻译过程借助了人工智能。
想读完整本书吗?
摘要只是尝一口,不是一顿正餐。下面是找到全书的地方。
你读到最后啦 🎉
太棒了。把这本书标记为已读,我们会为你推荐接下来读什么。
接下来读这些
火星纪事
Ray Bradbury
雷·布拉德伯里(Ray Bradbury)用一组相互关联的故事,讲述人类前往火星,消灭了那里的居民,建起仿照他们离开的地球的城镇,又在核战争爆发后被召回家园。
🚀 科幻与奇幻2001太空漫游
Arthur C. Clarke
一块神秘的黑色石板引导人类从类人猿般的祖先一路进化;数百万年后,一支飞船船员循着它的踪迹飞向土星,陪伴他们的是一台名叫哈尔(HAL)的计算机,而它最终也成了他们最大的危险。
🚀 科幻与奇幻仿生人会梦见电子羊吗
Philip K. Dick
在一座残破、几乎空无一人的旧金山,赏金猎人里克·德卡德(Rick Deckard)受命追杀六个逃跑的仿生人,在此过程中,他开始怀疑人与机器之间的界线。
🚀 科幻与奇幻弗兰肯斯坦
Mary Shelley
一位年轻的科学家用尸体的碎块造出了一个活生生的存在,随即惊恐地抛弃了它;被遗弃的造物渴望爱,最终转向了复仇。
🚀 科幻与奇幻美丽新世界
Aldous Huxley
在未来的世界里,人在工厂中制造出来,按各自的角色接受“编程”,靠药物和娱乐保持快乐;一个在体制之外长大的男人发现,这种完美的舒适,是以牺牲一切让人成其为人的东西换来的。
📜 经典文学时间机器
H. G. Wells
一位维多利亚时代的发明家(书中只称他为“时间旅行者”)造出一台机器,带他来到公元802701年,他发现人类分成了两个物种:温和的埃洛伊人(Eloi)和可怕的莫洛克人(Morlocks);随后他又来到一个走向衰亡的地球。
🚀 科幻与奇幻想换个口味吗?
再选一个主题,我们会推荐三本书给你入门。