五 说假话的机器人<br><br>艾尔弗雷德·兰宁慢条斯理地点燃了雪茄,而他的手指却在微微颤动。他紧锁双眉,边说边吐出团团烟雾。 <br> “唔,他能猜透人的心思。这一点你们完全可以相信。但是,为什么会这样呢?”他看了看数学家皮特·勃格特,问: <br> “您说呢?” <br> 勃格特用双手抿了抿自己的黑头发说:“兰宁,这是第三十四个RB型机器人.其他所有的机器人都完全合格。” <br> 第三个人坐在桌子后面,皱着眉头。他叫米尔顿·阿希,是《美国机器人与机械人公司》最年轻的领导成员,为此他很自豪。 <br> “听我说,勃格特。我担保,从头到尾它被组装得完全正确!” <br> 勃格特那厚厚的嘴唇咧开来,露出以庇护者自居的笑容:“您担保?好吧。如果您能替整个组装线负责,那么我推荐提升您。按精确的统计,生产一个正电子脑就需要七万五千二百三十四道工序,而每一道工序的成败又取决于多种因素——由五种到一百五十种因氯只要其中一种因素受到破坏,正电子脑就要报废。阿希,我引用的可是咱们自己的资料." <br> 米尔顿·阿希满面通红,刚想作答,却被第四个人说的话打断了。“如果我们要互相推倭过错的话,那我就走……”苏珊·卡尔文的双手紧握拳头,放在膝上。她那两片惨白的薄嘴唇周围的细皱纹变得更深了。“眼下咱们这里出了一个机器人,他能猜透人的心思。我深最重要的是我们应该弄明白,为什么他能这样做。如果咱们光叫喊‘你错了’,‘我错了’,那咱们就没法弄明白." <br> 她那冷冷的灰色眼睛注视着阿希。阿希淡淡一笑。 <br> 兰宁也淡然一笑。在这种场合,他那长长的白发和狡黠的小眼通常使人感到像圣经中的长老。 <br> “说得对,卡尔文博士,”突然,他用干脆利落的声调讲,“用最简练的方式来表达,情况是这样的。我们生产了一副正电子脑。它本不应有异于其它正电子脑。但实际上它却具有接收人们在思维过程中放出的电波的奥妙功能。如果我们能了解其中的原因,那就意味着机器人技术将提前几十年进入新的重要发展阶段。但是,我们还不了解。我们是应该搞清楚的。大家明白吗?" <br> “我可以提出一个想法吗?"勃格特问。 <br> “说吧。” <br> “我认为,在我们还没有搞清楚这件事以前——作为数学家,我认为这是一件麻烦透顶的事——关于RB一34的存在应该保密。甚至不能让公司的其它职工知道。我们作为各部门的领导人,不应把这看成是不能解决的问题。至于其它人,则知道得越少……… <br> “勃格特讲得对,”卡尔文博士说,“自从按星际法典允许先在工厂内对机器人进行试验,然后送往宇航站以来,反对机器人的宣传加剧了。如果有人知道机器人能猜透人的心思,而我们却还不能宣布可以完全控制这种现象的话,那就将会有人借此给自己大捞资本。” <br> 兰宁严肃认真地点了点头,继续吸着烟,然后转向阿希:“我想您说过,当您第一次碰到这种能猜透人的心思的现象时,只有您一个人在场,对吗?" <br> “我一个人……这是我有生以来所碰到的第一桩这样吓人的事RB一34刚从组装台上搬下来,就被送到我那里。奥伯曼出去了,所以我一个人把机器人带到楼下试验间。最起码是开始把他带下去。’ <br> 阿希中断了一会儿,嘴上露出淡淡的笑意。 <br> “你们当中有谁曾无意识地在心里和别人交谈过吗?" <br> 没有人回答,于是他继续讲下去: <br> “你们知道,起初谁也不会注意到这点。他对我讲了一些话,很有逻辑,很合道理。当我快走到试验问时,我才意识到,我根本没讲什么话。当然,我脑子里是想着这样或那样的问题。可这是另一码事,对吧?我把它锁起来,就跑去找兰宁。想想看,这个机器人和你一起走着,静静地窥视你的心思,揣摩着你的心思。这使我感到精神紧张。” <br> “这种情形不难想象,”苏珊·卡尔文用专注的目光盯着阿希,若有所思他说,“因为我们完全习惯于只有自己才知道自己的心思 <br> “这么说,只有我们四个人知道这件事,”兰宁不耐烦地插话说,“这很好,我们对此事要进行系统的调查。阿希,我希望您去检查一下装配线,从头到尾全部检查。您应该把那些不可能产生差错的式序排除掉,而把可能产生差错的工序列出来,并请指出可能存在的差错是什么性质以及可能严重到什么程度." <br> “这回有事干了。”阿希嘟嚷了一句。 <br> “那有什么办法呢。当然,不光您一个人来干这件事,您把自己手下的人,如果需要的话,一个不漏都派去干这个活。完不成生产计划也没关系!但是,不能让他们知道为什么干这件事。明白吗?” <br> “晤,晤,明白了,”年轻的技师撇嘴苦笑着说:“反正活凡是够干的."’ <br> 兰宁把转椅转了一下,面向卡尔文说: <br> “您得从另一个角度做这项工作。您是我们厂一的机器人心理专家,您应该去研究机器人本身,从这里突破。设法搞清楚它是怎样活动的,请注意与它的通灵术本领有关的一切,这些本领能扩展到多远,如何对它的思维发生影响,确切他说,这一切会给它的标准机器人胜能造成什么变化。明白吗?" <br> 兰宁没有等待回答。 <br> “我将协调这项工作的各个方面,并对各类结果进行数学上的处理,”他猛吸了一口烟,透过雾说完了后半句话:“当然罗,勃格特将在这方面协助我。” <br> 勃格特一边继续用两只肥厚的手交替摩擦着手指甲,一边用温和的语调说:“我敢说,在这方面我还是略知一二的。” <br> “那么好吧,我要开始干了,”阿希推开自己的椅子,站了起来。在他那张年轻而又招人喜欢的脸上显出了灿笑。“我摊上了顶糟糕的活,所以我该告辞去干活了." <br> 他含糊他说了一声“再见." <br> 苏珊向他报以微微一点头,但是她的目光却一直送着他,直至门在他身后关上。兰宁咕噜了一声,问她: <br> “卡尔文博士,您不想上去看看RB一34吗?" <br> 她却没有作答。 <br> 门吱的一声打开了,机器人RB一34的光电眼睛从书本上抬起来。当苏珊·卡尔文走进房间时,它站立起来。苏珊在门口停了一不把门上写着“禁止人内”的牌子挂正,然后走近机器人。 <br> “赫比,我给你拿来了一些关于超原子发动机的资料。你不想看看吗?" <br> RB一34(或者称赫比)从她手中拿了三大厚本书,翻开一本的扉页。 <br> “晤!《超原子理论调……’它一面喃喃自语,一面开始翻阅这些书。然后心不在焉他说:“请坐,卡尔文博士!这只要用几分钟就够了。 <br> 心理学家坐下来,注意地观察着RB一34。机器人在桌子的另一边坐下,开始系统地阅览这三本书。 <br> 过半小时后,它把书放到一边。 <br> “当然,我知道您为什么给我拿这些书来." <br> 苏珊的嘴角颤动了一下:“我本以为你不知道呢。很难和你打交道,赫比。你总是比我早一步." <br> “您知道,这些书和其它书一样,我对它们根本不感兴趣。在你们的教科书里什么也没有。你们的科学,这简直是事实的堆砌。由勉强算作理论的东西把它们连在一起。这一切简直太肤浅了,未心值得为它们下功夫。使我感兴趣的倒是你们的小说,人们的欲望和感情的交织和互相影响……”它在选择一个合适的词时,用粗壮的手做了一个含糊不清的手势。 <br> “我想,我明白。”卡尔文博士低声说。 <br> “您看,我能猜透人的心思,”机器人继续说,“可您想象不到,人们的心思是多么复杂。我还不能理解人的所有心思,因为我的思维和你们的思维相同点太少。但我尽力而为之,而且你们的小说对我很有帮助." <br> “可是,我担心,当你从现代的多愁善感的小说中了解到一些喜怒哀乐之后,你会把我们的真实思想感情看成枯燥无味的东西。”她以不无苦楚的口气说道。 <br> “决不会的。” <br> “突如其来的有力的回答使她跳了起来。她感到脸上发烧,并惶恐地想:“想必是它知道了!" <br> 赫比平静下来并轻轻地用几乎听不出金属音质的嗓音说: <br> “当然喽,我知道这些,卡尔文博士。您经常想这些,我怎么会不知道呢?” <br> “你……对别人讲过这些没有?”她严厉地问。 <br> “没有!”赫比真正感到惊讶了,它又补充说:“谁也没有问过我。” <br> “那么,你大概认为我是傻瓜吧?” <br> “不,这是正常的感情。” <br> “因而,这种感情是如此的愚蠢,”她那低细的声音表露了她的心理状态,在她那学者的矜持的面纱后面流露出女性的特点。“我不能算是……有吸引力的……” <br> “如果您讲的仅仅是外表的吸引力,那我就无法评论。但是,无论如何我知道,还有另一种吸引力。” <br> “……也不年轻了……”她好像没有听到机器人讲的话。 <br> “您还不到40岁,”赫比急切地坚持说。 <br> “按年头算——38岁;至于按我个人从感情上对生活的观察来讲,已经够60岁了。我是个没有用的心理学家吗?" <br> 她痛苦地喘着气说: <br> “而他仅仅35岁,外表和动作显得还要年轻。你认为,他在我身上……看到什么特别的东西了吗?” <br> “您错了。”赫比的铁拳眶啷一声捶到桌子的塑料面上。“您听我说……” <br> 而苏珊·卡尔文狂怒地冲向赫比。一种受伤害的感觉使她的眼睛里迸发出犀利的光芒。 <br> “我呀……关于这点你知道什么!你……你毕竟是一架机器。对你来说,我是个怪人,是个具有独特思想、渴望灵感的有趣的小昆虫,是一个希望破灭了的绝妙典型,对吗?几乎和小说里写的一样。” <br> 她的声音变成了鸣咽,突然噎住了。 <br> 面对这种感情的爆发,机器人缩成一团。它哀告地摇了摇头说:“请您听我说完吧!如果您愿意的话,我可以帮助您!” <br> “帮助?她轻蔑地撇一下嘴,“给我出好主意吗?” <br> “不,不是这个意思。我只不过是知道其他人想些什么而已,比如说米尔顿·阿希。” <br> 出现了好长一阵沉默。苏珊·卡尔文低下了头。 <br> “我不想知道他在想什么,”她气吁吁他说,“你给我闭嘴!” <br> “可我觉得,您像是愿意知道他在想什么呢。” <br> “她仍然低着头,但是呼吸急促了。“你瞎说,”她低声讲。 <br> “我千嘛瞎说呀?我是想帮助您。米尔顿·阿希对您的看法……”它没有再说下去。 <br> 苏珊抬起头问: <br> “怎么啦?" <br> “他爱您,”机器人轻声他讲。 <br> 整整有一分钟,卡尔文博士沉默不语,睁大双眼看着机器人“你错了!当然是你错了!有什么道理他会爱我呢?” <br> “真的,他爱你。这点是无法瞒过我的。” <br> “而我却是如此……”她缀啼而止。 <br> “他重视内心的美,重视别人的才智。米尔顿·阿希不是那种多追求女人的打扮和长相的人。” <br> 苏珊眨巴着眼睛一时说不出话来,过了一会她声音颤抖地说: <br> “可是他从来也不肯表露……” <br> “那么您给过他这种机会了吗?” <br> “我怎么能呢?我从来没有想过……” <br> “就是嘛!" <br> 苏珊沉思不语。然后突然抬起头来说: <br> “半年前,一个姑娘到工厂来找他."是一个身材匀称,长着淡黄头发的姑娘。她好像挺漂亮。当然喽,她仅仅知道九九乘法表而已他整天在她面前百般讨好,总给她讲怎样制造机器人."苏珊的音调硬梆梆的。“自然,她是半点也不懂!她是谁?" <br> 赫比毫不犹豫地回答道: <br> “我知道您指的是谁。那是他的表妹。您放心吧。这里不存在什么罗曼蒂克的关系。” <br> 苏珊.卡尔文几乎象少女一样轻盈的站了起来."多奇怪啊!这去有时候我向自己要求的正是这点,尽管我从来没有真正的这样深那么说,这是真的!” <br> 她跑向赫比,用双手抓住他那只沉重冰冷的手。“谢谢,赫比,”她低声他说,声音由于激动而沙哑。“这事你对谁也不要讲,让这些就只有你我知道吧。再一次谢谢你." <br> 她抽搐地握了一下赫比那没有知觉的金属手指,就走出去了。 <br> 赫比缓慢地转过身来,又拿起方才放下的小说来看。它的心思可是谁也无法猜透。 <br> 米尔顿·阿希慢慢地、惬意地伸了个懒腰,型得关节咯咯作响,然后瞪了皮特·勃格特一眼 <br> “请听着!”他说:“我已经坐在这里搞了一个礼拜了,而且整个这一段时间内我几乎没有睡觉。我还得忙多少时候?您好像讲了,问题出在真空室口的正电子轰击上?” <br> 勃格特温文尔雅地打了呵欠,并颇为欣赏地看了看自己一双手。 <br> “是的,我找到了踪迹." <br> “当数学家讲这样的话时,我知道这意味着什么。您还差多少?”“这全取决于……” <br> “取决于什么?"阿希重重地坐到扶手椅上,伸展了一下自己修长的双腿。 <br> “取决于兰宁,老头子不同意我的意见,”勃格特叹了一口气。 <br> “他真有点落后于生活了。问题就在这里。抱着自己心爱的矩阵力学不放。而这个问题要求更加有力的数学手段。他却是如此之顽固。” <br> 阿希睡意十足地嘟嚷着:“那为什么不去问问赫比,就此把这桩事了结呢? <br> “问机器人?"勃格特的眉毛倒竖起来了。 <br> "怎么啦?难道老太婆没有和你讲?" <br> “您指的是卡尔文?” <br> “当然是喽!就是苏珊。要知道,这个机器人在数学方面是个奇才,它知道一切的一切,并且还要稍多一些。它能心算三重积分,并同时搞张力分析。” <br> 数学家诧异地看了一眼阿希,问: <br> “您不是在开玩笑吧?” <br> “当然不是!困难就在于这个呆子不喜欢数字,而喜欢读感伤小说这是真的!您应该去看看苏珊尽给他拿些什么破烂货——《紫色的激情》、宇宙间的爱情》……” <br> “关于这点,卡尔文博士只字未向我提过。” <br> “要知道,她还没有结束对赫比的研究。您了解她,在没有揭开这个重要的秘密之前,她喜欢把什么都包得严严实实的." <br> “可是,她跟您讲了." <br> “是啊,不知怎么就谈得兴致勃勃起来……最近我常看见她,”米尔顿睁大了眼睛,皱起前额。“听我说,勃吉。您近来没有发现她有什么奇怪之处吗?" <br> 勃格特的脸上露出不可捉摸的讪笑:“她涂起了口红。您指的是这点吗?" <br> “瞎胡闹!我知道这点——涂口红,描眼圈,还擦粉。看看她那副奇怪的样子!但我讲的不是这些。不能指责她这些,我指的是她讲话的神态,好像她有什么特别高兴的事似的."阿希稍稍想了一会儿,然后耸了耸肩。 <br> 勃格特竟然自作风流地笑了笑。对于五十开外的学者来讲,他表演得不错。“可能她爱上了谁." <br> 阿希又合上了眼睛,“您发疯了,勃吉。您去和赫比聊聊。我想留在这里睡一觉." <br> “好吧。这并不是我喜欢从机器人那里领取指令。况且它未必能做到这点。” <br> 他没有听到回音,却听见了轻微的鼾声。 <br> 皮特·勃格特双手插在衣兜里,摆出一副满不在乎的样子在讲话,赫比专心地听着。 <br> “情况就是这样。有人告诉我,你懂得这些玩艺儿。我主要是出于好奇间问你,我的推理包括了几个可疑环节。这些环节兰宁博士拒绝接受。因此画面还不是非常完整." <br> 机器人没有回答,于是勃格特问: <br> “怎么样?” <br> 赫比仔细看着写满方程式的纸片说:“看不出错误来。” <br> “我认为,你也提不出更多的东西吧?" <br> “我哪里敢呢。你是个数学家,比我强。而且……而且我不愿意承担责任." <br> 勃洛特稍稍露出洋洋得意的微笑:“我正是这样想的。当然喽,问题不简单啊!好,让我们把这忘了吧!”他把纸片揉成团,扔到垃圾管道里,转身打算走,但又改变了主意。 <br> “顺便说一句………” <br> 机器人等着他讲。看来,勃格特在颇感为难地推敲着要说的词句: <br> “有点事……总的说来,可能你会……”他又停住了。 <br> 赫比心平气和他说: <br> “您的思绪乱了。但毫无疑问,您想谈兰宁博士。犹豫不定是蠢的。当您心情平静下来的时候,我就能知道您想问什么事。” <br> 数学家习惯地拢了一下本已梳得光滑平整的头发。 <br> “兰宁快70了,”他说。似乎这一句话已表明了全部问题。 <br> “我知道。” <br> “而且他当厂长将近30年了。” <br> 赫比点了点头。 <br> “那么,”勃格特开始用讨好的语调说,“你大概知道,他是否……是否考虑辞职?比如说由于健康状况或其它别的……” <br> “是这么回事,”赫比说了这么一句。 <br> “你知道?" <br> “当然” <br> “那么……晤……你可以告诉我吗? <br> “可以,既然您问了,”机器人的口吻仿佛表示这件事平淡无味“他已经提出辞职了。” <br> “什么?"勃格特含混不清地吐出这个字眼。这位学者圆圆的脑袋向前探。“再说一遍!" <br> “他已经提出辞职了,”机器人平静地重复着:“但尚未生效。知道吗,他想把问题解决……嘿嘿把我的问题解决了,他很愿意把厂长的职位交给自己的继承者." <br> 勃格物粗粗地吐了一口气问: <br> “那么他的继承者是谁呢?" <br> 他向前凑近,几乎挨紧了赫比,他的眼睛死盯那看不出表情的暗红色的光电管——赫比的眼睛。他听到了不慌不忙的回答:“将来的厂长就是——您." <br> 勃格特脸上紧张的表情消失了,转而露出了一丝笑容。“听到这点很高兴。我盼的正是这个。赫比,谢谢." <br> 这一天夜里,皮特·勃烙特在写字台旁一直呆到清晨5时,他又回来工作了。他从桌子上方的书架上不时地抽出…本(本手册、参考书和表格,书架渐渐变空了,演算完的槁纸在桌子上月乎不知不觉地慢慢叠起来,越来越高。而在脚旁地板上,揉成团的废草稿也堆成了一座小山。 <br> 到了正午时分,勃格特瞄了一眼最后的一张纸,揉揉充满血丝的眼睛,打了个哈欠,伸了伸懒腰。 <br> “越算越糟,真该死!" <br> 听到开门的声音,他转过身,向正走进来的兰宁点了点头、一面把痉挛的手指扳得咯咯发响,一面环视着这个没打扫的房间。 <br> “新的方法?他问。 <br> “不,难道老方法有什么不好吗?”勃格特用挑战的口气说。兰宁没有作答。他扫了一眼落放在勃格特桌子上最上面的一页纸,点着雪茄,然后透过火柴的火光说: <br> “卡尔文向您谈到机器人了吗?这是一个数学天才,真非同一般。” <br> 勃格特大声嗤笑说: <br> “我听说了。但是,卡尔文最好还是去搞她的机器人心理学吧,我考了考赫比的数学。“它勉勉强强的懂一点微积分." <br> “卡尔文却不是这样看的." <br> “她发疯了。” <br> "我也不是这样看的。”厂长的眼睛不高兴的眯起来。 <br> “您?勃格特粗声粗气地问,“您问的是哪方面?” <br> “整整一个上午我测验了赫比的本领。它甚至会做那些您连听都没有听说过的玩艺儿。 <br> “真的?" <br> “您不信?”兰宁从西服坎肩的兜里掏出了一页纸,把它展开。“这不是我的笔迹,对吧!” <br> 勃格特仔细看了纸上写满的,带棱带角的大字体的数字,问道: <br> “这是赫比的字吗?" <br> “是的。并且,正如您能看到的一样,它求出了您的第二十二个时间方程式的积分。而且它……,兰宁用熏黄了的手指甲敲了敲了最后一行字说。“它和我得出了一样的答案,但比我快三倍。您没有权力轻视在正电子轰击下的林格效应." <br> “我不是轻视它,兰宁。看在上帝份上,请您明白,这排除……” <br> “是啊,您解释了这点。您采用了米切尔过渡方程式,对吧?可是,它在这里不适用。” <br> “为什么?" <br> “第一,您用的是超虚数。”“这又有什么关系呢?” <br> “米切尔方程式用不上,当……” <br> “您疯啦?如果您再读一遍米切尔本人的论文《法尔笔记……》” <br> “这我不要看。我从一开始就讲了,我不喜欢他的推理方式。赫比支持我的观点。” <br> “那就让这部机器来给你解决全部问题好了,”勃格特嚷了起来“那干嘛还要和像我这样的傻瓜打交道啊?” <br> “问题恰恰在这里。它不能解决这个问题。而如果连它也解决不了,那我们也同样,我要把个问题提交到全国委员会。我们是五能为力了。” <br> 勃格特跳起来。把椅子都碰翻了。他的脸涨得通红。“这点办不到." <br> “由您来告诉我,什么该做,什么不该做?"兰宁的脸也涨得通红 <br> “正是这样,”勃格特回答说,牙齿咬得咯咯作响。“是我把问题解决了。从我的鼻子底下你抢不走,明白吗?不要以为我看不透你这个干瘪的老古董。你会先丢丑,然后,这才会使我获得解决了机器人传心术问题的声望." <br> “你是个该死的白痴,勃格特。就凭你这种拒不服从的态度,1秒钟之内我就可以把你解雇."兰宁气得嘴唇直发抖。 <br> “你啊,办不到这点,兰宁。有一个能猜透人的心思的机器人身边,什么秘密也保不住。因此,请你记住,关于你辞职的事我全道了。” <br> 兰宁把雪茄上的烟灰抖了一下,纷纷落到地上,接着雪茄也扔了。 <br> “什么?什么……” <br> 勃格特幸灾乐祸地冷笑了一声:“我将是新厂长,你明白吗?:我全知道;别以为我不知道。兰宁,瞎了你的眼了。这里将由我来指挥一切。否则你会遇到连做梦也想不到的困难局面." <br> 兰宁恢复了表达能力。他大吼起来: <br> “你被免职了!听见了吗?你被解除一切职务了!你完蛋了!明白吗?” <br> 勃格特脸上的讥笑更明显了:“这有什么用呢?你什么目的也达不到。王牌全在我的手里。我知道你已经退休了。赫比告诉了我,而它是直接从你那里知道的。” <br> 兰宁极力克制自己,用平静的口气讲话。他看来非常苍老,脸上毫无血色,显出一副惨白、蜡黄的老年相。 <br> “我想和赫比谈谈。它不可能跟你讲任何这类的事情。你是在搞一场赌博,勃格特。但是,我要揭穿你的诈骗。跟我走一趟。” <br> 勃格特耸耸肩膀说:“去找赫比?好吧!好极了!" <br> 在同一天的正午时分,米尔顿·阿希刚画出一张不起眼的草图,然后抬起眼晴说: <br> “您了解我的想法吗?我画不好。不过,大体上就这样,小房子怪可爱的。而且我可以不花多少钱就把它搞到." <br> 苏珊·卡尔文含情脉脉地凝视着他说: <br> “这真漂亮!”她叹了口气,“我曾常常想,我愿意……”她停住了口。 <br> 阿希把铅笔放到一边,热烈地往下说:“当然,我还得等一等才有休假。也就是再等两个礼拜的时间,可是,由于这个赫比的问题,使得所有的事情都悬在那里。”他的目光停留在自己的手指尖上。“同时,还有一桩事……但,这是秘密。” <br> “那您就别说。” <br> “噢,我多想马上说,我真没法告诉别人……可您是这里我认为最可信赖的人。” <br> 他怯生生地笑了。 <br> 苏珊·卡尔文的心在怦怦地跳。她连嘴都不敢张了。 <br> “说真的,”阿希把自己的椅子挪近她,推心置腹他说:“这所房子不仅仅是给我一个人住。我要结婚了." <br> 正说着,他忽然从座位上跳起来。“怎么啦?” <br> “没什么!”感到一阵晕眩过去之后,苏珊好容易说出声来:“要结婚?您是说……” <br> “是真的!是时候了,对吗?您还记得去年夏天到这儿来过的那个女孩子吗?就是她!哎呀!您病了?您……? <br> “头痛病."苏珊无力地挥手请他离开。“我……我最近一段时期常犯头痛病。我想……想向您表示祝贺。当然,我非常高兴……。”笨拙地涂在两颊的胭脂像一对难看的红斑停留在她那张煞白的脸上。眼前一切又开始旋转起来。 <br> “对不起……请……”她喃喃自语,眼前一片模糊,踉踉跄跄地走出门去。这一切对她来讲,简直像是飞来横祸,而且像恶梦一样难以想象的恐怖。 <br> 但是,怎么可能是这样呢?赫比不是说了吗…… <br> 而且赫比是知道的!它能猜透人的心思。 <br> 当苏珊头脑清醒时,她发现自己倚在门框上,呼吸微弱,两眼盯着赫比的金属面孔。自己是怎样爬上两层楼梯的,她已经记不起来了。这段距离似乎在梦幻中一转眼间就走过来了。 <br> 真是一场梦! <br> 而赫比那双不会眨的眼睛注视着她的面孔,暗红色的眼睛睁得越来越大,变成两个荧光暗淡的可怕的圆球。 <br> 它在讲些什么。可是苏珊只感觉到嘴唇碰到了冰凉的玻璃杯。她喝了一口水,然后哆嗦了一下,对周围事物略微恢复了一点知觉。 <br> 赫比还在说话。它的声音充满惶恐不安。好像它被刺痛了,吓坏了,又好像在辩解,苏珊开始能听清楚每个字了。 <br> “这完全是一场梦,“机器人说,“您不应该相信梦境。您将很快清醒的回到现实的世界,并会笑您自己。我告诉您,他是爱您的,他是爱您的!但不是在这里!不是现在!这是个幻觉." <br> 苏珊点头低声说: <br> “是的!是的!" <br> 她抓住赫比的手,把身体贴紧它,反复他说: <br> “这不是真的,对吗?不是真的,对吗?” <br> 她根本不知道自己神知是怎样恢复的。但是,她仿佛觉得从模模糊糊的幻境进入到阳光耀眼的世界。她使劲推开那只沉甸甸的钢手,瞪圆了眼睛。 <br> “你这是干什么?”她的嗓音迸裂成沙哑地嚎叫:“你这是要干什么!" <br> 机器人后退几步说: <br> “我想帮助您." <br> 心理学家直盯盯地看着它说:“帮助?就是用告诉我这是梦来帮助我?就是用使我变成精神分裂症患者的办法来帮助我吗?”她歇斯底里地绷紧全身。“这不是梦。我倒希望这是一场梦!!" <br> 她突然深深抽了一一口气,说: <br> “等等!为什么……为什么……哦,我明白了!慈悲的苍天啊!这本来是明摆着的事嘛!… <br> “我本应该……”机器人用战战兢兢的声调说。 <br> “而我却相信了你!我却一直没想到……… <br> 一阵大声讲话声从门外传来,使苏珊住了口,她转过身去,痉挛地攥起双拳。当勃格特和兰宁走进屋子时,她已站到屋角的窗边。进来的两个人谁也丝毫没有注意到她。 <br> 他们同时走近机器人。兰宁怒气冲冲、心绪烦乱;勃格特冷冷淡淡,脸带愠色。 <br> 厂长先开口说: <br> “喂,赫比,你听我说!" <br> 机器人用眼睛机警地看着这位上了年纪的厂长:“是,兰宁博士." <br> “你对勃格特博士谈论过我吗?" <br> “没有,先生,”机器人停了一会儿才回答。 <br> 这时勃格待脸上的笑意立即消失了。“这是怎么回事?"勃格特走到自己的上司前边,叉开双腿,面对机器人站着,“重复一遍你昨天对我讲的话!"“我昨天说……”机器人闭上嘴,在他体内的深部,金属横隔膜轻微地发出杂乱的响声。 <br> “你不是说他辞职了吗?勃格特吼了起来,“回答我!" <br> 勃格特狂暴地抡起胳膊,但兰宁把他推到一旁说: <br> “你想用威胁来迫使它撒谎吗?" <br> “兰宁,你听到了,它都开始要承认了,可又闭上了嘴。你不要打搅我!我要它讲出实话,你明白吗?" <br> “我来问它,”兰宁转向机器人间道: <br> “好吧,赫比,你别紧张。我是辞职了吗” <br> 赫比看着他,而他追问道。 <br> “我已经辞职了吗?" <br> 赫比用几乎看不出的轻微动作摇了摇头。又过了一会,它仍然默不作声。 <br> 这两个男人互想怒视,目光中有着明显的敌意。 <br> “活见鬼!"勃格特说,“这个机器人变成哑巴了吗?喂,你不会说话吗?你这个怪物!" <br> “我会说话,”蹦出这么一句现成的回答。 <br> “那么就回答问题。你没有告诉我说,兰宁要辞职了吗?他没有辞职吗?" <br> 又是一阵沉默。后来,从房是的另一头,苏珊突然发出一阵刺耳的,几乎是歇斯底里的大笑。两个数学家吓了一跳。勃格特的眼睛眯成一条缝: <br> “您在这里!这有什么好笑的?" <br> “没什么好笑的,”她的声调很不自然。“只因为我并非是唯一的上当受骗者。三个全世界最著名的机器人专家,在同样一个最简单的问题上了当。这是具有讽刺意味的。不是吗?" <br> 她把苍白的手放在前额上,用越来越细小的声音说: <br> “但是,这并不好笑." <br> 这一回,两个男人面面相觑,惊讶不止。 <br> “您说的是上什么样的当?”兰宁呆呆地问,“赫比出了什么毛病了吗?" <br> “没有,”她慢慢地走近他们,“它没有什么毛病;有毛病的是我们." <br> 她猛然转过身体来,冲关机器人尖声喝道: <br> “从我跟前滚开!到房间的那头去。别让我看见你!” <br> 在她盛怒的目光下,机器人缩成一团,跌跌撞撞退到一角。 <br> 兰宁带有敌意地问: <br> “卡尔文博士,这是怎么回事?” <br> 她面对这两个男人,尖刻他说:“你们肯定知道机器人学最基本的第一条定律." <br> 两个男子同时点了点头。 <br> “当然知道,”勃格特生气他说,“机器人不得伤害人,也不得见人受到伤害而袖手旁观." <br> “讲得多好听啊!”卡尔文不无讥讽他说,“但什么性质的伤害呢?" <br> “还用问吗?任何性质的." <br> “说得对!任何性质!但是,对伤害感情应该怎么理解呢?对引起个人的沮丧怎么看呢?对使人希望破灭应该怎么看待呢?这是不是伤害?” <br> 兰宁皱起眉头说: <br> “机器人怎么会知道……”他讲了半句,忽然怔住了。 <br> “您也明白了,是吗?这个机器人能猜透人的心思。您认为它不知道哪些是伤害人们感情的事情吗?您认为,如果谁问它问题,它不会投其所好地作出答复吗?难道不会因为作出别的回答而使我们受伤害吗?难道赫比不知道这些吗?"“天哪!”勃格特喃喃自语。 <br> 心理学家讥讽地看了他一眼:“我知道,您问了机器人,兰宁是召已经辞职。您很希望它回答‘是’。而赫比也正是这样回答您的." <br> “我想,这就是刚才它不作回答的原因。它不可能作出这种或那种的回答而又不伤害我们两个当中的任何一个."兰宁毫无表情他说。 <br> 出现了短暂的沉默。这时,两个男人若有所思地向机器人望去。机器人蜷缩着身躯,坐在书架旁有椅子里,把脑袋靠在一只手上。 <br> 苏珊凝视着地板:“它知道所有这一切。那个……那个魔鬼什么事情都知道,包括在组装它的时候出了什么差错,它都知道."她的目光阴郁而深沉。 <br> 兰宁抬头看着她说;“卡尔文博士,这点您错了。它并不知道差错出在哪里。我问过它." <br> “那又能说明什么呢?"卡尔文叫道,“那仅仅说明,您不想由它给您答案,让一架机器来作您做不到的事,这会触犯您的自尊心." <br> 苏珊转而冲着勃格特喊:“您问过吗?" <br> “问过一一点东西,”勃格特涨红了脸,边咳嗽,边回答:“它告诉我,它数学懂得很少." <br> 兰宁低声讪笑起来。心理学家也刻薄地笑了笑。她讲: <br> “我来问,给我一个答案,伤害不了我的自尊心." <br> 她提高嗓门,冷冰冰地、不容违抗他说: <br> “到这边来!" <br> 赫比站起身,迈着迟疑的步子走近他们。 <br> “我认为你知道,”苏珊继续说,“在组装的哪一个阶段出现了一个外来的因素,或者漏掉了一个必不可少的因素." <br> “是的,”赫比用刚刚能听见的声音答道。 <br> “停一停,”勃格特生气地插进来说,“这不一定是实话。您正是想要听这样的话." <br> “别犯蠢了!"卡尔文说,“它既然能猜透人心思,那它知道的肯定和你们两个加起来的一样多。别打搅。" <br> 数学家安静下来。于是卡尔文又接着说:“好!那么,赫比,拿出答案来。我们在等着呐!”然后她又向着另一个边说:“先生们,准备好笔和纸." <br> 赫比仍默不作声。于是心理学家以胜利者的姿态说: <br> “赫比,为什么你不回答?” <br> 机器人突然说:“我不能讲。你知道我不能讲。勃格特博士和兰宁也不希望我……” <br> “他们希望知道答案." <br> “但不是从我这里." <br> 兰宁突然插进来,缓缓而清楚他讲; <br> “别犯蠢了,赫比。我们是真的希望你告诉我们." <br> 勃格特随随便便地点了一下头。 <br> 赫比绝望地尖叫起来: <br> “说出答案有什么用处呢?难道你们不认为我能透过表面的一层皮肉而看得更深?内心里,你们不能愿意我做出答案。我是一架机器,之所以被赋予模拟人的生命,仅仅是由于人们给我制造了脑子,这脑子具有正电子相互作用这一特性。你们即不肯在我面前丢脸,又不肯受到伤害。这一点深深地刻在你们的脑子里,是不会被磨长的。我不能说出演算结果." <br> “我们离开,”兰宁博士讲,“你对卡尔文说吧." <br> “这样做没什么差别,”赫比叫道。“因为你们总是会知道这是我提供的演算结果。” <br> 卡尔文说: <br> “但是,赫比,你知道,尽管如此,兰宁博士和勃格特博士想要这个演算结果。” <br> “通过他们自己的努力好了!”赫比坚持说。 <br> “他们需要它。可是你知道演算结果,却又不给他们。这个事实本身对他们就是一种伤害。这点你也明白,对吧?” <br> “是的!是的!" <br> “而如果你把答案告诉她们,你也会因此而伤害他们。” <br> “是的,是的”赫比一步一步慢慢后退;苏珊却一步一步逼进。兰宁和勃格特疑惑不解地愣在那里,看着她和机器人。 <br> “你不能告诉他们,”心理学家用沉闷单调的声音慢慢他说,“因为那样就会伤害他们,而你不应该伤害人。但是,如果你不告诉他们,就是伤害他们,所以你又应该告诉他们。而如果你告诉他们,你将伤害他们,所以你不应该这样做,你不能告诉他们;但是,如果你不告诉他们,你就是伤害他们,所以你应该告诉他们;但是……." <br> 赫比面对着墙,扑通一声跪下了,它尖叫起来: <br> “别说啦!把您的思想藏起来吧。您的思想里充满了苦痛、屈辱和仇恨!我告诉您,我的本意不是这样的。我想尽力帮助。我把您愿意听的话说给您听了。我应该这样做!” <br> 心理学家根本不予理睬,不断说:“你应该告诉他们,但是,如果你告诉,你就是伤害他们,所以你不应该告诉。但是……·" <br> 赫比发出了刺耳的尖叫。 <br> 这种声音犹如增强了数倍的短笛的尖叫——越来越尖锐刺耳,这是一种垂死的、灵魂绝望的哀号。整个房间都充满了这种使人毛骨惊然的尖叫。 <br> 当这种声响消失时,赫比摔倒在地,变成了没有生命的一堆烂铁。 <br> 勃格特面无人色:“它死啦!"“不!苏珊·卡尔文爆发出一阵野性的、歇斯底里的狂笑,“没有死,仅仅是精神错乱了。我逼它面对一种难题,它受不了啦。你们可以把它扔到废铁堆去,因为它永远也不会说话了." <br> 兰宁在这堆曾叫做赫比的东西旁边跪下,他的手指碰到了那张冷冰冰的,不能作出反应的金属脸孔,哆嗦了一下。然后他站起来,把歪扭的脸对着苏珊说:“您是存心这么干的."“即使我是存心干的,又怎么样呢?现在已经无法挽回了,”然后她突然痛苦地说,“它罪有应得。” <br> 厂长抓住木然呆立在那里的勃格特的手。 <br> “这无所谓!走吧,皮特,”他叹了一口气说,“像这样的一个会思想的机器人,无论如何是没有价值的,绝不会带来什么好处。”他的眼神衰老而疲倦。他又说了一句:“走吧,皮特!" <br> 这两个科学家走后几分钟,苏珊·卡尔文博士部分地恢复了自己办乙的平衡。她的目光慢慢地移向已经完全没有生命的赫比。她的脸上又重新出现了紧张的表情。她长时间地看着赫比,脸上胜利的神情消失了,显出了软弱和失望样子。她的思绪纷乱如麻,带着无限的苦楚,从嘴里吐出了一句话: <br> “讲假话的家伙!” <br> 自然,事情就这样结束了。我知道,从她的嘴里不可能听到更多的东西了。她坐在自己的写字台后,正沉洒在对往事的回忆里,脸色苍白毫无表情。 <br> 我说:“卡尔文博士,谢谢您!”而她并没有回答。两天之后,我又和她见面了。<br><br><br>六 捉拿机器人<br><br>当我第一次遇见苏珊·卡尔文时,她恰好在自己的办公室门口,正从她的办公室往外搬档案资料。 <br> “年轻人,您的文章进展得怎么样?”她说。 <br> “很好,”我回答道。我已经尽自己的能力将这些文章写出来了。根据她所叙述的故事结构加了上对话,略加充实和润色,使情节更加富有戏剧性了一些。“您能读一遍吗?看看内容上有无诽谤之嫌,或不准确和谬误之处。” <br> “我想,我得看一看。我们到总经理休息室去吧,那里能喝点咖啡。” <br> 看来她的情绪很好,所以当我们在楼道里走的时候,我就不失时机他说: <br> “卡尔文博士,我不知道……” <br> “说吧。” <br> “不知您能否再跟我讲一些机器人的故事?” <br> “年轻人,您的希望会得到满足的.” <br> “在某种程度上讲,我所描写的事情和现代的关系不大。我的意思是,过去仅仅搞出过一个能猜透人的心思的机器人;宇宙站早已过时,废弃不用了;用机器人进行采掘也被看作是理所当然的事情。至于星际旅行呢?.自从超原子发动机发明以来,已有二十年的历史。而且人们都知道这是机器人发明的。实际是怎么回事情?” <br> “星际旅行?”她沉思起来 <br> 我们已经来到休息室。我叫了一客饭,她只叫了一杯咖啡。 <br> “这不是一项机器人的简单的发明。您知道,问题不止于此。当然,在我们制造出的智囊之前,我们的进展并不太大。但是,我们作了努力,真花了一番功夫。我第一次直接接触到星际探索是在公元2029年。当时,一个机器人失踪了……” <br> 超级基地内一片慌乱,如同歇底斯里发作一般。人们仓促地采取了措施。 <br> 现在,按时间顺序和事情发展到的绝望程度列述如下; <br> 一、在第二十七号小行星群定宙站内的所有地点,研制超原子驱动的工作停顿了。 <br> 二、实际上已把整个这一部分空间和太阳系隔绝开来。不经允许,任何人不得进入;任何人也不得在任何条件下离开。 <br> 三、苏珊。卡尔文博士和皮特·勃格特博士乘坐政府的特别巡逻飞船来到超级基地。他们的身份是美国机器人与机械人公司(简称机器人公司)的首席心理学家和数学部主任。 <br> 苏珊·卡尔文从来还没有离开地球的表面,而且这次她也没有多大的愿望要离开地球。在这个使用原子动力并很明显将要进入使用超原子驱动的时代,她仍然是相当保守的。所以,她对这次出差颇不满意,也不相信情况是如此严重。在超级基地用第一顿午餐时,她那中年人的并不秀丽的脸部,每一个线条都非常清楚表露出这种情绪来。 <br> 勃格特博士,装束优雅,苍臼的脸上略带几分怯懦的神色。这个项目的负责人柯尔纳少将的脸上,也总是带着极为沮丧的神情。 <br> 一句话,这是一段令人难堪的插曲。以致午餐和随后开始的三人会议都笼罩着一片阴沉、不愉快的气氛。 <br> 柯尔纳那发亮的秃顶以及他的军服和整个气氛非常不谐调。他强调作出直率的姿态说: <br> “这说起来是一个奇怪的事,先生和女士①……对于你们获得通知以后,还不了解缘由,就立即动身赶来,我表示感谢。现在我们要尽力纠正这一点。我们丢失了一个机器人,工作已经停顿下来,而且要停顿到一直把它找到为止。到目前为止,我们没能找到它,因而我们需要专家的帮助.” <br> 也许,这位将军感到没有把自己的困境强调出来。他接着用绝望的语气说: <br> “无需我来告诉你们,我们这里的工作的重要性。去年科研拔款的百分之九十以上是用于我们…….” <br> “那还用说吗,我们知道。”勃格特表示同意他说,“因你们使用我们的机器人,机器人公司获得优厚的租金。… <br> 苏珊·卡尔文略带生硬和不快的口吻问: <br> “是什么原因使一个机器人对于这项工程来说变成如此重要,而且为什么找不到它呢?” <br> 将军把通红的脸转向她,很快地舔了舔嘴唇说: <br> “不,换一种说法,我们已经找到了它."然后他又非常懊丧他说,“这里,我想要解释一下,当这个机器人一中断作报告,我们就立即宣布了戒严,超级基地上的一个切活动都停止了。在此前一天,一艘货运飞船在这里着陆,交给我们两个机器人到实验室工作。船上六十二个完全……晤……相同类型的机器人,是要运到其它什么地方去的。我们确实知道这个数目,这点是毫无疑问的.” <br> “是吗?那么这有什么联系呢?” <br> “当哪儿也找不到我的机器人时——我敢保证,如果需要在草坪里找到一片丢失的草叶子的话,我们早就找到了——我们突然想到要数一数留在船上的机器人。结果那里却只有六十三个.” <br> “所以,这第六十三个,我认为,就是那个失踪的机器人。”卡尔文博士的眼光阴沉下来。 <br> “是的,但我们没有办法把第六十三个区分出来.” <br> 出现了死一般的沉默,保听见电钟敲了十一下。然后心理学家说:真是怪事."她的嘴角往下一撇。皮特,”她转向自己的同事,态度生硬地问:这里出了什么事?他们在超级基地用的是什么类型的机器人?” <br> 勃格特博士犹豫起来,然后勉强一笑说。 <br> “苏珊,至今这一直是个棘手的问题.” <br> “是啊,至今,如果这里有六十三个同类型的机器人,其中的一个是他们想要我的,但又确定不出来哪一个是,难道随便挑一个就不行吗?这是打的什么主意啊!于嘛要把我们派来?"她说得很快。 <br> 勃格特做出顺从的样子说: <br> “苏珊,您听我对您讲,。超级基地正在使用几个这样的机器人,它们的脑子没有输入机器人学第一定律的全部.” <br> “没有输入?”苏珊往椅背上一靠,“我明白了.。制造了多少?” <br> “不多,这是根据政府的订货。而且不允许泄漏秘密。除了有关的高级人士之外谁也不知道。您没有包括在内,苏珊。我与这毫不相干.”“将军带着一种权威的口气插进来说: <br> “我想把这桩小事解释一下。无须我告诉您,卡尔文博士,在地球上总是有人强烈地反对机器人。在这个问题上,政府唯一可以利用来对付原教旨主义的激进派的,就是制造出来的机器人总是严格地遵守第一定律这一事实,因为这一定律使机器人无论在任何情况下都不能伤害人类.” <br> “但是,我们必须要有另一种机器人。也就是一些NS一2型机器人,即《内斯特》①。在制造它们时,对第一定律作了些修改。为了保密,所有的“内斯特二型”都没有出厂一编号。而这些己按修改了的第一定律生产出来的机器人,就和一批正常的机器人一起交付到这里,当然,对这些机器人已输入严格的指令:永远不得对没有被授权的人讲到它们被修改的一事."他颇感为难地一笑,“现在这一切却变得对我们不利了。” <br> 苏珊冷冷地问: <br> “不管怎样,您是否问了六十三个机器人中的每一个,谁是谁?无疑,您是被授权的喽.” <br> 将军点点头说: <br> “六十三个机器人都否认在这里工作过,当然,其中有一个在撒谎。” <br> “你们想找的那个机器人有磨损的痕迹吗?据我所理解,其它都是崭新的.” <br> “这个出了麻烦的机器人上个月才送到。它和刚送到的两个,是我们所需要的最后一批。上面没有任何明显的磨损痕迹。”他慢慢地摇摇头,眼睛里又显出非常沮丧的神情。“卡尔文博士,我们不敢放这艘飞船离开。如果存在不符合第一定律的机器人的消息一旦传开来……”看来他只好说到半截把话结束了。 <br> “把六十三个全都毁掉,”心理学家干巴巴、冷冰冰地说,“就这样把事情了结掉.” <br> 勃格特撇了撇一边嘴角:“您的意思是要把每个价值三万元的机器人毁掉。我恐怕机器人公司未必会同意。苏珊,在我们毁掉任何东西之前,我们最好先作一番努力.” <br> “那么,”她毫不客气他说,“我需要事实。超级基地从这些修改过的机器人那里得到了什么好处?有什么必要把它们做成这样,将军?” <br> 柯尔纳皱起脑门儿,抬起手擦擦前额:“我们在使用先前那种机器人时碰到了困难。您知道,我们的人经常在有强烈辐射的情况下工作。当然,这是危险的。可是已采取了适当的措施。自从我们开始工作以来,这里只发生过两起事故,而且都不是致命的卡故。但是,不可能把这些向一个整通的机器人讲明白。第一定律讲——我引用原话——‘机器人不得伤害人,也不得见人受到伤害而袖手旁观.” <br> “这是首要的,卡尔文博士,每当我们的人之中有谁必须短时间暴露在中等程度的伽马射线下时,虽然这种程度的辐射不会引起生理反应,但离他最近的机器人就会冲上去,把他拽开。如果伽马射线场非常微弱的话,机器人就要把这个人拽开,而工作也就不可能进行了。除非把所有的机器人都赶到别的地方去,才可能继续工作。需要伽马射线稍微强一点,机器人就根本没法挨上这个人,因为它的正电子脑在伽马射线下也会毁掉。这样,我们就可能失去一个造价昂贵、而又非常需要的机器人.” <br> “我们曾试着说服机器人。但它们的论点是:一个人暴露在伽马射线下,会危及他的生命,尽管他可以安全地在这种情况下呆上半小时而不受伤害。它们还讲:假如这个人忘记了时间,因而呆了一个小时呢?它们不能让人冒险这样做。我们指出,机器人这样做是冒自己的性命危险而希望又微乎其微。但是,保护自己只是机器人学的第三定律——而第一定律和人的安全总是摆在第一位。我们向它们下过命令,我们严厉地命令它们:不管发生多大代价的事情,只能停留在伽马射线之外。但是遵从命令只是机器人学的第二定律,第一定律和人的安全仍然摆在第一位。卡尔文博士,我们只有或者不要机器人,或者想点办法改变一下第一定律。我们做出了自己的选择。” <br> “我不能相信,”卡尔文博士说,“为此就可以把第一定律摒弃掉。” <br> “不是摒弃掉,是修改一下,”柯尔纳解释说,“已制造的这些正电子脑,只输入了第一定律的前一部分,即:机器人不得伤害人。就这些修改。因而,它不必强迫自己去防止人受到外界因素的伤害,比如说伽马射线的伤害。勃格特博士,我是否正确地阐述了这个问题?” <br> “相当正确,”数学家赞同他说。 <br> “而这就是你们的机器人和一般的NS一2型机器人的唯一差别吗?就这一点差别吗,皮特?” <br> “就这一点差别,苏珊.”她站起身来,用结束谈话的口气说:“现在我要睡觉。过八个小时,我想和最后看见那个机器人的人谈一谈。并且,柯尔纳将军,如果多少由我来负责这件事情的话,从现在起,我要求有公认的权力全盘掌握这次调查。”除了有两个小时带着满腹怨恨恼怒迷糊了一会儿之外,苏珊根本没有睡着。在当地时间七点整,她敲了勃格特的房门,发现他也没有睡。看来,勃格特不嫌麻烦,随身把晨服也带到超级基地来了,他正穿着晨服坐在那里。苏珊走进来时,他放下了指甲刀。他用温柔的声音说:“我多少已经料到,您会来的。我想,您对这一切都感到讨厌.”“的确是这样。”“那么,我很抱歉。但也只能如此。当超级基地要求我们来的时候,我就知道,准是修改了NS一之型机器人出了问题。但是能做些什么呢?在来这里的路上,我不能把情况向您透露,虽然我想跟您说。但是我必须保密。关于修改一事是最高机密.” <br> 心理学家不满地嘟嚷着: <br> “本应该告诉我。《机器人公司》在不征得心理学家的同意之前,无权这样修改正电子脑.” <br> 勃格特扬起眉毛,叹口气说: <br> “苏珊,您要明智点。您不可能对他们施加影响。在这种问题上政府决心自行其是。他们想搞出超原子驱动;辐射物理学家则想获得不会来打扰他们的机器人。他们扫”算搞到这样的机器人,哪这意味着要歪曲第一定律。我们得承认,从构造的角度来看,这是可能的。他们坚决保证,只需十二个这样的机器人,并且这十二个机器人只在超级基地内使用;一旦超级驱动达到完善的程度,就立即把二十个机器人拆毁。而且他们保证采取预防措施。他们坚持要保密。情况就是这些.” <br> 苏珊透过牙缝不高兴他说: <br> “我还是辞职吧.” <br> “这未必会有用。政府提出给公司一一笔巨款,并威胁说,如果拒绝的话,政府将颁布反机器人法。那时,我们的处境就会很困难。现在我们的处境已相当糟糕。如果这件事泄漏出去,柯尔纳和政府会受损害,但是机器人公司遭受到的损失要大得多.” <br> 心理学家盯着他: <br> “皮特,难道您不了解这一切意味着什么吗?难道您不明白,摒弃第一定律意味着什么?这不仅仅是个保密的问题.” <br> “我不是个小孩子,我知道摒弃可能意味着什么。它可能意味着完全失去稳定可靠性,还会带来完全可以想象得到的正电子域等式的答案.” <br> “从数学上讲,是这样。但是您能把这些大致地变换成心理学的观念吗?皮特,一切正常的生命都会有意识或无意识地反对统治。如果这种统治来自能力低下的一方,这种反感就会更加强烈。在体力方面,一定程度上也包括智力方面,机器人,任何一个机器人都优越于人。是什么东西使它变得顺从的呢?只有第一定律!噢,要是没有这第一定律,您给机器人一下命令,它就可能把您搞死。这太不可靠了,您怎么想的呢?” <br> “苏珊,”勃格待露出了半表同情、半带逗笑的神态,“我得承认。您刚讲的这种弗兰克斯但变态心理是有一定道理的。即然第一定律摆在了首位嘛。但是,我要一再重申,第一定律不是被摒弃了,而是略被修改.” <br> “而大脑的稳定可靠性会怎样呢?” <br> 数学家努努嘴:“自然噗,会降低。但还是在安全系数之内。第一批内斯特是在九个月之前交付超级基地的,直至现在还没有出于么问题。就连这一桩,也只是牵涉到使人担心会被披露,而不包含对人有危险。” <br> “那么,很好啊。咱们看看早上的会议会有什么结果吧。”勃格特彬彬有礼地目送她走到门口。而当她一离开后,就做了个鬼脸。他仍然坚持自己多年来对她的看法,认为她是一个性情乖张的失意人。 <br> 苏珊·卡尔文的心目中根本就没有有勃格特。多年来,她一直把他看成是个八面玲垅。自命不凡的家伙。 <br> 杰拉尔德·布莱克在一年前获得副射物理学科的学位,并和他这整个一代物理学家一样,参与了研制超原子驱动的问题。现在,他的出席给超级基地内举行的一系列会议总的气氛增加了一些新的因素。他穿着油污的白色工作外套。这个人不仅有些倔强,但有时完全缺乏信心。他长得敦实有力;他的劲好像大得老要往外冒。他紧张不安地使劲把手指头绞在一起,好像他那粗壮的手指能使铁条都变形似的。 <br> 柯尔纳少将坐在他身旁,面对机器人公司的两个代表。 <br> 布莱克说道:“人家对我讲:在第十号内斯特突然失踪之前,我是最后一个看见它的人。我很理解,你们是想问我这件事."’ <br> 卡尔文博士感兴趣地看着他: <br> “从您的口气听起来,好像您自己也不敢肯定,年轻人:,难道您不知道,您是否最后一个看见它的人.” <br> “它跟着我在搞野外发电机,女士。而且,在它失踪的那天上午,它和我在一起。我不知道,午后是否有人还看见过它。谁也不承认看见过它.” <br> “您认为,有谁在撒谎吗?” <br> “我可没这样说。但是,我也不想说,我愿意为此而受责备."他的一双黑眼珠冒着怒火。 <br> “这里不存在责备的问题。那个机器人的行动,就像它作为一个机器人所应该做的那样。我们正设法把它找到,布莱克先生。而且,让我们把一切其它的考虑都放到一边吧。那么,既然您和那个机器人一起干过活,您大概比其他人更了解那个机器人。您发现它有什么异常吗?您以前和机器人一起干过活吗?” <br> “我和我们这里的其它机器人一起干过。那些都是简单的机器人。这些内斯特,除了聪明得多并且也讨厌得多之外,也没有什么与众不同的地方.” <br> “令人讨厌?怎么说呢?” <br> “嗯……可能这不是它们的过错。这里干的是笨重的活儿。我们当中大部分人都变得有点脾气粗暴。在超空间干些零七八碎的活并不是件好玩的事,”他淡然一笑。通过这种自白,他感到痛快。我们不断地冒着会在正常的空间——时间的结构中打出一个窟窿,并冒着会立刻从天地间,小行星上以及一切东西上被甩掉的危险。这听起来离奇,是吗?自然,有时你会紧张不安;但这些内斯特却不会。它们好奇,镇静,不焦躁。有时候,光这一点就足够使你气得发疯。当你想要急急忙忙地把一件事情做好时,它们看来却在慢条斯理地干。有时我宁可没有它们都自己去干.”“您说,它们慢条斯理地干?它们没有拒绝过命令吗?”,‘不,没有,”布莱克急忙说,“它们很听从命令。虽然,当它们认为你错了的时候,会给你指出来。它们只知道我们教它们的那些东西。但是,这挡不住它们。这可能是我个人的印象。但是,其他的伙计和他们的内斯特也有同样的麻烦事.” <br> 何尔纳将军有意地清了一下嗓子:“为什么我没有听到有关这样的抱怨呢,布莱克?” <br> 年轻的物理学家的脸涨得通红:“先生,我们并没有真想不要机器人而自己干。再说,我们不敢确切肯定……这类……小小的抱怨,会有人听。” <br> 勃格特温和地插进来问: <br> 您最后一次看见它的那个上午,没发生什么特别的情况吗?”布莱克默不作答。卡尔文用安详的手势制止柯尔纳讲话,耐心地等着。 <br> 然而,布莱克的火一下冒了出来,他说: <br> ,‘我和它发生了一点儿纠纷事。那天上午,我打碎了一个金勃尔管,五天的功夫也白白报销了,我的整个工作安排落后于计划要求;我有两个礼拜没有接到家里的来信。可它又来想让我再搞一个月以前我已经放弃了的实验。它总是在这个问题上和我纠缠不休,都使我厌烦了。我让它走开。这就是我看见它时的全部情况.” <br> “您让它走开?”卡尔文博士很敏锐地问,“用的就是这几个字?你是说了‘走开’吗?您好好回想一下,确切地用了什么字眼.” <br> 很明显,布莱克的内心正在斗争。他用一只大手掌擦了擦脑门儿然后放下手,用一种对抗的口气说: <br> “我当时讲:‘走开,躲一边去。… <br> 勃格特大笑了几声:“于是它就这样做了,嗯?” <br> 但是,卡尔文并不到此为止。她用诱导的口吻说: <br> ‘现在我们已经弄明白一点了,布莱克先生。可是,确切的细节很重要。要弄明白这个机器人的行为,一个字、一个手势或一种语调都可能起决定一切的作用。您大概不光是讲了这六个字,是吗?按您的讲述,当时您心情烦躁。可能,您讲话的语气重了一点.” <br> 年轻人满脸通红他说: <br> “晤……我可能……骂它什么来着.” <br> “骂了什么?” <br> “哎,我记不确切了,再说,我也不能重复这些话。您知道,当您激动的时候,您会变得怎样,”他发窘地傻笑起来,“我用了骂人的话.” <br> “没什么关系,”苏珊一本正经他说,“现在,我作为心理学家,我希望就您所能记起来的,您尽量准确地复述一:下当时自己所讲的话,并且把您当时的语调也尽可能准确地表达出来。这后一点更为重要.” <br> 布莱克转脸去看自己的指挥官,寻求他的支持,但一无所得。他把眼睛睁得大大的,露出惶恐不安的神色:“可是,我不能.” <br> “您应该说.” <br> “假设,”勃格特仍然半带着逗乐的腔调说: <br> “您就假设是对着我说。这样您可能便于讲出口.” <br> 年轻人的脸红得简直就像猪肺,转向了勃格特。他结结巴巴他说: <br> “我当时说……”他又不吭声了,然后又使劲张开口,“我当时说 <br> 他深深地吸了口气,接着突突突地一气说出了一连串的音节。随后,在紧张的气氛中,他几乎是噙着眼泪把话说完了: <br> “……大致是这样。我记不起来骂它的话的先后顺序了。而且我刚才讲的话里面可能有些出入。但大体上就是这样.” <br> 只有双颊上微露的一点红晕揭示了心理学家的内心感受。她说: <br> “我明白大部分您所用的那些字眼的含意。其它的字眼,我认为,也同样是带侮辱性的.” <br> “恐怕是这样,”布莱克狼狈不堪地承认道。 <br> “而且,其中您还说了,让它躲到一边去。” <br> “我这只是形象的说法而已。” <br> “我明白这点。我相信,不会采取什么纪律措施吧."心理学家把目光投向柯尔纳。 <br> 将军气呼呼地点了一下头,就算表示了回答。可是五秒钟之前,他还完全不是这样想的。“您可以离开了,布莱克先生。感谢您的协助。” <br> 苏珊·卡尔文花了五个小时讯问这六十三个机器人。五个钟头之内无数次重复着同样的东西:相同的机器人一个接着另一个;提出问题,甲、乙、丙、丁;而后是回答,甲、乙、丙、了;使用经过小心选择杀和蔼的词句,很注意使用自然的语调、细心地创造一个友好的气氛;当然,还有巧妙地藏起来的一台录音机。 <br> 当心理学家干完这件事之后,她感到精疲力竭了。 <br> 当她撒手膨的一声把录音带扔到桌子的塑料贴面上时,勃格特正用期待的目光看着她。 <br> 她摇摇头:“在我看来,这六十三个机器人一模一样。我没法分辨出来……” <br> 勃格特说: <br> “您不可能凭耳朵把它们分辨出来,苏珊。我想,我们来分析录音机. <br> 一般他说,对机器人的语言进行数学译释,是机器人分析学比较复杂的一个分支。它要求有一批经过训练的技师,并要借助复杂的计算机。勃格特知道这点,他也是这么说的。他听完每一组回答之后,都掩盖着自己极度烦恼的情绪,列出词汇偏差表,标出了回答问题的问隔曲线图。 <br> “没有显示出反常现象,苏珊。用词的差异和反应时间的快慢,都在一般的常见的范围内。我们需要更好的方法。这里大概会有计算机吧,不———”他皱起眉头,细心地啃起大拇指甲来。“我们不能使用计算机,这太容易泄漏秘密了。或者,如果我们……” <br> 卡尔文博士用不耐烦的手势打断他的讲话:“别说了吧,皮特这不是实验室能解决的小问题。如果我们不能把确实存在的、用肉眼就能看得出来的那个明显的差别找出来,从而确定哪个是修改过的内斯特的话,那么我们只好认倒霉,而那样,产生差错并让它溜掉的危险就太大了。图表中的一小点正常值是不够的。我告诉您,如果我只能依据这点东西的话,我宁可把它们全部毁掉,才能放心。您喂其它修改过的内斯特谈过了吗?” <br> “是的,谈过了,”勃格特颓然地靠在椅背上,“它们没有任何不正常.如果说有什么不正常的话,那就是它们超乎一般地友好。它们回答我的问题,并为自己的知识丰富而洋洋自得——除了新来的两个它们还没来得及学习辐射物理学。对这里的一些专业我所表现出来的无知,引起了它们善意的嘲笑."他耸耸肩,接着说:“我想,这就是构成这里的部分技师对它们反感的一些主要原因。这些机器人太喜欢卖弄自己丰富的知识了.” <br> “您不能稍微试试着普兰南反应吗?看看它们的智力装置比出厂时有变化没有,有什么退化。” <br> “我还没有,但我是要试的,”他竖起一根纤细的手指,对着她摇摇。“您变得沉不住气了,苏珊。我不明白,您干嘛要过分渲染。它门实质上是无害的。”“它们吗?卡尔文生气了,“它们?难道您不知道它们当中的一个在撒谎?在我刚才讯问的这六十三个机器人当中,有一个就故意对我撒谎,尽管已下了最严格的命令要讲真话。所表现出来的这种反常现象简直太突出了,也太可怕了.”皮特咬了咬呀。他说:“根本不是这样。内斯特十号接到‘躲到一边去’的命令。这个命令是由最有权命令它的人发出的,而且是以最紧急的方式发出来的。您既不能通过更高的紧急方式,也不能运用更高一级的指挥权来把这个命令抵销掉。自然,这个机器人将尽力坚持执行他的命令。实际上,客观的讲,我非常赞赏它的机灵。一个机器人藏到一群和自己想似的机器人当中,难道还有比这更好的躲到一边去’的方法吗?”,‘是啊,您会赞赏这点。我发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏了解到了可怕的程度。您是个机器人专家吗,皮特?那些机器人对它们视之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比它们低一等,感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠的。而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他,躲到一边去。那个机器人必须服从命令。但是,它会有一种下意识的反感;对它来讲,证明它高人一筹,这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样,第一定律所剩下的那部分就不够用了。这一点变得非常重要。”。‘苏珊,在地球上或太阳系的任何地方,机器人怎么会懂得骂人话的含意呢?输入它大脑的东西里边没有污秽的语言呀!”,‘原始的输入并不代表一切,”卡尔文粗暴地对他说.“机器人有学习的能力。你……你这个笨……” <br> 勃格特明白她是真的难以克制自己了。 <br> 卡尔文急匆匆地继续说:,‘难道您不认为,它能分辨了的所用的语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意到是什么样的场合用过这种字眼吗?”,‘好吧,那么,,,勃格特嚷起来,“请您给我指出修改了的机器人能伤害人的一个途径,不管它是怎么样地被冒犯了,也不管它多么想证明自己的优越性。” <br> ,如果我告诉您一种途径,您能不声张出去吗?” <br> “是的。” <br> 他们隔着桌子互相靠拢,用悻悻的眼光相互盯着。 <br> 心理学家说: <br> “如果一个修改了机器人想要使一个重物坠落到人身上,它也不会违犯第一定律,如果它这样做的时候,它认为凭自己的力量和反应速度能在重物质砸到人身上之前把重物抓住并拿开的话。但是,一旦这个重物离开它的手,它就再不也不是行为的主动者;行为的主动者将是不长眼睛的地心引力。这时候,机器人会改变自己的想法,而仅仅袖手旁观地看着这个重物往下砸。修改后的第一定律允许出现这种情况。” <br> ‘“这是胡思乱想,牵强附会.” <br> “这是我的职业有时要求我做的,皮特,咱们别再争吵了,开始工作吧。您知道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记录。我希望您能告诉我,在什么样的情况下,我们的机器人就可能做出我刚才讲的那类事情。请注意,不是具体的那种事情;而是整个那一类的行动。并且,我希望您能快点告诉我。” <br> “而同时……” <br> “而同时,我们只好搞搞性能检验,直接看它们对第一定律的反应.” <br> 杰拉尔德·布莱克根据自己的要求,正在第二号放射大楼的第三层上监督安装木制小隔间。这是一间拱形大厅。在鼓鼓的一个大圆圈内,小隔间如同雨后春笋,一个接一个飞快地安装起来。工人们基本上默不作声地在于着活儿。但是,不少人明显地感到奇怪,为什么还要安装上六十三个光电管呢? <br> 一个工人在布莱克身旁坐下,摘掉帽子,若有所思地用生满黑斑的前臂擦掉前额的汗水。 <br> 布莱克向他点点头:“进展得怎么样,沃连斯基?” <br> 沃连斯基耸耸肩,点着一支雪前烟,说: <br> “非常顺利。到底发生了什么事情,博士?起先,我们三天没活儿子。然后就干一大堆这些小玩意儿。”他一边用胳臂时支撑着向后靠,一边吐出一团团烟雾。 <br> 布莱克的眉毛抽动了一下。他说: <br> 。‘有两个机器人专家从地球上来到这里。你记得咱们和机器人之间的麻烦事吗?它们不能往伽马辐射场里跑。可是,我们反反复复往它们脑袋里灌输这个道理之前,它们老往那里钻。” <br> “记得。我们没有得到新的机器人吗?” <br> 。。我们得到了几个补充的机器人。但我们大部分的工作是给机器人输入新知识。总之,制造它们的人想使它们不至于轻易被伽马射线毁掉.” <br> 。‘看来可真稀奇。把研制超原子驱动的全部工作停下来,只为了这些机器人的事。依我看,无论什么事情都不应当使驱动的工作停顿。” <br> ,嗯,只有楼上的那些人对这事有发言权。我嘛,我只是照人家说的去干。很可能,这是一桩什么交易……… <br> 。‘是啊,,’这个电工撇嘴一笔,狡黠地眨眨一只眼睛。“在首都华盛顿一些人是相互认识的。但是,只要我的薪水准时送到,我就得使劲干。至于超原子驱动,可不是我的事。他们在这里打算干会么?”。,,你问我?他们带来了一大批机器人,六十多个。他们打算测量一下反应。我就知道这么一点.” <br> “要测量多久?” <br> “我还想知道呢。” <br> ,‘好吧,”沃连斯基大说其风凉话,“只要他们把我的钱给我,他们爱怎么玩就怎么玩去吧.” <br> 布莱克感到颇为得意——让这一说法传开吧,它不伤害谁,但又比较接近实际情况,可以稍稍满足人们的好奇心。 <br> 有个人一动不动,一声不响地坐在椅子里。一件重物坠落了,很快地向这个人砸下去。在最后一刹那,用同步的方法使一根铁棍突然有力一击,把重物打到一边。在六十三个小隔间里,这些NS一2型机器人正在观看这种情景。就在重物被改变方·向之前的一刹那问,它们都向前冲去。六十三个光电管都向前离开原来的位置有1米多远,引起记录笔上下跳动,在纸带上划出犬牙状曲线。 <br> 重物又被抬起,坠落;又抬起,又坠落;再抬起…… <br> 总共十次! <br> 这些机器人也向前冲了十次,每次当它们看见人安安全全地地稳坐在椅于里时,才又停住。 <br> 自从第·一次和机器人公司的代表共进午餐之后,河尔纳少将再也没有全套地穿过他的军服。现在,他上身只穿一一件蓝灰色的衬衫,敞着领口,黑色的领带松垮地耷拉在胸前… <br> 他期待地望着勃格特:,勃格特的穿着依旧整整齐齐。,大概只有双颊上渗出的小汗珠,才显露了池内心的紧张。 <br> 将军问: <br> “情况怎么样?你们想看到的是什么东西呢?” <br> 勃格特回答说: <br> “一种差别,恐怕,这种差别对我们要解决的问题来讲,显得太细微而难以捉摸了,这些机器人当中,有六十二个必须冲向那个明显受到威胁的人。这种必要性在机器人学中称为被迫反应。您看,甚至当机器人知道这个人将不会受到伤害;而且在第三、第四次之后,它们应该已经明白这一点,它们还是无法避免不作出这种反应。这是第一定律所要求的.” <br> “嗯、” <br> “但是,第六十三个机器人,即修改过的内斯特却没有这种被迫感。如果它愿意的话,它可以呆在自己的位子上。不幸的是,”勃格特的声音里带出了少许憾意,“它并没有这样.” <br> “为什么您这样认为呢?” <br> 勃格特耸耸肩:“我想,卡尔文博士到这里的时候,会告诉我们的。很可能,也只是做些令入害怕的、悲观的解释。有时她有点烦人。” <br> ·‘她能胜任工作,是吗?"将军突然担心地皱起眉头。 <br> 。‘是的,”看来,勃格特觉得怪有趣的。“她完全能胜任工作。她像机器人的姐姐一样了解它们。我想,这是由于她非常痛恨人们的缘故。她是心理学家也罢,不是也罢,问题就在于她是个非常神经过敏的人,有时容易想入非非:,您不要拿她太当真.” <br> 勃格特把一长卷划有虚线的图表在他的面前摊开:“将军,您看。对每个机器人来讲,从重物开始坠落,到机器人冲了1米多所用的时间随着试验一再的重复而呈逐次减少的趋势。有一定的数学比例来支配这类现象,而脱离这种比例,就可能预示着正电子脑有明显的异常。不幸的是,它们全部都显得是正常.” <br> 可是·,如果我们的第十号内斯特没有作出被迫反应,那么为什么它的曲线和别的机器人的一样呢?这点我不明白。” <br> ,‘这很简单。机器人学中的反应与人的反应不尽相同。这真是遗憾。人的自觉动作比条件反射的动作要缓慢得多。而机器人则不然。在它们身上,仅仅是一个人们自由选定的问题。否则,自由的动作和被迫的动作速度都是一佯的。我原希望看到第十号内斯特在第一次试验时会吃惊,因而它作出反应的时间会推迟."’ <br> “但是它没有这样。” <br> “恐怕是没有。” <br> "那么,我们没有什么进展喽,”将军带着沮丧的表情仰靠在椅子里,“你们到这里已经五天了。” <br> 这时,苏珊走了进来,砰的一声关上门。皮特,把您的图表拿开”她叫道,您是知道的,它们不说明任何问题。” <br> 当柯尔纳欠起身子迎接她时,她不耐烦地嘟哦了几声,然后接着说:。‘我们必须尽快地再试试别的。我不喜欢现在这种状况.” <br> 勃格特和将军交换了一个顺从的眼神,问道: <br> “出什么差错了吗?” <br> 。‘您指的是特别的差错吗?那倒没有。不过,我不喜欢让第十号内斯特继续躲避我们。这太糟糕了。这只能满足它那已经膨胀的优越感。恐怕,它的动机不再只是遵从命令了。我想,这不如说是它神经病似的竭力想以机智胜人。这是一种病态的、危险的状况。皮株我求您的事,您做了吗?您是否已把我想要的,修改了的机器人NS一2型的几点不稳定因素给计算出来了?… <br> “正在进行,”数学家毫无兴趣地说。 <br> 她面带温色地瞪了他一会儿,然后转向柯尔纳将军:“将军,第十号内斯特已确切知道我们在于什么。它无须在这个试验中上我们的钩。尤其在第一次试验之后,它已看出,没有真正的危险在威胁我们的人。其它的机器人是不得不那样做;而它却是精心地装出了这种反应.” <br> “那么,您认为我们现在应该做什么呢?卡尔文博士.” <br> “下次不能再让它作出这种虚假的反应。我们将重复这个试验,但要增加一些东西——在我们的人和机器人之间安装上能电死这些内斯待型机器人的高压电线。电线多放一些,使得它们没法从上面跳越过去。而且事先要告诉机器人,碰上电线就会死." <br> “别说了!"勃格特突然恶狠狠地对她喊道,“我反对这个办法。我们不能为了找出第十号内斯特,而把价值200万元的机器人电死。总还会有别的办法嘛。” <br> “您有把握吗?您连一点办法也没找到。无论怎么说,这不是要电死那一个问题。我们可以安上继电器。当重物压上去时,继电器就会切断电源。如果机器人把自己的重量压上去时,继电器就会切断电源。如果机器人把自己的重量压到上面,它就不会死。但是这一点事先不能让它们知道,您明白吗?” <br> 将军的眼睛里闪出了希望的光芒。他问: <br> “那能行吗?” <br> “应该能行。这种情况下,第十号内斯特将会留在原位。如果是命令它去碰电线,它会死的。因为关于必须执行命令的第二定律要优先于关于要保存自己的第三定律。但是,并没有人命令它去那样做它将只按自己的意志办。其它机器人也将是按自己的意志办。对其它机器人来讲,关于人的安全这第一定律将驱使它们去死。尽管没有命令它们。但是,我们这个第十号内斯特则不然。由于第一定律已不完整,再加上没有接到要那样去做的命令,第三守律,即:要保存自己,将成为最首要的起作用的因素。因此,它没有其它的选择,只有留在自己的位置上。这不是被迫的反应。” <br> “那么,今天晚上能做吗?” <br> “今天晚上可以,”心理学家说,“如果电线能及时安装上的话。现在我去告诉机器人,让它们知道它们将面临什么样的情况.” <br> 有一个人一动不动、一声不响地坐在椅子里。一件重物坠落了,很决地向这个人砸下去。在最后一刹那间,用同步的方式使一根铁棍突然有力地一击,把重物打到一边。 <br> 仅仅一次…… <br> 在实验室的观察间里,卡尔文博士从小巧轻便的折叠椅上站了起来。一瞬间惊讶得气都憋住了。 <br> 六十三个机器人全安安静静地坐在自己的椅子里,严肃地盯着自己面前那个受到威胁的人。谁也没有动。 <br> 卡尔文生气了。她简直到了怒不可遏的地步。但她看着机器人一个接着一个进入这问房间,又一个接着一个走了出去,而不敢表现出这种怒气。这更使她感到怒火中烧。她核对了一下名单。第二十八个机器人应该进来了——下面还有三十五个在等着她呢。 <br> 第二十八踌躇地走了进来。 <br> 她强迫自己保持适当的镇静:“那么,你是谁呢?” <br> 机器人用犹豫的低低的声音回答: <br> “我还没有得到我自己的编号,女士。我是一个NS一2型机器人。在外面排队时,我排第二十八个。我这里有一张纸条要交给你”小时之前,你在二号楼放射室里吗?”1机器人有些为难。随后,它用沙哑的,就像缺少润滑油的机器发出的声音,吐出了四个字:“是的,女士。” <br> “那里有一个人几乎要受到伤害,是吧?” <br> “是的,女士.” <br> “你什么也没有做,对吧?” <br> “是的,女士.” <br> “那个人可能因为你的袖手旁观而被伤害,这你知道吗?” <br> “知道,女士。我无能为力,女士.” <br> 很难想象,一个庞大的、毫无表情的钢铁的身躯怎么会畏缩起来。可是,它却这样做了。 <br> “我要你明确地告诉我,为什么你不设法去救那个人.” <br> “我想解释,女士。我确实不希望您……不希望任何人认为,我会干出导致一个主人受到伤害的什么事情,,哦,不,那将会是可怕的……不可想象的……… <br> “请不要激动,孩子。我不会为这事情而责备你。我只是要知道,当时你在想些什么.” <br> “女士,在整个事情发生之前,您告诉我们:有一位主人可能会遭到被伤害的危险,因为有件重物将会坠落。而如果我们想去救他的话,我们必须越过电线。嗯,女士,这本不会使我留在原地。我的毁坏和一一个主人的安全比起来,又算得了什么呢?可是……可是我想到,如果我在扑向他的路。L就死悼,我也就不能把他救出来。重物会把他砸坏,而我将毫无意义地死去,再说,如果哪天别的主人要遭到伤害,而只要我还活着,我就可以去救他。您明白我的意思吗?女士。” <br> “你想说,只死一个人还是这个和你都死,仅仅是在这二者之间作选择的问题,我说得对吗?” <br> “是的,女士。救这个主人是不可能的。他可以被看作死了。在这种情况下,如果我白白把自己毁坏了,而且也没有命令,那是不可思议的。” <br> 心理学家捻着手里的铅笔。在这之前,她已听了二十六遍这种说法,而且连说话的方式都没有多大差别。现在,关键就在这里。 <br> “孩子,”她说,“你的想法有些道理。但是,我不认为这是你能想到的事。是你自己想到的吗?” <br> 机器人犹豫地说: <br> “不是。” <br> “那么,是谁想的呢?” <br> “昨天晚上,我们交谈来着,我们当中的·一个想到了这一点。而且听起来也挺有道理.” <br> “是哪个?” <br> 机器人沉思起来:“我不知道、。是我们当中的一人。 <br> 卡尔文叹了一口气:“就这样吧!” <br> 接着走进来的是第二十九个。后面还有三十四个。 <br> 柯尔纳少将也生气了。一周以来,超级基地上一切都像死一样地停顿下来。只有一组次要的小行星,上面还有一些日常的文书工作在进行着。将近一周以来,这两个机器人学的高级专家槁了些没有用的试验。结果是把局面弄得更严重了。而现在他们两人——或者说,至少这个女人一又是提出了些无法实现的建议。幸而,为了顾全大局,柯尔纳没有公开表示愤懑;他认为这样是不策略的。苏珊·卡尔文还在坚侍着:“为什么不呢,先生?很明显,目前的局势是不幸的。将来我们可能获得结果的唯一途径一一或者说,将来在这方面我们会碰到什么情况的话一,那只有将这些机器人分开我们再也不能把它们放在一起.”“我亲爱的卡尔文博士."将军低沉地说,他的嗓音变成了低低的男中音。“我看不出来,我怎么能够在这么一块地方,分隔着放下六十三个机器人……” <br> 卡尔文博士无可奈何地举起双臂:“那么,我可就无能为力了第十号内斯特或者是模仿别的机器人去做,或者是用花言巧语劝说别的机器人不要去做那些它自己不能做的事。如果这样,就糟糕了实际上,我们正在和我们这个躲起来的小机器人斗智。并且它正取得胜利。它的每一个胜利只会加深它的异常.” <br> 她毅然决然地站起来说: <br> “柯尔纳将军,如果您不能满足我的请求——把机器人分隔开来,那我只能要求立即把六十三个机器人通通毁掉。… <br> “您要求这个,是吗?"勃格特蓦地抬起头,面带怒色地看着她。“您有什么权力要求这样做。那些机器人要原封不动地保留下来。是我对整个安排负责,而不是您.” <br> “还有我,”何尔纳少将接着说,“我要对世界协调人负责。要由我来决定解决问题的办法.” <br> “这样的话,”卡尔文回嘴说,“我只好辞职。如果不得不强迫你们去毁掉这些机器人的话,那么我只有把整个事情公诸于世。制造修改过的机器人并不是我批准的。” <br> “只要由您的嘴里,卡尔文博士,”将军故作姿态地说,“讲出一个违反安全措施的字,那么您肯定立即会被关押起来.” <br> 勃格特感到事态正要失去控制,他的声音变得温和起来:“暖,暖,现在咱们三个人变得像小孩子一样意气用事。我们只要再花上一点时间,就肯定能用智慧战胜一个机器人,而无须谁辞职,无须谁被关押,或毁掉之200万元.” <br> 心理学家冷静地转向他,怒冲冲地说: <br> “我不能让任何不可靠的机器人在现实中存在。我们已经有一个完全不可靠的内斯特,另外,有十一个带有潜在危险的内斯特,还有六十二个正常的,但已经受到外界不可靠的因素影响的机器人。唯一绝对保险的办法就是全部毁掉.” <br> 蜂音器发出嘎嘎声,使三个人都闭上了嘴,愤怒的争吵、任意发泄、不断激化的感情冲动顿时冷却了下来。.“进来!”柯尔纳吼了一声。 <br> 进来的是杰拉尔德·布莱克。他神色不安;他已经听到了愤怒的争吵声。他说: <br> “我想,我还是自己来……我不愿意求别的人……” <br> “什么事?别装腔作势……” <br> “货运飞船丙号分隔舱的锁被人动过了。上面有新的刮划痕迹。… <br> “丙号分隔舱?”卡尔文马上惊叫起来,“就是关着机器人的那个舱,对吗?谁干的?””” <br> “从里面,”布莱克简短地答道。 <br> “锁没有坏吧?” <br> “没有,锁还完好。我才在这艘船上呆了四天,没有谁想要跑出来。但是我想,你们应该知道。再说,我不愿意让这个消息传开。这件事是我自己发现的。” <br> “现在那儿有什么人吗?”将军间。 <br> “我把罗宾斯和麦克亚当斯留在了那儿。” <br> 大家默不作声地沉思着。然后卡尔文博士不无讥讽他说: <br> “明白啦?” <br> 柯尔纳不知所措地搓了搓鼻子:“这都是怎么回事?” <br> “还不清楚吗?第十号内斯特打算离开。让它躲到一边去的命令支配着它,使它表现异常,以至我们下什么命令都无济干事。如果第一定律所保留下来的那一部分不足以克服它的异常表现的话,我也不会感到惊讶,它完全可能跑到那艘飞船上,并乘船逃跑。到那时,宇宙飞船上就会有一个发疯的机器人。下一步该怎么办呢?有什么主意吗,将军?您还想把它们都留下吗?” <br> “无稽之谈,”勃格特打断说,但他立刻又变得圆滑起来。“这只不过是因为锁上面有几道刮划痕迹而已.” <br> “勃格特博士,既然您这么愿意讲出自己的见解,您是否已完成我所要求您做的分析了呢?” <br> “是的。” <br> “我可以看看吗?” <br> “不行” <br> “为什么不行?或者我连问一下都不行?” <br> “因为那里没有什么道理,苏珊。我事先曾对您讲过,这些修改过的机器人比它们各种正常的同类的稳妥可靠性要差一些;我的分析结果也表明了这一一点。只有在一种非常特殊的情况下,才会出现某些非把它毁掉不可的必要性。但是,这种非常特殊的情况,看来未必会发生。就谈到这里吧。我不想再为您那荒唐的要求提供子弹您要把六十二个极好的机器人都毁掉,仅仅是因为您至今还没有能力把第十号内斯特从它们当中找出来.” <br> 苏珊逼视着勃格特,使他不得不赶紧把目光避开、,她的眼睛里充满了鄙视的神色:“您不允许廷何东西妨碍您永远当厂长,是吧?” <br> “行了,”柯尔纳半带恳求、半带生气地说:“您就认定再也没有什么办法了吗,卡尔文博士?” <br> “我想不出别的办法来,先生."她厌倦地回答道,“如果第十号内斯特和其它机器人之间还有其它的差别,即不牵扯到第一一定律的差别,那怕只有一点也好。,比如在输入的东西方面;在对周围环境的适应方面;在专门技能方面……”她突然停了下来。 <br> “怎么回事?” <br> “我刚才想到一些问题……我想……”她的目光变得严峻而不可捉摸,“皮持,对这些修改过的内斯特也输入了给其它正常的机器人输入的东西吗?” <br> “是的,完全相同.” <br> “那么,布莱克先生,你曾说过些什么,”她转身问年轻人。年轻人经过刚才由他报告的消息所引起一场风波之后,正保持着非常谨慎的缄默的态度。她接着说:“有一次,在抱怨内斯特表现出优越感叱您说技师们把自己的知识传授给了它们。” <br> “是的。辐射物理学方面的知识。当它们到这里时,它们并不掌握这一门科学。” <br> “是这样,”勃格特惊讶他说,“苏珊,我告诉您,当我和这时的其它内斯特谈话时,新来的那些就没有学过辐射物理学。… <br> “为什么会这样呢?”卡尔文博士用更激动的口气问。“为什么不从一开始就给Ns一2型机器人输入辐射物理学呢?” <br> “关于这一点,我可以告诉您,”柯尔纳说,“这全都是为了保密的缘故。以前我们想,如果我们制造懂得辐射物理学的特殊型号的机器人,而只用其中的十二个。其它的则放到与此无关的领域内去工作,将会引起人们的猜疑。和机器人一起工作的人将会感到奇怪,为什么它们了解辐射物理学。所以,开头只给它们输入了接受这方面训练的能力。自然,只有那些来这里的机器人,随后才受到这方面的训练。这很简单.” <br> “我明白了。请出去,请你们通通出去,让我自己思考个把钟头。” <br> 卡尔文感到自己无法经受这第三次严峻的考验。她在脑也里反复思考着这个试验,最后,还是决定放弃由自己来搞,因为她紧张得简直要呕吐了。她无法再面对这一大串一模一样的机器人。 <br> 于是,现在由勃格特来问机器人。而她则坐在一旁,半眯缝着眼,半休息着脑子。 <br> 已经进来第十四个;还有四十九个等在那儿。 <br> 勃格特从问题提纲上抬起眼睛问道: <br> “按顺序你是第几号?” <br> “第十四号,先生,”机器人交上写着自己号码的纸条。 <br> “请坐,孩子。” <br> 勃格特接着问: <br> “今天,你还没有到过这里吧” <br> “没有,先 |