第 128 节
作者:
敏儿不觉 更新:2021-02-17 12:42 字数:4737
地啃起大拇指甲来。“我们不能使用计算机,这太容易泄漏秘密了。或者,如果我们……”
苏珊博士用不耐烦的手势打断他的讲话:“别说了吧,皮特。这不是实验室能解决的小问题。如果我们不能把确实存在的、用肉眼就能看得出来的那个明显的差别找出来,从而确定哪个是修改过的内斯特的话,那么我们只好认倒霉,而那样,产生差错并让它溜掉的危险就太大了。图表中的一小点正常值是不够的。我告诉您,如果我只能依据这点东西的话,我宁可把它们全部毁掉,才能放心。您与其它修改过的内斯特谈过了吗?”
“是的,谈过了,”伯格特颓然地靠在椅背上,“它们没有任何不正常。如果说有什么不正常的话,那就是它们超乎一般地友好。它们回答我的问题,并为自己的知识丰富而洋洋自得——除了新来的两个它们还没来得及学习辐射物理学。对这里的一些专业我所表现出来的无知,引起了它们善意的嘲笑。”他耸耸肩,接着说:“我想,这就是构成这里的部分技师对它们反感的一些主要原因。这些机器人太喜欢卖弄自己丰富的知识了。”
“您不能稍微试试着普兰南反应吗?看看它们的智力装置比出厂时有变化没有,有什么退化。”
“我还没有,但我是要试的,”他竖起一根纤细的手指,对着她摇摇。“您变得沉不住气了,苏珊。我不明白,您干嘛要过分渲染。他们实质上是无害的。”
“他们吗?”苏珊生气了,“它们?难道您不知道它们当中的一个在撒谎?在我刚才讯问的这六十三个机器人当中,有一个就故意对我撒谎,尽管已下了最严格的命令要讲真话。它所表现出来的这种反常现象简直太突出了,也太可怕了。”
皮特咬了咬牙。他说;“根本不是这样。内斯特十号接到‘躲到一边去’的命令。这个命令是由最有权命令它的人发出的,而且是以最紧急的方式发出来的。您既不能通过更高的紧急方式,也不能运用更高一级的指挥权来把这个命令抵销掉。自然,这个机器人将尽力坚持执行他的命令。实际上,客观的讲,我非常赞赏它的机灵。一个机器人藏到一群和自己相似的机器人当中,难道还有比这更好的‘躲到一边去’的方法吗?”
“是啊,您会赞赏这点。我发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏了解到了可怕的程度。您是个机器人专家吗,皮特?那些机器人对它们视之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比它们低一等,感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠的。而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他,躲到一边去。那个机器人必须服从命令。但是,它会有一种下意识的反感;对它来讲,证明它高人一筹,这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样,第一定律所剩下的那部分就不够用了。这一点变得非常重要。”
“苏珊,在地球上或太阳系的任何地方,机器人怎么会懂得骂人话的含意呢?输入它大脑的东西里边没有污秽的语言呀!”
“原始的输入并不代表一切,”苏珊粗暴地对他说,“机器人有学习的能力。你……你这个笨……”
伯格特明白她是真的难以克制自己了。
苏珊急匆匆地继续说:“难道您不认为,它能分辨的所用的语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意刭是什么样的场合用过这种字眼吗?”
“好吧,那么……”伯格特嚷起来,“请您给我指出修改了的机器人能伤害人的一个途径,不管它是怎么样地被冒犯了。也不管它多么想证明白己的优越性。”
“如果我告诉您一种途径,您能不声张出去吗?”
“是的。”
他们隔着桌子互相靠拢,用悻悻的眼光相互盯着.
心理学家说:“如果一个修改了的机器人想要使一个重物坠落到人身上,它也不会违犯第一定律。如果它这样做的时候,它往往认为凭自己的力量和反应速度能在重物质砸到人身上之前把重物抓住并拿开。但是。一旦这个重物离开它的手,它就再不也不是行为的主动者。行为的主动者将是不长眼睛的地心引力。这时候,机器人会改变自己的想法,而仅仅抽手旁观地看着这个重物往下砸。修改后的第一定律允许出现这种情况。”
“这是胡恩乱想。牵强附会。”
“这是我的职业有时要求我做的,皮特。咱们别再争吵了,开始工作吧。您知道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记录。我希望您船告诉我,在什么样的情况下,我们的机器人就可能做出我刚才讲的那类事情。请注意,不是具体的那种事情,而是整个那一类的行动。并且,我希望您能快点告诉我。”
“而同时……”
“而同时,我们其好搞搞性能检验,直接看它们对第一定律的反应。”
七、看你救不教人
吉拉尔德·布莱克根据自己的要求,正在第二号放射大楼的第三层上监督安装木制小隔间。这是一间拱形大厅,在鼓鼓的一个大圆圈内,小隔间如同雨后春笋,一个接一个飞快地安装起来。工人们基本上默不作声地在于着活儿。但是,不少人明显地感到奇怪,为什么还要安装上六十三个光电管呢?
一个工人在布莱克身旁坐下,摘掉帽子,若有所思地用生满黑斑的前臂擦掉前额的汗水。
布莱克向他点点头:“进展得怎么样,乌里斯基?”
乌里斯基耸耸肩,点着一支雪前烟,说:“非常顺利。到底发生了什么事情,博士?起先,我们三天没活儿干。然后就干一大堆这些小玩意儿。”他一边用胳臂肘支撑着向后靠,一边吐出一团团烟雾。
布莱克的眉毛抽动了一下。他说:“有两个机器人专家从地球上来到这里。你记得咱们和机器人之间的麻烦事吗?它们不能往伽马辐射场里跑。可是,我们反反复复往它们脑袋里灌输这个道理之前,它们老往那里钻。”
“记得。我们没有得到新的机器人吗?”
“我们得到了几个补充的机器人。但我们大部分的工作是给机器人转入新知识。总之,制造它们的人想使它们不至于轻易被伽马射线毁掉。”
“看来可真稀奇。把研制超原子驱动的全部工作停下来,只为了这些机器人的事。依我看,无论什么事情都不应当使驱动的工作停顿。”
“嗯,只有楼上的那些人对这事有发言权。我嘛,我只是照人家说的去干。很可能,这是一桩什么交易………
“是啊,”这个电工撇一下嘴,狡黠地眨眨一只眼睛,“在首都华盛顿一些人是相互认识的。但是,只要我的薪水准时送到,我就得使劲干。至于超原子驱动,可不是我的事。他们在这里打算干么?”
“你问我?他们带来了一大批机器人,六十多个。他们打算测量一下反应。我就知道这么一点。”
“要测量多久?”
“我还想知道呢。”
“好吧,”乌里斯基大说其风凉话,“只要他们把我的钱给我,他们爱怎么玩就怎么玩去吧。”
布莱克感到颇为得意——让这一说法传开吧,它不伤害谁,但又比较接近实际情况,可以稍稍满足人们的好奇心。
八、十次冲刺
有个人一动不动,一声不响地坐在椅子里。一件重物坠落了,很快地向这个人砸下去。在最后一刹那,用同步的方法使一根铁棍突然有力一击,把重物打到一边。在六十三个小隔间里,这些MS-2型机器人正在观看这种情景。就在重物被改变方向之前的一刹那间,它们都向前冲去。六十三个光电管都向前离开原来的位置有一米多远,引起记录笔上下跳动,在纸带上划出犬牙状曲线。
重物又被抬起,坠落;又抬起,又坠落;再抬起……
总共十次!
这些机器人也向前冲了十次,每次当它们看见人安安全全地地稳坐在椅子里时,才又停住。
自从第一次和机器人公司的代表共进午餐之后,柯尔纳少将再也没有全套地穿过他的军服。现在,他上身只穿一件蓝灰色的村衫,敞着领口,黑色的领带松垮地耷拉在胸前……
他期待地望着伯格特,伯格特的穿着依旧整整齐齐,大概只有双颊上渗出的小汗珠,才显露了他内心的紧张。
将军问:“情况怎么样?你们想看到的是什么东西呢?”
伯格特回答说:“一种差别,恐怕,这种差别对我们要解决的问题来讲,显得太细微而难以捉摸了。这些机器人当中,有六十二个必须冲向那个明显受到威胁的人。这种必要性在机器人学中称为被迫反应。您看,甚至当机器人知道这个人将不会受到伤害;而且在第三、第四次之后,它们应该已经明白这一点,它们还是无法避免不作出这种反应。这是第一定律所要求的。”
“嗯。”
“但是,第六十三个机器人,即修改过的内斯特却没有这种被迫感。如果它愿意的话,它可以呆在自己的位子上。不幸的是,”伯格特的声音里带出了少许憾意,“它并没有这样。”
“为什么您这样认为呢?”
伯格特耸耸肩:“我想,苏珊博士到这里的时候,会告诉我们的。很可能,也只是做些令人害怕的、悲观的解释。有时她有点烦人。”
“她能胜任工作,是吗?”将军突然担心地皱起眉头。
“是的,”看来,怕格特觉得怪有趣的。“她完全能胜任工作。她像机器人的姐姐一样了解它们。我想,这是由于她非常痛恨人们的缘故。她是心理学家也罢,不是也罢,问题就在于她是个非常神经过敏的人,有时容易想入非非。您不要拿她太当真。”
伯格特把一长卷划有虚线的图表在他的面前摊开:“将军,您看。对每个机器人来讲,从重物开始坠落,到机器人冲了一米多所用的时间随着试验一再的重复而呈逐次减少的趋势。有一定的数学比例来支配这类现象,而脱离这种比例,就可能预示着正电子脑有明显的异常。不幸的是,它们全部都显得正常。”
可是,如果我们的第十号内斯特没有作出被迫反应,那么为什么它的曲线和别的机器人的一样呢?这点我不明白。”
“这很简单。机器人学中的反应与人的反应不尽相同。这真是遗憾。人的自觉动作比条件反射的动作要缓慢得多。而机器人则不然。在它们身上,仅仅是一个人们自由选定的问题。否则,自由的动作和被迫的动作速度都是一佯的。我原希望看到第十号内斯特在第一次试验时会吃惊,因而它作出反应的时间会推迟。”
“但是它没有这样。”
“恐怕是没有。”
“那么,我们没有什么进展喽,”将军带着沮丧的表情仰靠在椅子里,“你们到这里已经五天了。”
九、我们也怕死
这时,苏珊走了进来,砰的一声关上门。“皮特,把您的图表拿开。”她叫道,“您是知道的。它们不说明任何问题。”
当柯尔纳欠起身子迎接她时,她不耐烦地嘟哦了几声,然后接着说:“我们必须尽快地再试试别的。我不喜欢现在这种状况。”
伯格特和将军交换了一个顺从的眼神,问道:“出什么差错了吗?”
“您指的是特别的差错吗?那倒没有。不过,我不喜欢让第十号内斯特继续躲避我们。这太糟糕了。这只能满足它那已经膨胀的优越感。恐怕,它的动机不再其是遵从命令了。我想,这不如说是它神经病似的竭力想以机智胜人。这是一种病态的、危险的状况。皮特,我求您的事,您做了吗?您是否巳把我想要的,修改了的机器人MS-2型的几点不稳定因素给计算出来了?”
“正在进行。”数学家毫无兴趣地说。
她面带愠色地瞪丁他~会儿,然后转向柯尔纳将军;“将军,第十号内斯特已确切知道我们在干什么。它无须在这个试验中上我们的钩。尤其在第一次试验之后,它已看出,没有真正的危险在威胁我们的人。其它的机器人是不得不那样做;而它却是精心地装出了这种反应。”
“那么,您认为我们现在应该做什么呢?苏珊博士。”
“下次不能再让它作出这种虚假的反应。我们将重复这个试验,但要增加一些东西——在我们的人和机器人之间安装上能电死这些内斯特型机器人的高压电线。电线多放一些,使得它们没法从上面跳越过去。而且事先要告诉机器人,碰上电线就会死。”
“别说了!”伯格特突然恶狠狠地对