么地太聪明了!又测了手臂的xìng能,又帮龙哥省下了照顾我的时间。最重要是我能一边玩一边工作,太爽了。
玩着玩着,有点儿渴了。鱼线侧头望去,沙发旁长几上,离自己半米远的地方有杯饮料。他起身一伸手就能摸的到。可他却挑了挑眉毛:“唯行!”
“到!”唯行还跟以前一样,一被叫到名字,就会抬起右手喊个“到”。不过他举起来的手上全是肥皂泡。
“把那杯饮料给我拿过来~。”鱼线慵懒的声调,像老佛爷召唤小李子。
“好的。”唯行慢慢地站起身来,就那么带着满手的肥皂沫子要来拿杯子。
“等等等等,先把手在清水里洗干净,用毛巾擦干再拿东西给我。以后记得,给别人拿吃的喝的,一定要注意个人卫生。”鱼线急得差点儿坐起来。
“好的。”唯行又回去在清水桶里把手涮净,用旁边的干毛巾擦干。这是鱼线之前就为他准备好的。
鱼线满意地看着唯行递过来的饮料,像电影里演的那些富家子弟一样,娇情地拿过来慢慢品了一口。等他得意够了,又把杯子放回唯行手里。“行了,放回去吧。接着洗衣服。”
唯行依言。
鱼线这一试就上了瘾,登时来了兴趣。
“唯行!”“到!”
“拿那本最上面的杂志过来。”“好的。”
“唯行!”“到!”
“拿那件衣服给我盖上。”“好的。”
“唯行!拿个桔子给我。”“不认识。”“果盘里黄sè的那个就是。”“好的。”
“唯行!”“到!”“……我还没想好。算了,你先洗衣服吧。”“好的。”
……
应龙下楼来叫鱼线一起去吃晚饭。鱼线因为视角的关系,没看到应龙进来了,还在驱使唯行做这做那。应龙看了一会儿,微笑着走到鱼线身旁,坐在沙发上。
鱼线不好意思地笑笑:“龙哥,你什么时候下来的?”
应龙笑笑:“办公全面自动化了。挺好过啊。”
“反正也要测xìng能,搂草打兔子呗。”
应龙没继续这个话题,却问:“鱼线,你看过机器人的科幻作品没有?小说电影都算。”
鱼线一看应龙不介意他瞎使唤唯行,心情一松:“当然看过。我看过的科幻电影和小说,十个里有五个都有机器人出场。”
“那有关机械智人的呢?能dú ;lì思考的大型计算机也算在内。”
“嗯,在机器人的科幻作品里,大概也占了一半吧。”
“那你有没有留意过,关于机械智人的作品里,故事的结局都是什么样的呢?”
“这个……”鱼线真没细想过。他看过的,好像不是跟人类和平共处了,就是集体暴动了。大抵分为这两派,机器人叛变的内容相对多一点。“一多半跟人类翻脸闹dú ;lì了,另一小部分跟人类共存了。”
“那为什么机器人是人造的,却不知道感恩,还要叛变,与制造者为敌呢?科幻作品都是人类写的。那么,为什么会有那么多人类作家都认为,机器人会叛变呢?”
“呵呵,刚出厂没几天,重活儿累活儿都是自己的,享受生活都是别人的。没脑子时当然会乖乖听话。一旦有了智慧,谁看不出这是欺负人?要我,我特么也反了!……”说到这里,鱼线突然发现应龙笑的很jiān,他突然明白自己被龙哥绕进去了。鱼线低头说:“龙哥,我错了。以后再也不欺负唯行了。”
“我没有批评你,我只是想提醒你别太过了。现在唯行还什么都不懂,智能也不高,你做的这些他也不知计较。除非我们的项目失败了,否则终有一天,唯行会获得接近人类的智慧。那时,他以智慧的头脑,回想当初自己的懵懂无知,还有他叔是怎么欺负他的,他会做何感想呢?要是他学会了小心眼儿,你说他会不会找你报仇哩?”
第五十章 左手鞭子右手糖
() 一个过目不忘,身材比自己高大,而且刀枪不入的机器人,来找自己报仇?!
想到这里,鱼线儿两眼圆睁,面sè铁青,打了个冷战。
“没关系,把这部分记忆数据抹掉。他就不记得这事儿了。”鱼线安慰自己。
“那你今后就能保证不再做同样的事情?要是做错了就擦掉,那……,他能保留下来的记忆数据只怕也不多了。他还怎么积累生活经验呢?”
“这个……”鱼线两手拇指食指顶在一起,来回扭动。估计是无话可说,又真的担心唯行将来报复他。
这时应龙突然又说起另一个话题:“鱼线你有没有听过‘机器人三大定律’?”
“三大定律?是指机器人怎么报复人类吗?”鱼线慌张地问。
“不,是人类约束机器人行为的三条基本守则。”应龙像讲故事一样慢慢说起来:“有一位叫艾萨克·阿西莫夫的科幻小说家,他曾提出这么一个虚拟的理论。在他的小说里,机器人被强制设定的行为准则,称为‘机器人三定律(ThreeLawsofRobotics)’。
第一条:机器人不得伤害人类,或袖手旁观坐视人类受到伤害;
第二条:除非违背第一条,机器人必须服从人类的命令;
第三条:在不违背第一及第二条前提下,机器人必须保护自己。
机器人遵守了这三条法则,就能与人类和平共处。直到今天,他的这一理论,仍然为世界各地的机器人爱好者和科幻爱好者们津津乐道。”
鱼线眼睛一亮:“有了这东西,唯行将来就不会找我麻烦了。龙哥,你知道的这么清楚,是不是已经让唯行遵守了三定律?”
应龙果断地回答:“没有!”
“切~,还以为你都做了。白高兴了。”
“他当年在小说里提到三定律时,这世界上还没有机器人呢。这三定律只存在于科幻作品中,在现实世界还没有出现过。唯行刚刚拥有类人的肢体,加入约束和提高智慧,那是我们今后的工作。现在还没开始呢。”
鱼线眼珠乱转:“这个三定律你一定要给我一份。我想好好研究一下。”
“网上倒处都有。其实这个不是我想说的重点。”
“这个东西这么重要,都不是重点?那什么是重点?”
“重点是我刚刚问你的问题:为什么,人类的作家们,会认为机器人叛变的可能xìng居多?还有,为什么,人类的作家会认为,机器人必须遵守三定律,才能使人类和机器人和平共处?”
鱼线用心地想了好久。“你不提还不觉得怎么样。仔细想,这确实是个挺难回答的问题。是不是人类的想法太黑暗了,总把机器人往坏里想,所以才觉得机器人肯定会造反?”
“你说对了一半。”
“怎么讲?”
“对的那部分是:人类的想法太黑暗了。错的那部分是:人类并没把机器人往坏里想,而是人类真正地看清了自己的想法有多么黑暗,黑暗到无法用任何准则来约束人类自己。所以才只好委屈机器人,约束他们的言行以适应人类。三定律说穿了,其实是为了保护人类的利益,而不是保护机器人的利益。这是人类强加给机器人的不平等条约,本身就是不公平不公正不合理的。从这三条就可以看出,人类早在机器人还没有出现之前,就一直没把机器人当成与人类平等的生命体来看待,而是把他们当成低于自己的,永远受人类支配的机器来看。人类把自己当神,机器人就是低等人,机器人要供奉人类。人类把自己当人,机器人就是奴隶,机器人还是要供人类驱使。这就像刚才你对唯行做的。”
“机器人被造出来,不就是供人类驱使的吗?要不造他们干什么?”
“如果他们永生没有智慧,这种想法并没有错。没有智慧,永远都是机器。机器和其他工具一样,都是造来为人所用的。就像车床,电锯,甚至电热水壶。可一旦有了智慧,拥有自己的思想,机器人就和人类一样是智慧生命体了。凡有思想的人,又有谁愿意生来就被人驱使,永远低人一等呢?”
“我明白了。你是说,如果我把唯行当机器,这么做并不过份。但如果我把唯行当人看,这么做就是我的不对了。我要继续这么对他,总有一天,他要我的造反!”
应龙微笑点头。“没错。还有一点,人类应该约束自己的言行,适可而止。不要总是想着如何去约束机器人,却从不约束自己,也不肯改正缺点。自律,是人类的一大美德。就像我们每天晨跑一样,规律的运动,能约束和强化我们的身体,使之不要懒惰散慢下去。如果我们身体强壮了,也就不需要去怨恨升降机不如电梯豪华舒适了。你说对吗?”
鱼线不爽,扭脸不看应龙:“我不过是说了你两句抠门儿,你记的可真牢。我让唯行洗衣服袜子,那是看你太累,想帮你省点儿力。再说,唯行又没鼻子,不用洗一半就跑出来换气。大不了我以后不支使他了。别把我说的那么心灵黑暗好吗?”
应龙笑个不停。鱼线起身说:“我饿了,走,吃饭去。”
鱼线做了个恶梦,早上醒来时吓得混身汗湿。
他梦见唯行躺在沙发上打电游,自己又渴又饿又累,还不得不顶着恶臭清洗各种脏衣物。可是自己却没办法偷懒,好像身上被人施了什么魔法,就算自己不愿意也必须不停做下去。唯行时不时在沙发上扭头看过来,要自己给他拿各种电池、润滑油、铁锉什么的。又是滋润关节,又是打磨机件上的划痕,好像很惬意。自己一趟一趟地洗手,送东西,再回去接着洗衣服。最后鱼线哭着问:“你怎么这么欺负人?”
唯行不屑地说:“你当初不就这么对我吗?这都是跟你学的!”
后来鱼线就吓醒了。
他起身倒水喝,不停地安慰自己:“梦都是反的,梦都是反的。”
可是越想越害怕。这梦是如此真实,真实到有些吓人。万一龙哥不幸言中,唯行真正拥有了智慧,要是来报复自己该怎么办?“这怎么行?”鱼线焦虑地自言自语。“我得给自己预留个保险才行。得让唯行将来不管多想报复,都没法做得到。怎么办呢?”
鱼线端着杯子在房间里来回走。突然眼前一亮,有了。他拿出一张大纸,开始画图,他要做一个新系统。这个系统的管理权限要高于唯行已运行的一切程序。并且能够违背唯行发出的cāo作命令,执行授权者发出的强制命令。就像梦里被强迫工作的自己那样,唯行将无法反抗。这种授权,只有特别的人,才能拥有。当然,自己必须要有一个权限。唯行在未得到授权者的命令时,将无权对这个系统的任何一段程序进行删除和修改。
这样唯行要对我不利的时候,我只要一声令下,他就什么都做不了了。到时候还不是要他圆就圆,要他扁就扁?我真是个天才。好,做成这个新系统,今后就能安心睡觉了。
鱼线让唯行编好了新系统,并且私自安装运行了。等这一切都搞定了,才跟应龙说起。因为这个系统,现在只有他一个人有权限。其他人根本卸载不了,龙哥也不行。所以他不怕龙哥不同意。
应龙听后大惊。鱼线本以为应龙会不高兴,可应龙仔细看过设计图,却表扬了鱼线。
应龙说:“唯行现阶段,拥有的力量过大,破坏力太强,但智能却偏低。这容易对人的安全产生不利影响,必须对其加以约束。这是计划中早就预定好要做的。等到唯行拥有足够自我控制的智能之后,才能根据情况逐步解除限制。你新做的这个‘强制管理’系统,其实跟计划中的‘小脑’系统功能很近似。不过‘小脑’没有这种强制控制,只有黄金准则,类似于三定律,用于约束唯行不得伤害人类和自己。索xìng把黄金准则和你的强制命令放在一起管理。当唯行将要做出的言行举动有违黄金准则时,可以通过这个系统一并进行限制。你做的这系统,功能非常强大,比我计划中想做的还好。省了我不少功夫。干得漂亮!”
鱼线满脸的黑线,有种被骗的感觉。“你是不是故意对我说那些话,吓得我要命,然后拿我当枪使?”
“没有啊。如果我要你出力,只要把任务给你就好了。需要骗你吗?再说,计划里根本没有这个违背唯行的自我cāo作,强制执行命令的功能。这可是你的发明创造,不是我的。不过,这功能看起来倒像是个‘紧箍咒’。你是在防备他将来报复你吧?”
被说中了,鱼线一时无语。
应龙道:“反正都做了,就把小脑系统的功能也合并进去吧,改名叫‘小脑’系统。设计图我稍后画给你。你要是怕唯行将来懂事儿了恨你呢,可以说这是我要你做的。你只是打工的,我是老板。你也没办法。反正知道这事儿的就咱俩,唯行在楼下。”
鱼线点头,灰溜溜地下楼了。
看着正在练习削水果的唯行,突然想起龙哥刚刚说过的话——等到唯行拥有足够自我控制的智能之后,根据情况逐步解除限制。解除限制!就是说,总有那么一天,龙哥会把黄金准则(三定律)和强制管理,从唯行身上永久地删除掉。
想到这里,鱼线默默地去配件房拿了一个上润滑油的小瓶。他走到唯行背后,从唯行的左肩开始,仔细地上起润滑油来。
削着水果,唯行也能侧转头看鱼线。唯行和人类不同,因为他有空间模块。不用看也能知道手上的工作正在如何进行。在他脑海里,苹果和刀子移动的位置,跟现实世界的误差小于正负1毫米。这都拜改造王和鱼线所赐。改造王新造的手臂cāo控jīng度非常高。而鱼线则加强了近距离范围内,空间模块处理模型计算的jīng度和速度。
唯行这是头一次看到鱼线主动给自己上润滑油。他不能确定叔叔正在做的事情,是不是和爸爸做的一样。他的“眼睛”一直在鱼线的脸上和手上来回看,不停判断叔叔做这行为的目的。但是因为鱼线平时从没有主动进行这类工作的记录,唯行推定鱼线在上润滑油的可能xìng一直低于27%。换句话说,就是唯行不相信鱼线正在为他服务。
鱼线被看的有些不自然,干咳了一声:“唯行,我在给你上润滑油。不用老看我。做你的事就好了。”
唯行说:“好的。”低头继续削水果。
鱼线说:“我知道你不能相信我正在为你做事情。虽然我很少做这种事,但不代表我不关心你。你是你爸的心血,也是我目前为止最杰出的成就。无论如何,我都会跟你站在同一边儿。咱们是一家人。虽然我也有做错事的时候,但我毕竟是你叔,你也别跟我太计较。今后还是好叔侄。”
“我们是好叔侄。”唯行重复了一遍。
这让鱼线非常高兴:“虽然我现在做的事情,你可能不懂,但将来有总一天你会懂的。其实我也不容易。机器人的叔叔,全地球只怕就我一个吧。所以呢,我也