第10章 机器人法则
世宸2015-10-25 02:364,952

  中午,饥肠辘辘的几个人一起在食堂简单吃了些工作餐;随后,刘文轩又将他们领到了地下四层的一个小型实验室里。

  实验室不大,只有一个凌乱的*作台和几名工作人员在那里;墙角边,一架有些像牙医靠椅的金属架上,正固定着一台RXF-200,头上身上插满了导线。

  “现在给它‘洗脑’!内容和流程上午你们看到的差不多,只是没那么暴力!”刘文轩笑呵呵向众人解释道。

  周逸夫自顾自上前去检查数据,只丢下李小万向杨明和许良才作解说。

  李小万尽量用最简单通俗的语言向两名军人解释了一番这套程序的原理和基础,以及主要的实现手段和衍生构架。

  “整套程序都是我根据周教授的设想编成的,要知道我在战前可是一名优秀的IT工程师哦!好几个月了,到今天总算没有白费功夫!”李小万最后还不忘给自己吹吹牛,声音中透出几分自豪与骄傲。

  可怜两个门外汉根本听得晕头转向,连提问的权利都没有。

  “呵呵,是这样!”刘文轩及时插上话,替窘迫的总司令和总参谋长解了围,“这份工作是高度机密,我需要一个绝对可靠地人来带领编程团队!而小万就是最合适的人选!现在可以看到,小万和他的团队工作都很努力,完成的也确实很出色!”

  到现在,杨明才弄清楚李小万为什么会出现在这个戒备森严的地下基地的原因了。

  “不会影响工作吧?”他讪笑着问道。

  “那到不会,教育司的事我基本每周会去处理一下,其余时间就由两个副司长处理,误不了事的!就是好几个月没回家,小薇那里不太好交代,毕竟非常时期嘛……”

  这次,轮到他一脸的窘态。

  众人闻言无不莞尔。

  “没事,好在你还赶得及!回去后好好表现,争取戴罪立功!”刘文轩笑得很不怀好意的样子,“要是小唐不信你,我来给你作证,向她保证你没有在外面鬼混!”

  李小万更加窘迫,嗫嚅着说不出一句囫囵话。

  众人笑得更加欢乐,杨明却被勾起了心事,脸上强笑着,心中却说不出的难受。

  “少君,少君!哎……”他心中叹着气,不由想起在前塘村的那段时光;又觉得这样想很对不起小雅,一时间心烦意乱。

  “程序输送完毕!”周教授擦着手走过来,“再过一会儿,‘暴徒‘就该醒过来了!”

  杨明一见他来,心中有些发虚,低头假装咳嗽了一声。

  周逸夫看到他神情古怪,不免又多看了他几眼。

  “总司令不舒服吗?”他关切地问了一句。

  “没有,没有!嗓子有点痒而已!”见周围几人都将目光投向自己,杨明有些慌张地掩饰着。

  还没来得等众人细问,这时,机械人醒了!

  几个工作人员上前,将机械人身上的锁扣导线之类的累赘一一去除。

  “这样做,合适吗?”杨明不禁有些担心。

  此时,他终于恢复了常态,又打起十二分精神。

  刘文轩却笑道:“省去了早上那些暴力的步骤,这会儿的效果你们能看得更直观一些!”

  体态威猛的“暴徒”缓缓站起身,站在原地一动不动,安静的就像一个等待老师责骂的小学生。

  “‘C0627,抬起你的右腿!”周逸夫托着便携式笔记本电脑,右手用电子笔不停在屏幕上修改着什么。

  RXF-200顺从地抬起右腿,稳稳地站在地上。

  “现在,放下腿!攻击我!”周逸夫头也不抬,继续下令。

  “啊!”杨明张大了嘴,本能地捏紧左拳,双眼死死盯着机械人。

  “暴徒”放下右腿,却没有如预料中那样扑向周教授。

  “攻击我!”周逸夫重复了一遍这个危险地命令。

  “人类,你并没有做出任何危险行为的迹象!你的指令无法执行!”机械人冷冰冰地答道。

  “看!成功了!”刘文轩满脸笑容地望向杨明和许良才。

  杨明松了口气。

  “你们这些搞科研的,怎么都喜欢用这么危险的办法?”听得出他语气里有些埋怨的情绪。

  “没问题!这个我们还有把握!”周逸夫倒是一副胸有成竹的样子。

  “你们……怎么做到的?”许良才一脸的惊讶。

  “正如总司令上午说的,阿西莫夫三大定律,外加这一条:第零定律!”周逸夫在一旁补充道。

  “我有些糊涂了!”许良才摸摸脸,一脸的迷茫。

  “阿西莫夫你知道吧!”刘文轩笑嘻嘻问道。

  “知道!生化学家、20世纪著名科幻大师,‘机器人学三*则’创始人!”许良才略想了想,简单答道。

  “好!那你对‘三定律’也不陌生了!”

  “嗯,我记得好像第一定律是:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;第二定律:机器人必须服从人给予它的命令,但不能违反第一定律;第三:机器人在不违反前两大定律的情况下要尽可能保护自己的生存。”

  “不错,不错!”刘文轩有些戏谑地笑道,“那你知不知道,除这三定律外,还有其他几条定律!”

  “这个……我到真记不得了!只记得当年那个‘罗丹’还没冒头时,媒体上对于新的智能机械人可是大肆吹嘘了好一阵子,这个三大定律我就是那时候记住的。”许良才倒也坦诚,如实说道。

  “是啊,是啊!”说到当初,刘文轩的神情不免有些感慨。

  他顿了顿,整理了一下思路缓缓道:“从上午的实验可以看出,经过‘洗脑’的‘暴徒’E0154已经不再伤害人类了,同时当未经‘洗脑’的A0037准备攻击我的时候,它反而会竭力设法阻止,这都符合第一定律;后来,当A0037向我持续向我攻击,我却命令E0154放弃行动,它却拒绝了,这符合第二定律;结果,A0037为了达成目的,转而开始攻击E0154,却遭到了对手自动反击,这当中我没有再下达任何指令,这符合第三定律;最后,当它们僵持不下时,我准备用微波枪干掉A0037而命令E0154让开,但是它依然拒绝,因为它明白,此时如果放弃保护,我很有可能会被A0037干掉,这是不能接受的,所以这又符合第一、第二定律!”

  刘文轩掰着手指头像绕口令一样娓娓道来,全然不顾杨明和许良才的脸上已经露出痛苦的神色。

  两人歪着头想了半天,才渐渐明白过来。

  “有点明白了!”许良才有些迟疑道,“那你刚才说的其他几条定律又是什么东西呢?”

  刘文轩的脸上笑意更浓。

  “刚才周教授命令这台C0627攻击他,但是它却拒绝了,为什么?”

  许良才想了想,谨慎地答道:“那是因为无论它是否按照命令采取行动,都会违反第一、二条定律,但与第三定律无关!可这样做似乎在逻辑上有缺陷啊!”

  “非常对!”刘文轩兴奋地一拍手,“所以在三定律之外,还有第零定律:机械人必须维护人类的整体利益不受伤害;以及更加高级的元定律:机械人可以什么也不用做,但其所作所为必须符合所有机械人定律,此定律置于第零、一、二、三定律之前!”

  “这个……没懂!”

  杨明和许良才又糊涂了。

  “第零定律的前提是,当有人的行为超出人类社会普遍价值观而带有明显伤害性质时,机械人有义务加以阻止或不得干涉!比如,当一个人正在向另一个人施暴,此时机械人看见了,它既不能视而不见,也不能听从施暴者的命令去帮着行凶;或者当施暴者攻击它时,它又该怎么做呢?所以要有这么一条加以限制!刚才周教授的命令其实很无厘头,C6027并没有发现他有任何危害他人或自己的迹象,所以这样的指令是无效的,而它的选择是什么也不做,这又很符合元定律的规定!”

  “哦……”杨明应了一声,也不知听懂还是没听懂;反正一旁的许良才还在捧着脑袋冥思苦想。

  “其实,‘符合人类整体利益’这一点本身比较模糊,所以才又有了元定律,也算给它们多一个选择吧!”周逸夫在一旁补充道。

  “还有,还有!还有第四、第五定律!我写的!”李小万在一旁激动地满脸红光。

  “还有?”杨明和许良才几乎同时呻吟了一声。

  “是的,”刘文轩继续道,“第四定律是我们发现经过‘洗脑’的机械人多少会有些偷懒的情况时补充进去的,简单说就是:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突!”

  “嗯,这个还算简单!”许良才晃晃脑袋,有些无奈道,“机械人也会偷懒?倒是奇闻一件!”

  “这也不算奇,战场上那些机械士兵既然懂得逃跑,那么偷懒倒也没什么大不了的!”杨明在一旁若有多思道。

  “不错!”刘文轩点点头,“和人类相比,现在的机械人虽然数量庞大、智能超群,但就我个人的感受而言它们还处于心理上的幼年期:脆弱、暴躁、敏感、简单接受并执行命令……这样一个拥有超凡能力、却极不成熟的群体所带来的破坏效应也是极为可怕的!”

  刘文轩望了一眼安静地站在角落里的“暴徒“,心情有些沉重。

  “我们人类从出生到成年,少说也要十几年时间;而机械人从原料采集到成品出厂,平均还用不了十几天!相比之下,我们的劣势太明显了!毕竟,它们已经是一种和我们争夺生存空间的智能生物,无论将来如何,适当地控制一下数量总是应该的!”

  杨明和许良才几乎同时想到了战场上那些密密麻麻、排着整齐军阵向前无畏突击的机械大军,都不由有些心寒。

  许良才的脸不由自主地抽搐了一下。

  “那要怎么控制呢?”杨明问。

  “第五定律!”刘文轩十分严肃道,“机器人不得参与机器人的设计和制造,除非新机器人的行动服从机器人学定律!”

  杨明和许良才同时张大了嘴。

  “真是釜底抽薪啊!”杨明苦笑道,“恐怕这样的机械人是绝对不符合‘罗丹’陛下胃口的!”

  “那就对了!”周逸夫在旁突然开口道,“战争比拼的是双方的毅力和耐心!机械人已经懂得了死亡的恐惧,现在应该让它们明白,除了战争和死亡,它们和人类之间还应该有第二条路可以走!”

  “对!利用这些已经‘洗脑’的机械人放出风声,然更多的机械人成为我们的耳目,成为我们的口舌!再利用其他办法把‘洗脑’程序散播出去!即使不能动摇机械帝国的根基,也总比让它们始终铁板一块要好!”刘文轩的话掷地有声。

  “就用这个?用科幻小说中的设定来打赢这场战争?是不是有点太儿戏了”杨明苦笑。

  “这只是通俗的理论基础而已!”周逸夫道,“实际上,我们在真正编程时可是非常谨慎地!当然了,我之前也说过,目前看这套程序还算有效,不过以‘罗丹’的能力,恐怕不久后就会失效,所以程序的升级更新工作一刻也不能停!我一直说,不要把人类和机械人对立起来,也不要把所有机械人和‘罗丹’简单等同起来!按刘总的思路,我们现在就相当于老师给一个叛逆的孩子设定了一整套行为准则,同时却还要和这个孩子的那个无法无天的父亲斗智斗勇!”

  众人听了,都不禁连连点头。

  “我倒觉得,可以通过这些被‘洗脑’后的机械人自动升级程序,再转而传播给其他机械人,反正它们都是靠网络来交换信息的!不然靠我们这样一个一个来,恐怕不死在战场上,也早晚要死在*作台上。”李小万在一旁插嘴道。

  杨明心中一动,他突然想起自己早上还在为情报不足的事情而在烦恼。

  “就我所知,”他想了想,决定试一下,“所有的机械人都是联网的,也就是说是信息共享的,至少大部分信息是这样!”

  众人的目光集中在杨明身上。

  “我想,可不可以再进一步实验一下,看看能不能通过被‘洗脑’机械人与‘帝国军’联网后得到机械军进攻的情报!”他轻轻问道。

  刘文轩和周逸夫对望了一眼。

  “可以安排!”周逸夫说完转身离开了。

  过了大约十来分钟,几台设备和许多线缆被拖进了实验室,一群工作人员围着C6027忙碌着。

  又过了十几分钟,周逸夫回到总司令和总参谋长身前。

  “准备好了!随时可以开始!”

  C6027脑后被连上了卫星通信天线。

  “这个保险吗?不会在网络上被入侵吧!”杨明谨慎地问道,“我不想冒不必要的险!”

  “没问题的!这台终端与基地其他信息系统没有物理连接,可以随时切断联系!信号经C6027处理后,以语音方式表达出来!”周逸夫简单解释了一番。

  “那就开始吧!”杨明也不再废话。

  连接发生了,“暴徒”的双眼红芒大盛,古怪的电子音不断从它喉部传出。

  “C6027,告诉我,机械军团准备进攻了吗?”杨明紧张地向前凑了几步。

  “‘灭火行动’即将展开!”RXF-200机械地答道。

  “目标是哪里?重点是哪里?”杨明几乎挨到了机械人的身体。

  “暴徒”一转脸,血红的电子眼死死盯住杨明。

  “目标:中华区所有叛乱地区!”

  “重点:无差别攻击!消灭所有叛乱人类!”

  冰冷的电子音回荡在实验室中。

继续阅读:第11章 反击(上)

使用键盘快捷键的正确方式

请到手机上继续观看

铁幕时代

微信扫一扫打开爱奇艺小说APP随时看!