地球纪年:2100年。
地球联邦安全理事会的会议室里,正在播放一段监控视频:GT公司总裁镜先生在去往公司途中遭遇到反抗军的偷袭,反抗军十人暗杀小队明显经过精挑细选,在周密布局之下展开疯狂进攻,很快,镜先生的保镖全部遇难,身旁仅剩一个贴身助理——托加。
暗杀小队原以为他只不过是一名贴身助理而已,没想到这个外形几乎与人类无异的托加,实则是由地球最疯狂的科学家火花博士精心打造的最新型仿真机器人。
托加迅速设定了当前的安全等级为紧急状态,它的额头皮肤下有红色警报器开始闪烁。
一旁狼狈不堪的镜先生声嘶力竭地下达指令:“托加,杀死他们!统统杀掉!”
——这是一个明显与《联邦机器人通用法则》总纲相违背的指令!
托加额头的报警器出现蜂鸣声,说明它的电子人脑正在激烈运算,当下的险境、机器人律法的最高行为准则、与总纲背道而驰的指令……
两秒犹豫之后,托加纵身跃起杀入敌群。
海量数据分析下采用最先进的技击技巧再加上钢铁之躯,战况就像用刀切豆腐一般没有任何悬念。
巨大的财富会产生巨大的风险,镜先生深谙这一点,所以,钛合金机身搭配GT最新型的电子人脑,托加被精心制造出来就是作为他的最后防线的。
能够主动思辨的托加最终还是遵从了机器人法则,暗杀小队的十个人被它击倒,丧失了继续行动的能力,但并没有了结他们的性命。
托加一战成名!
财富榜上的各大富豪纷纷联络GT公司,希望重金订制托加这种型号的智能机器人,但都被镜先生委婉谢绝,官方理由只有一个:这种型号目前还在测试阶段,距离量产还需要时间等待。
科尔当时就知道这是托词,能够几秒内在主人指令和公共法律之间做出权衡,并相应做出自己的主观选择,这种机器人的“类人境界”已经进化到了可以处理相对较为复杂的人类情境状况。如果量产推出,就有智能技术被破解剽窃的风险,直接导致领域内军备竞赛一般的后果,无节制的开发拓展对人类来说是伴随着巨大风险的。
其实这也正是镜先生忌惮的地方,自己创造出的机器人并没有把自己这个主人当做唯一的“神”,它竟然可以通过自发的数据运算遵从法律而擅自调整主人的指令,虽然最终呈现的结果可能是可接受的最佳状态,但这毕竟隐隐有一种“叛逆”的基因滋生。
人类作为高高在上的豢养者,对于被豢养者的“反骨”总是从心底拒绝的。
所以劫后余生的镜先生第一时间要求火花博士调整托加执行指令的优先级,自己作为主人的命令将优先于《联邦机器人通用法则》。这其实是一项严重犯罪,但一心沉浸在科研中的火花博士并没有提出异议。
同时,镜先生要求火花博士给托加增添一档隐秘级别的行动执行授权,只有自己才能够施法号令。在这一点上,火花博士提出了异议,机器人贸然增加“隐秘”级别会带来不可控的后果:因为之所以成为“秘密”是基于“保守秘密”的行为,而“保密”会直接导致“谎言”的产生,“谎言”一旦产生,需要更多的谎言去维护,这种叠加累积而成的“谎言体系”催生出的就是“智慧”!
智能机器人由“保守秘密”而被动产生的“智慧”是可怕的,因为它本身强大的运算能力能轻而易举地变幻、隐藏自己,使得一块阴暗角落可以让人类永远无法触碰,这种失控的走向是人类目前无法接受的。
但是镜先生不以为然,智慧型、类人化本身就是GT公司对AI开发的追求,能催化刺激也许正是这个领域的关键,况且,一旦发现机器人有任何不妥的行为,可以即刻断电关机甚至销毁,不足为虑!
火花博士无奈,只得照做,给托加增添了“隐秘”程序。
在通往镜先生茶室的曲径通幽的回廊里,科尔认出了托加。
科尔:“社会法律和主人命令,你遵从了法律,这是你的电脑运算得出的结果还是你长期与人类生活导致的内心自发反应?”
托加一愣。
科尔自嘲一笑:“内心……我居然在问你的内心……呵呵……”
镜先生的茶舍,在GT大厦顶楼108层。
这幢高耸入云的科技大厦专门辟出一层修身养性的静谧所在,用散漫随性点缀着光怪陆离快节奏的科技研发。
此刻,600米高空的风吹拂着茶舍窗前的灰色轻纱幔帐,镜先生盘腿坐在白色蒲团上闭目养神。身旁两米长的条状山水茶海,紫檀木雕制,鬼斧神工于细微处见风雅。山水间的雕缝中有燃着的沉香烟气袅袅婷婷溢出,围着险峰形成环绕的云海。
托加领着科尔来到门前,轻叩房门:“先生,科尔先生到了。”
镜先生起身:“欢迎!”
托加推开房门,向科尔颔首致意,自己转身退在一边。
科尔与迎面而来的镜先生握手寒暄,托加在外面轻轻掩门。
两人在茶海前坐下,镜先生要泡茶,科尔拦住了他。
科尔从随身皮包中拿出了一份资料,递给镜先生:“我一向喜欢开门见山,请过目。”
镜先生接过一看,封面赫然盖着“联邦最高机密”的印戳。
镜先生翻看资料,这是由军方的一位叫泰将军的人起草的提议,希望联邦成立第三代机器人机甲部队来应对反抗军。
镜先生沉吟:“泰将军?就是那个‘虚像行动’的指挥官?”
科尔点头:“嗯,鹰岭镇一役,他即刻被提拔为将军,现在是安全理事会下面的机动部队总指挥。”
“虚像行动”是联邦军队屈指可数的以胜利告终的救援战役。
反抗军闪电突袭将联邦一个关键位置的资源重镇鹰岭团团围住,鹰岭镇里的能源设备和技术人员如果落入反抗军之手,那么整个地球联邦将无力回天坠入倾覆深渊。联邦派出多支军队不顾一切要挽大厦于将倾,反抗军也深知重镇的战略意义,连续增兵不惜代价反击。
鹰岭镇成了绞肉机,双方都伤亡惨重。
眼看镇子里的守军就要全军覆没,反抗军将攥住胜利曙光的光束,此时机械装甲军团的泰上校大胆提出一个作战计划——“虚像行动”:他先让演员表演伪造出鹰岭镇被困人员的音视频资料,然后利用夜幕架设信号反干扰器,通过多架微型蜂鸟无人机制造出被困人员在镇子东口突围逃跑的全息投影,配合小股作战部队虚张声势以吸引和牵制反抗军,而真正突围和接应的地点则放在相反的镇子西口。
虚像行动,非战斗因素占据主导地位,能否骗过敌人是关键,风险很大。
胜机险中求,联邦思虑后批准计划,偏锋押宝,破釜沉舟。
泰上校简单演练之后就投入实战,战火纷杂之中,反抗军结结实实上了一个大当,鹰岭镇的能源设备自我销毁,技术人员全部被安全救出。
泰上校也火线提拔,成为最年轻的将军。
镜先生翻看资料:“看来泰将军对科技战很有心得。”
科尔:“地球联邦人口负增长一直是难以解决的沉疴,‘镰刀’病毒虽然已经没什么威胁了,但大家现在对结婚生子似乎没什么兴趣,外面打仗天天死人,联邦的人口要是上不来,输是迟早的事。”
镜先生:“人口刺激法案一直在修订,鼓励措施还是有效的。”
科尔:“远水解不了近渴啊,所以,泰将军的办法不失为一种捷径,我的态度,支持,全力支持!”
镜先生:“我需要时间考虑一下……”
科尔:“其实,没有时间了,我希望,你能支持我,我的身份……我是说,我将来可能的身份,你应该清楚。”
镜先生点头:“我懂,请您一定相信,我是非常希望与您合作……”
科尔指指外面:“我研究过托加,就这种型号吧!”
镜先生:“托加?它是GT一对一维护的单品型号,那是不可能量产的,原料成本相当高……”
科尔略一沉吟:“好,那降低标准,现在只要快,时间成本耗不起!我只要第三代就行,你们尽快对T2098进行更新,我需要它成为战场武器!”
镜先生:“机器人变成武器……这是违反《联邦机器人通用法则》的,如果变更原生授权指令的序列号,那还要由联邦主席审批通过才行……”
科尔:“事急从权,凡事都有特例,你放心,我会搞定授权,你只要在芯片指令上绕开通用法则,等战争结束再修改调整回来。”
镜先生看着手里的机密计划,皱眉思付,沉默不语。
沉香烟气舒缓渺绕,宛若山间云海。