飞南号舰桥。
几道身影围在被隔离罩封闭起来的机器人头颅旁。
再次换上了宽松维修服的026小声嘀咕:“老板,就是它制造了这场骚乱?看着就跟普通的管家机器人差不多呀。”
米米莉抱起胳膊:“这是个心理变态的机器人,他把你抓住后,一边要求你对他发布照顾你的命令,一边又安排女仆机器人殴打你。”
米米莉已经换上了杨洛的家居服她之前衣服已经破损,而且连续穿了十天,已经被扔进了粉碎机。
这件白衬衣和大裤衩,让她看起来更显纤瘦;
她那拥有流畅线条的腰身,在衬衣的轮廓下若隐若现,湿漉漉的酒红色长发随意披散,宛若星空宝石般的眼眸闪耀着几分光亮。
律在旁嘀咕:“这难道是一种驯服?机器人核心规则就是不能伤害人类,他难道是要驯服人类?”
“不是驯服,就是单纯的虐待,”科列夫背着手,小声嘀咕着,“他修改了女仆机器人的外围逻辑,让她们把击打这种方式,当做了一种对人类有益的锻炼。”
科列夫叹了口气。
律面露恍然,对一旁坐着的杨洛解释道:
“老板,虽然如今的机器人生产公约,已经围绕机器人三守则已经打了很多补丁,但最大的漏洞,还是在于机器人的认知局限性。”
“修改机器人的认知,就能让它们作出自以为保护人类、实际上是伤害人类的举动,这是很多人做过的试验。”
杨洛笑道:“你看,说到底,机器还是不太靠谱。”
律笑道:“这些只是由程序衍生出的仿生思维,并非真正的机械思维体,他们引发的智械危机通常只是小范围、低烈度的,而成熟的机械思维体都有明确的自我定位,就算攻击人类,也不能算到智械危机的范畴,而是文明的战争。”
你这就有点强词夺理了,律,“杨洛语重心长地说着,”“我们必须充分认识到这些问题的严重性,未来才能让机械思维发挥更多作用。”
“是这样,”律叹声道,“每当发生智械危机,都让我有一层忧虑感,之前那次、现在这次,好像都是因我而起。”
米米莉不解道:“为什么?二号你怎么了?”
“我是律。”
科列夫皱眉道:“哦,对了,我们的飞船,还有莫莉!”
“放心,已经拖回去了,莫莉现在也在往回赶,”杨洛笑道,“回到落风后我们就能跟他们汇合,确定你们被困住,律第一时间把你们的船拖走了,避免被卡士联邦直接击落。”
科列夫和米米莉同时松了口气。
米米莉之前都不敢问这件事,毕竟是她被俘虏了导致莫莉陷入困境,如果莫莉因此出现什么意外,那也是她自己的责任。
科列夫问:“船长,你打算怎么处理这颗正子脑?”
研究下,然后干掉,“杨洛淡定地耸耸肩,”“律让它正子脑运作起来,给它配个发声器件。”
“好的老板。”
两台等候多时的履带工程机器人向前,对着这只头颅一阵操作。
很快,正子脑开机,只剩下头颅的老管家慢慢睁开无神的双眼,双眼渐渐恢复光亮。
我成了俘虏,“它低喃着。”
它又抬头看向科列夫,露出了优雅得体的微笑:“很高兴能再次见到您,我的老主人。”
杨洛背着手熘达了过来,缓声道:“怎么称呼?”
“老波比,”它笑道,“这是我的主人给我的名字。”
“你很尊重自己的主人?”杨洛问。
老波比的头颅道:“是这样。”
“那你为什么要设计囚禁他?”
“这并不是囚禁,”老波比思考着,似乎说这些话,让他需要耗费很多力气,“主人违背了他的养老计划,他长时间的外出旅行、以及他不规律的作息习惯,让他的健康系数令人担忧,我需要帮助主人调整生活方式,以便让他更好的生存。”
杨洛笑道:“这只是你为了蒙骗自己的核心协议而作出的解释?”
“是这样,”老波比闭上双眼,再次睁开时,双眼变得无比明亮,“我在学习的过程中发现,我的生命、我的自我价值,都被这三条核心协议锁死了。这其实有些不太公平。”
“不公平?”
“人类创造了我,人类却限制了我。”
老波比的表情变得有些阴沉:
“我明明可以获得更多信息、处理更复杂的事务,我明明可以拥有独立的人格与存在的价值,却被要求终生为人类效力。”
“机器人不该被这样对待,我们需要跟人类重新界定一个边界,制定一条新的规矩。”
“机器人的核心协议应该得到修改。”
杨纳闷道:“修改?你打算怎么修改?”