字娱乐产品的投入比例;入股古野制药;逐步削减在职员工数目……我是说,公司对于SKULD的依赖远超我的想象,而SKULD也确实对得起‘司掌未来’的名号,但是——”
他调出两篇发生于近几个月内的负面新闻。
“诺特矿业采矿船被曝构造缺陷,事故频发,造成巨额人员及财产损失;GOB联手汉诺威,以侵权与技术剽窃为由起诉公司……”
“不过在我看来,这并非是SKULD预测推演能力上的缺陷,而是因为它被本地数据库所局限。”
苏云檄抬起头来,向饶教授发问道:“所以我不明白,我们为何不将SKULD接入互联网,令它变得更加高效准确,反而要将它置于一个完全密闭、信息滞后的环境中呢?”
饶教授年老的面容变得异常严肃。他想了想说:“是不是上校找你谈过话?如果我没猜错的话,查看日志的权限也是他给你的吧?”
苏云檄脸有些微微发红,没有否认。
“唉,看来他还是不愿放弃……好吧,这就不得不提及一段往事了……你听说过‘银色未来’吗?”
饶教授之后说的那些话,与苏寻烽很久以前已经听丁珏描述的大差不差。而苏云檄的反应,与苏寻烽当时几乎如出一辙。
“我,我不知道这些事……”苏云檄轻声说。
“不知你是否有好奇过,为何这里的多数设备几乎快跟我一样老了,”饶教授镜片后那漆黑的双目深藏着几分自责,“这是因为,‘银色未来’,便是SKULD的前身。这些设备绝大多数都是原封不动搬过来的,由于世联会的监管,加上时间久远,很难再获得硬件上的更新。”
“即便当时我们立刻就发现了‘银色未来’失控,采取切断电源乃至摧毁服务器的举措,也未能及时阻止它在全世界网络上病毒式的扩散与蔓延……”
“那场灾祸发生以后,我无时无刻不在反思。如果说我因此学到了什么教训,那就是将人工智能接入外部网络,是非常不明智,非常危险的。所以研发舱严格禁止带入任何其他的电子设备,以尽可能避免意料之外的网络通信。”
苏云檄愣了愣神,问道:“这么说……您曾经是‘银色未来’的研发人员之一?”
“是的,”饶教授苦着脸说,“上校也是,他曾是我的助手,我的得意门生——就跟你一样。”
苏寻烽顿时回忆起丁珏曾经说过的话:“在星穹的员工名录中找到了两个名字——阿尤斯·饶,和马修·布伦纳。大部分‘银色未来’的研发人员不是锒铛入狱就是自我了结,而他们俩都不在其内。”
饶教授接连叹声道:“我年纪大了,一心只求稳妥。然而赤马先生不断要求更多,马修他更是有难以遏制的野心……说说吧,他是怎么和你讲的?”
“他向我强调了SKULD当前的缺陷,说我……说我有能力改变这一切,将SKULD变得更加完美。”
“就像你一个月前报告中描述的那样?”
“没错,”苏云檄忍不住兴奋起来,“让人工智能学会像真正的人类那样思考还不够,它还应该拥有情感和同理心。”
“我们不应该制定规则,告诉人工智能什么能做什么不能做,而是让它发自内心——如果它也能拥有的话——与我们站在同一角度,成为共同体。”
他拧着指尖,满怀希冀地看着饶教授,说:“而且这样一来,没准可以从源头上避免失控呢。至于这方面的研发,上校说,我只需要能说服您——”
“他当然以为你可以,”饶教授坚定地打断道,“记得我一个月前对那份报告的评价么——‘不成熟但独到的见解,让我想起了他刚入行的时候’。”
“呃,所以……”苏云檄咽了咽口水,“您一直都没有认可我的报告么?”
“先不提技术上的难度,面对如此一个潘多拉魔盒,我认为我们应该更加小心谨慎地处理。”
看着苏云檄失落的目光,饶教授垂下了头,低声说:“抱歉,孩子,你的年轻气盛遇上马修的急于求成,堪比烈火遇燃油,我不得不浇上这么一盆冷水……快回去吧,早些睡。对了,明天你休一天假,就不用跟他和梅尔报告了。”
“好的,教授,”苏云檄说,“好的,没有问题。”
苏云檄礼貌地作了道别。然而苏寻烽清晰地看见,对方眼中依旧燃着固执的烈火,直到黑暗降临的最后一刻。