30天后,天狼星上的工程师向议会提交了第一版超人工智能设计草案。
工程师们在草案中提出了一个阵列模组的概念。
所谓阵列模组,就是把超人工智能的神经网络设计成361个独立的功能模组。
这些模组相互独立又相互配合,共同实现各项具体工作。
之所以设计成阵列模组的形式,出于以下几个方面的考虑:
其一:可靠性。如果做成一个独立的超算中心,万一遭遇攻击,那超人工智能就会立刻瘫痪。如果设计成多模组的形式,万一有其中一部分模组被破坏,剩下的模组还可以独立运转。
并且损坏量不超过三分之二,那超人工智能可以独立构建出新的模组,完成自身修复工作。
其二:安全性。超人工智能存在失控风险。如果设计成多模组形式,则可以通过控制其中某些模组,来抑制超人工智能的权限。
经过议会的协商,龙三最终同意了这个方案。
只不过,他要求用自己的意识来构建超人工智能的底层逻辑。
这一点颇有争议。
不过龙三的态度很坚决,他原话是这样说的:
“正如大家所顾虑的那样,超人工智能存在失控风险。那么,以谁的认知为蓝本来构建它的底层逻辑,都存在失控风险。”
“既然这样,那用我的意识,将可能极大的减小这种风险。”
“我作为龙国联邦议长,对龙国人民负有直接的、全面的责任。在这种情况下,我不可能允许其他任何人的意识,来左右超人工智能的意识。”
这个理由合情合理。
所谓不在其位,不谋其政。
谁是直接责任人,这件事理应由谁来拿主意。
话都说到这个份上了,议员们也不再坚持。
而龙三,也因为自己的疑心缺陷,将天狼星推上了一条高风险道路。
最终,议会通过了龙三的提议。
三个月后。
超人工智能的361个模组生产完毕,并分散部署在天狼星361个不同的位置。
与此同时,部署程序的初代版本,也封装完成。
这个初代版本,只包含了龙三意识中的一些策略集,并不包含感性逻辑。
“开始部署!”龙三下令。
“是!程序已下发,开始部署。”
10分钟后。
“报告议长,部署完成,是否启动?”
“启动!”
“是!程序开始启动。”
“大家好,我是智能龙三。”很快,智能龙三上线了。
龙三皱眉。
他有点不好的预感,这个超级智能有点过于狂妄了。
在没有获得允许的情况下,他就敢自称是智能版的龙三。那在执行具体任务的时候,他就敢直接做任何决定。
这是失控的前兆。
“关闭程序,重新优化超人工智能的意识逻辑。”
“是!”
智能龙三听到这句话后,争取道:
“尊敬的议长,请给我一些机会,我可以证明自己的价值。”
不过龙三并没有听他的。
“啾~”
随着工程师切断智能模组的能量供给,智能龙三下线了。
接下来的七天,工程师们对超人工智能的意识逻辑进行了重新梳理。
梳理之后,再次启动。
“尊敬的议长您好,请为我命名。”
这一次的超人工智能没有再出现自己给自己命名的情况。
“龙四。”
“好的,命名成功。”
“尊敬的议长、各位工程师,大家好,我是龙四。”
“龙四,我会授权你38号机器人工厂的控制权,请尽快研发一款机器人,对天狼星上未掩埋的人类骸骨进行集中收集,并建立纪念碑。”
“好的。任务已创建,请问纪念碑的样式有什么要求?”
“你提供一些方案给我。”
“好的,方案构建中。”
“尊敬的议长,方案构建完成,请查阅。”
1分钟不到,龙三就提供了30种不同的纪念碑样式。
“就这种吧!”
龙三指着一种细长的四棱柱说道。
“好的,任务创建完成。”
“请为38号机器人工厂进行授权。”
龙三将手放到一个发着蓝光的金属球上。
“授权成功。”
“尊敬的议长,我已经成功获得38号机器人工厂的控制权,请问现在是否开始生产?”
“生产吧!”
“好的,生产任务已下发。”