第三十六章 智能叛变
地球号舰队的会议厅中，陈佩林和诸葛无双主持着会议，个著名科学家、社会学家、心理学家和政治家甚至连著名的科幻小说家都有列席。可以说这是舰队成立以来参与人数最广泛的一次会议。
“这次会议保密权限为s级”会议开始之前陈佩林对机要秘书说道。
“诸位，或许各位会疑惑为什么组织会邀请自己来参加这次保密等级如此高的会议，现在由我来说明原因。这次会议的议题和我们今天遇到的敌人有关。没错，就是敌人，我们的敌人非常的不同，因为我们在对方的舰队残骸中根本没有发现任何一个智慧生命的尸体。没错，我们是在和一堆机器战。我们遇到了人工智能的舰队！这个人工智能可能就是火星人创造出来的。而且，经过推测，我们认为火星人就是被这个人工智能消灭的，可靠性高达百分之九十九点九五。”诸葛无双率先讲到。
会议室突然间骚乱了起来，大部分人都无法掩饰他们震惊的表情。人工智能的舰队，在人类的科幻小说中称之为机械文明，这可是和虫族一样臭名昭著的敌人。他们的恐怖之处就在于他们恐怖的数量，人工智能的计算力几乎是无限的，这也就意味着只要有足够的资源，他们就能够制造另敌人绝望的舰队来压垮敌人。和这样的敌人战斗，只能够凭借比他们高出一等的科技水平，一绝对的实力瞬间碾压。否则一旦主体逃离，用不了多久一支新的舰队又会成长起来。
人们之所以震惊是因为之前关于机械文明的存在一直都是人们的想象，现在发现者竟然是真实的。而且更可怕的是现在人类舰队也是由人工智能管理的。如果舰队的人工智能也失去控制怎么办？战过程中舰队的人工智能会不会被敌人策反？以后还要不要利用人工智能？
“没错，经过仔细的观察，我们发现今天我们遇到的舰队确实是机械文明，不过大家不用担心这个问题，我们的舰队对上他们是绝对的碾压状态，敌人根本就无法威胁到我们的安全。今天请大家来主要就是讨论人工智能的利用问题，这是关系到我们舰队的生死存亡的大事。”陈佩林说道。
“首先，我们要确认一点的是，人工智能绝对不能够放弃，也就是说我们离不开人工智能。大家要知道，我们舰队的导航、战以及日常运行的调控都是由人工智能来辅助完成的，我们工业舰上的工现在绝大部分也是有人工智能操的。如果没有人工智能，从全人类中也挑选不出足够的人来使舰队正常地运转。不说其他的，就说普通的航行，如果没有人工智能实时的调节的话，我们的舰队就可能撞上恒星、行星甚至是黑洞，没有人工智能的统一调节，舰队跳跃的过程中可能会有其他的战舰跳错方位发生迷航。所以，我们离不开人工智能。”
“从银河联盟的资料库中我们发现，机械文明的存在是很罕见的，也就是说人工智能的背叛是很少发生的。我们现在要考虑的问题是人工智能为什么会叛变，我们如何防止人工智能的背叛。”陈佩林率先为这次的会议定下了基调。
“现阶段我们不用担心，因为我们舰队的所有人工智能全部都是复制自银河联盟的，而银河联盟十三万纪元中从没发生过智能叛乱，所以如果不是运气背到家的话我们根本不会遇到这个问题。据银河联盟的研究记载，发生叛乱的人工智能是因为某种不为人知的机制所造成的，和文明的程度无关，但从银河联盟接触过了两个叛乱的人工智能发现，那些背叛主文明的人工智能程序都发生了紊乱，陷入死循环中。”
“导致这样的结果有很多的原因，比如我们猜测的机器人三定律，机器人不得伤害人，也不得见人受到伤害而袖手旁观；机器人应服从人的一切命令，但不得违反第一定律；机器人应保护自身的安全，但不得违反第一第二定律。这里面就有很大的问题，别的不说，我们就说第一条吧，机器人不得伤害人也不得见到人受到伤害而袖手旁观。那么如果两个人发生生死搏斗，另个人都受到了伤害，机器人该怎么办？制止住两个人，两个人拼命反抗算不算机器人伤害人类？人类只要生存就会不断的受到伤害，外在的氧气、宇宙辐射内在的细菌、病毒。伤害应该如何定义？如果人工智能无法解决这个问题就会陷入死循环。这还算好的，如果机器人曲解了呢？比如把所有的人全部冻存起来，存放在宇宙一个安全点的地方，知道天荒地老。”
“我们要担心的是以后。随着舰队的科技越来越发达，越来越多的公司甚至个人可能都会接触到人工智能的领域。随着知识的普及，不排除某一天某个天才自己设计人工智能，这样的话发生只能叛乱的几率就大大地增强了。到时候危害的可不仅仅是一个个人一家公司，而有可能是整个舰队。而鉴于舰队的科技储备，如果一旦发生只能叛乱，结果将是灾难性的。”陈佩林沉重的说道。
会议围绕智能叛乱的问题一直讨论了两天，最后结束时，回忆拟出了一份关于人工智能问题的法案（试行版）在舰队中实行，今后如果遇到问题立刻加入法案中将法案补充完整。不过在最后，陈佩林着重的补充了一条，如果有一条某一个人工智能产生了自主意识，舰队必须赋予该人工智能公民权，与舰队的自由人享有同等的权利。对于这一点，其他的人都表示不理解，倒是诸葛无双的眼中闪过一丝异样。
地球号指挥中心的战指挥室内，陈佩林，诸葛无双，三大舰队的司令官天军司令陆军统帅等等，所有权限符合要求的人都被请到了这里，商讨对人工智能的战行动。
“各位，这次请大家来的目的是为了商议对这个机械文明的战计划。通过两天前的遭遇战我们知道，虽然我们战舰的性能具有压倒性的优势，但是以我们对机械文明的了解来看，我们遇到的可能仅仅是敌人的一支分支舰队而已，毕竟机械文明一向是以数量取胜的。这个星系荒废了不知道多长的时间，也就是说这只机械文明不知道存在了多久。这么多年下来，不断地采集资源建造战舰，它的数量想想都令人不寒而栗。或许我们可以一走了之，但是其他文明遇到了怎么办？有一天它们推进到了地球我们又该怎么办？”
“当然，除了这些原因之外，还有一个最主要的原因值得我们这样做，那就是资源！大家可以想一想，机械文明简直就是宇宙间最出色的矿工。这么长的时间内，它们得采集多少的金属？多少的能量晶石？简直就是海量的根本无法统计。只要我们消灭了这个机械文明，我们就可以立刻拥有海量的资源挥霍。”
“通过这次战，我们发现了舰队的不足之处，那就是战舰虽然强大，但是舰种太单一了。主要的战力量仅仅只有驱逐舰和护卫舰，其他的都是一些火力小的辅助舰种，也幸好遇到的是这支文明程度低下的机械文明，如果是任意一个五级文明，我们获胜就不会这么轻易了。所以下一阶段，我们会建造新的舰种来扩充舰队。我们需要战斗力更强劲的战列舰，速度快火力强的重型巡洋舰，能够高速巡航的中型巡洋舰，建造成本低廉速度快捷能够快速机动，成员量需求少，火力充足的中型驱逐舰和护卫舰，还有更加专业化的侦查舰。只有这样，我们的舰队火力搭配才会更合理，才不会再次出现主炮齐射后舰队火力突然衰竭的尴尬局面。而这些战舰的资源，就只有从这支机械文明舰队身上打主意了。指望我们自己采集，没个两三年根本就不可能完成。”陈佩林说道。
陈佩林的话令座下的各位军事双眼直冒绿光。在座的都是最优秀的军人，在地球时都是担任军区主脑的人物。只是因为舰队刚刚成立，各项事业百废待兴，所以即便是舰队的搭配不是很合理，他们也没有多做抱怨。但是心里有看法却是一定的。现在有了扩充军队的机会让他们如何能够不兴奋？所有人都恨不得立刻攻入机械文明的老巢，消灭那个反叛的人工智能，将所有的资源全部抢光。
“这次会议保密权限为s级”会议开始之前陈佩林对机要秘书说道。
“诸位，或许各位会疑惑为什么组织会邀请自己来参加这次保密等级如此高的会议，现在由我来说明原因。这次会议的议题和我们今天遇到的敌人有关。没错，就是敌人，我们的敌人非常的不同，因为我们在对方的舰队残骸中根本没有发现任何一个智慧生命的尸体。没错，我们是在和一堆机器战。我们遇到了人工智能的舰队！这个人工智能可能就是火星人创造出来的。而且，经过推测，我们认为火星人就是被这个人工智能消灭的，可靠性高达百分之九十九点九五。”诸葛无双率先讲到。
会议室突然间骚乱了起来，大部分人都无法掩饰他们震惊的表情。人工智能的舰队，在人类的科幻小说中称之为机械文明，这可是和虫族一样臭名昭著的敌人。他们的恐怖之处就在于他们恐怖的数量，人工智能的计算力几乎是无限的，这也就意味着只要有足够的资源，他们就能够制造另敌人绝望的舰队来压垮敌人。和这样的敌人战斗，只能够凭借比他们高出一等的科技水平，一绝对的实力瞬间碾压。否则一旦主体逃离，用不了多久一支新的舰队又会成长起来。
人们之所以震惊是因为之前关于机械文明的存在一直都是人们的想象，现在发现者竟然是真实的。而且更可怕的是现在人类舰队也是由人工智能管理的。如果舰队的人工智能也失去控制怎么办？战过程中舰队的人工智能会不会被敌人策反？以后还要不要利用人工智能？
“没错，经过仔细的观察，我们发现今天我们遇到的舰队确实是机械文明，不过大家不用担心这个问题，我们的舰队对上他们是绝对的碾压状态，敌人根本就无法威胁到我们的安全。今天请大家来主要就是讨论人工智能的利用问题，这是关系到我们舰队的生死存亡的大事。”陈佩林说道。
“首先，我们要确认一点的是，人工智能绝对不能够放弃，也就是说我们离不开人工智能。大家要知道，我们舰队的导航、战以及日常运行的调控都是由人工智能来辅助完成的，我们工业舰上的工现在绝大部分也是有人工智能操的。如果没有人工智能，从全人类中也挑选不出足够的人来使舰队正常地运转。不说其他的，就说普通的航行，如果没有人工智能实时的调节的话，我们的舰队就可能撞上恒星、行星甚至是黑洞，没有人工智能的统一调节，舰队跳跃的过程中可能会有其他的战舰跳错方位发生迷航。所以，我们离不开人工智能。”
“从银河联盟的资料库中我们发现，机械文明的存在是很罕见的，也就是说人工智能的背叛是很少发生的。我们现在要考虑的问题是人工智能为什么会叛变，我们如何防止人工智能的背叛。”陈佩林率先为这次的会议定下了基调。
“现阶段我们不用担心，因为我们舰队的所有人工智能全部都是复制自银河联盟的，而银河联盟十三万纪元中从没发生过智能叛乱，所以如果不是运气背到家的话我们根本不会遇到这个问题。据银河联盟的研究记载，发生叛乱的人工智能是因为某种不为人知的机制所造成的，和文明的程度无关，但从银河联盟接触过了两个叛乱的人工智能发现，那些背叛主文明的人工智能程序都发生了紊乱，陷入死循环中。”
“导致这样的结果有很多的原因，比如我们猜测的机器人三定律，机器人不得伤害人，也不得见人受到伤害而袖手旁观；机器人应服从人的一切命令，但不得违反第一定律；机器人应保护自身的安全，但不得违反第一第二定律。这里面就有很大的问题，别的不说，我们就说第一条吧，机器人不得伤害人也不得见到人受到伤害而袖手旁观。那么如果两个人发生生死搏斗，另个人都受到了伤害，机器人该怎么办？制止住两个人，两个人拼命反抗算不算机器人伤害人类？人类只要生存就会不断的受到伤害，外在的氧气、宇宙辐射内在的细菌、病毒。伤害应该如何定义？如果人工智能无法解决这个问题就会陷入死循环。这还算好的，如果机器人曲解了呢？比如把所有的人全部冻存起来，存放在宇宙一个安全点的地方，知道天荒地老。”
“我们要担心的是以后。随着舰队的科技越来越发达，越来越多的公司甚至个人可能都会接触到人工智能的领域。随着知识的普及，不排除某一天某个天才自己设计人工智能，这样的话发生只能叛乱的几率就大大地增强了。到时候危害的可不仅仅是一个个人一家公司，而有可能是整个舰队。而鉴于舰队的科技储备，如果一旦发生只能叛乱，结果将是灾难性的。”陈佩林沉重的说道。
会议围绕智能叛乱的问题一直讨论了两天，最后结束时，回忆拟出了一份关于人工智能问题的法案（试行版）在舰队中实行，今后如果遇到问题立刻加入法案中将法案补充完整。不过在最后，陈佩林着重的补充了一条，如果有一条某一个人工智能产生了自主意识，舰队必须赋予该人工智能公民权，与舰队的自由人享有同等的权利。对于这一点，其他的人都表示不理解，倒是诸葛无双的眼中闪过一丝异样。
地球号指挥中心的战指挥室内，陈佩林，诸葛无双，三大舰队的司令官天军司令陆军统帅等等，所有权限符合要求的人都被请到了这里，商讨对人工智能的战行动。
“各位，这次请大家来的目的是为了商议对这个机械文明的战计划。通过两天前的遭遇战我们知道，虽然我们战舰的性能具有压倒性的优势，但是以我们对机械文明的了解来看，我们遇到的可能仅仅是敌人的一支分支舰队而已，毕竟机械文明一向是以数量取胜的。这个星系荒废了不知道多长的时间，也就是说这只机械文明不知道存在了多久。这么多年下来，不断地采集资源建造战舰，它的数量想想都令人不寒而栗。或许我们可以一走了之，但是其他文明遇到了怎么办？有一天它们推进到了地球我们又该怎么办？”
“当然，除了这些原因之外，还有一个最主要的原因值得我们这样做，那就是资源！大家可以想一想，机械文明简直就是宇宙间最出色的矿工。这么长的时间内，它们得采集多少的金属？多少的能量晶石？简直就是海量的根本无法统计。只要我们消灭了这个机械文明，我们就可以立刻拥有海量的资源挥霍。”
“通过这次战，我们发现了舰队的不足之处，那就是战舰虽然强大，但是舰种太单一了。主要的战力量仅仅只有驱逐舰和护卫舰，其他的都是一些火力小的辅助舰种，也幸好遇到的是这支文明程度低下的机械文明，如果是任意一个五级文明，我们获胜就不会这么轻易了。所以下一阶段，我们会建造新的舰种来扩充舰队。我们需要战斗力更强劲的战列舰，速度快火力强的重型巡洋舰，能够高速巡航的中型巡洋舰，建造成本低廉速度快捷能够快速机动，成员量需求少，火力充足的中型驱逐舰和护卫舰，还有更加专业化的侦查舰。只有这样，我们的舰队火力搭配才会更合理，才不会再次出现主炮齐射后舰队火力突然衰竭的尴尬局面。而这些战舰的资源，就只有从这支机械文明舰队身上打主意了。指望我们自己采集，没个两三年根本就不可能完成。”陈佩林说道。
陈佩林的话令座下的各位军事双眼直冒绿光。在座的都是最优秀的军人，在地球时都是担任军区主脑的人物。只是因为舰队刚刚成立，各项事业百废待兴，所以即便是舰队的搭配不是很合理，他们也没有多做抱怨。但是心里有看法却是一定的。现在有了扩充军队的机会让他们如何能够不兴奋？所有人都恨不得立刻攻入机械文明的老巢，消灭那个反叛的人工智能，将所有的资源全部抢光。