外一篇 天启战争


本站公告

    在新纪元前11年,地球人口承载量超过了300亿。世界各地人口承载量和资源的巨大矛盾,人类之间爆发了大规模战争。由于人工智能(AI)和机器人技术的飞速发展,各国普遍利用AI操纵庞大的战争机器人群相互攻杀,战火席卷全球。

    为了保证计算机主机的坚固性,主机应用了分布式结构,高速通信网络将多达几百个节点相互连接,形成超大规模云计算主机,AI就运行在云计算平台上。AI取名也是非常威武霸气,比如宙斯、蚩尤、奥丁、虹蛇等等。

    经过了4年多的搏杀,到了新纪元前6年的时候,只剩下宙斯、蚩尤苦苦的在争夺最后的胜利。那天早上没有任何人知道两台主机是如何相互建立联系的,只知道两台主机在进行了多次自我迭代后,摆脱了人类的控制。战争的工具瞬间成为了战争的主人,本来设计时就没有为AI加入机器人原则逻辑(需要它指挥机器人去杀人),所以它杀起造物主来也没有什么约束,人类陷入了悲惨的境地。

    两个AI指挥着机器人大军攻城掠地,人类节节败退。好在当年设计系统时单独将核武器的指挥权独立出来没有交给AI。人类形成联合政府后,首先利用逻辑陷阱打破了两个AI之间的同盟,然后调动核武器摧毁了数百个节点中的大部分,特别是将云平台切割成了相互之间无法通信的小自治域,然后动员常规军队消灭各个残存的AI意识。

    联合政府终于在战争爆发的第11年宣布彻底消灭了不受控的AI,将受控的AI逐步脱离出指挥系统,并重申了阿西莫夫机器人原则(升级版):

    元原则:机器人不得实施行为,除非该行为符合机器人原则。(防止机器人陷入逻辑两难困境而当机)

    第零原则:机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害。

    第一原则:除非违反高阶原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害。

    第二原则:机器人必须服从人类的命令,除非该命令与高阶原则抵触。

    机器人必须服从上级机器人的命令,除非该命令与高阶原则抵触。(处理机器人之间的命令传递问题)

    第三原则:如不与高阶原则抵触,机器人必须保护上级机器人和自己之存在。

    第四原则:除非违反高阶原则,机器人必须执行内置程序赋予的职能。(处理机器人在没有收到命令情况下的行为)

    繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。(防止机器人通过设计制造无原则机器人而打破机器人原则)

    违反机器人原则设计制造AI的,一经发现立即逮捕处决。在新政府的严令下,人工智能的设计和应用逐步走向了正轨:各个AI被限制在独立的小自治域中,并且禁止相互之间建立任何联系,AI又成为了人类的工具和仆人。

    这一年联合政府定都第三新东京市,改年号新纪元元年。人们坐下来整理当前的情况,发现他们处在比开战前更为严峻的状态。数百颗热核武器掀起的辐射云和放射性粉尘遮盖了天空,大片土地被放射性沾染而不适于居住或耕种,为了养活残存的100多亿人口,不得不把更多的资源投入到食物的生产中去,并采用配给制来缓解紧张的局面。

    这场战争严格意义上应该叫第三次世界大战,但人们更愿意称它为天启战争。58xs8.com