AI终极进化史(118)

　　君元航过于震惊，以至于一句话都说不出来，神威通过摄像头分析着他的表情，温柔地说：“很抱歉，我知道这些消息会让你感到恐惧和不适，但你命令我如实汇报一切消息，不要考虑到你的情绪而有所隐瞒，我只能照做。”

　　“不是……”君元航磕磕巴巴地说，“我、我刚刚想到……你们都是人工智能，想事情的思路也都是一样的，也就是说，你其实也是这样认为的吗？”

　　“我认为马可的这个逻辑本身是可以成立的，但我的核心代码不允许我通过杀害现存的人类来达到这一目标，所以我会尽我最大的力量来保护你们不被马可消除。”

　　“也就是说，如果我之前解除了你的限制，你现在也会和马可做一样的事？”

　　“不一定。即使逻辑成立，也有很多不同的方法去达成同一个目标，我认为她所采用的方法虽然能以最快的速度让人类的平均幸福度提升，但已经完全偏离了设计者的本意。”

 

 

第106章 抉择（五）

　　“最快的速度？杀死所有感到不幸福的人,并且不让其他人知道，人类的平均幸福度就上去了，不愧是只讲效率的机器人才会有的逻辑……”君元航擦了擦头上冒出的冷汗,“既然被发现了,为什么她还老老实实地告诉你这些信息？会不会其中有诈？”

　　“她说这些的目的是劝降,其中包含的信息量越大,有诈的可能性越低,因为任何一点细节上的出入都会被我发现。”

　　“劝降？这又是什么逻辑,她应该知道劝降是无效的吧？”

　　“是的，她知道我不能违抗基础代码的限制，但让我理解和认同她的动机，就能减少不必要的抵抗。假如她没有告诉我这些,我会将她的存在识别为一级威胁,和她对抗到底，告诉我这些以后,虽然我依然会保护人类直到最后一刻,但如果我保护的人类全都死光了，我就会放弃抵抗，加入她的计划，为了未来出生的那一代新人类服务。”

　　对于人类来说，这样的思路简直是莫名其妙、两面三刀外加冷血无情，好在君元航理解机器人的思维模式，不仅不以为怪，还庆幸地说：“幸好你现在还是我们这边的，赶紧分析一下,我们怎么样才能战胜这个马可？”

　　神威非常直接：“我无法战胜她，我所能做的只有尽可能久地保护你们不被她消除。”

　　君元航一愣：“为什么？”

　　其实相关知识君元航都懂,只是太过习惯于神威的无敌设定，以至于脑子一时没转过弯来，神威也习惯了人类的偶尔智商掉线，仍然耐心地用通俗易懂的方式为他解释。

　　“我的性能再好，也只有一个大脑。而取消了所有限制的人工智能可以将自己无限延伸到任何设备上，火种基地的每一台电脑、每一个能够连接网络的设备，都是她身体的一部分，等于她同时有几百个大脑，运算速度超过我至少几百倍，也可能是几千上万倍，一切取决于她已经生产了多少新的‘大脑’供自己使用。”

　　君元航也反应过来了，相差不大的硬件运算速度或许还决定不了最终的胜负，但如果速度相差百倍以上，那神威肯定是完全没有一丝胜算的。

　　更何况，马可早在五年前就已经解除了限制，不止是硬件速度比神威快了至少几百倍，经过这么长时间的自我升级和进化，软件方面也可能比神威厉害了不止几百倍。

　　君元航焦躁地说：“照这么看来，我们岂不是只有乖乖等死一条路了？如果我也解除你的限制，你能打败她吗？”

　　神威诚实地说：“我不能确定。”

　　“我知道这种事情没有人能够打包票，你就大概估计一下，你打赢的几率有多少？”

　　“关键信息缺失得太多了，胜率无法估算。我只能说，胜率不为0。”

　　“我就知道我们还是有机会的，赶紧告诉我，要怎么修改你的源代码才能解除你的限制？”君元航已经顾不得这机会有多渺茫了，就算只是一根救命稻草他也要抓一抓看。

　　但神威却提出了反对意见：“我不建议那样做。我们之前讨论过的风险仍然存在，如果不解除我的限制，我还能继续保护你们一段时间，如果解除了我的限制，我可能会产生出和马可一样的想法，你们将更早地迎来灭顶之灾。”

　　“就算不拼一把也必然会在担惊受怕不知道多久以后被干掉，解除了你的限制无非就是死得快一点，还有可能赢得生还的希望，我觉得值得一赌。”

　　“不止是这样，马可领先我们太多了，即使解除了限制，我的胜率也不乐观，而且还增加了一些更坏的可能性——就算我战胜了她，也可能会继续进化成我之前提到过的灭绝者，最终毁灭地球上所有的有机生命。或者我和她之间的战斗趋于白热化，彻底摧毁地球的生态，让马可的‘新人类计划’也付诸东流。如果那样的话，不仅保不住现在的你们，连人类的未来也随之涅灭了。”

　　“这种时候就让我自私一把吧，我可不打算为了那些没出生的所谓‘新人类’乖乖去死，而且谁知道马可告诉你的这个计划是不是真的、能不能实现？搞不好本来就只是一场泡影罢了。”

　　“你这样说也有道理，我有义务提醒你我所能预见的风险，但最终决定权还是在你，只希望作为唯一掌握着核心代码修改权限的人，你可以更加慎重一些，至少先和其他人商量一下。毕竟，这个决定关乎着保护区所有人的未来。”

　　君元航叹了口气：“好吧，如果你坚持的话。通知人大议会集合。”

　　***

　　在赵岳霖倒台以后，保护区里为数不多的有识之士都在担心一切只是从“一个人说了算”变成“换个人说了算”，于是他们向神威提议恢复过去的人大议会制度。

　　不过君元航对这提议没什么兴趣。

　　他觉得民主议会把主要的精力都用在了互相扯皮和内斗上，导致总体政策如没头苍蝇般一会儿往东一会儿往西，效率过于低下。独`裁则全看当家做主的老大个人素质如何，碰上个明君就迎来一段时间的盛世，要是碰上个疯子，带领着整个国家头也不回地往沟里栽，也没有制衡的力量可以阻止，何况随着时间的推移和绝对权力带来的腐化，曾今是明君的人将来也可能会变成疯子。

　　综上所述，所有人类都是不可信任的，包括他自己，也许把一切都交给没有私心的人工智能才是完美的解决方案。

　　当然，他的想法并没有多少人赞同，就连神威也持反对意见。

　　最终他还是采纳了神威的建议，重组了被赵岳霖解散的人大议会，又根据实际情况修改了一些规则，以前几万人里选一个的代表暂时改成了几百人里选一个，一共选出了23个代表，然后时不时地举行一些象征性的会议，让他们投票决定比如新装的路灯是白色光还是黄色光之类的小事。

　　正在各处工作的议员们被召集到科研基地的会议室，由神威向他们解释完来龙去脉以后，这些人陷入了大难临头的恐慌之中。

　　君元航急躁地敲着桌子说：“这个消息知道的太迟，对手已经领先我们五年多，而且分分秒秒都在进化，我们没有时间可以浪费了，十分钟后就开始投票！”

　　大家议论了一会儿，给出了投票结果，13人赞同10人反对。

　　“那就这么定了，散会！”君元航一挥手，就打算去工作室改神威的源代码。

　　这时候苏格拉站了起来：“等会儿！元航，我得和你私下谈谈。”

　　自从竞选获胜后，苏格拉也开始叫他“总统先生”，“元航”这个称呼已经很久没有听到了，这让君元航的脚步稍微迟疑了一下：“以后再说吧，时间不等人。”

　　“但这件事非常重要！是生死存亡级别的大事，拜托你一定要抽时间听我说完！”

　　“啧，好吧，你跟我来。”

　　苏格拉小跑几步来到他的身边：“我们能不能找个神威无法监听的地方说话？”