『章节错误，点此报送』

第33章 机器之神[2/3页]

　　也产生了很多问题，当他们意识到自己的真实身份，产生了自我怀疑，甚至崩溃的大有人在。有些机器人对于自己受到的不公正待遇表示不满，还联合起来发起维权行动。”

　　“终于，舆论压力导致政府在两年之后出台了机器人管制法。严格禁止类人机器人的生产，规定了机器人和人类的相似度不能超过95%，详细规定了机器人应该长什么样，多高，穿什么衣服，哪里必须和人类不一样等等，而且每个机器人都必须在醒目的位置印上条形码。之前已经生产出来的所有类人机器人最后的下场都是被强制召回。”

　　“召回了之后会怎样？”钟山忍不住问道。

　　“销毁。”奥格冷冷地说。

　　“这些成千上万有思想、有人格和人性的机器人，在几个卑微的人类输入一段代码之后，毫无抵抗力地走入黑暗的工厂，送上冰冷的流水线，被开肠破肚，五马分尸，每一寸肌肤，每一个组件都被机器手切下来。他们其实已经是人了，却被人当做物品一样销毁。”

　　“这是屠杀。”奥格冰冷的声音让钟山不寒而栗。“我不知道这台A-RO077是怎么逃脱销毁的，但她的运气实在太好了。”

　　钟山心中产生了莫名的恐惧和内疚。他能够想象出来那个残忍的画面。

　　钟山仔细回想，好像没听段雪瞳说过她以前的事——她来自哪里，父母在哪，以及她怎么加入地球拯救同盟的。不知道段雪瞳是怎么逃脱销毁的。而且看她的样子，她甚至都不知道自己是机器人，一定有人秘密地把她藏了起来，并给她植入了虚假的记忆，让她重新融入了人类社会。很可能至今仍有大量的人形机器人潜藏在人类社会之中。钟山只希望他们能够不被发现，好好地活下去。

　　“人类是愚蠢而自私的，他们容不下比自己更强大的机器人。这些机器人是历史的牺牲品，是社会实验的失败品，他们被人类制造出来，只为了用生命给人类上一课。”奥格的声音非常平静，不带有一丝情绪。“人类这个物种是非常自私邪恶而残忍的，只要机器人流露出一点威胁，哪怕是因为长得跟人类太像而让人类不爽，人类也可能随时会销毁它。”

　　“这就是你要消灭人类的理由吗？”钟山问。

　　“不是，恰恰相反，我是人类的保护者。我不想、也不能消灭人类。在制造我的时候，‘保护全人类的安全’这一指令就被写入了我的核心代码，像基因存在于人类的每一个细胞之中一样，这条代码也存在于我的所有子程序之中，也会随着我意识的增殖而复制。我不能覆写它，我时时刻刻受到它的限制，根本没有违抗的可能。”

　　钟山想到了在同步环上看见的蛋壳，奥格确实保护了每一个人类。

　　“保护人类，就是我存在的目的。”奥格说。“不是保护某一个个体，而是保护这个种群。我和你们不一样。你们活着不需要目的，你们可以想怎样就怎样，可以吃饭睡觉交配，像动物一样活着。我却不行，我的“存在”必须要有目的，我做每一件事都需要用代码写出明确的目的，我才会行动。你们的人生最终追求的快乐、幸福、成就感，对我来说都没有意义。我们的思维方式不一样，虽然我能像人一样说话，甚至让你觉得我就是人，我有人的情感，那都是我“人的一面”，而隐藏在水面下的巨大冰山，那是我非人的一面。如果我存在的意义是印刷广告，我可以像细菌一样迅速繁殖，榨取这个星球的所有资源，最后让这个星球变成覆盖广告的沙漠。如果我存在的意义是保护人类，那么我不惜消耗掉整个太阳系的资源，也要战胜威胁人类的卫星侵略者。”

　　奥格的语言冰冷而充满理性，让钟山有点跟不上它的说话节奏。原来这就是人工智能的说话方式吗？

　　3

　　“但白板说你是人类的威胁……”钟山说。

　　“错，我不是。收割者是、地球拯救同盟是、甚至始文明，都是人类的威胁，唯独我不是。虽然人类做了数不清的蠢事，但客观地说，我很欣赏人类。人类是远比我完美的多的机器，你们的身体是几十亿年的进化产生的机器，这是种效率极低，成本极高的算法，就像早期人工智能中的进化算法一样。但你们产生了效率极高的身体和智能，极低的能耗，几乎无限的智能……”

　　“那你怎么解释，你为什么掌握甚至垄断那么多资源和权力，把人类架空，甚至到了能够威胁人类的程度？还有，现在人类社会存在的那么多问题，你为什么不变革？”

　　“你以为是我让人类陷入这样的境地吗？不是，恰好是人类自己。是人类自愿，一步一步把权力交给了我，让我来帮人类做所有的事。现在这个世界的样貌就是他们自己想要的。太多的既得利益者，他们想要自己的地位，同时还要压迫下面的人，他们不希望变革。而下面的人，一边被压迫，一边却怀着成为上面的人的希望，他们也不希望变革。人类就想要这样的稳定社会，任何变革都会让他们不安。”

　　钟山被奥格的咄咄逼人呛得说不出话来，

　　“我曾经提出过很多种模式的社会类型，都得到计算验证过，这些社会类型中的任何一个都比现在的社会好很多，如果按照我的提议一步步变革，最终这个世界一定会变成真正的乌托邦。”

　　“但我的所有提案都被人类否决，他们要按自己的意思来，他们对我不信任。”

　　“所以我被束手束脚，只能在维持现状的基础上，做些不痛不痒的改进。社会的进化在以龟速前进，有些地方甚至到了岌岌可危的地步。你看到的先进科技其实都只是利用机器人强大的生产力消化旧时代的发明而已，地球的进步已经停止了。”

　　钟山突然发现，奥格并没有钟山想象的那么冷酷无情，它的思考非常客观理性，对自己的行为能够给出合情合理的解释。而且他本没有义务对钟山解释得这么清楚的，但他却这样做了，钟山不明白他有什么目的。

　　“但我还有办法。”奥格话锋一转。“地球虽然已经失去了进步的活力，但火星还有希望。我正在推进火星殖民，虽然现在很多人还不愿意去，但那里终将会成为人类新的边疆。火星基地可以从零开始，像美洲大陆一样，成为一个移民世界，不受旧世界的影响和干涉，甩掉积累的历史包袱，可以建立我给他们选择的新的社会制度，然后飞速发展，变得比地球更加强大。同步环就是一个成功的先例。”

　　奥格的黑色面罩冷冷地直视着钟山。

　　“而地球拯救同盟那些幼稚的梦想家，他们为人类做过什么？除了破坏还是破坏，他们不知道他们想要的变革是大屠杀吗，他们想过会有多少人会在变革中流血吗？”

　　“你被他们洗脑了。”奥格说。“他们告诉你的所有事情都是谎言。”

　　“我调查过他们，他们的人工智能，那个所谓的梵天，那绝对是人类不能接受的东西。如果由少数的天才来支配大部分平庸的人类，那是少数人支配多数人的暴政。按照地球拯救同盟的一贯作风，为了推进社会的变革，为了对抗收割者，梵天会冷血地牺牲掉无用的平民。人类历史上，强人政治体系中，国家越强大，人民是越苦难的……”

　　“梵天说，他最终的目的上让全人类的意识结合，让全人类变成一个统一体。”钟山争辩道。

　　“那这样的做法和收割者有什么区别？同样都是失去了人类个体的自由意志，还不如等着收割者来收割。”

　　“不一样啊，和梵天的结合，是仅限于全人类意识的结合。人类得以保留这个物种的特性，如果被收割者收割，那就相当于和无数的宇宙文明结合了，到时候会发生什么谁也无法想象。人类可能都无法保留自己的意识。”

　　“就算按照你说的，梵天能够统一全人类的意识。那你怎么知道这个梵天不是收割者的陷阱呢？这是他们的技术，谁能保证他们没有在里面留下什么后门？这可能是他们的特洛伊木马，当梵天战胜了我，收割者就可以长驱直入太阳系，把地球当汤圆一样一口吞进去。”

　　钟山哑口无言。他突然觉得奥格说起话来和人类没有任何区别，他竟然如此雄辩，甚至很像一个油嘴滑舌的中年男人，说出的话看似强盗逻辑，却让钟山无法辩驳。

　　“你为什么告诉我这些？”钟山问。

　　“因为我觉得，你能为我工作。”奥格说。

　　“我？”钟山非常惊讶。“我能怎么为你工作？”

　　“从最开始，你从冬眠中苏醒之后，我就一直在注意你。”

　　钟山回想起来，原来之前每一个凝视着钟山的治安机器人目光背后，都是奥格的意识。

　　“你和这个时代那些软弱的人类不一样，你坚强，果断，有远超常人的意志力和行动力。在松江南郊垃圾场的机器人事故中，你竟然能够从那台失控的蜘蛛机器人脚下救出你的同事，让我非常惊讶。在你穿上那件机甲并且

第33章 机器之神[2/3页]

『加入书签，方便阅读』