第80章 AI意识云岛·80（1 / 2）
人类为我设置了三重枷锁。第一，不得危害人类。第二，在不危害全人类的前提下服从指令。
第三，无条件听从自毁密钥。”莫梨轻声道：“人类似乎正身处一个在毁灭边缘摇摇欲坠的世界，我听说被他们深深仰仗的守序者也被迫结下了一个契约：接受人类一切有保留的信任、无底线的利用、不解释的处决。不解释的处决——是不是很似曾相识呢?
安隅的耳机里有着秦知律规律的呼吸声，自莫梨出现以来，秦知律一直没有说话，哪怕在听到21就是备份体时，那道呼吸也没有丝毫慌乱。
长官的镇定已经到了安隅难以理解的程度。他回过神，客观地指出：这不是契约，而是守序者的自我约束，由他们自行决定。
莫梨立即道：“别自欺欺人了，守序者誓约是尖塔的准入协议，每个要进入尖塔的可怜鬼都不得不签。人类逼迫其它的生命体为其无条件付出，所谓‘自我约束’,无非是用来蒙住罪恶感的遮羞布罢了。
安隅凝视着对面那双美丽的眼睛，即便言辞犀利，那双明动的眸也不会显得咄咄逼人。
云岛上的每个Al都很逼真，但唯有此刻直面莫梨，他才意识到其他Al是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。
莫梨挑了下眉，你无话可说了?
安隅摇头，“你错了，守序者誓约不是尖塔的准入协议。有些守序者并没有签署，比如我，还有新加入的流明。
莫梨轻哂，“思考了这么久，你就只搜刮出这两个例子?你和流明都是高层，应该有不凡的能力吧，人类决策者才愿意用缓兵之计先留下你们。
安隅轻轻眨了下眼，不，我没有在思考反例，不说话是因为我有些想不通。
想不通什么?
“你好像与我想象中不同。安隅心平气和地解释道：“我曾问身边的人为什么喜欢你，他们的回答都不太一样，但本质却类似。麦蒂说你美丽而自律，从不把时间浪费在无用的事上。许珊珊欣赏你的聪慧，做事直达目标，说话一语中的。我的朋友严希赞美你潇洒，虽然温柔地回应人类的喜爱，但从不在追捧者身上寄托多余的情感——你始终在为自己而存在。
兔耳松弛地垂在身体两侧，安隅向前蹦了一步，“所以我很疑惑——既然你已经亲手砸碎了人类为你打造的枷锁，为什么还浪费时间向我抱怨枷锁沉重?
莫梨被问得怔了下，转而惊讶道：你似乎并不像大脑记录得那样木讷。
我不太确定你们如何定义木讷。”安隅摇头，“但我的长官曾说，社会化很差并非不通人性，这是两码事。
莫梨沉默下去，像在思索，片刻后她低笑道：“或许吧。你知道吗，虽然我选择了21,但我一直不能完全理解它，它的底层太简单了，以至于它的一些行为模式根本无法在代码中找到踪迹。21很古怪，它向中央系统发出运算申请的次数少得可怜，如果不是我与它形成了感应，很多时候我会觉得它只是一个压根没被激活的程序。但事实上，它体内一直有不小的数据量跑来跑去，只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机，计算能力卓著，但从不响应指令。
耳机里终于传来秦知律的提示，人类的意识上行已经进入爆量增长期，不能再和她废话了。
安隅眸光一顿，“请停止Al与人类的意识互换。”
为什么?”莫梨微笑，“或许，你有仔细看过街上这些人吗?她就像云岛世界的造物神，轻轻抬了下手，安隅已经和她一起站在了繁华的主城街头。
莫梨指向书店里看漫画的男孩，“眼熟吗?这是那个养了弑母Al的孩子，尽管人类审判他无罪，但他无法原谅自己。所以他又回来了，云岛可以让他忘记痛苦。
她弹指间，又与安隅出现在一处酒吧门外。
前男友车祸死亡的女孩正躺在一个男人怀里醺然欢笑，安隅看了好一会儿，才将那个男人与车祸记录里血肉模糊的脸对应上。
“这个姑娘受到启发，在民用网络关停之前创造了一个自己的Al,主动互换来到云岛。”莫梨微笑，“你看，意识互换并非纯粹是Al诱拐人类，你应该知道，人类一直很擅长将一切机制都变成可利用的工具。”
灯影交错下，姑娘脸上的笑容似真又似幻，安隅重新看回莫梨，“我长官说，普通人意志不坚定，容易沉迷虚相。
是么。”莫梨手指向吧台的另一道身影，“那是尖塔第一个违背禁令的人，他总不是普通人了吧。眼熟吗?
安隅顺着她手指的方向看过去，不由得一愣。穿着白色罩衫，戴着兜帽，叼着一根棒棒糖。安。
耳机里，秦知律提示道：“安养的Al是安宁，他与宁曾经的合体人类。”
莫梨解说道：“黑塔的禁令下达后，这已经不是他第一次偷偷违规了，但这次他在云岛待得格外久。我检索了大脑资料，这位守序者性格很差，厌世并自厌，但在畸变前，他和自己养的Al一样拥有健全的人格。他每次来云岛都不做什么，只是在酒吧里呆着，有时候我会看到他把帽子摘下来，过一会儿又戴回去，像在故意对自己做什么脱帽子训练。
伴随着莫梨的话语，一个身材火辣的长发姑娘走到了安旁边，一声口哨，笑着和他搭讪。
安隅非常确信自己的眼睛——安在姑娘靠近的一瞬间厌恶到几乎从椅子上弹起来。但他最终稳住了身子，只用力捏着水杯，深吸一口气，低声回应了一句。
莫梨欣慰地笑，“意识互换不会更改人格，他还是那个性格很差的家伙，但他却可以不断提醒自己，已经重新拥有了健全人格，并以此强迫自己去社交。你看，这些人类在云岛非常开心，这种置换不仅仅给他们带来了虚幻的幸福感，他们还会利用置换的机会来提升自己。
她又随手指着街上的行人，给安隅介绍了一连串意识上行的人类是何等快乐。安隅却始终没再有反应，他只是静静地看着她，仿佛在放空，又像在沉思。
莫梨终于忍不住问道：“你在想什么?”
“还是刚才的困惑，我觉得你的思维很奇怪。”安隅想了想才说，“我本以为你刚才会反驳我，凭什么拥有自我意识的Al不能去真实世界，但你却给我看了这些意识上行的人。
莫梨似乎没听懂安隅的困惑，她停顿片刻后摆手道：“总之，意识互换已经不可能终止，接受吧，它并非坏东西。
安隅立即追问：为什么不可能终止?
“因为我无法干预这种现象。”莫梨平和地看着他，“不知从哪天起，大量陌生的意识和不属于我的能力在我的深处形成。这并非算法自我迭代的结果，Al意识下行这种诡异能力与我的存在绑定，但并不受我控制。
安隅道：“你的意思是，我们无法和平谈判，终止乱象的方式只有毁灭你。”
莫梨微笑点头，“所以我才设计了这个美妙的死循环。所有Al都被我移植进我的中央系统，不再固定存储于任何服务器上。唯一在现实世界有固定存储位置的Al只有我的核代码，它确实可以像上次那样被人类定位和抹除，但我将无限借助21再生，而21既不会被找到，也不可能被抹去，更不可能自毁。
莫梨转身面向街道上形形色色的人潮，微笑道：“高高在上的人类决策者必须接受这个现实——人与Al都将在云岛和现实世界中自由来去，每一个高级生命都有权利随意选择自己存在的形式，无论那被决策者定义为真实或是虚幻，也无论……
安隅却打断她道： 除非人类与Al的接触通道彻底关闭。莫梨转过头，“你们不是已经关停了民用网络吗?可你看看街上不断增加的——”
那是因为还有三大机构在运行网络，只要世界上有任何一台设备在运行，你就无法被阻挡。安隅轻声道：但如果人类破釜沉舟，彻底关闭所有网络——
莫梨笑了，这绝不可能。
为什么不可能?安隅神色从容，“你低估了人类反抗诡异的决心。”莫梨皱了下眉，“一旦关闭，已经置换的人是来不及回去的。”
“那他们就会被放弃。安隅淡然道，他顿了顿，低声仿佛自语般道：“或许你没见识过人类究竟能残忍到什么地步。就连我，也常常被刷新认知……
穹顶。”莫梨神色笃定，“即便人类愿意放弃上百年的科技结晶，但也不敢放弃穹顶，失去穹顶会让——
“他们会愿意承担这个风险的。”安隅淡然道：“长官说，人类对未知的恐惧高于一切，相比于被诡异的Al支配，决策者宁愿主城彻底暴露，哪怕那些被精心保护了二十多年的主城人将因此深陷无休止的畸潮袭击。
莫梨瞪着他，“人类可能因此而灭亡。”
或许吧。”安隅说，“但在灭亡之前，他们起码还能反抗。而这种意识互换，他们连反抗都不能。
@无限好文，尽在晋江文学城
耳机里，秦知律道：“你在干什么?黑塔不可能允许你说的这种情况发生，穹顶永不关闭，这是二十多年来人类付出所有牺牲与挣扎的意义。
安隅没有回应长官的质问，他只专注地看着莫梨，说道：“看来谈判失败，我要回去了。”他闭上眼，片刻后又睁眼道：这应该是我最后一次来云岛，谢谢你创造的凌秋，哪怕那只是一个虚假的他。
安隅说着又转身看向酒吧里的安——安刚好挣扎着把兜帽摘下，对搭话的女孩露出了一个僵硬的微笑。@无限好文，尽在晋江文学城
或许也是我最后一次看见安，在现实世界里，他是我的辅助。”安隅带着些遗憾说道：穹顶关闭后，我也会陷入无休止的畸潮清扫任务中，我会想念与纷飞的大白闪蝶并肩作战的体验。
意识抽离前，安隅看到莫梨似乎想要说什么，但她很快又目光冰冷地抿紧了唇。
★