第八十章:戒律王的由来 (第2/2页)
也就是这时,忒弥斯2.0暴露出了它仍旧存在的问题:时效性。自世界政府成立,系统上线以来已经度过了近百年。在这百年之中,人们积累了修建太空电梯的所有技术,却仍因为可能存在的牺牲导致根本无法通过系统的道德性判断。
类似的问题还有很多。克隆技术下诞生的克隆人合法性问题亟待解决,多性别婚姻与物种杂交的新形势等待方案,自由主义盛行的年代里人们有没有反对自由的自由,而人人平等的权利架构下,生育这件事又该怎么纳入统筹。这些问题,已经远不是多年前的一些老旧系统能够解决的了。
当然,保守主义者会认为,如果我们和道德相悖,恰好证明我们走错了路。但激进主义者认为,一群面对“是否支持双性别半人马与植入复制版人类意识的四足机器人开展大规模婚配”的问题只会选“是”的系统,已经远远落后于时代了。
你问为什么忒弥斯2.0里的那些系统只会选“是”?因为它们看不懂问题,只能蒙第一个。
迈向未来的第一步虽艰难却仍需大胆前进。世界政府作了这几百年来唯一一个“不合法”的决定:对忒弥斯2.0进行升级。讽刺的是,那些子系统似乎全都知道忒弥斯拆除后自己的命运,所以一律反对升级,但世界政府破除万难,在人口普查的同时开展了一次覆盖所有算得上“人”的家伙的投票,结果大家一致同意。
为什么同意?因为其实大部分人也不明白这个系统有啥用,蒙了第一个选项。
忒弥斯3.0诞生的纪念仪式上,世界政府的首席行政人员,也叫大交互员,宣读了新系统对人类发展的重要意义。
“最新版的忒弥斯系统连接着每个人的脑机接口,数据接驳服务器或者生物质脑组织。从今往后,我们会以每天一次的频率,对全人类的意识进行采样,再将海量的数据映射到忒弥斯系统之中。换言之,面对所有问题,我们将团结每一个人,给出最中肯,最符合道德的答案。全人类的同理心,将共同投影在这一块小小的设备中,绽放出无可比拟的道德光辉。”
为了纪念这种光辉,仪式所在的广场被命名为“道德高地”。从此,如果谁真的站在道德高地上靠近忒弥斯系统,那他可能真的有资格对你进行道德绑架。
改版的忒弥斯3.0系统实现了一种几乎不可能的道德审判方式,即让全人类站在你面前面对你小小的纠结。有49.7%的人类支持你下午称病逃课,有36.2%的人类支持你去吻心中所爱的那个机器人姑娘,有89.7%的人支持你为了拯救人类牺牲自我——虽说这个是问着玩的。
所以,当你的老师严厉的盯着你,说有63.2%的人认为不交作业应该受罚的时候,她很可能是认真的。
非道德的事情应该被纳入道德框架吗?26.2%的人对此表示肯定。如果应该纳入,那么小偷小摸的人是否有资格审判杀人犯?如果不该纳入,那么多年以来人类道德的演进又该如何看待?杀人是一种罪大恶极的行为,可是如果你杀的是僵尸呢?又如果,你才是那个僵尸,以为自己在杀僵尸,其实是在杀人?
当道德的客观定义被诉诸同理心,绑定在“全人类的共识”之上,那么如果对这一共识采取措施,又是否可以逃离道德的框架?这不是空谈,人们马上就面临着这个问题。
人类史上最大的电脑黑客,计算机破坏者,杀人犯,道德难题的提出者砝码近日被执法机器人逮捕。一直以来他就对用系统控制人类行为的方法存在疑虑,哪怕这种系统就是短短一天前的人类。他处心积虑,想要证明一件事:人是道德的主人,而非道德的傀儡。
砝码反向渗透了忒弥斯系统。他向系统询问,“杀掉这世上绝大多数的人是否有罪?”,其中有98.6%的人都认为有罪。这已经达到了死刑的界限,因为世界政府为了防止系统在模糊的中间地带出现判断失误,对阈值做了规定。只有在支持比例超过68.2%的情况下才能判处有罪,95.5%的情况下才能动用死刑。砝码在没有投无罪票的人中,随机挑选了数量多达全世界人口97%的人类。只要杀掉这些人,那些认为他无罪的人的比例就会大幅扩大,他就可以被宣判无罪。
抛去暴力的人们在新时代的伊甸园中享乐已久,丢掉了基本的提防之心,连诈骗信息都没能识别。“忒弥斯系统更新提醒”,大部分人想也没想就点开了。随后,一个木马就被植入进了他的脑机接口或者最近的电子设备之中。当万事俱备,砝码启动了开关,无数脑机接口出现故障开始异常放电,在一夜之间消灭了这个星球上绝大多数的人类。
讽刺的是就算死了这么多人,靠着完善的机器人辅助体系,人类社会仍旧没有崩溃。残存的一部分人聚集在道德高地,决定要对砝码处以极刑——不过讽刺的是,他们能站在这里,大多也是因为他们认为这种行为无罪。砝码没有反抗,而是带着胜利者一般的微笑,看着这个被他搅得一团糟的世界。
“你们应该用系统审判我。”他笑着。“可惜,系统已经更新完毕,经过我的布置,只有支持我无罪的人能活下来。所以我仍旧无罪。”
话音刚落,忒弥斯系统给出了答案,无罪。
独力杀死了比历史上一切杀人狂魔所杀的仍旧要多得多的人类的极恶之人,无罪。
“人应该是机器,规章,或者道德之类的主人。”他说。“任何试图用人以外控制人本身的东西,都迟早会导致矛盾。”
他拿出了证据。砝码从数学上证明,一旦面临的问题足够多,那么总有一种情况,能够让99.9%的人认为,在这种情况下,灭绝掉全人类也并不罪恶。他指着远处,正在建设的巨型执法机器人,说道:“不用我来,它们也足以想象出,能够合乎道德地毁灭掉我们的办法。”
“哈哈哈……”他笑着走下道德高地,看似神采奕奕,眼神中却又失魂落魄。“我几乎杀光了人类,却仅仅因为杀掉的是异己,所以无罪,而你们却因为一台可笑的机器,而对显眼的罪恶无可奈何。”
这时,一个执法者终于忍无可忍,掏出了匕首,刺向他的胸膛。血花四溅,这一行为会被系统定义为故意杀人,却在此刻显得格外正义。
然而,砝码却欢呼着,拥抱着,亲吻着那位将他杀死的志士。
在这熹微的黎明中,他无憾而终。
(章节被举报屏蔽了好多,但是不想改,这是我最后的倔强。
然而有好多人投资了,为了这些兄弟,我决定把剩下的慢慢放出来,保证兄弟们能够稳定获得收益,万一哪天作品管理权限没了,也好定时发放。
泪目)