第四十三章 核心指令“守护人类”,变更（2 / 2）

【也有着第六次大崩坏真正爆发时，身上代表着熵增力量的黑雾弥漫着律者的姿态。】

【也有着战局不利的情况下，那位死之律者伪装出来的楚楚可怜的死之律者，泪眼婆娑的模样。】

【同时，也包括着凭借着伪装拖延了足够时间，积蓄力量爆发之时，疯狂大笑的模样。】

【你静静地站在这几块大屏幕前，一动不动，似乎没有发现身后的少女的到来。】

【爱莉希雅在你的身旁停下脚步，略微抿着嘴唇，霎时间感觉有些无言。】

【她不知道，自己此时应该说些什么。】

【看到你的这副样子，她就意识到，自己此前忧虑的事情，你同样也有考虑到。】

【或者说，以你的性格和远见，意识不到这些问题才是令人难以想象的事情。】

【是的，现在的你，也在权衡若是下次遇到类似的情况，或者更加糟糕的局面，究竟应该如何去做。】

【这是类似于电车难题的窘境。】

【倘若试图救下一个人，反而有可能导致更多的人死亡。】

【在此前，你面对类似的问题，做出的选择非常简单明了，那就是竭尽全力尽可能地将所有人都拯救。】

【你也的确是这么做的。】

【就比如，在这场人类面对崩坏的战争中，倘若拒绝让战士踏上艰难的战场，那么就有可能导致无辜的平民因为得不到保护而死亡。】

【可是踏上战场的战士，也有可能因为面对强敌而死。】

【在这种情况下，你以数目众多的武装机器人取代人类的战士，使得在这场人类面对崩坏的战争中所受的伤亡尽可能降至最低。】

【这个例子或许并不恰当，但是也能够稍微看出你的行事原则。】

【面对抉择，你是不愿意放弃任何一方的类型。】

【你拒绝接受任何人的死亡，会竭尽全力地向着所谓注定的事实发起反抗。】

【随着大崩坏的爆发，原本处于人类对于各项技术，尤其是生物学领域技术的需求，人体实验应该是必不可少的。】

【可是，你却严令禁止安全性不满足条件的人体实验。】

【或许能够对人类和崩坏之间的这场漫长战场起到不小作用的融合战士计划，都因此而进展缓慢。】

【你拒绝让任何人因为这项研究而死亡。】

【与此同时，你也在以自己的方式提升人类具备的力量，以保证人类同样不会因为缺少了这项技术而在对抗崩坏的战争中陷入不利的境地。】

【倘若有人让你选择，天平的两边，哪一边死亡。】

【那么你的选择是，竭力地将两方都拯救。】

【这就是你向来的行事作风。】

【所以，面对如今唐突出现在自己面前的这种抉择】

【若是未来，真的出现这种情况】

【信任疑似具备人性的律者，就有可能因此被欺骗，最终导致更加严重的灾难。】

【倘若对表现出人性的律者拒绝信任，那么结果很有可能是有其他的像是爱莉希雅这样的存在，被就此扼杀。】

【纵然你会尽量提前做出尽可能周全的准备，也难以保证不会面临预料之外的窘境。】

【不得不说，对于你而言，这并非是多么容易做出的抉择。】

【要知道，即便是那些向你展露杀意，试图取你性命的人，你也从未考虑过杀死他们。】

【你所做的，不过是以ter设备将其冻结，以待未来他们不会影响这场面对崩坏的战争的时候，再将其唤醒。】

【或者说，即便是面对那些邪恶的人，卑劣的人，那些龌龊的人，你依旧会竭尽全力地保护其性命，以免他们横遭死亡。】

【而今，面对可能如爱莉希雅这般的存在，却要】

【“爱莉希雅，你说，若是未来的某天，我真的需要面对这等局面，在那个时候，我究竟应该怎么做呢？”】

【你略微侧目，看向站在身边的淡粉色长发的少女，轻声开口问道。】

【或者说】

【若是你做出的选择是将对方杀死】

【那么，爱莉希雅还会像是现在这样站在你的身边吗？】

【想到这里，你略微摇头。】

【说到底，你根本就不是在等待着爱莉希雅给你的答案。】

【因为，实际上，在你的心中，早就已经有所决断。】

【而此刻，你在犹豫的，是其余的事情。】

【如今，你的思维，基本上和天启摇篮系统同化。】

【在摇篮系统的最底层，有着最基本的指令，那就是保护人类。】

【无论何时，首脑都是将保护人类作为最高的优先级。】

【其余的各种因素，都要排在其后。】

【也就是说，对于首脑系统来说，唯有“杀死人类”这种事情是绝对不可能做的，无论如何。】

【首脑是绝对不可能做出将任何一个人类杀死的决定的，即便为此而付出再大的代价。】

【这种事情，看起来不可思议，可是对于首脑系统，或者说对于人工智能而言却是必须的。】

【出自于你手的人工智能应当将保护人类作为最底层的指令，无论如何也不能具备做出“杀死人类”这种决定的权限。】

【即便这个人再罪恶滔天，穷凶极恶，有可能造成再大的危害，也是如此。】

【对此，无论是梅比乌斯、维尔薇，还是ei，都不会有丝毫意见。】

【毕竟】

【千里之堤，溃于蚁穴。】

【这是为了避免人工智能的失控。】

【倘若给予首脑这种权限，决定将任何一个人类杀死的权限】

【那么，就意味着原本防止人工智能危害人类的坚固壁垒，就此出现了一个小小的缝隙。】

【这个缝隙看起来微不足道，却有可能成为最终导致悲剧后果的诱因。】

【所以，首脑系统是无论如何都不能获得做出“杀死人类”这种决断的权限的。】

【而你】

【同样是如此。】