“我不走!还有最后一段ai程序没有写完……”
陈胜普戴着耳机,呆立在屏幕前。人类怎么就要遭遇灭顶之灾了?从太阳里出来的究竟是什么?他瞬间喘不上气,像有巨大的石头压在心上。他的战友一定要活下来!
“为您计算第230版方案存活率:000
为您计算第445版方案存活率:000
为您计算第1124版方案存活率:000”
人类最高科学院的所有研究员没有一个撤退,争分夺秒地与死神赛跑。
窗外,飞行的鸟儿被一点点增大的重力拉下来。路上停放的汽车无端往下凹陷。地面龟裂,树木坍塌。研究员输入程序的手越发沉重,脊背像被压弯。一个天灾藏在了地底,快速地孵化,正准备醒来。
“为您计算第1322版方案存活率:003”
科学院里爆发出欢呼声。
“我们成功了!!”
陈胜普在遥远的地方为他的战友落泪,成功了就快跑吧!人类,一定要活下来!
“这个方案,我增加了一点正面情绪变量,就是通俗的‘希望’。”
哪怕面临绝境,研究员仍然滔滔不绝地演讲。因为演讲者根本没察觉到危险,他整个人沉浸在突破难题的快乐之中。他如同稚童全方位展示他新买到的玩具。
“所以它非常极致。我们的ai会仅赋权给管理者,并要求管理者绝对遵守‘全人类互助原则’。只要是人类,无论你是死刑犯,还是没有钱的平民,来到ai的识别范围,管理者就一定要救,而且绝不伤害任何一个人类。因此人们会信任管理者,从而保持希望。”
一个不赞同的声音打断他:“那管理者要承担的代价太大了,这剥夺了管理者反击的权力,管理者会被失智的流民撕碎的。”
“亲爱的,这是第二个点了。不聪明的管理者,很遗憾不能在大灭绝中活下来。而聪明的管理者会找漏洞。他们会发现,虽然ai禁止了他们伤害其他人类,但没有禁止那些非管理者。如果他们能组建他们的势力组织……他们就能轻轻松松地掌握整个庇护所。这是一个筛选过程,人类想活着,必须理智。”
不赞同的声音仍在继续:“你太小瞧人类的劣根性了,你是让一个极权者拥有顶级ai的全部权限!没有了约束,他们会先把老人清除,再把病人冻死,让拥有某种特征的群体成为奴隶,或许是不同肤色的人,或许是女人,或许是其他异类……人类总会自寻灭亡……”