(在古希腊神话里,主持正义和秩序的女神是忒弥斯(theis),据说手里掌管善恶的天秤成为了日后的天秤座)
这个办法起源于上个纪元人类的古老传统,当时的人们排队丢下陶片,来裁定一个人是否有罪。忒弥斯的判断依据和这类似,只不过它背后依靠的,是多达三十亿的仿人机械智能。
当面对一个道德困境,比如让电车杀掉一个人还是五个人时,只需将其交给忒弥斯,它就会把这一问题交给系统内的每一个子系统进行讨论。最后会得出一个比例。比如,它对于电车难题的解答是,由于子系统大部分支持拯救五个人,因此,应该牺牲那个无辜的家伙。
忒弥斯和一个判案的法官一样,在那些清晰的问题上从不犯错,在一些人类难以分辨的难题中也能坚持正义。但是它仍旧暴露出了大量的运行问题。
比如,作为运算主体的子系统的采样,是以一个贵族阶级为基准的。所以在系统运行于平民家庭时,面对当地少数族裔的家庭继承问题,这些子系统秉持着基本的继承理念予以判断——却引发了当地群众的严重不满。尽管忒弥斯尽可能地屏蔽了阶级主义的影响,却还是会使系统在面对一些侮辱性案件中,采取十分偏激的判断。
再比如说,系统只是武断地将子系统的男女比例设置为一比一,却没有考虑到实际人口比例。这就导致了一些十分怪异的判断,比如在女子监狱中,女性狱警们希望削减男厕所的数量,却被判为非法。
收入也没有被考虑到。当时开发忒弥斯的两个程序员显然没有考虑到世界上仍存在大量的低收入群体,导致了一些面对穷人的不公。比如,“富人为学校捐钱可以换取入学资格”这种事,他们认为并不算坏,因为捐助可以让学校发展得更好——却忽视了由此可能导致的可怕后果。
在忒弥斯20系统中,开发人员吸取教训,从全球人群中抽样出一个群体,用他们的特征来训练子系统,然后再将数量扩增至60亿,来具体判断一件事的性质,或者说,它“是否符合道德”。
抽样人群多达数万人。人类的大部分道德评判要素都被这些人概括:性别,阶级,信仰……开发人员相信,这一系统可以为一切道德困境,做出二元的判断。
这一年便被划为新控制论时代开始的元年。它的诞生带着历史的必然:随着全球经济与人口素质的提高,人们越发呼吁一种可以仲裁一切终端的强力机器。这一机器的物质实体是正冉冉升起的世界政府,而它的内在构造,就是忒弥斯等一系列道德评判系统。
小到夫妻吵架,大到超级大国间的争端,由于热核战争之后人们对武力的极端厌恶,所有人都趋向于使用文明的方式来解决。而如果使用法官审判,谁来审判法官?如果使用陪审团讨论,又如何顾及法庭之外,亿万芸芸众生?
但也不能真的让一切事情都交给一切人来评判。总不能因为你和水管维修工的纠纷,就叫数十亿人进行一场只有两个选择的投票。
代替人类进行评判的系统必须存在,它还必须尽可能接近人类群体本身。
如果把全人类比做一个巨人,那忒弥斯20就好比一个侏儒。虽然小得多,却仍旧五官完整,四肢健全。
忒弥斯20很好的处理了大量的疑难问题。比如,“老婆和妈掉水里了该救哪个?”的答案认为应该救妈。毕竟不是每个人都有老婆,但基本每个人都有妈。