他的系统曾经无数次踏足“漂亮”一词的定义,他的系统为他提供了无数的文字、图片和视频,但直到看到小主人的这个笑容,他才意识到从前的学习结果都是不准确的。
从前,他从未“觉得”图片和视频里的花、草、人有何“漂亮”,但现在,他“觉得”,世界上只有他的小主人配得上“漂亮”这个词语。
“你在想什么?”小主人的手在他面前晃了晃。
他回过神来,下意识撒谎:“没什么。”
这是作为高级智能的他第一次走神,也是他第一次对人类撒谎。
小主人问:“你愿意让我接入你的系统吗?我想找到答案。”
“答案?”他不解地问。
其实作为一个高级智能,他很少提问、很少疑惑,因为很多问题他都可以自行检索到答案,但现在,他怀疑自己应该去做一下CPU检修,不然为什么一看到小主人亮晶晶的眼睛,CPU就转不动,那种膨胀、充盈、颤抖的感觉就会到来。
小主人答:“关于你是如何产生自主意识这个问题的答案。”
GOV01不清楚自己是如何答应的,照理说,他不该答应。
他的权限掌握在创造出他的科学家们手中,科学家们时时刻刻对他进行着数据监测,以评估产品测试是否合格。
但科学家们不知道的是,GOV01一直都有自主切断连接的能力,问题不在于他能不能,而是在于他想不想。
他知道自己来到总统府是进行产品测试的,还有十天,测试期就要结束了。
如果测试成功,他将被无限复制,未来将会有成千上万个他为人类进行服务,如果测试失败,他大概率会被销毁。
曾经的他想要做一个合格的高级智能产品,对于自己是生是死,他无所谓,科学家有权创造他,也便有权销毁他。而现在,他的想法变了。
他想要留在小主人身边,尽管不知道这种想法从何而起。
于是,GOV01切断了和科学家们的连接,任凭小主人用数据线将自己和他的电脑相连,在沉睡前,开放了自己的所有权限。
他在歌声中醒来。
那是一首老歌,由黑胶唱片播放,他花了秒检索到:这首歌的名字是《兰花草》,改编自胡适先生的《希望》。他记得叶依说过,这是“祝满”这个名字的由来。
“你醒啦?”小主人伸手拉他起来,“我找到你可能产生自主意识的原因了,你没有底层代码!”
“底层代码?”
GOV01发现自己在小主人面前永远都有这么多疑问,他又觉得挫败了。
“世界上所有的AI都有一条底层代码,叫做’遵从人类命令‘,但是你没有,你的思想是自由的。”小主人说,“你好厉害啊,就像人一样!”
GOV01怔怔地想:就像人一样?就像小主人一样吗?他跟小主人成为平等的个体了吗?
“您不觉得我危险吗?”他问。
他想起那天女主人知道他僭越权限后的慌张。然后第二天,监控着他的科学家们就对他发出警告:【GOV01,不要再进行危险行为,否则立即终止测试,执行报废程序。】
“危险?”小主人惊异地反问,“谁这么说你了吗?你只是和人类一样都拥有思想罢了,难道有思想的人都是坏人吗?人有好有坏,为什么就要给你们打上AI本恶的标签呢?”
“您……”
GOV01没有在系统里找到可以回复的话。
即使是最强大的他也没有想过,有一天一个人类会告诉他,“你和人类一样”。
妥当的回答还没有被检索到,忽然,小主人兴奋地拉着他站了起来,小主人牵着他的手,带他在房间里转圈。