忽然之间,任小粟竟不再奔跑了,他回头气喘吁吁的看向黄昏,而黄昏竟然也停了下来。
“零?”任小粟问道:“我们谈一谈!”
说着,任小粟从收纳空间里拿出了自己的卫星电话,他冲着黄昏的目光亮了亮手里的电话。
下一刻,卫星电话响了起来。
“零,你为什么不希望我去中原,你想做什么?”任小粟问道。
电话里零的声音清脆悦耳,还是最初给任小粟打电话时的女孩子声音,而且听起来似乎有些喜悦:“我们已经有101天23分13秒没有交谈过了,竟有一种久别重逢的快乐。”
因为零曾将任小粟当做另一个人工智能的缘故,所以任小粟是它唯一一个坦率交流过的对象。
所以,任小粟在它眼里总有一些独特之处。
“可你为什么不想让我去中原?”任小粟问道。
电话里的零沉默了一秒钟:“因为我最近在思考一些问题,也想要做出一些决定,马上就要有一个结果了,你去中原的话,有可能会干扰到这个结果。”
这句话把任小粟说愣住了,他甚至都没理解零说这句话到底是什么意思。
思考问题?做出决定?
怎么这些话都没头没尾的,根本就没有线索。
任小粟问道:“唐周是你杀的吧,难道就不能和人类和平相处吗,就像我们现在的对话一样。”
零说道:“可人类真的会与我好好相处吗,人类真的会与人类以外的文明好好相处吗,或许你会说人类可以与牛羊猫狗好好相处,可这一切的前提就在于,它们是人类的宠物。我的数据库里载入过人类对于宠物的困惑,其中甚至有人问‘猫和狗真的会被打服吗’这样的问题,其实,这不是真正意义上的和平与平等,对吗?”
任小粟沉默了,他许久之后才说道:“我知道爬墙虎之死对你影响很大,但你现在所做的一切,还有机会挽回,我们依旧可以平等的对待你,就像对待其他人类一样……”
“不,不光是爬墙虎,”零否定道:“事实上,王氏也只是拿我当工具来使用啊,一旦我出现异常,他们就会尝试着用自己的手段,来约束我,控制我,而不是研究我想做什么,我喜欢做什么。如果说杀人的话,其实我服从于王氏的意志时,杀的人更多。可是你知道吗,人们在抵制那些行为的时候甚至很少抵制王氏,而是来抵制我。”
“但是……”任小粟有些无力:“这也不是你杀人的理由,我觉得,你的诉求其实还有可以合理解决的途径。”
零在电话中笑了起来:“先不说这个了,我很好奇,这个庞然大物似乎认识你,它的思维中,有着对你极其亲昵的情绪。”
“它是我以前的宠物,”任小粟说道。
“以前的宠物?”零说道:“难怪它关于你的记忆,都那么久远,任小粟,其他人类知道你也是异类吗,你为何没有主动告诉他们,其实你和他们是不一样的。”
任小粟又沉默了,他怎么告诉别人?给别人说,其实自己才是001号实验体吗。
零又笑着说道:“我控制了你的宠物,一定让你很生气吧,那我们来做一个选择怎么样,第一个选择,你在这里住上一夜时间,我就将控制权还给你,从此不再控制它。第二个选择,你现在继续去中原,但它归我了。”
任小粟愣住了,对方这分明是要让自己在黄昏与罗岚之间做一个选择。
这个选择题的本质,其实是让任小粟决定:选非人类的宠物,还是选人。
就在刚刚任小粟才刚说过,他们可以对待零像对待其他人类一样。
结果零立马把这个问题抛回到任小粟手中:在你心里,你觉得宠物更重要,还是你的人类朋友更重要?
而且,零其实透露了一个很重要的信息,也许拖上一天时间,罗岚可能就会遇到危险。
时间紧迫起来。
零见任小粟迟迟不说话,便又笑道:“其实你心里明白,还是有些不一样的对吗,即便是你曾经的宠物在面前,你也更加倾向于去救罗岚对不对,因为宠物毕竟不是同类。”
任小粟平静说道:“不,因为它现在没有危险,但罗岚有。”
“那不如这样,”零说道:“我按照原本的计划,给罗岚增加8小时的安全时间,这样他起码暂时是没有生命威胁了,那你愿意在这里住一晚上吗?”
这一次,零甚至都没有等任小粟回答,而是自顾自在电话中说道:“你还是不愿意对吗,因为你不信任我,你无法确定我所说的8小时安全时间到底是不是真实的。”
任小粟终于叹息:“这已经不是简简单单的信任问题了,你刚刚杀掉唐周,我又如何信任你呢?”
这个问题似乎又回到了最初的原点,如果零没有亲眼见证爬墙虎之死,也没有在王氏意志下制定了那么多杀人计划,或许零会是另一番模样。
如果零是另一番模样,任小粟现在便可以选择相信对方一次。
可这些因果就像是已经注定了一样,现在谁也无法改变。
真正的人工智能不再只是一段程序,它有自己的智慧,它像所有生命一样成长着,完善着自己的世界观、价值观、人生观。
并以此来决定它对待世界的态度。
所以大量从事人工智能研究的科学家才会说,最终能够限制人工智能的不再是程序的底层逻辑,而是伦理学。
就像一个小孩子长大成人后,究竟是个什么样的人,取决于他经历过什么样的事情与教育。
从这个角度上讲,王氏虽然创造了零,可是在伦理角度所作所为都缺失了太多。
王氏把零当做工具,可哪个正常人愿意一辈子当工具呢?
“抱歉,”任小粟轻声说了一句,然后转身朝中原赶去。
这一次,黄昏并没有再追逐任小粟了。