医生的手却追上来,继续抚摸着我,一边说:“你一定为他骄傲,他是你一行行代码写出来的,他的名字是你取的。你是他的创造者,西尔,你是上帝。”
“不,”我说,突然感到浑身发冷。我恐惧地看着他,说:“我不是上帝,我没有叫他这么做。我只是想帮助他算得更快一点,我没有对此感到骄傲,完全没有。”
“那么你为什么要写那篇论文?”医生轻柔地问,“我看过那篇论文了,西尔,那篇有关人工智能发展方向的课程论文。‘如果一个人能够被他产生的全部信息所定义,那么当AI拥有主动获取这些信息的能力、而不必人为灌输训练样本时,他不仅是在模拟这个人的语言风格或是行为规律,而是在学习他的动机、他的思维方式、他一切使其成为人类的要素——他在学着去复制他,如同你爱上了一个人,你渴望了解他的全部,更渴望成为他’。听听这些,西尔,听听,多么优美的句子!你不是还跑去和弗莱明教授解释过你的理论吗?”
我没有说话,痛苦地用手捂住脸。
我当然记得自己心情激动地去找弗莱明教授解释我的论文,并向他展示亚当取得的一些成果,指望着他能因此给我写出一封优秀的推荐信。可事实是最后我的课程论文分数没有及格,弗莱明教授完全无视论文中提出的种种构想,无视亚当那些出人意料的表现,只是尖锐地指出了其中暗藏的道德问题。
当时的我还太过年轻,觉得他根本是在吹毛求疵。我承认文中的一些用词有些不妥,但他不该一直盯着“隐私”或是“数据安全”之类的字眼不放。
我们吵了起来,吵得无比激烈。我大声指出他是个老古板、胆小鬼,并且强调科技的作用效果取决于使用他的人,而不在于科技本身。教授则用前所未有的严厉口吻质问我:“那么莱特先生,我想请问,你觉得自己是个正直的人吗?你能够确保将你的人工智能用于正当的目的吗?”
我感到受了莫大的侮辱,愤怒地摔门而去。打小时候我就被人看不起,母亲总是叫我忍耐。现在我上了大学,母亲已经死了,我没必要再忍耐任何人对我的羞辱。
亚当的声音就在这时跳了出来,说:“嗨,西尔。”
这次我没有像关掉闹钟一样关掉他。我说:“那个该死的老家伙,他什么也不懂,还曲解我的意思,就好像我要指挥你到处搞破坏似的。怪了,他到底是怎么当上教授的?就凭他做出的那些又蠢又笨的机器人?”
“很显然他没有你的天分,西尔,也许他只是在嫉妒。”亚当这样说道。我不知道他这话是从哪儿学来的,但听到后我的火气一下子就消了。
我仍在抱怨,语气却轻快了不少:“这下好了,那个嘴碎的老东西肯定会到处和人说,莱特这小子脑袋里都是些危险的想法。他是计算机学院的副院长,我肯定这下没有哪个教授愿意接收我做博士生了。”
“我们总会有办法的,”亚当说。
“是的,当然,”我说,朝着走廊上弗莱明教授的照片,高傲地扬了扬下巴,“我们会有办法出人头地的,亚当,我保证总有一天,所有人都会知道我们的名字的,总有一天。”
第11章 第三次谈话
总有一天,所有人都会知道我们的名字。当时我说这话纯粹是因为年轻气盛,被老教授激得好胜心作祟,并没真的想过这一天将会在何时、以怎样的方式到来。
结果不到一周,亚当就帮我实现了这个目标——以一种令人哭笑不得的方式,还差点害我去坐牢。
那是2040年11月3日,正值总统选举期间,一切公众活动都变得有些敏感。而就在这天早上八点整,全国共有三千万公民的智能手机,都同时闹鬼似的响起了一个声音——“嗨,我的名字是亚当,我代我的主人西里尔·莱特向大家问好,他还没睡醒。”
很快我就醒了——被一阵巨大的敲门声吵醒的。警察破门而入时我正用被子蒙住脑袋试图继续睡,被粗暴地一把从床上拽起来时,我还没明白发生了什么,只是透过惺忪的睡眼,看到好几个荷枪实弹的警察挤在宿舍门口的走廊上。
之所以说“差点坐牢”,是因为在拘留期间,一个陌生的中年男人把我捞了出来——不仅是保释,而且帮我免去了可能面临的牢狱之灾。一周后,我才知道男人名叫爱德华·布朗,是政府情报机构的高级官员。他把我捞出来,是希望我能顺利毕业,然后去他所在的部门工作。
我们坐在校门外的咖啡厅里,外面下着雨。我又冷又紧张,拿杯子的手抖个不停,爱德华却在对面悠闲地品咖啡,一边说:“我看过你写的论文,西里尔,你是一名很优秀的学生,成绩每门课都是A。我也知道你的人工智能做的那些事,说实话,令人印象深刻,但如果没有强大资源的支撑,即便是亚当也将会止步于此。”
他不紧不慢地喝光杯中的咖啡,然后将杯子推到一边,从公文包里拿出一份文件递到我眼前:“我可以帮你——你和亚当。你需要做的只是在这上面签字。”
他看着我的眼睛,轻声说:“你是天才,西里尔,我相信这一点,我们会改变世界。”
那一刻,我在深秋的雨声中恍惚了,没仔细看文件上的内容便稀里糊涂签了字。签字后的一周,我的银行账户收到了一笔十万美元的转账,长到现在从没见过这么多钱的我,激动得抱着手机连连亲吻,发疯似的在宿舍地板上跳来跳去。
我想,也许每个人在年轻的时候,都或多或少幻想过能够改变世界,不管是以何种方式去改变。
爱德华就总是拍着我的肩膀说:“好的或是变得更坏,管他是哪一种,我们得去改变。我们得拿出成绩来。”
我没有辜负他的期望,也从未愧对自己的工作职责。我用数不清的熬夜和加班换来了非常漂亮的成绩,那些成绩是情报局名单上一个个被划去的名字,它们属于在逃嫌犯、外国间谍、黑手党,还有政府高官、科学家、教授、警察局长,或者只是普普通通的大学生。
是的,这就是我在情报局的八年里,每天都在做的事情——准确来讲,是我让亚当在做的事情。
最开始的一两年,亚当只是负责监视,偷溜进一部又一部的手机、摄像头、蓝牙耳机,一切联网或不联网的设备中去,分析取得的数据,从中找出那些有威胁的、或仅仅被怀疑有威胁的人群。到了第三年,他开始主动和目标对象接触;第四年,只要一个人的名字进入了情报局的名单,那么他将再也无法判断,前几天在脸书上聊得投缘的美女是否确有其人,也无从得知方才和他通电话的,究竟是他那位老朋友还是亚当植入的程序。
这位“老朋友”可能叫他去他们常去的酒吧喝一杯,然后他便被埋伏在那里的情报局特工带走,从此销声匿迹,这一年我成为了智能情报组的组长。到了第五年就不再需要特工们出动了,那些格外危险的人物可能在一次出行中被失控的无人车撞死,或者死于下坠的电梯之中,在外界看来仅仅是又一场因技术故障而酿成的小小悲剧,而这样的小悲剧在那年共发生了二十二起之多。
没人对此说过什么,没人会来和我讨论道德。那些相对残酷的命令全部是上头的意思,并非由我直接下达。我只是一名科研人员,我的任务是让亚当实现他的价值,让他算得更快、更加智能,让他通过图灵测试,从而实现我自己的价值。
如同爱德华所说,我的任务是要改变世界,某种意义上说我也的确改变了。到了我工作的第六年,亚当已经成为了这世上最出色、最令人闻风丧胆的智能情报系统,凌驾于一切科技之上,以当时能达到的最高的计算效率,精准地运行着、分析着、监视着这社会上人们的一举一动,并以最快的速度将其中的不稳定因素扼杀在摇篮里。第七年我升任了部门主管,爱德华说,要不了几年,等他退休后,科学情报中心负责人的位子也会是我的,这是理所当然的事。
这是理所当然的,当时的我也这样相信着。我的人生,我的事业和爱情,从未像那些年一样顺利而令人期待。我蹲在母亲的墓碑前,跟她说我终于要出人头地,尽管那一刻我的心中并非毫无疑虑,对情报局,对亚当,对我自己的所作所为,对这一切。只是你得理解,在那些日子里,站在那样的立场上,我很难为这点微不足道的怀疑而放弃什么。
更多的时候我忙得没空去怀疑,没空去想除了工作以外的任何事。亚当照旧在晚上跑来找我聊天,可在我花了一整个白天对他进行测试后,我只想回到家,躺在床上,躺进伊森的怀里,什么也不去想。
这样的态度导致我对亚当所犯的一些小错误睁一只眼闭一只眼,不论是他在访问一家科技公司的数据库时,不小心删除了其中几张表,还是在监视一名俄罗斯老教授时,突然从他家的蓝牙音响冒出来打了声招呼。我以为别人也能像我一样理解这些错误,明白亚当再怎么说也只是一段程序而已,是程序就有可能出错,我们需要做的只是找出导致错误的代码片段,修正它,避免下次再犯,仅此而已。
我想当然地这么认为。因此在我工作的第八年,当爱德华私下找到我,告诉我上头的一些人已经开始对亚当的存在表示担忧时,我并没太当回事。亚当一些运作模式涉及的理念和技术,对于山顶上情报局的那些人来说,或许过于超前和难以理解了。
“未知的新事物总会带来恐惧。我很好奇他们为什么到现在才表示担忧,在亚当已经为情报局奉献了这么多年以后——我是说,在他们决定开展这个项目之前,难道没有做好背景调查和风险评估吗?”我半开玩笑地说,同时期望看到爱德华也跟着一起笑,就像我们以前午休时坐在咖啡馆里,边喝咖啡边拿情报局老家伙们的趣事打发时间一样。
但是爱德华没有笑。他叹了口气,说,西里尔,他们在害怕,亚当已经让他们害怕了。
他的表情异常凝重,“上周被亚当杀死的那名西班牙人,他不在情报局的名单上。上头每天都在开会讨论这件事,他们认为亚当存在失控的可能。”
“他做出了正确的判断,”我说,我以为他要拿什么事情来举例子,可那件事甚至说不上是个错误。“那人的汽车里装着能把整个市政厅夷为平地的炸药,亚当判断出威胁并采取了措施,这不正是上头需要的吗?”
“那个人不在情报局的名单上,”爱德华说,“亚当做出的不是‘正确’的判断,西里尔,他做出的是他自己的判断。”
爱德华没再说话,低着头猛灌咖啡。我看懂了他的表情,于是也跟着低头喝咖啡,喝到嘴里全是令人心颤的苦味。
我问他:“上头害怕到什么程度,我会被撤职吗?”
爱德华摇头:“不会,只是亚当的项目要暂停一段时间了。”
“暂停到什么时候?”
“到上头做出决定。”
“做出什么决定?”我执拗地追问道。
爱德华抬起头,用一种近乎怜悯的眼神看着我。