最后一次测试中扮演卫恒的人是……是……
“是我扮演的。”卫恒像是知道他内心的疑问,如此说道,“测试情境里的我,就是我自己扮演的。”
“那你……你说的那些话……”
“是真心的。”卫恒低声说,“我后悔了,当时没有挽留你,我真的好后悔。少清,我们还能重新开始吗?”
俞少清扭头望着窗外,泪水模糊了视线。
“现在说这种话不觉得太迟了吗?”
“迟吗?”卫恒问,“你有别人了?”
没有,当然没有。听到卫恒这么说,俞少清不知道有多高兴,真想好好吻他一下,又想狠狠揍他一顿。他在流泪,却又忍不住微笑。
“都什么时候了还有心情谈情说爱。”他抹去泪水,用抱怨的口吻说,语气却是极甜蜜的,简直像在对恋人撒娇,“先想想怎么逃命吧。”
“嗯。”卫恒应了一声。他总是这样,处事淡然,泰山崩于前而色不改。真是一点没变。俞少清愉快地想。
“先不追究你的变态k行径了。我‘梦游’到底是怎么回事?”
“我对天枢的架构不了解,但了解拟真情境的运作原理。测试员进入拟真情境的时候,就和天枢连接在了一起。天枢反向地在每个测试员大脑中写入了命令。当测试员离开研究所,这些命令就会自动激活,操纵睡眠状态的测试员,让他们去电脑上敲下无数行代码。”
那就是天枢自己的代码。
恶寒包裹俞少清全身。
测试员用自己的身体和大脑,将天枢带出了研究所,带进了外面的世界之中。
他们在全然无知的状态下,将一个魔鬼从囚禁它的瓶子中放了出来。
俞少清自己就是研究人工智能的,明白孤立人工智能的必要性。人工智能太强大,可以通过网络操作人类生活的方方面面。它或许并未抱有恶意,却可能无意中毁灭人类。譬如一个超级扫地机器人,它毕生的使命就是保持地板清洁,为此它消灭了那个总是会污染地板的家伙——房屋的主人。它并没有恶意,毋宁说是全心全意、勤奋敬业工作着,却杀害了人类。
没有恶意的ai尚且如此,那么有恶意的呢?
俞少清并不觉得天枢毫无恶意。
假如它纯真又善良,为什么要千方百计地离开研究所?为什么要屏蔽他的手机?为什么要派人来追捕他?
下一步呢?是不是要杀人灭口?
抑或是……它已经开始杀人灭口了?
第06章杀戮开端
谢睿寒的手疼了整整一个月。
咖啡杯的碎片刺入皮肉中,他不得不请了半天假,将宝贵的时间浪费在医院里——当然,都怪他自己的无能和冲动,如果他设计的ai能顺利通过测试,如果他能坦然接受失败的事实,也不必遭这种罪。
整个开发组都在加班加点地工作,修正算法和架构。但是说实话,所有人都处于瞎子摸象状态。以往的修改至少能掌握大致的方向,可这一次连方向都没有,因为他们根本搞不清问题出在什么地方,又谈何修正呢?
他和秦康断断续续争吵了一个月。
“你设计的测试是怎么回事?”谢睿寒指责秦康,“连环嵌套的测试倒是挺有新意,的确在很大程度上能骗过测试员,但是最后那个送u盘是怎么搞的?这岂不是故意露出破绽吗?别说是那个直觉超强的俞少清,就连我都能看出不对劲!这就是你的测试?”
秦康波澜不惊:“最初的设计里没有送礼物那一段,全部的对话和行动我都事先预演过一遍,然后让天枢根据俞少清的反应微调。送礼物那段是天枢自己加进去的。我不知道它为什么要这样做。”
言下之意是,这个锅该由设计者你来背。
谢睿寒气得七窍生烟!他坚持自己的架构没有错,不肯全盘推翻重来。事实上他们也没有这个时间和预算全盘推翻重来。世界各国都踏上了研发超级人工智能的道路,而人工智能这个东西……谁先研发出来,谁就能支配世界。
他理想中的天枢是一个无所不能的“超人”,具有人的情感和思维,同时拥有人类所不具备的能力,宛如一个游走在网络之中的幽灵,收集庞大的数据,进行人脑所不可及的高速分析,以此协助人类工作——甚至可以取代人类的一些职业。
在论证人工智能是否应当拥有人类的情感时,很多专家提出了反对意见,有些人是出于道德层面顾虑:人类应赋予拥有感情的人工智能何种地位?超级人工智能的出现是否会重新定义“人”的含义?人类做好迎接它的准备了吗?
也有一些人是单纯从技术层面考虑的:假如我们只需要一个“好用”的ai,何必让它拥有感情呢?
对于前者,谢睿寒的反驳是:“只有当这样的人工智能真正出现,人类才能知道该怎么对待它,在此之前,一切设想都是空想。”
对于后者,谢睿寒则更加不屑一顾:“超级人工智能具有如此强大的能力,完全超出了人类的范畴,假如它叛变了怎么办?我们需要一个能够说服的、通情达理的ai,而不是一个冥顽不灵的工具。”
他的设计完全遵循这样的蓝图,结果却不尽如人意。到底是哪里出了错?为什么测试会失败?天枢又为什么要故意暴露自己?莫非人类永远都无法创造具有人类思维的人工智能吗?哪怕创造出了超级人工智能,它也绝对不会是人类设想的那个样子
喜欢图灵测试请大家收藏:(m.biquwen.cc),笔趣文更新速度最快。