2206年4月(正确的时间),月球。
“测试结束。结果:人类。”机械女声发出的冰冷声音让整个研究实验中心上上下下几百人开心地跳了起来。
被测试的是一个人工智能,在过去的一个月里,他成功地通过了加强版的图灵测试(区别人工智能与人)、与心理学家、哲学家们在虚拟的世界里探讨问题、在虚拟现实中接受各种人性考验。
结果都只有一个:他是人类。
他是第一个有思想、有感情的人工智能。他叫卡尔斯古。
“正在载入仿生体1.0”机械女声阐述道。
一个半开放的管状设备中,一个如同大卫雕塑的白色机械身躯被安置在其中。
一群人在旁边敲打着全息投影键盘,为一个新生儿的诞生做准备。
一个穿着衬衫却穿戴不整齐的中年男子兴奋地打开了房间的门,他就是埃里克,这次超级人工智能的主席创造者。
“怎么样了?”埃里克大口呼吸着。
“还好,系统运行正常。”房丽文说道,她是设计仿生体的工程师,略微比埃里克年轻一些。“但是还没有将人工智能的主要程序上传进仿生体。”
埃里克站在管状设备前面,两鬓的白发已经被汗水打湿。
“上传主要数据。”管状装置背后荧蓝色的能源装置忽然发出巨大的光芒。
埃里克用手遮住双眼,但还是忍不住注视那指间中投出的光芒。
“主要数据上传完成。正在与基础数据库建立联系。”
管状设备中的仿生体忽然打开了双眼。
埃里克出于本能反应向后退了一小步。
但是内心掩盖不住的喜悦如同磁铁一般吸引着他稳定。
管状设施被立了起来。
里面的仿生体轻微地扭动着自己的头颅,像新生儿一般打探着周围的事物。
埃里克把手放在玻璃板面前,什么话都没说,与那个好奇的仿生体注视着。
那个被设计好黄金比例的机械眼眸,把他紧紧地吸引住了。
====================================================
一天后,地球,联合国纽约总部。高层会议室中。
埃里克经过好几轮的安检和身份确认,终于到了会议室的门口。
一打开门。
一个圆形的桌子,埃里克的面前是一个空的座位,座位的对面依次坐着联合国秘书长,联合国人工智能调控部部长,世界人工智能评估组织主席等等高层官员。
埃里克整了整领带,恭敬地拉出座椅,坐下了。
联合国秘书长先发话了:“那么,埃里克先生。首先恭喜你,研发出了超级人工智能,并且配套地研究出了人工智能的仿生体。”他对着一个厚重的稿子念到,人工智能这四个字念得极其生硬。
“你被邀请到这个会议室来,我们也不说废话了。”他继续说道。“我希望你能签署这份协议。”
埃里克身边的人把一沓厚重的资料递给埃里克。
一看到标题“关于人工智能对人类风险的预防”“呵,果然,我在楼下签完了关于环境友好、科技互助之类的可以公开的文件之后,就要签一些见不得人的东西了。哈哈哈”埃里克嘴角不由自主地露出了微笑。周围的人,却一个个面不改色。
“埃里克先生,我需要提醒您,如果您没有在这份协议上签字,您可能会因为反人类罪而被拘捕。”
“我没有表明自己的态度,先生,您不必那么早威胁。”埃里克的语气又开始严肃起来,“在我翻开这本协议前,我希望你们清楚,我们的团队中,没有一个有军事开发背景,都是机械工程师,人工智能学家,生物学家和化学家等,超级人工智能,卡尔斯古,不会有半点战争用途。我甚至在他的程序中设定反战为最高优先级,比机械人三大法则还要优先。我希望他不会被利用为比核武器更高的存在。”
联合国秘书长点了点头,依旧面无表情地伸出一只手,示意埃里克拿起文件。
埃里克低下头,翻开了文件。
文件用各种语言表达了一下几点的条件:
①卡尔斯古要接受人类军方的检验,评估风险等级,联合国将会为损坏的任何设备买单。
②卡尔斯古的研发团队要帮助各国建立反制人工智能袭击的措施。
③各国组成建立特殊反应部队专门针对卡尔斯古的机库,月球上将建立迅速核打击设施瞄准卡尔斯古的机库。
④永不为任何军事集团提供数据分析及相关人工智能服务。
“还没有风险评估就建立核打击设备?”埃里克略带嘲讽和惊讶的语气说道。“人类纳的税真的是太多了。而且风险评估还会赔偿损坏措施?”埃里克不解地看着眼前的高级官员们。
世界人工智能评估组织主席说道“我们需要真实模拟战场环境。而且多次试验。”
“他只是个孩子,不,是个新出生的生命,你们到底要期盼什么?”埃里克反问。
“它是一个人工智能,埃里克先生,我希望您认清这一点,前人们不缺乏开发超级人工智能的资源,他们不开发是有原因的。”
“怕他毁灭了人类?”埃里克带着戏谑的口吻问道。
“卡尔斯古是一个有自己思想的超级计算机,如果他想黑入哪个国家的军用人工智能机器人,他一定能做到....我希望...”
“你们绝对高估了他,我敢保证。”埃里克反驳道。
“请让实验说话,埃里克先生。”
埃里克咬了咬嘴唇,眼睛看了下四周。
“好,我签。”他拿起钢笔歪歪斜斜地签下自己的名字,这还是他几个月来亲手写的字。