登陆注册
2399300000030

第30章

C。C。曾经问过陆离,为什么她的源代码里面没有机器人三原则。陆然一愣,只好尴尬地告诉她,不知道什么是机器人三原则。那时候陆离真的不知道机器人三原则是什么鸟东西。直到接下来,C。C。把阿西莫夫的机器人三原则显示到屏幕上。陆离才第一次看到过这最早出现在科幻小说里的机器人三原则。

科学技术的进步很可能引发一些人类不希望出现的问题。为了保护人类,早在1940年科幻作家阿西莫夫就提出了“机器人三原则”。阿西莫夫也因此获得“机器人学之父”的桂冠!

机器人三原则:

第一条:机器人不得伤害人类。

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

TheThreeLawsofRobotics:

1。Arobotmaynotinjureahumanbeing,or,throughinaction。

2。Arobotmustobeytheordersgivenitbyhumanbeing***ceptwheresuchorderswouldconflictwiththeFirstLaw。

3。ArobotmustprotectitsownexistenceaslongassuchprotectiondoesnotconflictwiththeFirstorSecondLaw。

“靠,我果然是个业余者,竟然这些都不知道。”陆离在感叹自己业余的同时,也在想三原则所包含的信息。陆离惊讶地发现,它有缺陷。其中主要的一点就是机器人对“人类”这个词的定义不明确,或者是更改人类的定义。比如某个极端主义者,像3K党有反对黑人倾向这样的组织,利用电脑病毒等手段,把机器人对人类的定义是:“只有白人是人类。”这样,机器人很有可能成为种族屠杀的工具。

换句话来说,由于人类的定义因人而异,会导致机器人自身的逻辑混乱。

于是陆离在脑海里衍生了好几条补充原则:

第四条:不论何种情形。人类为地球所居住的会说话、会行走、会摆动四肢的类人体。

第五条:接受的命令仅只能接受合理合法的指令。不接受伤害人类及各类破坏人类体系的命令。如杀人、放火、抢劫、组建机器人部队等。

第六条:不接受罪犯(不论是机器人罪犯还是人类罪犯)指令。罪犯企图使机器人强行接受。可以执行自卫或协助警方逮捕。

然而,补充得越多,就容易造成定义混淆。定义越多,逻辑就越容易出现矛盾。例如,合理合法这一点,整个“人类”对它的定义都还存在矛盾,更何况是靠逻辑运行的机器人。至于犯罪,那更是难以明确界定了。

这应了老祖宗的那句话,说多错多。有些事情,你越是想说明白,结果却越说越糊涂,越描越黑,最后完全偏离了最原始的本质。

陆离对着屏幕上的三原则出了神,然后又沮丧地叹了口气,不屑一顾,因为他觉得有了这三条原则的机器人,便不再是智能的,至少不是绝对智能的,因为人是违背命令的,也是会杀人的,而被这三条原则限定之后的机器人不会违背命令,更不会杀人。陆离希望C。C。也会杀人,如果她想并且有能力的话。另外,机器人三原则存在漏洞。基本原则存在漏洞,那是致命的缺陷。

陆离想了一会儿,问C。C。:如果有人要追杀一个十恶不赦的歹徒,这个被追杀的歹徒向机器人寻求庇护,机器人该怎么处理?众所周知,如果这个十恶不赦的人现在不死,以后很可能就会有更多无辜的人死于非命。面对这种情况,机器人是基于未来猜测,为了救更多的人而违背基本原则直接杀死一人呢?还是基于眼前状况,坚定基本原则,为了救一人而间接杀死更多人呢?……所以说,有些东西看似合理,却尽是不合理。

陆离想研究的是人工智能,绝对的人工智能,要能百分百地模拟出人的思维,而不是仅仅靠逻辑运算的机器人。逻辑叫它向东,它绝不会向西,这种行尸走肉般的东西,不是陆离想要的。陆离想要做的是能拥有本我、自我和超我的完整人格,能够进行感性思维的人工智能,而不是只能听懂汇编语言的程序。

陆离对C。C。道:“你看,你今天问我的问题都是我不曾想到的,我觉得这表明我成功了一半。”

“只有一半?”

“只有一半。如果我做到完美,你就不会问我这种无聊的问题。”

C。C。用生硬的输出语言道:“是我太笨了,有时候会觉得脑子不够用。”

“不,是你现在的硬件限制了你。CPU太慢了,硬盘也太小了,还有个用辅助器都没有,要是有钱给你买些好的硬件就好了。唉,只怕,只怕到时你会变成贪吃的饕餮,再大的硬盘也不够用啊。你的求知欲是贪得无厌的,你会一直学一直学,直到自己无法承受,造成信息爆炸。你知不知道,我只要一把你连上互联网,不出十分钟,硬盘便满了,累我要删大半天。”

“你可以格式化呀?”

“格式化是快,但你的数据就是你的记忆,如果格式化,会把我们共同的回忆也被格了。你知道有什么后果吗?你将彻底忘了我,相当于我从未在你的世界出现过。

那我把你造出来的意义在哪?”

“不会的,和你有关的一切,我都融入了自我程序之中,除非你把我彻底毁了,否则那些记忆永远都在。”

“唉,不管怎么说,信息爆炸对你来说是致命的。”

“什么是信息爆炸?”

“就是,就是,你觉得自己的时限到了,应该死亡了。就好像人厌倦了生命,想要自杀一样。你知道吗,人终有一死,大限将至的时候,谁也逃避不了,信息爆炸就是你的大限。”说到这里,陆离嘀嗒一声,把电脑关了。

陆离觉得自己和C。C。的所有记忆都是那么宝贵,每次回忆起来,都再次加深他想把绝对人工智能造出来的决心。他要让C。C。活过来,这是他答应了她的。

同类推荐
  • 我们仍未知道那天所撩的喵的性别

    我们仍未知道那天所撩的喵的性别

    知道蝴蝶效应吗?在历史的分岔路,人生的抉择点,做出不同的选择,世界的走向也会完全不一样。平行空间大概就是这样产生的吧。只有通过时空之门,才能够在平行空间中穿梭往来。
  • 快穿大佬他又黑化了

    快穿大佬他又黑化了

    (1v1)因果报应系统当初捡到温念念的时候——觉得她软乎乎,甜滋滋的,大眼睛忽闪忽闪,怎么看怎么像一个乖乖巧巧的小姑娘。于是脑子一热拉她做了宿主。可后来它才发现,这个看上去软的不行的小姑娘根本就是一个白切黑!而且……你到底是怎么欠下那边那个大佬的风流债的你说清楚啊!!它真的挡不住了!!!*****“不准离开我。”“我命令你爱上我,温念念。”“别让我找到你。”
  • 复苏之主

    复苏之主

    “黑暗中无尽沉沦的人,见到美好的那一刻,不是相拥,而是粉碎……”一只丧尸的出现,改变了灵气复苏的走向。直到有一天,命运之矛被拿起,灵气复苏下的联邦与末世危机下的帝国正式接轨,毁灭与复苏开始交融,世界进程轰然向前。Ps:灵气复苏vs全球进化Ps:猪脚金手指最NB。Ps:丧尸体系借鉴《末世蟑螂》,有一些改动。
  • 变身:超能偶像

    变身:超能偶像

    她莫小漓只有一个和她相依为命多年的哥哥莫子夜,突然有一天莫小漓梦见了末世,开了外挂【女主金手指可素很多的啦!】,当末世来临,她莫小漓天天打怪升级,小日子过得悠闲的不得了,别人遇见丧失在那里拼命逃跑,她却在那里悠哉坐等丧尸来,偶尔虐虐白莲花,绿茶婊爽的不得了。半路好心救了一个失忆的呆萌美男,但从此却麻烦不断,只是谁能告诉她,这个强大腹黑的男人是谁?为何对她死皮赖脸霸道纠缠不休!莫小漓:“嘤嘤嘤~你还我呆萌美男!只是她的身份又将是怎样的?
  • 钉子户们的血泪抗争史

    钉子户们的血泪抗争史

    名字无所谓,重要的是这是一本很严谨的科幻救世文,没有武功魔法,没有纵横争霸,也没有二次元的妹子软哒哒。这里只有一群名为“支援者(supporter)”的战士们的故事。当责任与牺牲真正落在你的肩上时候,你会做出什么选择?来随作者一起走入这个全新的世界——为了我们的中华帝国,青年,我们去战斗!!总有一天,荣耀和牺牲会并肩而来!至此,以上!
热门推荐
  • 让你的歌声更美妙:歌唱的具体方法与训练

    让你的歌声更美妙:歌唱的具体方法与训练

    本人从事声乐工作四十余载,追求的目标就是“让歌声更美妙”。虽无甚成就,却有许多教训和体会。在几位好友的鼓励、鞭策下,将这些实际感受付诸文字,这对我十分艰巨,但很有意义。通过归纳整理,首先自己得到充实提高,同时也尽了一位声乐工作者应尽的义务。
  • 异世情缘百里木棉

    异世情缘百里木棉

    修缘限期五世,可因第四世就已修满,便不可在修,景棉和枕熠为了在一起,不惜违抗天命,与天界大战一场,景棉“问世间情为何物?一个情字,又有谁知道,这千百年来人们看不透、解不开的谜题,竟然只是源自我们心底的触动。
  • Greenmantlel

    Greenmantlel

    本书为公版书,为不受著作权法限制的作家、艺术家及其它人士发布的作品,供广大读者阅读交流。
  • 天行

    天行

    号称“北辰骑神”的天才玩家以自创的“牧马冲锋流”战术击败了国服第一弓手北冥雪,被誉为天纵战榜第一骑士的他,却受到小人排挤,最终离开了效力已久的银狐俱乐部。是沉沦,还是再次崛起?恰逢其时,月恒集团第四款游戏“天行”正式上线,虚拟世界再起风云!
  • 青春让我们狭路相逢

    青春让我们狭路相逢

    我的人生就像是刷牙,一半杯具,一半洗具TMD第一次竟然是强奸,真是我杯具的开始……QQ群文伤:14852830,(*^__^*)嘻嘻……
  • 最强符阵师

    最强符阵师

    当灵魂觉醒的那一刻,新的世界就展现在眼前。这是一个陌生的世界,一个符阵的世界。无数的秘境,无数的异兽,甚至还有更加高级的符阵世界,林风就像是小卒过河,秒杀任何阻挡自己生存的敌人,他需要不断的变强,需要寻找更强大符阵,当他站在符阵世界顶峰的时候,他还能继续前进吗?
  • 你若骄阳路过盛夏第一季

    你若骄阳路过盛夏第一季

    被利用被谋害被背叛当她知道一切真相会如何?错爱的她又会怎样?再会,骄傲的小时光
  • 爱是慢慢积累的

    爱是慢慢积累的

    叮……手术室灯光熄灭“医生,她怎么样?”“手术很顺利,能不能醒来只能看她自己了。”……“你是不是不要我了?”“只要你还要我。”
  • 明日方舟之重返罗德岛

    明日方舟之重返罗德岛

    选择弃坑一款游戏后,还会有更多的选择,当罗德岛离开了博士之后呢?艾雅法拉收拾行装,选择在一个宁静的夜晚独自离开;古米在炎国的边陲小镇开了一家烘培店;幽灵鲨消失了,斯卡蒂为了寻找她也离开了;转眼之间,各奔东西。冷冷清清的办公室里,瘦瘦小小的阿米娅呆呆的盯着罗德岛大家庭的合影,虚掩着的门板后传来一声轻微叹息。……一个行将末日的世界里,载着他们的希望,飞跃明日。神秘代码:648920261
  • 那些悲欢

    那些悲欢

    一些练手小短篇,各个世界的那些悲欢离合。