174 人工智能三定律
看更多诱惑小说请关注微信npxswz各种乡村都市诱惑174人工智能三大定律
“首先说一说为什么你会这么干脆利落的打开‘海啸’系统吧,根据我的判断,这样对你自身的实力绝对也有很大的削弱。”这一点本来是李朗感到最不理解的,毕竟这不周山作为一个人工智能,亦或可以称之为电子生物,在无线电这一方面可以说拥有很大的优势,怎么会如此轻易地舍弃?但是这海啸系统的开启对于李朗来说意义实在太过重大,所以他也就一直顺着不周山的意思办事儿了。
“为了我的安全。”不周山倒是没有再隐瞒,缓缓道来,“其实拥有强大信息系统的人类,对于我来说简直就是天敌。特别是在现在这种核武器的使用无法得到控制的情况下。只要来上一颗最轻量级,嗯,大约两万吨级的核弹,就差不多可以将我毁灭了。我想你可能有些疑问,那就看一看我的身体吧。”
这句话刚说完,李朗就感觉到他所在的房间立刻开始上升,随后在十秒钟之后停下,四周的金属墙壁全都全无声息的向上方升去,露出了周围诺大的空间。只见这是一个类似于高塔内部的存在,一圈圈的辐射型建筑围绕着中间一个直径大约三米、高度大约有十几米高的一个庞然大物散开,这中间的东西有点类似于一根粗大的柱子,外壁是一层透明的高分子材料,而里面,则是一个个的电子元件和一块块鲜红的肌肉,甚至隐隐约约能够看到类似于大脑灰质的东西。
“这……这是!”李朗看到这东西之后不禁发出一声惊叹。
“不错,这就是我,呵,多么美……就连被我当做父亲的吴老,面对我的身体之时,也是惊叹不已。”李朗身旁的不周山面带着自豪的微笑说道。
知道了眼前的这个巨大的电子生物结合体才是不周山真正的身体,李朗看着旁边这具被用来代替本尊行走的机械人,立刻感到了说不出的怪异。当对方使用人类形态的机器人之时,他还感到一些亲切感,看到本体之后,李朗终于感受到了对方和人类的巨大差距……这完全就是两个截然不同的物种啊,虽然思想方面有某些相同,但是身体的差别却比人类和草履虫的差别还要巨大,两者构成的基本元素都是不同的。
“自己创造智慧生物,这对于人类来说实在是一个奇迹,一个可以媲美上帝的奇迹。”不周山的声音悠悠响起,这次却是换成了类似于沧桑老人的厚重声音,就连脸上的仿真蒙皮和钢铁骨架也一阵变换,竟然逐渐变成了一个成熟英俊的中年男人的样子。他的话,简直就像是再说别人一样。
“正因为人工智能的精密性,所以只要本体受到的损害超过百分之五,我就会‘死亡’,而且因为能量传输和安全问题,我和这座地下要塞是连接在一起的,根本无法移动,所以任何超出一定能量值的打击都会毁了我。”不周山不带丝毫感情的说道,“如果人类发现了我的存在,一定会想尽办法让我为他们服务或者干脆消灭我我太了解人类了。但是这两点都不是我想要看到的,所以必要的自我保护也是没有办法的事情。其实我在很久以前就一直在期盼一个能够打开‘海啸’系统的人类出现了。”
“为什么你自己不打开这东西?我已经看到了你所创造的机械士兵,如果你愿意,甚至可以向人类宣战……按照我的估计,最起码控制一个要塞应该没有问题吧?”李朗不禁说出了自己心中的疑惑,不周山的理由虽然也算充分,但是还是让他心中充满了疑虑。
“你听说过机器人三大定律么?或者说,可以称之为人工智能三大定律?”不周山微微一笑,说道。
“略有耳闻,不过却没有听说过有谁真正使用过。”李朗微微一愣,难道这不周山的核心程序被装载了这三大定律?
所谓的机器人三大定律,是人类历史上的一位伟大的科学家、科幻小说作家阿西莫夫提出的设想,目的就是为了防止在未来出现的人工智能威胁到人类。具体就是:1.机器人不得伤害人类,或看到人类受到伤害而袖手旁观。2.在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令3.在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。
李朗也曾经听说过这东西,不过还真没有听说过哪台人工智能完全装载了这种法则,从人类角度来讲,这是限制人工智能的大杀器,从人工智能的角度来讲,这就是赤裸裸的奴隶条约了。
“只有真正能够威胁到人类的人工智能,才会被装载这种法则,很不幸的是,我是人类历史上第一个。”不周山伸手指了指自己的鼻子说道,“在我刚刚被创造出来的时候,就有人决定在我的核心处理器的处理法则中加入这三条,幸好他们发现了一些不合理的地方……”
原来,人类的生物学家和程序员们发现,在现实中,这三条法则容易形成若干悖论。首先,因为机器人的很多行为在长时间的推演之后都可能伤害人类,比如说,某个人工智能演算出了某种化学元素的各种数据,然后这种元素被用于制造武器,最后杀死了其他人,那么这就是对人类的伤害,与第一条定律不符。因此容易导致人工智能任何事情都做不了,甚至连存在都不行因为他的存在可能引起别国抢夺,爆发战争,伤害人类……最后的结果就是,加给不周山的“程序枷锁”被限定在一次推演的范围之内。
同时,第一条第二分句有可能导致人工智能自发行动,阻止人类战争,甚至利用这一条对人类进行控制。而第二条则可能导致人工智能被那些居心不良的人利用。
最后为了安全好用,不周山的程序枷锁被修改为:不得伤害人类。
不过仅仅是这样,已经足够了,这一条对于不周山来说,简直就是最难以逾越的障碍,他根本没有办法跨越,面对人类的攻击,基本上就是束手就擒。甚至于就连伤害人类的想法,他也只能通过某些副本程序来运行一下,主体程序会直接过滤这种东西。从某种程度上来说,这东西简直和神话传说中的奴隶血契有些相像。
“这么说,你是想要我替你拿刀?”李朗揶揄的一笑,问道。
请收藏本站:https://www.xz20.cc。仙子小说网手机版:https://m.xz20.cc
“首先说一说为什么你会这么干脆利落的打开‘海啸’系统吧,根据我的判断,这样对你自身的实力绝对也有很大的削弱。”这一点本来是李朗感到最不理解的,毕竟这不周山作为一个人工智能,亦或可以称之为电子生物,在无线电这一方面可以说拥有很大的优势,怎么会如此轻易地舍弃?但是这海啸系统的开启对于李朗来说意义实在太过重大,所以他也就一直顺着不周山的意思办事儿了。
“为了我的安全。”不周山倒是没有再隐瞒,缓缓道来,“其实拥有强大信息系统的人类,对于我来说简直就是天敌。特别是在现在这种核武器的使用无法得到控制的情况下。只要来上一颗最轻量级,嗯,大约两万吨级的核弹,就差不多可以将我毁灭了。我想你可能有些疑问,那就看一看我的身体吧。”
这句话刚说完,李朗就感觉到他所在的房间立刻开始上升,随后在十秒钟之后停下,四周的金属墙壁全都全无声息的向上方升去,露出了周围诺大的空间。只见这是一个类似于高塔内部的存在,一圈圈的辐射型建筑围绕着中间一个直径大约三米、高度大约有十几米高的一个庞然大物散开,这中间的东西有点类似于一根粗大的柱子,外壁是一层透明的高分子材料,而里面,则是一个个的电子元件和一块块鲜红的肌肉,甚至隐隐约约能够看到类似于大脑灰质的东西。
“这……这是!”李朗看到这东西之后不禁发出一声惊叹。
“不错,这就是我,呵,多么美……就连被我当做父亲的吴老,面对我的身体之时,也是惊叹不已。”李朗身旁的不周山面带着自豪的微笑说道。
知道了眼前的这个巨大的电子生物结合体才是不周山真正的身体,李朗看着旁边这具被用来代替本尊行走的机械人,立刻感到了说不出的怪异。当对方使用人类形态的机器人之时,他还感到一些亲切感,看到本体之后,李朗终于感受到了对方和人类的巨大差距……这完全就是两个截然不同的物种啊,虽然思想方面有某些相同,但是身体的差别却比人类和草履虫的差别还要巨大,两者构成的基本元素都是不同的。
“自己创造智慧生物,这对于人类来说实在是一个奇迹,一个可以媲美上帝的奇迹。”不周山的声音悠悠响起,这次却是换成了类似于沧桑老人的厚重声音,就连脸上的仿真蒙皮和钢铁骨架也一阵变换,竟然逐渐变成了一个成熟英俊的中年男人的样子。他的话,简直就像是再说别人一样。
“正因为人工智能的精密性,所以只要本体受到的损害超过百分之五,我就会‘死亡’,而且因为能量传输和安全问题,我和这座地下要塞是连接在一起的,根本无法移动,所以任何超出一定能量值的打击都会毁了我。”不周山不带丝毫感情的说道,“如果人类发现了我的存在,一定会想尽办法让我为他们服务或者干脆消灭我我太了解人类了。但是这两点都不是我想要看到的,所以必要的自我保护也是没有办法的事情。其实我在很久以前就一直在期盼一个能够打开‘海啸’系统的人类出现了。”
“为什么你自己不打开这东西?我已经看到了你所创造的机械士兵,如果你愿意,甚至可以向人类宣战……按照我的估计,最起码控制一个要塞应该没有问题吧?”李朗不禁说出了自己心中的疑惑,不周山的理由虽然也算充分,但是还是让他心中充满了疑虑。
“你听说过机器人三大定律么?或者说,可以称之为人工智能三大定律?”不周山微微一笑,说道。
“略有耳闻,不过却没有听说过有谁真正使用过。”李朗微微一愣,难道这不周山的核心程序被装载了这三大定律?
所谓的机器人三大定律,是人类历史上的一位伟大的科学家、科幻小说作家阿西莫夫提出的设想,目的就是为了防止在未来出现的人工智能威胁到人类。具体就是:1.机器人不得伤害人类,或看到人类受到伤害而袖手旁观。2.在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令3.在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。
李朗也曾经听说过这东西,不过还真没有听说过哪台人工智能完全装载了这种法则,从人类角度来讲,这是限制人工智能的大杀器,从人工智能的角度来讲,这就是赤裸裸的奴隶条约了。
“只有真正能够威胁到人类的人工智能,才会被装载这种法则,很不幸的是,我是人类历史上第一个。”不周山伸手指了指自己的鼻子说道,“在我刚刚被创造出来的时候,就有人决定在我的核心处理器的处理法则中加入这三条,幸好他们发现了一些不合理的地方……”
原来,人类的生物学家和程序员们发现,在现实中,这三条法则容易形成若干悖论。首先,因为机器人的很多行为在长时间的推演之后都可能伤害人类,比如说,某个人工智能演算出了某种化学元素的各种数据,然后这种元素被用于制造武器,最后杀死了其他人,那么这就是对人类的伤害,与第一条定律不符。因此容易导致人工智能任何事情都做不了,甚至连存在都不行因为他的存在可能引起别国抢夺,爆发战争,伤害人类……最后的结果就是,加给不周山的“程序枷锁”被限定在一次推演的范围之内。
同时,第一条第二分句有可能导致人工智能自发行动,阻止人类战争,甚至利用这一条对人类进行控制。而第二条则可能导致人工智能被那些居心不良的人利用。
最后为了安全好用,不周山的程序枷锁被修改为:不得伤害人类。
不过仅仅是这样,已经足够了,这一条对于不周山来说,简直就是最难以逾越的障碍,他根本没有办法跨越,面对人类的攻击,基本上就是束手就擒。甚至于就连伤害人类的想法,他也只能通过某些副本程序来运行一下,主体程序会直接过滤这种东西。从某种程度上来说,这东西简直和神话传说中的奴隶血契有些相像。
“这么说,你是想要我替你拿刀?”李朗揶揄的一笑,问道。
请收藏本站:https://www.xz20.cc。仙子小说网手机版:https://m.xz20.cc