第307章 威胁不仅仅是机器人
收藏【小说123网www.txt123.cc】，元尊小说无弹窗免费阅读！
“主人,在机器人的思考当中,一切都必须符合逻辑,这是机器人思考和看待世界的方式,是有别于人类和智慧生命的方式。”
“在机器人的设计中,发明者为了防止机器人对自己产生伤害,所以会设计出最高的规则,那就是不允许伤害主人。”
“在刚刚的问题中,宙斯有三种选择,要么 左拐要么右拐要么不拐弯,无论哪种选择都会伤害到主人,但是任务还必须完成,所以在三个选择和必须完成任务的纠缠中,它的cpU陷入逻辑死循环,因此高速旋转,身体的能量消耗极大。”
“如果不及时将它从困境中解救出来,它会很快烧坏。”
夜夕也明白叶星不懂,悄声给他解释。
叶星恍然大悟,立刻就理解了机器人的思考方式和正常的人类不同。
人类世界发生的事情是逻辑,运气,情感等各种因素交织的结果,而不单单是逻辑。
比如一个人在沙漠中突然拾到一块狗头金,就完全不能用逻辑解释,那就是纯纯的运气。
但对于机器人来说,就很不可思议,在它的 思维中,一切都必须有原因和结果,原因和结果也应该是可以相互推导的。
“该死的鹰酱,居然将机器人三定理给突破了,居然让宙斯用来杀人,此例一开,机器人凭借着它们强大的身体功能必将对人类造成危害,幸好最后一道关口还是守住了,它们还不会背叛主人。”
叶星耳边传来一个洪亮的声音,转过头一看,正是那个黑框老者。
“王老说的对,刚才它回答问题,我还一直担心它会大手一挥说将人类都给关到家里就没这个烦恼了,结果它陷入死循环了,那咱们就可以放心用它了。”
另一个科学家笑呵呵的说道。
他的话说完,周围的人都哄笑起来了。
叶星听过这个梗,说的就是机器人为了不违背机器人三原则,干脆将人类圈养起来,就再也没有不会有陷入机器人悖论死循环的危险了。
宙斯cpU差点烧坏,说明程序框架还是给人留了一条后路。
“叶星,你赶紧选人吧,我刚才测试过它了,它完全可以通过图灵测试,具备强人工智能的思考方式,虽然会攻击人类,但是不会伤害主人,对人类还是有很大的帮助的。”
那个叫王老的老科学家走到叶星身前,一脸期盼的对叶星说道。
图灵测试,也是测试机器人是否具备强人工智能的一种方式。
就是将一个人和机器人分别放两个房间,然后让第三个人在不见面的方式下用网络和他们聊天。
如果在聊天的过程中,第三个人判断不出谁是机器人,那么就可以认定机器人具有和人类一样的智能。
这个测试是测试机器人是否强人工智能的金标准,宙斯毫无疑问的符合。
叶星一抬头,看到周围都是科学家们期待的目光。
他噔噔几步走上讲台,挥挥手,脸色严肃。
“诸位都是在科研战场奋斗的前辈,应该知道人工智能是一把双刃剑,它能帮人解决很多问题,同时也会伤害人类,我说的可不仅仅是安全问题。”
叶星环视一圈,注意到王老和其它人脸上的 迷惑,又继续说道：
“安全问题,我们可以在程序代码里加各种限制来解决,但是人的惰性是无法避免的,我曾经看过一本科幻小说,它的故事是这样的......”
接着叶星将尼尔星人来到月球上的事情换了个名字简单说了一遍。
科学家们脸上露出沉思的模样,听到最后都是对尼尔星人感觉可惜,也为蓝星人未来的命运感到担忧。
“叶星,人性却是如此,贪婪而又懒惰,哪怕是我们也不能避免,不过能提高国力的机会摆在这里,我们也不能不用,即便是我们不用,鹰酱和其它国家也会用的,科技有可能隐瞒一阵子,但是不会永久隐瞒的。”
众多科学家还在思索的时候,王老两手一摊,有些不甘心。
“当然要用,据说鹰酱已经制造出了几百个类似宙斯的机器人,现在还在源源不断的从生产线上生产出机器人,对龙国造成了极大的危害。”
“而且在民用方面,也有消息说有一家xR公司造出了民用的机器人,无论是军事还是民用,我们龙国都面临极严峻的局面。”
叶星面色严肃,将他得到的消息都一股脑的说了出来。
科学家们都被叶星的消息给惊呆了,一种深深的危机感浸透了他们的身心。
他们看向叶星的眼神不由也焦急起来。
“我们决定成立一个委员会,会对机器人的功能进行严格审查,以保证用途,一些不危及人类的基础劳动可以用机器人来代替,而科研主体还是要抓在人类手里。”
叶星趁机抛出了办法,当然,这个办法也不过是缓解一些人类时间而已。
高科技的便利,没有任何人可以拒绝。
科学家们陷入了沉默当中,以前在没有机器人的时候,也曾有人讨论过这个问题。
但是科技没到那一步,说了也没意义。
可现在强人工智能突兀的出现在他们面前,这个问题就很紧迫了。
“这个办法可以,不过鹰酱的威胁怎么办？只有我们生产出和他们一样的机器人,才能保持战略上不被人威胁。”
王老沉思了片刻,忧心仲仲的问道。
其它科学家也都点头,机器人威胁人类还很遥远,可是鹰酱的几百个甚至几千个机器人却是实实在在的威胁,随时都可能从边境上的任何地方侵入。
要让不被威胁,只能对等的具有同样的武器,就像当年的核武器一样。
“鹰酱的威胁可不仅仅只是机器人哦。”
叶星淡淡一笑,没有回答,下了讲台,直接向着院子后走去。
科学家们不明所以,纷纷跟在他身后。
两名士兵在前带路,将后院的门打开。
门推开,一个宽阔的机场展现在人们眼前。
一具黑色的三角形的飞行器静静的停在机场上。
“这是鹰酱的最新侦察机吗？机身上涂的是什么隐身涂料？”
人群中有研究飞机的大佬,一眼就发现了它的不同,惊喜的跑了过去,轻轻抚摸机身。
“它叫恶灵鸟,是世界上最强的隐身飞行器,如果它不想被发现,雷达对它就是一个摆设！”
叶星微微一笑说道。
这么强？那岂不是打遍全球无敌手？
科学家们听到这句话,都是一楞,瞳孔不由缩了起来。
“主人,在机器人的思考当中,一切都必须符合逻辑,这是机器人思考和看待世界的方式,是有别于人类和智慧生命的方式。”
“在机器人的设计中,发明者为了防止机器人对自己产生伤害,所以会设计出最高的规则,那就是不允许伤害主人。”
“在刚刚的问题中,宙斯有三种选择,要么 左拐要么右拐要么不拐弯,无论哪种选择都会伤害到主人,但是任务还必须完成,所以在三个选择和必须完成任务的纠缠中,它的cpU陷入逻辑死循环,因此高速旋转,身体的能量消耗极大。”
“如果不及时将它从困境中解救出来,它会很快烧坏。”
夜夕也明白叶星不懂,悄声给他解释。
叶星恍然大悟,立刻就理解了机器人的思考方式和正常的人类不同。
人类世界发生的事情是逻辑,运气,情感等各种因素交织的结果,而不单单是逻辑。
比如一个人在沙漠中突然拾到一块狗头金,就完全不能用逻辑解释,那就是纯纯的运气。
但对于机器人来说,就很不可思议,在它的 思维中,一切都必须有原因和结果,原因和结果也应该是可以相互推导的。
“该死的鹰酱,居然将机器人三定理给突破了,居然让宙斯用来杀人,此例一开,机器人凭借着它们强大的身体功能必将对人类造成危害,幸好最后一道关口还是守住了,它们还不会背叛主人。”
叶星耳边传来一个洪亮的声音,转过头一看,正是那个黑框老者。
“王老说的对,刚才它回答问题,我还一直担心它会大手一挥说将人类都给关到家里就没这个烦恼了,结果它陷入死循环了,那咱们就可以放心用它了。”
另一个科学家笑呵呵的说道。
他的话说完,周围的人都哄笑起来了。
叶星听过这个梗,说的就是机器人为了不违背机器人三原则,干脆将人类圈养起来,就再也没有不会有陷入机器人悖论死循环的危险了。
宙斯cpU差点烧坏,说明程序框架还是给人留了一条后路。
“叶星,你赶紧选人吧,我刚才测试过它了,它完全可以通过图灵测试,具备强人工智能的思考方式,虽然会攻击人类,但是不会伤害主人,对人类还是有很大的帮助的。”
那个叫王老的老科学家走到叶星身前,一脸期盼的对叶星说道。
图灵测试,也是测试机器人是否具备强人工智能的一种方式。
就是将一个人和机器人分别放两个房间,然后让第三个人在不见面的方式下用网络和他们聊天。
如果在聊天的过程中,第三个人判断不出谁是机器人,那么就可以认定机器人具有和人类一样的智能。
这个测试是测试机器人是否强人工智能的金标准,宙斯毫无疑问的符合。
叶星一抬头,看到周围都是科学家们期待的目光。
他噔噔几步走上讲台,挥挥手,脸色严肃。
“诸位都是在科研战场奋斗的前辈,应该知道人工智能是一把双刃剑,它能帮人解决很多问题,同时也会伤害人类,我说的可不仅仅是安全问题。”
叶星环视一圈,注意到王老和其它人脸上的 迷惑,又继续说道：
“安全问题,我们可以在程序代码里加各种限制来解决,但是人的惰性是无法避免的,我曾经看过一本科幻小说,它的故事是这样的......”
接着叶星将尼尔星人来到月球上的事情换了个名字简单说了一遍。
科学家们脸上露出沉思的模样,听到最后都是对尼尔星人感觉可惜,也为蓝星人未来的命运感到担忧。
“叶星,人性却是如此,贪婪而又懒惰,哪怕是我们也不能避免,不过能提高国力的机会摆在这里,我们也不能不用,即便是我们不用,鹰酱和其它国家也会用的,科技有可能隐瞒一阵子,但是不会永久隐瞒的。”
众多科学家还在思索的时候,王老两手一摊,有些不甘心。
“当然要用,据说鹰酱已经制造出了几百个类似宙斯的机器人,现在还在源源不断的从生产线上生产出机器人,对龙国造成了极大的危害。”
“而且在民用方面,也有消息说有一家xR公司造出了民用的机器人,无论是军事还是民用,我们龙国都面临极严峻的局面。”
叶星面色严肃,将他得到的消息都一股脑的说了出来。
科学家们都被叶星的消息给惊呆了,一种深深的危机感浸透了他们的身心。
他们看向叶星的眼神不由也焦急起来。
“我们决定成立一个委员会,会对机器人的功能进行严格审查,以保证用途,一些不危及人类的基础劳动可以用机器人来代替,而科研主体还是要抓在人类手里。”
叶星趁机抛出了办法,当然,这个办法也不过是缓解一些人类时间而已。
高科技的便利,没有任何人可以拒绝。
科学家们陷入了沉默当中,以前在没有机器人的时候,也曾有人讨论过这个问题。
但是科技没到那一步,说了也没意义。
可现在强人工智能突兀的出现在他们面前,这个问题就很紧迫了。
“这个办法可以,不过鹰酱的威胁怎么办？只有我们生产出和他们一样的机器人,才能保持战略上不被人威胁。”
王老沉思了片刻,忧心仲仲的问道。
其它科学家也都点头,机器人威胁人类还很遥远,可是鹰酱的几百个甚至几千个机器人却是实实在在的威胁,随时都可能从边境上的任何地方侵入。
要让不被威胁,只能对等的具有同样的武器,就像当年的核武器一样。
“鹰酱的威胁可不仅仅只是机器人哦。”
叶星淡淡一笑,没有回答,下了讲台,直接向着院子后走去。
科学家们不明所以,纷纷跟在他身后。
两名士兵在前带路,将后院的门打开。
门推开,一个宽阔的机场展现在人们眼前。
一具黑色的三角形的飞行器静静的停在机场上。
“这是鹰酱的最新侦察机吗？机身上涂的是什么隐身涂料？”
人群中有研究飞机的大佬,一眼就发现了它的不同,惊喜的跑了过去,轻轻抚摸机身。
“它叫恶灵鸟,是世界上最强的隐身飞行器,如果它不想被发现,雷达对它就是一个摆设！”
叶星微微一笑说道。
这么强？那岂不是打遍全球无敌手？
科学家们听到这句话,都是一楞,瞳孔不由缩了起来。