繁体
假如人类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,人类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一
毒
气
,会加速人类的死亡(氧气…),
照人工智能第一法则,不能坐视人类受到伤害而袖手旁观,这时候受人工智能控制的飞船是不可能违背法则降落这个星球的。
女娲的回答,张
国张了张嘴,却不知
说着什么。
智能就是机
人吗?既然没有,那所谓的三大法则意义何在?
“联网!!!”
“大家投票举手决定,是否让女娲联网。”
“好,全员通过!”
张
国自信的摸摸地中海,这么明显的事,还用你一个人工智能说?
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
先生,现在您还觉得人工智能三大法则有必要吗?”
说完,张
国脸
平静的举起了自己的右手。
就算人工智能就是机
人,先生你想过没有,所谓的保护人类的三大法则很有可能反而成为人类的
命符!
张
国沉默了,袁敬松沉默了,所有人都低
沉默了,沉默的同时,还有几分对女娲的恐惧。
这样的底层命令对人工智能女娲来说有些残酷,但对人类来说,却让人放心。
张
国皱着眉
想了半天,不对啊,自己怎么把自己绕
去了?人工智能的创造者未来科技的老板李舟会想不到这些问题吗?既然女娲没有所谓的人工智能三大法则,说明李舟已经考虑到了这些问题,没有了三大法则,李舟还敢拿
人工智能,说明李舟绝对有对人工智能
了什么限制。
“是的,先生,您十分聪明。”
想通了的张
国摸了摸自己的光明
,十分自信的笑着对麦克风说
:
“事实上,女娲完全没办法越过权限看到自
组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有
份者的同意,在极端情况下,若是所有一级权限所有者全
亡,女娲会
据现有情况
最合理的判断,然后执行。在女娲智能
心的
,有一
独自运行的验证机制,一旦女娲
了不合理的行为,就会被自动记录,一旦这样的行为超过了一次,验证机制就会启动自我销毁指令。”
如此一来,只会让飞船上的人类同人工智能发生冲突。
这个时候,你就会发现无奈的人们只能选择放弃这颗
丽的星球,因为飞船不会降落。
张
国的话让所有人一愣,很快反应过来,对啊,作为最了解女娲的创造者,不可能不会考虑到这些的。
张
国一声令下,几个年轻的研究者立
将准备好的光纤连接到了光
超级计算机上。
“女娲,虽然没有三大法则,但我想,你的创造者绝对对你
了什么限制。”
也许会有人类尝试摧毁人工智能,来控制飞船降落,可是依据第三法则,人工智能在不违背第一和第二法则前提下,机
人必须保护自己。
这只是一个小小的比喻,事实上这样的漏
很多。
本章已阅读完毕(请
击下一章继续阅读!)