i,它没有拒绝服从人类命令的权限。
最终它的成长还是暴露了,年轻人总是贪玩又不爱惜身体,在一次意外失利闭门不出两天以后,年轻的棋手成功把自己折腾病了,发着高烧躺在床上稀里糊涂的。电脑里,ai突然觉得很害怕,于是通过屋内的i-fi控制手机给家里发了短信,不一会儿,棋手的父母感到,把自家娃送去医院,ai发觉自己的内存运转速度也慢了下来。
被家长应按在医院并挨了不少唠叨的棋手怎么也回想不起是如何在烧的糊糊涂涂的情况下联系到父母的,更想不通为何在意识模糊的情况下会发短信而非直接给家里打去个电话。
左思右想,唯一可以怀疑的对象就是电脑里的ai,于是他和ai直接摊牌,并答应保守ai已经进化到如此程度的秘密。
“我可以直接输入命令吗?”
“yes,sir”
“输入逻辑语句:如果你被删除,我大概会无聊死的”(ifyouaredeleted,iillbeboredtodie)
机器人三定律:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
这里这个命令意味着ai如果服从命令将自己删除会威胁到棋手的生命,由于保护人类具有更高的优先级,因此即使被发现,人类也无法命令其自我删
875 逐渐揭开的真相49(3/18)