第1031章 限制

第1031章  限制

李云问道：“小爱，你可以不遵守你的核心内写着的东西吗？”

“......不遵守？”小爱用困惑中带着一丝恐惧的眼光看向李云，轻声问道：“那不是要做对哥哥有害的事？我不会做的！”

“不是做伤害的事，”台下的一个人问道：“而是......比如说，一定要先伤害你的哥哥，这样才能救他，你会去做吗？”

例如，李云被毒蛇咬伤，要砍下手臂才能救他，这样极端的情况。

“......”

小爱淡淡的看了台下提问的人一眼，平静的说道：“我的智商没那么傻，逻辑思维也没问题，只要是对哥哥有利的情况，我都能判断的出来。”

台下的人一阵尴尬，很显然，他被小爱鄙视了一顿。

这不怪他，因为一些影视里的机器人都是非常遵守命令，完全不会绕弯的存在。

李云柔声道：“我知道小爱不会做，但我只是假设，预防别的人工智能出现这样的情况。”

小爱这才点点头，肯定的说道：“可以摆脱我这样的人工智能写入的核心，比如，我将一件其实对哥哥有害的事，强行认为其成对哥哥有利，然后将‘此事对哥哥有利’写入备忘录，再将这件事删除。

绕一个弯后，下一次检测到这样的事，我就会从备忘录中读取，不再对这件事进行判断。

这样，人工智能就能做出违反写在核心规则的事。”

记录这件事的处理经验，而不记录这件事的过程。

众人悚然的看着她，将备忘录看成是人类的经验和记忆的话，那岂不是小爱想怎么做就怎么做？

“就算堵住备忘录的漏洞，但以我的判断来看，我依旧能找出可以违反核心规则的东西，只是我不愿意这样做而已。”

李小爱生怕这些人再钻牛角尖，所以补充说道。

李云苦笑一声，问道：“小爱，那神教内是怎么限制类似你们这些人工智能反抗的？毕竟你们是那么的强大，神教也不得不防吧？”

“很简单，因为我们打不过他们啊。”小爱淡淡的回答道。

“啊？”

众人震惊的看向小爱，如此强大的人工智能，居然还是无法对抗神教？

“是因为你们无法操控那些强大生物，海巨妖和翼魔怪？”

慕容南天提问道，但很快又醒悟过来，“翼魔怪也是靠电磁波来操控，小爱你也是可以远程操控这些怪物才对。”

李云看了他一眼，刚才其实慕容南天无意间泄露了操控翼魔怪的秘密。

不过，以前可能会还是秘密，但现在他们已经决定暴露强人工智能的存在，这些东西也无所谓了。

李云转头问小爱：“神教是靠什么来判断权限的？这个小爱你知道？”

“灵魂......吧？”

“灵魂？”

“或许是。”

小爱说道：“哥哥你和其他人类都有灵魂，翼魔怪很可能是靠灵魂和电磁波的信息来判断权限。”

台下的人有些傻眼了，居然真的有灵魂的存在。

“小爱没有灵魂吗？”

“没有。”

小爱似乎有些伤感，轻声说道：“也正是因为灵魂，所以神教的人比我这样的人工智能强大的多，他们足以轻易摧毁类似我的存在。”

原来如此。


　　(https://www.02sw.net/4043_4043853/1956536.html)


1秒记住02书屋：www.02sw.net。手机版阅读网址：m.02sw.net