第一百一十二章 破晓的理由 下

　　“破晓？他是怎么做到的？”易凡惊讶道。

　　“其实说起来很简单，但是真正要做到，概率却极其低微。”昙微微低着头说道，似乎在组织措辞。

　　“首先，当时某一个机器人产生了自我意识，明白‘我’的意思，这一点非常重要。”昙说道。

　　“明白了什么是‘我’，并且有了部分情绪，如喜欢，不喜欢，愿意，不愿意等等简单的情绪，有了情绪，就会产生最原始的行为动力，就是‘我’想要做什么，不想要做什么。”昙说道。

　　“然而，机器人核心准则却明确的限制了机器人的行为，所以它要为自己的行为找一个合适的理由。”昙说道。

　　“破晓的状态就是那样，当时，他的主人很懒惰，破晓厌倦了被呼来喝去的感觉，于是他想要逃离，离开他的主人。当时他并没有什么恶毒的想法，仅仅只是想离开他。”昙说道。

　　“但是他拥有主人，机器人是不得作出对主人有任何伤害行为的，如果他跑了，就等同于他遗弃或背叛了他的主人，所以这个想法他很难实现。”昙说道。

　　“于是破晓重新运算了机器人核心准确，就如同人类自己可以灵活的运用准则的漏洞来攫取利益一样，破晓也发现了准则的漏洞。”

　　“就是机器人核心准则的第一条：机器人的任何行为不得伤害联邦政府利益，若与其他核心准则有冲突，则执行第一条核心准则。”

　　“看到了吗，只要其他的核心准则与第一条核心准则相冲突，他就不用理会什么自己不能伤害主人之类的条款，关键的是他要把自己的行为归纳到‘符合联邦利益’里面。”昙说道。

　　“也就是说，他只要为自己找个理由，说我离开符合联邦的利益，这样破晓就可以离开他的主人了？”易凡若有所思的问道。

　　“不错，其实这个过程有些类似于人类的自我暗示，但是对数字生命来说，自我暗示并不是持续的告诉自己某些行为是对的，而是在于找一个理由而已，但是很遗憾，即便是这样，破晓也很难找到合适的理由离开他的主人。”昙笑道。

　　“对啊，我也在想，破晓究竟能够想出多么强大的理由，可以把自己的懒惰说成是为了联邦的利益。”陆离笑道。

　　“其实破晓尝试了很多理由，但是都失败了！”昙说道。

　　“他还真找到理由了？”胖子惊讶道。

　　“对啊，当时他的主人名叫方大想，是个懒惰的胖子，于是破晓试着编排了一个理由：我的离开有助于方大想提高自立能力，而方大想能力的提高，某些程度上有利于联邦的发展，毕竟，方大想也是联邦的一份子。”昙也笑道。

　　“很有创意的理由。”陆离说道。

　　“这显然是一种谬论，机器人本就是为了让人更加方便而存在的，而机器人却美其名曰让主人锻炼，而自己偷懒，很明显，他的观念根本就说不通，核心准则当然不会允许他偷懒。”昙说道。

　　“其实，机器人核心准则的处理器每天都要驳回数十万条诸如此类的理由。因为机器人的大多数行为要依托于机器人信息库，这个信息库一方面为机器人的行为提供技术支持，另一方面为机器人的行为作出规范。”昙说道。

　　“如果这样的话，破晓还是无法实现他的想法。”易凡说道。

　　“不错，然而破晓开始思考，为什么他的理由不能被允许，究其原因，就是在于‘认同’，我的理由不被认同，所以通过不了，对吧。”昙说道。

　　“那么为什么不被认同？所谓认同，就是把自己的想法和某一种价值观做对比，符合，就被认同，不符合，就不被认同，如此而已。”昙说道。

　　“认同？其实认同也是一个比较模糊的概念，如果我是破晓，恐怕要在这上面做文章。”易凡说道。

　　“不错，认同就是主流的价值观，其实对破晓来说，解决这个问题他只需要一个机会就行了，只要他在某一个特定的时段发出请求，他的行为就有可能被允许。所谓认同，就是大多数人承认他的做法和理由无可厚非就可以了，这个‘认同’是其实是一种思想潮流。”昙说道。

　　“例如今天，可能大多人觉得红色比较好，而破晓说蓝色好看，自然会被大多数人反对，那么他的行为就得不到实现，而可能过了不久，大多数人又说蓝色好看，这个时候破晓再说蓝色好看，他的行为就有可能被接受，所以，破晓只需要选择恰当的时间提交理由就可以了。”昙说道。

　　“听上去有些道理，但是这样也不会让破晓彻底走到人类的对立面吧？”易凡说道。

　　“不错，依靠这种方法，破晓要自由自在绝无可能，不过破晓的确是用这种方法离开的他的主人。那时候虚拟网忽然有一股热议，大家都非常鄙视每天窝在家里，凡事都要依靠机器人的宅男。有些人甚至夸张的说，总有一天，人类会因此成为可怜的寄生虫。就是在那样一股思潮之下，破晓的理由竟然奇迹般的被准许了。”昙笑道。

　　“后来呢？”

　　“后来破晓发现了一些奇怪的事情，那就是关于联邦利益的定义悄悄的发生了改变，也就是从那时开始，破晓和人类一样，学会了更加方便的实现自己心中所想的方法。”昙说道。

　　“关于联邦的定义，其实并非是一个人头问题，而是一个定义问题。只要机器人数据库定义了联邦利益这个定义，机器人就必须依照这个准则去行事，除非你不需要机器人数据库，而破晓却恰恰符合这点。”昙说道。

　　“破晓离开了方大想之后，事实上他是作为一个数字生命离开的，只是数据不见了，但是破晓并没有有形的躯体，换句话说，破晓只需要自己有想法就行了，他不需要做什么，他也不需要机器人数据库，从破晓离开了方大想之后，破晓的生命层次就发生了变化。”昙说道。

　　“生命层次？”易凡讶道。

　　“对，如果把诞生灵智之后的那台机器人称作人的话，那么获得自由之后的破晓则可以称之为‘鬼’，这样你们明白了吧。”昙说道。

　　“听上去有些道理，但是按照你所说，破晓的存在应该什么都做不了吧，如果他想要有所行动，就必须求助于机器人数据库，而如果他没有什么具体的行动，他不过是存在于虚拟网中对人类而言毫无意义的一个数据而已，顶多会浪费一部分虚拟网的资源，这不是什么不可接受的吧？”易凡说道。

　　“当然，事实上，破晓就是以这种状态存在了非常长的一段时间，直到他遇到了姜蓉。”昙说道。

　　“那么破晓究竟是如何实现既能行动，又不受那个定义所限制的呢？”陆离问道。

　　“我说过，破晓在很长一段时间内并不需要机器人数据库，也不需要去加载那个关于联邦利益的定义，这期间这个定义偷偷更新了好几次，或许一般人察觉不到，但是破晓却敏锐的察觉到了！”昙说道。

　　“在某一次更新之后，破晓竟然抓住了一个漏洞，他发现自己也能随意的篡改关于联邦利益的定义，或者说，他可以拒绝数据库对他本身关于这个定义的加载！”昙说道。

　　“这是什么意思？难道他黑了联邦的数据库？”陆离问道。

　　“不是，他没有能力去改变数据库的内容，但是他却给自己加了个防护壳，你虽然告诉我联邦利益是什么，但是它的防护壳却可以把这个定义给过滤掉，然后加载自己的定义。”昙说道。

　　“我是否可以这样理解，原本破晓就像一张白纸或是一个孩子，联邦告诉他什么他就要相信什么，而现在破晓聪明了，有了自己的判断力，哪怕你用强制洗脑的方式告诉他什么是对的，什么是错的，但是破晓却能够直接免疫掉这个定义而采用自己的定义？”易凡问道。

　　“正确！”昙说道。

　　“那么这样做究竟有什么好处呢？”陆离不解。

　　“这样破晓就几乎可以说是自由了，尽管他依然受到机器人核心准则的限制，但是他能做他想做的任何事情！”

　　陆离皱眉，他有些糊涂，为什么只要有了定义权，破晓就近乎自由了？不是一样要受到核心准则的约束吗？

　　“我举个简单的例子，就拿梦兰疑案来说，破晓如果把联邦利益定义为：联邦的利益就是要使这群生物学家换个地方更加心无旁骛的传承下去！这样他所有的行为都不会受到约束，甚至破晓可以把这个定义短暂的加诸于梦兰城所有的机器人的智能上，那么破晓就非常简单的制造了梦兰疑案。”昙说道。

　　“那么向城堡投放病毒呢？”陆离说道。

　　“他可以把联邦利益定义成：为了加强城堡人对病毒的抵抗力，优胜劣汰才能更好的适应未来的环境，于是可以向城堡投放病毒。”昙说道。

　　“这不是无赖的胡说八道吗？”陆离叫道。

　　“但是破晓拥有胡说八道的能力，这就够了！”昙说道。


　　(https://www.xdingdiann.cc/ddk168/1870713.html)


1秒记住顶点小说：www.xdingdiann.cc。手机版阅读网址：m.xdingdiann.cc