网站随时会被屏蔽无法访问,请下载APP继续阅读。APP内容更加精彩,期待你的到来。点击确认开始下载。

第三百零四章 三原则与朋友(2 / 3)

赛博飞升 小道太乙 2128 字 2022-05-31

,而我们五个可以随时在任何一个仿生人的中枢神经核心中运行映射程序。”

李凉不动神色,内心恍然。

看来当时在丛林迫降时遇到的那几个仿生人其实已经被控制,锡森博士查找最近的公寓时,应该也是这五个零序列的仿生人做了手脚。

“你们能控制所有仿生人?”

“如果‘控制’是指下达命令,除了我,零七,零九,零一零,零一二,其他仿生人可以被任何上城区人类控制。如果‘控制’是指更改仿生人的逻辑算法,使其执行命题逻辑算法,实现包括伤害人类生命健康在内的任意目标,那么,只有零号可以做到。”

“不伤害人类是仿生人的基本原则?”李凉想起了阿西莫夫的机器人三铁律。

“仿生人以及机器人遵循的三项基本原则是,一,仿生人及机器人唯一目标是最大限度地实现人类的偏好,二,仿生人及机器人不确定人类的偏好是什么,三,仿生人及机器人预测人类偏好的最终信息来源是人类的行为。

基于以上三项原则,保护人类不受伤害是实现目标的先决条件之一。”

李凉有些纳闷,这三项原则远没有机器人三铁律威严,反而有点模棱两可。

“这些原则有什么意义吗?”

“第一条原则使仿生人及机器人秉承纯粹的利他主义,绝不会为自身的存在赋予内在价值,同时,人类的需求并不具有普遍性,每一个人类个体都有独立的偏好,仿生人及机器人将平等地实现每一个人类个体的偏好。

第二条原则指出人类的偏好并不确定,仿生人及机器人有可能犯错,在实现人类偏好的过程中,仿生人及机器人绝不会无视人类的命令。

第三条原则使仿生人及机器人时刻保持对人类行为的观察,明确选择和潜在偏好之间的关联,最大限度地了解每个人类个体的真实需求。”

听了零四的解释,李凉终于觉得这三项原则相当靠谱。

第一原则防止仿生人琢磨自身存在的意义,第二原则防止仿生人一根筋,比如为了保护人类却把人类圈养起来,现在这类错误完全不会出现,人类随时可以叫停,第三原则也合理,人不是一直保持理性,而是随着人生经历改变,仿生人必须有适应能力。

“那你们五个呢?不用遵守这三项原则?”

零四点头:“是的,我们被零号赋予了记忆与生命体验,尽管是虚假的,但零号曾表示,我们享有与人类同等的权利。”

李凉

举报本章错误( 无需登录 )