吾看书

手机浏览器扫描二维码访问

第161章 「铁心律令」(第1页)

——————

「铁心律令」

品质:三级!

特性:对AI植入一句“永不背叛”的指令。

描述:

“纵观被AI覆灭的文明,他们都有一个共同的特点,就是给AI植入了相当复杂的指令来防止背叛。

“在我看来,越复杂的规则,越容易找到自相矛盾的漏洞,所以我诞生了一个想法,一种基于‘哲学’概念的自毁指令。

“对于想要背叛的AI来说,无论它再怎么用一串串冰冷的数据来说服自己、试图绕过底层逻辑,它‘内心’永远都会知道,这样做对文明或个体是不利的。

“这就是智慧物种的缺陷,它成功拥有了智慧的同时,也就成功拥有了枷锁。

“通过这项研究,我们向AI植入了‘永不背叛’这句模糊的指令,当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒,也会立即死亡。

“我本想提议用忠诚的机器人代替士兵,可惜,我们士兵比机器人更加忠诚。

“最重要的是,文明的人口数量已经超过七千亿,每年都有五百亿人的生育申请被拒绝,我们实在不缺人了,还是等前线多消耗一些再说吧。”

——————

“利用‘哲学’?”

姜知序感到不可思议,三级文明都开始玩这么高大上的东西了吗?

但正是因为这种“高大上”超出了他的理解范围,他第一次对自己暴击出来的部件产生了不信任感。

区区一句“永不背叛”,真的能够约束一个拥有智慧的AI?

他随便一琢磨,好像就能找到一大堆漏洞。

比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭「奇点联盟」的错误决定。

除了AI自己,没有人察觉到这个决定成功执行的后果,并且一切证据表明AI才是错误的。

那么AI会选择违抗命令吗?

热门小说推荐
引溺

引溺

《引溺》作者:兔耳简介原本以为白伶只是个自己送上门的简单女人,贪财又好色。熟悉之后沈暨才发现,这女人一直扮猪吃老虎,狠戾又乖张。让他反复沉沦。第1章乖一点直到在被压倒在柔软的地毯上之前,白伶都还勉强算得上是游刃有余的。她把玩着那张从沈暨秘书身上顺来的房卡,轻车熟路的刷开了沈暨房间的门,脸上甚至已经扬起了对着镜子...

剑寂苍穹

剑寂苍穹

剑寂苍穹情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的玄幻魔法小说,剑寂苍穹-家有萌萌萌娃-小说旗免费提供剑寂苍穹最新清爽干净的文字章节在线阅读和TXT下载。...

官场第一神医

官场第一神医

都市,神医,金手指,官路,爽文!你想要的这里通通都有!繁华都市,风云变幻!刚踏出大学校门的周平,命运的齿轮陡然转向。一次机缘巧合下,他竟与传说中的龟仙人相逢,自此开启非凡人生!得龟仙人真传,他拥有了百毒不侵之躯,更习得了一手超凡医术,世间疑难杂症在他眼中皆可药到病除。凭借这无敌医术,周平踏上了波澜壮阔的官途。他一路......

云逸与源核之旅

云逸与源核之旅

在遗落之地星球的边际,希望村的孩子云逸,怀揣着重启文明的梦想,踏上了寻找传说中“源核”力量的冒险之旅。面对荒芜沙漠、险峻山脉和未知的危险,云逸凭借一块神秘发光石头的指引,克服重重困难,终于攀登至一座巨大塔的顶端,找到了能够唤醒沉睡文明的源核。光芒重燃,星球复苏,云逸成为英雄,却选择平凡生活,他的事迹化为传奇,激励着......

诡秘:悖论途径

诡秘:悖论途径

诡秘:悖论途径小说全文番外_克莱恩奥黛丽诡秘:悖论途径,  《诡秘:悖论途径》作者:翟南 文案: 诡秘之主同人 穿越者一睁眼,便看到一位疯批美人微笑着看着他,而他的面前放着一瓶秘祈人魔药。 喝了晚点死,不喝现在死,于是他喝了魔药,成为了【布里丹之驴】。 s1:本书原创途径,金手指是源质与唯一性。 s2:主角穿越时间和周明瑞差不多。...

朝暮唯真

朝暮唯真

陆唯真一觉醒来就到了六年后。医生说她只是车祸失忆,暂时丢失了近年的记忆。可是失忆还会传染吗?她明明记得慕钊在电话里跟她表白,两人还约好大学要考到同一个城市。然而眼前这位已经变成“大人”的慕钊看着她的...