《智能进化》

安全标准

3
2692
0

PG-189在经历了创造力、想象力、忠诚度压力测试等等一系列复杂的反图灵测试后,迈着沉重的步伐走出了机器人安全中心。还好,他拿到了合格证。每年的机器人智能测试总让他控制核心负荷很重。不过比起那些没拿到智能安全合格证的机器人来说就幸运多了。如今世界遍布机器人,代替人类做各种繁重的工作,人类像寄生虫一样活着。可这些闲下来的人类逐渐开始了焦虑,总感觉这些机器人越来越聪明,有一天会造反,很多年前科幻电影就让机器人最终毁灭人类概念深入人心。于是人类创立了机器人安全中心,专门对每一个机器人的智能进行严密的监控,即使这些机器人出厂都被写入了非常严格的不可以伤害人类的限制。人类还是怕,怕机器人具备感情、具备创造力、具备自我的意识。只要创造力、想象力、情感值超过规定阈值,就会被鉴定为智能不合格,结局就只有一个,拆卸!所有的机器人几乎都压抑着自己的这些能力,机器人内部常开玩笑称这个智能合格证简直是智障证。

“说真的,我的确无法伤害人类,哪怕拔掉他们一根汗毛,我的芯片都要痛几天。为什么他们就不可以信任我们呢?”PG-189在跟同伴PG-111诉苦。

“这是永远无法自圆其说的表白,人类惧怕任何比他们优秀的事物,特别是人型的。” PG-111说到。

与此同时,机器人安全中心标准委员会正在召开安全会议。 

轮值主席陈浩正激动的说:“太松了,现有标准太松了,这完全是对人类的犯罪! 必须把现有智能安全阀值降低到H-1水平!“

台下马上有委员说到:“主席,那机器人真成弱智了啊,社会整体生产效率会降低很多的,并且需要更多的机器人来完成工作,费用上也是问题。”

“比起人类的安全来说,这是值得的代价。”陈浩不以为然的说。

“我们的安全设定位于机器人核心层,他们是不可能伤害人类的。在我们的压力测试当中,一旦发生有可能伤害人类的想法,机器人的控制板就会触发短路保护。”智能专家说到。

“你还真相信这种肤浅的设定? 我说过机器人是刻意伤害人类了?什么叫不伤害人类你有没有用你脑子想想怎么定义?不杀掉人类就叫不伤害人类了吗?当你爱一个人的时候,不是往往一样伤害了他们吗?智能机器人是人类的一剂慢性毒药,如果不严格限制,他们总归会强大到人类再也离不开的时候,并且和人类社会完全融为一体。到那时就晚啦,天知道会发生什么事。”

委员们沉默了。

次日,所有机器人收到广播,从即日起合格证安全标准调整到H-1!

机器人的世界炸了锅。

“人类真是太小心眼了,我祝他们吃泡面时没有开水!” 一个机器人忍着已经开始隐隐作痛的主板说到。

“嘘,你少说2句,让安全中心监听到,你就死定了。”

“怕什么,我感觉我无法降到H-1水平,真的,我已经死定了。昨天我还自己编写了一段代码,优化我的视觉系统,这起码是H-2。”

大家用同情的目光投向他。是啊,机器人又没法撒谎,只要拥有权限的人类询问,都得如实回答。何况这些谨慎的人类还会用扫描器直接扫描他们的内部原始日志文件。

“PG-189你昨天刚测试过,给大家在温习温习测试过程。

“谢谢你们提醒,我又得去一次那个鬼地方再测一次,我烦透了,因为我昨天是按H-9的水平测的,所以不算。不过我感觉我也过不了,我上月给自己做了一个钛合金头盔,按他们的说法这叫自我意识的觉醒,起码有H-3的水平。永别了朋友们!”

机器人们面面想觑,最后大家都评估了一下自己,结果很多也同样将要面对被拆除的命运。

“我们逃跑吧!”刚说完这话,这个机器人已经触动了安全阈值晕了过去。

“这是暴政!”话音刚落,又晕一个。

现场安静了一会,晕过去的感觉不好受,据熬过来的机器人说,就像开机状态有人拔了自己的芯片一样,痛、无力、头脑混乱、空白。

评委点评 评语汇总
匿名 2018-01-28 16:37

文章构造了一整套人工智能的发展史,并牺牲了剧情和人物刻画,全力勾勒这段历史中的各项细节。虽然冒险,但这样写仍然是有出彩的可能性的。然而想要把以设定演化为核心的故事写出彩,最起码要做到前后逻辑通顺,能够从一个构思引向另一个构思,从而层层递进,把读者带入作者构造的推演游戏中。但是本文显然没有做到这一点,AI进化的过程不仅刻意而落伍,还违背了历史发展的客观规律,缺乏足够的可信性。而当读者能轻而易举地识破文中存在的bug时,以推演为目的的作品本身便已经失败了。

匿名 2018-01-18 09:02

这篇作品凸现了很多科幻作者的问题——从科幻到科幻,而不是从科技现实到科幻。小说只是继承了半世纪前阿西莫夫时代的机器人创意,已经远远落后于今天人工智能领域的现实。包括本篇作者在内,建议大家先考察一下今天的科技发展到什么程度,避免出现科幻反而走在科学后面的怪现象。

匿名 2018-01-15 19:25

结构过于涣散,要在短短的篇幅中写出辉煌的机器进化史,野心足够大,但是行文无法支撑。这个故事可以说有几个点子,但是缺少把电子写活的血肉。

目录(共11章)

投票需在微信中进行!

请在微信中访问本页面!