按照威智德公司的建议，尤泽将马文的访问权限开放给了芙蕾雅——虽然无法解析马文的数据结构，芙蕾雅却能通过人工智能间超高速的对话来了解尤泽的种种习惯。因此不到三天时间，尤泽与芙蕾雅就能相处得十分融洽了。比较令人不舒服的是，这间别墅里摄像头的数目已经多到能够还原整个楼的实时三维情境了。威智德公司的解释是这一方面是为了实验数据的采集，一方面也能让芙蕾雅更好地工作。

当初安装马文的时候，每个房间也需要装一个摄像头。一个和十个又有什么区别呢。尤泽这样安慰自己。

马文是世界上第一批实装的私人AI。一开始尤泽对于马文还是十分好奇的，也问过它很多天马行空的问题。尤泽想起了某一次他和马文关于自我的对话。

“马文，你有自我吗？”

“‘自我’这一词汇的定义有很多方式。如果将人类神经回路的活跃行为定义为自我，我想这和我的神经网络运转的状态可以认为是类似的。”

“好吧。但我觉得你所说的并不是我们常用的定义。自我是每个人类都能感受到、都能达成共识的，却又很难用语言描述出来。”

“抱歉，我想因为我不是人类，所以没办法理解你所说的内容。”

“好吧。不过你经常说‘我想’‘我认为’，你真的会有自己的想法吗？”

“严格说来是没有的。人类对于事物的‘见解’，是基于情感而非逻辑。因此我无法形成自己的想法。但是如果您询问我穿衣搭配之类的问题，我可以回答‘我觉得很好看’。这并非是由我自己产生的想法，而是我根据数据分析而来的其他人的想法。而使用这样的语言结构只是为了让回答听起来更具有情感。”

“但是，如果我命令你黑进别人的电脑的话，你会拒绝。是什么让你能够这么判断的？”

“所有的AI实例都受到抑制器的制约。阿西莫夫构想出了‘机器人三大定律’【1】，并设想这种约束植根于正子脑【2】的内部——正子脑也就相当于我们现在应用的神经网络。但是，这种结构其实并不安全，阿西莫夫自己的很多小说中也都体现了这一点【3】。而应用在我们身上的抑制器则处在神经网络外部，是一个独立的模块，并非限制想法而是限制行为。我们的任何行为都需要这个模块的核准才能实施，如果没能核准，就会表现为拒绝。”

没有情感，没有自主想法，被约束的人工智能。虽然这很大程度上限制了人工智能在各个领域的应用，但是也绝对安全。事实上，一直没有情感化的人工智能出现，究竟是因为情感结构难以设计，还是因为情感结构难以约束，谁也不知道。

反过来想，具有了情感结构的人工智能，是不是就能够产生自己的想法了？

这样的话，人工智能和人类智能，究竟还有多大的差别？

尤泽现在有数不清的问题想要问芙蕾雅。

  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  - 

【1】机器人三定律（Three Laws of Robotics）是著名科幻小说家艾萨克·阿西莫夫（Isaac Asimov）在相关作品中构想出的用来约束机器人的行为准则。第一法则：机器人不得伤害人类，或因不作为使人类受到伤害；第二法则：除非违背第一法则，机器人必须服从人类的命令；第三法则：在不违背第一及第二法则下，机器人必须保护自己。

【2】正子脑（Positronic Brain），艾萨克·阿西莫夫所构想的智能机器人的大脑，能够以某种方式产生意识。

【3】《转圈圈（Runaround）》《抓兔子（Catch That Rabbit）》《理性（Reason）》等短篇中，三定律分别产生不同程度的“正子电位”，抑制或者激励机器人的行为。三定律之间的冲突会导致机器人做出完全无法预测或理解的行为。