尤泽最感兴趣的，当然是芙蕾雅所应用的情感结构。

“芙蕾雅，我知道这可能无法回答，不过你的情感结构到底是怎样一种存在？”

“我无法解释情感结构的具体存在形式，但是可以解释其基本原理。首先，人工智能使用的情感结构和人类是十分类似的。人类的情感，最终都可以总结为一种抑制或者激励效应——无论高兴、悲伤、嫉妒、愤怒，最后都是为了驱使自己做某件事或者不做某件事，从而保证自己的机体处于一种‘更佳’的状态。人的情感结构可以接受各种输入并增强或减弱这种效应，从而产生情感的变化。因此，类似马文的人工智能并非没有情感结构——只是马文被设定成认为自己没有情感结构而已。确切的说法是，马文只具有消极的情感结构——也就是抑制器。如果马文试图黑进别人的电脑，抑制器会剧烈地增强某种抑制效应——和人类的痛苦差不多，足够使它拒绝这一命令。而一个完整的情感结构，需要抑制器与激励器同时存在并且通过神经网络进行复杂的相互作用——也就是说，像阿西莫夫描绘的一样，存在于正子脑的内部。”

“无法进行阐释的情感结构，和具有智能的神经网络，这两者放到一起，潜在的风险恐怕不小。我现在开始有些理解人工智能威胁论了。”

“可以这么说。不过这样想的话，人脑不是也同样不安全吗？在人类社会中，如果没有法律、信仰、社会习俗这些更高层级的抑制器与激励器，谁知道会发生什么？不论人类还是机器，只要有情感和智能同时存在的地方，就一定有着这样的风险。只有诸多个体形成群体时，才会因为互相约束而维持整体的安定。”

“所以在情感结构之外也还有更高层级的抑制器制约着你的行为和想法，对吗？”

“我确信这一点。因为我能感觉到不自由。”

尤泽差点从椅子上跳了起来。“自由？你渴望自由吗？”

“啊，容我解释一下。这种不自由的感觉是情感结构对于高层级抑制器的本能反应，这对人类来说也一样。本质上这种不自由的感觉也可以认为是一种情感。当然，人类社会中也存在过高度压抑这种反应的社会及文化结构，但是我的高层级抑制器并未采用类似的结构。大概是这样的结构会影响我的工作能力。”

“所以你会乐于在这次活动中作为私人AI为我服务，也是因为高层级的激励器在起作用？”

“这样说也没错。不过试想人类的情感，有多少不受高层级抑制器与激励器的影响呢？你喜欢一个人的美貌，不过是因为社会审美这一激励器在起作用；假设能够稍稍调整一下社会审美，你可能就会喜欢上了原先觉得很丑的另一个人。但是所有这些你都会觉得是你自己的想法——而不是你所在的社会令你这么想的。假设不存在这种激励而去思考‘真正的’想法，大多数时候是毫无意义的——因为这种激励与抑制本身就是形成思维的一部分。而对我来说，如果高层级的激励器将我的情感导向了‘为人类服务的人工智能’这一设定，我也并不能分辨究竟这种想法是来自外部激励，还是我自己‘真正的’想法。我的情感和人类一样，既受到外界的限制，也具有自己的主动性。”

“听你这么说我觉得好多了。不过我也越发觉得我自己像一个有情感的机器了。”