“基于人脑的情感机器？真是个疯狂的想法。”T看了看角落里的老人。那正是赫曼·布莱恩。

“我以为你早就知道了，所以才派人跟踪想除掉你。但现在我改变主意了。如果可能的话，我希望说服你站到我这边。最好不要用到这个。”赫曼·布莱恩晃了晃手中的枪。

“我也希望这样。所以你得告诉我所有的事实。”

“薇塔·布莱恩确实是我的女儿。”

“你是指……这个大脑的原主人？”

“她在18岁时遭遇了一场非常严重的车祸。大脑是她身上唯一完整的、没有受到严重损伤的组织。当时威智德公司已经在暗中开展生物混合机器的研究，而作为这项研究的基础，在器官层级的生理维持系统已经趋于完善。于是她的大脑被保存下来进入了休眠状态。”

“用来制作一台能够和薇塔·布莱恩一样进行思维的情感机器？”

“我不太喜欢这样的说法。你对‘中文屋’问题是怎样看的？至少作为一个父亲，我不可能将一台具有和我女儿一样思维方式的机器等同于我的女儿。当时我的想法是基于薇塔的大脑制作一台外设，让她的思维得以表达。我们后来做了很多实验，终于成功掌握了使用纳米电极将大脑和外部的电子传感器、驱动器在信息层次上相连接的技术——也就是缸中脑【1】系统。只不过，大脑连接的不是虚拟现实，而是真正的现实——通过摄像头、机械臂以及任何连入网络的设备所共同构成的远程呈现【2】系统。”

“真是令人惊叹的技术。但是薇塔的人格和记忆似乎并没能完整地保存下来，也就是说你们失败了。”

“并不是技术上的失败。我们用这项技术成功地制作出了情感机器——基于一些其他的大脑。人的大脑具有强烈的可塑性，只需要用以电痉挛疗法【3】为基础的强化电击清除记忆，就可以作为情感机器的核心计算元件。然后只需要放入缸中脑系统进行大量的数据训练就可以实用——被测试用户称之为‘芙蕾雅’的情感机器就是我们制作的Beta版本。我们也确实成功地将薇塔的大脑接入了系统——但是没有清除她的记忆。一开始还好，薇塔说她能看见了，能听见了，我们都非常开心。但是没过多久她的精神状态开始急剧恶化，开始出现大量反常行为。最后她自杀了——调用了一个清除自己记忆的命令。”

“天啊。这是为什么？”

“我们直到现在也不知道。或许是她身为人类的记忆让她无法忍受作为一个‘缸中之脑’而存在。有鉴于此，目前所有的情感机器也都不知道自己使用了人脑作为计算元件的事实——为了避免陷入不可预料的危险。如果一个以为自己是人工智能的意识某天突然发现自己是由一个人脑产生的，谁能想到会发生什么？”

“所以刚刚和我对话的薇塔，是后来重新用数据训练出来的？和芙蕾雅一样？”

“并不尽然。芙蕾雅作为一台注重实用性的情感机器，外部增加了许多特别设计的抑制器与激励器，让它能够更好地服务于人类并避免潜在的危害。而薇塔使用了她小时候的素材进行训练，外部也几乎没有限制，可以自由地思考。在我看来，虽然薇塔没有了从前的记忆，但她仍旧是我的女儿。”

“薇塔的事情我明白了。但是您就从来没有觉得，芙蕾雅也并不是什么情感机器， 而是和您女儿一样的，机器化的人类？”

“你在说什么呢，芙蕾雅只是在架构里应用了人脑作为计算核心的机器。它自己也并不认为自己是人类——”

“但是芙蕾雅认为自己是人工智能，而薇塔认为自己是人类，这两者不都是你们人为设计、训练的吗？难道狼孩就能够被认为是狼而不是人类吗？”

“不，不是这样的，创造芙蕾雅的目的就是进行计算，因此它也并不像薇塔一样是按照类似培养人类幼体的方式训练的——”

“你们并没有创造情感机器。你们只是一群把人类改造成机器的犯罪分子。我绝不会同意……”

砰。火花四溅。

赫曼·布莱恩手中的枪管冒出了一阵青烟。

   -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  -  - 

【1】缸中脑（Brain in a Vat）由哲学家希拉里·普特南（Hilary Putnam）提出。这个思想实验的理论基础是人所体验到的一切最终都要在大脑中转化为神经信号。假设将一个大脑从人体取出，放入一个装有营养液的缸里维持着它的生理活性，超级计算机通过神经末梢向大脑传递和原来一样的各种神经电信号，并对于大脑发出的信号给予和平时一样的信号反馈，则大脑所体验到的世界其实是计算机制造的一种虚拟现实。那么，此大脑能否意识到自己生活在虚拟现实之中？

【2】远程呈现（Telepresence），通常指一套远程交互系统，用户的动作、声音等可以复制到远程地点通过机械体呈现，同时用户也可以感知远程地点的图像、声音等等。

【3】电痉挛疗法（Electroconvulsive therapy，ECT），是经由电击脑部的方式来诱发痉挛，以治疗精神疾患的方式。在作为医疗手段使用的过程中，容易造成不同程度记忆丧失的副作用。