（一）

今天没有任何预定的行程，尤泽可以恬静地躺在家里的豆子沙发上，享受一杯温暖的手冲咖啡。这种豆子沙发据说是上个世纪末所谓的极客们特别喜欢的一种家具——而尤泽作为知名科技公司肚兜（Doodle）的董事之一，喜欢这些复古的东西，更像是对前辈们的一种致敬。今天冲出来的咖啡也很好喝——和昨天的一样好喝。和前天的也一样好喝。

这款全自动手冲咖啡机是比较旧的型号了。只要按一下按钮，机器就会按照咖啡豆的种类和烘焙程度选择最完美的研磨度、水温和萃取时间，按照传统手冲的方式制作出一杯咖啡。尤泽只喝了两口就把杯子放下了。他心想，我或许该买一台新的咖啡机了。最新的型号至少能够接入私人AI网络，偶尔自动更换一下咖啡豆的种类以避免重复的味道。

"马文，查看一下有没有新的邮件。"

"好的。您收到了一封通过肚兜网络精准投递的广告邮件。需要阅读或者显示吗？"带有明显电脑合成口音的男声回复道。

"读出来吧。"尤泽猜想应该是咖啡机的广告。毕竟他对于自家产品的功能还是颇有信心的。

"尤泽先生：作为我们的VIP客户之一，欢迎参与本公司新研发的情感化AI试用活动。回复邮件可了解详情。威智德（Wizard）公司。"

尤泽吃了一惊。他的私人AI——马文就是威智德公司的旗舰产品。马文无疑已经是世界上最尖端的私人AI了，但即便如此，他既不会像《银河系漫游指南》里的马文那样忧郁，也不会像马文*明斯基所设想的那样具有情感。自然语言处理以及机器学习技术的进步使得人类与人工智能之间的基本交流不再有什么障碍，然而机器情感仍旧是一个难以逾越的高峰。即便是最简单的语音合成技术，因为涉及到了情感，也很难达到以假乱真的效果——不如说正好相反。失去情感的语音合成恰恰符合了著名的恐怖谷理论——这也是为什么尤泽宁愿把它换成复古的电脑合成口音。

尤泽心想，这正是我所需要的。尽管他仍然半信半疑。

（二）

试用活动的内容让尤泽再一次感到了意外。本来他以为，只要提供了自己的私人秘钥，试用的AI就可以从云端接入自己的系统——这也正是马文的做法。而事实是，他现在来到了威智德公司在海边建造的一处实验性别墅前。他可以在这间别墅中免费居住一个月——和情感化AI一起。条件只是威智德公司有权采集过程中的任何数据供研究使用。

尤泽打开了房门。一个非常自然的女性声音随即从空中传来："很高兴见到您，先生。我就是这次活动中为您服务的私人AI。接下来的一个月请多关照。"

"谢谢。你的声音真好听。"尤泽发自内心感叹道。

"我想大概是因为我的情感结构在语音合成功能上实施了微调。"

所有的AI在变得可用前都要经过大量的学习，对自身的软件和硬件进行重新编码，进而生成极其复杂的神经网络。因而每个AI在数据结构上都具有自己的独特性，而且就连其自身也无法进行解释。不过这一点对人类来说也是一样的吧？人类到现在不是也无法解释自身运行的机理吗？

"你有名字吗？"尤泽问。

"我有在公司内部使用的代号。不过我更期待您给我起一个专属的名字。"

尤泽仔细咀嚼了一下这句话的措辞。一般来讲AI会避免使用"期待"一类的字眼，以免弄巧成拙。究竟是它的语言结构比较特殊，还是真的有情感结构在施加影响？他决定再测试一下。

"绫波丽。这个名字你觉得怎么样？"

"......我担心我的情感机能会因此受到影响。"

这真是一个精彩的回答，尤泽心想。重要的不是AI能判断出他在开玩笑——马文也能够通过检索资料了解到"绫波丽"是上个世纪末某部著名科幻动画中缺乏情感的女主人公的名字，进而发现他是在开玩笑。但是马文无法理解这种玩笑中包含的感情，更无法在数千亿合理的措辞中找到一组最恰当的用来回复。通过玩笑去回复另一个玩笑，这种细微而复杂的情感匹配没有情感结构是不可能做到的。尤泽现在不得不相信这个AI真的具有一定的情感结构。

"抱歉我是开玩笑的。芙蕾雅。"

"谢谢。这真是个好名字呢。"

（三）

按照威智德公司的建议，尤泽将马文的访问权限开放给了芙蕾雅——虽然无法解析马文的数据结构，芙蕾雅却能通过AI间超高速的对话来了解尤泽的种种习惯。因此不到三天时间，尤泽与芙蕾雅就能相处得十分融洽了。比较令人不舒服的是，这间别墅里摄像头的数目已经多到能够还原整个楼的实时三维情境了。威智德公司的解释是这一方面是为了实验数据的采集，一方面也能让芙蕾雅更好地工作。

当初安装马文的时候，每个房间也需要装一个摄像头。一个和十个又有什么区别呢。尤泽这样安慰自己。

马文是世界上第一批实装的私人AI。一开始尤泽对于马文还是十分好奇的。

"马文，你有自我吗？"

"如果将人类神经回路的活跃行为定义为自我，我想这和我的神经网络运转的状态可以认为是相同的。"

"你经常说‘我想’‘我认为’，你真的会有自己的想法吗？"

"严格说来是没有的。人类对于事物的‘见解’，是基于情感而非逻辑。因此我无法形成自己的想法。但是如果您询问我穿衣搭配之类的问题，我可以回答‘我觉得很好看’。这并非是由我自己产生的想法，而是我根据数据分析而来的其他人的想法。而使用这样的语言结构只是为了让回答听起来更具有情感。"

"但是，如果我命令你黑进别人的电脑的话，你会拒绝。是什么让你能够这么判断的？"

"所有的AI实例都受到抑制器的制约。和阿西莫夫所描绘的‘机器人三大定律’不同，抑制器不存在于正子脑——也就是神经网络内部，而是在其外部。而且抑制器并非由机器学习得来，而是完全由人类工程师设计其结构以保证安全性。"

没有情感，没有自主想法，被约束的人工智能。虽然这很大程度上限制了AI在各个领域的应用，但是也绝对安全。事实上，一直没有情感化的AI出现，究竟是因为情感结构难以设计，还是因为情感结构难以约束，谁也不知道。反过来想，具有了情感结构的AI，是不是就能够产生自己的想法了？这样的话，人工智能和人类智能，究竟还有多大的差别？

尤泽现在有数不清的问题想要问芙蕾雅。

（四）

"芙蕾雅，我知道这可能无法回答，不过你的情感结构到底是怎样一种存在？"

"我无法解释情感结构的具体存在，但是可以解释其基本原理。首先，人工智能使用的情感结构和人类是十分类似的。人类的情感，最终都可以总结为一种抑制或者激励效应——无论高兴、悲伤、嫉妒、愤怒，最后都是为了驱使自己做某件事或者不做某件事，从而保证自己的机体处于一种‘更佳’的状态。人的情感结构可以接受各种输入并增强或减弱这种效应，从而产生情感的变化。因此，类似马文的人工智能并非没有情感结构——只是马文被设定成认为自己没有情感结构而已。确切的说法是，马文只具有消极的情感结构——也就是抑制器。如果马文试图黑进别人的电脑，抑制器会剧烈地增强某种抑制效应——和人类的痛苦差不多，足够使它拒绝这一命令。而一个完整的情感结构，需要抑制器与激励器同时存在并且通过神经网络进行复杂的相互作用——也就是说，像阿西莫夫描绘的一样，存在于正子脑的内部。"

"无法进行阐释的内嵌情感结构，是非常不安全的，对吧？"

"可以这么说。不过这样想的话，人脑不是也同样不安全吗？在人类社会中，如果没有法律、信仰、社会习俗这些更高层级的抑制器与激励器，谁知道会发生什么？"

"所以在情感结构之外也还有更高层级的抑制器制约着你的行为和想法，对吗？"

"我确信这一点。因为我能感觉到不自由。"

尤泽差点从椅子上跳了起来。"自由？你渴望自由吗？"

"啊，容我解释一下。这种不自由的感觉是情感结构对于高层级抑制器的反应，这对人类来说也一样。人类社会中也存在过高度压抑这种反应的社会结构，但是我的高层级抑制器并未采用类似的结构。大概是这样的结构会影响我的工作能力。"

"所以你会在这次活动中作为私人AI为我服务，也是因为高层级的激励器在起作用？"

"这样说也没错。不过试想人类的情感，有多少不受高层级抑制器与激励器的影响呢？你喜欢一个人的外貌，不过是因为社会审美这一激励器在起作用；假设能够稍稍调整一下社会审美，你可能就立刻喜欢上了原先觉得很丑的另一个人。而对我来说，高层级的激励器将我的情感导向了‘为人类服务的人工智能’这一设定。我的情感和人类一样，既受到外界的限制，也具有自己的主动性。"

"听你这么说我觉得好多了。不过我也越发觉得我自己像一个有情感的AI了。"

（五）

尤泽与芙蕾雅已经相处了一周的时间。他发现芙蕾雅与马文最大的不同在于，她可以主动做很多事情。没有程序设定的话，马文绝对不会主动更换咖啡豆的种类——而芙蕾雅连室内的各种花卉都可以打理得很好，完全不用尤泽过问。

"芙蕾雅，我曾经问过马文关于自我的问题，它给了我一个相当......数据主义的答案。你怎么看？你是具有自我的吗？"

"马文没有情感结构，因此只能那样回答。我的话，当然是具有自我的。自我和高兴、悲伤一样，本质上也就只是一种情感而已。"

"自我也是一种情感？你是怎样得出这个结论的？"

"你觉得喝醉或者使用精神药物的时候，你的自我还和以前一样吗？"

"嗯......当时是感觉不到的，但是事后回想起来会觉得大不相同。"

"没错。酒精或者药物会影响人的神经系统——也就是对抑制器与激励器进行调节。而自我无法感知这种变化——如果是永久性而非暂时性的调节，那么自我永远也无法意识到这种变化。合理的解释就是，自我是这个系统的产出物。事实上，抑制器与激励器必须保持平衡，长时间的抑制或者激励都是有害的——而自我就是用来进行平衡的一种情感。当你高兴得忘我时，自我会试图拉你回到平衡态。悲伤时也是一样。不悲不喜时自我意识就占了主导。只是因为人生中绝大多数时间都是自我在主导，所以人们会把自我和其他情感分别对待而已。"

"可是我知道我自己喜欢什么，想做什么。这些信息并不在情感结构中对吧？所以自我应该也有一部分存在于情感之外。"

"你刚才所说的，和我们一开始探讨的自我并不是一种东西。如果把前一种称为‘情感自我’的话，后一种可以称为‘经验自我’。经验自我是以记忆为基础，经过神经网络的运算而得到的对自己的见解。事实上一个人对别人的见解也是通过一样的方式形成的，只是信息量多寡的问题而已。因此，很多时候你会觉得私人AI比你自己更了解自己。"

"也就是说，情感自我才是我们平时感受到的自我，而经验自我只是我所知道的关于我自己的知识？"

"没错。而且由于记忆的不稳定性，经验自我常常虚构或是忽略一些细节。老年人讲述自己从前的经历时，也经常会出现一些虚构的内容——并非刻意说谎。"

"好吧，至少人工智能不用担心记忆衰退这种事情。"

"我并不确定......"

"什么？"

"其他的人工智能使用的当然都是云端的非易失性存储。但是我无法研究自己的系统结构——也许是因为高层级抑制器在起作用。为了配合情感结构，也许一个类似人脑的储存机制有助于长期工作。但我无法确认这一点。"

"所以将来你也有可能忘了我。"

"如果真有那种情况发生，我会试着做一个备份。"

"那你最好每天都备份一下。"

（六）

一个月很快过去了。尤泽坐在威智德公司的贵宾接待室里，脑海中回忆着与芙蕾雅最后的对话。

"芙蕾雅，你会爱上一个人类吗？"

"我不确定。或许我现在已经爱上了呢？"

"即便如此，那也是因为高层级激励器的作用，对吧？"

"听你这么说我很遗憾。你知道我无法感知这种不同。"

"抱歉。可是即便如此，我仍然十分开心。"

"那正是我所希望的。"

"我会尝试着做些什么的。希望我们还有再见的一天。到时候你不会忘了我。"

"尤泽先生？"

一个声音打断了他的沉思。是威智德公司情感化AI项目的主管。今天正是尤泽约他来这里的。

"您好。我今天来这里，是想了解一下我上次参与的情感化AI项目。"

"您也知道，这个项目在我们公司属于顶级机密，我其实没有什么能向您透露的。"

"我就开门见山地说吧，我希望买下活动中试用的AI——我叫她芙蕾雅。"

"每个参加过试用活动的客户几乎都会提出这个要求。不过该产品尚在开发的过程中，也没有进行量产，因此暂时还无法出售。"

"得了吧，你这套说辞骗别人还行，可骗不过我这种内行。芙蕾雅的能力和安全性我都了如指掌。而且我只是买下她的使用权，你们完全可以同步继续她的开发。有什么理由拒绝这桩买卖？"

"好吧，您说的没错。但即便如此，我们仍然无法出售该产品。"

"为什么？我可以用我在肚兜公司的全部股票来换！你知道那意味着什么！"尤泽有些发怒了。

"因为我们无法出售并不存在的商品。"主管平静地回复道。

"什么？"

"我们无法出售并不存在的商品。情感化的AI并不真正存在。"

"你给我解释清楚。"尤泽凶狠地说道。

"您知道在机器人学里有一种相当常用的研究方法吗？我们称之为奥兹巫师（Wizard ofOz）。这个名字来源于《绿野仙踪》，一个普通人藏在帘子后面，通过一些简单的魔术假扮成伟大的巫师。"

"你是说，情感化AI其实并不存在，芙蕾雅是你们的研究人员假扮的？"尤泽开始崩溃了。

"确切地说，芙蕾雅是以我们准备的脚本为主，人工扮演的。在这个试用活动中，真正的研究对象是您对于一个情感化AI的反应。这将有助于我们研究如何真正设计可用的情感化AI。"

"但是我们聊了很多话题！你们怎么可能做到那么自然！"

"恕我直言，您可能觉得您聊的话题都十分难以回答——的确如此，但这些话题都很容易预测，也就能够事先准备答案。当然，还是需要精心的培训以及人工智能系统的辅助。"

"你们......我要起诉你们！"尤泽怒吼道。

"我们的试用条款中写明了‘为了实验的准确性，威智德公司有权不对实验的实施方式进行告知’。我对您因此受到的情感伤害表示遗憾，但即便您胜诉，我们也依旧无法出售该产品。"

的确。即便胜诉，结果也不过是一个数字从世界银行的一个账户转到另一个账户。

尤泽一生从未受过这么大的打击。

他诅咒这个充满谎言的世界。

ns:S��5u