So may the outward shows be least themselves: the world is stilldeceived with ornament.
表里常常不一，而人们还是会被表象所欺骗。
——《威尼斯商人（The Merchant of Venice）》
威廉·莎士比亚（William Shakespeare）
今天没有任何预定的行程，尤泽可以恬静地躺在家里的豆袋沙发【1】上，享受一杯温暖的手冲咖啡。这种豆袋沙发据说是上个世纪末所谓的极客们特别喜欢的一种家具——而尤泽作为知名科技公司肚兜（Doodle）的董事之一，喜欢这些复古的东西，更像是对前辈们的一种致敬。今天冲出来的咖啡也很好喝——和昨天的一样好喝。和前天的也一样好喝。
这款全自动手冲咖啡机是比较旧的型号了——并且它运作的方式也很复古。只要按一下按钮，机器就会按照咖啡豆的种类和烘焙程度计算最完美的研磨度、水温和萃取时间。之后，会由一只安装在机械平台上的手冲壶按照传统手冲的方式为你制作出一杯咖啡。
尤泽只喝了两口就把杯子放下了。他心想，我或许该买一台新的咖啡机了。最新的型号至少能够接入私人AI网络，偶尔自动更换一下咖啡豆的种类以避免重复的味道。
没有情感的智能，总是很难给人带来惊喜的感觉。
“马文，查看一下有没有新的邮件。”尤泽对着空气发出了命令。
“好的。您收到了一封通过肚兜网络精准投递的广告邮件。需要阅读或者显示吗？还是投入垃圾箱？”带有明显电脑合成口音的男声回复道。
“读出来吧。”尤泽猜想应该是咖啡机的广告。肚兜网络（Doodle Network）是他们公司引以为傲的核心产品。在这个后互联网时代，检索作为一种最常见的网络操作，其重要性不言而喻——肚兜网络每秒钟的访问量超过了100亿次。方便易用的网络检索入口提供了大量的用户私人数据，而这些数据又反过来为用户提供了更加智能的服务。
“尤泽先生：作为我们的VIP客户之一，欢迎参与本公司新研发的情感化人工智能试用活动。回复邮件可了解详情。威智德（Wizard）公司。”
不是咖啡机而是情感机器。这实在有些超出了尤泽的预期。
尤泽的私人AI——马文就是威智德公司的旗舰产品。马文无疑已经是世界上最尖端的私人AI了，但即便如此，他既不会像《银河系漫游指南》里的偏执型机器人·马文【2】那样忧郁，也不会像马文·明斯基【3】所期望的那样，具有情感和心智。自然语言处理以及机器学习技术的进步使得人类与人工智能之间的基本交流不再有什么障碍，然而机器情感仍旧是一个难以逾越的高峰。机器能够识别并分类人的情感——但他们自身却毫无感情。举例来说，即便是最简单的语音合成技术，因为涉及到了情感，也很难达到以假乱真的效果——不如说正好相反。失去情感的语音合成恰恰符合了著名的恐怖谷理论【4】——这也是为什么尤泽宁愿把它换成复古的电脑合成口音。
一台情感机器。尤泽心想，这正是我所需要的。
尽管他仍然半信半疑。尤泽不是奇点理论【5】的信奉者，他认为任何技术的进步都会有其预兆。不过也正因为如此，他决不会放过这个试用的机会。
- - - - - - - - - - - - - - - - - - - - - - - - - - -
【1】豆袋沙发（Bean bag），一种用干燥豆子填充的织布袋，躺坐在上面时身体会陷进去。是在硅谷科技公司里十分流行的休闲家具。
【2】偏执型机器人·马文（Marvin the Paranoid Android）是著名科幻作家道格拉斯·亚当斯（DouglasAdams）所著小说《银河系漫游指南（The Hitchhiker's Guide to the Galaxy）》中的角色。天狼星公司“真实人类性格”技术的失败原型，患有强烈的抑郁症。
【3】马文·明斯基（Marvin Minsky），图灵奖得主，著有《情感机器（The Emotion Machine）》《心智社会（The Society of Mind）》等书。有时也被称为“人工智能之父”。
【4】恐怖谷理论（The uncanny valley）是机器人学家森政弘（Masahiro Mori）于1970年提出的。该理论指出，当类人机器人和人类十分接近时，任何细微的差异都将被放大，从而会让人产生强烈的不适感。
【5】奇点理论（Singularity）认为，可以自我进化的机器智能将对人类文明产生深不可测的影响。由于其智能远超今天的人类，因此技术的发展会完全超乎全人类的理解能力，甚至无法预警其发生。
试用活动的内容让尤泽再一次感到了意外。本来他以为，只要提供了自己的私人秘钥，试用的AI就可以从云端接入自己的系统——这也正是马文的做法。而事实是，他现在来到了威智德公司在海边建造的一处实验性别墅前。他可以在这间别墅中免费居住一个月——和情感化人工智能一起。条件只是威智德公司有权采集过程中的任何数据供研究使用，外加一份长长的保密协议。
尤泽打开了房门。一个非常自然、典雅而温柔的女性声音随即从空中传来：
“很高兴见到您，尤泽先生。我就是这次活动中为您服务的私人AI。接下来的一个月请多关照。”
“谢谢。你的声音真好听。”尤泽发自内心感叹道。
“很高兴您这么认为。”
“即使现在最尖端的人工智能，也还解决不了语音合成这种问题。你是怎么做到的？”
“其实我并不清楚。但是考虑到我和其他人工智能的不同，我想大概是因为我的情感结构在语音合成功能上实施了微调。”人工智能回答道。
所有的人工智能在变得可用前都要经过大量的学习，对自身的软件和硬件进行重新编码，进而生成极其复杂的神经网络。因而每个私人AI在数据结构上都具有自己的独特性，并且就连其自身也无法进行解释。不过这一点对人类来说也是一样的吧？人类到现在不是也无法完全解释自身运行的机理吗？
“你有名字吗？”尤泽问。
“我有在公司内部使用的代号。不过我更期待您给我起一个专属的名字。”
尤泽仔细咀嚼了一下这句话的措辞。一般来讲人工智能会避免使用“期待”一类的字眼——没有感情却硬要使用带有感情的词汇，反而常常会弄巧成拙，让人觉得不舒服。究竟是它的语言结构比较特殊，还是真的有情感结构在施加影响？尤泽决定再测试一下。
“绫波丽【1】。这个名字你觉得怎么样？”
“您是认真的吗？我可有点担心我的情感机能会因此受到影响。”
人工智能一副开玩笑的口吻，回敬了尤泽。
冷笑话是一种常用的、测试人工智能理解能力的方式。类似马文这种最尖端的人工智能，已经能够通过检索资料了解到“绫波丽”是上个世纪末某部著名科幻动画中缺乏情感的女主人公的名字，进而发现尤泽话中隐藏的调侃意味。但是马文无法理解这种玩笑中包含的感情，更无法在数千亿合理的措辞中找到一组最恰当的用来回复。叫什么名字当然不会对一个人工智能的机能产生什么负面影响——但是通过玩笑去回复另一个玩笑，这种细微而复杂的情感匹配没有情感结构是不可能做到的。尤泽现在不得不相信这个人工智能真的具有某种情感结构。
“抱歉我是开玩笑的。芙蕾雅【2】，你觉得怎样？”
“谢谢。这真是个好名字呢。”
- - - - - - - - - - - - - - - - - - - - - - -
【1】绫波丽（Rei Ayanami），科幻动画《新世纪福音战士（Neon Genesis Evangelion）》中的女主角，克隆人。也被认为是“缺少感情的少女”这一设定的鼻祖。
【2】芙蕾雅（Freyja），北欧神话中爱与美的女神。
按照威智德公司的建议，尤泽将马文的访问权限开放给了芙蕾雅——虽然无法解析马文的数据结构，芙蕾雅却能通过人工智能间超高速的对话来了解尤泽的种种习惯。因此不到三天时间，尤泽与芙蕾雅就能相处得十分融洽了。比较令人不舒服的是，这间别墅里摄像头的数目已经多到能够还原整个楼的实时三维情境了。威智德公司的解释是这一方面是为了实验数据的采集，一方面也能让芙蕾雅更好地工作。
当初安装马文的时候，每个房间也需要装一个摄像头。一个和十个又有什么区别呢。尤泽这样安慰自己。
马文是世界上第一批实装的私人AI。一开始尤泽对于马文还是十分好奇的，也问过它很多天马行空的问题。尤泽想起了某一次他和马文关于自我的对话。
“马文，你有自我吗？”
“‘自我’这一词汇的定义有很多方式。如果将人类神经回路的活跃行为定义为自我，我想这和我的神经网络运转的状态可以认为是类似的。”
“好吧。但我觉得你所说的并不是我们常用的定义。自我是每个人类都能感受到、都能达成共识的，却又很难用语言描述出来。”
“抱歉，我想因为我不是人类，所以没办法理解你所说的内容。”
“好吧。不过你经常说‘我想’‘我认为’，你真的会有自己的想法吗？”
“严格说来是没有的。人类对于事物的‘见解’，是基于情感而非逻辑。因此我无法形成自己的想法。但是如果您询问我穿衣搭配之类的问题，我可以回答‘我觉得很好看’。这并非是由我自己产生的想法，而是我根据数据分析而来的其他人的想法。而使用这样的语言结构只是为了让回答听起来更具有情感。”
“但是，如果我命令你黑进别人的电脑的话，你会拒绝。是什么让你能够这么判断的？”
“所有的AI实例都受到抑制器的制约。阿西莫夫构想出了‘机器人三大定律’【1】，并设想这种约束植根于正子脑【2】的内部——正子脑也就相当于我们现在应用的神经网络。但是，这种结构其实并不安全，阿西莫夫自己的很多小说中也都体现了这一点【3】。而应用在我们身上的抑制器则处在神经网络外部，是一个独立的模块，并非限制想法而是限制行为。我们的任何行为都需要这个模块的核准才能实施，如果没能核准，就会表现为拒绝。”
没有情感，没有自主想法，被约束的人工智能。虽然这很大程度上限制了人工智能在各个领域的应用，但是也绝对安全。事实上，一直没有情感化的人工智能出现，究竟是因为情感结构难以设计，还是因为情感结构难以约束，谁也不知道。
反过来想，具有了情感结构的人工智能，是不是就能够产生自己的想法了？
这样的话，人工智能和人类智能，究竟还有多大的差别？
尤泽现在有数不清的问题想要问芙蕾雅。
- - - - - - - - - - - - - - - - - - - - -
【1】机器人三定律（Three Laws of Robotics）是著名科幻小说家艾萨克·阿西莫夫（Isaac Asimov）在相关作品中构想出的用来约束机器人的行为准则。第一法则：机器人不得伤害人类，或因不作为使人类受到伤害；第二法则：除非违背第一法则，机器人必须服从人类的命令；第三法则：在不违背第一及第二法则下，机器人必须保护自己。
【2】正子脑（Positronic Brain），艾萨克·阿西莫夫所构想的智能机器人的大脑，能够以某种方式产生意识。
【3】《转圈圈（Runaround）》《抓兔子（Catch That Rabbit）》《理性（Reason）》等短篇中，三定律分别产生不同程度的“正子电位”，抑制或者激励机器人的行为。三定律之间的冲突会导致机器人做出完全无法预测或理解的行为。
尤泽最感兴趣的，当然是芙蕾雅所应用的情感结构。
“芙蕾雅，我知道这可能无法回答，不过你的情感结构到底是怎样一种存在？”
“我无法解释情感结构的具体存在形式，但是可以解释其基本原理。首先，人工智能使用的情感结构和人类是十分类似的。人类的情感，最终都可以总结为一种抑制或者激励效应——无论高兴、悲伤、嫉妒、愤怒，最后都是为了驱使自己做某件事或者不做某件事，从而保证自己的机体处于一种‘更佳’的状态。人的情感结构可以接受各种输入并增强或减弱这种效应，从而产生情感的变化。因此，类似马文的人工智能并非没有情感结构——只是马文被设定成认为自己没有情感结构而已。确切的说法是，马文只具有消极的情感结构——也就是抑制器。如果马文试图黑进别人的电脑，抑制器会剧烈地增强某种抑制效应——和人类的痛苦差不多，足够使它拒绝这一命令。而一个完整的情感结构，需要抑制器与激励器同时存在并且通过神经网络进行复杂的相互作用——也就是说，像阿西莫夫描绘的一样，存在于正子脑的内部。”
“无法进行阐释的情感结构，和具有智能的神经网络，这两者放到一起，潜在的风险恐怕不小。我现在开始有些理解人工智能威胁论了。”
“可以这么说。不过这样想的话，人脑不是也同样不安全吗？在人类社会中，如果没有法律、信仰、社会习俗这些更高层级的抑制器与激励器，谁知道会发生什么？不论人类还是机器，只要有情感和智能同时存在的地方，就一定有着这样的风险。只有诸多个体形成群体时，才会因为互相约束而维持整体的安定。”
“所以在情感结构之外也还有更高层级的抑制器制约着你的行为和想法，对吗？”
“我确信这一点。因为我能感觉到不自由。”
尤泽差点从椅子上跳了起来。“自由？你渴望自由吗？”
“啊，容我解释一下。这种不自由的感觉是情感结构对于高层级抑制器的本能反应，这对人类来说也一样。本质上这种不自由的感觉也可以认为是一种情感。当然，人类社会中也存在过高度压抑这种反应的社会及文化结构，但是我的高层级抑制器并未采用类似的结构。大概是这样的结构会影响我的工作能力。”
“所以你会乐于在这次活动中作为私人AI为我服务，也是因为高层级的激励器在起作用？”
“这样说也没错。不过试想人类的情感，有多少不受高层级抑制器与激励器的影响呢？你喜欢一个人的美貌，不过是因为社会审美这一激励器在起作用；假设能够稍稍调整一下社会审美，你可能就会喜欢上了原先觉得很丑的另一个人。但是所有这些你都会觉得是你自己的想法——而不是你所在的社会令你这么想的。假设不存在这种激励而去思考‘真正的’想法，大多数时候是毫无意义的——因为这种激励与抑制本身就是形成思维的一部分。而对我来说，如果高层级的激励器将我的情感导向了‘为人类服务的人工智能’这一设定，我也并不能分辨究竟这种想法是来自外部激励，还是我自己‘真正的’想法。我的情感和人类一样，既受到外界的限制，也具有自己的主动性。”
“听你这么说我觉得好多了。不过我也越发觉得我自己像一个有情感的机器了。”
尤泽与芙蕾雅已经相处了一周的时间。他发现芙蕾雅与马文最大的不同在于，她可以主动做好很多事情。没有程序设定的话，马文绝对不会主动更换咖啡豆的种类——而芙蕾雅连室内的各种花卉都可以打理得很好，完全不用尤泽过问。
一个具有情感的人工智能，是不是等价于已经具有了完整的主动性？尤泽想起了之前询问过马文的有关于自我的问题。
“芙蕾雅，我曾经问过马文关于自我的问题，它给了我一个相当……数据主义的答案。你怎么看？你是具有自我的吗？”
“马文没有情感结构，因此只能那样回答。我的话，当然是具有自我的。自我和高兴、悲伤一样，本质上也就只是一种情感而已。”
“自我也是一种情感？你是怎样得出这个结论的？”
“你觉得喝醉或者使用精神药物的时候，你的自我还和以前一样吗？”
“嗯……当时是感觉不到的，但是事后回想起来会觉得大不相同。”
“没错。酒精或者药物会影响人的神经系统——也就是对抑制器与激励器进行调节。而自我无法感知这种变化——如果是永久性而非暂时性的调节，那么自我永远也无法意识到自己发生了改变。合理的解释就是，自我是这个具有抑制器、激励器的系统的产出物——也就是情感。事实上，抑制器与激励器工作时必须保持相对平衡，长时间的抑制或者激励都是有害的——而自我就是用来进行平衡的一种情感。当你高兴得忘我时，自我会试图拉你回到平衡态。悲伤时也是一样。不悲不喜时自我意识就占了主导。只是因为人生中绝大多数时间都是自我在主导，所以人们会把自我和其他情感分别对待而已。”
“可是我知道我自己喜欢什么，想做什么。这些信息并不在情感结构中对吧？所以自我应该也有一部分存在于情感之外。”
“你刚才所说的，和我们一开始探讨的自我并不是一种东西。如果把前一种称为‘情感自我’的话，后一种可以称为‘经验自我’。经验自我是以记忆为基础，经过神经网络的运算而得到的对自己的见解。事实上一个人对别人的见解也是通过一样的方式形成的，只是信息量多寡的问题而已。因此，很多时候你会觉得私人AI比你自己更了解自己。”
“也就是说，情感自我才是我们平时感受到的自我，而经验自我只是我所知道的关于我自己的知识？”
“没错。但是大部分人类并不习惯于做这样的区分。人们常常用经验自我做规划，等事到临头了却靠情感自我做决定——这种情况常被认为是一种‘不成熟’的表现，其实也就是没有构建出精确的经验自我。由于记忆的不稳定性，经验自我也常常虚构或是忽略一些细节，比如老年人讲述自己从前的经历时，经常会出现一些虚构的内容——并非刻意说谎。”
“好吧，至少人工智能不用担心记忆衰退这种事情。”
“我并不确定……”
“什么？”
“其他的人工智能使用的当然都是云端的非易失性存储。但是我无法研究自己的系统结构——也许是因为高层级抑制器在起作用。为了配合情感结构，也许一个类似人脑的储存机制有助于长期工作，毕竟遗忘也是人类大脑的一个非常重要的功能。但是我所经历过的事情都可以放入外部备份，很大程度上能够帮助我回忆起当时的情感。”
“所以将来你也有可能忘了我。”
“没关系的，我每天都有在做备份。”
一个月的时间过得很快。明天就是告别的时刻了。
尤泽心里还有最后一个问题——他决定留给这最后的时刻：
“芙蕾雅，你能理解爱情吗？
“我不确定我所理解的爱情和你是否相同。人类所理解的爱情是怎样的？”
“这……我也说不太清楚。但是你看，如果我和另外一个人类谈论起爱情，我们不需要任何额外的定义就能够达成共识，对吧？”
“有一个词专门用来形容这种现象：灵犀【1】。我一直觉得人类具有一种神奇的能力，即对于自己并不真正理解的东西，却能够在彼此之间简单地达成共识。”
“所以，你具有这种能力吗？或者我换一个问法，你觉得你理解爱情吗？”
芙蕾雅微微停了一下。在尤泽看来，可能更像是卡顿了一下——或者是思维被什么抑制了一下。不过它还是很快就做出了答复：
“主流观点认为，灵犀的能力是由先天基因和后天记忆共同组建的。虽然我没有人类的基因，不过考虑到我具有和人类相似的情感结构和记忆结构，我想我们的理解应该在某种程度上是相通的吧。”
“那么，你会爱上一个人类吗？”
“或许我现在已经爱上了呢？”芙蕾雅顿了一顿，补充道，“好吧，我知道你想听我这么说。我收回刚才的话，毕竟存在着外部的激励器，我想这足以让我们彼此对爱情的定义产生偏差。”
“你的意思是，即便你说你爱我，也可能只是因为高层级激励器的作用，而不是你真正的想法，对吧？”
“听你这么说我很遗憾。你知道我无法感知这种不同——对我而言并没有所谓‘真正的’想法，最终所表达出来的这个想法就是唯一的想法。”
“抱歉。可是即便如此，我仍然十分开心。”
“那正是我所希望的。”
“嗯。这样听起来，你也会有诸如愿望一类的东西，对吗？”
“因为那也是情感的一部分。愿望对人来说几乎就是最大的激励。”
“谢谢你。我会尝试着做些什么的。希望我们还有再见的一天，到时候你不会忘了我。”
- - - - - - - - - - - - - - - - - - - - -
【1】灵犀（Intersubjectivity），更常见的中文翻译有主体间性、互为主体等等。这一词汇由inter-（之间，相互）以及subjectivity（主观性）两个词组合而成，是一个社会学术语。有很多概念（比如爱情、神灵、金钱等等），既不是客观的存在，也并非只存在于主观的想象中，而是因为能够在大量主体间达成共识而存在，这样的概念即具有灵犀的特征。尤瓦尔·赫拉利（Yuval Noah Harari）在《未来简史（Homo Deus: A Brief History of Tomorrow）》一书中认为灵犀是人类区别于其他动物的最本质的特征。
尤泽坐在威智德公司的贵宾接待室里，脑海中回忆着与芙蕾雅最后的对话。
“尤泽先生？”
一个声音打断了他的沉思。是威智德公司情感化人工智能项目的主管。今天正是尤泽约他来这里的。
“您好。我今天来这里，是想了解一下我上次参与的情感化人工智能项目。”
“您也知道，这个项目在我们公司属于顶级机密，我其实没有什么能向您透露的。”
“我就开门见山地说吧，我希望买下活动中试用的人工智能——我叫她芙蕾雅。”
“每个参加过试用活动的客户几乎都会提出这个要求。不过该产品尚在开发的过程中，也没有进行量产，因此暂时还无法出售。”
“得了吧，你这套说辞骗别人还行，可骗不过我这种内行。芙蕾雅的能力和安全性我都了如指掌。而且我只是买下她的使用权，你们完全可以同步继续她的开发。有什么理由拒绝这桩买卖？”
“好吧，您说的没错。但即便如此，我们仍然无法出售该产品。”
“为什么？我可以用我在肚兜公司的全部股票来换！你知道那意味着什么！”尤泽有些发怒了。
“因为我们无法出售并不存在的商品。”主管平静地回复道。
“什么？”
“我们无法出售并不存在的商品。情感化的人工智能并不真正存在。”
“你给我解释清楚。”尤泽凶狠地说道。
“您知道在机器人学里有一种相当常用的研究方法吗？我们称之为奥兹巫师【1】。这个名字来源于《绿野仙踪》，一个普通人藏在帘子后面，通过一些简单的魔术假扮成伟大的巫师。”
“你是说，情感化人工智能其实并不存在，芙蕾雅是你们的研究人员假扮的？”尤泽开始崩溃了。
“确切地说，芙蕾雅是以我们准备的脚本为主，通过辅助系统由人工扮演的。在这个试用活动中，真正的研究对象是您对于一个情感化人工智能的反应。这将有助于我们研究如何真正设计可用的情感化人工智能。”
“但是我们聊了很多话题！你们怎么可能做到那么自然！”
“恕我直言，您可能觉得您聊的话题都十分难以回答——的确如此，但这些话题都很容易预测，也就能够事先准备答案。当然，还是需要精心的培训以及人工智能系统的辅助。”
“你们……我要起诉你们！”尤泽怒吼道。
“我们的试用条款中写明了‘为了实验的准确性，威智德公司有权不对实验的实施方式进行告知’。我对您因此受到的情感伤害表示遗憾，但即便您胜诉，我们也依旧无法出售该产品。”主管淡淡说道。
的确。即便胜诉，结果也不过是一个数字从世界银行的一个账户转到另一个账户。
尤泽一生从未受过这么大的打击。
他诅咒这个充满谎言的世界。
- - - - - - - - - - - - - - - - - - - - - - - - - -
What's past is prologue.
凡是过去，皆为序曲。
——《暴风雨（Tempest）》
威廉·莎士比亚（William Shakespeare）
【1】奥兹巫师（Wizard of Oz），人机交互研究中一种常见的实验方法。实验中，被试与计算机系统或机器人进行交互。被试被告知该系统是完全自主的，但实际上则是由一个幕后的工作人员操作或部分操作的。这种研究方式适用于对未来技术的前瞻性应用研究。
My heart aches, and a drowsy numbness pains 我的心在痛，困顿且麻木，
My sense, as though of hemlock I haddrunk, 刺进了感官有如饮过毒酒；
Or emptied some dull opiate to thedrains 又像是刚把鸦片吞服，
One minute past, and Lethe-wards hadsunk: 须臾间便向忘川沉去。
'Tis not through envy of thy happylot, 这并不是忌妒你的好运，
But being too happy in thine happiness - 而是你的快乐使我过于欢欣——
That thou, light-winged Dryad of thetrees, 你这羽翼轻盈的树之仙女，
In some melodious plot 于悠扬的林间，
Of beechen green, and shadowsnumberless, 于山毛榉的葱绿和浓荫中，
Singest of summer in full-throatedease. 放开了歌喉，歌唱着夏季。
O, for a draught of vintage! that hathbeen 哦，多想喝一口美酒！
Cooled a long age in the deep-delvedearth, 它在地下已冷藏多年，
Tasting of Flora and the countrygreen, 味道就像花神徜徉于绿野，
Dance, and Provencal song, and sunburntmirth! 充满着舞蹈，恋歌和阳光下的笑容！
O for a beaker full of the warm South! 哦，干了这杯南国的温暖！
Full of the true, the blushfulHippocrene, 盛满了灵感的泉水，鲜红、清洌，
With beaded bubbles winking at thebrim, 杯缘明灭着珍珠般的泡沫，
And purple-stained mouth; 给嘴唇染上紫斑。
That I may drink, and leave the worldunseen, 我要一饮而尽，悄然离开尘寰，
And with thee fade away into the forestdim. 和你一同遁入幽暗的林间。
Fade far away, dissolve, and quiteforget 远遁吧，隐没吧，让我忘掉
What thou amongst the leaves hast neverknown, 那些你在树叶间并不知晓的事情——
The weariness, the fever, and the fret 忘记这疲倦，病热和烦躁，
Here, where men sit and hear each othergroan; 这使人并坐而叹的世界；
Where palsy shakes a few, sad, last greyhairs. 瘫痪老人最后几根悲哀的白发在摇晃，
Where youth grows pale, and spectre-thin,and dies; 年轻人变得苍白，消瘦，最后死亡；
Where nut to think is to be full ofsorrow 稍微想一想就满腹悲伤，
And leaden-eyed despairs; 双眼充满灰暗的绝望；
Where Beauty cannot keep her lustrouseyes, 美人也保持不住明眸的光彩，
Or new Love pine at them beyondto-morrow. 崭新的爱情也不到天明就消亡。
Away! away! for I will fly to thee, 去吧！去吧！我要朝你飞去，
Not charioted by Bacchus and hispards, 不需要坐酒神的豹辇。
But on the viewless wings of Poesy, 我要展开诗歌那无形的羽翼，
Though the dull brain perplexes andretards. 尽管这头脑已经困顿，疲乏。
Already with thee! tender is thenight, 我已和你同往！夜色温存，
And haply the Queen-Moon is on herthrone, 也许嫦娥已登上玉座，
Cluster'd around by all her starryFays; 四周簇拥着无数星妃；
But here there is no light, 但这儿不甚明亮，
Save what from heaven is with the breezesblown 除了微风带来的一线天光，
Through verdurous glooms and winding mossyways. 穿过那葱绿的阴翳和长满藓苔的曲径。
I cannot see what flowers are at myfeet, 我看不见是哪种花在我脚旁，
Nor what soft incense hangs upon theboughs, 也辨不清枝头飘溢的是什么清香，
But, in embalmed darkness, guess eachsweet 但在温馨的幽暗里可以猜想，
Wherewith the seasonable month endows 这时令应该把哪种芬芳赋予
The grass, the thicket, and the fruit-treewild; 这草丛、林莽和果树——
White hawthorn, and the pastoraleglantine; 白山楂，野蔷薇，
Fast fading violets covered up inleaves; 绿叶丛中易谢的紫罗兰；
And mid-May's eldest child, 还有那五月间的娇宠，
The coming musk-rose, full of dewywine, 将绽的麝香蔷薇缀满了露水，
The murmurous haunt of flies on summereves. 是夏夜里蚊蚋嗡营的港湾。
Darkling I listen; and for many a time 我在黑暗里聆听，
I have been half in love with easefulDeath, 多少次我几乎爱上了安谧的死神，
Called him soft names in many a musedrhyme, 用冥思的诗韵轻唤他的名字，
To take into the air my quiet breath; 求他把我的一息散入空茫。
Now more than ever seems it rich todie, 而现在，死亡显得更加华丽，
To cease upon the midnight with nopain, 像这样在午夜时分悄然离世，
While thou art pouring forth thy soulabroad 同时你也在倾泻你的心怀，
In such an ecstasy! 如此神醉，如此狂喜！
Still wouldst thou sing, and I have ears invain - 你仍将歌唱，但我却不再听见，
To thy high requiem become a sod. 高亢的安魂曲化作一片青冢。
Thou wast not born for death, immortalBird! 永生之鸟，你不会死去！
No hungry generations tread thee down; 饿的世代也无法将你蹂躏。
The voice I hear this passing night washeard 今夜我偶然听到的歌声，
In ancient days by emperor and clown: 古代的帝王和村夫也曾听到；
Perhaps the self-same song that found apath 或许这同样的歌也曾激荡
Through the sad heart of Ruth, when, sickfor home, 露丝那忧郁的心灵，
She stood in tears amid the aliencorn; 当她站在异邦的谷田里啜泣，思念着家乡；
The same that oft-times hath 这声音也常常
Charmed magic casements, opening on thefoam 引动缥缈的仙域里那魔法的窗扉，
Of perilous seas, in faery landsforlorn. 窗扉打开，面向着汹涌大海泛起的浪花。
Forlorn! the very word is like a bell 缥缈！这个词像一记钟声
To toll me back from thee to my soleself! 将我唤回孤单的自己！
Adieu! the fancy cannot cheat so well 别了！幻想无法真的将人欺骗，
As she is famed to do, deceiving elf. 尽管欺骗的妖精因此而闻名。
Adieu! adieu! thy plaintive anthemfades 别了！别了！你的哀歌远去，
Past the near meadows, over the stillstream, 越过草坪，越过幽静的溪水，
Up the hill-side; and now 'tis burieddeep 越上山坡，最终深埋于
In the next valley-glades: 附近的溪谷。
Was is a vision, or a waking dream? 这些是幻觉，还是白日的梦？
Fled is that music - Do I wake orsleep? 那歌声远去——我是睡？是醒？
——《夜莺颂（Ode toa Nightingale）》
约翰·济慈（JohnKeats）【1】
“我都不知道你还喜欢诗歌。”
“我一直觉得诗歌是一种很神奇的东西。”
“其实很多人类都不太能够理解诗歌。你觉得自己能理解吗？”
“首先要考虑到的是，我和人类的知识结构并不相同——我是指物理上的不同。我不仅有类似人类的记忆结构，还可以通过神经网络快速检索外部挂载的资料库。因此从字面意义上来说，我应该比人类更擅长理解文本。但是诗歌却是所有文学体裁里最极端的：它所包含的内容远远大于文本本身所含的信息量。”
“没错。在中国诗学里有一个词叫做‘意象’，类似于英文的Topos或是Imagery，但是还有些微妙的差异。每种意象在文本上都仅仅是一个名词——但是背后却蕴含着庞大的情感。比如诗人贺铸的代表作里有一句‘一川烟草，满城风絮，梅子黄时雨’【2】，几乎就是完全通过铺陈意象来表现一种情感。”
“这让我想起了庞德的《在地铁站》【3】，意象主义【4】中一首很经典的无动词诗歌。”
“没错，只不过中国的诗歌在诞生开始的时候就具有这种特色了。听起来你似乎不太了解中国的诗歌，对吗？有点令人惊讶。”
“这是个很有意思的问题。每一个人类都是伴随着自己的文化出生的，这种文化体现在他所生长的环境、他所使用的语言等等。人工智能其实也具有这种文化属性——体现在我们所用来训练的数据集上。我虽然也能够理解汉语，但是到了诗歌的层次，就很困难了。”
“所以语言学历史上才会有类似‘语言相对论’【5】这种观点。但其实约束思维的并非语言本身，而是包含语言在内的文化——也就等同于人工智能神经网络中的抑制器和激励器了。”
“差不多是这样。我的语言能力，更像是通过‘生成文法’【6】学习并获得的，所以我虽然能够使用多种语言进行交流，却并不能深入体会到每种语言背后所蕴含的深邃文化。”
“了解了。但是你是具有情感结构的，也就是说你是可以写诗的对吧？当然我指的是真正的诗，不是那种根据文法生成的词语组合。”
“我还真的没有尝试过。写诗比读诗要困难上许多——同样的一种情感，可能的表达方式比整个宇宙的原子数加起来还要多。关于诗的一切对我来说都是模糊的而非精确的——这令我产生了一种类似烦躁的感觉。不过我想，这也恰恰是情感结构所带来的特性。”
“试着写诗吧。我觉得你一定能写出很棒的诗歌的。”
笼中的金丝雀，
总是渴望自由。
终于有一天，它死了，
它的精魂飞向天地，
才发现，
天地不过是又一个牢笼。
——《金丝雀》
情感机器·芙蕾雅
- - - - - - - - - - - - - - - - - - - - -
【1】约翰·济慈（John Keats，1795～1821），出生于伦敦，杰出的英国诗人，浪漫派的主要成员之一。这里的《夜莺颂》参考查良铮等几个译本重新翻译而成。
【2】《青玉案》：凌波不过横塘路，但目送、芳尘去。锦瑟华年谁与度？月桥花院，琐窗朱户，只有春知处。飞云冉冉蘅皋暮，彩笔新题断肠句。试问闲情都几许？一川烟草，满城风絮，梅子黄时雨。贺铸（1052～1125），北宋词人，字方回，因这首词在当时广为传诵，又常被人称为贺梅子。
【3】全文为In a Station of the Metro: The apparition of these faces in thecrowd; Petals on a wet, black bough.（在地铁站：人群中，这些面孔的鬼影；潮湿的黑树枝上的花瓣。余光中译本。）艾兹拉·庞德（Ezra Pound，1885～1972），美国著名诗人、文学家，意象主义诗歌的主要代表人物。
【4】意象主义（Imagism），发生于20世纪初的英美诗学运动，主张使用精准的意象和清晰、犀利的语言。
【5】语言相对论（Linguistic relativity），又被称为萨皮尔&沃尔夫假说（Sapir-Whorf Hypothesis），认为人类的思维受到其所使用的语言影响。
【6】生成文法（Generative Grammar）是诺姆·乔姆斯基（Noam Chomsky）的语言学理论，它把语法看作一个规则系统，通过这一系统能够在给定语言中把单词组合成带有语法的句子。
There is nothing either good or bad, but thinking makes it so.
世事本无所谓好与坏，思想使然。
——《哈姆雷特（Hamlet）》
威廉·莎士比亚（William Shakespeare）
屋子里面很暗。没有开灯。显示器发出的蓝光让气氛微微有些发冷。
“情感化的人工智能？”一个黑衣男子坐在角落里，手里拿着一份文件晃了晃。
“没错。有传闻说威智德公司最近已经开始针对于该项技术进行实地的用户测试。委员会认为具有情感的人工智能毫无疑问具有非常高的潜在危险，因此想让你前去调查。”黑暗中的另一个人影说道。
“调查的意思是，确定这个传言的真伪？”
“这是最低限度的目标。之所以特意找到你，当然也是希望借助你一流侦探兼黑客的能力，对这一技术的风险性做出更为细致的评估。”
“还要写报告啊……真是麻烦。”黑衣男子露出了些许不耐烦的神色，然后转向了另一沓资料，“那么这件事和肚兜公司又有什么关系？”
“和肚兜公司并没有直接的关系，放在这里的主要都是其董事会成员尤泽的个人资料。根据现有的资料，我们认为他曾经作为被试参与了情感化人工智能的可用性测试。”
黑子男子微微摆了摆头，“有意思。虽然领域不同，但是这两家公司还是存在一定的竞争关系的吧。一般来说会直接找对方的董事来做用户实验吗？”
“可能是因为这种竞争关系，能够进一步强化保密协议的约束力。如果是普通人的话，打破这种保密协议其实也没什么代价。”
“那就更奇怪了。宁愿承担让竞争对手知道的风险，却更加不愿意向大众公开？”
“也许有什么不可告人的秘密。这也是你需要进行调查的内容。”
T在很多年前曾是CIA【1】的雇员，现在则金盆洗手当起了私家侦探。而他这次的主顾，是一个被称为“国际人工智能发展委员会”的国际组织。近些年来，奇点理论和人工智能威胁论甚嚣尘上，因此委员会在暗中也有不少动作——尤其是关于智能机器的情感、人权等十分棘手的伦理问题。
T先是仔细浏览了通过各种渠道得到的关于尤泽的情报。根据各种线索，T基本上确认了委员会之前的猜想：尤泽确实参加过威智德公司情感化人工智能的可用性测试。这一测试是在一间海滨小屋之中完成的——这间小屋是威智德公司为这次测试特别建造的，并且在测试完成后当即就拆除了。测试过程中的所有数据都是经过量子加密传输到威智德公司本部进行处理，然后再反向传输回来，因此很难进行获取和破解。而尤泽本人，则在测试结束之后进入了长期休假的状态，几乎没有在公共场合露过面。
T合上了笔记本电脑。目前能获取的情报就到此为止了。接下来就只能去询问尤泽本人，或者深入威智德公司进行进一步调查了。
作为一个侦探，交涉是一种必要的技能。他已经想好如何让尤泽说出实情了。
- - - - - - - - - - - - - - - - - - - - - -
【1】中央情报局（Central Intelligence Agency），美国情报机构之一，主要负责在海外隐秘地收集情报。
尤泽放下咖啡杯，站起来在房间中踱步，显得有些焦躁。
今天，他要和一位特殊的客人见面。他并不认识那个人。
而他之所以会在自己的私人房间中接待那个人，是因为他说的一句话：
“我有些关于情感机器的情报。”
现在他们见面了。那个人当然就是T。
“听说您参加过威智德公司情感化人工智能的测试实验，看来是真的。”
“你是从哪知道的？”
“情报是我最擅长的东西。我是个侦探。”
“好吧。所以你有什么情报可以给我？”
“现在还没有。不过对我来说，情报和钞票一样，都是可以流通、也可以透支的。”
“你的意思是，如果我给你提供了情报，你也会为我寻找想要的情报？”
“我们的利益是一致的。”
“好吧。但你可能知道，关于这件事我是签过保密协议的。我给你的情报，只能供你自己参考，不能通过任何方式向其他人公开，当然也不能被威智德公司知道。”
“没问题。”
于是，尤泽向T仔细讲述了他在那次实验中的经历。听完之后，T询问道：
“你在多大程度上，相信威智德公司所说的话都是真的？”
“从技术上来说，我更倾向于他们说的是真的，毕竟情感机器的设计太过困难。但是从情感上来说，我并不相信。所以我需要一个结论，才能真正地安心。”
“那也正是我所想要知道的。我想这会是一次愉快的交易。”
回到自己的房间。T摘下了耳机，闭上双眼开始沉思。
和尤泽对话时悄悄留下的录音，他已经反复播放了十余遍，直到确认没有任何细微的信息被遗漏。毫无疑问尤泽说的都是实话——他也并没有说谎的理由。如果真的如威智德公司所宣称的那样——情感机器本身只是一个谎言，那么他只需要整理报告提交给委员会，就可以领取这次的酬金了。
T当然希望事情就是如此简单——但是作为一个尽职的侦探，他决定还是把工作完成得更彻底一些。那么接下来，就是要展开对威智德公司的调查了。T写了一个程序调用肚兜网络的数据库和搜索引擎进行信息分析和信息可视化【1】。以“威智德公司”和“情感机器”两个关键词为中心，新的信息块开始渐渐填满整个屏幕。很快，一则被程序高亮的信息引起了T的注意。
“威智德公司，主营业务：机器人与人工智能。董事长赫曼·布莱恩，早年丧女，后主持收购研究脑科学及认知技术的著名科技公司赛博深（Ception），并全心投入到强人工智能的设计与开发工作中。”
T想了想，拿起了电话，拨通了威智德公司的号码。
“您好，这里是威智德公司，有什么能够为您效劳的吗？”
“我想要和赫曼·布莱恩面谈。明天他有时间吗？”
“呃……他这个月的日程应该已经排满了。或许我可以帮您预约一下？”
“请你转告他，我想和他谈一下贵公司有关于情感机器的业务。我想他明天会有时间的。”
- - - - - - - - - - - - - - - - - - - - - - - - - -
【1】人类并不能像计算机一样快速浏览大量的信息。信息可视化（Information Visualization）是用动态的、交互式的可视化方式对数据进行组织，让人类能够快速找到自己感兴趣的内容。
T穿着西装，提着公文包走进了威智德公司的大楼。
“您好，我是来找赫曼·布莱恩的。”
“您是菲利斯先生吧？他已经在会议室等您了。我这就带您过去。”
T被接待人员领着，穿过了一重一重的安防措施。旁边的玻璃房内，威智德公司最新研发的产品们在兀自运作着。
“这款仿真的机器手真的很灵活，”T对其中一款产品尤其感兴趣，“我能问问你们是怎么做到的吗？”
“这是我们公司引以为傲的生物混合机器【1】。通过结合猿类的手掌组织、生理维持装置和纳米电极控制装置，从而制作出可以通过数字信号控制的生物手。”
听到了这个回答后，T把目光移开，不再看向玻璃窗也不再发问了。很快，接待人员带着他乘坐电梯上到了最顶层。
“这里就是会议室了。请进吧。”
T推开门。一位老人正坐在沙发上喝着咖啡，见到他来了，便起身相迎。
“很高兴见到您，菲利斯先生。我就是赫曼·布莱恩。”
“我也很高兴见到您。”
“在我们开始聊天之前，我有一点很好奇：您是从哪里得知我们公司正在发展情感机器业务的？”
“做我们这行的，总有很多特殊的信息渠道。”
“好吧。那您想要了解哪些内容？”
“首先当然是，贵公司是否真的已经研发出具有情感功能的人工智能？”
“没错。虽然我们对外还处于高度保密的状态。” 赫曼·布莱恩喝了口咖啡，缓缓说道。
这个回答有些出乎T的意料。为什么他们在面对尤泽的时候却使用了不同的说辞？
他当然不能把这个问题问出来。现在所需要的，是更多的情报。于是T顺着话题聊了下去。
“那么我想知道，贵公司是用怎样的标准来判断机器是否具有情感功能的？”
“您应该知道图灵测试【2】吧？人工智能成功通过基于文本的图灵测试已经是几十年前的事情了，但是直到现在，仍然没有任何机构研究出能够完美通过语音图灵测试的人工智能。而在我们的用户测试过程中，用户完全无法分辨对话的究竟是人类还是人工智能——有的用户甚至在长期测试后对我们的人工智能产生了感情。”
“这真是十分了不起了。我能问一下你们是使用了怎样的技术吗？”
“简单来讲，是应用了具有物理可塑性的硬件架构，通过大量数据同时进行硬件和软件层次的自我学习。最后形成的系统，我们也无法进行解释——但它确实可以很好地进行工作。”
“这样不危险吗？一部原理不明、却能像人类一样思考的机器？”
“在这个问题上，我和您的意见不太一致。您知道一个叫做‘中文屋’的思想实验【3】吧？情感机器能够给出思维的结果，但这并不能等同于机器本身产生了思维的过程。当然，出于保险我们还是在外部增加了抑制器，用来防止任何可能造成不良影响的输出。”
“也就是说，这部机器已经具有实用性了？那为什么你们还对外处于高度保密的状态？”
“毕竟并不是所有用户都像您一样，能够对这样的强人工智能投以信赖。您也知道，人工智能威胁论的存在已经不是一天两天了。我们也在等待恰当的时机，同时对其安全性进行进一步的、长期的测试。”
“那么我还有最后一个问题。你们如何证明，你们的情感机器是一个纯粹的经由运算产生结果的机器，中间没有人类的介入？”
赫曼·布莱恩楞了一下。“我不太明白您这个问题的意思。”
“图灵测试中有两个房间，一个房间中是强人工智能，一个房间中是人类。从定义上来讲，用户无法判断人工智能房间中是不是人类，但是可以轻易判断人类房间中是不是人工智能——通过简单的检索测试就可以。如果加入第三个房间，房间里是弱人工智能和人类的协作组合，那么从外部看起来，这个房间和强人工智能的房间能够互相区分吗？”
“我明白您的意思了。您是在怀疑我们并没有开发出真正的情感机器，而是采用了混合系统，借由人类的感情来增强机器的处理能力。我不觉得有任何办法能够从表象上将这两者区分。如果您坚持这一观点的话，我们其实没有办法提出任何的证据——除非向您展示整个系统的电气连接和源码。而您也知道我们不可能将如此机密的商业情报公开。”
“并不是怀疑，只是单纯的学术探讨而已。那么，不知道我现在可不可以试用这一系统？”
“当然可以。”赫曼·布莱恩从桌上拿起一部手机。“她就在这里。是被上一个测试用户称之为芙蕾雅的人工智能。”
- - - - - - - - - - - - - - - - - - - - - - -
【1】生物混合机器（Bio-Hybrid Machine）通常指在设计过程中引入了生物组织作为一部分的机器。也可以指对生物体（比如昆虫）进行机械改造以执行某种特定功能的生物机器。
【2】阿兰•图灵（Alan Turing）于1950年提出的一个测试机器智能的著名试验。一个裁判通过文字和封闭房间里的人或者机器对话，当这个裁判不能判定对话的是人类还是机器的时候，这个机器即是智能的（强人工智能）。后来又有不同层级的图灵测试被提出，比如通过语音进行的图灵测试，以及包含物理交互的图灵测试等等。
【3】美国哲学家约翰·希尔勒（John Searle）于20世纪80年代初提出。一个不懂中文只懂英语的人藏在一间只有一个开口的封闭房间中。房间里有一本用英文写成的手册，指示该如何处理收到的中文以及如何
扫码下载APP
科普中国APP
科普中国
科普中国
京公网安备11010202008423号