[科普中国]-硬科幻爱好者眼中的《底特律：成为人类》

现实世界有两点不像游戏中一样浪漫：人工智能没那么容易产生感情和自我意识；不产生自我意识的人工智能也可能毁灭人类。本文来自：触乐，作者：张一天。序：人工智能、未来学与未来“这不只是一部游戏，这是我们的未来。”在《底特律：成为人类》（以下简称《底特律》）的开篇，（游戏世界观里）第一个通过图灵测试的人工智能克洛伊非常严肃地对屏幕前的玩家说出这番话。作为一部互动电影，《底特律》拥有游戏行业里极为少有的，能在不受游戏性拖累的情况下描绘一个未来世界的特权，它本有条件成为一部优秀的硬科幻作品。可惜，《底特律》实在是太过痴迷于“仿生人争取自由”这个披着科幻外衣的政治故事了，以至于像隐私与监控、失业与财富集中，乃至人口衰退这些更现实，也更有意思的问题，都只被一笔带过。我们知道，作为科幻类作品的一个分支，一般来说，硬科幻强调科学细节和科学细节合理性，硬科幻通常以物理学、化学、生物学、医学等科学为基础的，以相对严格的技术推演和发展方向预测，描写新技术、新发明可能给人类社会带来的影响。凡尔纳、威尔斯、阿西莫夫以及刘慈欣的作品，大多属于硬科幻范畴。相对的，软科幻作品的背景大多基于哲学、社会学、政治学等人文学科，不以科技进步为主轴，有些背景过于模糊的所谓科幻作品，包括游戏，只是把故事发生的时间设定在未来某一时段，这有时就被归入“伪科幻”的范畴了。用硬科幻的定义去套《底特律》，就会发现它并不够“硬”，甚至还有些“软”，但对硬科幻爱好者来说，这个故事又具有一定的吸引力。因而，我们不妨以硬科幻爱好者的视角来看待一下这个故事，从中挖掘一些深层次的东西——这并不是非要吐槽《底特律》，但我们的世界上有一门非常小众的学科，叫做未来学。很多人对这门“学科”嗤之以鼻，认为它只不过是伪装成科学研究的科幻故事而已。不过总的来说，未来学的思维方式是一种很有意思的思维游戏，熟练掌握它会让一个关于未来的故事更加真实，也更能引人思考。Quantic Dream的编剧们就应该多研究一下这门学问。“高达式科技”：“不够硬”的硬伤在未来学家们的工作中，最“务实”的一项就是研究每一项前沿技术的发展速度，以及发展这项技术的必要性，以此分析未来人类的“科技树”会长成什么样。无人机械与物联网、脑后插管的虚拟现实、强人工智能、可控核聚变的无限能源，这些属于未来的黑科技哪一个先投入实际应用，都可能会导向一个完全不一样的未来。例如，我就见过两位未来学家提出的对于未来的两种很有意思的预测。第一位未来学家认为，无人机会成为人类物流与交通系统的主要载体，因此未来的城市上空会被划分成不同的空域提供给无人机运行，城市将因此走向扁平化；摩天大楼变成“摩地大楼”，进而导致城市地域扩张，吞并耕地，粮食依赖从美国进口的国家会出现动荡。另一位则认为，VR技术会在未来的人类社会中发挥更重要的作用，VR技术的发展应用最终会导致绝大多数工作不需要人亲临现场，绝大多数人都可以在家中办公；交通问题因此在城市生活中变得不再重要，不动产价格总体上会价格下降并趋于平均，靠近商业区或是交通枢纽的不动产价值下降，直接服务于不动产本身的设施会对其价格带来更大影响。不管你认为这些未来学家靠不靠谱，他们都在基于现有科技，认真地追求构建一个技术上更自洽的未来世界。而在一个“不够硬”的科幻故事里，人类的科技树则往往长得很奇怪。这类故事的一项常见病是，经常会出现许多“高达式”的桥段，许多东西为了艺术表现力，在明明有工程学上的更优解的情况下，被强行设定为与人类接近的外形——“道理我都懂，但我就是希望那个×××长得像个人”。这种套路有时候会像高达和《环太平洋》一样，纯粹就是一种情怀和浪漫，让观众大呼过瘾。但有的时候，这种不管什么东西都要做得像个人的执念，就会显得很像是皇帝锄地时用的金锄头。显然，《底特律》刚一开场就挥起自己手里的金锄头给自己来了一下子：我们在开场动画里看到，两个身穿制服的生化人正在搬砖——字面意义上的搬砖。同样，许多场景里面都能够见到仿生人勤勤恳恳地穿着一身制服在扫地，但就是见不到一台2018年就已经司空见惯的扫地机器人。理论上讲，将所有机器人一律设置为人形并非没有好处，除了在某些场合——比如游戏中的伊甸夜总会，人形的机器人可以更有效地为人类服务以外，人形机器人唯一的好处可能就是，不需要为机器人专门设计另外一套工具或生产环境。就像自动档普及之后，新一代的汽车并没有采用一脚油门一脚刹车的设计一样——改变操作方式会带来极大的成本，为了不让习惯于一只脚既踩刹车又踩油门的司机重新考驾照，汽车厂商们必须沿用这一设计。然而，这样的“惯性”有一个前提——某种科技出现在前，而且难以改变，从而形成了一种惯性，后面出现的科技产品就只能乖乖沿着这个惯性走。可不管怎么样，让一台负责扫地的智能机器去适配扫帚和簸箕这种高科技玩意还是不现实的。现代社会的大多数产品明明是被人类捉襟见肘的身体机能所拖累，所以对于搬砖，没有人形，直接通过数字途径操纵效率只会更高。Bug是造不出强人工智能的去年有一条科技新闻，或许能够很好地呈现人类浪漫的想象力与这个冷酷的世界之间，到底有多大的差距：Facebook透露，他们在实验让两个人工智能互相对话，结果发现这两个人工智能“开始使用一种人类无法理解的语言进行交流”，因此决定结束这一实验，关闭相关程序。这条新闻发出之后一时间引起轩然大波，有些营销号甚至开始惊呼“天网降临”，或者打出了“人工智能发展出他们自己的语言，能欺骗人类，人类听不懂”这样耸动的标题。不过随后证实，所谓的“自创语言”其实只是程序中的一个Bug。程序员安排两个程序使用自然语言进行“对话”，程序无法正确理解自然语言，结果一来二去，双方发出的对话都塞满了各种无用的单词，使得整个对话形同乱码。程序员很生气，把两个程序一起关掉，回去琢磨代码，公关部门则对外通报了一下，让无数媒体搞了个大新闻。《底特律》对人工智能自我意识起源的解释也和这个乌龙新闻一样，透露着一些对计算机科学过于浪漫的想象。“人工智能”一般被分为弱人工智能、强人工智能和超人工智能。弱人工智能现在已经是我们生活中十分常见的一部分，其中的强者如打开围棋新纪元的AlphaGo，弱者如刚买完一个东西马上给你推荐同类产品的淘宝广告，它们只能解决一个领域内的问题。目前尚未出现的强人工智能则应该拥有抽象思维的能力，可以独立推理和解决问题，通俗地说，就是和人一样。有一种很流行的理论认为，强人工智能出现后，人工智能可以自己对自己进行升级改造，在一个很短的时间内成为人类无法想象的“超人工智能”。《底特律》中拥有自我意识的仿生人，某种程度上就已经达到了强人工智能的等级，可以进行抽象的思维，独立发现问题、解决问题，但并没有表现出科学家们设想的强大能力。相反，《底特律》中的强人工智能实在是太像人类了，变异之后的仿生人中了枪会惨叫，觉醒之后的夜总会小姐会讨厌人类的汗臭味。我们很难说这样的人工智能是“像人类一样强”，还是单纯的“像人类”。在我和同事们曾经体验过的剧情线中，并没有明确指出《底特律》中的仿生人使用的是何种处理器，又是如何成为所谓强人工智能的。在剧情中段的一个章节里，康纳前去拜访游戏中仿生人的发明者卡明斯基，向他请教仿生人智能的奥秘。按照卡明斯基的说法，他设计的仿生人“不知道0和1的复制从哪里出错了”，就成了所谓的异常仿生人，从弱人工智能变成了强人工智能。这种设定属于“一个Bug直接实现了多年未解决的Feature”，实在是有点过于机械降神。整个故事听起来就像是《刺客信条》里的贴图再次发生错乱，导致街上的路人大妈变成了奇怪的小姐姐。人工智能科学界有个段子：“一旦一样东西用人工智能实现了，人们就不再叫它人工智能了。”确实，诸如苹果的Siri、谷歌的Duplex等等在内，这些可以理解，甚至使用自然语言的人工智能软件面世之后，人们逐渐开始不再使用“图灵测试”这个概念来衡量一台机器是否有真正的“智能”了。事实上，计算机科学的先驱阿兰·图灵发明的“图灵测试”，并不算是一个具有很强可操作性的测试方法。图灵只是提出，要让测试者与人类和机器各自进行5分钟的交流，如果测试者在判断和自己交流的是人还是机器时，出现了超过30%的错误，就可以认为一台机器通过了“图灵测试”，成为“有思维的机器”了。“图灵测试”的问题可能在于，图灵没有见过真正的高性能电子计算机，低估了IT工作者们的聪明才智，又高估了人类的辨别能力。今年早些时候，谷歌在开发者大会上展示了代号Duplex的语音助手系统，这个程序在与理发店和餐厅的店员对话、替主人安排预约时，甚至显得比真人店员更能理解语境。有些人认为，这一类的AI系统不算真正通过了图灵测试，因为它无法理解自然语言中的感情因素——就像你不能通过女朋友的一声“哦”，判断今晚是平安无事还是暴风骤雨一样。这种说法确实指出了AI系统的弊端，但也有一些待思考的地方——比如，如果一台机器不是通过“理解语言”来判断这个“哦”，而是通过监控对方的呼吸、心跳、微表情来理解对方的意图呢？说到底，目前的人类自己都不能彻底理解人类的大脑是怎么工作的，自然无法给“和人一样”的机器下一个准确的定义，或者提出一个科学又可操作的标准来衡量它。《底特律》中的卡明斯基就提出了一个他认为的，可以替代“图灵测试”的“卡明斯基测试”，方法简单粗暴：要求一个正在执行任务的仿生人向另一个仿生人开枪，不开枪则任务失败。卡明斯基认为，不开枪意味着“同理心”，这是仿生人产生自我意识的象征——当然我们也可以理解为，这是仿生人可以造人类的反的象征，所以卡明斯基身边环绕的才是通不过“卡明斯基测试”的克洛伊型号仿生人。人工智能的艺术，并不需要灵魂在刘慈欣的短篇小说《梦之云》中，有一场著名的“技术与艺术的终极对决”。神一般存在的外星文明立志“写出比李白更好的诗”，于是依照汉语字库，用穷举汉字排列组合的方法把所有“可能存在的诗”都写了出来，光是储存这些诗就用光了太阳系中的几乎所有物质。外星文明最终悲伤地承认，自己写出了可能存在的最好的诗，然而却无法从这片“梦之云”里找到它。不过，故事结尾的一个小细节或许更有现实意义：外星文明用关键词搜索的方式给故事中的几个主角每人挑出了几首诗。这些诗作无法超越李白，但它们直接描述了这几位主角的日常生活。这个细节给我们的启示在于，机器完全不需要“理解”艺术，他们只需要按照人类的要求去“生产”，并且帮助人们筛选就可以了。《底特律》中也出现过技术与艺术的交锋——马库斯的原主人、画家卡尔尝试着引导马库斯画一幅自己想画的画。按照玩家的选择，马库斯会画出不同的画作，比如我在游戏中看到的那幅画，就是一张带一点莫奈风格的卡尔肖像。游戏隐约在通过这个环节告诉我们，仿生人马库斯开始拥有自我意识，拥有自己的灵魂了。在《底特律》的故事中，卡尔隐约被塑造成人类文明的一个巅峰存在，他占据了艺术这个拥有“灵魂”的领域，这是一座人工智能无法攀爬的高峰。因此在人工智能走向普及，所有人类都面临被取代威胁的2038年，卡尔仍然是受人景仰的艺术大师，向人类和仿生人传播着智慧的光芒。不过，在现实生活中，艺术的殿堂并非人工智能无法触及的领域。以卡尔为代表的的画家，在现实中或许会是第一批因为人工智能而面临“失业”的艺术家，取代他们的人工智能并不会是马库斯这样拥有自我意识和所谓“灵魂”的强人工智能，只要一套类似AlphaGo的，专注于某个领域的弱人工智能就可以了。2016年，一套名为Prisma的软件一度成为社交媒体上热议的焦点。借助深度学习系统，Prisma可以将任意一张照片用某种预设的艺术风格表现出来。熟悉这款软件的人一定会觉得，这款软件的“作品”和马库斯在游戏里可能会画出来的作品，其实非常相像。这套系统只能在人类给出的范围中进行“命题创作”，然而这就足够了。结合今天每个人都会用到的新闻软件和音乐播放器的兴趣推荐机制，一个弱人工智能负责筛选人们可能感兴趣的热点议题和艺术风格，另一个弱人工智能负责把这些元素整合起来。两种弱人工智能合作，用素材和美术风格随机排列组合的方式生产几百幅画，说不定里面就会有一张反映叙利亚内战的《格尔尼卡》，或者一张眉眼让人想起新垣结衣的《蒙娜丽莎》。我无意讨论当“AI生成的一幅作品”和“当代艺术家创作的一幅作品”完全一样时，二者的意义是否相同。但是“创新”这件事，是可以通过弱人工智能“取巧”来办到，而不需要所谓的“有灵魂的机器”。工作与社会阶层：人工智能的乌托邦与反乌托邦一件很容易被忽略的事情是，游戏中潦倒失败，只能将被时代抛弃的怨气发泄在卡菈和爱丽丝身上的托德是个“95后”。在2018年，他应该是个风华正茂的23岁小伙。按照游戏中的设定，2021年，自动驾驶的流行让托德失去了出租车司机的工作，一步步变得穷困潦倒。相对于其他近未来科幻作品，《底特律》的优点是它更直观地面对了人工智能革命之后的社会问题——虽然这些讨论并不怎么到位。在等待与卡明斯基见面时，康纳可以在玄关处找到一本杂志，上面提到一项“低成本”服务——相对富豪阶层来说，只要很低的价码，超级富豪群体就能在太空中旅行，甚至环月球观光，而这遭到了致力于减少贫富差距的公益团体的抗议。他们认为当无数穷人正挣扎在地面上的污染、失业与贫困上时，依靠人工智能技术造成这一局面的人却在云端之上逍遥，这是不公平，也是不道德的。在《底特律》的世界里，美国正经历着有史以来最严重的失业潮。仿生人的进化使得人类失去了绝大多数的工作。细数整个剧情，出现过的绝大多数人类都没什么正经工作。底层人民比如托德，虽然能够买得起两台仿生人回家，没事打着玩，却穷得连自家冰箱都要填不满了。上流社会中，如画家卡尔的儿子，虽然衣食无忧，但也无所事事，整天靠吸毒度日。随着未来越来越近，人们对“高技术的社会将会是怎样的结构”这个问题，确实有着越来越悲观的预期。虽然没有未来学家能够为人口的全面衰退和人工智能大范围替代人类劳动，排出一个准确的谁先谁后的时间表，但可以预计的是，生产力的发展必然会淘汰越来越多的职业。旧的职业消亡之后，人类社会能否像过去几百年一样，创造更多的职业类型和就业机会，许多人其实都并没有把握。虽然游戏中“机器人接过人类的扫把去扫地”这种幼稚的场景并不会出现，但是当能够理解，或者说，能够高效处理自然语言的人工智能出现，“和人打交道”这个之前几乎从未被技术进步波及过的工作领域，确实会受到前所未有的冲击。事实上，为了防止人工智能可能导致的社会问题，许多国家早已开始行动。2016年，欧盟议会曾经非常郑重地讨论过一项议案：决定是否在法律上将人工智能认定为“劳动者”，要求企业为这些机器缴纳社保。仔细研究这个方案可以发现，这项议案的初衷其实并非像游戏中的马库斯一样给机器人争取平等权利，而是为了明确人工智能设备可能导致的法律后果由谁负担，以及在人工智能应用增多、工作岗位总体削减的情况下向机器人的使用者收税，从而使社会保障系统不至于崩溃。这种对于人工智能导致失业与贫富差距进一步失衡的担忧也出现在许多科技巨头身上，埃隆·马斯克和马克·扎克伯格就都曾经公开呼吁，应该建立全民基本收入制度，以面对人工智能可能导致的失业潮。游戏中底特律人采用的是一种类似以工代赈的方案解决失业问题——让失业者去种植有机农作物。游戏中，康纳追击逃犯时曾经穿过一家这样的城市农场忠于用户还是忠于法律？“You are being watched.”因为提前预言了“棱镜门”曝出的全民监控，《疑犯追踪》成了过去几年里最火热的美剧之一。对监控与隐私这个话题的讨论同样带火了育碧软件的“看门狗”系列。相比之下，同样是描绘近未来世界，《底特律》在这方面的着墨可谓浅尝辄止，近乎缺位。游戏中零散的信息告诉我们，故事发生时，制造了绝大多数仿生人的Cyberlife公司正在接受一项调查——类似于眼下Facebook正在接受的调查。他们被指责在美国大选中非法获取美国人的个人信息，也就是靠从事家政服务的仿生人们“偷听”主人的对话来分析大选走向，进而帮助与Cyberlife友好的总统候选人——一位貌似希拉里的政治素人登上总统宝座。《底特律》中的美国总统形象很有意思——长得像希拉里，作风像特朗普，还是整个故事中出现过的唯一一个使用社交网络的人可惜的是，这条故事线真的就只是一条埋得不深，又没什么发展的暗线，完全没有展开来细说——感觉就像是在美国大选后临时加进剧本里应景的。反正，如果是我来写剧本的话，一边是购买、使用仿生人，与他们朝夕相处的主人，一方面是高高在上，在软硬件上都留了后门的企业与政府，仿生人在这二者中间摇摆所产生的戏剧张力，一定比现在这个让仿生人空洞地喊着“我们要自由”的剧本强得多。《底特律》的故事中，最重要的背景就是：无数台具有高性能摄像头、声音收录设备，可以联网、可以处理自然语言的机器被放进了社会的每一个角落。这些仿生人简直就是天生的密探，可以用于监控每一个人的行为，不管是政府、企业还是黑客，都有可能利用这些信息兴风作浪。在游戏初期，托德殴打爱丽丝的时候，我是非常错愕的——以现代社会的儿童保护尺度，卡菈的系统里难道不应该自动闪起一波安珀警报之类的玩意，然后自己动手，或是等着警察过来把托德按倒在地吗？虽然故事的后半段，游戏用一种有点生硬的方式堵上了这个窟窿，但这个故事还是引出了一个很有意思的话题：如果一个人工智能属于某人的个人财产，当它发现了主人的违法行为，人工智能应该选择成为帮凶，还是将主人绳之以法？在现实生活中，这个问题当然不需要求助人工智能的“灵魂”，而是需要由社会和法律来裁定。2012年，美国曾经发生过一起真实的案件：一个大学生杀害了他的室友，事后向苹果的语音助手Siri询问“哪里可以藏尸体”。Siri竟然真的给出了沼泽、水库、垃圾场等几个选项。事后，警方从嫌犯的手机上发现了这段“对话”并公布。迫于舆论压力，苹果对类似问题进行了专门的设置。现在再询问Siri同样的问题，她只会回答“我曾经知道问题的答案”。现代企业在类似问题上的灵活处理主要源于，现阶段绝大多数人工智能产品都不是硬件设备拥有者的个人财产，而是企业提供给用户的一项服务。所以他们才有可能在人工智能产品中做手脚，获取用户的信息，或是选择拒绝提供“如何藏尸体”之类的服务。关于软件（人工智能）是产品还是服务，所有权在厂商还是在用户的争议，显然仍将持续。这方面的争议甚至可以让我们联想到游戏市场——多次出现强制更新的电子版游戏是否损害了玩家权益？譬如光荣“修复了中国区玩家可以玩到官方中文版的Bug”之后，越来越多玩家开始怀念光盘、卡带作为媒介的单机游戏时代，或是支持GOG之类的非数字加密版本的游戏。在“是否赋予人工智能公民身份”的讨论中，其实也有人抱有类似的焦虑：如果在未来的社会中，人工智能以“企业提供的服务”而存在，那么可能导致拥有人工智能技术的企业拥有过大的权力。有些人认为，将人工智能在法律上界定为独立于企业或个人的实体，或许会更有利于避免科幻故事中的“邪恶大公司”出现。交通与社交：汉克这种糙汉居然还能开车？游戏刚开场不久，我们就会看到这样的场景：马库斯登上一辆公交车的“仿生人专用车厢”，和许多仿生人一起站在狭小的车厢里。隔着一层半透明玻璃，是宽敞明亮的人类乘客坐席。我们倒不好说这种设计有什么硬伤，不过，作者用这种系统影射历史上的种族隔离政策的意图太明显了。而主题先行的作品，在细节上大概率不会很硬科幻。在《底特律》的世界观里，交通系统有些过于复杂了：有人类和仿生人隔离的公交车，车上有人值守，但并不会把坐上人类坐席的卡菈赶下车；有自动驾驶的出租车——这一般是康纳的座驾；托德和汉克这样的中年糙汉开的是放在现在也显得陈旧的老式轿车；兹拉科和萝丝这两个完全相反的角色反而开着同款的、能自动驾驶的、自带HUD系统，且科技感十足的电动车。我其实有点好奇，《底特律》的世界里，这套交通系统到底是怎么规划的。萝丝和兹拉科使用的那款无人驾驶车是完全没有方向盘的，也就是说，这是一辆相当高级的无人驾驶车，它在设计时甚至没有考虑过在遇到紧急情况时人工接管的问题。自动驾驶技术其实已经近在眼前了，但在可预见的未来，自动驾驶技术最大的痛点其实是，自动驾驶车无法预知路上的有人驾驶车的行动。也就是说，如果道路环境上只有无人驾驶车在行驶，其技术门槛比让无人驾驶车与有人驾驶车混行低得多。关于无人驾驶如何发展，主流的看法是，无人驾驶技术应该不断地提高自己的适应性，直到能够安全地作为有人交通的一员上路，然后逐步淘汰有人驾驶。更激进一些的观点则认为，应该在一些地区里率先推行不许有人驾驶上路，只能使用自动驾驶的规则，随着无人驾驶技术的进步，逐渐扩大无人驾驶区域的面积。总之，《底特律》中，在交通领域出现的各种新技术，从单个产品来看，和现在的我们距离并不遥远。反而是老爷车与全自动驾驶同场竞技的混乱场面不太容易出现。整个故事中，我们几乎没有见过堵车的情景，也没看到过老爷车和无人驾驶车同框，这多多少少是有些遗憾的。（编辑：p_vmeilingpan）