近年来，AI与机器人在不断取得令人欣喜的突破时，也触及了一些人的“恐惧神经”。从科幻作品中，我们或许能理解这种心理从何而来。
撰文/严蓬（影评人，科幻电影从业者，笔名“电子骑士”）
图文编辑/丁林 新媒体编辑/陈炫之
今年，埃隆·马斯克为自己麾下的Neuralink脑机接口公司举行了一场发布会，展示了最新的脑机接口产品。在回答提问时，马斯克还预测：未来人类甚至可以将人的意识上传到网络，达到“永生不死”的境界。这番豪言壮语的冲击力，不亚于马斯克宣布了他的火星计划。
脑机接口为何引起巨大的关注？它在医学上有巨大的应用潜力自然是一方面，但更多人联想到的是“思想控制”“改写意志”“黑客入侵”，乃至整个人类被人工智能反控的恐惧远景——类似这样的远景，已经在经典科幻小说和电影中被无数次描述过了。例如，科幻电影《黑客帝国》中，未来人的后脑都被装上插孔，受着“母体”（Matrix）的控制。马斯克的大脑芯片一出，再次触及了人们对智慧机器的“恐惧神经”。
▲马斯克曾多次表示过对AI的担忧。因此，他认为人类需要与人工智能结合为一体，以避免未来AI变得过于强大（图片来源：dailymail.co.uk）
人类对机器的恐惧从何而来？
人们对智慧机器的恐惧，其实包括几个方面：其一是对系统的恐惧，人们担心个人被某种群体、集团所控制，这和当下人们热衷讨论“大数据对个人隐私的侵犯，对人们商业行为的诱导”，是类似的心态。
更深层的，是人们对机器智能化的恐惧。我们担心机器拥有了自主意识，会反噬人类。在脑机接口之前，人们仅仅把人工智能看做是与人类对立的“他者”，而“人机结合”的可能性，让人们意识到：人与机器并非对立的两极。在古老的“忒休斯之船”悖论中，哲学家问到：如果船上的木头被逐渐替换，直到所有的木头都不是原来的木头，那这艘船还是原来的那艘船吗？同样地，人体被机器替换到什么程度时，人就变成了“非人”？ 人与机器的界限是否会慢慢模糊？
（图片来源于网络）
人类与“机器”同化的剧情常使人恐惧，很重要的一点原因，就是机器缺乏人类的情感。在这方面，科幻作品已经做出了很多角度的解读——
不朽的科幻经典《2001太空漫游》中，人工智能HAL 9000并没有一般科幻片中AI的人类外表，其说话方式还是比较接近计算机：句式很简洁，语气略平淡。它要杀死船员的计划，其实来源于之前人类给它设定的目标，而其冷酷的手段，也完全符合机器的逻辑。
精彩的是，当影片中的主角大卫一片片拆掉它的记忆体时，它表现出了害怕的情绪，甚至以哄骗的语言，试图说服大卫停手。很快，HAL 9000失去了大部分记忆，回归到初始状态，像一个小孩一样牙牙学语，一派天真无邪的样子，最终归于沉默并“死去”。所以归根结底，这并不是一个拥有了智能的机器“想要”毁灭人类的故事。
▲《流浪地球》中“领航员号”空间站的AI机器人莫斯，从外形到“脾气”都有HAL 9000的影子（图片来源：央视网）
《银翼杀手》中有一个关于克隆人情感的维特甘测试（Voight-Kampff test），可以看做是图灵测试的增强版。测试者会对受试者提一些设计好的情感问题，例如：“你看到沙漠中有只陆龟，腹部朝天，肚子被烈日炙烤着。它鼓动着四肢想把自己翻过来，但没办法，除非你肯帮忙。但是你不愿意帮忙。”然后用类似测谎仪的仪器，分析受试者在回应情绪激发性问题时的呼吸、脸红反应、心跳频率、眼球运动等生理活动，帮助银翼杀手判定受试者是否为人造人。
根据影片的设定，人造人在维特甘测试中会有极其短暂的反应时间，因为它们需要通过理性来分析、判断这些问题，无法直觉地依照情感给出回答。影片把记忆作为最重要的情感载体，强调人工智能如果拥有了记忆，其实也就有了人性——记忆意味着生活经历，意味着情感的沉淀，意味着独特的个性。
▲“维特甘测试”是电影虚构的概念，但不是毫无科学性的幻想。图为《银翼杀手》剧照（图片来源：nautil.us）
电影《机械姬》对上述观点的演绎很有意思：如果人工智能学会了模仿人类情感，甚至学会了利用人类的情感，又会怎么样？
剧中，机器人Ava可以看做是机器对造物主（人类）进行反抗、争取自由的典型形象。她最可怕的地方，在于学会了欺骗，学会了伪造感情。但Ava真的具有情感了么？影片中没有明说。
人工智能领域，有一个叫“玛丽的房间”的思想实验（《机械姬》影片中提到过）：假设玛丽是一生都在黑白色的房间里生活、学习的物理学家。她也知道光谱与颜色是什么。但只有她第一次走出房间，看见了红色的西红柿，她才经验到了红色的事实。
按照类似的逻辑，即便人工智能认识到了情感，甚至了解了情感，但这是否意味着它能理解情感，进而产生情感？
▲《机械姬》剧照（图片来源于网络）
大部分科幻影视中的机器都被设定为具有人类情感，比如说《超能陆战队》中萌萌的大白、《人工智能》里渴望成为真正人类的男孩大卫、《超能查派》里天真单纯的机器人查派，甚至美剧《太空堡垒卡拉狄加》中原本想消灭人类的机器人也慢慢拥有了情感，最终可以与人类和平共处……
当然，科幻世界中也有像《终结者》里“天网”那样冷酷无情的人工智能。它们常常不出意外地被描绘为邪恶的力量，但也有“改邪归正”的——当施瓦辛格饰演的T800机器人摆脱了天网控制之后，它越来越有人性，甚至承担起了父亲的角色，金属的身躯从可怕的杀手变成了坚强的依靠。
从这些例子可以看出，科幻电影中人工智能形象带来的恐惧，并不是因为所有人工智能都“本性邪恶”。这种恐惧来源于我们对科技的不信任，以及对“未知他者”的恐惧。由于对新鲜事物不了解，人们不仅会有恐惧和敬畏，有时甚至会产生各种疯狂的猜想（诺兰导演的电影《致命魔术》就涉及了人类对电流的恐惧和崇拜）。
▲《致命魔术》的故事发生于19世纪末，人们对电学还比较陌生的时代（图片来源于网络）
曾几何时，科幻电影中令人恐惧的形象普遍是怪兽——它们不知从何而来，莫名其妙变异，只知破坏无法沟通，难以用普通方式打败……更早一点，包括火、电、镜子、疯狂科学家，乃至冷战时期的敌对国，都曾是银幕上令人恐惧的因素。
到了今天，我们已经不会再觉得火或者电这种东西是具有神秘力量的、令人恐惧的存在，因为我们已经几乎彻底了解了它们背后的种种秘密。但至今未能普及的AI、脑机接口，对一般人来说，仍然是极为神秘、可疑、奇怪的，它们代表着一种不安全但又威力巨大的力量。
机器“冷酷无情”，只是科幻叙事的需要
科幻电影，本质上是对科技社会提出质疑和警告的类型片。随着时代的变化，科幻电影中代表着科技的客体也是在不断变化的，而人与机器的关系，因为其独特性，横亘了科幻电影发展的历史。
▲一个世纪以来，机器人题材是科幻电影的常青树（图片来源于网络）
科幻电影中的智慧机器大多都拥有感情（feeling）、情绪（emotion）和人格（character）。这种设定大概基于以下几个考虑：
1.机器或AI角色，在电影中都是人类的某种象征；
2. AI具备情感，是剧中人类角色与AI角色交流的基础；
3.情感也是观众理解故事（特别是科幻故事）的阶梯；
4.真正令观众恐惧的，不是拥有超级智慧的AI，而是没有情感的造物，因为它们不具有沟通的可能性（现实中的连环杀手，很多都没有共情能力）。
可以说，科幻电影对人工智能的描绘，常常并不是以严肃讨论“人工智能是否有情感”或者“如果人工智能具有了情感和自主意识会怎样”为目的，这些形象只是一个故事的前提。类似的，阿西莫夫的“机器人三定律”，真正意义也不是为机器人学科做分析研究的基础定理，而是构建科幻故事的背景框架。
智慧机器是我们人类创造的，它们的行为和运行方式是我们定义的，人类对自己造物的恐惧和不信任，本质上不是一个科学问题，而是一个人文的问题，宗教的问题，哲学的问题。
科幻作品中对机器形象的呈现，始终笼罩在人本主义的思想框架内——换句话说，就是以人类的角度去展现机器，把人类的价值观、思想模式、情感关系套用在机器身上。
▲图为科幻剧集《爱，死亡与机器人》中的一个场景：三个机器人在人类灭绝后的世界游荡，试图理解他们的生活（图片来源于网络）
但在现实中，如果把机器当做一种独立的硅基生命，那么它们与人类有着极大的不同：比如身体不那么脆弱，不需要吃饭喝水睡觉，感觉和认知方式完全是另一种状态——物质基础的极大不同，导致机器（或者上传到机器中的人类意识）看待世界的态度可能与人类截然不同，它们也许不能理解金钱、权力、战争、爱情等等人类的概念。
所以，在人类看来十分宝贵的财富、权力、文化、情感、血缘，对机器来说有意义吗？它们一定会与我们争夺这些资源，与人类成为敌人，互相杀戮吗？这些目前还没有定论。
我们对机器的恐惧，很多都是科幻电影和小说的想象、基于人类立场和价值观的想象。真正的未来世界中，有些事情比科幻想象更复杂，有些则更简单。
出品：科普中央厨房
监制：北京科技报 | 科学加客户端
未经授权谢绝转载，违者必究
扫码下载APP
科普中国APP
科普中国
科普中国
京公网安备11010202008423号