《流浪地球》：智能指控系统反叛的风险预警

　　【《流浪地球》中的“硬核”军事科技】

　　编者按：

　　行星发动机、重元素核聚变、单兵机械骨骼、加特林机枪……近日，正在热映中的国产科幻电影《流浪地球》不仅让科幻圈为之疯狂，也在军迷圈掀起波澜。即日起，《科普中国-军事科技前沿》推出系列作品，解读《流浪地球》中的“硬核”军事科技，欢迎关注。

　　出品：科普中国

　　作者：贾珍珍（国防科技大学）

　　监制：光明网科普事业部

　　有人说，这部春节期间口碑爆棚的《流浪地球》开启了中国科幻电影的新纪元。这种说法尽管有些夸张，但却体现出人们对国产科幻电影的美好期待。影片以人类推动地球逃离太阳系为大背景，从一个小人物视角，展现出了平凡人在危机下的无力与脆弱，以及绝境下社会与人性的改变。

　　《流浪地球》中的人工智能MOSS（图片来自网络）

　　在影片中，空间站的人工智能——MOSS的一句台词令人影响人深刻：“让人类永远保持理智，确实是一种奢求。”这是在刘培强与MOSS产生冲突并决定要牺牲自己点燃木星时MOSS留下的一句台词。此外，从《流浪地球》中MOSS的决策，我们还能看到人与智能指挥系统之间存在的矛盾，如为什么地震时地球发动机大面积熄火？为什么刘培强在和联合政府通讯时说“没有人类的文明将豪无意义”，却立刻被MOSS切断了通话？那么，MOSS是否真的叛逃？而一旦智能指控系统产生了自我意识，在未来战争中，这将会带来哪些影响？事实上，不少科幻电影已对智能指控系统的威胁展开了讨论。如电影《机械公敌》中原本以保护人类为使命的机器人出现集体失序，对人类展开了残暴攻击，《西部世界》中机器人的内部系统不断进化，最终反叛并伤害人类。

　　雷•库兹韦尔曾提出有关人工智能的“技术奇点”理论，它的背后有两个假设：其一，虽然不同于人脑的结构，但机器人的演进也可以在某一天拥有“类人智能”，这种智能与人类智能有许多相似的特征，甚至是“自我意识”也不例外；其二，按照计算机科技发展目前遵循的“摩尔定律”或别的规律，随着计算机科技的不断发展，终究有那么一天计算机的复杂度会达到和人类一个量级的水平，到那时，类人智能或超人智能就会从机器中自动涌现出来。按照这种假设，我们可以依据智能指控系统的特点，将其分为“人机协同”式和“机器自主”式两种类型。

　　一是“人机协同”式智能指控系统，它主要通过智能化武器装备与人的充分配合来完成特定作战任务。比如俄罗斯陆军在2016年底进行了“排级分队带机器人实弹射击”演练，当时安排了5部“平台-M”作战机器人与士兵协同配合展开攻击行动。美军提出“忠诚僚机”作战思想，通过F-35战机飞行员对无人驾驶型F-16战机进行指挥与控制，而僚机则充当传感器、射手或诱饵，并以此设想为基础来迭代式不断探索未来空战和对地攻击新战术。

　　二是“机器自主”式智能指控系统，它主要开发智能化武器装备的自主性，一旦有了这种自主性，其就能领会指挥员的决策意图，自主完成相关作战任务。如俄军正在研发的无人机群“任务智能分配系统”，可以根据战场环境来合理分配“角色”，迅速制定并实施最优行动方案，且能自主完成“行动-评估-再行动”作战闭环。再如美军的“蜂群战术”，通过智能化组网大量低成本无人机蜂群，接替单个高成本多任务平台，并依托多智能体的自主协同行动，从而迅速适应复杂战场环境。

　　在影片《流浪地球》中，MOSS指控系统无疑属于“人机协同”式智能指控系统。然而，由于目前人工智能技术的发展局限，智能指控系统容易在执行程序复杂的情景中出现失序，比如美军在伊拉克战场上的军用机器人失控事件。而无论是“人机协同”式智能指控系统还是“机器自主”式智能指控系统，过度依赖人工智能无疑增强了指挥系统失控的风险性，这就如同把枪交付给了机器人，而当机器人不听从人类指挥时，枪口对准的对象将可能是战争中的任何一方。因此，在发展军事智能化的同时，必须始终将人置于主体地位，保证人类指挥员对系统的控制权，并建立应急预警机制与意外发生时的后台程序，这些都极为必要。

　　在目前已知的浩瀚宇宙中，只有一个星体演化出了智慧，这个星体叫做地球。在目前已知的地球生态系统中，只有一个种群拥有智慧，这个种群叫做人类。人类文明因智慧“善”用而进化，人类文明也因智慧“滥”用而毁灭。科幻作家艾萨克·阿西莫夫曾说：“在我们这些真正无所不知的人眼中，那些自以为无所不知的人就是一个巨大的麻烦”。人工智能向何处去？人类社会向何处去？这考验着人类的智慧。

　　划重点

　　由于目前人工智能技术的发展局限，智能指控系统容易在执行程序复杂的情景中出现失序，比如美军在伊拉克战场上的军用机器人失控事件。而无论是“人机协同”式智能指控系统还是“机器自主”式智能指控系统，过度依赖人工智能无疑增强了指挥系统失控的风险性，这就如同把枪交付给了机器人，而当机器人不听从人类指挥时，枪口对准的对象将可能是战争中的任何一方。