[科普中国]-谨防人工智能“灰犀牛”陷阱

随着智能算法、大数据和物联网等技术不断成熟，人工智能由弱向强发展，愈发挣脱人类控制的缰绳。一旦失控，人工智能将可能“化友为敌”走向对立面，威胁人类生存。事实上，智能技术给人类生活带来便利的同时，正以人们习以为常的方式，悄无声息地准备着下一场战争。对此，我们应认清本质，预先防范，切莫陷入人工智能“灰犀牛”陷阱。

预置终端布势。随着智能技术民用化、产能规模化，智能设备大量运用于家居、交通、社交、办公等领域，与人类生产生活深度融合，尤其是智能手机、手环几乎人皆有之。恩格斯指出：“一旦技术上的进步可以用于军事目的并且己经用于军事目的，它们便立刻几乎强制地，而且往往是违反指挥官的意志而引起作战方式上的改变甚至变革。”智能设备是一种高度自动的机电一体化设备，其运行并不是孤立的、被动的。在互联网支持下，通过人机交互、机机协作、情境感知等功能，单个智能终端将与之交互的人、物和周围环境强制地、无感地联入网络，实现万物互联、泛在云联。但这正是最为致命的。试想一旦遭受网络攻击，无数智能终端将可能撕下友善的外衣，成为对手的“帮凶”。那么，我们现在毫无防范的普及智能技术的行为恰是为对手预置力量、部署态势。

智集情报夺权。情报优势即为决策优势，情报制权就是行动自主权。“把警戒放出去，放到敌人鼻子底下，敌人一动，我们就能知道，就有对付的办法，就不会吃亏。”自有战争以来，对抗双方就高度重视情报的获取与利用。但受客观条件限制，传统情报活动始于临战、痕迹可被识别、技术手段单一，而智能终端构成的情报体系呈现出新的特点，给反侦察、反情报带来了巨大挑战。全时空渗透，非对称侦反。智能设备遍布社会实践各领域，能够以人们意想不到的时间、地点、方式侦搜信息，并且敌我属性难辨，易使人们毫无戒备地与之交互，从而获得情报侦察与反侦察的非对称优势。多方式感知，多属性识别。随着智能技术的发展，智能终端视觉、听觉、触觉甚至嗅觉能力不断突破，能以多种方式感知外界信息，并以此为属性，多特征识别周围环境。互联网支撑，云响应联动。在体系支撑下，不同智能终端按需交互、自主协作、共享数据，实现情报网络运行的涌现效应。

智诱火力击要。“兵家之有采探，犹人身之有耳目也。”自精确制导武器运用于作战以来，因不当使用电子设备而丧命的战例不胜枚举。车臣头目杜达耶夫使用卫星手机通信被俄军精准斩首；巴勒斯坦150多名武装分子遭到以色列定点清除，其罪魁祸首是微型显示器。智能终端不仅是伪装潜伏的“耳目”，隐蔽地侦搜海量情报信息，还是网络体系支撑下的“大脑”，利用大数据、云计算技术分析处理信息，自主识别、定位核心军事目标、重要军政首脑，更是关键时候大喊“向我开炮”的“喉舌”，主动暴露自身位置，引导制导炸弹精确打击，甚至在赋予“开火权”的前提下，自主决策并下达打击指令。即便战前加强对智能设备的管制，采取人机物理隔绝，但智能终端仍然可以通过分析原有信息，预测军事目标活动轨迹，为快速发现、清除目标提供情报支撑。未来战争中，上一秒还在为你服务的无人驾驶车辆，下一秒可能就变成埋葬主人的坟墓。

智控物联瘫体。当前，市场上部分智能设备存在软件漏洞、设计缺陷等先天软肋，给攻击者留下了“后门”。黑客利用网络，可实现对智能设备的远程控制和恶意攻击。2017年，勒索病毒爆发，仅用2天时间就造成全球150多个国家的高校、自助终端、银行、医院等领域受到侵害。如果一旦用于军事目的，其后果将是毁灭性的。2010年，伊朗遭到“震网”网络病毒攻击，导致核工厂1700多台离心机被毁；无独有偶，去年伊朗又遭受电子袭击，导致互联网服务全面中断1个多小时，运载火箭被迫延期发射。随着区块链、5G技术发展，物联网必将成为覆盖所有智能终端、网关节点的去中心化网络，从而使“以点控点、以点控网”的互联、互通、互操作成为可能。令人担忧的是，智能终端广泛分布，物联网络处处是弱点，难以实施有效防范。未来战争，对抗一方极可能将病毒随遇植入某个终端，使其成为临时指挥中枢，控制所有智能设备“临阵倒戈”或“瘫痪罢工”，实现控点瘫体之效。

联合出品：科普中国 光明军事

作 者：董伟