版权归原作者所有,如有侵权,请联系我们

[科普中国]-谨防人工智能“灰犀牛”陷阱

科普中国军事科技
原创
聚焦强军兴军实践 助力全民国防教育
收藏

随着智能算法、大数据和物联网等技术不断成熟,人工智能由弱向强发展,愈发挣脱人类控制的缰绳。一旦失控,人工智能将可能“化友为敌”走向对立面,威胁人类生存。事实上,智能技术给人类生活带来便利的同时,正以人们习以为常的方式,悄无声息地准备着下一场战争。对此,我们应认清本质,预先防范,切莫陷入人工智能“灰犀牛”陷阱。

预置终端布势。随着智能技术民用化、产能规模化,智能设备大量运用于家居、交通、社交、办公等领域,与人类生产生活深度融合,尤其是智能手机、手环几乎人皆有之。恩格斯指出:“一旦技术上的进步可以用于军事目的并且己经用于军事目的,它们便立刻几乎强制地,而且往往是违反指挥官的意志而引起作战方式上的改变甚至变革。”智能设备是一种高度自动的机电一体化设备,其运行并不是孤立的、被动的。在互联网支持下,通过人机交互、机机协作、情境感知等功能,单个智能终端将与之交互的人、物和周围环境强制地、无感地联入网络,实现万物互联、泛在云联。但这正是最为致命的。试想一旦遭受网络攻击,无数智能终端将可能撕下友善的外衣,成为对手的“帮凶”。那么,我们现在毫无防范的普及智能技术的行为恰是为对手预置力量、部署态势。

智集情报夺权。情报优势即为决策优势,情报制权就是行动自主权。“把警戒放出去,放到敌人鼻子底下,敌人一动,我们就能知道,就有对付的办法,就不会吃亏。”自有战争以来,对抗双方就高度重视情报的获取与利用。但受客观条件限制,传统情报活动始于临战、痕迹可被识别、技术手段单一,而智能终端构成的情报体系呈现出新的特点,给反侦察、反情报带来了巨大挑战。全时空渗透,非对称侦反。智能设备遍布社会实践各领域,能够以人们意想不到的时间、地点、方式侦搜信息,并且敌我属性难辨,易使人们毫无戒备地与之交互,从而获得情报侦察与反侦察的非对称优势。多方式感知,多属性识别。随着智能技术的发展,智能终端视觉、听觉、触觉甚至嗅觉能力不断突破,能以多种方式感知外界信息,并以此为属性,多特征识别周围环境。互联网支撑,云响应联动。在体系支撑下,不同智能终端按需交互、自主协作、共享数据,实现情报网络运行的涌现效应。

智诱火力击要。“兵家之有采探,犹人身之有耳目也。”自精确制导武器运用于作战以来,因不当使用电子设备而丧命的战例不胜枚举。车臣头目杜达耶夫使用卫星手机通信被俄军精准斩首;巴勒斯坦150多名武装分子遭到以色列定点清除,其罪魁祸首是微型显示器。智能终端不仅是伪装潜伏的“耳目”,隐蔽地侦搜海量情报信息,还是网络体系支撑下的“大脑”,利用大数据、云计算技术分析处理信息,自主识别、定位核心军事目标、重要军政首脑,更是关键时候大喊“向我开炮”的“喉舌”,主动暴露自身位置,引导制导炸弹精确打击,甚至在赋予“开火权”的前提下,自主决策并下达打击指令。即便战前加强对智能设备的管制,采取人机物理隔绝,但智能终端仍然可以通过分析原有信息,预测军事目标活动轨迹,为快速发现、清除目标提供情报支撑。未来战争中,上一秒还在为你服务的无人驾驶车辆,下一秒可能就变成埋葬主人的坟墓。

智控物联瘫体。当前,市场上部分智能设备存在软件漏洞、设计缺陷等先天软肋,给攻击者留下了“后门”。黑客利用网络,可实现对智能设备的远程控制和恶意攻击。2017年,勒索病毒爆发,仅用2天时间就造成全球150多个国家的高校、自助终端、银行、医院等领域受到侵害。如果一旦用于军事目的,其后果将是毁灭性的。2010年,伊朗遭到“震网”网络病毒攻击,导致核工厂1700多台离心机被毁;无独有偶,去年伊朗又遭受电子袭击,导致互联网服务全面中断1个多小时,运载火箭被迫延期发射。随着区块链、5G技术发展,物联网必将成为覆盖所有智能终端、网关节点的去中心化网络,从而使“以点控点、以点控网”的互联、互通、互操作成为可能。令人担忧的是,智能终端广泛分布,物联网络处处是弱点,难以实施有效防范。未来战争,对抗一方极可能将病毒随遇植入某个终端,使其成为临时指挥中枢,控制所有智能设备“临阵倒戈”或“瘫痪罢工”,实现控点瘫体之效。

联合出品:科普中国 光明军事

作 者:董伟

内容资源由项目单位提供