[科普中国]-人类目前需要“提防”人工智能吗？

出品：科普中国

作者：王亚男

监制：光明网科普事业部

网友提问：人类目前需要“提防”人工智能吗？

专家解答：

现阶段，用“提防”的态度对待人工智能可能过于严肃了。我认为人类目前更多的考虑是如何运用人工智能，特别是在人类社会的关键系统里（比如运用到军事中）。如果一定要说“提防”，我们需要考虑的是如何合理地赋予人工智能权限。人工智能在未来一个不可避免的趋势是——在它的逻辑系统下推导出一些它可以行事的方式方法。那么如果我们赋予的权限过大，或者说对于权限没有管控，人工智能可能会成为影响社会安定的巨大隐患。其最终权限须有人类审核，由人类掌握高度决策权。例如美军在战争中使用无人机发动攻击，不可能任由飞机自己做决策，掌握生杀予夺的大权，虽然飞机可以进行无人化攻击，但开火并不是决策。

王亚男，中国航空学会科普工作委员会委员，编审，知名科普专家。1999年毕业于北京航空航天大学经济管理学院，工程硕士。1999年进入中国航空工业集团贵州集团工作。2005年进入《航空知识》杂志社，历任见习编辑、责任编辑、主编助理、执行副主编、编辑部主任等职，现任《航空知识》主编。 2013年荣获中国新闻出版政府奖期刊奖。王亚男倡导新概念科普方式，提倡发掘科学技术进程中那些真正令人感动的力量，善于从科学、人文、历史以及哲学等方面多维度地解析和传播科学思想，其新颖的科普讲座受到听众的普遍好评。