未来人工智能的发展如何监管

　　“人工智能”如今已经是老生常谈。如Siri语音助手、运动手环等一系列基于人工智能的应用已经悄然占据了人们的生活。不过，除了人工智能的便捷性，它所带来的威胁和挑战同样备受关注。

　　已故著名物理学家、剑桥大学教授史蒂芬·霍金在世时曾警告：在我的一生中，见证了许多社会深刻变化，其中最深刻的，同时也是对人类影响与日俱增的变化，就是人工智能的崛起。霍金认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。特斯拉和美国太空探索技术公司创始人兼首席执行官埃隆·马斯克也曾表示，我们应该警惕人工智能崛起的潜在风险，并建立监管机构来引导这项强大技术的发展。

　　那么，人工智能究竟有哪些潜在的风险？未来应该如何监管？

　　发展势头迅猛 风险伴随而来

　　人工智能发展是双向的，一方面它降低了风险，另一方面也带来了新的风险。以自动驾驶为例，一方面可以显著降低由于人工驾驶产生的疲劳驾驶、误操作带来的交通致死率，另一方面也可能因为网络侵入造成惨烈的交通事故。

　　此外，人工智能会对社会治理、法律制度、政府监管乃至社会伦理等产生负面影响，也引发社会的担忧。比如，随着人工智能的高度智能化，机器越来越具有人的属性，可能对婚姻制度、家庭伦理等产生大的影响。

　　人工智能应当引起法律人高度警惕

　　科技专家曾表示，人工智能在其发展进程中面临的最大问题不是技术本身，而是伦理和法律问题。2016年，标准制定组织IEEE发布的首份人工智能报告（2016）认为，人工智能发展的一般性原则将适用于所有类型的人工智能和自主系统。四项原则其中的责任原则便涉及如何确保人工智能和自主系统是可以被问责的。

　　这就要求立法机构和法院应当阐明人工智能系统开发和部署过程中的职责、过错、责任、可追责性等问题，以便于制造商和使用者可以知晓其权利和义务分别是什么，其次当人工智能及其影响游离于既有规范之外时，利益相关方应当一起制定新的规范。

　　南京邮电大学教授、联合国世界丝路论坛网络空间国际合作委员会主席王春晖认为，人工智能带来了许多复杂的伦理问题，这些伦理问题往往直接转化为具体的法律挑战，或是引发复杂的连带法律问题。人工智能的算法决策具有典型的“黑箱”特点，这应当引起现代法律人的高度警惕。

　　主要精力应在如何更好利用人工智能上

　　对于隐患和担忧，不少学者表示要以谨慎的态度对人工智能进行监管。但亦有业内专家持不同观点。

　　东软集团先行事业部副总经理田军表示，人工智能是人类创造出来的一种工具，一个工具怎么用，会产生什么效果，主要看掌握在谁的手上。有可能人类会因为各种疾病环境消亡，但机器却活下来了，人类的毁灭基本上是因为人自己或者自然，而不是机器把人干没了。

　　同样还有学者表示，只监管还不够，理论上公司也要对自己的产品负责。中科院自动化所副研究员王威说，在中国目前的发展状况下，伦理道德问题可以去思考、研究讨论，但现在还是应该把主要精力放在如何去利用人工智能，去深入到各个行业、去提升我们整体的生产力和各方面能力上。我们要相信自己可以做这个事情，而不是当成紧箍咒放在自己头上，添加各种束缚。

　　本文由北京工业大学教授、科普中国特聘专家于乃功进行科学性把关