[科普中国]-人工智能会不会威胁我们的文明

Master的出现，宣告人工智能迈出新的一步！

一位名叫Master的新手登录弈城，起初没有高手搭理，但在战胜谢尔豪四段、孟泰龄六段、於之莹五段、韩一洲四段、乔智健四段后这个账号热度陡增。这晚Master十战全胜，已注定了其出世不凡。

第二天中午Master再度现身，在对王昊洋六段、严在明三段等职业棋手4连胜后，终于引出了韩国第一人朴廷桓九段。重头戏开始上演，结果也是重量级的，朴廷桓在必败局面下超时负。此结果在高手中炸了锅，接着等级分排名第7的连笑七段登场挑战，却连败两场！值得注意的是，紧接着Master与账号为“吻别”的网络棋手交锋两次，均以中盘获胜。弈城网工作人员表示，“吻别”很有可能就是拥有4个世界冠军头衔的当今世界围棋第一人柯洁。如果“吻别”真是柯洁，那就意味着Master对当今中、韩第一人的战绩是6比0。

其后，Master又连续战胜各大挑战者，其中新科百灵杯冠军陈耀烨九段也以失败告终，最后的最后，这位堪比“扫地僧”的神秘高手连续30盘不败，像是在逗大伙玩似的来了句：“今天累了，明天休息一天。”

最终，败在Master棋下的有江维杰九段、辜梓豪五段、朴永训九段、柁嘉熹九段、井山裕太九段、孟泰龄六段、金志锡九段……

一旁观战的柯洁九段都大惊失色：“从来没见过这样的着法，围棋还能这么下？”为此他感叹：看Master的着法，等于说以前学的围棋都是错误的，原来学棋的时候要被骂的着法，现在Master都下出来了。知乎网友赵小康评论道，Master对阵这些围棋高手，“大多数对局都是中盘取胜，人类数千年时间总结出的定式、大局观在Master面前显得陈腐可笑。”

1月3日9时30分，棋手古力九段按捺不住，最终发出10万元悬赏，奖励给战胜Master的勇士，但其后又有4位顶尖棋手被击败……

不过就在51场连胜之后，第二天，Master第52盘却以和棋结束，Master的51连胜纪录就此终止。这场比赛中，Master挑战中国围棋职业选手陈耀烨。Master执黑棋、陈耀烨执白棋，30秒3次快棋，不过由于后者出现了断线情况，30秒没有落子的掉线，该场比赛被系统判定为和棋。随后，Master又战胜了中国棋手范廷钰、黄云嵩等人，取得了53胜0负的战绩。

此后更为期待的对弈出现在Master和聂卫平之间进行。年届64岁的中国棋圣和Master的比赛也是这个人工智能程序进行的第54局比赛。本局Master特意把比赛用时调整为每方1分钟一手，以示对聂卫平的尊敬。

最终本局执白的聂卫平以7目半的劣势落败，Master在右上角下出犀利的手段，吃掉了聂卫平一块棋由此确立优势，并保持到了最后。而随着棋圣聂卫平落败，Master将自己的不败纪录延续至54场，中日韩高手无一能在这次“快棋”对决中取胜。

“新的风暴即将来袭。”本次输给Master的柯洁发文感叹。因为Master的出现，围棋界也开始 “反思”。棋圣聂卫平在看完Master和柯洁的对弈后表示：“Master改变了我们传统的厚薄理念，颠覆了多年的定式。”

Master能战胜这些超一流棋手，在人工智能专家，北京邮电大学教授刘知青看来，这并不奇怪。按照传统的人工智能计算方法，现在的计算能力绝对达不到战胜专业棋手的能力。但谷歌的团队在传统方法之上，加入了深度神经网络，其中最重要的两层决策步骤，一个使用“决策网络”负责选择下一步走法，另一个是使用“值网络”判断这步棋所导致的最后胜负结果。靠着更精准的评估和更聪明的棋步选择，这种算法与人类的思维方式更接近，计算量实际上比20年前的深蓝计算机还要少几千倍。

之所以能够达到精准的评估，关键是它不仅仅是一种算法，而且拥有自我学习的能力，从人类围棋高手的几十万局棋谱中，它掌握了如何赢棋的规律。这就是说，人工智能已经从几乎人类历史上所有围棋高手的棋谱上学习了经验，这样它的落子就不仅仅靠计算，就像很多高手一样，更多的是看棋型、看定式，然后比拼的才是计算能力。

我们的文明，真的会因人工智能而倒退？

Master的神勇表现，再次将人工智能推上风口浪尖，为此惊呼者有之，行业观察家吴明真认为，人工智能与人类之间一方面是仆主关系，人工智能会为人类在交通，在家庭，在教育等生活的各个方面提供更高级的服务，但人工智能与人类之间另一方面又是主仆关系，人类也在不断地为人工智能提供服务，人类创造它们改善它们，赋予它们反仆为主的能力，夺走一部分人的决策权威和生存权威。在他看来，人工智能将是一场革命，它不是简单的改造行业，它会对我们的社会结构进行重构，重新定义经济体，重新定义我们的人生，未来，人工智能会取代我们所有纯技术和纯服务的职位。

“这场革命有可能会让我们变得更好、更强、更有效，但同时也会让我们变得更差、更弱、更无效。现在，你还能凭着一门专业技能找到一份工作是幸运的，而未来有的人连被利用、被剥削的价值都没有了。”

面对阿尔法狗和Master，心态平和者亦有之，人工智能专家刘知青表示，即使围棋人工智能前进了一万步，人工智能不过多走了一步。因为如果要将阿尔法狗和Master的深度学习应用在其他领域，还需要多年时间。

专家们将人工智能分为弱人工智能和强人工智能。擅长完成单项任务的属于弱人工智能；科幻电影里独行天下的机器人则是强人工智能。按这个标准，阿尔法狗和Master还只是“弱者”。

“阿尔法狗如果化身为机器人去下棋，有一些难题它还无法克服。”人工智能领域专家汪兵介绍，机器人完成单项任务有很多应用，但让它使用人的工具完成日常任务，比如放下锅又拿起抹布擦桌子，可不容易。汪兵说，他估计2025年能够推出这样的住家通用机器人。

“现在业内一派认为人工智能要走向通用；一派认为应该垂直细分在教育、医疗等领域。”汪兵说，“后者比如IBM的Watson就用于肿瘤和眼底筛查，表现不错，但现在大家还在摸索阶段；而深度学习神经网络的通用化，我认为仍然有一个漫长过程。”

汪兵认为，目前全球IT巨头力拼人工智能，基本上是利用本公司的海量数据培训机器，让它解决某一具体问题，比如辨认照片上的花朵，或者提高订餐系统的效率。通用化的雄心壮志尚未落实。

人工智能发展方兴未艾，那未来能否跟人和平相处。

“担心人工智能控制世界，等同于担心火星上人口过剩。”著名的机器学习专家吴恩达这么说。

相比这种态度，上海交通大学科学史与科学文化研究院院长、讲席教授江晓原似乎更为警醒，“‘老虎还小’不构成养虎的理由”，人们担忧的是人工智能未来对人类的危害，要打消这个担忧，就必须论证“人工智能不会危害人类”，而不能将“人工智能还很初级”作为理由。

在江晓原看来，一些持“人工智能不会危害人类”观点的人是相信所谓的 “人造的东西不可能超过人”，“这是令人信服的论证吗？从来没有，事实上，这一论断只是一个盲目的信念。”

专业人士在试图打消公众对人工智能的忧虑时，经常提到一个说法：我们可以拔掉电源。对此，江晓原并不赞同，他认为，当对人工智能的想象停留在个体机器人阶段时，也许是成立的。更一般的说法可以是，只要人工智能还依赖有形的伺服机构才能实施行动，那我们也许还可以拔掉电源。但现实情形是，人工智能一旦与互联网结合，借用高度发达的定制、物流、快递等社会服务，几乎可以完全摆脱对所有伺服机构的依赖。这一点不仅在大量幻想作品中已经反复上演，而且在现实生活中也可以顺利实施了。当人工智能只是一个网上幽灵时，没有机体，没有形态，还谈什么拔掉电源呢。

有人将阿西莫夫提出“机器人三定律”搬出来反驳，对此江晓原反驳，阿西莫夫的时代还没有互联网，如今，我们必须特别关注人工智能和互联网的结合，即使就个体机器人而言，这种结合也将快速突破智能的物理极限。就无形的人工智能而言，还有更大的危险性，一旦和互联网结合，上述1、2、3、4级人工智能之间的界限还能不能存在？如果居心叵测的人工智能研发者，有意突破这些界限，社会如何监控？人工智能进化成超级人工智能可能只需弹指一挥间，到时人类将措手不及，完全无法掌控。

“发展科学”也可能“唤出恶魔”，人工智能必将威胁我们的文明，这就是江晓原的观点。（记者蔡文清）