人工智能是让机器人取代人类吗？

　　英国金融时报网13日发表专栏作家王尔山撰写的题为《人工智能是让机器人取代人类吗?》的文章。文章说,微软亚洲研究院院长洪小文博士说,只有等人类了解了创造力的产生过程,才有可能教会计算机人类特有的那种创作。

　　早春2月在北京做这个采访,我特别想问洪小文的一个问题,是以AlphaGo击败人类围棋高手为代表的这一波人工智能热潮可以维持多久,人工智能目的是要让机器人取代人类吗?

　　这跟洪小文的履历有关:1995年加入微软,2007年出任微软亚洲研究院院长、2014年兼任微软亚太研发集团主席,早在1980年代就师从卡内基·梅隆大学人工智能先驱学者罗杰·瑞迪做语音识别研究,与李开复、沈向洋成为同门师兄弟。

　　而瑞迪的导师是约翰·麦卡锡,在1955年首先提出Artificial Intelligence(人工智能)这一术语,次年,1956年夏天,在达特茅斯学院牵头组织了人工智能暑期研究项目,许多人认为人工智能就是从这次会议开始成为一个学术领域。

　　洪小文:AI的终极目标是成为人的守护天使

　　麦肯锡和瑞迪两人均因在人工智能领域做出具有开创性的杰出贡献而先后获得该领域最高奖——图灵奖,瑞迪还在2009年当选中国工程院外籍院士,理由之一就是培养了包括洪小文在内一大批杰出华人学者。

　　“我从1980年代跟瑞迪学语音识别的时候就觉得人工智能这题目很吸引我,因为人的智能是我们人类自觉最了不起的东西,怎样才能让机器也同样拥有呢?”

　　他说他永远不会忘记,当时他和学长李开复考虑的思路,跟导师瑞迪和他的导师麦卡锡并不一致,但瑞迪对他们说,“我虽然不认同这个方向,但我支持你们去尝试。”之后他们果然做出一个很不错的成果,洪小文说,“后来罗杰拿图灵奖的时候我们也有小小的贡献。导师的导师麦卡锡也拿过图灵奖——这也是很荣幸的,我们有图灵奖师承的传统。”

　　500年来棋一局

　　很容易看出“师承”是洪小文一个关键词,几乎每一个回答都能看到老师的影响。

　　比如,说到业界对人工智能当前处于哪个发展阶段看法不一,有说春天,也有说秋天,洪小文认为,“其实我也不知道这是春天还是秋天。大家知道人工智能已经经历至少2个冬天,我自己经历过一个半冬天,就是第一个冬天的末期跟第二个冬天。科学研究从来就不是一蹴而就的。即使从我们研究员的角度来看,这都是一个很长的周期。”

　　“今天人工智能红得不得了,很多人会觉得这就是近几年的事,但我会说,如果没有这些学者——我真的很尊敬这些早期的学者——没有他们从50年、60年前开始做这样的努力,那绝对没有今天的成果,因此我非常希望媒体能更多报道这些从这么早期就默默耕耘的学者和他们奠定的人工智能发展方向。”

　　至于到底哪一天我们真的可以到人工智能临界值、可以做一个机器跟人的智力一模一样,洪小文说预测未来是非常危险的,麦卡锡的说法是5到500年,“我的老师瑞迪的说法也有趣:他会说大概还要10年,但他会马上补充,‘如果时光倒流,你是在30年前问我,我的回答也是10年,如果你在5年前问我,我的回答也是10年;直到你今天问我,我也说还要10年。’”

　　那我甚至可以帮他回答,洪小文说,你若在10年后问他,他肯定也跟你说可能还要10年,这样说起来还是跟麦肯锡说的500年比较接近。

　　——500年?!

　　上一次看到这个时间跨度恰好也跟人工智能有关:当时AlphaGo击败韩国选手李世石,有人提到“500年来棋一局,仙家岁月也无多”,探讨机器若被赋予人工智能会不会夺走人类下棋的乐趣,并最终要在很多事情上以机器特有的简单高效方式碾压人类。

　　对此,洪小文淡定回答,如果算法继续由人撰写而机器只会按人提供的算法进行运算,那么,即便是此刻最先进的计算机,在本质上跟十几个世纪以前人类发明的算盘是一样的;哪怕计算机可以完成一些特定类型的任务,但不代表计算机就能理解这些任务。

　　以计算机写作为例,微软也在研究,“这听起来很神奇,但简单说就是用所谓的深度学习。首先把机器训练好,告诉它这个图跟哪些字会相关:一开始我们找了很多数据先把它训练好,训练好以后,今天就带一个新图丢给这个深度学习的机器,它就会产生一些字,用这个字做引子;我们同时训练出它学习古今中外的诗词,收集起来,加上字跟字之间的关系,做出一个神经网络,然后,你只要有一个字起头了,机器就可以把后面的字找出来,最终变成一首诗、一首歌曲。”

　　“但人绝对不用担心,绝对不需要担心会失去工作。怎么说呢?比如上面提到的看图作诗,机器很容易就可以产生好几首,但我想不要说作家了,就是一般人看到这些诗也可以很快判断出,‘哎,我觉得这个比较好’,光做到这一点人就已经很有价值。毕竟,让机器通过深度学习产生一个作品是容易的,但判断永远是我们人类的长项,机器不知道哪一个作品能打动我们,有不知道这作品究竟在讲什么。”

　　只有等人类了解了创造力的产生过程,才有可能教会计算机人类特有的那种创作,红花小文说,但这是最难的,可能我们永远都搞不清楚。

　　“人工智能发展到现在,我们利用大数据加上计算机、移动互联网,已经可以做很多事情(比如微软在2016年10月刷新对话语音识别词错率新低,率先让机器达到人类速记员的水平),但要达到人的智慧还有很长的路要走,目前都以logical test(逻辑测试)为主,强调理性,固然这符合人类对智慧的定义,但人类还有非常丰富的情感、情绪、同理心,等等。也正因为这样,让人工智能可以继续作为一门非常值得研究的学问——若我们假设几年之内就能让机器达到人的智慧,那这门学问应该就封顶了,就没有再研究的必要了。”

　　科学家VS.科幻小说家

　　既然人工智能研究之路其修远兮,作为研究院院长该如何应对?比如,怎样确定哪个题目值得做、哪个可以再放一放?理想的研究者具备什么特点?

　　2017年是洪小文担任微软亚洲研究院院长第十年,是微软研究院这个中国分部自1998年11月成立以来任期最长的院长,前3任院长依次分别是李开复、张亚勤、沈向洋,都是业界响当当的名字。

　　回顾研究院成立当天,李开复作为首任院长从美国总部请来助阵的研究员,就包括洪小文。那天,比尔·盖茨通过视频向到场嘉宾解释他在1991年成立研究院的目的,就是“致力于开创先进的计算机技术,使未来的计算机会看、会听、会说、会学习,让人们能像与人交流一样与计算机交流。”

　　从那时起到现在,18年来,微软亚洲研究院英才辈出。谈到管理之道,小文博士认为包括两方面:一是要有中心思想,“比尔·盖茨先生所言就是我们的愿景,我们相信这个方向,虽然不知道要多久、要经过多少个冬天,但我们真的对人工智能怀有憧憬——你也可以说是傻劲吧,但这种坚持很重要。”

　　第二就是要有长期的心态,他说,“我们当然希望研究员每年都会出成果,但如果今天有研究员跟你说:你不要来烦我,给我两年,我给你成果;两年以后,他说,快出来了,再给我1年;3年过去了,他说,哎,再给我半年……这就是做研究院领导容易感到为难的地方,我们要做到奖赏分明,但要对未来做判断却不容易。也许把时间拉长来看就公平了:比如10年后再看,如果这10年来我的大部分决定以及我鼓励的项目都出了成果,那就代表我是一个好领导;如果我鼓励的项目没出成果,我不鼓励的东西却出了成果,那我就不是好领导。关键是,即使对未来做判断很难也必须做一些判断,然后给研究员最好的环境、最自由的文化,希望好的事情就会发生。”

　　至于理想的研究员人选,“有人说我们研究院的人是不是比较聪明,我觉得这世界上每个人都很聪明,只是每个人的聪明都用在不同的地方。做我们的研究员要对技术、对未来最有憧憬。我常开玩笑说我们跟科幻小说家有什么不同,今天很多的科研成果,50年前、甚至100年前就有科幻小说家写过了,但科幻小说家只做梦,我们的研究员不但要做梦,还要把梦想实现,哪怕很可能穷一生之力都无法实现。”

　　——这听上去就像他的老师瑞迪在1995年3月接受图灵奖的致辞的回声,当时瑞迪的标题就是《To Dream the Possible Dream》(做有可能的梦),要将人工智能的梦想实现。

　　洪小文也说,“比如我的导师瑞迪,以及他的导师麦卡锡,一生做人工智能研究却没能实现自己的憧憬,做一个有认知、有感知的机器,但他们都很坚持。今天我们要找的人也要像这样充满热情,除了要有一定的专业训练,更重要的就是能坚持。前面提到人工智能研究已经有60年历史,今年是第61年,有过至少2次冬天,今天突然红得不能再红,那前面会不会再有1次冬天?还会发生什么?……但研究员不应该在意这些,而要继续往前走,这才是科研之道。”

　　30年后,人与AI并存的日常

　　设想30年后会怎样,洪小文说,“有一个非常好的场景就是终极助理,每一个人都有一个终极的个人助理,它永远知道你下一步要做什么、提前帮你准备好——像我这工作,这个会见完有下个会见,下个会见完还有另外一个,别人在做什么,有些人我可能只见过两面,再见面就会很尴尬,不知道怎么说对方的名字,实际上还不仅是名字,还有上次我跟他谈过什么,这助理就能帮我做好准备,并且还能延伸到个人生活上,比如我要去机场接我妈,应该什么时候出发、路况怎么样,凡此种种,真可以做到无缝对接。”

　　让每个人都有一个守护天使,洪小文说他很喜欢老师瑞迪这一描述,“我不知道这要不要30年,有可能不用。”

　　至于人工智能会不会让机器取代人类甚至夺取世界,“我的回答就是要相信人类的智慧,毕竟技术就是技术,人工智能跟移动技术、互联网技术、PC技术是一样的。有时我觉得大家是不是给人工智能太沉重的负担,好像人工智能跟其他技术都不一样。技术都是人类发明的,也是可以拿去用的,关键在人,而我完完全全相信人的智慧,相信我们研发的技术和机器都是为我们服务的。人是世界上最聪明的生物,人的智慧一定会把人工智能用在正途,做可以对人类产生最大益处的事。有人可能会把这些东西拿去做坏事,但那是坏人,我们有法律,我们有智慧可以界定和应对。”

　　伴随洪小文对人类智慧的高度信任而来的,是他在不同场合多次强调独立思考的重要性。

　　应该怎么训练独立思考的能力,以及第二个问题,设计人工智能超级助理能不能把这一点考虑进去,于是机器除了能帮我们轻易取得信息,也可以帮忙提醒:请您自己判断,这消息是真的假的?

　　洪小文认为这是非常必要的题目,“第一个问题,这是我会重视教育的原因,我没有什么了不起的解决方案,但有一点我可以讲,就是要注意多倾听不同的声音。”

　　尤其当大多数人都这样说、民调显示大多数人都这样说,并且民调也做得很系统、很科学,这时更应警觉而注意花力气去听另外那部分声音,“你听了以后未必就会改变判断,但现在更严重的问题在于那些声音没有出来,民调只说多数人是那样说,而你也没有积极找那些声音来听并作独立思考,这就容易形成另一种一言堂——我想,不管是什么样的社会,也不会说这问题大多数的人觉得这样,那就应该这样。从这个角度讲,怎样照顾少数人的权益、怎样做独立思考,在未来会变得更重要。”

　　至于第二个问题,他说,“你提到人工智能,这很大程度上要用到数据。数据是什么?英文说garbage in,garbage out,如果你数据的采样不对或偏袒某一方,你得出的结果就会有偏差,因此这第二个关于人工智能的问题更难,难在你怎么才能察觉自己不知道的事情。”

　　“我们无论从事AI研究也好、做产品也好,都要在意怎样把我们的产品做得更安全、怎样把我们的产品做到不会因为数据而造成我们自己没有想到的某种偏见。这是80/20的原则:我做这事要照顾到大部分人的权利,但不要忘记少数人的声音,因为每一个人在很多议题上都有可能变成少数,毕竟人本来就存在各种差别。这在人工智能领域就更难了,有时你把它做完就变成一个产品拿去用了,要等出了问题你可能才会意识到。”

　　因此,人类未来的希望在于有更多人能做独立思考,“如果以后不做研究了,我想做教育,而且跟多数人设想的去大学教计算机不一样,我想的是怎样将计算思维和独立思考带到中小学去,因为教育的本质就是准备人类迎接未来,我是真的很想做。”

　　这么说我们应该对未来更有信心还是更担心呢,因为我们并不知道现在是不是已经有足够能独立思考的人可以应对建造人工智能超级助理的要求?

　　没想到,从人工智能学者角度谈完未来的艰巨挑战,洪小文依然可以淡定回答,“我是一个乐观者,我觉得未来只有更好,我相信大部分人跟我一样,在新的一年一定会比去年更进一步——比如今天我提到的另一种一言堂,以前我就没这样想过——人一定会犯错误,但我们一定会从错误中学习。不能说这以后就一定不会犯错误,但希望以后犯比较少的错误,甚至把事情做得更好。”

　　“这也是我相信AI+HI(人类智慧)=超级智能的原因。”他说。