机器人真的不会有意识吗？

　　今天的一些顶尖技术人员和科学家，都非常公开地表达了他们对于世界末日场景的关注，这可能是由于机器人有动机的结果。这些担忧的知识界巨头如霍金博士和比尔盖兹等人，他们都相信，机器学习领域的进步将会使得人工智慧很快产生自我意识，可能会试图杀死我们或者也许只是处理我们，霍金博士说：人工智慧的全面发展可能会使人类终结！

　　的确，毫无疑问的是，未来的人工智慧将能够造成重大的伤害。比如，可以想像的是，机器人可以被程式设计入一些功能，如作为极其危险的自治武器，这是我们之前从未见过的。此外，我们很容易想像一个无约束的软体应用能够在网路上遍及，可能会对严重扰乱我们最有效和最依赖的全球交流媒介。

　　但，这些场景与机器人决定转向打败我们，让我们沦为它们的奴隶，或消灭我们是截然不同的。在这方面，我们无疑是安全的。应该注意的是，在没有特别的指令下，我们就不可能使机器人自己决定帮助我们或者给我们爱。

　　这是因为如此有意识的行为来自于一个人工智慧产品，无疑是需要一个头脑的，只有具有自己的信仰、欲望和动机，这些意识才会产生。包含这些特征的人工智慧在科学界是被称为“强AI”。根据定义，强AI应该具备人类全方位的认知能力，包括自我意识、知觉、意识，这是人类认识的所有特征。另一方面，“弱AI”指的是无知觉的人工智慧。这个弱AI假说表明，我们的机器人是依靠数字电脑程式才可以运行，并没有主观意识。这样的人工智慧不能体会到世界的美好，虽然它们可能会表现出看似智慧的行为，它永远也是受限于缺乏意识。

　　没有认识到这种强/弱AI区别的重要性，可能就会导致像霍金盖兹等人那样的担忧，他们都认为我们已经朝着发展强AI的方向靠近。对于他们来说，这不是“如果”的问题，而是“什么时候”的问题。

　　但事实是，目前所有的人工智慧基本上都是弱AI，这反映了当今电脑完全没有任何有意识的行为。虽然有一些非常复杂和较有说服力的机器人似乎是活着的，仔细检查，就会发现它们也和普通电脑一样盲目的。

　　这是因为大脑和电脑的工作非常不同。虽然都是在计算，但只有一个能够理解，并且有一些非常令人信服的理由相信，这是不会改变的。强AI要成为现实，还是有很多的技术障碍。

　　所有的数位电脑都是二进位系统。这意味着他们存储和处理的资讯只有两种状态，并且代表不同的符号。这是一个有趣的事实，二进位数字字可以被用来表示大多数的东西，如数位、字母、颜色、形状、图像，甚至是近乎完美的精确音讯。

　　这个符号系统是所有数位计算的基本原则。电脑所做的每一件事情都需要在某种程度上操纵2个符号。因此，它们可以被认为是一种特别的图灵机器人，是一个抽象的、假设性的机器，通过操纵符号来计算。

　　一个图灵机器人的操作称为“语法”，意味着它们仅仅识别符号，而不是这些符号的实际意义，它们的语义。即使这个单词“认识”被误导了，因为它意味着一种主观经验，所以也许更容易说这个电脑对符号是敏感的，然而大脑是能够理解的。

　　这个电脑无论有多快，它有多少记忆体，或程式设计语言是多么复杂和高层次，它是不重要的。这个国际象棋冠军Watson和Deep Blue从根本上说，是和你的微波炉一样工作的。简单地说，一个严格的符号处理机器人永远不能成为一个符号理解的机器人。这个有影响力的哲学家John Searle已经巧妙地描绘了这个事实，在他那著名的和备受争议的“中文屋论证”中，令人信服的想法是“语法不完全代表语义”。虽然有些专家是反驳的，提出语法和语义之间的差距，不可能一次就逾越了。但即使有一个人没有被完全说服，它也不会改变这个事实：图灵机器人只是操纵符号的机器人而不是思考的机器人。

　　这个弱AI的假设表明电脑只能类比大脑，并且根据一些像John Searle那样，他创造这个强/弱AI的术语，一个有意识系统的类比与真实的事物是非常不同的。换句话说，这是机器的硬体的问题，并且单纯的数字仅仅代表生物机制，是无法创造任何在真实世界发生的事情。

　　我们要记住，我们依然可以推测非生物机器是否支持意识的存在，但我们必须认识到，这些机器可能需要重复的基本电化学过程，那是在有意识的状态期间，在大脑中发生的。如果在没有任何有机材料的情况下，这是可能的，这大概就需要对图灵机器人要求的更多，而不是纯粹的语法处理器（符号机械手），并且数位类比可能缺乏必要的物理机制。

　　实现强AI的最好方法就是，首先需要找出大脑是如何工作的，并且机器学习研究者最大的错误就是认为他们可以走捷径。作为科学家和人类，我们对于我们能够完成的事情必须保持乐观的态度。同时，我们不能过分自信，这样可能会引导我们走错了方向，并且阻止了我们真正的进展。