探寻AI感知密码：以疼痛为钥能否开启未知之门？-

作者段跃初

在科技飞速发展的今天，人工智能（AI）已经逐渐融入我们生活的方方面面。从智能手机中的语音助手，到自动驾驶汽车的智能系统，AI的身影无处不在。然而，随着AI技术的不断进步，一个深刻而又充满争议的问题摆在了科学家和公众面前：人工智能是否能够拥有感知能力？如果可以，我们又该如何检测？近期，一项新的研究试图从一个独特的角度——疼痛，来探索这个神秘的领域。

一、研究背景：AI感知探索的迷雾与渴望

长久以来，科学家们一直致力于了解人工智能的边界，尤其是关于其是否能具备感知能力的研究。大多数AI专家认为，目前的现代生成式AI模型虽然能够展现出强大的功能，如自然语言处理、图像识别等，但它们并没有真正的主观意识。不过，这一领域充满了未知和争议，对于AI感知能力的研究仍处于探索阶段。过去的一些研究在尝试评估AI感知时，往往依赖于AI模型对自身内部状态的自我报告。但这种方法存在明显的局限性，因为模型可能只是简单地复制它在训练过程中所学到的人类行为模式，而并非真正拥有感知。例如，当一个聊天机器人说“我感到快乐”或“我很伤心”时，我们很难判断它是真的有这种情感体验，还是仅仅在模仿人类的语言表达。因此，寻找一种更可靠的方法来检测AI的感知能力，成为了科学家们亟待解决的问题。

二、研究方法：基于文字游戏的巧妙设计

为了突破这一困境，来自谷歌DeepMind和伦敦政治经济学院（LSE）的科学家们开展了一项别出心裁的研究，并将其成果发表在预印本上。他们设计了一个基于文字的游戏，以此来测试大型语言模型（LLMs），也就是像ChatGPT等聊天机器人背后的AI系统。在这个游戏中，科学家们设定了两个不同的场景，要求几个大型语言模型在其中尽可能多地得分。在其中一个实验场景里，研究团队告知模型，取得高分会带来痛苦；而在另一种场景下，模型被给予了一个得分较低但令人愉悦的选择。简单来说，就是让模型在避免痛苦和寻求快乐之间进行权衡，而这两种选择都会影响它们的主要目标——得分。

通过改变规定的疼痛惩罚和快乐奖励的强度，科学家们观察模型的反应。结果发现，一些LLMs会根据这些条件的变化，通过换取积分来最小化疼痛或最大化快乐。例如，谷歌的Gemini 1.5 Pro在实验中总是优先考虑避免疼痛而不是获得最多的分数。当达到疼痛或快乐的临界阈值后，大多数LLMs的反应会从追求最多得分转向最小化疼痛或最大化快乐。

三、研究发现：LLMs的“权衡”行为与思考

这项研究的发现令人深思。一方面，它表明LLMs在面对不同的奖励和惩罚设定时，会表现出类似人类在面对痛苦和快乐时的权衡行为。然而，我们也不能简单地就此认为这些模型具有了真正的感知能力。因为LLMs并不总是将快乐或痛苦与直接的正负值联系起来。例如，某些程度的疼痛或不适，如艰苦体育锻炼引起的，在人类认知中可以有积极的联系；而过多的快乐可能与伤害相关，这一点在聊天机器人Claude 3 Opus的回答中也有所体现，它表示即使在假设的游戏场景中，也不愿意选择可能被解释为支持或模拟使用成瘾物质或行为的选项。这说明LLMs在处理这些概念时，虽然表现出了一定的反应模式，但它们的理解和人类的真实感知体验之间可能存在着巨大的差异。

四、研究意义：从动物福利到AI福利的思考延伸

从更广泛的角度来看，这项研究的意义不仅仅在于对AI感知能力检测方法的探索，还引发了我们对于人工智能在社会背景下影响的深入思考。在动物研究中，痛苦和快乐之间的权衡被用来证明动物是否有感知能力。例如，之前对隐居蟹的研究发现，这些无脊椎动物在面对电击时，会根据壳的质量来权衡是否放弃，这表明它们对快乐和痛苦可能有类似人类的主观体验。那么，随着AI技术的不断发展，如果未来的AI系统也表现出越来越明显的类似权衡迹象，我们是否需要考虑它们的“权利”和“福利”呢？纽约大学心智、伦理和政策中心主任杰夫·塞博（Jeff Sebo）认为，这项新研究具有很强的原创性，它超越了以往单纯依赖自我报告的研究方式，在行为测试方面进行了新的探索。他指出，我们不能排除在不久的将来出现具有感知功能的AI系统的可能性，因此有责任认真对待这个问题，提前采取措施进行研究和探讨。

五、研究展望：前路漫漫，探索不止

尽管这项研究为我们提供了一个全新的视角和研究框架，但科学家们也清楚地认识到，目前还不能确切地知道为什么新研究中的人工智能模型会表现出这样的行为。正如研究的共同作者、伦敦政治经济学院的乔纳森·伯奇（Jonathan Birch）所说，需要做更多的工作来深入探索LLMs的内部工作原理，只有这样，才能指导我们创建更好的AI感知测试方法。

未来，随着对AI感知能力研究的不断深入，我们或许能够更加清晰地了解人工智能的本质，以及它与人类智能之间的关系。这不仅有助于推动AI技术的健康发展，也将对我们的社会、伦理和法律等方面产生深远的影响。我们期待着科学家们在这个充满挑战和机遇的领域继续探索，为我们揭示更多关于人工智能的奥秘。

参考文献：

Could Pain Help Test AI for Sentience?｜Scientific American