新技术的真正“杀手锏”：或许不是“读脑”，而是“读行为”？-

2017年，西蒙·麦卡锡-琼斯（Simon McCarthy-Jones）为《对话》（The Conversation）撰写了一篇有关精神分裂症的文章[1]。他开玩笑说，这篇文章有两个以上的人读过，作为一名学者——他是都柏林三一学院（Trinity College Dublin）的临床心理学副教授——这真是令人“振奋”。

然而随后不久，麦卡锡-琼斯发现自己“被Facebook的铁钳抓住了”，他一遍又一遍地查看谁喜欢他的文章，谁评论了它。它“吸引了我的注意力，让我想，‘查看下Facebook！查看下Facebook！”最近，他在爱尔兰办公室的一次视频通话中说道。

他的思想是否被外部势力（在本例中是一家大型科技公司）暗中强制控制了？这次经历让他想知道，“自由思想”到底是什么。于是，他开始涉足心理学、哲学、文化和法律的混沌领域，试图搞清楚思想的构成以及思想如何保持真正的自由。

作为神经心理学家，西蒙·麦卡锡-琼斯认为思想总是会溢出我们的头脑——无论是以书面待办事项清单的形式，还是与朋友进行头脑风暴——因此，保护自由思想的法律也必须考虑到这些重要但不太内在的思考形式。© Simon McCarthy-Jones

他的思考已经走出了他的头脑，现在以一本新书的形式出现：《自由思考：在新的头脑之战中保护思想自由》（Freethinking: Protecting Freedom of Thought Amidst the New Battle for the Mind）。

我们采访了麦卡锡-琼斯，他向我们介绍了将“思想犯罪”定为刑事犯罪的历史、思维的物理界限，以及建筑和城市规划为何对真正的自由思想至关重要。

你新书的副标题让我想知道，你将如何为我们的思想定义“新的战斗”——你是否认为当前的斗争有多条战线？

我认为这场斗争有四个方面：来自国家、公司和个人的威胁，还有来自法律的威胁——从某种意义上说，如果思想自由权的定义非常狭隘，我们可能会让很多思想无法免受新技术的威胁。

最后一项是个难题。我们经常谈论即将出现的读脑设备。埃隆·马斯克 (Elon Musk) 的神经连接（Neuralink）不断成为头条新闻，他的想法是他将创建某种脑机接口，让我们能够将我们的想法转译到计算机上。但问题是：这种技术的现实性如何？它是我们现在需要考虑的威胁吗？我担心这有可能会让人们陷入道德恐慌。

我认为新技术带来的更直接威胁可能不是“读脑”，而是所谓的“行为解读”。也就是说，衡量我们可观察行为的想法——我们喜欢Facebook上的内容、我们访问的网站、我们喜欢的音乐等等——通过了解这些关于我们的事实，人们可以推断出我们的心理状态，从而很容易地了解我们的行为。我们在想什么，以及应该让我们按下什么样的按钮才能让我们以某种方式行动。这些知识与人工智能技术的结合可能对我们的自主性构成真正的巨大威胁。

在某种程度上，这是一项新技术，为解决一个古老的问题提供了新的视角。在古希腊，人们担心诡辩家——那些使用论证不是为了找到真理而是为了支持某些政治家或政治观点的人——这种担忧已经存在了数千年。现在，我们将人工智能视为数字诡辩家，它对我们的了解与我们的思维方式之间存在着巨大的权力失衡——而我们只是凡人。

我们可能想说：不，我们是独立、自主的思考者。但我认为我们必须认识到，在有说服力的人工智能面前，我们陷入了深深的麻烦。

当然，我们愿意认为，除了科幻小说外，我们头盖骨内的东西仍然是我们最后的私人领地。但你指出，我们不应该相信这种幻想。那我们的自由思想该如何受到保护呢？

当我开始研究这个问题时——作为一名心理学家而不是一名律师——有两件事最初让我兴奋，后来又让我害怕。

首先，根据联合国《世界人权宣言》（Universal Declaration of Human Rights），自由思想的权利是一项绝对权利[2]。在美国，这几乎是宪法中规定的绝对权利。这非常令人振奋，因为这意味着没有人可以干涉你的思想自由。虽然有时候可以限制某人的言论，比如涉及诽谤、虚假广告或挑衅性言辞，但思想是无懈可击的，你可以为人们的思想创造绝对的保护。

不过，我开始担心这种权利的强大。因为如果它没有与其他社会关切相平衡，它可能会主导其他社会利益。例如，你可能认为思想自由和言论自由是天生的一对儿，但问题是，如果你声称某人的言论正在操纵你的思想，你可能会在思想自由的名义下对言论施加新的限制。

第二个可能更令人不安的是，这项权利缺乏定义。当你仔细研究时，你会发现什么都没有。它实际上是极为空洞的。奇怪的是，历代以来的人们——杰斐逊、伏尔泰、乔姆斯基——每个人都在称赞这项权利。

从某种意义上说，我们一直忙着赞扬它，却没有给它下定义。因此，尽管它看起来受到保护，但实际上，它是赤裸裸的、暴露的，而且非常脆弱。

让别人替我们思考，就是让别人替我们生活。

联合国最近试图对其进行更详细的定义，但你认为他们做得还不够吗？

2021年，联合国发布了一份特别报告[3]，其中包括思想自由的四个支柱：豁免是指不能因为你的思想而受到惩罚；诚信是指你不能操纵他人的思想；隐私是指你有权将自己的想法保密；而想象力则是指国家有责任为其公民创造思想自由的环境。

但这仍然存在根本性的问题。诸如：什么应该被视为思想？是什么让思想得以自由？你如何回答这些问题，将深刻影响你实际上保护思想的程度，或者你有多少思想是脆弱和无法保护的。

这是否在某种程度上也在保护——正如笛卡尔“我思故我在”所暗示的那样——我们自己的人格，甚至是我们的自主存在？

是的，我认为思想使我们能够与世界保持距离，从而拥有这种私人的事务空间，在这里我们可以制定计划、意图，不必考虑外界的要求，充分进行反思，并从内部控制我们的行为。所以我确实认为，它在我们自治方面发挥着核心作用。

但通过笛卡尔，我们隐含地接受了这样的观点：思想是发生在头脑内部的东西。我看过很多关于这方面的法律文章，人们在其中谈论保护内心世界，他们称之为**“内在信念”**（forum internum）。

我觉得这不可能是我们所要保护的全部。我认为，仅仅保护内心世界的思想自由权所放弃的东西会多于它所拯救的东西——因为我们的很多思考都是在我们的头脑之外进行的。

正如哲学家、技术专家和心理学家所说，我们需要保护的是这种重要的外部思考：我们用手指数数，制作购物清单，通过技术进行思考（比如使用谷歌搜索），通过语言交流彼此的思想。

人们宁愿让自己遭受电击，也不愿静静地独自坐在那里思考。

这就是你所指的“思想言语”吗？

是的，尽管它采取言语的形式，但实际上是我们与他人的共同思考。正如E·M·福斯特（E. M. Forster）所说：“在我看到自己所说的之前，我怎么知道自己在想什么？”（How do I know what I think until I see what I say?）当我们与他人交谈时，很可能是我们在与他人一起思考。

有一系列的心理学研究表明，在适当的条件下，我们更有可能在作为一个团体思考时接近真相，而非作为个体。心理学研究还表明，为了最有可能接近真相，你需要在一个房间里聚集一群想法各异的人。所以关键在于创造这些空间。在启蒙运动时期，欧洲各地都有咖啡店，在那里你可以有进行此类辩论的空间——尽管显然它们并不是一个可以带来多种观点的包容性空间。现在的问题是：如何才能获得如此多元的观点？

显然，我们现在有网络空间。但除非你很有钱或鲁莽——或两者兼而有之——否则在这些空间中畅所欲言是非常困难的。如果我们不能让人们在这些空间感到安全，他们就不会自由地表达想法，你就更无从接近真相。

保护这种思考方式的理念最终引导你进入了……城市规划？

我和来自巴西的一位同事在一次会议上交谈，他告诉我，他们首都巴西利亚的设计是由规划者有意为之的，试图避免街角——因为街角是人们可以聚集并在一起思考事物的地方，这可能对执政政权构成威胁。因此，城市规划对公众共同思考的能力可能有着重要的影响。

这也涉及到促进言论自由的事物。因此，这也包括生态设计，即在绿色空间漫步有助于思考的理念。或者可能帮助我们设计图书馆的事物——过去图书馆是黑暗、尘土飞扬的地方——现在则更加注重采光和开设小组对话的空间。因此，它设计的建筑和空间是为了促进共同思考。

当然，我们现在生活在一个可能不太有利于这种自由思考的数字世界，对吧？联合国指出，我们应该拥有未被操纵思想的权利。但我们都有过自己注意力被转移的经历。更不用说像匿名者Q阴谋论****这样奇怪的观念在互联网上被传播。我们有出路吗？还是说我们已经失败了？

有一种方法可以设计技术产品，不是通过算法将我们推向我们已经朝着的方向，而是采用更多“自由思考”选项的默认模式，为我们提供更多元的观点。这将有助于解决唐纳德·拉姆斯菲尔德（Donald Rumsfeld）谈到的问题——“未知的未知”（the unknown unknowns），即我们甚至不知道自己不知道的事情。

它还可能有助于反驳一些人所说的“传统信念”——我们在某个时刻获得的但从未真正思考过的想法。举一个相当沉重的例子，你可能会提到民主，我认为我们许多人都会将这一概念视为完美无缺的美好事物。但我们自己达到了这样的信念吗？我们是否真正听到过反对民主的论点，从而不再相信民主的好处，或者真正理解我们为什么相信民主？

事实上，吃足够多的胡萝卜很难大幅提高你的夜视能力。我们的身体无法非常有效地将β-胡萝卜素转化为维生素A，因此即使吃大量胡萝卜也不会像服用维生素补充剂那样有帮助。© Atlas Obscura

再举一个更微不足道的例子：我一直相信，吃胡萝卜可以让你在黑暗中看得更清楚。显然，胡萝卜含有β-胡萝卜素，如果你严重缺乏β-胡萝卜素，确实可以在一定程度上改善你的视力。不过在二战期间，英国人在秘密制造机载拦截雷达，但又不想让德国人知道。因此，他们必须想出一个借口来解释，为什么这些英国飞行员在黑夜里击落了如此多的德国飞机。于是，他们便对外宣称：英国飞行员正在大量食用胡萝卜。这种说法就这样融进了文化中。

那么，我们怎样才能找出我们由于错误的理由而相信的事情呢？

如果我们牺牲掉思考的能力，我们在多大程度上还算是人类？

谈到自由思想，就不得不提乔治·奥威尔（George Orwell）于1949年出版的《1984》一书。甚至在那之前几十年——20世纪二三十年代——在现实生活中，日本当时的执政政府制定了法律，将“思想犯罪”定为刑事犯罪以试图压制异议。

是否存在一种情况，即，自由思想应该受到质疑，正如你之前提到的，如果滥用它来阻止言论自由呢？

这是一个具有争议的领域——是否存在任何理由限制思想。目前，这是一项绝对的权利。我们对“思想犯罪”这个概念有一种奥威尔式的本能反应。

但哲学家山姆·哈里斯（Sam Harris）曾谈到，借助可靠的检测谎言的读脑设备，创造“强制坦白区”的可能性。例如，在法庭上，你可能会被要求佩戴这种设备来检测你是否在撒谎。一方面，这将是对自由思想的无端侵犯。但社会舆论会说，在那个空间里这样做是可以接受的？

我喜欢你书中的这句话：“让别人替我们思考，就是让别人替我们生活。”这对你来说是不是问题的要点？

这就是我们作为一个物种的独特之处。虽然我们没有锋利的牙齿和爪子，但我们有能力思考问题。我们在这个世界上生存的能力便是思考，这是我们成为人类的重要因素。如果我们牺牲掉思考能力，那么，我们在多大程度上仍然是人类？

不过归根结底，我们实际上并不经常去思考，对吧？人类的进化用来节省能量，而思考需要耗费很多。实际上，你提到了一系列研究发现[4]，人们宁愿让自己遭受电击，也不愿意安静地独自坐着思考6到15分钟。作为一名心理学家，这对你来说是令人惊讶的，还是不足为奇？

丹尼尔·卡内曼（Daniel Kahneman），这位诺贝尔奖得主，有一句名言：“人类对于独立思考的态度，就像猫对于游泳的态度一样。他们可以做到，但宁可不这样做。”

在我自己的生活中，有时我确实不想去思考！而技术使这变得很容易。例如，YouTube为我们提供了大量的信息。你可能认为这对思考会有帮助。但我们有时是否把YouTube当成了一种数字化的苯二氮，就像我们用它来缓解焦虑一样？

在过去——对我们来说是过去的时候——当你洗碗或修剪草坪时，你会有时间思考。现如今，我们似乎越来越多地戴着耳机、通过YouTube和播客来完成这些任务。那么，这些灌输是在帮助我们思考吗？还是每天通过引入别人的思想，阻止了我们自己的思考？

问题是：我们如何重新发现思考的乐趣？我们如何享受思考的过程？如果我们真的不想再去思考，那么建立一个让我们做我们不想做的事情的社会就没有意义了，对吗？

你在生活中做出了哪些改变来帮助保护更自由思考的能力？

我做的第一件事就是摆脱所有形式的社交媒体。这可能有些反应过度！我很清楚Twitter可以成为新想法的绝佳来源。但在它吸引你注意力和让你偏离自己目标之间需要取得平衡。对我来说，它弊大于利。

我还认为，人们很容易将矛头指向社交媒体，并说它是我注意力被转移的罪魁祸首。但我们还需要看看是谁在背后操控这一切的。可能是我们自己的虚荣心或自负让我们陷入这些社交媒体“点赞”的陷阱。因此，我认为，与其将责任完全归咎于社交媒体，我们也许还需要审视自己的动机，以及我们试图在哪里获得自尊，并尝试更有效地管理自己。

我做的另一件事是添加其他类型的思考。作为一名学者，你很容易将自己关在一个房间里，拿着一篇论文或一本书，并认为这是进步的最佳方式。但是，当我看到所有的研究都表明[5]，与他人一起思考是多么有价值，以及通过与他人交谈可以在多大程度上改善我们的思维时，它迫使我——作为一个内向的人——尝试更多地与他人交往，在有利于自由思想的空间中进行不同形式的对话，在安全的环境中与你信任的人交谈，你可以用多样化的观点挑战自己固有的想法。

还有相当多的研究将思考与散步联系起来——尤其是在大自然中。所以我尝试在移动中积极地思考，多出门散步。当然，在这样做的过程中，我正在追随许多哲学家和心理学家的脚步。

散步的时候没有播客或音乐。

是的，把耳机留在家里。

文/Katherine Harmon Courage

译/腐竹与瘦竹

校对/tim

本文基于创作共享协议（BY-NC），由腐竹与瘦竹在利维坦发布

文章仅为作者观点，未必代表利维坦立场