从大数据的算法推优到近来“ChatGPT”“文心一言”“Disco Diffusion”“Character Creator”等的火爆，人们对于人工智能算法加持下的数据持有一种狂热的追求姿态，这道出了脑机交互数据发展背后，个体隐私数据被资本钳制的诸多真相，同时也暴露出严重的数据泄露等一系列伦理问题。可以说，在日常生活中无处不在的大数据算法思维似乎已经使得人类的生活迎来了“奇点时刻”，而AIGC（生成式人工智能）的产业逻辑也早就预设了大数据算法时代的降临。面对这一必然化的发展趋势，虽然不必深陷于“觉昨是而今非”的惶恐与痛彻之中，但是，正如华东师范大学教授吴冠军在《通用人工智能：是“赋能”还是“危险”》一文中所坦言的那般，“在以人工智能为代表的‘技术对象’正在激进地刺破人类主义框架的今天”[1]，我们有必要思考脑机接口技术在开启数据算法工业化生产的时代大门后，伦理道德是否需要扮演先行者与排头兵的角色？毋庸置疑，脑机接口作为人类主体“万脑互联”数据库得以建立或进入元宇宙美好蓝图畅想的关键技术手段，其能够达成数据有效连接与交互的目的。但脑机交互的背后也将人之主体隐私数据不断地推向外面的公共世界，从而使个体数据根植于主体私人领域的定义不断被改写。因之，脑机交互下的个体数据被放置于资本利益集团牟取暴利的高空之中，甚至成为资本控制下的权力及暴力机器。
在科幻电影的情节设定中，数据泄露似乎早已成为一种常态化的伦理隐忧。相对于现实生活当下交易数据、社交媒体数据、位置信息数据及医疗信息数据等的泄露，在科幻电影中，脑机接口以更为尖锐、激进且深层次的特质刺痛了人们关于数据泄露的敏感神经，原因恰在于脑机接口达成的数据交互既不存在某种边界，也不设定一些门槛，而是个体身份信息毫无保留地彻底暴露，即个体如此“赤裸”地立于人世间。确切地说，曾经存在的信息距离感已经被赶尽杀绝，所谓的亲密关系不过是脑机交互后的一种假象与虚设，一种胁迫与摆置，一种催逼与利用。况且，个体数据泄露后造成的主体疼痛感与倦怠感不会消退，只会隐匿于无形之中，加之资本的推波助澜，必然会导致人类全面化精神危机的降临。这些思考在科幻电影中已经成为主人公伦理道德选择的一种必然，脑机接口导致主体身份信息沦为被买卖的数据通货，不仅能够升值，还可以用来交换他者的隐私数据。而主体数据充分发挥了其流通化的展示价值，似乎“只有当事物被展示出来并得到关注时，才拥有了价值”[2]，这一被韩炳哲在《倦怠社会》中放大的观点并非危言耸听。实际上，由此进一步滋生了因资本谋利而肆意搬运数据的“数据掮客”，数据入侵与盗取渐渐成为一种常态。同时，出于对数据的无效管控，大多数科幻电影中的数据管理部门或执法机关也成为公信力缺失的代表，民众与政府之间的信任危机逐渐白热化。准确地说，脑机交互后的数据泄露已经迫使人们丧失了对“何为美”的认识，只有蝇营狗苟与狼奔豕突充斥其中，“美”作为韩炳哲在《美的救赎》中所强调的“沉淀的余晖”[3]，变为了一种不存在的虚妄。
特伦斯·克雷格（Terence Craig）与玛丽·E.卢德洛芙（Mary E.Ludloff）在《大数据与隐私: 利益博弈者、监管者和利益相关者》中断言道：“从历史上来看，隐私是一种商品。它是一种资产，由法院通过侵权行为法规范。”[4]尽管人们对于隐私作为商品的认知有着国别、地区乃至文化上的差异，但毋庸置疑，隐私数据已经在日常生活的各种应用中逐渐变为资本交换的必需品。换言之，隐私已经成为具备流通属性的等价物。如此看来，当涉及个体隐秘身份信息的隐私都沦为商品被拿来出售时，其他相关的数据自然也就无处可逃。在现实生活中，数据作为一种促进生产力发展的生产要素，已经成为一种常态。无论是对各种App应用的数据监管，还是数据条例约束，都意味着将数据纳入到社会发展的层面。对于数据的发展问题，在国家层面上，中共中央、国务院早在2020年就发布《关于构建更加完善的要素市场化配置体制机制的意见》，其中着重在第六条指出，加快培育数据要素市场，着重强调要“推进政府数据开放共享。优化经济治理基础数据库，加快推动各地区各部门间数据共享交换，制定出台新一批数据共享责任清单”。相关文件的指示中也突出性地对数据安全问题，尤其是“加强数据资源整合和安全保护”给出了具体的意见。可见，对信息数据作为生产要素这一社会资源的肯定已经昭示数据资源的商品性、流通性与价值意义。
《夏日大作战》宣传海报
（图片来自于花瓣网）
问题在于，即便追求功利至上的数据导向成为一种常态，甚至如人们所言，大数据具有强大的力量，更大的价值以及高效的回报，但关键是脑机接口实现的数据交互很可能意味着数据泄露进入一种不可控、无序与难以挽回的人之主体丧失殆尽的境地，这在科幻电影中已经成为一种想象力“标配”。《夏日大作战》（サマーウォーズ）中虚拟人工智能黑客之所以能够入侵“OZ”元宇宙系统，是因为人们与“OZ”系统间的连接，既实现了有效便利的功能价值，但也带来了信息的大量聚集，为黑客创造了信息复制与泄露的条件。个人账户一旦被黑客获取，则意味着个人及与之有关的存储信息网络被全面攻破，隐私数据将暴露在大众视野中，甚至成为数字资本竞相角逐的明码标价的商品。这并非杞人忧天，而是已经在当下社会中有所反映的真实存在。当然，科幻电影中展现的数据危机在故事结局能够被有效解决，如《夏日大作战》中依靠“阵内”的家族成员力挽狂澜，最终击败了黑客程序。在现实生活中，数字资本控制之下的互联网巨头一旦将“元宇宙”设定为利益的争夺场，如何保证人们的日常生活，如基本电子购物的数据不会被泄露与窃取等问题，就成为了我们思考元宇宙数据隐私保护的一个方向。相较现实中大数据带来的数据隐私等问题，未来元宇宙的数据风险值得人们予以更多关注，而科幻电影以视觉想象的可能为观众展现出了一种前设的伦理预警概念，可以进一步提升或建立当下及未来的数据安全意识和道德约束机制。
《头号玩家》电影海报
（图片来自于花瓣网）
面对此类科幻电影中脑机交互所带来的数据问题，首先需要回应的是，主体数据是否已经沦为了买卖与交易的商品，即数据通货（data currency）。王俊秀在《数据监控、隐私终结与隐私通货》中指明，“自‘9·11事件’以后，恐怖主义威胁美国和西方社会的安全，于是隐私作为‘通货’用来购买国家安全和个人的安全感。”[5]在一定程度上，隐私作为通货已经达成了交换与让渡的诸多可能，由此，主体数据自然也沦为可以被肆意交换的商品。2022年12月，中共中央、国务院进一步发布《关于构建数据基础制度更好发挥数据要素作用的意见》，指出“数据作为新型生产要素，是数字化、网络化、智能化的基础，已快速融入生产、分配、流通、消费和社会服务管理等各环节，深刻改变着生产方式、生活方式和社会治理方式。”由此看来，数据生产要素已然实现了流通、消费的功能价值。不过，相较于现实中对于数据要素的合法、合规化管理，科幻电影中脑机交互后的数据通货面临着随时被非法买卖、交易而导致数据泄露的风险，换言之，非法数据交易大行其道。在科幻电影《头号玩家》（Ready Player One）中，为了逃避现实的庸扰与混沌，人们会进入虚拟网络游戏系统“绿洲（OASIS）”，但想要进入系统，必须将个人的所有信息通过脑机外接穿戴设备上传并加载到绿洲的云端服务器。这些用户的数据被绿洲系统肆意收集，包括他们的家庭成员、地址IP、行为习惯等个人信息，以及日常互动、行为交谈等，但绿洲的数据收集并非只是对个体游戏体验的保障与提升，反而打开了数据泄露的潘多拉魔盒。原因恰在于绿洲作为大数据集合的服务器，必然会存在主体信息数据被拿来非法交易的可能，也就随时存在数据泄露的风险。创新网络公司（Innovative Online Industries，IOI公司）作为绿洲公司的大对头，为了获得创始人哈利迪留下的绿洲经营权与巨额遗产，执行董事长索伦托非法雇用了一大批契约劳工在绿洲中寻找彩蛋。而男主人公韦德因为在游戏中爱上阿尔忒密丝，便道出了自己的真实姓名，由此导致索伦托利用大数据的非法交易，购买韦德的真实身份信息，从而迅速寻找到韦德在现实生活中的位置，威胁其为IOI公司工作。这更加验证了纵然是虚拟世界中的身份，也必然会在脑机交互信息数据上传的过程中被买卖而泄露。当然，此类科幻电影的情节设定也直接印证了南京大学教授蓝江在《作为历史概念的数字资本主义——如何用历史唯物主义破除数字资本的神话》一文中的观点，“数字资本主义诞生于数字市民社会，在其中诞生了数字生产方式，而数字生产方式依赖于现实历史的社会关系中出现的平台和数据——流量”[6]。
《机械战警2014》宣传海报
（图片来自豆瓣电影）
值得注意的是，在科幻电影中，脑机交互后的主体数据作为一种流通性的产品或资源，其并非是一种有序、合法化的买卖，恰恰相反，非法化的地下数据交易大行其道，甚至以横冲直撞式的姿态日益吞噬着原有的社会秩序和人之主体的生命身份特征。在《机械战警2014》（Robocop）中，主人公墨菲被改造为拥有金属机械身体的赛博格，成为伸张正义的超级警察。但墨菲的自我意识并未泯灭，在后续寻找为何被炸伤的真相时，意外发现相关人员的数据需要更高权限，而最终幕后凶手正是将自己打造成未来警察模样的资本财团，但当其将凶手绳之以法时，却被脑机交互的大数据控制中心禁止执行，以至于丧失个人行动能力。由此不难看出，个人数据成为特权阶级随意摆布的筹码。电影还进一步为观众道出了：资本控制的财团通过买卖墨菲个人数据，得知其内心正义、心理素质高的身份特征，蓄意伤害墨菲的唯一原因就是将其打造为帮助财阀谋利的未来警察，以让政府为其公司计划买单。而当墨菲成为机械战警后又沦为了被大数据云端实时监控的对象，而在调查凶手的过程中竟无权查看财团高层人员的数据信息，足以证明所谓的主体数据荡然无存，而数据通货则成为了对法律漠视与特权操控的利器。正如在《奇点临近》一书中，雷·库兹韦尔（Ray Kurzweil）极富有洞见地提出：“奇点指出，发生在物质世界里的事件不可避免地也会发生在进化过程中，进化过程开始于生物进化，通过人类直接的技术进化而扩展。然而，它就是我们所超越的物质能量世界，人们认为这种超越的最主要含义是精神。思考一下物质世界的精神实质。”[7]这一下道出了奇点临近后的人类被数据笼罩的日常。生命或许已超脱了肉身的束缚，人们不再需要为生老病死而担忧，脑机接口作为数据传输的有效通道，大脑数据上传至“云端服务器”，精神便可以游牧式地抵达任何想要驻留之地。
可以说，数字化的精神遨游已经摆脱了生命肉身的禁锢，但问题是谁来确证个体数据被收集、分析、加工并存储的云端可以实现精神生命的诗意栖居？曾经，弗里德里希·荷尔德林振聋发聩般地高唱“人，诗意地栖居”，随后，马丁·海德格尔一语道破理想主义家园生活的玄机——“人充满劳绩，但还诗意地安居于大地之上”。而如今，“云端服务器”以其冷冰冰的大数据算法成为人们丧失生物属性的数据栖居地，只不过放眼望去，不仅没有丝毫诗性，更是满目疮痍，何谈抵达所谓幸福栖息的“云端彼岸”？在这里，个体数据的出售与买卖从来都与主体无关，且通往数据信息的路途上早就被资本交易钳制，自由与真实形同虚设，喜怒哀乐的情感认同也已被数据资本割裂开来。虽然以上种种问询都仅是科幻电影中的想象力建构，但实际上却回应了未来可见的现实——脑机接口技术伦理困顿，为当代人的“技术行走”提供了一条充满可能性隐忧的哲学思辨路径。
作者：韩贵东，大连理工大学文学伦理学研究所成员，中国科幻研究中心“起航学者”，研究方向：科幻理论与产业。
参考文献：
[1]吴冠军.通用人工智能：是“赋能”还是“危险”[J].人民论坛，2023（05）：48-52.
[2]韩炳哲.倦怠社会[M].王一力，译．北京:中信出版社，2019．
[3]韩炳哲.美的救赎[M].关玉红，译．北京:中信出版社，2019．
[4]Terence Craig, Mary E. Ludloff. Privacy and Big Data[M].Sebastopol: O'Reilly Media,Inc., 2011.
[5]王俊秀.数据监控、隐私终结与隐私通货[J].探索与争鸣，2018（05）：31-35.
[6]蓝江.作为历史概念的数字资本主义——如何用历史唯物主义破除数字资本的神话[J].当代世界与社会主义，2022(05)：4-13.
[7][美]雷·库兹韦尔.奇点临近[M].董振华，李庆诚，译.北京：机械工业出版社，2011.
扫码下载APP
科普中国APP
科普中国
科普中国
京公网安备11010202008423号