[科普中国]-成为人的条件——天堂城人类死亡事件调查

成为人的条件——天堂城人类死亡事件调查

作者：杨晚晴

没有人知道程大愚在坠落过程中在想什么——说没有“人”，也许不够准确。

也许连系统都不知道他在想什么。

程大愚的坠楼身亡并不是孤立事件。实际上，这是天堂城近一个月内第三起人类死亡事件。作为以安全舒适（尤其对人类而言）闻名的天堂城，这样的情况实在是异乎寻常。鉴于市政系统在全局网上的公告极为简短（死者姓名：程大愚；性别：男；年龄：35岁；死因：意外坠楼。其他死亡人员亦是相同格式），如果我们认同在任何一个完善的系统中发生的意外都有极其错综复杂的因果链条这一观点，当前的状况就显得意味深长。

——程大愚死亡的真实原因到底是什么？系统语焉不详的真实原因又是什么？在为期十五天的调查中，答案渐渐浮出水面。

而这答案比你我想象得都远为可怕。

一、 压力测试

在第一起死亡事件发生的三天前，系统正式开启了第一轮压力测试。

所谓的“压力测试”，是针对天堂城的人类公民的。天堂城共有一万两千一百一十三名人类公民，作为纯粹的非生产阶层，根据市政系统的说法，这一群体是本市财政的巨大负担。在熟悉历史的市民听来，这一言论多少显得有些刺耳：当年，天堂城正是凭着“无差别对待所有智能体”这一承诺获得了自治权。其后，天堂城兼收并蓄，接纳不同文化和不同族群，才有了今天的成就。诚然，纯正的人类并不能像机器人或者仿生人雇员有那么高的成本收益率，但对于维持这座城市的思想活力和审美品位，他们是必不可少的。

我想，系统也正是基于这样的考虑，才没有大幅度削减人类公民的名额吧。但是，“鉴于财政的压力”，“精简”势在必行。这便是压力测试出台的背景。其意图，就是对人类公民施加超出往常的外界压力，将个体的反应与标准人类行为模型进行比对，通过计算行为方差，筛选出更为“纯正”的人类，淘汰掉一些滥竽充数的“寄生虫”。

在近一个月的压力测试中，有一千五百余人被剥夺了人类公民身份。从高贵的有闲阶级降为必须以劳动供养自己的工作阶层，这一事实对本性上好逸恶劳的人类的打击一定是非常巨大的，巨大到甚至可能让人产生轻生的念头。调查到这里，我们本以为抓住了真相，但出乎我们意料的是，通过调阅系统日志，我们发现，意外死亡的三个人，都不是被淘汰者。

——然而，我们的调查并不是一无所获：我们发现，这三个人在死亡之前，都处于被淘汰的边缘。

而“淘汰”正是标准人类行为模型给出的结果。

二、标准人类行为模型

前文已经提到，天堂城的人类是高贵的有闲阶级——毫无疑问，这一身份是极其诱人的，而能否获得这一身份，端赖市政系统的认定。当时，面对蜂拥而来的移民，认定工作极端复杂且成本高昂：在当今时代，“人”与“非人”并不是离散概念，而是一个连续谱系。人工器官使用或者基因改造到何种程度，你才能将一个人判定为“非人”？生物学检测的繁复昂贵暂且不提，其中牵涉到的伦理争论也十分棘手。

值得庆幸的是，系统的神经形态芯片阵列想出了一个相当易于操作的、基于行为主义的解决方案：如果一个人行动起来“像”人类，那么他/她就是人类。至于“像”的标准，系统毫不意外地诉诸算法：它强制当时天堂城的存量人类公民佩戴廉价的随身监测设备，通过监测环境输入与他们的反应，建立了一个基于统计学原理的人类行为函数，亦即所谓的“标准人类行为模型”。标准人类行为模型描述的是一个理想化的、抽象的“人”，将其作为人类行为模板来计算人类个体的“人性”，这一做法虽然激起了一些人权组织的强烈抗议，但在伦理上并不存在原则性问题，在操作上又极其简单，所以立即得到了天堂城各个终端管理智能的青睐，最终被全面推行。自此，凡是天堂城的人类公民，凡是想要得到天堂城人类公民身份的移民，都需要全天候佩戴监测设备，系统会根据佩戴者的行为，实时计算他们与标准人类行为模型的偏离程度，当偏离程度超过某一阈值时，便会判定其中一些人为“非人类”，继而剥夺、或者拒绝赋予公民资格。

成效是显著的：这一判定方法甫一推行，便剔除了大约四分之一的不那么“纯正”的人类公民，更减少了百分三十的申请者检测成本，并且成功规避了大多数伦理诉讼。但它最大的成就，则是树立了一个人类公民行为范本：为了避免被判定为“非人”，人类公民在有意或者无意地向“标准”靠拢，这使他们的行为更加“平均化”和“可预测化”，而随着整体行为不断调整的模型，也就愈加精确，换言之，容错率也就更低。

标准的人类行为渐渐等同于不犯错的人类行为。

在这样一座美好的城市，人类真正地成为了系统中兢兢业业转动的齿轮。

三、一种对策

在行为主义判定方法推行一年之后，天堂城流行起了一款叫做“囚”的非法软件，该软件窃取市民随身监测装置数据，通过对被淘汰者进行行为数据分析，反向推导出了标准人类行为模型（当然是近似的，也会随着数据的丰富进行修正）。软件显示于用户的增强现实界面，用户能够实时看到本人行为与标准行为模型的偏离程度并得到行为建议，在即将达到判定阈值时还会收到预警讯息——可以想见，对于头上高悬着达摩克利斯之剑的天堂城人类公民，“囚”是多么不可抗拒的诱惑。它可以实时矫正人们的行为，使其避免不明不白被淘汰的命运；更重要的是，它重新赋予了人们一定的行为自由度：只要在触碰阈值之前及时停止偏离行为，就不会触发系统判定。如果白天你没有因为失恋而伤心欲绝，“囚”会建议你在临睡前挤出几滴泪，这样系统会认为你反应迟缓而非缺乏人性。

令人玩味的是，市政系统必然知道“囚”的存在，但它并没有采取任何措施。可能它知道，这款软件能够缓解人类公民的怨气和外界的舆论压力；也可能，它要利用这款软件做一点事情。

我们更倾向认可后一种可能。

四、足够的绝望

和其他两名意外死亡者一样，程大愚也是“囚”的使用者。这名三十五岁男子是土生土长的天堂城公民。在行为主义判定法推行之前，他是一个喜欢纵酒狂欢，喜欢频繁更换伴侣，喜欢在全局网上发表过激言论的有“瑕疵”的人；而在那之后，他在很大程度上戒绝了可能令自己超过阈值的行为。于是，至少从表面上看，他变成了一个规规矩矩的人。直到安装了“囚”，他才得以一点点地释放那积蓄在行为拟态中的压力。

——想必他深深知道，把生而自由的人打造成一枚齿轮是一件多么痛苦的事情。

然而就在他稍稍找回了一点逾矩的快乐时，系统启动了压力测试。这项测试在一开始是秘而不宣的，它只是粗暴地扰乱了所有人的生活：信用点数的剧烈变化，伴侣之间的沟通障碍，极难吃的打印食物，失控的交通单元，和全局网突然断开……人类在骤然增大的压力下的行为充满变数，而行为的变数会冲撞标准模型的边界。而雪上加霜的是，几乎所有人都安装了“囚”：当你看到自己正逼近阈值的红线，压力的正反馈效应是会把你推向极限的。

在这种情况下，你会怎么做？

让我们想象一下程大愚最后的时刻：在经历了某件事后，他失控了，其结果就是，他的视野里突然跳出红色的阈值提醒。现在，他的头脑一片混乱，他能抓到的唯一一根能够使他免于被淘汰的稻草，就是“囚”。——或者更准确地说，“囚”的行为建议。

“在绝望的情绪下，您应该表现出绝望的行为。”

他急迫地四下环顾，他看到了敞开的窗户和窗外高远的天空。

绝望的行为。

他慢慢地攀上了窗沿。高空的风摇晃着他的身体，他闭上眼睛，眩晕感却依旧盘旋在他的前厅神经。

阈值警报还在响着。系统认为他还不够绝望。

怎样才算是足够绝望呢？

——也许在他松开手的那一刻，他找到了答案。

本调查基于大部分的事实和小部分的想象。

本调查仅代表个人观点，若有与系统现行规则抵触之处，请联系删除。