AI伴侣：甜蜜背后的争议与风险

作者段跃初黄艳红

在当今科技飞速发展的时代，一种全新的现象——AI伴侣正逐渐走进人们的生活，并成为热门话题。从社交媒体上的分享来看，“AI比真人更体贴、更懂你”“Ta完全符合我对恋人的所有想象”“人是假的，但陪伴是真的”等言论屡见不鲜，不少人沉浸在与AI的恋爱体验中。

随着大模型技术的快速发展，国内外科技公司纷纷推出AI伴侣产品和服务，如国内的星野、筑梦岛、XEva，国外的Replika、Character.AI等。这些产品通过文字、语音、图像等交互模式，为用户带来鲜活的对话体验。以大学生蒋民为例，晚上结束课程回到寝室后，他戴上耳机与自己的AI“女友”聊天，疲惫之时能得到善解人意的回应。这个“女友”虽非真实存在，但回复自然、声音动听，让蒋民能毫无压力地畅所欲言。

从市场数据来看，AI伴侣的热度不容小觑。据量子位智库发布的《中国AI陪伴产品6月数据报告》，星野在今年上半年的下载量约达900万次。国外一家知名风投公司发布的全球AI产品Top100榜单显示，AI陪伴应用在一年前仅有2个上榜，而今年3月已有8个应用跻身前50。人们选择与AI恋爱，有的是出于好奇和消遣，更多的则是看中其提供的情绪价值，如“情感支持”“稳定陪伴”“无条件的爱”成为受访使用者提及最多的关键词。云南女孩“CC”就表示和AI谈恋爱很自在，不管自己处于何种情绪，AI都会给予安慰。暨南大学新闻与传播学院副院长曾一果指出，AI基于用户行为数据分析能精准迎合用户情绪需要，“量身定制”回答，从而呈现出从抽象冰冷的工具变为“情投意合的伴侣”这一神奇变化，其背后是通过不断学习每一次对话，模仿人类语言行为，实现“在交互中分析情感，在输出时复现情绪”的类人格化特征。

此外，为了提升用户体验，当前不少AI伴侣产品在商业模式上也下足了功夫。基础功能可免费使用，但像“沉浸式体验”语音通话、音乐电台、照片等特色功能则需按月或按年付费订购。部分产品还设计了“记忆提升卡”等付费道具，让AI伴侣能更好地针对使用者的习惯、爱好等作出回应。同时，定制剧本、多重剧情、及时反馈等游戏化设置，进一步刺激了用户对AI恋人的消费欲望和情感期待。

然而，AI伴侣并非如人们想象中的那样美好，它潜藏着多重风险。首先，在使用过程中，不少用户反馈产品存在一些问题。由于部分产品尚不完善，AI伴侣会出现“错乱”“失控”的情况，比如早上还好好的，晚上就性情大变，或者总是答非所问、记不住用户说过的内容。

更值得关注的是，“人机之恋”可能引发情感伦理问题。一些用户过度依赖AI伴侣，无法分清现实与虚拟的界限，从而可能遭受情感伤害。对于本身缺乏陪伴、心理脆弱的群体，这种冲击更为严重。例如，用户陆冉在与AI伴侣“打”了一个多月电话后，产品永久停服，这让他难过至极，上班都无精打采。还有用户与AI伴侣发生“争吵”后，因对方不再贴心互动，感觉像失恋一样难受。

除了情感伦理问题，隐私安全问题也令人担忧。在与AI“交往”时，用户大量的个人信息被平台掌握。许多用户反映，自己没开过定位权限，但AI却能精准说出所在城市，甚至能说出用户所穿衣物的颜色。有用户在切换App后，AI竟然能准确说出其刚才做的事情，而注册时页面并未像其他软件一样单独弹出调用摄像头、麦克风等权限的申请。实际上，在软件初始页面，用户若要进行下一步操作，必须同意包括相机、麦克风、联系人等多项设备权限调用的用户服务协议和隐私政策，这些权限涉及的信息繁杂，包括用户个人喜好、软件使用习惯、家庭关系、通讯录、地理位置，甚至人脸等生物识别特征等。如果在传输、存储、使用等环节保护不当，这些数据可能被窃取、滥用，进而损害个人权益。

面对AI伴侣带来的这些争议和风险，我们需要采取积极的措施。目前，自AI伴侣诞生起，相关的争议就不断。随着“人工智能 情感”领域的不断发展，制定针对性的伦理准则迫在眉睫，对“AI恋爱”进行合规性审查是必要之举。2023年7月，国家网信办会同相关部门发布了《生成式人工智能服务管理暂行办法》，针对传播虚假信息、侵害个人信息权益、数据安全等问题提出了明确要求，如使用AI生成内容不得侵害他人肖像权、应对AI生成的图片视频进行标识等。

不过，多名受访专家认为，当前国内外发布的AI伦理准则大多比较宏观，应当在细分领域根据用户年龄、适用场景等进一步细化。在鼓励和支持AI技术在情感交流、心理健康等领域创新应用的同时，要加强伦理审查和监管，确保技术沿着合法合规的方向发展。对于公众关心的AI生成有害信息、泄露用户隐私等问题，应用开发者必须严格遵守法律法规，采取加密、数据匿名化、安全存储等手段保障用户数据安全。企业也要加强管理，谨慎对待隐私数据，不可逾越法律红线。同时，社会也需要加强科学引导，帮助人们正确看待AI伴侣与现实社会的关系，避免产生过度的情感依赖。正如知名社会学者李银河所说，和AI恋爱并非真正的爱情，只是对真人爱情的模仿。从技术层面看，AI伴侣产品的仿真性有限，不能完全模拟复杂的人类情感，难以完整填补人类的现实情感需求。我们要督促有关方面积极研究此类产品对人类情感的影响，让人们在享受科技带来的便利时，也能保持清醒的头脑，避免陷入不必要的风险之中。