有图未必有真相！警惕你我身边的AI谣言 | 数字素养

审核专家：刘相权

北京信息科技大学副教授，机器人工程系主任

近年来，以大数据、人工智能（AI）为代表的信息技术日新月异。这些技术的发展为我们的工作生活提供越来越多的便利，但与此同时也产生了一定的负面影响。利用AI工具合成技术编造的谣言逐渐在互联网出现。
AI谣言不但能够针对抓人眼球、争议较大的话题加以编排，甚至还可以生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今天，让我们一起来了解AI造谣。AI造谣指的是利用人工智能技术生成虚假信息，‌包括文字、‌图片、‌音视频等，‌以此来制造网络谣言。在近几年的时间中，已经产生过多起通过AI造谣引起负面影响的案例。

“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”，曾在网上广泛传播，引起大量网民关注。

图为利用AI软件编造的“喜德县地震”网络谣言

以上这些案例都是通过AI软件合成的不实信息。有些不法分子‌为了赚取平台奖励或吸引流量，‌借助AI软件自动生成文章，‌并通过与实际图片相嫁接，合成虚假图片和视频，‌发布在网络平台上。

这种行为‌会对社会造成不良影响，严重扰乱社会公共秩序。尽管警方紧急辟谣、澄清事实，可谣言已经领跑真相一大截，让很多人信以为真，给当事方带来极大困扰。

根据新华社的报道，一份近期审结案件的材料显示，不法分子利用AI技术，以热点新闻和随机网络视频为素材，短时间内就制作出约1万条虚假视频新闻，其中发布出去的20多条视频，涉及多个省份，浏览量超过百万。

当谣言披上AI的外衣时，谣言和真相更难辨认，造谣的门槛和成本极大降低，传播的效率和产生的影响成倍增加。

AI谣言已经成为亟需治理的一道网络新课题，作为一个个传播节点，个人的力量在制止谣言的过程中也十分重要。那么在日常生活中，我们怎样擦亮眼睛，识别并抵制AI谣言呢？

一

如何辨别AI谣言？

01观察图片细节

仔细观察图片中的细节，如颜色、光影、清晰度等，是否与现实生活中的实际情况相符。如果发现异常，应保持警惕。

02验证信息来源

在看到网络上的信息时，要查看信息来源是否可靠。对于来源不明的信息，应保持谨慎态度。

03

借助技术手段

利用技术手段检测图片、视频等是否被篡改。例如，使用专业的图像识别软件、视频分析工具等。

二

如何抵制AI谣言？

提高防范意识

在上网浏览信息时，我们要保持对信息来源的警惕性，尽量选择权威、可信赖的媒体或机构作为信息来源。平时要注意网络新闻信息的逻辑性，如果发现一条新闻信息在逻辑上存在明显的漏洞或矛盾，它很可能是经过篡改或杜撰的。

不要盲目行动

切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者等待官方消息发布后再作判断。不人云亦云，不偏听偏信。

自觉维护网络生态

我们应该做到自觉远离虚假信息，不当假新闻的跟随者和助推者。如果发现虚假信息，要及时通过举报电话、互联网举报中心等多种途径对其进行举报，共同维护风清气正的网络生态。

再先进的机器也难以超越人类的智慧，AI生成的内容难免存在漏洞，今后，在上网“冲浪”时，我们应当提高意识、擦亮眼睛，积极行动，共同筑起防范AI谣言传播的铜墙铁壁。