当网络谣言遇上AI……

美女峰 · 发表于: 2024-5-27 19:44:00

: 网信上海

c07a-95c197aa4b7b0db0a64bb529ff62049c.jpg 保存到相册

　　“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”，曾在网上广泛传播，引起大量网民关注。
　　令人大跌眼镜的是，警方事后的调查发现，这些耸人听闻的“消息”，是不法分子使用AI制作的网络谣言！尽管警方紧急辟谣、澄清事实，可谣言已经领跑真相一大截，让很多人信以为真，给当事方带来极大困扰。
　　AI加持下的互联网，给人们生活场景的丰富、生产效率的提升带来了全新机遇。但当谣言披上AI的外衣时，谣言和真相更难辨认，造谣的门槛和成本极大降低，传播的效率和产生的影响成倍增加，成为亟需治理的一道网络新课题。

d460-de2d4d536e373f8070b5824fd907e17b.jpg 保存到相册

　　近日，多地警方通报了一批利用AI造谣的典型案例。
　　去年12月，甘肃积石山发生6.2级地震，张某某利用AI软件，编造了“甘肃红十字会采购暖手袋，收取160万元管理费”“甘肃执法队扣押救灾货车”等不实信息，并通过多个网络平台进行发布，对当地抗震救灾工作造成严重影响。
　　今年2月，杜某利用AI技术，编造了“某著名女星命运多舛、含恨离世”的短视频，上传网络后引起广泛传播，严重影响了当事人的生活和声誉。

1db3-02d38c84ce08775b3e85913e212ee1ba.jpg 保存到相册

　　一份近期审结案件的材料显示，不法分子利用AI技术，以热点新闻和随机网络视频为素材，短时间内就制作出约1万条虚假视频新闻，其中发布出去的20多条视频，涉及多个省份，浏览量超过百万。
　　清华大学新闻与传播学院新媒体研究中心今年4月发布的一份报告显示，经济领域已成AI谣言的高发地，餐饮外卖、快递配送等民生行业是AI谣言的重灾区。

ec69-0193a3e5c3c6efd0e4b91f1758286fdd.jpg 保存到相册

　　当网络谣言遇上AI，后者低成本、高效率、操作简单的特点，使谣言视频的批量化生产成为可能。AI谣言的视频形态，也契合了部分网民“有图有视频就有真相”的认知，使得AI谣言常常一经上网，就能迅速传播。
　　从查获的典型案例来看，“吸睛引流”“变现牟利”等，是不法分子屡屡提及的高频词。
　　自媒体时代，“注意力经济”为很多人提供了发家致富的机遇。但一些人信奉“流量至上”，为了流量，什么技术都敢用、什么手段都敢使，甚至把冲撞道德底线、践踏法律红线当作“流量密码”，猎奇、八卦、低俗、编造假新闻等等，都成为追求流量的工具。

0cd6-4fa1c7baaab37d6022b9e0e28d676cfe.jpg 保存到相册

　　AI造谣更衍生出一条条黑灰产业链。
　　去年国庆假期，“4岁女童海边走失”发生后，上海警方发现十余个散布“走失女童曾被丢弃”等虚假信息的自媒体账号，并在进一步侦查中打掉一个“水军”团伙。该团伙借助AI技术，批量制造不实帖文，大量转发炒作，非法获利4万余元。

190e-43212298c168afea8aef05f9f3cd145e.jpg 保存到相册

　　前述清华大学的研究报告，以80余件涉AI谣言案例进行统计，发现涉案所受处理当中，占比最大的是行政处罚，包括罚款和行政拘留，约占一半；而实施刑事拘留和判刑的，不足两成；其余则是封禁账号、信息清理、批评教育等。
　　同谣言造成的破坏相比，不少网友认为，惩处造谣的力度还不够刚硬。只有进一步完善法律法规，实施更强有力的惩处，才能发挥震慑作用，遏制AI谣言黑灰产业蔓延势头。

2dec-16785bb760adeaf9ea2a005eb2716a2c.jpg 保存到相册

　　AI谣言传播的相关网络平台，也不能忘记平台的主体责任。加大人力、财力、技术等多方面投入，在内容甄别、谣言拦截、防止扩散等方面展现更多主动作为，坚决阻断谣言传播链条，切实肩负起社会责任。
　　走好群众路线，发动广大网友，激发网友参与举报AI谣言的热情，共同筑起防范AI谣言传播的铜墙铁壁。
　　唯有如此，AI这种新生产工具才能扬长避短，不为谣言生产、传播助纣为虐，而为社会发展进步贡献更多正向力量。

源自：新华社

帐号		自动登录	找回密码
密码			免费注册

[2023年] 当网络谣言遇上AI……