首 页 电子报纸 草地周刊 调查观察 成风化人 新华观点 要 闻 新华关注 新华深读 新华体育 新华财经 新华国际 新华融媒 精彩专题 医卫健康 看天下
首页 >正文
来源:
新华每日电讯6版 评论

治理利用AI造谣,不妨“用AI对抗AI”

2024-07-24 11:35:48 来源: 新华每日电讯6版 评论

  近期,多地公安机关公布多起利用AI工具实施造谣的相关案件。6月20日,上海市公安局城市轨道和公交总队发布警情通报:有营销人员为博取关注,使用AI软件生成“上海地铁行凶”虚假视频在网上发布,造成恶劣社会影响。此外,“西安突发爆炸”“济南一高层住宅楼起火,多人跳楼逃生”等耸人听闻又广泛传播的“新闻”,均被查实是AI软件炮制的谣言。造谣的动机主要是获取互联网内容平台给予创作者的点击量、阅读量奖励,以及为电商平台经营引流等。说到底,还是为了钱。

  在不断迭代的生成式AI技术面前,“眼见为实”“有图有真相”正在被挑战。从相关案件看,不法分子利用最新AI技术生产的谣言,足可“以假乱真”,迷惑性极强。人工智能还能根据传播渠道特征,实施个性化的谣言生成,并面向特定受众快速、精准投放,由此造成针对个人或特定群体的诽谤中伤、信息泄露、危害人身安全等事件时有发生。

  对网络谣言治理来说,更大的挑战在于便利的AI工具大大降低了造谣成本,提升了谣言的数量级和传播力,造谣呈现出门槛低、批量化、识别难的特点。检索互联网,诸如“图文创作,AI自动写文章,单号轻松日产500+,可多号操作,小白轻松上手”“无需洗稿,AI一天100篇原创”之类的广告文章层出不穷,吸引别有用心者参与其中,也催生了灰色产业链加速形成。与此同时,为了核实真假难辨的信息,相关机构和个人不得不投入人力物力,消耗大量社会成本;一些谣言不仅给受害方造成精神伤害,也对社会经济运行带来不小损失。以上种种,使我们必须高度重视AI技术的“双刃剑”特征,采取坚决行动,保持高压态势,最大程度地遏制不法行为。

  要以更有力的手段去病除害。一些互联网内容平台奉行“流量至上”,放任假新闻、“标题党”、争议性话题传播,为AI谣言的大行其道提供了不良土壤。应该清醒看到,虚假信息传播带来的流量不可能长久,天下也绝不会有无本万利的生意。平台应首先压实主体责任,对包括AI造谣在内的虚假信息传播迅速识别并切断其传播链、利益链,进一步优化涉及AI内容的流量分发和收益分成机制,压缩别有用心者生产谣言的牟利空间。有关部门也要依法亮剑,猛药去疴,严厉打击制造虚假新闻的个人和机构,在网络空间架起禁止AI造谣的高压线。

  要以更快捷的方式“跑赢”谣言。面对AI谣言的精准化传播、智能化扩散,不妨探索“用AI对抗AI”。近年来,部分互联网内容平台已建立辟谣机制,相关部门也协同联动,快速发布调查和处置结果,回应社会关切。未来还应对算法推荐、日常监测、线索收集等技术和机制进一步优化提升,从而更迅速、精准地推送辟谣信息,使更多真实、有价值的信息“跑”在谣言之前。

  要健全法治引领技术向善。如何让人工智能循着以人为本和技术向善的方向发展,监管之外离不开法治的保障。目前,我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律,但针对AI领域的司法治理仍有进一步细化空间。只有通过立法为AI开发和使用划定基本底线,明确各方权责,才能从源头防范风险,避免“先污染后治理”的被动局面。

新华每日电讯评论员吴振东)

 

责任编辑: 冯明
关键词:
010140010060000000000000011100001310782531