AI造谣频发，传播快、门槛低、迷惑性强为哪般？如何阻击？

东莞莞城律师获悉

今年三月五日的清晨，上海市公安局网络安全总队的民警在例行巡查中，留意到一则引人注目的信息：华山医院的前任院长张明远因阑尾炎未得到及时治疗莞城律师，不幸在异乡的医院走廊去世……经过深入调查，发现这则信息实为AI所造的虚假消息，幕后黑手王某某等人借助自媒体平台散布，意图借此吸引关注，从中谋取私利。

便捷的AI技术显著降低了制造谣言的成本，使得谣言的规模和传播速度大幅上升。由于追求流量和利益而受到的惩罚相对较轻，这一现象愈发频繁。即便市公安局网安总队三队队长符斌拥有丰富的应对谣言的经验，他也坦言，当前这场斗争正遭遇前所未有的挑战。

“AI造谣”带来了哪些影响？如何阻击？

“AI造谣”目的是流量牟利

近期，人工智能制造虚假信息的现象在全国多个地区频繁出现，其传播迅速、进入门槛低、误导性强的特点愈发明显。

在上海发生的那起女童失踪案件里，一个犯罪团伙采用“标题党”和“震惊体”的手法，蓄意编造并炒作了一系列虚假信息，诸如“女孩的父亲是继父”、“女孩被带往温州”等。调查发现，该团伙借助AI技术等手段制造谣言，通过114个账号组成的矩阵，在短短6天内发布了268篇文章，其中多篇文章的点击量超过了100万次。

当前，随着AI工具的持续更新迭代，谣言的生成规模和传播效力呈现出指数级上升。“AI技术的融入，显著提升了信息生产和传播的速度，却也在无形中加大了辨别信息真伪、精确度的挑战。”以“华山医院前院长在海外不幸去世”这一虚假信息的查处为例，符斌指出，目前AI制造的谣言已具备定制化制作、精确化传播和智能化扩散的能力。

王某某等人与此类似，近期频发的AI相关谣言，其发布者旨在通过发表文章、吸引关注，从而获得互联网内容平台对创作者所提供的点击和阅读量奖励。

此外，部分人利用AI技术散布虚假信息，以此方式“养号”以吸引观众关注和商品销售。据上海警方透露，他们在一电商平台上发现了一段关于某明星“命运坎坷、不幸去世”的短视频，该视频迅速获得了众多点赞和分享。调查结果显示，该视频内容纯属虚构。视频发布者被捕后承认，他在该电商平台上经营着一家销售土特产的网店。因销售表现不尽如人意，他转而制造引人注目的虚假消息，以此吸引网店的关注。由于缺乏视频剪辑技能，他借助人工智能技术制作出文字和视频内容。

多管齐下，强化平台治理

面对“AI造谣”这一乱象，我们不仅需要加大打击和处罚的力度，而且还需要建立健全有力的制度规范，同时实施全面的治理策略，这两者同样至关重要。

今年三月，《生成式人工智能服务管理暂行办法》正式出台，其中规定“生成式AI服务不得生产法律所禁止的内容”东莞莞城律师，诸如虚假信息等；若企业未能履行内容审核的职责，导致谣言扩散，将可能遭受最高达500万元的罚款；同时，直接责任人将被处以不超过10万元的罚款。

去年4月发布的《关于开展“清朗·整治‘自媒体’无底线博流量’专项行动的通知》中提出，需强化对信息来源的标注与展示；对于运用AI等技术生成的内容，需明确标明系技术生成；对于发布包含虚构、演绎等内容的，则必须清晰标注为虚构信息。

在监管领域，针对网络谣言的识别与整治措施也在不断进步和改进，以应对AI生成谣言的新形势。上海公安机关持续增强“人工与技术”相结合的方法，与网络内容服务提供商加强协作治理，同时运用大数据分析及预测模型，全面清除造谣和传播谣言的内容，对涉及谣言的账号进行分级处罚，对制造热点、引导舆论的网络水军进行严厉打击。自年初至今，成功侦破了15起涉及网络水军的案件，并逮捕了38名涉嫌违法的犯罪嫌疑人。

莞城律师?敬请于评论区发表高见，并对本文予以点赞及转发，以助广大读者把握法律与正义的界限。