近年来，以大数据、人工智能（AI）等为代表的信息技术发展日新月异。然而，AI技术的快速发展也带来了一些负面影响，其中利用AI工具合成技术编造谣言尤为突出。这些谣言能够生成逼近真实的图片、音视频，甚至能以文字的形式编造虚假信息，颠覆了“有图就有真相”的常规认知，让人难以辨别真伪。
AI造谣的定义
AI造谣指的是利用人工智能技术生成虚假信息，包括文字、图片、音视频等，以此来制造网络谣言。这些谣言通常具有很高的可信度，容易迷惑公众，造成社会恐慌和混乱。
AI造谣典型案例
案例一：利用AI软件编造“山体滑坡致8人遇难”网络谣言
2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。
案例二：利用AI软件编造“喜德县地震”网络谣言
2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。
案例三：利用AI软件编造“女子电动车被扣后猝死”网络谣言
2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过AI软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。
以上案例均是通过AI软件合成的不实信息，不法分子为了赚取平台奖励或吸引流量，使用AI软件自动生成文章，并与实际图片进行嫁接，发布在网络平台上，造成不良社会影响，严重扰乱社会公共秩序。
AI技术的快速发展带来了许多便利，但也带来了新的挑战。如何防范AI造谣，维护网络安全和社会秩序，需要政府、企业和个人共同努力。政府应加强监管，制定相关法律法规，规范AI技术应用。企业应提升技术能力，加强内容审核，杜绝平台成为造谣的温床。个人应提高识别能力，增强信息素养，不传播未经证实的信息。只有共同努力，才能营造良好的网络环境，让AI技术更好地服务社会发展。
