微信封禁短视频虚假人设账号

AI怪盗图11月20日消息,微信发布“清朗·整治短视频虚假人设乱象”专项行动第3期公告,继续整治视频号中虚构身份、编造经历、恶意摆拍等问题,并公布了多起利用AI造假带货的典型案例。

公告显示,自专项行动开展以来,平台累计清理违规内容31528条,处置违规账号1840个。本次公示的多组账号,均已被清理相关内容并关闭账号。

其中1类是冒充名人带货。部分账号利用AI换脸、语音合成,冒用名人的肖像和声音,假借名人名义带货、引流。经核查,这些账号均未获得授权,相关内容属于虚假冒用。

第2类是用AI数字人“卖惨”。部分账号捏造悲惨身份,把带货商品包装成帮扶任务,借助用户的同情心诱导下单。看似需要帮助的人物,以及视频中讲述的遭遇,实际都是虚构的。

还有部分账号利用AI数字人编造家庭矛盾,假扮弱势群体进行营销带货。平台核查发现,相关人物和对话均由剧本编造,账号同样已被关闭。

这些案例涉及不同的造假手法:有的借名人身份获取信任,有的靠悲惨经历博取同情,有的用家庭冲突吸引关注,最终都指向带货和引流。

微信对短视频虚假人设乱象下手了:封号!

从此次公布的案例可以看出,虚假人设乱象主要利用AI技术进行身份伪造和情感操控。这类行为不仅误导消费者,也污染了网络内容生态。微信平台持续开展专项行动,展示了治理决心。然而,随着AI生成技术的普及,造假手段不断翻新,平台需要不断优化审核机制,结合技术手段和人工审核,才能更有效地遏制此类现象。

接下来,微信将加强账号资质核验和内容审核,规范虚构演绎、AI生成合成内容的标识管理,并持续巡查虚假人设类内容。

对于违规内容及账号,平台将根据违规性质、情节和影响程度,采取限制传播、清空违规信息、限制账号功能、暂停更新、封禁账号等措施。

其中,批量制造虚假人设、恶意营销牟利的账号及相关机构,将被从严处置。涉嫌违法犯罪的,平台将向有关部门报告。

微信提醒创作者,不要用虚假人设骗取信任,也不要靠编造剧情获取流量。用户发现冒充名人、虚构经历等违规线索,可以通过平台投诉举报渠道反馈。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
赞 (0)
AI 怪盗团AI 怪盗团
卡普空正版授权国内首款《怪物猎人:旅人》开启WeGame预约
上一篇 1天前
市价5.3万RTX 5090送修被强行报废只退1.8万
下一篇 20小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注