Rain科技8月18日消息，今日，央视新闻聚焦人工智能（AI）技术被滥用的乱象，揭示了AI克隆声音在网络上引发的问题。 在一些社交平台上，博主们利用AI技术模仿知名人物的声音，并将其用于商业推广。
例如，有博主就利用AI技术仿制了奥运冠军全红婵的声音，用于推销土鸡蛋。 同样，孙颖莎、王楚钦等运动员的声音也被AI克隆，并被用于为“婵宝家土鸡蛋”进行宣传造势。
在一段被AI仿冒的“全红婵”的带货视频中，视频中的声音响起：“我是你们的婵宝，今天有事请大家帮忙，婵妹就想着帮助妈妈，让家里的生活过的更好一点，同时把老家的土鸡蛋分享给粉丝们尝尝，今天先让妈妈拿出300单老家土鸡蛋给大家放福利。” 这种以名人身份进行商业推广的方式，容易引发消费者的混淆。
评论区显示，许多网友因此误以为这是奥运冠军本人，纷纷下单购买，显示出AI克隆声音在欺骗性营销方面可能造成的严重后果。
此外，这种AI声音克隆技术也扩散到其他领域，有博主“克隆”演员靳东等公众人物的声音，并进行24小时不间断的语音直播，涉嫌侵犯肖像权和隐私权。
记者调查发现，在网络平台上，AI克隆声音的技术教程和软件下载信息“随处可见”，获取和使用该技术的门槛极低。 甚至有卖家声称，只需要一分钟的语音素材，就可以轻松“克隆”任何人的声音。
针对AI生成内容日益增多的情况，为进一步规范其应用并帮助用户更准确地辨别虚拟内容，国家互联网信息办公室等四部门联合发布了《人工智能生成合成内容标识办法》（简称《标识办法》），并将于2025年9月1日起正式实施。
《标识办法》明确规定，服务提供者在生成或合成文本、音频、图片、视频、虚拟场景等内容时，必须添加清晰可见的标识。 如果提供生成合成内容的下载、复制或导出功能，必须确保文件中包含符合要求的显式标识；同时，还应在生成合成内容的元数据中添加隐式标识，以便于追踪和识别。
