Rain科技8月31日消息，随着人工智能技术的飞速发展，AI生成内容的逼真度不断提升，使得区分网络上传播的内容是否由AI生成变得愈发困难。这种状况带来了潜在的安全风险，即AI生成内容可能被误用、滥用甚至恶意使用。
为应对这一挑战，国家出台了《人工智能生成合成内容标识办法》（以下简称《办法》），该《办法》将于2025年9月1日起正式施行。
《办法》的主要目的是通过添加标识来提醒用户辨别虚假信息。同时，它明确了相关服务主体在内容标识方面的责任和义务，旨在规范内容制作、传播各环节的标识行为。值得注意的是，《办法》强调，任何组织和个人不得恶意删除、篡改、伪造或隐匿办法规定的生成合成内容标识。
人工智能生成合成内容，涵盖了利用AI技术生成的文本、图片、音频、视频以及虚拟场景等各类信息。
据了解，AI生成合成内容标识将包含显式标识和隐式标识两种形式。显式标识是直接体现在生成合成内容本身或交互场景界面中，以文字、声音、图形等用户能够明显感知的方式呈现。而隐式标识则通过技术手段嵌入到生成合成内容的元数据中，用户通常不易直接察觉。
对此，腾讯元宝近期发布了《关于AI生成内容标识的公告》，表明其积极响应国家政策的决心。
腾讯元宝团队表示，一直致力于提供优质、安全、可靠的AI产品体验。在主管部门的指导下，腾讯元宝已建立了一套AI生成内容标识管理体系，积极响应《人工智能生成合成内容标识办法》。为了践行负责任AI的理念，并促进AI生成内容的健康发展，元宝已经在其AI生成内容中添加了显式和隐式标识。
腾讯元宝提醒用户，在通过互联网传播由元宝生成的内容时，务必保持这些内容标识的准确性和完整性。网络传播平台在接收到或检测到用户上传的内容为AI生成时，也应在用户发布的内容附近添加显著的提示信息，以便公众能够清晰地了解内容的来源。
