Rain科技7月26日消息，据媒体报道，欧盟《人工智能法案》第50条AI透明度准则将于8月2日正式生效。这项法规的出台，标志着全球在人工智能监管领域迈出了重要一步，其核心目标在于增强用户对AI系统的识别能力，防止技术滥用带来的误导。
根据法案，聊天机器人必须在服务人类时，明确告知其并非真人而是AI系统；深度伪造内容也必须在发布时明确说明。这项规定直接回应了近年来深度伪造技术泛滥引发的社会争议，例如虚假政治宣传、金融诈骗等事件，欧盟希望通过强制性标识来降低公众被欺骗的风险。
具体来讲，《人工智能法案》第50条要求厂商设计聊天机器人和语音助手时必须添加明显标记，使用户能够知道自己在和机器交流；AI生成图片、音频、视频和文本必须附带机器可读的标记，声明自己是AI内容。值得注意的是，这些标记不仅包括人眼可见的水印，也涵盖了元数据等底层信息，以便检测工具自动识别。
同时，该法案要求用户和机构发布深度伪造内容时必须进行明确说明，涉及公共利益的AI生成文本也必须进行标注。这类标注不仅限于视觉内容，对于合成语音、虚假新闻等同样适用，这意味着社交媒体平台、新闻机构等需要投入额外资源来建立审核机制。
但是AI拼写检查、语法纠正工具可以豁免，不需要进行标记，“自由飞行的人类”等幻想性质明显的内容也不属于深度伪造。这一豁免条款体现了法案的务实性——对于无害且消费者能自然识别的低风险AI应用，监管并不强加额外负担。
同时，该法案规定的机器可读标记并不意味着人眼可见。虽然欧盟提供了三种“AI生成”标签供大众使用，但这些标签本质采取自愿使用原则，法案只要求AI生成内容必须打上水印、元数据等信息，供检测工具读取。从技术角度看，这种设计兼顾了用户体验与监管效能：普通用户可能忽略隐藏标签，但专业机构或第三方审计工具可以快速溯源。
此外，该法案还设有过渡期，8月2日前已经面世的生成式AI系统可获得4个月的整改时间，截止日期为2026年12月2日。如果企业违反法案，最高可被处罚1500万欧元，或全面营业额的3%。业内分析认为，这一罚款力度虽不及《通用数据保护条例》（GDPR）的全球年营业额4%，但仍足以倒逼科技巨头加速合规。对于中小AI企业而言，合规成本可能成为新的竞争门槛。
