近日，国家互联网信息办公室发布了《人工智能生成合成内容标识办法（征求意见稿）》，为人工智能生成内容标识制定了规范标准。简单来说，今后AI生成的内容将强制“亮明身份”。据了解，这也是全球首个关于人工智能生成合成内容标识的国家标准。
从文本生成文本、文本生成图像到跨模态交互，不断进化的AI生成技术正极大赋能内容生产。无论是撰写新闻、润色小说，还是指令作图、智能写歌，AI在很大程度上帮助创作者节约了绞尽脑汁的时间，显著提高了生产效率。然而，技术红利也正被一些别有用心之人利用。有些人利用AI批量生产虚假科普内容，以补钙强骨、健脾养胃等噱头欺骗老年人；有些人用AI编造虚假消息，以“突发”、“重磅”、“必看”等字眼吸引网友眼球；有些人用AI换声换脸伪装成明星进行诈骗，李鬼横行，欺骗感情，谋取钱财。这些行为严重污染了网络内容生态，不少还直接涉嫌违法犯罪。
“内容垃圾”与互联网相伴而生，屡禁不止，但AI的加入让垃圾的传播能力“鸟枪换炮”。具体来说，AI生成的“内容垃圾”具有迷惑性极强的特点。通过对训练数据的学习，AI大模型能够轻松掌握文本、图像、视频等不同内容的基本特征和形式。虽然最初AI生成的内容比较粗糙，但随着技术的不断迭代，已经告别了“一眼假”的阶段，进入了肉眼难以辨别真假的阶段。另一方面，AI造假的成本也大幅降低。过去造假需要多种成本投入，而现在借助最新的AI大模型应用，几乎无需人工参与，文本、图片、视频等各种内容都可以快速批量生产，任君选择。如果对此放任不管，后果将不堪设想，加强治理势在必行。
本次《办法》强制要求AI生成内容“亮明身份”，相当于一种源头治理。一方面，《办法》几乎涵盖了当前所有AI生成内容类型，包括智能对话、合成人声、人脸生成、沉浸式虚拟场景等。另一方面，《办法》对标识义务主体、适用范围、标识类型、使用场景和部署方式等都作出了细化规定，并提供了标识示例。目前，《办法》正在征求社会意见，需要AI创作者、互联网平台、学术界等相关主体群策群力，共同完善顶层设计，让“小标识”在互联网内容生态治理中发挥更大的作用。
“凡事预则立”，技术治理与技术发展必须同步推进。规范添加标识，让技术“如虎添翼”而不是“为虎作伥”，AI产业才能行稳致远。
