在国内 AIGC 概念火热的这两年，业界一直流传着一种声音：AIGC 产业正处于蓬勃发展的关键时期，为了推动产业发展，监管应该“放一放”，给予 AIGC 从业者更大的自由空间。事实上，在很长一段时间内，AI 行业的监管模式也确实如此。纵观目前国内与 AIGC 相关的纠纷和监管案件，大多数集中在 AIGC 服务的用户身上，对 AIGC 服务提供者则比较宽容。
然而，就在上个月初，我国某直辖市网信部门开出了该市 AIGC 服务方的首张公开罚单，标志着针对 AIGC 服务提供者的第一波监管浪潮即将到来。
01 该直辖市首张 AIGC 服务提供者罚单的缘由
事件的起因仍然是 AIGC 服务提供者的内容审查义务不到位。某唱科技有限公司旗下运营着一个名为“某某猴”的 AI 写作平台，该平台的功能与其他 AI 写作平台类似，用户可以利用它对输入的文章进行扩写，或者输入关键词让平台生成相应的文章。问题就出现在这里：经过用户举报，监管部门发现“某某猴” AI 写作平台可以生成法律法规禁止的内容。根据官方通告，该直辖市下属某区的网信部门认定某唱科技有限公司运营的“某某猴” AI 写作平台违规生成法律法规禁止信息，该企业未尽到主体责任义务，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。
该区网信部门根据《中华人民共和国网络安全法》第六十八条之规定，对该公司进行行政警告处罚，并责令其全面整改，加强内容审核，健全信息内容安全管理相关制度，暂停网站信息更新及 AI 算法生成式写作功能 15 日。
02 AIGC 生成内容审核不到位，会承担哪些后果
首先，我们来梳理一下该平台被罚的原因。官方通告显示，该企业违反了《中华人民共和国网络安全法》和《生成式人工智能服务管理暂行办法》。其中，《中华人民共和国网络安全法》涉及的具体法条是第四十七条，即“网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告”。违反这条法律规定会产生哪些后果呢？《中华人民共和国网络安全法》第六十八条对此作出了明确规定：网络运营者违反本法第四十七条规定，对法律、行政法规禁止发布或者传输的信息未停止传输、采取消除等处置措施、保存有关记录的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处十万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照，对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。
换言之，该条实际上给了运营者一个改正的机会。初犯且问题不严重，没有出现重大舆情（认定情节不严重），那么主管部门会责令违法企业改正、给予警告，没收违法所得。只有当第一次受到处罚后依然出现问题（认定为拒不改正）或第一次违法已经造成了重大舆情影响等严重的后果（被判定为情节严重），那么最严重的后果就是吊销营业执照、吊销相关业务许可证。
那么，这是否意味着 AIGC 平台生成法律法规禁止的信息，平台运营者最多只会受到行政处罚，不涉及到犯罪？显然不是。根据《中华人民共和国网络安全法》第七十四条规定：违反本法规定，构成犯罪的，依法追究刑事责任。具体构成什么犯罪呢？如果 AIGC 服务的提供者拒不履行信息网络安全管理义务，且监管部门责令采取监管措施后仍然不改正，致使违法信息大量传播的，就会构成我国刑法第二百八十六条之一拒不履行信息网络安全管理义务罪，可处以三年以下有期徒刑、拘役或管制，并处或单处罚金。
03 AI 大模型数据训练的规定与实操经验
飒姐团队在与 AIGC 从业者交流过程中发现，许多从业者都有类似的抱怨：AI 生成的内容确实无法完全控制，有时会生成违法信息，一旦发现我们肯定会删除，但根本不可能完全杜绝。如果因此被处罚，就太冤了。
这种现象确实存在，但那是前两年。实际上，“大模型备案”机制的出现正是为了应对这种情况。我们所说的“大模型备案”指的是《生成式人工智能服务安全基本要求》中规定的生成式人工智能（大语言模型）上线备案。这项机制在 2023 年 9 月以前被称为“大模型双新评估”。大模型备案需要准备的材料中包括“安全自评估报告”、“关键词拦截列表”、“评估测试题集”。其中，关键词拦截列表和评估测试题集正是为了防止大模型违规生成禁止内容而准备的。
飒姐团队查询了此次被处罚的“某某猴” AI 写作平台，发现在国家网信办今年 3 月发布的大模型备案信息公示中并没有该平台。这也不奇怪，毕竟如果真的进行了大模型备案，关键词拦截列表和评估测试题都经过充分评估，那么基本是不可能生成违法内容的，也就不会出现后来的行政处罚了。
04 写在最后：AIGC 平台如何做到内容合规
飒姐团队经常开玩笑说，越是新兴的行业，越要注意合规。当年的 P2P 如此，现在 Web3、AIGC 行业也是一样。毕竟 20 年前的某部电影就告诉了我们这样的一个道理：“出来混，迟早要还。” 很多时候，AIGC 从业者抱怨上线一个 AIGC 平台又要经过评估又要经过备案，一个算法备案还不行，还得有所谓的“大模型备案”。其实这些评估和备案，最终是为了保障从业者自身的安全。一旦经过了这些备案，大模型仍然生成了违规内容（这种情况理论上是可能的，虽然微乎其微），那么 AIGC 服务的提供者也可以得到“避风港”的庇护。毕竟在“内容合规”、“主体责任”为王的当下，做到合规，就是保护了自己。
