Rain科技3月6日消息，以DeepSeek为代表的AI大模型，正在以前所未有的速度渗透到人们的日常工作和生活中。但使用过程中，一个日益突出的问题也逐渐浮现出来：AI是否会出现“一本正经胡说八道”的情况，凭空捏造细节，甚至虚构事实？
事实上，在享受AI带来的效率提升和便利性的同时，杜撰和造假已经成为当前AI应用中一个不容忽视的缺陷。这种现象不仅影响了信息的真实性，也对用户信任度造成了潜在威胁。
知名互联网评论人、媒体人阑夕近日就指出，DeepSeek等AI大模型生成的虚假信息正在逐渐“淹没”中文互联网。
他表示，最近一周内，他所看到的刷屏文章中，至少有三例是由DeepSeek-R1生成，内容充斥着大量的事实性错误。然而，由于其以假乱真的能力，许多用户信以为真，并情绪激动地分享传播，造成了不良影响。这种现象值得警惕和反思。
一个典型的例子就是知乎上的一条高赞回答。该回答被指出是DeepSeek“一本正经胡说八道”的典型案例。由于其输出的内容提示词精准、文风自然流畅，极易让人信以为真，普通用户难以辨别真伪。
例如，文章中提到哪吒电影里的敖丙变身镜头在法国昂西动画节上引起了业内轰动。但事实是，法国确实存在昂西动画节，并且确有哪吒相关的电影送去参展，然而参展的并非饺子导演的《哪吒之魔童降世》，而是追光动画出品的《新神榜：哪吒重生》。
更重要的是，出于审核原因，这部送展的《新神榜：哪吒重生》宣传片实际上是一部品牌概念片，主要展示现代都市背景下的赛车动作场面，哪吒本人并未出现，更不存在敖丙变身的场景。
此外，文章中还提到哪吒的制片方给员工分成都的房子、攻克水下流体特效等细节，这些都被证实是DeepSeek为了完成“命题作文”而进行的“脑补”，完全不存在事实依据。这些虚构的细节不仅误导了读者，也体现了AI在内容生成方面存在的潜在风险。
类似的案例还有很多。一些用户在使用AI写作时发现，为了迎合用户需求，AI甚至会主动“加戏”，凭空想象出许多不存在或尚未发生的细节，并将其作为真实事件嵌入到文章中。这种现象给信息的真实性和可靠性带来了严峻挑战。
更令人担忧的是，如果这些虚假内容被大量生成和传播，它们甚至可能被AI重新学习和吸收，并在未来的内容生成中被引用，形成恶性循环，使得真假信息更加难以区分。这不仅会影响公众的认知，还可能对社会信任体系造成破坏。
事实上，在今年的两会期间，全国人大代表、科大讯飞董事长刘庆峰就关注到了“AI幻觉”的问题。他计划提交一份《预防大模型生成“幻觉数据”充斥互联网带来的危害，从技术研发和管理机制上构建可信的信息环境》的建议，呼吁全社会重视AI生成内容的真实性问题。
刘庆峰引用中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》数据，指出我国生成式人工智能产品的用户规模已达2.49亿人，庞大的用户群体意味着AI生成内容的传播范围和影响力都非常巨大。
他强调，生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，严重影响公众信任和社会稳定。这需要引起高度重视，并采取有效措施加以解决。
针对这一问题，刘庆峰建议，应构建安全可信的数据标签体系，提升内容可靠性。通过建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现的概率，从而提升生成内容的可靠性。这是一种从源头上控制虚假信息生成的有效途径。
另一方面，他还建议研发AIGC幻觉治理技术和平台，定期清理幻觉数据。通过研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，并由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。这能够帮助用户更好地识别和防范虚假信息。
阑夕也认为，AI当然可以创造内容，但前提一定是注明其是由AI生成，不能以假乱真，以一种不可辨识的方式成为互联网的原生信息。这种透明化的标注方式能够让用户对信息的来源和可靠性有更清晰的认知。
此外，他认为大模型厂商和内容平台也有义务同步推进类似数字水印的兜底方案，从技术层面保障信息的真实性。数字水印技术可以在不影响用户体验的前提下，为AI生成的内容添加可追溯的标识，方便用户识别和验证信息的来源。
如果放任AI生成内容的泛滥和失控，我们很可能将难以辨别信息的真伪，从而陷入信息混乱的困境。因此，建立一套完善的AI内容监管机制，确保信息的真实性和可靠性，已经成为当务之急。这不仅是对用户负责，也是对整个社会负责。
