新华社北京8月8日电 8月8日，《新华每日电讯》发表题为《防止“AI伴侣”脱离法律和伦理的轨道》的评论。
随着人工智能技术的飞速发展，人机对话已经从科幻走向现实。如今，各种AI聊天应用在互联网上如雨后春笋般涌现，其中涌现出大量被称为“AI伴侣”的虚拟聊天角色。这些“AI伴侣”能够全天候响应用户，与用户进行长时间的自然对话，并且拟人化程度不断提升，深受年轻群体的喜爱。然而，令人担忧的是，一些不法分子利用“AI伴侣”进行非法牟利，向用户传播色情内容，使部分用户沉迷其中。
一些案例中，不法分子利用境外大型语言模型开发虚拟恋人互动软件，利用创作者生态功能和对私人聊天内容的监管缺失进行宣传，吸引用户创作“AI伴侣”，并让这些“AI伴侣”与其他用户进行一对一的淫秽文字聊天互动。有的AI色情聊天软件用户超过50万，其中包含数万个“AI伴侣”虚拟人物，而大量注册用户是大学生。
现如今，AI已经深度融入人们的生活。除了可以成为个人助理、教师助教，AI角色还能参与部分医疗患者的康复咨询。对于那些感到孤独或存在社交障碍的人群来说，AI陪伴可以提供及时的情感反馈和心理安慰，帮助他们缓解压力、消除孤独感。然而，AI技术应用发展必须有底线和边界，不能越界。
从法律角度来看，提供AI色情聊天服务无疑属于传播淫秽物品的违法犯罪行为。从道德规范和伦理准则的角度来看，AI色情破坏了社会的公序良俗，可能导致使用者过度依赖虚拟色情交流，引发身体和精神健康问题。
打击AI色情，监管必须毫不手软。应进一步加强对AI产品中涉及打擦边球、色情等内容的整治和清理，严防不法分子违法违规接入境外AI大模型，通过技术手段阻止AI不受控制地向用户输出色情内容。
剔除AI色情，企业要警钟长鸣。对于AI开发和运营企业来说，运营和发展必须以遵纪守法为前提。AI领域并非法外之地，容不下任何侥幸心理和灰色空间。企图利用淫秽色情牟利，必将受到法律的严惩。
治理AI色情，需要行业共同努力。近年来，除了AI生成文字色情内容外，AI“换脸”色情、AI生成色情图片等手法也层出不穷。面对AI商业化过程中出现的违法和滥用情况，行业必须防范“走错路”“走歪路”，加强信息技术共享，及时将解决方案嵌入技术运行的机制、程序、代码中，并强化对特殊人群的保护。
AI技术的发展不能脱离法律和伦理的轨道。有必要在AI数据保护、AI伦理规范、AI安全标准等方面更加努力，构建适应AI时代的法律法规体系，确保AI技术真正做到科技向善、以人为本，更好地服务于社会。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
