在科技高速发展的今天，人工智能已经成为推动社会进步的关键力量之一。但随着人工智能的应用场景不断扩大，其面临的安全挑战和风险也日趋复杂。9月9日，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版（以下简称《框架》），为解决这一时代难题提供了重要的思路。
安全是人工智能发展的首要前提。模型算法安全、数据安全、系统安全等内生风险，以及网络域、现实域、认知域、伦理域等应用安全风险，看似微不足道，却可能引发连锁反应，造成严重后果。例如，近期在韩国，深度伪造技术被用于制造虚假信息，已经对社会秩序和个人隐私构成了严重威胁。因此，面对日新月异的人工智能技术，我们不仅需要关注技术发展本身，更要兼顾社会、伦理和法律等多方面的因素，用一个全面的框架来指导人工智能安全治理。
这份《框架》共分为四大板块：安全风险、技术应对措施、综合治理措施和安全开发应用指引。它不仅明确了人工智能安全治理的基本原则，也明确了人工智能模型算法研发者、服务提供者、重点领域使用者和社会公众等不同主体的安全规范，为促进人工智能的健康发展和规范应用提供了基础性、框架性的技术指南。
值得关注的是，《框架》提出了“包容审慎、确保安全”的治理原则。其核心在于鼓励发展创新，对人工智能研发及应用采取包容态度，同时严守安全底线，对危害国家安全、社会公共利益、公众合法权益的风险及时采取措施。这种“包容审慎”的原则既为人工智能技术的自由探索留足了空间，也为可能出现的风险筑起了坚固的防火墙。正如古人云：“明者因时而变，知者随事而制”，对人工智能的治理同样需要细致入微、张弛有度。通过明确安全规范和技术标准，引导人工智能产业健康发展，不仅有助于提升我国人工智能产业的整体竞争力，还将为全球人工智能的发展贡献中国智慧和中国方案。
然而，《框架》的发布仅仅是第一步，人工智能安全治理需要政府、企业、科研机构和社会公众的共同参与。政府部门应加强监管，为人工智能的安全发展保驾护航；企业应加大技术研发投入，提高人工智能的安全性和可靠性；科研机构应深入研究人工智能安全问题，为解决实际问题提供智力支持；社会公众也应增强安全意识，正确使用人工智能产品，共同营造安全、可靠、公平、透明的人工智能发展环境。
科技以人为本。在人工智能的浪潮中，我们既要有乘风破浪的勇气，又要有未雨绸缪的智慧。如今，通过建立健全安全治理框架，我们显然更有信心应对人工智能带来的挑战，共同走向一个更加安全、可持续的人工智能的未来。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
