近年来，代码大模型已经成为企业研发人员辅助编程的必备助手，能够生成、翻译、补全代码，帮助定位和修复错误。然而，代码大模型背后隐藏的安全风险挑战不容忽视。
为了更好地应对代码大模型带来的安全风险，中国信息通信研究院（以下简称“中国信通院”）依托中国人工智能产业发展联盟（AIIA），联合业内近 30 家单位共同编制了《代码大模型安全风险防范能力要求及评估方法》规范（简称“规范”）。该规范聚焦代码大模型的安全能力，从基础功能出发，评估代码大模型的基础能力和安全风险防范能力。
2024 年 6 月 18 日，规范第三次研讨会成功举办，对规范内容做出了进一步的完善和修订，现已完成定稿。
参与编制的单位包括（排名不分先后）：
-
中国信息通信研究院
-
北京百度网讯科技有限公司
-
科大讯飞股份有限公司
-
蚂蚁科技集团股份有限公司
-
中国邮储银行
-
中国民生银行
-
中债金科信息技术有限公司
-
交通银行
-
华夏银行
-
龙盈智达（北京）科技有限公司
-
北京市商汤科技开发有限公司
-
阿里云计算有限公司
-
北京大学
-
小米移动软件有限公司
-
维沃移动通信有限公司
-
海信视像科技股份有限公司
-
浪潮软件科技有限公司
-
北京云起无垠科技有限公司
-
浙江大学滨江研究院
-
广东拓思软件科学园有限公司
-
浙江御安信息技术有限公司
-
万商天勤（上海）律师事务所
-
深圳开源互联网安全技术有限公司
该规范旨在全面评估代码大模型在安全风险防范方面的能力，通过分析和测试，确保模型在各个关键环节的安全性能。规范的评估不仅包括代码大模型的核心功能，也涵盖了与之相关的多个细分领域，如数据集、算法、模型、网络以及服务等。
代码大模型的安全性评估工作至关重要。代码大模型在编写程序和软件时可能存在漏洞，这些漏洞可能被恶意利用，导致系统崩溃、数据泄露或其他安全问题。因此，需要制定严格的评估标准，以确保代码大模型的安全性。
▲ 代码大模型安全风险防范能力评估框架
根据评估结果，规范将确定代码大模型的安全能力级别，为模型的进一步优化和安全加固提供指导，同时也为用户从安全性角度提供选型依据。
目前，中国信通院正式启动首轮代码大模型安全风险防范能力试评估工作，报名将于 8 月底截止，预计年底发布评估结果。这将为代码大模型的安全发展提供重要的参考，推动代码大模型技术的健康发展。
