阿里巴巴集团近期发布的《大模型技术发展及治理实践报告》，深入剖析了人工智能（AI）大模型技术快速发展带来的机遇与挑战，尤其关注其安全性和治理问题。ChatGPT的全球爆火，使AI大模型成为科技领域的焦点。截至2023年上半年，全球AI企业数量已达3.6万家，美国以33.6%的占比领跑，中国紧随其后，拥有5734家企业，占比16%。
在中国，AI大模型发展势头强劲。目前已有超过270个AI大模型完成备案并对外提供服务，注册账户数突破13亿。北京市作为国内大模型产业的中心，备案数量超过105个，占据全国一半以上，并已为超过1.4万家企业提供赋能服务，充分展现了其产业聚集效应和实际应用价值。
然而，AI大模型的快速发展也带来了安全风险和治理挑战。如何平衡技术创新与安全风险控制，确保AI大模型始终在人类可控范围内运行，已成为全球共识。报告中提出的多项治理措施，例如建立全生命周期管理体系，以及加强多方协作，对解决这些问题至关重要。这需要政府、企业和研究机构的共同努力，建立健全的监管框架和伦理规范。
此外，自主创新是AI大模型发展面临的另一个关键问题。部分专家指出，当前许多国产大模型采用国外开源架构，导致与国际领先水平存在差距。北京市互联网信息办公室副主任潘锋也提到，“百模大战”中真正有竞争力的模型数量有限，许多企业面临商业模式探索和生存压力。因此，提升国产AI大模型的自主创新能力，突破技术瓶颈，增强国际竞争力，刻不容缓。
作为头部AI和云服务商，阿里巴巴积极推动AI大模型开源发展，并大力投入算力基础设施建设和安全架构完善。其“通义千问”API价格已下降97%，吸引了包括中国一汽、联想、微博在内的30多万家企业接入，推动了AI大模型的广泛应用和技术普及。
在提升AI大模型安全性方面，报告提出了“宪法人工智能”（Constitutional AI）的概念，通过预设伦理准则，对模型进行微调和强化学习，从而减少人工干预，提升模型安全性。这一技术的应用，有望大幅降低人工监督成本，提高模型的可靠性和安全性。
中国电子技术标准化研究院副院长范科峰指出，发展与安全并非对立，而是相互促进的关系。AI安全标准化工作是AI安全治理和技术健康发展的基石。未来，加强AI技术标准化建设，提升AI大模型的安全性和可靠性，将是推动行业健康发展的重要方向。
