7月31日，ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。本次峰会以“打造安全大模型，引领安全行业革命”为主题，旨在呼吁行业积极运用大模型技术重塑安全体系，为数字经济的稳健发展保驾护航。峰会吸引了来自各行各业的专家学者、企业领袖，其中包括多位院士，以及360、华为、微软等国内外科技巨头，共同探讨了人工智能技术发展带来的安全挑战，并深入研究了安全大模型在数字安全领域的发展潜力和应用方向。
人工智能安全问题已成现实，产研界需携手寻求解决方案
人工智能技术的迅猛发展正在推动着各行各业的转型升级，安全产业自然也迎来了新的发展机遇。中国工程院院士吴世忠在主题演讲中，结合生成式人工智能安全研究的现状和技术热点，对这一趋势进行了深入分析。他指出，人工智能技术带来的新型安全问题已成为现实，安全领域将进入一个由AI驱动的全新时代。然而，目前大模型安全研究才刚刚起步，无论是安全研究还是安全产业，都需要紧跟科技进步和应用创新步伐，才能更好地服务和保障发展。
“当前，AI应用系统安全责任与风险严重失衡”，中国工程院院士，国家数字交换系统工程技术研究中心(NDSC)主任邬江兴在主题演讲中强调了当前AI系统面临的严峻形势。他提出，要解决AI应用系统安全问题，需要基于内生安全架构来发现和纠正安全漏洞。AI应用系统必须包含必要的多样性和相对正确的公理，才能在不可信的环境中找到相对可信的结果。进入智能时代，选择正确的技术路径至关重要，只有这样才能实现更安全的AI应用系统。
聚焦“明星场景”，加速安全大模型实践应用
随着人工智能技术的飞速发展，各行各业和产品都面临着重塑，安全行业也正在经历一场革命。360集团创始人，ISC大会主席周鸿祎在《打造安全大模型，引领安全行业革命》的主题演讲中指出，用AI重塑安全的本质是让安全做到“自动驾驶”。360率先推出了安全大模型，并免费向购买360标准产品的用户提供相关服务，旨在实现大模型普惠，推动安全行业生产力的质变。
作为国内唯一同时具备数字安全能力和人工智能技术优势的企业，360依托其深厚的全栈大模型底层技术、世界上规模最大的安全知识库、亚洲最大的高级安全专家团队以及覆盖多领域的实战安全场景，打造了国内首个安全大模型——“360安全大模型”。该模型已在终端、安全运营、安全服务等多个业务场景落地实践。目前，360全线安全产品已集成安全大模型能力，并为所有购买360标准产品的用户免费提供大模型标准能力。
当前，人工智能技术正在跨越式发展，技术创新不断迭代，业界主流模型从千亿稠密到万亿稀疏，并逐步走向百万级超长序列和多模态。华为副总裁，ISP与互联网系统部总裁岳坤在演讲中表示，如何在智能时代的早期保证相应的服务能力和服务水平，是首批智能应用面临的核心挑战之一。他强调，提升安全水平是保障智能化服务能力和服务水平的关键，而原生是人工智能时代最大的安全。华为今年发布了昇腾原生计划，将投入专项资金，以技术和商业双轮驱动生态繁荣，为客户打造更符合场景需求的解决方案，加速AI模型的应用。
平衡AI治理与赋能，共话“安全+AI”融合发展新路径
随着生成式人工智能推动AI发展进入新阶段，AI治理也随之成为了一个突出的问题。先进计算与关键软件(信创)海河实验室主任，中国新一代人工智能发展战略研究院执行院长龚克在演讲中指出，AI治理应遵循有利发展、为人服务和基于伦理的原则。要清楚认识到技术自身的不足，以及人对于AI技术的恶用、滥用、误用等风险。他强调，要防止AI“作恶”，需要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等。此外，要坚持开放创新，在信创基础上发展安全可控的AI生态。
随后，在由IDC中国副总裁钟振山主持的“安全大模型引领数字安全新升级”圆桌对话上，教育部高等学校网络空间安全专业教学指导委员会秘书长封化民，360数字安全集团副总裁余凯，统信软件副总裁万慧星，微软大中华区安全与合规业务产品市场负责人李亮，围绕大模型技术对于安全行业的影响、大模型在安全领域应用的主要优势和障碍以及小模型的应用价值等话题，发表了各自观点。
ISC一直致力于搭建“政产学研用”的国际交流平台。ISC.AI 2024数字安全峰会上，来自国内外的专家学者和企业精英共同探讨了安全与大模型技术融合的前沿议题，不仅为数字安全创新发展提供了宝贵的启示，更推动了数字安全技术的跨越式发展，引领我们迈向一个更加智能、安全、和谐的数字新时代。
