在第十二届互联网安全大会现场，跳舞机器人、艾灸机器人、自动化妆机以及各种 AR 游戏、智能办公助手、汽车智能座舱等吸引了众多参观者。无处不在的 AI 技术预示着一个新时代的到来。
展厅中，正在计算机专业就读研究生的郭同学向记者表示，他目前的研究方向与近年来大热的 AI 大模型密切相关。当前，越来越多的 AI 大模型技术被应用于工业生产、医疗服务、日常办公、艺术创作等各个领域，未来可能更深入地融入人们的工作和生活，成为不可或缺的一部分。
随着 AI 应用场景日益丰富，互联网安全作为互联网生态的基础性支撑，其应用范围和用户需求也发生了新的变化。多位专家和行业人士表示，“安全+AI”的新生态带来了新的场景，成为推动互联网安全产业发展的重要动力。
“安全+自动驾驶”便是其中极具代表性的“新生态”之一。
山石网科副总裁贾宇告诉记者，自动驾驶过程中，感知系统、分析系统、决策系统协同运行，都需要智能网联技术的加持。如果未来无人驾驶汽车进入商业化推广阶段，出于对人身安全的保护，无人驾驶汽车的信息安全将变得至关重要。他指出，在驾驶场景下，安全监管需要同时满足高性能和低延迟两项要求，以平衡网络安全和物理安全。因为软件延迟过高，车辆行驶中发生事故的概率也会上升。
360 集团创始人周鸿祎则表示，随着汽车行业智能化的发展，汽车在出厂前不仅需要进行物理世界的碰撞试验，还需要在数字世界里进行“数字碰撞”，以确保没有明显的数字安全漏洞。除了车身安全外，车厂安全也需要重点关注。周鸿祎指出，攻击车厂的难度远低于攻击车身，因为车厂网络与普通办公网络差异不大，更容易出现漏洞。一旦车辆接入车联网，车厂被“拦截”也会带来严重后果。
应对新挑战
当前，以生成式人工智能为代表的新一代数字技术逐渐成为引领科技创新，提高新质生产力的关键力量，但也带来了社会伦理和数据隐私泄露等挑战。
公安部原副部长、国家网信办原副主任陈智敏表示，确保数据安全是人工智能安全的根本保障，而构建与新质生产力相适应的新型生产关系则是保障其可持续发展的当务之急。应健全关键核心技术攻关的体制机制，将政府、市场、社会有机地结合起来，健全要素参与、收入分配机制，激发各类经营主体的创造活力。深化教育、科技、人才体制机制创新，畅通三者良性循环。
贾宇表示，AI 技术的发展对网络安全行业带来了巨大冲击。新技术带来了新的使用场景，安全问题也随之而来。例如，AI 大模型从学习到输出的过程中需要处理海量数据，如何保证这些数据不被污染，以及如果数据被污染了如何处理，都是网络安全行业需要考虑的问题。
中国工程院院士吴世忠从生成式人工智能安全研究的总体态势和技术热点角度分析了行业当前发展趋势。他指出，AI 技术带来的新型安全问题已经成为现实，安全行业将迅速迈入 AI 驱动的全新时代。然而，目前对大模型安全的研究所处起步阶段，相比技术发展，安全研究明显滞后。
推动协同共治
中国科学院院士、清华大学计算机系教授张钹指出，由于当前计算机 LLM 基础模型的局限性，AI 和人工智能生成的语言与人类语言本身只是行为上的相似，在内在机制上完全不同。因此，尽管大模型拥有强大的语言生成、对话、迁移能力，但不可避免地会出现“幻觉”，即质量上的不可控和内容上的不可信。因此，在人工智能技术发展的同时，构建可解释的 AI 理论和方法至关重要。这也需要政府、企业等各方参与者保持开放态度，协同共进，在技术发展过程中关注 AI 大模型和人工智能相关伦理规则，形成社会和全球范围内的共识。
陈智敏指出，在 AI 时代，更应坚持科学向善的原则，这是人工智能发展过程中面对潜在威胁必须坚持的道德伦理底线。针对个人信息被窃取盗卖引发犯罪、危害社会公共安全等问题，应建立健全数据确权、数据安全保障、算力安全审查等制度，为人工智能发展形成正确的价值导向和稳定的社会预期提供有力保障。
世界互联网大会秘书长任贤良表示，人工智能迎来了发展与治理协同共进的新阶段。在人工智能时代，确保网络安全不仅是保障互联网作为全国各行业纽带的核心要素，更是实现人工智能造福社会的基础前提。应倡导遵守网络空间国际规则，将防控网络安全风险放在人工智能发展与治理的重要位置。此外，广大数字安全企业应以技术为本，深入研究人工智能等重点领域，构建跨领域、多层次的数字安全技术产品和服务创新体系，同时注重开放合作，推动协同共治。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
