人工智能（AI）技术突飞猛进，对算力基础设施提出了前所未有的挑战。近日，在“逐光向新·智领未来”华为云AI峰会上，来自各界的专家和行业代表齐聚一堂，深入探讨了AI基础设施的最新进展及行业应用，并展望了AI技术的未来发展方向。本次峰会聚焦华为云在AI基础设施领域的创新突破，以及相关技术在不同行业的落地实践，释放了积极的行业信号。
峰会上，华为云重磅推出了最新的CloudMatrix 384超节点架构技术，引起广泛关注。华为云副总裁黄瑾详细剖析了该架构的技术特点。CloudMatrix 384超节点架构的核心在于，它通过高速总线互联和超大NPU点到点互联带宽，打破了传统算力架构的瓶颈，实现了全局内存的统一编址和统一通讯协议。这种创新的架构设计，有望大幅提升AI模型的训练和推理效率，解决AI应用发展过程中日益增长的算力需求。CloudMatrix 384超节点架构拥有六大领先技术优势，包括MoE亲和、以网强算、以存强算、长稳可靠、朝推夜训、即开即用，旨在满足新一代AI基础设施的需求，为企业提供更高效、更灵活的AI算力支持。
华为云还宣布，将于今年第三季度推出“朝推夜训”的灵活调度策略。这一策略充分利用了不同时间段的算力需求差异，在白天进行模型推理，夜间等算力空闲时段进行模型训练，从而提升算力资源的整体利用率。据测算，该策略有望将算力资源利用率提升30%以上，这对于缓解当前算力资源紧张的局面具有重要意义。黄瑾特别强调，随着AI模型复杂性的提升，集群网络通信面临严峻挑战，而CloudMatrix超节点架构正是应对这一挑战而设计的，它能够有效提升集群内部的通信效率，保障大规模AI模型的稳定运行。
开源模型在AI生态系统中扮演着越来越重要的角色。硅基流动联合创始人兼首席产品官胡健在峰会上分享了硅基流动与华为云的合作成果。双方针对DeepSeek-R1模型，采用了大规模专家并行方案，通过实施多专家负载均衡和极致通信优化策略，显著提升了模型的吞吐量和性能。实验数据显示，在保障单用户20TPS水平的前提下，单卡解码吞吐率已突破1920 Tokens/s。这表明，通过与华为云的深度合作，硅基流动能够在华为云的AI基础设施上充分发挥开源模型的潜力，为用户提供更高效、更稳定的AI服务。
AI数据中心面临着传统数据中心所没有的独特挑战。华为云数据中心全球DC运维首席专家谢峰深入探讨了AI数据中心在运维层面面临的难题，例如超大规模光链路的波动性、高功率密度带来的供电稳定需求以及超高密液冷散热的问题。为了应对这些挑战，华为云数据中心通过产品化实现了快速交付、低成本和低PUE（电源使用效率），并在锂电预测、液冷预测等智能化方面进行积极实践，致力于构建绿色低碳、稳定可靠、安全可信的云数据中心。谢峰还分享了CloudMatrix 384超节点数据中心在利用数据分析进行设备状态预测方面的进展，尤其是在锂电预测的应用上，通过扩展数据集范围，CloudMatrix 384的预测准确率已从最初的40%提升至97%。这一成果充分展示了AI技术在提升数据中心运维效率方面的巨大潜力。
AI技术正在加速渗透到各个行业，推动产业智能化升级。大家保险信息科技部总经理郝晓波分享了保险行业从人治向数据化治理转型的经验。他认为，AI化转型是保险行业数字化转型的自然延伸，敏捷化的AI战略更适合传统行业。大家保险正借助华为云的强大算力及AI平台，构建企业级AI中台和业务应用，覆盖智能营销、风控投资等关键业务环节，以期实现业务的快速增长。德勤中国合伙人刘晓羽也表示，德勤中国正在利用基于华为昇腾云和DeepSeek构建的AI平台和工具，为客户提供面向特定业务场景的AI咨询和解决方案服务，预期将实现策略性的降本增效。这些案例表明，与华为云这样的技术领先企业的合作，能够帮助各行业企业加速AI转型，提升核心竞争力。
