AI组网新趋势:Scale up与Scale out引领未来,探秘组网技术的颠覆性变革。

随着人工智能技术的快速发展,AI组网结构的变化趋势正成为业界关注的焦点。近日,兴业证券发布了一份题为《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》的研究报告,深入探讨了这一问题及其对算力产业链投资机会的影响。

AI组网新趋势:Scale up与Scale out引领未来,探秘组网技术的颠覆性变革。

Scale up:超节点崛起,带宽升级

报告指出,在AI大模型训练领域,分布式并行训练架构已成为主流,其中张量并行对通信的要求尤为突出。随着模型规模的不断扩大,服务器内带宽需求也在迅猛增长。为满足这一需求,建立更大带宽的超节点已成为行业发展的必然趋势。

超节点的规模设计正由GPU厂商和云服务商共同推动。以英伟达为例,其超节点规模在不断升级,以适应日益增长的算力需求。同时,谷歌也在通过扩大超节点Pod规模来降低数据中心网络(DCN)的带宽要求。此外,UALink联盟也在积极推动超节点规模的进一步提升。

除了带宽提升外,互联密度的增加也是Scale up的另一个重要趋势。英伟达等厂商正在采用先进的互联技术,如NVL GB200方案和NVLINK协议,以提升机柜内部的互联带宽。目前,铜互联方式仍占主导地位,但长期来看,光互联技术有望取代铜互联,成为未来的主流互联方式。

AI组网新趋势:Scale up与Scale out引领未来,探秘组网技术的颠覆性变革。

Scale out:集群规模扩张,以太网加速落地

另一方面,Scale out的发展则主要体现在集群规模的扩大上。受Scaling Laws法则的驱动,AI大模型的硬件部署正朝着更大集群的方向发展。目前,AI集群规模已进入10万卡阶段,以太网组网在AI集群中的应用也在加速落地。

字节跳动和Meta等科技巨头已经采用以太网技术来搭建AI集群。同时,博通等厂商也在不断升级其以太网交换芯片,以满足不断增长的市场需求。英伟达也强调了以太网方案在AI集群部署中的重要性。

随着AI集群规模的扩大,交换机和光模块等配套设施的需求也在不断增加。Arista等公司针对AI需求提出了不同的交换机互联方案,通过提升交换机端口数来推动Scale out规模的进一步提升。同时,光模块的总需求也与算力需求成正比,保持向上趋势。硅光技术有望在未来逐步从可插拔硅光形式过渡到CPO形式,并在1.6T光模块阶段实现渗透率的提升。

总结:两大趋势驱动AI算力产业链发展

综上所述,AI组网正朝着更大规模集群的方向发展,Scale up和Scale out两大趋势共同推动了AI算力产业链的不断进步。随着技术的不断创新和市场需求的持续增长,相关产业将迎来更多的投资机会和发展空间。

#AI组网# #Scale up# #Scale out# #算力产业链# #投资机会#

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
AI快讯网编辑-青青AI快讯网编辑-青青
上一篇 2024年 9月 11日 下午7:54
下一篇 2024年 9月 11日 下午10:05

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

欢迎来到AI快讯网,开启AI资讯新时代!