Rain科技10月11日美国旧金山现场报道：
在Advancing AI 2024大会上，AMD正式发布了新款GPU加速卡Instinct MI325X。
这款产品基于广受好评的MI300X进行升级，主要改进在于提升了HBM内存部分。
【硬件规格与性能详解】
MI325X配备了256GB HBM3E内存，较MI300X增加了64GB，依然采用八颗32GB HBM3E内存芯片。内存带宽也从5.3TB/s提升至6TB/s，增幅约为13%。Infinity Fabric总线带宽保持在896GB/s。
计算性能方面，FP16性能维持在1.3 PFlops，FP8性能维持在2.6 PFlops。核心规格同样未变：采用5nm XCD模块搭配6nm IOD模块，3.5D封装技术，拥有1530亿个晶体管和304个计算单元。
值得注意的是，AMD提到MI325X的功耗达到了1000W，相比MI300X显著提升。这可能是由于HBM3E内存容量和带宽的提升所导致的功耗增加。
支持八卡并行，形成一个拥有2TB HBM3E内存、48TB/s带宽的平台，总性能可达FP16 10.4 PFlops和FP8 20.8 PFlops。与NVIDIA H200 HGX相比，在某些方面具有显著优势。
与NVIDIA H200相比，无论是单卡还是八卡平台，MI325X在不同大型模型推理任务中的性能都领先20%到40%。在训练性能方面，单卡领先H200约10%，而八卡平台则与H200持平。
AMD计划在今年第四季度开始量产MI325X加速卡和平台，而合作伙伴的整机系统和基础架构解决方案预计将于明年第一季度陆续推出。 MI325X的发布，无疑将进一步加剧GPU市场竞争，为人工智能发展提供更强大的算力支持。 高功耗是其一个显著的特性，这需要在实际应用中进行权衡考虑，例如需要配备更强大的电源系统和散热方案。
