AI怪盗图11月5日消息，NVIDIA于11月4日正式发布CUDA Toolkit 13.5，为下一代AI计算平台Vera Rubin提供生产级通用可用支持。这标志着Vera Rubin从早期预览阶段正式进入企业生产部署阶段。
本次更新针对Rubin架构的低精度矩阵运算优化了底层内核。NVIDIA称无需针对每种计算形状逐一调校即可提升吞吐量。值得注意的是，从Rubin架构起，CUDA不再支持TCC模式，仅提供WDDM和MCDM两种Windows驱动模型。
从技术演进角度看，CUDA 13.5对低精度运算的底层优化直接提升了AI大模型训练效率，尤其适合大规模矩阵乘法场景。同时，放弃TCC模式意味着Windows平台下的驱动统一性更高，但部分依赖该模式的传统企业应用可能需要调整部署方案。
GPU调度方面，多实例服务架构v3引入加权时间切片，允许为重负载服务器设置更长的基础计算时间片，并独立调节GPU在任务间的切换频率。多租户场景下的GPU共享控制更加精细，有效减少了资源抢占。
局部域也获得增强。系统现在支持两种流式多处理器分区策略：一是各局部域使用统一数量保证可预测性；二是将域外补充流式处理器纳入分区以用满全部资源。计算分区支持资源的动态借调与回收，但无论资源如何流转，应用所获得的基础资源配额始终保持稳定。这种设计在保证服务质量的同时，最大限度提高了GPU利用率，对云服务商而言尤其具有吸引力。
计算内核层级迎来多GPU通信能力。内核可通过高速互连网络直接访问其他GPU的内存，并支持跨显卡的数据归约，将通信与计算融合在同一个内核中完成，大幅降低多卡协同的通信开销。这一改进对于千卡级集群的分布式训练意义重大，可有效缓解通信瓶颈。
此外，性能分析工具以公开预览形式亮相，为长时间运行的训练与推理提供常开式监控，帮助排查难以复现的间歇性问题。从硬件生产就绪到调度优化，CUDA 13.5为下一代算力集群补齐了底层工具链。
此次更新同步搭配NVIDIA 620.70.06 Linux驱动发布。结合上述特性，可以看出NVIDIA正通过软硬件协同优化，进一步巩固其在AI计算生态中的主导地位，而Vera Rubin作为承接Blackwell之后的架构，其生产级支持将推动更多企业开始规划下一代数据中心升级。
