硬件成本
-
阿里云Aegaeon方案入选顶会,破解GPU资源浪费难题,大幅降低硬件成本
在蓬勃发展的 AI 时代,算力,尤其是 GPU 算力,已成为驱动创新的核心引擎。然而,伴随而来的是 GPU 资源利用率低下的严峻挑战。据统计,当前高性能计算集群中,GPU 的平均利…
-
清华团队开源大模型推理引擎“赤兔Chitu”:硬件成本削减50%
Rain科技3月14日消息,值得关注的是,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布,开源大模型推理引擎“赤兔Chitu”。这一突破性技术被认为将为国产…