北电数智AI异构平台赋能大模型,国产算力迎来最优解时代

生成式人工智能技术的蓬勃发展对算力提出了前所未有的需求,推动着新一轮的生产力变革。 然而,算力供应链的风险也日益凸显,国产算力的自主可控已成为国家战略的重要组成部分,关系到信息安全和经济稳定。

为应对这一挑战,北电数智推出了“前进·AI异构计算平台”。该平台支持英伟达及多种国产AI加速卡,实现异构芯片的统一管理和高效利用。这不仅解决了不同品牌芯片的兼容性问题,也允许用户根据实际需求灵活配置资源,优化算力分配,满足各种AI训练和推理任务,例如大模型训练、图像渲染等。

“前进·AI异构计算平台”在算力调度方面也体现了其先进性。它采用多种调度策略,例如高效的“潮汐调度”,根据任务特性动态分配资源,最大限度地提升资源利用率并缩短任务执行时间;以及“训推混布”策略,实现同一集群同时支持训练和推理任务,从而显著降低运营成本。 这些策略的结合,有效解决了算力资源的碎片化和低效利用问题。

北电数智AI异构平台赋能大模型,国产算力迎来最优解时代

基于“前进·AI异构计算平台”,北电数智在北京数字经济算力中心成功落地了国产算力PoC平台,这是全国首个在生产环境下可进行规模化测试的全栈迭代验证平台。目前,该平台已完成十余款国产芯片的评测和二十多款主流模型的适配工作,并自主构建了完备的融合算子库,实现算子自动调优,大幅降低了延迟。

此外,北电数智积极推动国产算力与行业应用的深度融合,已在影视、金融、政务、工业等多个领域开展测试验证,并积累了丰富的成功案例。通过持续的探索和实践,北电数智致力于为不同行业提供最佳的国产算力解决方案,加速AI模型在更多领域的落地应用。

北电数智AI异构平台赋能大模型,国产算力迎来最优解时代

未来,北电数智将持续加大技术研发投入,不断探索创新技术和解决方案,提升国产算力的性能和效率,为我国数字经济发展贡献力量。其在国产算力生态建设中的作用值得关注,其持续的创新和实践为国产算力的发展提供了宝贵的经验。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
AI快讯网编辑-青青AI快讯网编辑-青青
上一篇 2024年 12月 10日 上午9:52
下一篇 2024年 12月 10日 上午11:48

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

欢迎来到AI快讯网,开启AI资讯新时代!