AMD HRX Loom:三天移植50模型,提效2.1倍

AI怪盗图11月14日消息,AMD工程师近期完成了一项极具突破性的技术实验,利用全新的HRX Loom软件与智能体AI工作流,在短短三天内将50个热门大模型成功迁移至AMD消费级显卡硬件。这一实验开辟了AI模型迁移的新路径,尤其对消费级市场的开发者而言意义重大,表明AMD正在加速构建其端侧AI生态系统。

这不仅展示了AMD在端侧AI领域的快速适配能力,也预示着大模型在个人PC上的普及效率将大幅提升。与NVIDIA的CUDA生态相比,AMD的开源策略和自动化工具为开发者提供了更低门槛的迁移路径,有助于形成更加多元化的硬件选择环境。

效率提升2.1倍!AMD展示HRX Loom黑科技:三天移植50个大模型

据了解,此次实验由AMD工程师Jeremy Fowers和Ben Vanik主导。他们通过引入智能体AI工作流,让AI能够自主编写和优化适配AMD显卡的模型程序,从而在三到四天内完成了涉及18种不同架构的50款Hugging Face热门模型的迁移。这种方法显著降低了人工优化的工作量,也为未来大规模模型适配提供了新思路,即利用AI自动化解决硬软件协同问题。

要知道,知名AI模型托管平台Hugging Face是目前全球最大的开源AI社区,以往将这些模型逐一适配到特定硬件需要耗费数月时间。AMD的自动化工作流将这一周期压缩至数天,极大地提升了模型部署的灵活性,预计将吸引更多开发者关注AMD硬件平台。

在性能测试中,实验团队利用代号为Strix Halo的锐龙AI Max硬件进行了深度验证。该硬件集成了强大的AI加速单元,为模型推理提供了高效支撑。效率提升2.1倍!AMD展示HRX Loom黑科技:三天移植50个大模型测试覆盖了多种输入长度和模型架构,全面评估了HRX Loom的兼容性。

结果显示,在处理32K Token的长提示词时,HRX Loom软件的运行速度比目前主流的Llama.cpp ROCm后端提升了1.5至2.1倍,相比Vulkan后端也有1.9倍的性能优势。这样的性能提升表明,HRX Loom在推理加速方面具备显著竞争力,甚至在某些场景下接近专用AI加速卡的表现。值得一提的是,这些测试还显示了HRX Loom在不同后端之间的灵活调度能力。

需要说明的是,HRX Loom目前仍是AMD的实验性项目,但上述结果已经显示出可观的潜力。它也不只面向GPU,同样支持CPU和NPU执行。这种跨硬件兼容性意味着该技术有潜力覆盖从云端到边缘的广泛设备,进一步巩固AMD在多架构计算中的优势。

实验结果已通过GitHub的Loom-Fun页面公开。作为工作的一部分,AMD还提供了名为loom-skills的交付物,可为Claude Code、Codex或Pi等编程智能体配备必要组件,使其能够编写并向AMD客户端GPU部署优化后的模型程序。开源社区可以基于这些工具进行二次开发,加速适配更多模型。

目前的测试重点集中在Strix Halo硬件上,例如Ryzen AI Halo和Framework Desktop这类设备。可以预见,HRX Loom未来有望扩展到更多AMD产品线,包括新的GPU架构和嵌入式平台,从而进一步扩大其应用场景。总体而言,这次实验不仅是技术上的突破,也标志着AMD在AI软件生态建设上迈出了重要一步,有望重塑端侧AI应用的发展格局。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
赞 (0)
AI 怪盗团AI 怪盗团
星舰第15次试飞 B22助推器回收失败溅落墨西哥湾
上一篇 23小时前
央视揭MCN黑幕:逼大学生日播3小时,借骑手工服演苦情
下一篇 19小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注