群联发布内置NPU与64GB内存的AI计算型SSD

AI怪盗图11月22日消息,科技媒体Tom’s Hardware报道,群联在SC26大会上展示了两款专为AI场景设计的企业级固态硬盘,其中一款甚至内置NPU和64GB内存,可直接运行AI模型。这一设计打破了传统存储设备仅作为数据仓库的局限,使硬盘本身具备一定的计算能力,为边缘计算和本地AI推理提供了新的可能性。

其中一款SSD内置NPU(神经网络引擎)和64GB内存,带宽达到130GB/s,支持直接在硬盘上运行PyTorch、vLLM、OpenVINO和llama.cpp等AI框架及推理工具。这意味着原本需要将数据从硬盘搬运到CPU或GPU处理的流程,现在可以在硬盘内部完成,显著减少数据移动带来的延迟和功耗。从技术层面来看,这种”计算型存储”方案将算力下沉到存储层,特别适合需要频繁读取大量数据并执行简单推理的场景,例如实时监控视频分析、工业检测或AI助手本地部署。

该产品的设计思路是将部分计算任务从服务器转移至SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。这相当于在硬盘内部构建了一个微型推理加速器,主机只需要接收最终输出,大幅降低了总线带宽压力。值得注意的是,这种架构对于隐私敏感的应用也有额外价值——数据无需离开存储设备,减少了泄露风险。

群联表示,该方案在特定工作负载下有望将数据传输量减少10至100倍,从而降低主机CPU的负载。实际效果取决于模型大小与数据访问模式,理论上在大批量小文件读取场景中收益更为明显。但与纯CPU或GPU方案相比,NPU的计算能力有限,仅适合轻量级模型,对于大规模深度学习训练则无能为力。

群联展示计算型SSD:内置NPU+64GB内存 硬盘本地运行AI模型

另一款产品采用全新的Mixed Media混合介质设计,将高耐久性的pSLC缓存与大容量QLC闪存整合在同一块SSD中,并通过一颗16通道主控进行管理。这种结构本质上是用少量高性能存储区域来弥补QLC闪存写入速度慢、寿命短的短板,同时保留QLC的高密度优势。从成本角度看,混合介质比纯SLC方案更经济,又比纯QLC方案更可靠,适合对写入寿命有较高要求的企业级存储场景。

该方案将部分QLC闪存切换至SLC工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可根据数据类型选择对应存储区域,无需额外安装专用软件。这种软件透明的设计降低了部署门槛,但需要用户了解自身负载特性才能合理分配空间,否则可能造成容量浪费或性能倾斜。

群联称,这种方案能够减少对独立缓存盘的依赖。在包含24块SSD的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为4%;而采用4块独立缓存盘的传统方案可能损失25%的缓存容量。从可靠性角度看,分布式缓存策略将故障影响范围从25%压缩到4%,显著提升系统的容错能力。不过,若想发挥最大效能,还需配合合理的纠错算法与负载均衡策略,否则单一SSD内部的缓存区域过载也可能带来性能抖动。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
赞 (0)
AI 怪盗团AI 怪盗团
德国TV报告:特斯拉Model Y可靠性连续两年垫底
上一篇 7小时前
失散20年双胞胎:养恩大于生恩
下一篇 2小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注