AI怪盗图11月22日消息,科技媒体Tom’s Hardware报道,群联在SC26大会上展示了两款专为AI场景设计的企业级固态硬盘,其中一款甚至内置NPU和64GB内存,可直接运行AI模型。这一设计打破了传统存储设备仅作为数据仓库的局限,使硬盘本身具备一定的计算能力,为边缘计算和本地AI推理提供了新的可能性。
其中一款SSD内置NPU(神经网络引擎)和64GB内存,带宽达到130GB/s,支持直接在硬盘上运行PyTorch、vLLM、OpenVINO和llama.cpp等AI框架及推理工具。这意味着原本需要将数据从硬盘搬运到CPU或GPU处理的流程,现在可以在硬盘内部完成,显著减少数据移动带来的延迟和功耗。从技术层面来看,这种”计算型存储”方案将算力下沉到存储层,特别适合需要频繁读取大量数据并执行简单推理的场景,例如实时监控视频分析、工业检测或AI助手本地部署。
该产品的设计思路是将部分计算任务从服务器转移至SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。这相当于在硬盘内部构建了一个微型推理加速器,主机只需要接收最终输出,大幅降低了总线带宽压力。值得注意的是,这种架构对于隐私敏感的应用也有额外价值——数据无需离开存储设备,减少了泄露风险。
群联表示,该方案在特定工作负载下有望将数据传输量减少10至100倍,从而降低主机CPU的负载。实际效果取决于模型大小与数据访问模式,理论上在大批量小文件读取场景中收益更为明显。但与纯CPU或GPU方案相比,NPU的计算能力有限,仅适合轻量级模型,对于大规模深度学习训练则无能为力。
另一款产品采用全新的Mixed Media混合介质设计,将高耐久性的pSLC缓存与大容量QLC闪存整合在同一块SSD中,并通过一颗16通道主控进行管理。这种结构本质上是用少量高性能存储区域来弥补QLC闪存写入速度慢、寿命短的短板,同时保留QLC的高密度优势。从成本角度看,混合介质比纯SLC方案更经济,又比纯QLC方案更可靠,适合对写入寿命有较高要求的企业级存储场景。
该方案将部分QLC闪存切换至SLC工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可根据数据类型选择对应存储区域,无需额外安装专用软件。这种软件透明的设计降低了部署门槛,但需要用户了解自身负载特性才能合理分配空间,否则可能造成容量浪费或性能倾斜。
群联称,这种方案能够减少对独立缓存盘的依赖。在包含24块SSD的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为4%;而采用4块独立缓存盘的传统方案可能损失25%的缓存容量。从可靠性角度看,分布式缓存策略将故障影响范围从25%压缩到4%,显著提升系统的容错能力。不过,若想发挥最大效能,还需配合合理的纠错算法与负载均衡策略,否则单一SSD内部的缓存区域过载也可能带来性能抖动。
