新浪科技

群联展示内置 NPU 与 64GB 内存的智能固态硬盘,可直接运行 AI 模型

IT之家

关注

IT之家 11 月 22 日消息,据科技媒体 Tom's Hardware 昨天报道,群联在 SC26 大会中展示两款企业级固态硬盘,专为 AI 场景设计。其中一款甚至带有 NPU 和 64GB 内存,可以直接运行 AI 模型。

IT之家从原报道获悉,其中一款产品 SSD 内置 NPU(神经网络引擎)、64GB 内存,带宽达到 130GB/s,支持直接在硬盘上运行 PyTorch、vLLM、OpenVINO 和 llama.cpp 等 AI 框架及推理工具。

该产品的设计思路是将部分计算任务从服务器转移至 SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。

群联表示,该方案在特定工作负载下有望将数据传输量减少 10 至 100 倍,从而降低主机 CPU 的负载。

另一款产品采用全新的 Mixed Media 混合介质设计,将高耐久性的 pSLC 缓存与大容量 QLC 闪存整合在同一块 SSD 中,并通过一颗 16 通道主控进行管理。

该方案将部分 QLC 闪存切换至 SLC 工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可以根据数据类型选择对应的存储区域,无需额外安装专用软件。

群联称这种方案能够减少独立缓存盘的依赖。在包含 24 块 SSD 的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为 4%,而采用 4 块独立缓存盘的传统方案可能损失 25% 的缓存容量。

加载中...