购买与服务热线:400-810-0466

服务邮箱:Support@sugon.com

在近日举办的2026年CCF全国信息存储技术学术会议上,中科曙光正式发布全新升级的AI推理原生存储FN Neo用一套共享存储池来承接推理业务的各类数据,为AI推理规模化落地提供了新的存力底座。


20260921-1.png


推理中间结果“共享”起来


智能体时代加速到来,AI推理业务规模快速扩张,推理占比持续走高。大模型在回答问题时,会生成一批可复用的中间数据(KV Cache),传统模式是把这些数据在本地,彼此割裂,难以实现跨会话、跨节点复用,拖慢了整体推理效率。


业界过去普遍认为,AI推理更依赖服务器本地硬盘。但随着大模型上下文越来越长、用户并发越来越多,本地缓存显存不足、硬件闲置等问题日益凸显。而集中式存储的池化共享架构,早已在金融、通信等对稳定性要求极高的行业得到大规模验证。


FN Neo将这套成熟能力引入AI推理领域,跳出单节点硬件局限,通过升级资源池化能力,将各个计算节点的中间数据统一管理、跨节点复用,减少了重复计算。在优化大模型推理性能的同时,也大幅提升了昂贵算力硬件的利用率。


开放,让AI推理“火力全开”


FN Neo延续了中科曙光高端集中式存储的高性能基因,单阵列带宽可达160GB/s亚毫秒级时延实测数据显示,延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。


作为专为AI推理打造的集中式全闪存储,FN Neo更可实现模型Token响应时间缩减73%,整体Token吞吐能力提升150%,显著改善用户交互体验。


面向生产级AI业务,仅有性能突破远远不够。FN Neo提供99.999%高可靠运行保障,通过慢盘自动隔离、故障无损重构等机制,保障推理业务7×24小时不间断运行。


同时,通了SAN/NAS/KV(块、文件和键值)类数据接口,可无缝对接vLLM、LMCache、Mooncake等主流推理框架,企业无需大规模改造现有推理环境即可完成接入减少多节点重复存储开销。


FN Neo的推出,补齐了AI推理场景下集中式存储的能力拼图,为Agent、长上下文大模型等业务的大规模落地,提供了一套经过工程验证的存力新选择。

上一篇:苏州市委书记范波会见历军一行,共同见证项目签约

微信分享二维码

微信扫码即可分享当前页面

链接已复制

联系我们

售后服务

严正声明