扫码分享到微信
【赛迪网讯】AI产业的重心,正在从模型竞赛转向基础设施重构。随着行业应用全面迈入智能体规模化落地周期,万亿级 Token 流转、多模态海量数据、十万卡级异构算力集群叠加而来,传统分散建设的存储、算力、云平台架构短板集中爆发。数据孤岛难以破除、异构算力无法统一调度、智能体缺少原生运行底座,数据、算力、模型三层系统相互割裂,大量算力资源空耗、企业 AI 落地成本居高不下。

2026年7月30日,浪潮数据在北京瑰丽酒店举办Data Inspire AI 数据激活智能——浪潮数据 2026 战略新品发布会,正式发布自研浪潮数据 AI 数据操作系统。发布会后,浪潮数据 AI 存储产品部总经理刘希猛、浪潮数据智能云产品部副总经理张明灿接受赛迪网专访,深度解读这款面向智能体时代打造的一体化底座,剖析 AI 底层基础设施的技术变革逻辑、市场定位、差异化路线,以及企业私有化 AI 建设的演进路径。
四大底层瓶颈凸显:传统 IT 架构无法承载智能体规模化落地
在很多行业从业者认知中,AI 基础设施的矛盾只是算力不足。但刘希猛与张明灿一致认为,当应用走到智能体阶段,痛点早已贯穿数据、算力、应用全链路,现有分布式存储、通用云平台、数据库均诞生于传统业务场景,无法适配以 Token 全生命周期流转为核心的全新负载。
访谈中,两位负责人总结出当前阻碍企业 AI 规模化落地的四大核心瓶颈。
首先是数据孤岛与性能矛盾并存。企业内部并存文件、对象、大数据、时序、向量多类存储,数据汇集工作占整个AI Ready工作时间的80%;冷热数据分层混乱,60%-80% 冷数据长期闲置,同时传统存储仅能承载数据,无法支撑 RAG 检索、KV 和长记忆缓存。
其次是异构加速芯片生态割裂。国内外等十余类芯片并行使用,软件栈、调度体系互不兼容,GPU 平均利用率仅 11%-55%,显存因重复计算大量浪费,缺少跨厂商统一算力池化平台。
智能体缺少原生运行底座。通用云平台面向传统业务调度,缺少 KV 缓存共享、长效记忆管理、智能体沙箱隔离能力;超长上下文推理极易显存溢出,各类智能体开发框架碎片化,缺少统一管控与全链路追踪体系。
数据、算力、模型三层相互割裂。独立系统造成数据反复拷贝,存算分离带来高时延,难以构建 “智能体生成 Token、Token 沉淀数据、数据持续反哺模型迭代” 的数据飞轮。

浪潮数据 AI 存储产品部总经理 刘希猛
“行业已经意识到单纯堆叠 GPU 难以产生价值,但市场上还没有一套面向 Token 生产、多模态数据、大规模智能体的一体化底层系统。” 刘希猛表示,依托浪潮数据十余年分布式存储、私有云内核积累,浪潮数据 AI 数据操作系统应运而生,目标一站式解决上述痛点,填补国内 AI 原生底层系统空白。
InData+InCloud 双底座:打造软硬一体化 AI 原生算力基础设施
浪潮数据 AI 数据操作系统,区别于传统 Linux、通用云计算平台与分布式存储,将管理对象从 CPU、磁盘拓展至异构 xPU 集群、全域多模态数据、智能体 KV 上下文记忆,以 Token 全生命周期优化为目标,由数据底座 InData、算力基座 InCloud两大核心组件构成,搭配全链路可观测平台与智能体运行环境,完整覆盖 Token 生产、分发、消费全环节。
数据底座InData,玄同架构为核,打通全域数据供给。InData 以玄同分布式存储架构为内核,由全局数据空间、数据引擎两大模块组成,配套AS13000G7 系列硬件整机。 借助全局数据编织技术,打通多品牌存储与公有云资源,无需迁移即可跨系统访问,副本占用空间减少 70%,EB 级数据迁移时长趋近于零;借助多协议融合技术,构建多协议共享资源池,一套命名空间统一纳管五类数据,一份数据支撑AI全流程业务使用;同时,通过富元数据管理,可以将底层热、温、冷数据构建成智能分级存储池,实现千亿级元数据秒级检索;内置原生 RAG 向量检索,数据写入即可快速构建企业知识库,有效降低模型幻觉率。
行业首创存储级共享分布式 KVCache 架构是核心亮点,搭配算力形成HBM、DRAM、SSD 三级资源池,跨任务复用对话 KV 缓存,直接削减 70% 无效算力消耗,突破单卡显存容量约束,长上下文场景 TTFT 延迟降低 90%。硬件层面 AS13000G7 覆盖全闪、均衡、高密机型,单机带宽最高 400GB/s,最大容量 3PB,适配千卡至十万卡规模 AI 数据中心建设。
谈及玄同架构底层创新,刘希猛用通俗案例拆解三大核心突破:数控分离、多协程调度、小 IO 聚合。数控分离如同现代物流管控,控制指令与数据流分离,避免数据无效转发,大幅提升对外输出带宽;多协程调度将 IOPS 提升 4 倍,加速小模型数据加载;小 IO 聚合下刷算法降低闪存磨损,闪存使用寿命提升 50%。三者协同,能够有效缓解广泛存在的 “GPU 饥饿” 问题 —— 大量 GPU 空闲,根源在于底层数据供给跟不上算力速度。
算力基座 InCloud,异构算力统一调度,构建智能体原生运行环境。如果说 InData 负责 AI 链路的 “数据燃料供给”,InCloud 则承担 “Token 生产与智能体运行” 核心职能。 算力基座兼容 10 余家厂商、50 余款 AI 加速芯片,实现跨架构算力池化调度,可将 GPU 综合利用率由平均 40% 提升至 85%。平台搭载 KVCache 卸载、投机解码、PD 分离等推理优化技术,配合潮汐错峰调度,实现白天推理、夜间微调,最大化 24 小时算力价值。
值得关注的是内置生产级智能体运行环境,采用开发运行分离架构,兼容 Dify、FastGPT 等主流 Agent 框架,提供隔离沙箱、Token 监管、技能准入审计、长效记忆管理,支撑百万级高并发智能体稳定运行。全链路可观测能力贯穿智能体、模型、算力、存储,毫秒级异常溯源,自动生成 Token 消耗报表,实现算力成本量化可控。

浪潮数据智能云产品部副总经理
张明灿重点解释为何浪潮数据选择将算力调度与存储整合至同一套 AI 数据操作系统:智能体链路极长,横跨知识库调用、模型推理、工具调用,一旦故障,很难区分问题归属应用层还是底层平台。统一运维界面能够实现端到端可视化排查;同时,评估 AI 业务投入产出,必须完整看待存储、算力、模型、智能体整条链路,不能割裂评估。两套底座通过高速 RDMA 深度互联,实现数据就近计算、缓存全局共享,形成可持续自增长的数据资产闭环。
对标国际前沿:走出适合国内政企的私有化 AI 演进路线
放眼全球,VAST Data 持续向 AI 统一数据平台演进,开始增加智能体模块与基础算力调度能力。刘希猛坦言,浪潮数据深度研究海外厂商技术路线,认可从分布式存储向一体化 AI 数据平台演进的行业大趋势。
“从战略路径来看,海外厂商正在走的方向,我们已经提前布局完成。浪潮数据同时具备底层存储与统一算力调度双重能力,将 InData、InCloud 整合为统一 AI 数据操作系统,实现技术路线的先行一步。”
同时双方市场定位存在显著差异。VAST 更多面向海外云厂商与超大规模互联网企业,浪潮数据 AI 数据操作系统核心服务国内政企客户。公有云厂商大多选择自研底层底座,而大量金融、政务、能源、制造企业,需要私有化部署方案平衡数据安全,同时盘活存量异构硬件资产。
张明灿进一步将客户划分为“AI+“与”+AI“两大类别。“AI+客户” 即 AI 产业链原生企业,包括芯片厂商、算力服务商,核心诉求是搭建自建 Token 工厂、落地大规模智能体,追求算力效率最大化;“+AI 客户” 以教育、医疗、传统制造业为代表,本身不属于 AI 行业,希望借助大模型、智能体升级原有业务能力。两类客户均以私有化部署为主,部分云厂商也会选择技术合作模式,将浪潮底层能力融入自有云平台。
在交付模式上,平台同时支持纯软件授权与软硬一体机两种方案,灵活适配不同客户组织架构。大型央企、金融机构 IT 团队分工明确,倾向采购纯软件,利旧现有硬件;新建 AI 基础设施的客户,软硬一体机可以释放完整协同优化能力,内置 KV 缓存卸载、高可靠多副本增强技术。浪潮数据秉持开放理念,不强制客户选择一体机,以客户需求作为首要标准。
可演进架构:支撑企业 AI 建设三阶段持续升级
结合大量一线项目实践,张明灿总结国内企业 AI 建设清晰的三阶段演进路径:算力中心→Token 中心→智能体中心。 第一阶段:搭建算力中心,核心目标统一纳管 GPU 资源,也就是传统智算中心模式; 第二阶段:升级为 Token 中心,依托算力稳定生产 Token,落地简单智能问答应用,也是 2025-2026 年多数企业所处阶段; 第三阶段:全面迈向智能体中心,企业不再单纯追求模型参数,重点解决数据治理、知识本体构建、大规模智能体调度运维难题。
“浪潮数据 AI 数据操作系统,不是一款仅服务 Token 生产的平台,而是贯穿三个阶段、支持平滑演进的一体化底座。” 张明灿介绍,平台支持最小化轻量化部署:原有超融合集群仅需新增一台 GPU 节点,即可升级支撑智能体运行;新客户单节点 All in One 部署快速完成试点;同时具备横向扩展能力,能够支撑区域智算中心规模化私有化场景。
针对当下火热的跨芯统一调度话题,张明灿认为,技术实现难度并非最大门槛,厂商的理念与开放态度更为关键。浪潮数据坚持分层解耦、硬件不绑定路线,将硬件适配层独立插件化,已完成国内主流芯片适配,新硬件可快速完成兼容。平台把各类异构算力统一抽象为算力、显存两层资源,支持模型跨芯片图形化一键迁移,充分保护客户存量硬件投资。
新竞争拐点:数据存储决定企业智能能力上限
当算力、大模型逐步走向普惠,企业之间智能化能力差距由什么决定?访谈尾声,刘希猛给出明确判断:数据存储将成为决定企业智能上限的核心要素。
模型能力、算力规模固然重要,但同类企业可采购相同大模型;算力资源存在采购天花板,中小企业很难无限扩张。唯独企业内部经营数据、业务流程数据具备独有性、私密性。智能体持续运转产生海量 Token,沉淀为专属知识库,高质量数据又持续优化智能体推理精度,形成正向循环。谁能够高效管理、调度、激活自有数据资产,谁就能建立长期差异化竞争力。
他列举多组实测价值数据直观展现落地收益:依托全局数据编织,企业多源数据统一纳管后存储空间最高节省 70%;平台可将 GPU 利用率由 20%-40% 提升至 40%-60%,对于数十亿元规模的 GPU 集群,算力利用率的价值达到亿元级;借助原生 RAG 知识库,垂域场景下大模型推理准确率由 70% 提升至 90% 以上,知识更新周期从按天微调缩短至分钟级。
同时,存储正在从单纯的数据承载介质,进化为智能体的 “记忆中枢”。大规模企业部署上万智能体,对话 KV 缓存总量可达数十 PB,远远超出 GPU 本地显存与 SSD 承载能力,必须依靠外部共享存储承载长上下文记忆。通过存储原生 KV 缓存与长效记忆管理,能够减少 70% 不必要的 GPU 推理计算,这也是传统分布式存储无法满足的全新需求。
赛迪观点
智能体时代,AI 基础设施的竞争,已经从单点硬件性能比拼,走向算力、存力、数据、应用一体化全栈能力较量。浪潮数据 AI 数据操作系统的推出,代表国内厂商开始走出一条存算协同、面向私有化场景、适配国产异构算力的底层技术路线。
面向未来,浪潮数据将持续完善 AI 数据操作系统技术能力,依托 InData 数据底座与 InCloud 算力基座,持续打通数据与算力壁垒,助力金融、政务、能源、医疗等超 2 万家政企客户完成从算力建设、Token 生产到大规模智能体落地的平滑演进,依托自研底层底座激活企业数据价值,加速千行百业智能化转型。(文/徐培炎)
7月30日,浪潮数据在北京举办“Data Inspire AI 数据激活智能”2026战略新品发布会,正式启动“Data Insp…
12小时前7月30日,浪潮数据在北京举办“Data Inspire AI 数据激活智能”2026战略新品发布会,正式启动“Data Insp…
12小时前京ICP证000080(一)-16
京公网安备11010802009845号
北京赛迪网信息技术有限公司