GMIF 2026:中国日均Token调用量突破140万亿,SSD正被推理负载重新定义
来源雷峰网查看原文
速览
- 中国日均Token调用量突破140万亿,推理负载成为存储需求的核心驱动力。
- 2026年存储占云数据中心资本支出比例接近五成,2027年预计升至53%。
- 推理对存储提出数据丰富度、推理复杂度、运营持久性三重压力。
- SSD正同时向计算侧和大容量存储侧延伸,QLC SSD开始替代部分HDD。
- NAND沿三条路径突破:Z-NAND、HBF高带宽闪存、NAND存内计算。
- 数据管理从兜底式分层转向主动分层与运行中动态调度。
- MoE专家权重和KV Cache的分层放置成为AI SSD的具体落地场景。
- 佰维存储孙成思判断:数据供给的效率决定算力的产出。
在第五届GMIF2026全球存储器行业创新峰会上,多位存储与AI行业人士指出,随着AI从训练竞赛转向规模化推理,存储正承受数据丰富度、推理复杂度、运营持久性三重压力。截至今年3月,中国日均Token调用量已突破140万亿,三星电子副总裁Kevin Yoon换算称,这相当于中国国家图书馆全部藏书对应Token量的20倍以上,接近人类历史上所有出版图书总量的6倍。摩根士丹利执行董事颜志天指出,在未计入HBM的情况下,2026年存储占全球云数据中心资本支出比例接近五成,2027年预计升至53%。峰会现场,SSD成为变化最明显的介质:慧荣科技通过QoS分级让同一块SSD响应不同AI负载,闪迪按与计算单元的距离将SSD分为三类,Solidigm观察到北美大型互联网公司已开始用大容量QLC SSD替代部分HDD。NAND层面,三星Z-NAND、HBF高带宽闪存、以及NAND存内计算成为三条探索路径。数据管理则从「兜底式分层」转向系统设计之初的主动分层与运行中的动态调度。
关键事实
- 截至今年3月,中国日均Token调用量已突破140万亿。
- 三星电子副总裁Kevin Yoon称,中国每天消耗的Token是中国国家图书馆全部藏书对应Token量的20倍以上,接近人类历史上所有出版图书总量的6倍。
- 摩根士丹利执行董事颜志天指出,未计入HBM时,2026年存储占全球云数据中心资本支出比例接近五成,2027年预计升至53%。
- Solidigm亚太区销售副总裁倪锦峰将推理对存储的压力概括为数据丰富度、推理复杂度、运营持久性三个维度。
- Dify联合创始人陈璐莎判断,未来企业运行的Agent数量可能从个位数上升至数百个,并24小时待命、执行长程任务和高并发请求。
- Solidigm倪锦峰观察到,北美大型互联网公司已开始用大容量QLC SSD替代部分HDD,以减少机房空间占用和功耗开销。
本站视角
对国内做推理服务和Agent的团队来说,140万亿日均Token调用量意味着存储成本在总成本中的占比会持续上升,过去靠堆HBM和DRAM解决问题的路径在规模化推理下难以为继。联芸与寅谱把MoE专家权重和KV Cache下沉到SSD、并做预取的方案,直接指向了降低显存占用的现实需求,这类方案值得做MoE推理的团队跟进验证。对存储厂商和控制器厂商而言,SSD从「大容量持久化」转向「靠近计算的热数据承载」,意味着产品定义、QoS机制和测试标准都要重写,慧荣的QoS分级和欧康诺加入KV Cache、断点恢复的测试场景就是信号。我们认为,本次峰会释放的方向性判断是可信的——推理负载确实在改变存储分工,但需要指出的是,现场多数厂商的表述停留在架构和路线层面,缺少吞吐、时延、成本的具体数字,QLC SSD替代HDD的说法也只有Solidigm一方的观察,没有给出替代比例和规模。三星Z-NAND、HBF、NAND存内计算三条路径中,蔡一茂本人也承认读取时延偏高、写入寿命有限等问题尚未解决,短期内不宜高估其商用进度。对读者来说,更务实的关注点应该是:哪些方案已经在真实推理集群里跑出了可对比的成本数据。
背景与影响
过去几年,AI基础设施的讨论焦点集中在HBM和GPU算力上,存储层级中SSD、HDD、NAND的角色相对稳定。但随着模型从训练走向规模化推理,尤其是Agent形态的持续运行,数据的访问频率和生命周期开始剧烈变化,原本「越靠近计算越快越贵」的静态分层逻辑受到挑战。本次GMIF2026峰会上,三星、Solidigm、闪迪、慧荣、Arm、联想、Dify、北京大学等机构从介质、控制器、系统调度多个层面给出了应对思路。这意味着存储不再只是被动承载数据的「仓库」,而开始参与推理过程的资源调度。需要观察的是,这些方案目前多处于架构展示或早期落地阶段,QLC SSD替代HDD的规模、HBF的商用时间表、NAND存内计算的实际能效收益,都还没有公开的量化数据支撑。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。