AI资讯
华为、英伟达已为KV Cache单独做存储，但专用SSD规格仍未定下来
推理过程中的KV Cache已经大到需要单独管理，这正在成为行业共识。华为在近日的全联接大会上推出OceanStor M900，英伟达此前也已推出CMX Context Memory Storage，这类AI记忆存储产品会对KV Cac…
标签
标签： 存储
共 2 篇资讯
AI资讯
GMIF 2026：中国日均Token调用量突破140万亿，SSD正被推理负载重新定义
在第五届GMIF2026全球存储器行业创新峰会上，多位存储与AI行业人士指出，随着AI从训练竞赛转向规模化推理，存储正承受数据丰富度、推理复杂度、运营持久性三重压力。截至今年3月，中国日均Token调用量已突破140万亿，三星电子副总裁…