AI资讯
华为、英伟达已为KV Cache单独做存储，但专用SSD规格仍未定下来
推理过程中的KV Cache已经大到需要单独管理，这正在成为行业共识。华为在近日的全联接大会上推出OceanStor M900，英伟达此前也已推出CMX Context Memory Storage，这类AI记忆存储产品会对KV Cac…
标签
标签： KV Cache
共 2 篇资讯
AI资讯
字节论文指出 DeepSeek V4 分块 KV Cache 压缩存在相位敏感性，加几个空格就能让模型答错
字节团队在 9 月底发表的论文《Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression》中指出，DeepSeek V4 系列模型存在「神鬼二象性」…