Perplexity 发布 pplx-embed-v2-late 多模态嵌入模型：0.6B 边缘版与 9B 版，MADQA 得分 92.4%
来源MarkTechPost查看原文
速览
- Perplexity 发布 0.6B 与 9B 两个尺寸的 ColBERT 风格多模态嵌入模型
- 9B 在 MADQA 上得 92.4%，为 Perplexity 自报最佳成绩
- 0.6B 可在边缘设备运行，定位为本地查询编码器
- 0.6B 查询 + 9B 索引可追回约一半的 9B 文本质量差距
- 每 token 128 维向量，比竞品窄 16 至 32 倍
- MIT 许可允许商用，但托管 API 尚未上线
- 短板：索引随文档长度增长、不能混合文本与图像输入
- 所有分数为自报，技术报告尚未发布
Perplexity 发布 pplx-embed-v2-late，一对 ColBERT 风格的多模态嵌入模型，分为 0.6B 和 9B 两个尺寸，均可检索文本、图像和渲染后的 PDF 页面，并共享同一个嵌入空间。两个模型已在 Hugging Face 上以 MIT 许可发布，允许商用，但托管的 Perplexity API 端点仍在计划中、尚未上线。9B 模型在 agentic PDF 问答基准 MADQA 上取得 92.4% 的准确率，为 Perplexity 自报成绩中的最佳；0.6B 模型约 240M 文本活跃参数、340M 图像活跃参数，可在笔记本、边缘设备或小显存 GPU 上运行，定位为本地查询编码器。Perplexity 称，用 0.6B 查询检索 9B 构建的索引，可在文本任务上以 0.6B 的查询成本追回约一半的 9B 质量差距。主要短板是每个 token 存一个向量导致索引体积随文档长度增长、单次输入不能混合文本与图像、图像检索并非第一（Tencent 的 EVIE 得分更高），且所有分数均为自报、技术报告尚未发布。
关键事实
- pplx-embed-v2-late 包含 0.6B 和 9B 两个尺寸，均为 ColBERT 风格多模态嵌入模型，共享同一嵌入空间
- 9B 模型在 MADQA（agentic PDF QA）上准确率 92.4%，超过 Mixedbread 的 retriever（88.9%），但低于 Mixedbread Agentic Search（93.4%）
- 0.6B 模型总参数 594M，文本活跃参数约 240M、图像约 340M，基于 Qwen3.5-0.8B 剪枝至 12 个文本层
- 9B 模型总参数 9B（Hugging Face 标注为 8B），活跃参数 7.4B，基于 Qwen3.5
- 两个模型每个 token 输出 128 维向量，比竞品的 2,048 至 4,096 维窄 16 至 32 倍
- 模型以 MIT 许可发布于 Hugging Face，允许商用；托管 API 端点尚未上线
本站视角
对中文开发者而言，这件事的实质价值在于「可自托管 + MIT 许可 + 尺寸梯度」这三点的组合。国内做 RAG、Agent 和文档检索的团队长期受制于两点：一是高质量嵌入模型多为闭源 API，数据出境和调用成本都是问题；二是开源模型往往只有单一尺寸，要么太大跑不动、要么太小效果差。pplx-embed-v2-late 同时给出 0.6B 和 9B，且共享嵌入空间，意味着可以用 9B 在自有 GPU 上离线建索引、用 0.6B 在本地或边缘设备上做查询编码，这对做私有化部署、处理敏感 PDF 的团队是直接可用的方案。128 维每 token 的设计也值得注意：它把单向量宽度压到竞品的十六分之一到三十二分之一，在显存和带宽受限的场景下是实打实的优势。 但我们的判断是，现在还不宜把它当作既定最优解。第一，所有 benchmark 分数都是 Perplexity 自报，技术报告尚未发布，第三方无法复现；MADQA 上 92.4% 仍低于 Mixedbread Agentic Search 的 93.4%，Perplexity 自己也承认差距在置信区间内，说明这个「最佳」是有条件的。第二，late interaction 的代价是每个 token 存一个向量，索引体积随文档长度线性增长，对百万级、千万级文档的语料库，存储和检索成本可能反而高于 dense 方案——原文的交互式存储计算器也把这一点列为「最差」项。第三，单次输入不能混合文本与图像，这在需要图文联合查询的场景里是硬限制。第四，图像检索上 EVIE 和 Gemini Embedding 2 都更强，说明它的多模态能力并不均衡。 需要观察的是：托管 API 何时上线、定价如何；技术报告发布后第三方复现结果是否与自报一致；以及 0.6B 在中文语料上的实际表现——原文的 72 项领域任务包含多语言，但未单独披露中文结果。对国内团队来说，如果手头是 PDF、扫描件、幻灯片为主的视觉文档检索场景，这个模型值得在自有环境里做一次小规模验证；如果只是常规文本 RAG，现有方案未必需要立刻迁移。
背景与影响
pplx-embed-v2-late 采用 late interaction（后期交互）架构，与把整篇文档压缩成单一向量的 dense 模型不同，它为每个 token 保留一个 128 维向量，检索时用 MaxSim 打分：每个查询 token 找到最匹配的文档 token，再把这些最大值相加。页面以图像形式编码，因此不需要 OCR 步骤。Perplexity 用 LEAF 风格的 token 级蒸馏，从一个 18B 教师模型训练出 9B 和 0.6B 两个学生模型，共享嵌入空间是这一训练方式的产物。这意味着用户可以用 9B 在云端一次性构建索引，再用 0.6B 在设备端做低延迟查询，两者向量可直接比较。从竞争格局看，NVIDIA 的 nemotron-colembed-vl-8b-v2 每 token 为 4,096 维、许可为 CC-BY-NC-4.0，TopK 的 topk-embed-v1 每 token 2,048 维、小模型为 Apache 2.0，Google 的 Gemini Embedding 2 为闭源 API、输出 128 至 3,072 维的单向量。Perplexity 的差异化在于向量更窄、许可更宽松、且提供可本地部署的尺寸梯度。需要观察的是，Perplexity 在图像检索上并未取得领先，Gemini Embedding 2 在 MIRACL-Vision 上超过 9B 模型、在 PPLX-Q2I 上领先 2 个百分点，说明多模态检索仍是其相对弱项。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
