Liquid AI 开源 d1-3B 与 d1-omni-600M：不生成 token 的多模态决策模型，RTX 4090 上单次提问 8 毫秒
来源MarkTechPost查看原文
速览
- Liquid AI 开源两个不生成 token 的决策模型，直接输出概率化类型答案
- d1-3B 在 Decision Index v0.2.1 得 48.57，为 10B 以下最佳
- d1-3B 在 RTX 4090 上单问题延迟 8 ms，Jetson AGX Thor 上 16 ms
- d1-omni-600M 以 587M 参数支持文本+图像或文本+音频输入
- 年收入 1000 万美元以下可免费商用，采用 LFM Open License v1.0
- 两个 checkpoint 已上 Hugging Face，首日支持 llama.cpp
- d1-omni-600M 为早期研究版本，未公布延迟数据
- 音频决策基准被 Liquid AI 称为开放问题
Liquid AI 发布 Open d1 系列两个开源权重多模态模型：d1-3B（3.12B 参数，读文本与图像）和 d1-omni-600M（587M 参数，读文本+图像或文本+音频）。两者都不输出文本，而是在一次前向传播中针对命名问题返回校准后的类型化答案，output_tokens 恒为 0。模型面向 NVIDIA 栈上的实时决策场景（DGX 服务器、RTX 工作站、Jetson 边缘板），已在 Hugging Face 发布，支持 Transformers 加载并首日支持 llama.cpp。d1-3B 在 Decision Index v0.2.1 上得分 48.57，为 10B 以下模型最佳；RTX 4090 上单问题端到端延迟 8 ms。d1-omni-600M 为早期研究版本，未公布延迟数据。
关键事实
- d1-3B 参数 3.12B，基于 LFM2.5-VL-3B（decoder-only），使用 400M SigLIP2 NaFlex 视觉编码器，上下文 32,768 token
- d1-omni-600M 参数 587M（381M 主干+决策头、94M 视觉编码器、112M 音频编码器），基于 LFM2.5-Encoder-350M 双向编码器，上下文 16,384 token
- 两个模型均不生成文本，每次响应报告 output_tokens: 0，支持 noul（是/否）、choice（多选一）、score（2 到 10 级有序评分）三类问题
- d1-3B 在 Decision Index v0.2.1 得分 48.57，超过所有 10B 以下模型，略高于 Decider 35B-A3B 的 47.11，低于 Winnow-12B 的 50.02
- d1-3B 在 RTX 4090 上单问题延迟 8 ms，AMD MI325X 上 9 ms，Jetson AGX Thor 16 ms，AGX Orin 26 ms，Orin Nano 50 ms
- d1-3B 在 7 项公开文本基准上平均 82.9，高于 Decider 4B 的 81.1；在 11 项图像基准上平均 74.1，基座模型为 73.9
本站视角
对做 Agent 和推理管线的中文团队来说，d1 系列值得关注的点不是「又一个开源模型」，而是它把一类高频、低创造性的判断任务从生成式推理里剥离了出来。路由、意图分类、内容审核、重排序、护栏判断这些环节，目前主流做法是让 LLM 输出 JSON 再解析，代价是每个 token 的解码时间和解析失败率。d1 把这类任务压缩成一次前向传播、零输出 token、直接给出概率分布，工程上意味着更短的延迟链路和更少的解析容错代码。如果你的 Agent 里有一半调用是在做「该走哪个分支」的判断，这类模型可能比换一个更强的通用 LLM 更划算。 具体到不同角色：做边缘视觉和实时审核的团队，d1-3B 在 Jetson AGX Thor 上 16 ms、384px 图像 35 ms 的数字，配合首日 llama.cpp 支持和 1000 万美元以下免费商用的许可，是可以在原型阶段直接试的；做语音入口的团队，d1-omni-600M 的 587M 参数和 30 秒音频上限适合端侧语音指令路由，但要注意它只支持英语说话人-助手请求，且单次请求不能同时带图像和音频。用 API 的中小企业则要算一笔账：自托管一个 3B 决策模型是否比调用大模型 API 更省，取决于你的判断类调用量和延迟敏感度。 我们的判断是，d1 的「零输出 token」是一个真实的架构差异，不是营销包装——它改变了模型与调用方之间的接口契约，从「生成文本再解析」变成「读取概率分布」。但需要观察的是三点。第一，Decision Index v0.2.1 由 Liquid AI 自行运行官方评分器，d1 的分数不是第三方排行榜提交，且该基准本身知名度有限，48.57 这个数字的说服力需要更多独立复现来支撑。第二，d1-omni-600M 是早期研究版本，没有公布任何延迟数据，Decision Index 只有 15.95，明显低于 d1-3B 的 48.57，现阶段更适合当作技术预览而非生产选型。第三，Liquid AI 自己承认音频决策基准是开放问题，这意味着 d1-omni-600M 在音频场景下的实际表现缺乏可验证的参照。 另一个容易被忽略的细节是许可条款：LFM Open License v1.0 以 1000 万美元年收入为界，超过这个门槛的商用需要另行授权。对国内不少已经跨过这条线的公司来说，这个「开源」的适用范围比 Apache 2.0 窄，选型时要先确认合规边界。相比之下 Decider 和 Winnow 系列采用 Apache 2.0，在许可上更宽松，但 d1-3B 在同等参数规模下的 Decision Index 分数更高。这是一个典型的「性能换许可」权衡，没有统一答案，取决于你的法务容忍度和对延迟的敏感程度。
背景与影响
决策模型与生成式 LLM 的工作方式不同：生成式模型逐 token 写出答案，再由外部代码解析；决策模型接收一个状态和一组命名问题，一次读取后返回每个允许答案的概率。Liquid AI 定义了三种问题类型——noul 返回 P(yes)，choice 返回带完整概率分布的标签，score 返回 2 到 10 级有序评分上的概率加权位置。多个问题可在一次调用中共享同一状态。Liquid AI 推荐 d1 用于路由、内容审核、意图分类、重排序、LLM-as-a-judge 评分、Agent 护栏和视觉检查，并明确表示这两个 checkpoint 都不是聊天模型。 从训练方式看，d1-3B 由 LFM2.5-2.6B 与该模型文本主干的权重平均而来，随后用不同随机种子和数据混合微调多个 checkpoint 再合并；Liquid AI 表示长输入、打乱答案选项和修复数据捷径比高级技巧更重要。d1-omni-600M 的音频编码器是 17 层 FastConformer。 在竞争格局上，开源决策模型赛道已有 Mapika 的 Decider 4B（4.2B，Apache 2.0，Decision Index 40.70）和 Decider 35B-A3B（34.7B 总参数、3B 激活，47.11），以及 EldanRing 的 Winnow-12B（12B，50.02）。d1-3B 以 3.12B 参数超过 Decider 35B-A3B，但落后 Winnow-12B。需要注意的是，Liquid AI 自行运行了官方评分器，因此 d1 的分数并非排行榜提交结果；各家延迟数据使用不同硬件和工作负载，不可直接比较。 落地方面，d1-3B 在 Jetson AGX Thor 上读取 384px 图像耗时 35 ms，Open d1 Arcade 空间提供十个摄像头驱动的 d1-3B 演示，逐帧处理实时摄像头输入用于内容审核和手势控制。Liquid AI 还展示了 d1-3B 从 Jetson 上驱动 Isaac Sim 导航。RTX 4090 的 8 ms 数据使用了 model.compile(mode="reduce-overhead")，不启用时为 16 ms。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。
