Deepseek 开源 DeepInfer 推理引擎,支撑其最快最便宜的 V4.1-Flash 模型
来源The Decoder查看原文
速览
- Deepseek 把自家最快最便宜模型背后的推理引擎开源
- DeepInfer 基于 vLLM,主打降低算力成本与能耗
- 开源推理栈意味着成本优化手段本身被公开
- 外媒将其解读为进一步压低 API 价格的外部压力
- 原文未给出性能、许可与定价的具体数字
Deepseek 将其 V4.1-Flash 模型背后的推理框架 DeepInfer 开源。该框架基于 vLLM 构建,官方称可降低运行 AI 模型时的算力成本与能耗。The Decoder 认为,这一开源动作会进一步加大 OpenAI、Anthropic 等西方厂商面临的价格压力。原文未披露 DeepInfer 的具体性能数据、开源许可证类型,也未说明 V4.1-Flash 的定价与速度指标。
关键事实
- Deepseek 开源了推理框架 DeepInfer,它是 V4.1-Flash 模型背后的推理引擎
- DeepInfer 基于 vLLM 构建
- Deepseek 称该框架可降低运行 AI 模型时的算力成本与能耗
- V4.1-Flash 被描述为 Deepseek 最快、最便宜的模型
- The Decoder 判断此次开源会加大 OpenAI、Anthropic 等西方厂商的价格压力
本站视角
这件事真正影响的不是普通聊天用户,而是两类人:一是自建推理服务的团队,尤其是国内做 Agent 和垂直应用的创业公司,它们对单位 token 成本最敏感;二是靠 API 差价做生意的中小服务商,推理栈开源等于把成本优化这一层护城河削平。我们的判断是,这更像一次生态卡位而非单纯的技术分享:Deepseek 在模型权重开源之后,把推理引擎也开源,等于把「便宜」这件事从结果变成可复制的公共品,从而把竞争压力推给按 token 计价的闭源厂商。但需要指出原文的可疑之处:The Decoder 的报道极短,除了「基于 vLLM」「降低成本与能耗」两句定性描述外,没有任何吞吐、延迟、显存占用或能耗的实测数字,也没有说明开源许可证和代码完整度——「开源」究竟是完整可部署还是部分放出,直接决定这件事的含金量。至于「加大西方厂商价格压力」这一结论,属于媒体的推断而非有数据支撑的因果论证,单一信源下不宜当作既成事实。建议读者等社区跑出第三方 benchmark 后再评估其实际价值。
背景与影响
Deepseek 此前已通过开源模型权重在开源社区建立影响力,这次把范围扩展到推理侧:DeepInfer 基于 vLLM,而 vLLM 本身是开源社区广泛使用的高吞吐推理框架。把推理引擎也开源,意味着外部团队可以复用 Deepseek 在 V4.1-Flash 上做的成本与能效优化,而不只是拿到模型本身。对使用 API 的中小团队来说,这可能意味着自建推理的成本门槛进一步下降;对以 API 调用为主要成本项的应用开发者而言,可选的低成本路径变多。需要观察的是,DeepInfer 的优化是否与 Deepseek 自家模型架构强绑定——如果强绑定,其可迁移性会打折扣,对第三方模型的加速效果可能有限。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。