AI资讯
Deepseek 开源 DeepInfer 推理引擎，支撑其最快最便宜的 V4.1-Flash 模型
Deepseek 将其 V4.1-Flash 模型背后的推理框架 DeepInfer 开源。该框架基于 vLLM 构建，官方称可降低运行 AI 模型时的算力成本与能耗。The Decoder 认为，这一开源动作会进一步加大 OpenAI…
标签
标签： 成本优化
共 2 篇资讯
AI资讯
LegalOn 将 Codex 每日成本削减 65%，开发速度保持不变
OpenAI 官方博客披露，法律科技公司 LegalOn 通过将 Astra、Sol 和 Luna 三款模型按任务类型匹配，并对预算进行策略性管理，把预估的每日 Codex 成本降低了 65%，同时维持了原有的开发速度。原文未披露具体金…