Deepseek 开源 DeepInfer 推理引擎,支撑其最快最便宜的 V4.1-Flash 模型
Deepseek 将其 V4.1-Flash 模型背后的推理框架 DeepInfer 开源。该框架基于 vLLM 构建,官方称可降低运行 AI 模型时的算力成本与能耗。The Decoder 认为,这一开源动作会进一步加大 OpenAI…
标签
共 12 篇资讯
Deepseek 将其 V4.1-Flash 模型背后的推理框架 DeepInfer 开源。该框架基于 vLLM 构建,官方称可降低运行 AI 模型时的算力成本与能耗。The Decoder 认为,这一开源动作会进一步加大 OpenAI…
Latent Space 的 AINews 汇总了 10 月 16 日至 19 日的 AI 动态。最受关注的是 DeepSeek V4.1 Flash 1017:Artificial Analysis 记录其为 552B 总参数 / 1…
AI 基础设施公司 Modal 宣布年化收入(ARR)突破 10 亿美元,并完成 7.5 亿美元 D 轮融资,估值达 157.5 亿美元,由 Accel 领投。相比上一轮 C 轮,Modal 的用量增长约 3 倍,同比去年增长超过 15…
The New Stack 的「Road to KubeCon」专栏汇总了 KubeCon + CloudNativeCon North America 2026(11 月 9-12 日,盐湖城)前的云原生动态。核心变化集中在 Kube…
The New Stack 发布文章,预告将于 10 月 21 日举办一场关于 Postgres 规模化的网络研讨会。文章指出,Postgres 虽然是关系型数据存储的主流选择,但在处理持续涌入的实时数据时会遇到瓶颈:查询变慢、维护需求…
TechCrunch 宣布,在 2026 年 10 月 13 日于旧金山 Moscone West 举行的 TechCrunch Disrupt 2026 上,Ambrosia Energy CEO Ben Longmier 与 Blo…
Meta 新闻室发布了一期对谈内容,开发者兼创作者 Tom Shaw 与 Meta 基础设施负责人 Santosh Janardhan 坐下来聊 Meta 为支撑 AI 未来而建设基础设施的思路。Janardhan 在对话中解释了为什么…
Amazon 表示在与地方政府谈判数据中心交易时将不再使用保密协议(NDA),此前 Microsoft 今年早些时候已做出类似承诺。围绕 AI 基础设施的保密做法已引发社区强烈反弹,从纽约到旧金山,数百项暂停令被提出或已生效。与此同时,…
Ai2 的 AI Infrastructure 团队发文介绍其 GPU 集群调度系统的改造:把原先基于优先级的调度器,换成由 GPU 时间预算、层级 fair-share 分配和时间切片契约组成的系统。Ai2 管理数千块 NVIDIA…
普林斯顿学者 Arvind Narayanan 和 Akash Kapur 在 AI Snake Oil 发表长文,跳出「AI 是不是泡沫」的争论,从历史与经济学理论出发分析 AI 实验室的长期盈利路径。文章认为,模型推理业务因模型同质…
英国布里斯托大学打造的 Isambard-AI 正式启用,成为英国史上最强 AI 超算。该系统采用 5,448 颗 NVIDIA GH200 Grace Hopper Superchip,提供 21 exaflops 的 AI 性能,速…
CoolIT(Ecolab 旗下公司)发布一份免费白皮书,主题为单相直接液冷技术。白皮书指出,单相直接液冷已被验证可应对未来十年超高密度计算带来的散热需求,并介绍了该技术如何管理 AI 与高性能计算(HPC)不断上升的发热量,同时将其与…