Recursive 发布首个模型 Flint:40B MoE、2.5B 激活参数,主打本地编码 Agent
来源MarkTechPost查看原文
速览
- Flint 是 Recursive 的首个模型,40B MoE、2.5B 激活,Apache 2.0 开源权重。
- 定位本地编码 Agent:查代码库、修 bug、实现功能、写测试,支持工具调用。
- 4-bit 权重约 23GB,48GB Mac 或 GPU 即可跑,官方称比同类快最多 2 倍。
- SWE-bench Verified 74.2%、IFEval 95.1%,在 50B 以下 MoE 中领先。
- Terminal-Bench 2.1 仅 54.9%,明显落后 dense Qwen 3.8 的 73.0%。
- Eureka Machine 参与架构搜索、lm_head 4-bit 量化与专用内核编写。
- NVFP4 量化版与 16-bit 版分数差距在 0.7 分以内。
- SWE-bench Pro v2 为 Recursive 自测,不能与公开 SWE-Bench Pro 直接比较。
- 支持 llama.cpp、Ollama、LM Studio、vLLM、SGLang 等推理栈。
Recursive Superintelligence 发布其首个模型 Flint,一个面向编码 Agent 的开源权重 MoE 模型:总参数 39.8B、每 token 激活约 2.5B,采用 Apache 2.0 许可,权重已上传 Hugging Face。模型卡标注上下文 262,144 tokens,官方博客称最高可到 512k。它可在 48GB 内存的 Apple Silicon Mac(M4 Pro、M5 Pro、M5 Max)或 48GB 显存的 NVIDIA GPU 上本地运行,4-bit 权重约 23GB。Recursive 称其自动化研究系统 Eureka Machine 参与了架构搜索、量化方案与内核编写等几乎整条技术栈的构建。性能上,Flint 在 Recursive 自建的对比图中是 50B 以下 MoE 模型里 agentic coding 最强的一个,但落后于最强的 dense 模型:SWE-bench Verified 74.2%、IFEval 95.1%,而 Terminal-Bench 2.1 仅 54.9%,低于 dense 版 Qwen 3.8 的 73.0%。所有分数均为 Recursive 自报。
关键事实
- Flint 总参数 39.8B,每 token 激活约 2.5B(含输出头;激活主体约 2.2B),采用 Apache 2.0 许可,权重发布于 Hugging Face。
- 架构为 decoder-only MoE Transformer:49 层(2 层 dense + 47 层 MoE),每层 256 个路由专家,每 token 选 6 个加 1 个常驻共享专家。
- 注意力混合两种类型:35 层使用 513 token 滑动窗口,14 层使用无位置编码的全注意力;32 个 query head、4 个 key/value head。
- 模型卡标注上下文 262,144 tokens,官方博客称最高 512k。
- 本地运行需 48GB 内存的 M4 Pro/M5 Pro/M5 Max Mac 或 48GB 显存 NVIDIA GPU;INT4 MLX 权重约 22.6GB,NVFP4 GGUF 约 22.9GB,BF16 检查点约 80GB,服务端每副本需 1 张 B300 或 H200。
- 自报分数:SWE-bench Verified 74.2%(NVFP4 74.1%)、SWE-bench Pro v2 89.7%、LiveCodeBench v6 80.3%、IFBench 89.2%、IFEval 95.1%、Terminal-Bench 2.1 54.9%。
本站视角
对中文开发者和国内做 Agent 的团队来说,Flint 的直接意义是:一个 40B 级、Apache 2.0、能在 48GB Mac 上以 4-bit 跑起来的编码模型,把「本地跑 agentic coding」的硬件门槛压到了单台高配笔记本。如果你的团队在用闭源 API 做代码 Agent,Flint 提供了一个可离线、可微调、无调用成本的备选;如果做的是端侧或隐私敏感场景(比如不能把代码传到云上的企业客户),这类模型的价值更直接。但我们的判断是,这一版更像「技术栈演示」而非「即插即用的生产力工具」:SWE-bench Verified 74.2% 与 Qwen3.6 的 73.4% 基本在同一水平,真正拉开差距的 Terminal-Bench 2.1 上 Flint 反而落后 dense Qwen 3.8 近 18 个百分点,说明它在需要多步终端操作的长任务上还不成熟,Recursive 自己也承认复杂任务上可能需要比大型闭源模型更多的引导。更值得注意的是数据可信度问题:所有 benchmark 均为 Recursive 自报,其中 SWE-bench Pro v2 的 89.7% 是自家测量的私有面板,与公开 SWE-Bench Pro 不可比(同一张表里 Qwen3.6 在公开版只有 49.5%),这个数字不应被当作跨模型对比依据。Eureka Machine「参与构建几乎整条技术栈」的说法同样只有厂商单方信源,缺少第三方复现。因此对多数团队,合理的做法是把它放进本地编码模型的候选清单做小规模实测,而不是因为「自动化研究造模型」的叙事就立刻迁移。
背景与影响
Flint 是 Recursive Superintelligence 发布的第一款模型,这家公司此前以「自动化 AI 研究」为叙事,其 Eureka Machine 被描述为能提出想法、实现、测试并决定下一步的系统。这次 Flint 是这套系统第一次产出可交付的成品模型,官方称架构搜索、量化配方和内核优化三部分都有 Eureka Machine 的贡献,其中把输出层 lm_head 量化到 4 bit 属于反常规做法,靠 16-bit 教师蒸馏补回精度,并把训练步数相比量化感知训练基线近乎减半。从产品定位看,Flint 走的是「小激活参数 + 本地部署 + 编码 Agent」路线,与 Qwen3.6-35B-A3B、Poolside 的 Laguna XS 2.1、Google 的 Gemma 4 31B 处于同一档位;相比这些竞品,Flint 的差异点在于激活参数更低(约 2.5B)、明确支持 OpenAI 兼容工具调用,并配套了自研的 rec 推理引擎与 Metal megakernel。需要观察的是,本地小模型这条赛道过去一年的竞争焦点已从「能不能跑」转向「agentic 任务能不能用」,Terminal-Bench 这类贴近真实终端操作的 benchmark 权重正在上升,而 Flint 恰好在这一项上落后于 dense 模型。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。