openJiuwen 首发 X-Router 自演进模型路由,实测省 50%+ Token
来源量子位查看原文
速览
- X-Router 在 Agent 与模型之间加一层路由引擎,按任务复杂度动态选模型。
- 体系分三层:能力画像、多目标决策、反馈驱动的自演进。
- PinchBench 上静态路由省 25.7% 成本,得分仅降 5.1%。
- 开启 Bandit 自演进后成本再降 25.3%,得分反升 4.4%。
- 与全云基线相比,自演进模式成本降 44.6%,得分几乎持平。
- Terminal-Bench 上 cost focused 降本 51.4%,成功率达 Opus 的 95.2%。
- 算法与状态解耦,状态丢失只降质为冷路由,不会导致请求失败。
- 支持端侧、云侧、企业私有化、端云混合多种部署形态。
- x-router 只是引擎中的一条算法通路,后续将推出路由策略强化学习训练。
openJiuwen 团队发布并开源了智能路由技术 X-Router,在 Agent 与模型之间增加一层面向请求的决策引擎,按任务复杂度动态选择模型。该路由体系分三层:模型能力画像、多目标决策、反馈驱动的自演进。团队将 x-router 接入 WorkSwarm,在 PinchBench 全量 147 个任务上评测:静态路由得分 66.3%、成本 8.25 美元,相比全量调用 Kimi-K2-Thinking 的 71.36%、11.11 美元,得分下降 5.1%、成本降低 25.7%;开启 Bandit 自演进后成本降至 6.16 美元,得分回升至 70.70%,与全云基线仅差 0.66 个百分点,整体成本降低约 44.6%。在 Terminal-Bench/LLMRouterBench 上,cost focused 模式降成本 51.4%、成功率达 Opus 的 95.2%;quality focused 模式降成本 15.7%、成功率达 Opus 的 98.6%。
关键事实
- openJiuwen 由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校与企业开发者构建,是开源 AI Agent 平台。
- X-Router 采用三层架构:模型能力画像、动态路由决策、反馈驱动的自演进,算法与状态解耦。
- 模型能力画像基于历史数据离线刻画并在线动态刷新,画像更新时延优于 1 分钟。
- x-router 的复杂度分类器使用本地部署的 Qwen3-0.6B,直接跑在进程内,无需独立服务。
- PinchBench 评测使用全量 147 个任务,覆盖日志分析、数据分析、编码、研究等 11 个类别。
- 静态路由得分 66.3%、成本 8.25 美元;全云基线 Kimi-K2-Thinking 得分 71.36%、成本 11.11 美元。
本站视角
这件事对国内做 Agent 的团队和用 API 的中小企业最直接:Token 成本是 Agent 从 Demo 走向生产的主要门槛,因为 Agent 是多轮、多工具、长时间运行,Token 消耗成倍放大。X-Router 给出的 44.6% 成本下降、得分几乎持平,如果能在真实业务中复现,意味着同样的预算可以支撑更长的任务链。对中文开发者而言,它开源在 AtomGit 与 GitHub,内核是 Rust、Python 侧是 PyO3 扩展,接入成本不高,且分类器用本地 Qwen3-0.6B 跑在进程内,不需要额外服务,这对端侧和私有化部署场景比较友好。我们的判断是:模型路由本身不是新概念,LiteLLM、OpenRouter 等都在做,但把「自演进」和「算法/状态解耦」作为架构核心、并给出可复现 benchmark 数字的开源项目并不多,这是它值得跟进的理由。需要观察的是:第一,评测数据全部来自 openJiuwen 团队自己的实验,PinchBench 与 Terminal-Bench/LLMRouterBench 的具体配置、评分模型未完全公开,44.6% 这个数字在第三方复现前应谨慎看待;第二,Bandit 自演进得分反升 4.4% 的结论依赖反馈质量,如果宿主回报的评分不准,演进可能反而带偏策略;第三,官方称「昇腾亲和」但正文未给出昇腾上的具体性能数据,这部分更像生态定位而非实测结论。对国内团队来说,真正值得试的是它的端云混合形态——端侧消化简单任务、复杂任务上云,这与国内算力成本和合规要求都契合。
背景与影响
Agent 应用长期存在「一个模型包打天下」的问题:简单任务调用昂贵的大模型造成浪费,复杂任务交给轻量模型又效果不稳,靠固定规则维护的路由表难以跟上模型生态的快速变化。openJiuwen 团队提出的思路是把路由做成一个可配置、可演进、可观测的系统,而不是一份写死的配置表。其三层架构中,第一层负责模型能力画像,第二层基于请求轨迹与系统状态(KV 缓存亲和、实时负载、目标可用性)做多目标优化决策,第三层通过 Contextual Bandit 和轻量强化学习从真实反馈中持续修正策略。团队强调算法是纯函数、状态可丢弃,因此算法升级与状态层互不干扰,系统不会因状态丢失而失败。这意味着该路由框架的定位是长期基础设施而非一次性工程。此外,路由能力还可扩展到多模型协同(MoA)与策略自编排,把模型、Skill/Tool、SubAgent 放在同一调度框架下。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。