AI资讯

openJiuwen 首发 X-Router 自演进模型路由,实测省 50%+ Token

来源量子位查看原文

速览

  • X-Router 在 Agent 与模型之间加一层路由引擎,按任务复杂度动态选模型。
  • 体系分三层:能力画像、多目标决策、反馈驱动的自演进。
  • PinchBench 上静态路由省 25.7% 成本,得分仅降 5.1%。
  • 开启 Bandit 自演进后成本再降 25.3%,得分反升 4.4%。
  • 与全云基线相比,自演进模式成本降 44.6%,得分几乎持平。
  • Terminal-Bench 上 cost focused 降本 51.4%,成功率达 Opus 的 95.2%。
  • 算法与状态解耦,状态丢失只降质为冷路由,不会导致请求失败。
  • 支持端侧、云侧、企业私有化、端云混合多种部署形态。
  • x-router 只是引擎中的一条算法通路,后续将推出路由策略强化学习训练。

openJiuwen 团队发布并开源了智能路由技术 X-Router,在 Agent 与模型之间增加一层面向请求的决策引擎,按任务复杂度动态选择模型。该路由体系分三层:模型能力画像、多目标决策、反馈驱动的自演进。团队将 x-router 接入 WorkSwarm,在 PinchBench 全量 147 个任务上评测:静态路由得分 66.3%、成本 8.25 美元,相比全量调用 Kimi-K2-Thinking 的 71.36%、11.11 美元,得分下降 5.1%、成本降低 25.7%;开启 Bandit 自演进后成本降至 6.16 美元,得分回升至 70.70%,与全云基线仅差 0.66 个百分点,整体成本降低约 44.6%。在 Terminal-Bench/LLMRouterBench 上,cost focused 模式降成本 51.4%、成功率达 Opus 的 95.2%;quality focused 模式降成本 15.7%、成功率达 Opus 的 98.6%。

关键事实

  • openJiuwen 由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校与企业开发者构建,是开源 AI Agent 平台。
  • X-Router 采用三层架构:模型能力画像、动态路由决策、反馈驱动的自演进,算法与状态解耦。
  • 模型能力画像基于历史数据离线刻画并在线动态刷新,画像更新时延优于 1 分钟。
  • x-router 的复杂度分类器使用本地部署的 Qwen3-0.6B,直接跑在进程内,无需独立服务。
  • PinchBench 评测使用全量 147 个任务,覆盖日志分析、数据分析、编码、研究等 11 个类别。
  • 静态路由得分 66.3%、成本 8.25 美元;全云基线 Kimi-K2-Thinking 得分 71.36%、成本 11.11 美元。

本站视角

这件事对国内做 Agent 的团队和用 API 的中小企业最直接:Token 成本是 Agent 从 Demo 走向生产的主要门槛,因为 Agent 是多轮、多工具、长时间运行,Token 消耗成倍放大。X-Router 给出的 44.6% 成本下降、得分几乎持平,如果能在真实业务中复现,意味着同样的预算可以支撑更长的任务链。对中文开发者而言,它开源在 AtomGit 与 GitHub,内核是 Rust、Python 侧是 PyO3 扩展,接入成本不高,且分类器用本地 Qwen3-0.6B 跑在进程内,不需要额外服务,这对端侧和私有化部署场景比较友好。我们的判断是:模型路由本身不是新概念,LiteLLM、OpenRouter 等都在做,但把「自演进」和「算法/状态解耦」作为架构核心、并给出可复现 benchmark 数字的开源项目并不多,这是它值得跟进的理由。需要观察的是:第一,评测数据全部来自 openJiuwen 团队自己的实验,PinchBench 与 Terminal-Bench/LLMRouterBench 的具体配置、评分模型未完全公开,44.6% 这个数字在第三方复现前应谨慎看待;第二,Bandit 自演进得分反升 4.4% 的结论依赖反馈质量,如果宿主回报的评分不准,演进可能反而带偏策略;第三,官方称「昇腾亲和」但正文未给出昇腾上的具体性能数据,这部分更像生态定位而非实测结论。对国内团队来说,真正值得试的是它的端云混合形态——端侧消化简单任务、复杂任务上云,这与国内算力成本和合规要求都契合。

背景与影响

Agent 应用长期存在「一个模型包打天下」的问题:简单任务调用昂贵的大模型造成浪费,复杂任务交给轻量模型又效果不稳,靠固定规则维护的路由表难以跟上模型生态的快速变化。openJiuwen 团队提出的思路是把路由做成一个可配置、可演进、可观测的系统,而不是一份写死的配置表。其三层架构中,第一层负责模型能力画像,第二层基于请求轨迹与系统状态(KV 缓存亲和、实时负载、目标可用性)做多目标优化决策,第三层通过 Contextual Bandit 和轻量强化学习从真实反馈中持续修正策略。团队强调算法是纯函数、状态可丢弃,因此算法升级与状态层互不干扰,系统不会因状态丢失而失败。这意味着该路由框架的定位是长期基础设施而非一次性工程。此外,路由能力还可扩展到多模型协同(MoA)与策略自编排,把模型、Skill/Tool、SubAgent 放在同一调度框架下。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明