决策模型接口之争:AWS、Upstage、Ollama 采用 TypeSafe 的 System One 规范,OpenAI 尚未跟进
来源The New Stack查看原文
速览
- 决策模型返回带概率的结构化答案,不生成文本、代码或推理过程
- System One 把决策归为 choice、score、noul 三类问题,可混合在一次请求中
- Jev 的 confidence 衡量概率分布集中度,不等于答案正确的概率
- Agent 中三种典型用法:模型路由、工具调用前门控、决策模型失败时回退到 LLM
- TypeSafe 的 schema 正在赢得标准之争,端点之争仍未定
- Chat Completions 的历史表明:语义形状先扩散,定义者最终不得不开放
- 开源实现多基于 Qwen3.5,并已扩展到 Qwen3.8 与 ModernBERT
- 多数开源实现放弃自回归解码,改用一次打分的小读出层
- 对抗性研究显示决策模型可被自然语言上下文定向翻转
- 共享契约让企业只需审批一种集成模式,后端可替换
决策模型(decision model)在不到一个月内从一家创业公司的实验演变成一个品类。TypeSafe AI 的 Jev 引入的 System One API 正在成为事实上的接口标准:AWS 的 Strands Decider 2B、Upstage 的 Solar Decide、Ollama 0.35 版本都实现了 /v1/systemone 端点,OpenRouter、Venice、Perplexity 则保留语义但使用自家路径。OpenAI 在 DevDay 上发布了基于 GPT-6 Luna 的 Decisions API,仍处于有限预览,未公布 schema 和定价,成为大厂中的异类。文章梳理了决策模型返回什么(choice、score、noul 三类问题加概率)、在 Agent 中的三种用法(路由、工具调用门控、失败回退)、托管与开源权重的分野、以及一项来自 USC 的对抗性研究:优化器可让 61.4% 的 508 个原本正确的 Jev 决策被翻转。
关键事实
- AWS 于 10 月 1 日发布 Strands Decider 2B,基于阿里 Qwen3.5 构建,服务端点与 TypeSafe AI 两周前为 Jev 引入的 /v1/systemone 相同
- Ollama 在 0.35 版本加入 /v1/systemone 端点,明确基于 TypeSafe 的 API
- Upstage 的 Solar Decide 通过 System One schema 提供服务,基于 Solar Mini 4(35B MoE,3B 激活参数)
- OpenAI 在 DevDay 发布基于 GPT-6 Luna 的 Decisions API,仍为有限预览,未公布 schema 与定价
- Perplexity 于 10 月 1 日以 Apache 2.0 权重发布 pplx-decider,10 月 6 日发布 1.1 版,Decision Index 从 56.4 升至 61.56
- Jared Palmer 称将 Kev 移植到 Qwen3.5 约花费 95 美元的 H100 算力
本站视角
这件事最直接的受益者是需要低成本判断层的团队——尤其是国内做 Agent 的中小团队和用 API 的企业。决策模型把「路由到哪个模型」「这次工具调用该不该放行」「退款政策是否适用」这类高频小判断从 LLM 里剥离出来,OpenRouter 上 Jev 每百万输入 token 0.042 美元、Perplexity 托管版 0.02 美元,比一次等价 LLM 调用便宜得多。对每小时要做上千次决策的流水线,自托管开源权重模型把按 token 计费换成基础设施成本,账更划算。 我们的判断是:System One 成为事实标准这件事,含金量高于它表面的技术含量。它只有三类问题、诞生不到一个月,被 AWS、Upstage、Ollama 迅速跟进,与其说是因为设计多精妙,不如说是因为它出现得早、足够简单、且没有强势厂商反对。真正的意义在于它把接口商品化,从而把竞争压力转移到模型质量和校准上——TypeSafe 现在必须靠 Jev 的准确率取胜,因为开发者改一个 URL 就能换成 Strands Decider 或 Kev。这对买方是好事:企业只需审批一种集成模式,就能随准确率、价格、数据驻留要求更换后端,议价能力比面对一堆互不兼容的端点时强得多。 需要保持警惕的有两点。第一,可靠性。USC 的研究显示优化器能翻转 508 个原本正确的 Jev 决策中的 61.4%,注入的只是中位 31 词的自然语言上下文;同研究中基于 Qwen 的开源模型翻转率更高,达 72.6%。这说明脆弱性是品类问题而非某家厂商的问题。决策模型直接作用于行动,一旦应用状态里包含用户提供的文本,风险就被放大。平台团队应把 confidence 阈值当作多重控制之一,而不是唯一防线。 第二,评测的可信度。文章表格里的评估列混用了独立基准与厂商、作者自建测试集,不构成统一排行榜。JevBench v1.5.4 追踪 112 个系统、Jev 排第三,是当前最接近中立的分数,但它由社区维护,覆盖面和权威性仍有限。厂商自报的数字(如 AWS 称 0.9 以上 confidence 的答案在短分类任务上约 95% 正确)只有单一来源,不宜直接当作选型依据。 最后是 OpenAI 的位置。它在大厂中缺席 System One,Decisions API 仍处有限预览且未公布 schema 与定价。若它最终发布一套不同的 schema,这一品类会分裂成两份契约,开发者要写两套集成代码;若它选择兼容,System One 的地位将进一步固化。这是接下来最值得盯的变量。
背景与影响
决策模型是 LLM 之外的一层判断组件:输入应用状态(如客户消息与相关政策)和一组带类型的问题,输出带概率的结构化答案。TypeSafe AI 将其命名为 System One,借用心理学家 Daniel Kahneman 提出的「快思考」概念。它不写散文、不写代码、不解释推理,因此比 LLM 分类更快、更便宜,也更适合作为 AI 应用里的 if 语句。 这一品类的扩散路径与 LLM 接口的历史高度相似。OpenAI 的 Chat Completions API 因为被 vLLM、Ollama、OpenRouter 等大量服务克隆,成为调用 LLM 的默认方式;OpenAI 后来把自家平台迁到 Responses API,并于 2026 年 1 月推出基于该设计的开放规范 Open Responses,OpenRouter、Hugging Face、LM Studio、vLLM、Ollama、Vercel 为发起伙伴。Simon Willison 当时表示,他更希望标准基于 Chat Completions,因为已有太多产品克隆了它。 这意味着决策模型可能重演同一剧本:语义形状先于正式治理扩散,定义形状的公司最终必须开放,否则生态会分裂成若干兼容变体——OpenRouter、Venice、Perplexity 已经在跑各自的决策路径。不同之处在于,Chat Completions 花了数年才稳定,涵盖消息角色、流式、工具调用,背后有大量应用代码;System One 只覆盖三类问题,诞生不到一个月,克隆和分叉的成本极低。 对国内做 Agent 的团队而言,这一契约的实际价值是代码级可移植:TypeSafe 的 SDK 只要改 base URL 就能对接任何实现 System One 的服务器,应用可以从托管的 Jev 迁到本地 Strands Decider 而不重写决策逻辑。但服务器在选项上限、confidence 计算方式和答案质量上仍有差异,切换仍需测试。需要观察的是 OpenAI 最终公布的 schema:若与 System One 不同,这一品类将出现两份互相竞争的契约。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。