OpenAI 推出 Decisions API 公测:返回概率、选项与评分,称比 Responses API 快约 10 倍
来源MarkTechPost查看原文
速览
- Decisions API 返回概率、选项和评分,不生成散文式文本
- 仅支持 gpt-6-luna,仅走 OpenAI 托管 API,无开源权重与自托管
- 输入 0.10 美元/1M token,输出免费,超 272K token 提示按 2 倍计费
- OpenAI 自称比 Responses API 快约 10 倍,但未公布准确率与校准数据
- 官方划界:需要概率/选项/评分用 Decisions,填自定义 JSON schema 用 Structured Outputs,请求工具调用用 function calling
- 竞品 TypeSafe Jev 输入更便宜(0.042 美元/1M token),OpenAI 的优势在图像输入、合规选项与公测开放度
- 可通过 Live API 的客户端委派让决策结果驱动语音场景下的动作
OpenAI 上线 Decisions API 公测,把文本和图像输入转成代码可直接分支判断的类型化答案,而不是生成自然语言。请求只包含 model、input、questions 三个字段,目前唯一支持的模型是 gpt-6-luna,通过 POST /v1/decisions 调用,仅提供 OpenAI 托管 API,不开源权重、不支持自托管。问题分三类:predicate 返回 0 到 1 的概率,choice 从给定选项中选一个并返回各选项概率与 confidence,score 按有序 levels 给出概率加权平均分。OpenAI 称其速度约为 Responses API 的 10 倍,DevDay 相关报道给出的数字是单次决策接近 150 毫秒,而常规 Luna 调用约 1.6 秒。定价为每 1M 输入 token 0.10 美元,输出、缓存读取与缓存写入均不收费。OpenAI 尚未公布该端点的准确率或校准数据,文档建议用户用自己应用中的标注样本设定阈值。
关键事实
- Decisions API 于 2026 年 10 月 6 日进入公测,OpenAI 预计未来数周内正式可用(GA)
- 唯一支持的模型是 gpt-6-luna,参数规模未披露,模型卡标注上下文窗口为 1,050,000 token
- OpenAI 称 Decisions API 比 Responses API 快约 10 倍;DevDay 相关报道称单次决策接近 150 毫秒,常规 Luna 调用约 1.6 秒
- 定价为每 1M 输入 token 0.10 美元,无输出、缓存读取、缓存写入费用;超过 272K token 的提示按 2 倍输入费率计费
- 问题类型有三种:predicate 返回 0 到 1 的概率,choice 返回选项、各选项概率与 confidence,score 返回按 levels 索引的概率加权平均分
- OpenAI 给出的评分示例:levels 概率为 0.1、0.7、0.2 时得分为 1.1,介于「Workaround available」与「Fully blocked」之间
本站视角
对国内做 Agent 和自动化流程的团队来说,这个端点的价值不在「快 10 倍」,而在于它把「模型输出 → 可分支的枚举值」这一步标准化了。过去大家各自写解析层、各自处理模型返回格式漂移,现在可以少写一层胶水代码,并且拿到一个概率值用于设阈值。做客服工单分派、内容审核、退货判定、语音助手意图路由的团队,是最直接的受益方。 我们的判断是:这是一次务实的工程改进,不是能力跃迁。10 倍这个数字来自 OpenAI 自己的文档,没有第三方评测,也没有准确率与校准数据。概率是否可信,是这类 API 的命门——如果模型给出 0.92 的概率但实际错误率远高于 8%,那按阈值自动分支就会在生产环境里出事。OpenAI 文档自己建议用户用标注样本设阈值,某种程度上等于承认校准需要客户自己兜底。 另一个值得注意的点是价格。0.10 美元/1M 输入 token 且输出免费,看起来便宜,但 TypeSafe Jev 的 0.042 美元更低,且延迟区间 70 到 500 毫秒与 OpenAI 宣称的约 150 毫秒有重叠。也就是说,OpenAI 在这个细分场景里并没有价格或速度上的绝对优势,它真正卖的是图像输入、合规资质(ZDR、HIPAA、美欧数据驻留)和生态惯性。对已经在用 OpenAI 其他 API 的团队,迁移成本低是主要理由;对成本敏感、且只需要文本判别的团队,Jev 值得一并评估。 需要提醒的是,原文中「10 倍」与「150 毫秒」这两个数字来源不同:前者出自 OpenAI 文档,后者出自 DevDay 的报道,两者都不是独立基准测试。在正式 GA 并出现第三方评测之前,建议不要把这两个数字直接写进容量规划。此外,唯一可用模型 gpt-6-luna 的参数规模未披露,1,050,000 token 的上下文窗口虽然很大,但超过 272K token 的部分按 2 倍输入费率计费,长文档批量判别的实际成本可能明显高于标价。
背景与影响
把 LLM 输出解析成标签,是过去两年大量应用里最常见也最脆弱的一环:模型返回一段文字,开发者再用正则或二次调用把它转成可分支的枚举值,既慢又容易出错。Decisions API 的思路是把这一步收进模型本身,直接返回带概率的结构化结果,让代码按阈值分支。这实际上是把「分类/判别」从生成任务里拆出来,做成一个专用端点。 从竞争格局看,这条赛道已经有人先到。TypeSafe 在 2026 年 9 月 15 日发布 Jev,定位为 System One 模型,返回带校准概率的类型化值,输入价格 0.042 美元/1M token,比 OpenAI 的 0.10 美元便宜约 2.4 倍,端到端延迟 70 到 500 毫秒,最多支持 255 个选项。OpenAI 的差异化在于图像输入、ZDR/HIPAA 合规选项、美国与欧洲数据驻留,以及已经开放的公测入口——Jev 目前仍是早期访问。 需要观察的是,OpenAI 没有公布任何准确率或校准数据,文档反而建议用户用自己应用的标注样本去设阈值。这意味着概率值是否可靠,目前只能由使用方自行验证。对于把决策结果直接接到自动化流程(如工单分派、内容审核、退款判定)的团队来说,校准质量比速度更关键。
本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。