AI资讯

Google 发布 Gemini Decisions API:单次前向传播完成最多 1000 个多模态判断,输出 token 不计费

Google 发布 Gemini Decisions API:单次前向传播完成最多 1000 个多模态判断,输出 token 不计费

来源Google AI Blog查看原文

速览

  • 新接口把「判断」从生成式调用中拆出来,用单次前向传播给选项打分
  • 一次请求最多 1000 个问题,共享输入只计费一次,输出 token 免费
  • 延迟 150-250 ms,问题数从 1 增到 100 时延迟几乎不变
  • 三种原语覆盖路由、内容分级、策略检查等封闭集合决策
  • 置信度分数让代码可以把不确定的 case 转人工或 fallback
  • Google 内部已用于 Notebook 路由、Stitch 快速原型、CC 表情选择、Search 的 MCP 安全层
  • 官方称校准误差在同套基准中最低,但数据均来自 Google 自述

Google 于 2026 年 11 月 11 日推出 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动,通过 Google AI Studio 的 Gemini API 提供。该接口面向封闭集合判断场景,支持一次传入文本、图像、音频、视频、PDF 的多模态输入(上限 256K tokens),并同时评估最多 1000 个独立问题,问题类型包括 yes/no、多选(2 到 255 个选项)和有序评分(rubric)。与逐 token 生成答案不同,Gemini Decision 1 在单次前向传播中对候选选项打分,返回概率与 0 到 1 的置信度,端到端延迟 150-250 ms,定价为每 100 万输入 token 0.10 美元,输出 token 不计费。Google 称其在 agent 路由、推理、排序、多模态理解等基准上领先,且校准误差最低;在共享基准套件上比 Gemini 3.5 Flash-Lite 搭配 Interactions API 便宜近 5 倍。Google 内部已有 Gemini Notebook、Stitch、Google Labs 的 CC、Google Search 的 MCP 工具安全层等场景在用。

关键事实

  • Gemini Decisions API 由新模型 Gemini Decision 1(gemini-decision-1)驱动,2026 年 11 月 11 日发布,通过 Google AI Studio 的 Gemini API 提供
  • 单次请求可传入最多 256K tokens 的多模态输入,并同时评估最多 1000 个独立问题
  • 支持三种判断类型:yes/no(noul)、多选(choice,2 到 255 个选项)、有序评分(score,从 0 开始)
  • 每个答案返回 0 到 1 的置信度,便于把模糊情况路由到 fallback 或人工审核
  • 端到端延迟 150-250 ms,其中模型计算中位延迟 50-100 ms,且在 1 到 100 个问题/请求时基本持平
  • 定价为每 100 万输入 token 0.10 美元,输出 token 计费为 0;共享输入每次请求只计费一次

本站视角

这件事最直接的受益者是两类人。第一类是做 Agent 和多模型路由的团队——过去要在「用小模型省钱但判断不准」和「用大模型判断准但贵且慢」之间取舍,现在可以把路由本身做成一次 150-250 ms、输出不计费的调用,Gemini Notebook 自己降 40% 延迟就是现成例子。第二类是内容平台和做合规、审核的中小团队:策略检查、rubric 打分这类工作过去要么养分类器要么烧生成 token,按 0.10 美元/百万输入 token 且输出免费算,高频低价值的判断调用成本结构会明显变化。我们的判断是,这是实质性的产品形态变化而非营销包装——把「判断」从「生成」里拆出来做成独立原语,是过去一年 Agent 工程里反复被验证的真实需求,Google 只是第一个把它做成官方 endpoint 的大厂。但有三点需要保留:其一,所有性能与成本对比都来自 Google 自家基准,且对比对象是自家 Gemini 3.5 Flash-Lite,缺少与第三方小模型分类方案的横向比较;其二,「校准误差最低」对做风控和审核的团队是关键指标,但原文没有给出具体数值,无法判断领先幅度;其三,1000 个问题、256K 输入这些上限在真实业务里是否够用,取决于单条输入的平均长度,原文的延迟数据只覆盖到 16K tokens 上下文,长输入下的表现仍是空白。对国内做 Agent 的团队而言,短期内更现实的影响是:这类「封闭集合判断」的产品化会抬高用户对路由延迟和成本的预期,自建方案需要给出同等量级的数字才能站得住。

背景与影响

大模型落地到生产系统时,大量调用其实不是「生成一段文字」,而是「在有限选项里选一个」:这条 query 该走小模型还是大模型、这段内容是否违规、这张图里有没有安全隐患、这个工单该分给哪个队列。传统做法要么训练专用分类器(需要标注数据和训练周期),要么用生成式模型输出结构化结果(要付输出 token、延迟随输出长度增长)。Gemini Decisions API 的思路是把这类封闭集合判断做成模型的原生能力:不逐 token 解码,直接对候选选项打分并给出概率。对做 Agent 路由、内容审核、RAG 上下文打分的团队来说,这意味着可以用 prompt 定义选项替代训练分类器,迭代成本显著下降。定价上输出 token 为 0、共享输入只计一次,也明显是冲着高频、低价值的判断调用去的。需要观察的是:Google 只给出了自家基准上的对比,第三方复现前,其「校准误差最低」和「便宜近 5 倍」的说法应视为厂商声明;此外 256K 输入上限与 16K 上下文下的延迟数据之间关系,原文未完全展开。

本文由 AI 辅助整理自公开信源,事实部分以原文为准;「本站视角」一节为编辑部判断,欢迎指正。版权归原作者所有,如有异议请联系我们。

编辑与审校

AI大海啸编辑部

负责选题、审校与「本站视角」的判断。

编辑流程与 AI 使用说明