谷歌推出Gemini Decisions API,专用于判断而非生成文本
谷歌今日在Gemini API中上线Decisions API,配套新模型Gemini Decision 1。该接口不生成文字回答,而是对输入与一组问题进行评分,直接返回每道题的答案及置信度。
单次请求可携带一个多模态输入(文本、图像、音频、视频、PDF,最高256K tokens)与最多1000个独立问题。模型在单次前向传递中对候选选项打分,返回概率与置信度,端到端延迟约150-250毫秒。定价为每百万输入Token 0.1美元,输出Token不收费。
适用场景包括工具选择、策略检查、模型路由与上下文评分。官方称其在代理路由、推理、排序与多模态理解基准上领先,且校准误差最低。相比完整文本生成,该路径针对封闭集合判断,避免逐Token解码。
原始来源:blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api
ABAB AI 解读
模型提供商将封闭集合判断从文本生成路径中分离,推出专用决策接口。谷歌上线Gemini Decisions API与Gemini Decision 1模型,支持单次请求对最多1000个问题进行评分,返回概率与置信度,而非生成文字。输入覆盖多模态,最高256K tokens,输出Token费用为零。
与逐Token生成回答不同,该路径在单次前向传递中完成选项评分,延迟保持在150-250毫秒。类似情况下,资本更关注判断速度与成本对代理工作流中分支调用的影响,以及置信度是否支持低置信度回退。官方数据显示其在多项基准上校准误差最低,成本约为完整交互API的约五分之一。
此次上线将Gemini从通用生成扩展至专用决策原语。受益方为需要高频低延迟分支判断的代理与应用开发者;完整生成模型则继续承担开放回答任务。结构变化在于,封闭集合判断从文本生成中剥离,形成低成本、零输出费用的专用路径,支持工具选择与策略检查的规模化调用。
认知定律
专用决策模型在单次传递中评分选项,避免文本生成的延迟与输出费用。
单次请求支持最多1000个问题,将分支判断从逐次调用转化为批量评分。
零输出费用与低延迟,使封闭集合判断成为代理工作流的低成本原语。