返回快訊

谷歌推出Gemini Decisions API,專用於判斷而非生成文本

谷歌今日在Gemini API中上線Decisions API,配套新模型Gemini Decision 1。該接口不生成文字回答,而是對輸入與一組問題進行評分,直接返回每道題的答案及置信度。

單次請求可攜帶一個多模態輸入(文本、圖像、音頻、視頻、PDF,最高256K tokens)與最多1000個獨立問題。模型在單次前向傳遞中對候選選項打分,返回概率與置信度,端到端延遲約150-250毫秒。定價爲每百萬輸入Token 0.1美元,輸出Token不收費。

適用場景包括工具選擇、策略檢查、模型路由與上下文評分。官方稱其在代理路由、推理、排序與多模態理解基準上領先,且校準誤差最低。相比完整文本生成,該路徑針對封閉集合判斷,避免逐Token解碼。

原始來源:blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api

ABAB AI 解讀

模型提供商將封閉集合判斷從文本生成路徑中分離,推出專用決策接口。谷歌上線Gemini Decisions API與Gemini Decision 1模型,支持單次請求對最多1000個問題進行評分,返回概率與置信度,而非生成文字。輸入覆蓋多模態,最高256K tokens,輸出Token費用爲零。

與逐Token生成回答不同,該路徑在單次前向傳遞中完成選項評分,延遲保持在150-250毫秒。類似情況下,資本更關注判斷速度與成本對代理工作流中分支調用的影響,以及置信度是否支持低置信度回退。官方數據顯示其在多項基準上校準誤差最低,成本約爲完整交互API的約五分之一。

此次上線將Gemini從通用生成擴展至專用決策原語。受益方爲需要高頻低延遲分支判斷的代理與應用開發者;完整生成模型則繼續承擔開放回答任務。結構變化在於,封閉集合判斷從文本生成中剝離,形成低成本、零輸出費用的專用路徑,支持工具選擇與策略檢查的規模化調用。

認知定律

  1. 專用決策模型在單次傳遞中評分選項,避免文本生成的延遲與輸出費用。

  2. 單次請求支持最多1000個問題,將分支判斷從逐次調用轉化爲批量評分。

  3. 零輸出費用與低延遲,使封閉集合判斷成爲代理工作流的低成本原語。