谷歌正式推出 Gemini Decisions API，该接口由全新的 Gemini Decision 1 模型驱动，旨在为封闭集决策任务提供低延迟、高校准的解决方案。与传统的大语言模型逐 Token 生成文本不同，Gemini Decision 1 通过单次前向传递直接对候选选项进行评分，能够在 150-250 毫秒的端到端延迟内处理跨文本、图像、音频、视频和 PDF 的多模态输入，并返回概率与置信度分数。
核心架构与技术特性
Gemini Decisions API 的核心优势在于其“非生成式”的决策机制。它不输出自然语言文本，而是针对预定义的有界选择（如工具选择、策略检查、模型路由和上下文评分）输出结构化数据。
| 特性维度 | 具体表现 |
|---|---|
| 模型基础 | Gemini Decision 1 (gemini-decision-1) |
| 输入支持 | 原生多模态：文本、图像、音频、视频、PDF；最大上下文 256K Token。 |
| 决策容量 | 单次请求支持最多 1,000 个独立问题。 |
| 延迟表现 | 模型计算中位延迟 50-100 毫秒；端到端延迟 150-250 毫秒。 |
| 计费模式 | 仅对输入 Token 计费（$0.10/百万 Token），输出 Token 免费。 |
三种原生决策类型
开发者可以在单个请求中混合使用以下三种决策原语，每个答案均附带 0 到 1 的置信度分数，便于代码逻辑处理模糊情况或触发人工审查：
- Binary (是/否)：评估特定条件成立的概率，支持可选的真/假描述标准。
- Choice (多项选择)：从 2 到 255 个候选项中选择获胜者，并返回每个候选项的归一化概率。
- Score (有序评分)：基于有序评分标准（从 0 开始）对输入进行连续加权评分，并返回各级别的概率分布。
性能基准与成本优势
在涵盖智能体路由、推理、排序和多模态理解的基准测试中，Gemini Decision 1 表现出最低的校准误差。由于省去了逐 Token 解码的过程，其在处理 1 到 100 个问题时的延迟几乎持平。
- 速度对比：相比 Gemini 3.5 Flash-Lite 配合 Interactions API，Decisions API 在共享基准套件上的成本低近 5 倍。
- 成本结构：共享输入每次请求仅计费一次，每个问题仅增加其指令和标准的 Token 消耗。无输出 Token 费用，也无额外的音频转录或 OCR 成本。
内部应用案例
谷歌多个团队已将 Decisions API 作为低延迟控制平面集成到核心产品中：
- Gemini Notebook：作为实时路由器，在毫秒级分类用户意图，将日常查询导向低延迟模型，复杂任务则保留给深度推理模型，整体服务延迟降低高达 40%。
- Stitch (设计工具)：在快速画布实验中，用于即时应用语音或点击编辑，并在几秒内生成可玩线框。
- Google Labs CC：从 200 多个表情选项中瞬间选择正确的反应，确保交互的即时性。
- Google 搜索：作为 MCP 工具的安全层，高效检测对抗性行为和内容违规。
开发者接入与生态系统
Gemini Decisions API 现已通过 Google AI Studio 开放，并提供免费层级供原型设计。开发者可以通过 Python、JavaScript 和 REST 指南快速上手，并尝试 Doorstep Parcels、Speed Sketch 等演示应用。
目前，该 API 正在逐步集成至主流开发生态系统，包括 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode， alongside google-genai SDK。对 Google Cloud 中 Gemini 的原生支持也即将上线。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
