Gemini API 推出 Tool Retrieval,按需加载工具参数降低 Token 消耗
速览
谷歌在 Gemini API 中推出 Tool Retrieval 功能的预览版,该功能允许 AI 代理按需加载工具参数,而不是在每次请求中发送全部工具库。这将减少输入 token 数和延迟,提升工具选择准确性。开发者可在 Interactions API 中通过添加 tool_search 工具并设置 defer_loading 为 true 来启用。
Tool Retrieval 现已作为预览版功能提供给 Gemini Interactions API 用户。当 AI 代理连接数十甚至上百个工具时,每次请求发送所有完整参数模式会显著增加输入 token 数、延迟并降低工具选择的准确性。Tool Retrieval 让代理将工具库置于待命状态,仅在当前任务需要时才加载对应参数模式。
启用该功能,开发者需在请求中添加 tool_search 工具,并为希望延迟加载的工具设置 defer_loading: true。模型仍能看到所有延迟工具的名称和描述,知道哪些工具可用,但参数模式不会进入上下文。当模型需要某个工具时,它会按名称请求,API 随即加载完整模式,模型在同一个请求内调用该函数。这一过程会记录在 interaction.steps 中,便于调试。
- 无需构建或托管索引,Gemini 在服务器端执行搜索,代码改动仅需新增工具和设置标记。
- 与前缀缓存(prefix caching)兼容,延迟模式不会混入提示开头,保持缓存前缀稳定。
- 支持远程 MCP 服务器,对 mcp_server 工具设置 defer_loading 后,该服务器下的全部工具按需加载。
Tool Retrieval 还支持客户端检索模式(execution: "client"),适合自建工具注册表或权限过滤器的场景。该模式每次搜索增加一次往返,但工具无需预先声明,可在对话中途暴露新工具。定价方面,该功能无单独费用,输入输出 token 按调用模型的标准费率计费。此功能兼容 Gemini 3.6 及更高版本模型。
原文Introducing Tool Retrieval in the Gemini APIblog.google
#Google#Gemini API#开发者工具
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。