← 返回全部情报
Google ADK:用流式工具与 response_scheduling,让语音 agent 在慢工具时不再「死机静音」 的封面

·Blog·工程博客收录 2026-10-20

Google ADK:用流式工具与 response_scheduling,让语音 agent 在慢工具时不再「死机静音」

ADKGemini Live流式工具语音 agentNON_BLOCKING

一句话结论

Google ADK 通过把工具改成 yield 的 AsyncGenerator(标记 NON_BLOCKING)并配合 response_scheduling(WHEN_IDLE / INTERRUPT / SILENT),在 gemini-3.8-live 销售报表基准上把首词时间从阻塞式约 14.4 秒降到流式工具约 1.2 秒,避免语音会话在慢 DB/RAG 时出现十几秒死静音。

打开原文 Google Developers Blog:Voice agent that never goes silent with ADK

背景与理念

语音里等 13 秒的 DB/RAG,等于 13 秒死气;用户会直接挂断。传统阻塞工具让模型必须等整段结果返回才能开口。

作者要解决的是「慢工具存在时,agent 如何仍保持可听的对话节奏」。手段不是假装工具变快,而是边跑边说话、并规定结果何时插入对话。

具体做法

  1. 模式一:把 return 改成 yield AsyncGenerator。ADK 会标记 NON_BLOCKING,立刻回确认,并在过程中 yield 进度。
  2. 模式二:单次 yield 的 generator,或带 response_scheduling 的 FunctionTool。调度取值 WHEN_IDLE(等自然停顿)、INTERRUPT(打断当前句子)、SILENT(只更新上下文、不读出)。
  3. 流式与调度可组合。ADK 2.8+ 可以 yield 带「每次更新各自调度策略」的 FunctionResponse。
  4. 取消语义要分清。stop_streaming 会取消 generator;用户抢话(barge-in)默认不会取消正在跑的工具。
  5. 版本与运行时要求。需要 google-adk>=2.10.0、gemini-3.8-live,以及 run_live 双向会话。

关键数据/例子

基准(gemini-3.8-live 销售报表):阻塞工具 → 首词约 14.4 秒;流式工具 → 约 1.2 秒。问题动机里的「13 秒 DB/RAG = 13 秒死静音」与该基准同一类延迟。

调度语义可核:WHEN_IDLE / INTERRUPT / SILENT;ADK 2.8+ 支持按更新附带 scheduling;正式示例依赖 google-adk>=2.10.0 与 run_live。抢话不取消工具,这一点对「后台继续查、前台继续聊」很关键。

创新点

第一,用 NON_BLOCKING 流式工具把「工具还在跑」变成可播报的进度,而不是静音死等。第二,用 WHEN_IDLE / INTERRUPT / SILENT 显式规定结果何时进入话轮。第三,区分 stop_streaming 与 barge-in 的取消语义,避免用户插话误杀后台工具。

可否复用

  1. 语音场景里把超过约 1–2 秒的工具改成 AsyncGenerator + NON_BLOCKING,先回确认再推进度。
  2. 按产品语气选择 WHEN_IDLE / INTERRUPT / SILENT,不要默认打断用户。
  3. 升级到 google-adk>=2.10.0,并在 run_live 双向会话里测首词时间。
  4. 文档化「抢话不取消工具」,需要真正取消时显式走 stop_streaming。

笔记会在输入时自动保存。