端侧语音Agent提出推测式工具执行方法

研究者 Kyudan Jung 等人提出面向端侧级联语音智能体的推测式工具执行方法：由 Predictor 模块从部分 ASR 假设中预测工具调用，在用户还在说话时提前执行并缓存结果，再注入 LLM 提示词。论文称，该方案旨在降低端到端响应延迟，并给出 Android 语音助手实测。 该方法针对的是端侧级联语音Agent的工具延迟问题，目前结论以论文自述为准。 研究已提交发表。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。