Google 博客介绍轻量分类器路由 Gemini 模型

Google Developers Blog 发布技术博客，介绍用轻量分类器按任务难度，把请求路由到不同 Gemini 模型和思考等级，避免简单任务也调用昂贵推理模型，以降低每个成功任务的成本。博客称，衡量生产成本应看每成功任务成本，而非每 token 价格；Agent Platform Context Caching 可缓存内容块，重发费用减少 75% 至 90%；自托管模型按 GPU 小时而非 token 计费。 该结论来自一次小规模实测：每种配置只运行一次，使用 50 条人工标注难度、简单自动评分的提示词。博客称基准代码将在开源审核后发布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。