vLLM 为无置信头草稿模型支持自适应验证
热点事件持续更新
vLLM 为无置信头草稿模型支持自适应验证
1 篇报道1 个报道来源23 小时前更新
先了解这件事
AI 综述
vLLM 为没有 confidence head 的草稿模型补上了自适应验证（Adaptive Verification，AV）所需的置信度评分：在缺少置信头时，改用在线拟合的估计器从 drafter logits 推导特征，预测目标模型的接受概率，并直接作为 AV 的置信度。该功能来自 PR #52228，对无置信头的草稿模型需通过 enable_adaptive_verification 开启。 据 vLLM 说明，若草稿模型同时没有置信头、且其所有后端都支持变长注意力，在线估计器会被自动选用；此外目标模型的注意力后端必须支持变长验证。vLLM 称 MTP 和 EAGLE 从 AV 中的收益少于 DFlash 和 DSpark。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 08:00
vLLM 推出无需 confidence head 的自适应验证报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- vLLM 官方博客vLLM 推出无需 confidence head 的自适应验证
vLLM 为所有基于 draft model 的 speculator 类型支持置信度评分：在缺少 confidence head 时，用在线拟合的估计器从 drafter logits 推导特征，预测目标模型的接受概率并直接作为 Adaptive Verification 的置信度。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。