跳到正文
热点事件持续更新

研究提出LLM-as-a-Judge推理时扩展可解析模型

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Indranil Halder 与 Cengiz Pehlevan 发表论文,提出一个可解析的推理时扩展模型——带奖励加权采样的贝叶斯线性回归,用于刻画 LLM-as-a-Judge 场景。 该模型给出的结论是:当奖励与教师模型差距不大时,泛化误差随推理采样数 k 单调下降;但奖励严重错配时存在有限的最优 k,超过后更多采样反而增大误差。在“best-of-k”极限下,以教师为奖励时泛化误差按 Θ(1/k²) 衰减,且任务难度上升会削弱推理时算力的优势。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    解析 LLM-as-a-Judge:面向推理时扩展的可解析模型

    研究者提出一个可解析的推理时扩展模型——带奖励加权采样的贝叶斯线性回归,用于刻画 LLM-as-a-Judge 场景。当奖励与教师模型差距不大时,泛化误差随推理采样数 k 单调下降;但奖励严重错配会带来有限的最优 k,超过后更多采样反而增大误差。在"best-of-k"极限下,以教师为奖励时泛化误差按 Θ(1/k²) 衰减,且任务难度上升会削弱推理时算力的优势。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。