arXiv 发表自归一化 KL 估计通用界论文

Buu Phan、Lester Mackey 和 David Alvarez-Melis 在 arXiv 发表论文，为基于归一化重要性权重构建的 KL 散度熵估计器证明了通用有限样本界：无论样本量多少，其期望超出目标-提议 KL 散度至多 log 2，且不要求重要性权重有界或高阶矩有限。 作者进一步刻画了重要性加权重采样分布与提议分布之间的 KL 散度上界，并将结果应用于 Soft Best-of-N 采样和相对熵编码，得到有限样本策略散度证书与无矩编码代价界。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。