东锡NLP发布reward model原理长文
热点事件持续更新
东锡NLP发布reward model原理长文
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
马东锡 NLP（@dongxi_nlp）发布后训练系列第五篇长文，讲解 reward model 如何从人类偏好选择中学习打分。文章以 OpenAI 开放权重模型 gpt-oss-120b 和 gpt-oss-20b 的回答比较为例：标注数据只记录 chosen 与 rejected，Bradley-Terry 模型把分差经 sigmoid 转为概率，损失为 −log σ(分差)。 作者称 reward model 是 Bradley-Terry 的“倒影”，文章围绕选择如何变成损失、损失如何改变网络、网络结构以及 RM 在训练中还学到什么展开，并自评内容“非常干”。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 16:28
马东锡 NLP 系列第五篇：Reward Model 解析报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- 马东锡 NLP马东锡 NLP 系列第五篇：Reward Model 解析
马东锡 NLP 发布 Post Training 系列第五篇，主题为 Reward Model，称其是 Bradley-Terry 的倒影。文章围绕选择如何变成损失、损失如何改变网络、网络结构长什么样，以及 RM 在训练中还学到了什么展开，作者自评内容“非常干”。
- 马东锡 NLPReward model 原理详解：从 Bradley-Terry 到分数输出
本文是后训练系列第五篇，讲解 reward model 如何从人类偏好选择中学习打分。文章以 OpenAI 开放权重模型 gpt-oss-120b 和 gpt-oss-20b 的回答比较为例，说明标注数据只记录 chosen 与 rejected，Bradley-Terry 模型把分差经 sigmoid 转为概率，损失为 −log σ(分差) 的 cross-entropy。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。