arXiv发布主动助手对齐愿景论文

arXiv 的 cs.AI 分类发布了一篇愿景论文，提出用不确定性估计改进主动式智能助手（PSA）的对齐。论文称，这类助手目前主要依赖预测用户偏好的似然，缺少助手对预测有多确定、置信来自群体假设还是个人数据、模糊性反映偏好固有变化还是情境数据不足等信息；作者主张不确定性估计能补上这些信息并显著改变下游行为。 需要说明的是，这是论文提出的主张，尚非已验证的效果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。