论文探讨语言模型与Solomonoff归纳的继承边界

一项新发表的理论研究指出，任何可计算模型都无法在统一意义上逼近 Solomonoff 归纳：每个模型都有其永远学不会的“廉价环境”，且任意一致可计算预测器族中都存在一个环境，使其成员在超出各自索引的视界后失败，因此“更接近”只能逐点成立。 该研究由 Luan Ozelim、Abicumaran Uthamacumaran 与 Hector Zenil 完成，基于算法信息论、通用预测与贝叶斯一致性等已知结果，分析语言模型能从 Solomonoff 归纳中学到什么，并讨论局限、可达成属性与 served conditionals 的启示。 结论意味着，语言模型与 Solomonoff 归纳之间的关系不是整体逼近，而只能在具体环境上逐点成立。上述结论来自论文自身的理论推导，尚未见独立的复现或实证检验。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。