论文称自改进系统安全性无法算法验证

Jose Pascual Gumbau Mezquita 发布论文《固定与递归自改进系统安全性的算法不可验证性》第4版，主张对能改写自身代码、递归自我改进的系统，其安全性无法在自我改写后仍被提前算法证明。 论文把一步自我修改建模为代码的可计算变换：若该变换只依赖行为，安全性保持可归结为 Rice 定理；若变换会读取代码，则判定难度至少等同于停机问题；而沿整条改进轨迹的安全性持续，难度可能再高出一个算术层级。 v4 版压缩并重组了内容，把静态限制收敛到一节，新增关于会变化的性质以及正向、负向扰动的说明，并扩展了相关工作，重述了监督方面的结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。