研究者提出ReSAE解释扩散模型

Calvin Yeung等研究者提出残差化时序稀疏自编码器（ReSAE），用于解释扩散模型。该方法拟合相邻时间步之间的线性预测器，用初始激活和线性动态无法解释的残差表示扩散模型的激活轨迹，据作者称等价于在线性动态诱导的度量下对原始轨迹训练SAE。 在Stable Diffusion 1.5和Diffusion Transformer上的结果显示，ReSAE特征覆盖整条去噪轨迹，并能定位变化进入的时间点，可用于研究扩散模型如何随时间生成图像。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。