研究：自回归token顺序采样器表达能力受限

一项新研究从电路角度分析自回归 token 生成：把“仅凭前序符号和少量状态采样下一符号”的机制定义为顺序采样器，证明带 k bits 状态的顺序采样器可被无状态采样器以约 O(2^k) 规模开销模拟。 由此得出两点结论：高效插入式采样（Stern 等，ICML 2019）强于任意固定顺序的高效顺序采样；小状态顺序采样器无法建立某些形式的隐蔽密码信道，这被视为防范恶意 LLM 智能体间潜意识协同的潜在安全机制。 上述结论来自论文作者的理论分析，尚待同行评议与后续验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。