论文提出浮点偏置加法中的logit数值侧信道

Shaomin Chen 与 Xiaorui Gong 发表论文，指出语言模型 API 在处理浮点偏置加法时存在数值侧信道：即使两个得分向量对应的未扰动完整对数概率相同，仅凭返回的 token 身份也能把它们区分开。 在设定的 binary32 算术假设下，且已知可达分数区间时，该方法最多用 52 次 token 查询即可精确恢复一对 logit 及其未知的平局优先级。作者在 7 个模型家族的 11 个公开检查点上评估了这一恢复方法，并用自适应区间搜索和锚点选择将其扩展到端到端场景；在 vLLM、SGLang 等系统中，对 Qwen3-0.6B 的 128 个输入（含 64 个留出输入）自适应恢复全部成功。论文同时提出一种缓解措施，称受控实验中该措施消除了常见的移位变体间所有已观察到的差异，并在测试的随机偏置下保持 token 决策不变。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。