SQUELCH：无路由器rank-one LoRA专家混合

Mei Okonkwo 等作者发布预印本论文，提出 SQUELCH——一种无路由器的秩一 LoRA 专家混合方法。该方法对每个 token 的响应按其自身稳健噪声水平的倍数做软阈值，使激活秩随 token 变化。 作者称，SQUELCH 不增加 LoRA 的可训练参数。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。