免训练框架KITE实现关键层KV高效通信

Dongsen Zhang等作者提出免训练框架KITE，用于隐式多智能体协作中的键值（KV）通信。该框架把隐式通信目标从发送端状态保真改为接收端任务充分性，通过接收端轨迹失真准则识别任务有效的关键层，只传输该层的隐式工作记忆，并以其作为自回归隐式推理入口。 作者称，在两类模型家族、三种模型规模共七个基准上，相比全层KV通信，KITE通信量减少28至36倍，端到端推理最高加速3倍，准确率最多提升23.3个百分点。上述效果为论文报告结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。