UNREAL：单一模型统一检索与长上下文

Edan Kinderman 等作者发布论文，提出 UNREAL 框架，把一个模型原生的证据选择机制同时用于语料检索和长上下文推理：它从冻结 LLM 的内部表示中直接编码文本块并生成检索查询，只新增不到 500K 可训练参数，不改动主干。 作者称，在 3B token、2100 万文本块的 Wikipedia 索引上，四种稠密与混合 UNREAL 主干在实验结果中都优于现有检索器-重排器系统；相对完整上下文推理，UNREAL 从约 32K token 起降低 FLOPs 和首 token 时间，上下文越长收益越大。这些均为论文自述结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。