LlamaIndex 技术文档搜索：在复杂文档中快速找到答案
LlamaIndex 推出技术文档搜索方案，帮助工程与研发团队在规格书、SOP 和手册上构建智能体，实现即时准确的答案检索。方案包含规格搜索、版本对比、QA 文档阅读器和研发助手四项能力，底层由专为图表和表格等复杂文档打造的 LlamaParse 提供解析支持，并提供 Python 与 TypeScript SDK、API 及并行流水线以支撑企业级规模。
#RAG
#RAG
今日 10 条LlamaIndex：产品、工程与评测AI 评分2424 LlamaIndex：产品、工程与评测AI 评分2323 LlamaIndex 如何自动化发票处理、减少人工审核
LlamaIndex 面向财务与运营团队推出发票处理方案，用 LlamaParse 解析发票中的行项目、税额与总额，并通过 Validation Agent 对照采购订单核验、Approval Assistant 路由审批、Audit Tracker 生成合规记录。方案提供 Python 和 TypeScript SDK、API 及并行流水线，支持在仪表盘、API 或集成中复核监控。
LlamaIndex：产品、工程与评测AI 评分1818 LlamaIndex 如何加速财务尽职调查与合规审查
LlamaIndex 面向投资与审计团队，用 LlamaParse 解析合同、财务报表和合规文档中的表格与图表，并提取关键条款、汇总风险义务、比对不同实体的文件差异。其方案结合文档智能与智能体工作流，可上传文档、解析提取信息，再由智能体路由、校验、记录和通知，支持 Python 和 TypeScript SDK 及 API。
LlamaIndex：产品、工程与评测AI 评分1919 LlamaIndex 如何加速医疗与制药临床研究
LlamaIndex 面向医疗团队提供基于临床笔记、化验报告和研究文档构建智能体的方案，用于加速临床研究并提升患者护理与编码准确性。
LlamaIndex：产品、工程与评测AI 评分2020 LlamaIndex 如何为制造业打造文档智能体，减少停机时间
LlamaIndex 面向制造业推出基于技术规格、手册与合规文档的 AI 智能体方案，包含 Spec Navigator、Compliance Agents、Supply Chain Analyzer 和 Maintenance Assistant 四类应用，用于减少停机、简化 QA 并提升供应链可见性。
LlamaIndex：产品、工程与评测AI 评分2020 LlamaIndex 面向金融机构的文档智能体方案：合同、财报与研究文档自动化
LlamaIndex 推出面向金融机构的文档智能体方案，可在合同、监管申报文件和研究报告上自动完成合规、尽职调查与投资洞察。方案覆盖投资研究、KYC 与 AML、合同分析、审计与风险报告四类场景，依托 LlamaParse 解析含图表和表格的复杂文档，并为每个字段提供引用、可追溯性和置信度分数。
LlamaIndex：产品、工程与评测AI 评分2121 LlamaIndex 如何用 AI 智能体自动化保险理赔与核保
LlamaIndex 面向保险场景推出基于 AI 智能体的理赔与核保自动化方案，用 LlamaParse 解析 PDF、扫描表单和医疗记录等复杂文档，并支持欺诈检测与合规追踪。
LlamaIndex：产品、工程与评测AI 评分2020 金融分析师用 LlamaIndex 构建 AI 财务模型
金融分析师借助 LlamaIndex 与 LlamaParse 构建 AI 财务模型，将研究时间减少 80%。方案可高精度解析财务 PDF、提取营收、FCF、guidance 等结构化指标与 KPI，并总结财报电话会议记录、对比历史业绩。用户还能构建覆盖、报告与异常检测的自定义智能体，通过 Python 和 TypeScript SDK 及 API 接入。
Liquid AI 模型与工程博客（网页）AI 评分5353 Liquid AI 发布 LFM2-ColBERT-350M 多语言晚交互检索模型
Liquid AI 发布 LFM2-ColBERT-350M，一个基于 LFM2 骨干的晚交互检索模型，支持用一种语言存储文档、用其他语言查询检索。在扩展的 NanoBEIR 多语言基准上，其跨语言检索能力显著优于 150M 参数的 GTE-ModernColBERT-v1，尤其在德语、阿拉伯语、韩语和日语上；尽管模型体积更大，查询和文档编码吞吐与对方相当。
Liquid AI 模型与工程博客（网页）AI 评分5353 Liquid AI 发布 LFM2.5-ColBERT-350M 与 LFM2.5-Embedding-350M 双向检索模型
Liquid AI 发布两款 350M 参数多语言检索模型 LFM2.5-ColBERT-350M 和 LFM2.5-Embedding-350M，是 LFM 家族首批双向模型，支持 11 种语言的跨语言搜索。
Fireworks AI（网页）精选AI 评分6565 Fireworks AI 教程：以不到 $10 微调 Qwen3-Embedding-8B 嵌入模型
Fireworks AI 发布低成本嵌入模型微调方法，用 InfoNCE 对比学习在平台上微调 Qwen3-Embedding-8B，成本不到 $10、约 150 步。
推荐理由：原文给出用 Qwen3-Embedding-8B 做对比微调的完整配方和三个真实检索任务的实测数据，还总结了哪些场景不会有效。
Fireworks AI（网页）AI 评分3333 Fireworks 与 Voyage AI 合作：Voyage 4 系列嵌入模型原生上线
Fireworks 成为 Voyage AI by MongoDB 首个且唯一合作的专用推理平台，Voyage 4 系列、voyage-multimodal-3.5 与 rerank-2.5 现已原生运行于 Fireworks，检索到生成全流程可在同一 API 上完成。
Fireworks AI（网页）AI 评分5050 Fireworks AI：从租用闭源前沿模型到训练自有模型，企业迈向专业化智能的三阶段路径
Fireworks AI 发文梳理企业迈向专业化智能的三阶段路径：先租用闭源前沿模型并围绕其搭建提示词、上下文与 harness 工程，再引入更便宜的开源模型优化成本与延迟，最终为真正属于自己的问题训练定制模型。文中以 Kimi K3 与 GPT 5.6 Sol 在 OSWorld 2.0、UIPad 上的对比为例，说明基准只能用于初筛，自建评测才是性能的最佳指标。
Cohere Labs：官方研究博客AI 评分6262 Cohere Labs 发布 Embed 5 系列嵌入模型，含 Pro 与 Fast 两档
Cohere 发布 Embed 5 系列嵌入模型，含 Embed 5 Pro 和 Embed 5 Fast 两档，均支持 128K token 上下文、100+ 语言、文本与图像输入和共享嵌入空间，定价分别为每百万 token $0.12 和 $0.08。
Cohere Labs：官方研究博客AI 评分3333 Cohere 发布 Embed 5 系列前沿嵌入模型，Pro 与 Fast 两档上线
Cohere 推出 Embed 5 系列前沿嵌入模型，是其迄今最强的嵌入模型，现已提供 Pro 和 Fast 两个档位。同期 Cohere 还发布 North Small Translate 开源权重机器翻译模型，并提出衡量企业检索质量的 RCP-nDCG@10 新指标。
Baseten 工程博客（网页）AI 评分2121 Baseten 推出 Embeddings 推理服务：支持任意嵌入模型与弹性扩缩容
Baseten 上线 Embeddings 服务，可用任意嵌入模型快速处理数百万数据点，支持自定义 Docker 镜像、Truss 库和 Baseten Chains。该服务覆盖 BGE、Stella、SFR-Embedding、Nomic、NV-Embed、Voyage 等模型系列，面向语义搜索与推荐系统，提供五个 9 可用性、优化冷启动和弹性自动扩缩容，可缩容至零以节省成本。
Baseten 工程博客（网页）AI 评分1313 Baseten 解读 Compound AI：用多模型组合替代单体大模型
Baseten 工程博客提出 Compound AI 系统，主张用多个专用模型组合替代庞大的全能单体模型，以获得更快、更便宜的推理。该系统让模型之间直接互相调用，减少网络开销、额外延迟和出网成本，并让每个步骤独立使用自动扩缩容的 GPU。文中列举的典型场景包括 AI 电话呼叫、AI 智能体和 RAG 流水线。
Baseten 工程博客（网页）AI 评分1111 Baseten 大语言模型推理平台：支持 DeepSeek V3/R1 与 Llama 4 部署
Baseten 提供面向大语言模型的推理基础设施，支持部署 DeepSeek V3 0324、DeepSeek R1 0528（均为 671B 参数 MoE 模型）、Llama 4 Scout（109B 总参数）和 Llama 4 Maverick（400B 总参数）等模型。
Augment Code 博客（网页）AI 评分3939 Augment Code 打造 AI 数据分析师 Mimi：读取 Linear、Slack 和 GitHub，基于 dbt 模型回答团队提问
Augment Code 构建了名为 Mimi 的 AI 数据分析师，接入 Linear、Slack 和 GitHub，并从 Hex 认证报告与 dbt 模型（Mimir 仓库）取数回答团队提问。
Baseten Base Labs：模型研究AI 评分5555 Baseten 介绍 Google 300M 参数嵌入模型 EmbeddingGemma 及其调用示例
EmbeddingGemma 是 Google 基于 Gemma3 架构的 3 亿参数文本嵌入模型，在 MTEB 基准上为不到 5 亿参数的嵌入模型中质量最高，支持 100 多种语言、输入最长 2k token。页面给出使用 baseten_performance_client 的完整代码示例，包括各任务的 prompt 前缀和通过 PerformanceClient 调用生成嵌入的方法。
Baseten Base Labs：模型研究AI 评分2626 Qwen3 8B Reranker 重排序模型
Baseten Base Labs 发布 Qwen3 8B Reranker，用于对查询与文档做相关性判定，输出只能是 "yes" 或 "no"。示例通过 baseten_performance_client 的 PerformanceClient 调用 classify 接口，支持 truncate、batch_size 与 max_concurrent_requests 参数配置。
Eugene Yan：WritingAI 评分4040 Eugene Yan 用 LLM 做研究、反思与规划的实验
Eugene Yan 用 LangChain 结合 gpt-3.5-turbo、gpt-4、text-embedding-ada-002、Pinecone 和 Google 搜索 API，在 Discord 上搭出 /summarize、/sql、/search、/board 等助手。
Eugene Yan：WritingAI 评分5151 Eugene Yan 开源 Obsidian-Copilot：基于 RAG 的写作与周记复盘助手
Eugene Yan 发布 Obsidian-Copilot 原型，给定章节标题时通过 RAG 起草段落，并能对每日日记做一周复盘与下周规划，代码开源于 GitHub。
Eugene Yan：WritingAI 评分7272 Eugene Yan：构建基于 LLM 的系统与产品的七大模式
Eugene Yan 总结了将大语言模型集成到系统与产品中的七大实用模式：Evals、RAG、微调、缓存、Guardrails、防御性 UX 和收集用户反馈，按提升性能与降低成本/风险、靠近数据与靠近用户两个维度组织。
Eugene Yan：WritingAI 评分6060 Eugene Yan：如何将 LLM 模式匹配到具体问题
Eugene Yan 撰文讲解如何把 LLM 应用中的常见问题匹配到对应的解决模式。文章先区分外部与内部 LLM 的差异，再按问题逐一给出建议：用 evals 和用户反馈衡量性能，用 RAG 减少幻觉，用微调提升内部模型在特定任务的表现，用缓存应对延迟要求，用 guardrails 处理语法与语义错误，用防御式 UX 降低错误影响，并用监控追踪用户影响。
Eugene Yan：WritingAI 评分5757 Eugene Yan 详解抽象式摘要的评估方法与幻觉检测
Eugene Yan 撰文梳理抽象式摘要评估的四个维度（流畅、连贯、相关、一致），并分四类讲解指标：基于参考的 ROUGE、METEOR、BERTScore、MoverScore。
Eugene Yan：WritingAI 评分4040 AI Engineer Summit 2023 参会反思：LLM 系统落地的评测与成本难题
首届 AI Engineer Summit 上，Amplify Partners 对 AI Engineering 的调研显示，在 800 多份回复中，评测（evals）和推理服务成本被列为 LLM 部署的最大痛点。目前评测手段仍缺乏好方案，介于确定但脆弱的 assert 断言与昂贵随机的 3P LLM 打分之间，代码生成因可验证输出成为相对易评测的例外。RAG 短期不会消失，缓存降本则讨论寥寥。
Eugene Yan：WritingAI 评分4545 推送通知该推什么、不该推什么、频率多高：一份推荐系统视角的实践分析
推送通知可视为一种推荐系统，但与搜索和站内推荐不同，推送场景下用户意图并不明确，只能依据事件、促销或位置等触发条件猜测。Alibaba 发现，推荐互补商品（而非替代品）并说明推荐理由的个性化推送能提升打开率；DPG Media 则建议向用户解释收到通知的原因。推送还受时效性、单条只能突出一个商品、每日或每周推送上限等约束，过度优化即时反馈会损害用户长期满意度，甚至导致用户关闭通知或卸载应用。
Eugene Yan：WritingAI 评分2121 Eugene Yan 2023 年度回顾：LLM 写作、GenAI 转型与论文俱乐部
Eugene Yan 发布 2023 年度回顾，全年写下 20 篇文章、做了 5 个原型和 2 场演讲，其中 LLM 实验与 LLM patterns 两篇获得超 2 万阅读。他借助 GPT-4 辅助职业反思，并因内部原型 Dewey 表现良好而将工作重心转向 GenAI 计划，同时与朋友创办了 LM 论文俱乐部。
Eugene Yan：WritingAI 评分6262 Eugene Yan 发布 AlignEval：一个让 LLM 评测器构建更简单且部分自动化的应用
Eugene Yan 发布 AlignEval（aligneval.com），把构建 LLM 评测器简化为四步：上传含 input、output 列的 CSV，标注样本为 pass 或 fail，定义评测标准并运行 LLM 评测器，再用 dev-test 划分半自动优化。
Eugene Yan：WritingAI 评分4949 为什么 LLM-as-Judge 救不了产品，修流程才行
Eugene Yan 指出，指望再加一个工具、指标或 LLM-as-Judge 来解决产品问题，只会绕开核心难题、回避真正的工作。产品评估不是静态产物或速效药，而是把科学方法、评估驱动开发（EDD）和 AI 输出监控落到实处的实践：从观察数据、标注成败样本（理想为 50:50 的通过/失败分布）开始，再提出假设、设计实验、量化结果并迭代。
HuggingFace Daily Papers（社区热门论文）AI 评分4444 CorpusMap：用实体图谱为智能体搜索构建语料导航层
针对 LLM 智能体在扁平语料中反复重新发现文档关系、遗漏互补证据且消耗大量 token 的问题，研究者提出 CorpusMap——围绕文档中反复出现的实体构建导航层，将每个实体表示为 Entity Page 并链接所有提及它的文档，形成可遍历的实体-文档图。
Anthropic：Engineering（事故复盘 + 工程实践 · 网页）AI 评分7070 Anthropic 提出 Contextual Retrieval，将 RAG 检索失败率降低 49%
Anthropic 提出 Contextual Retrieval 方法，在嵌入前为每个文本块前置上下文说明，结合 Contextual Embeddings 与 Contextual BM25 将 top-20 检索失败率降低 49%（5.7%→2.9%），叠加 reranking 后降低 67%（5.7%→1.9%）。
arXiv：cs.AI（全量分类）AI 评分3333 BRIDGE：面向检索信用感知的双层智能体强化学习
BRIDGE 是一种内存高效的一阶双层优化方法，将检索器与 LLM 策略的联合训练建模为双层优化问题，以解决检索证据错误被错误归咎于 LLM 策略的"信息信用鸿沟"。在七个开放域 QA 基准上，BRIDGE 在 3B 和 7B 骨干下均取得最高平均准确率，多跳平均较最强基线分别提升 9.6 和 3.4 EM 点，并在医疗 QA 基准上取得最佳平均答案准确率与推理质量。
arXiv：cs.AI（全量分类）AI 评分3232 ARCagent：面向临床问答的自适应检索校准智能体
ARCagent 是面向 ME/CFS 临床问答的自适应检索校准智能体，在 LLM-as-Judge 评测中达到 95.3%，超过所有基线 LLM。它构建了 1,706 个文本块、10 个来源的知识库，并配有覆盖现有 ME/CFS 诊断框架的指南间冲突登记表，以及按查询焦点与冲突信号重排证据的校准流程。该评测避免了关键词匹配平均 10.1 个百分点的系统性低估，代码已开源。
arXiv：cs.AI（全量分类）AI 评分3939 用 LLM 引导剪枝改进最近邻图索引
研究者提出 LLM-Guided Graph Pruning（LGP）框架，用 LLM 推理直接优化已有 ANN 图索引，把结构上"低价值"的邻居替换为 LLM 选出的语义替代项，同时保留原图的稀疏性与可导航性。在 DiskANN 和 HNSW 等图索引上，LGP 在语义检索基准中端到端表现稳定优于贪心图搜索和 LLM 重排序。
arXiv：cs.AI（全量分类）AI 评分3737 PILLAR：面向增强检索的私有倒排索引词法查找
PILLAR 是一种基于私有信息检索（PIR）的隐私保护 RAG 系统，客户端可从服务器公开语料中取回与查询最相似的 k 篇文档，而服务器无法获知查询词项及其访问模式。
arXiv：cs.AI（全量分类）AI 评分3434 GeoOutageBench：面向多模态停电与韧性分析的歧义感知、本体驱动地理时空 KGQA 基准
研究者推出 GeoOutageBench，一个评估 LLM 地理时空 KGQA 的基准，其时空知识图谱融合停电记录、遥感、气象观测、风暴与电力事件、地理实体及领域本体等多模态数据。
arXiv：cs.LG（机器学习，全量分类）AI 评分4444 Mara Chain：把失败候选变成 AI 系统自进化垫脚石
Mara Chain 提出一种精炼流程，不再丢弃被拒绝的候选配置，而是保留并借助前序尝试积累的证据迭代精炼，每条精炼链限定固定深度，并用 Pareto 过滤的 Top-N 选择约束候选池。
arXiv：cs.CL（计算语言学，全量分类）AI 评分3939 MemFold：通过 On-Policy 优化为长上下文个性化学习紧凑软记忆
MemFold 将查询条件下的文本记忆压缩为 K 个连续向量作为读者记忆接口，并用任务结果的组相对奖励与置信门控的 on-policy 蒸馏训练读者自身 rollout，教师模型在推理时完全移除。