跳到正文

#教程/实践

今日 6 条
9月9日周三
  1. Mistral AI:News(网页)54

    Mistral 如何用 AI 智能体迁移 4 万行 Fortran 77 遗留代码

    Mistral 帮助一家欧洲能源运营商将 4 万行 Fortran 77 的油藏模拟器迁移到 C++,该代码库没有测试套件和集中文档。团队先搭建数值对齐校验框架,用自定义解析器生成调用树并借助 Vibe CLI 启动上百个智能体补文档,最终采用人工把关的 coder、tester、reviewer 智能体工作流逐模块迁移。

9月8日周二
  1. vLLM 官方博客(RSS)45

    GLM 5.3 优化第一部分:vLLM 中的 Hybrid HiSparse 卸载

    vLLM 为 GLM 5.3 引入 Hybrid HiSparse 卸载机制,在单台 8× H200 节点上首次实现 100 万上下文长度运行,并在各上下文长度下大幅提升并发量。该机制基于稀疏 MLA 的 top-K 选择,将未被选中的 KV cache 卸载至 CPU,仅在 KV cache 承压时才付出 CPU-GPU 传输代价,热缓冲页与常驻页共用同一 HMA 块池。

9月5日周六
  1. Sierra:Blog(RSS)45

    呼叫中心 AI 落地运营指南:如何规划部署与扩展

    Sierra 发布呼叫中心 AI 运营与推广指南,主张把 AI 部署当作运营模式变革而非单点演示,需在迁移流量前设定基线与扩展标准。指南覆盖语音、消息、邮件等渠道,Sierra 支持单一智能体跨渠道部署,Voice 支持呼入呼出、语音模拟、多语言与带上下文升级。落地需围绕路由与队列行为、人力排班、人机质量校准等环节设计运营模型。

  2. NVIDIA Technical Blog(开发者技术博客 · RSS)34

    NVIDIA Jetson 如何部署与优化前沿推理模型

    NVIDIA 发布技术指南,介绍如何在 Jetson 边缘设备上部署和优化具备多步推理能力的模型。此前这类模型体积过大,无法在边缘硬件本地运行,开发者只能将推理请求路由至数据中心,带来网络依赖、成本上升与数据外泄风险。该指南称这一限制正在被打破。

9月4日周五
9月3日周四
  1. Hugging Face:Blog(RSS)63

    Hugging Face 教程:用 TRL 对 LFM2.5-350M 做 100 步 GRPO 微调提升结构化输出

    Hugging Face 发布教程,用 TRL 库对 LiquidAI/LFM2.5-350M 做 GRPO 微调,仅用约 500 个样本和 100 步训练,将其在 IFStruct benchmark 上的通过率从 22.6% 提升到 29.7%。

    推荐理由:教程给出完整可复现的低成本 GRPO 微调流程和逐项评测数字,读者可以照着在免费 GPU 上复刻这一结构化输出改进方法。

9月2日周三
  1. NVIDIA Technical Blog(开发者技术博客 · RSS)22

    用 NVIDIA Nemotron 构建自适应智能体网络安全系统

    NVIDIA 发布技术博客,介绍如何用 NVIDIA Nemotron 构建自适应智能体网络安全系统。文章指出,当前多数安全智能体实现仍依赖既有告警、预定义工作流和已知攻击行为,更难的问题在于识别防御盲区并将其转化为改进。

9月1日周二
8月27日周四
8月26日周三
  1. Hugging Face:Blog(RSS)76

    Sentence Transformers v6.0 教程:用 MultiVectorEncoder 训练和微调多向量嵌入模型

    Sentence Transformers v6.0 引入 MultiVectorEncoder 模型类型,这篇教程完整演示如何训练和微调 ColBERT 式多向量模型,涵盖模型、数据集、损失函数、训练参数和评估器。

    推荐理由:原文给出完整可复现的多向量模型微调配方和实测对比,读者可以按组件迁移到自己的领域数据上。

8月25日周二
  1. Hugging Face:Blog(RSS)70

    Gradio gr.Workflow 指南:用节点图搭建并部署 AI 工作流

    Hugging Face 发布 gr.Workflow 实用指南,介绍 Gradio 内置的工作流功能:用户把步骤描述为带类型的节点图,Gradio 提供可拖拽画布,每个节点可单独运行、中间结果可见,同一张图自动成为 REST API 并可一键部署到 Hugging Face Spaces。

    推荐理由:原文给出 gr.Workflow 的节点图构建、REST API 调用和 Spaces 部署的完整示例,读者可直接 Duplicate 改造成自己的流程。

8月24日周一
  1. NVIDIA Technical Blog(开发者技术博客 · RSS)24

    NVIDIA DSX MaxLPS 如何最大化 AI 工厂每瓦性能

    NVIDIA 发布 DSX MaxLPS,用于提升 AI 工厂的每瓦性能。AI 工厂是受功耗约束的工业系统,对 AI 推理负载而言,应用层每瓦性能已成为衡量 AI 工厂效率的关键指标,因为配电、冷却等环节会消耗部分兆瓦电力,并非每兆瓦都能转化为产生收入的算力。

8月23日周日
8月22日周六
  1. NVIDIA Technical Blog(开发者技术博客 · RSS)26

    NVIDIA 用 GPU 加速的 AdaptGrow 实现大规模金融工具聚类

    NVIDIA 提出 GPU 加速的矩阵分解算法 AdaptGrow,可将滚动相关性与尾部依赖矩阵转化为硬聚类、软因子载荷和结构突变信号,支持单 GPU 与多节点规模。该算法面向量化策略中的投资组合构建、风险聚合、统计套利与交易监控等场景,错误的工具分组会带来问题。

8月21日周五
  1. NVIDIA Technical Blog(开发者技术博客 · RSS)40

    NVIDIA 谈安全在 AI 智能体栈中的位置

    NVIDIA 的 AI 安全团队结合与 NVIDIA OpenShell、智能体开发者、开源项目及生态伙伴的合作,阐述了对新兴 AI 智能体栈的看法,包括各层所扮演的角色。随着 AI 智能体能力增强、运行周期变长,在其驱动的应用中内建安全与信任变得愈发重要。

  2. Hugging Face:Blog(RSS)62

    Hugging Face 解析 Papers with Code 混合搜索背后的架构实践

    Hugging Face 详解 Papers with Code 论文搜索引擎的架构:用 PostgreSQL 全文检索加 pgvector 语义召回,经加权 RRF 融合为混合搜索,已为超过 11 万篇 arXiv 论文维护嵌入向量。

    推荐理由:作者亲述 Papers with Code 混合搜索的架构与生产经验,读者可以借鉴其离线批量与在线查询分离的设计方法。

  3. NVIDIA Technical Blog(开发者技术博客 · RSS)25

    生成式推荐系统如何重新定义大规模 RecSys

    生成式推荐系统正把 RecSys 从传统嵌入向量相似度目标转向生成式目标,即根据用户历史序列预测大目录中的下一个动作或物品。NVIDIA 技术博客指出,RecSys 是消费互联网中最普遍却极难大规模训练与服务的机器学习问题之一,LLM 的出现推动了这一范式转变。

8月20日周四
  1. NVIDIA Technical Blog(开发者技术博客 · RSS)31

    用 NVIDIA FLARE 构建联邦多模态 AI 工作流

    NVIDIA 发布技术博客,介绍如何用 NVIDIA FLARE 构建联邦多模态 AI 工作流,在数据无法集中到一处的情况下跨数据本地站点协调视觉语言模型(VLM)训练。VLM 可支持视觉问答、图像描述和图文推理等任务,而联邦学习为这类分布式数据场景提供了训练协调方案。

8月19日周三
8月18日周二
  1. Hugging Face:Blog(RSS)33

    同一集群利用率提升 33 个百分点:约束感知 GPU 分配器如何改变分配顺序

    一个约束感知 GPU 分配器在相同硬件与负载下,相比 FIFO 调度器将 GPU 利用率最多提升 33 个百分点,优先级加权产出在全部场景中上升,最高增幅 105%。在五个真实争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值平均增长 52%。该分配器把实时推理需求当作随时步变化的曲线而非全天峰值预留,并按优先级在整个调度周期内放置批式任务。

8月14日周五
  1. Sierra:Blog(RSS)39

    Sierra 谈智能体时代的纵深防御:如何用 AI 守护 AI

    Sierra 提出在基于目标与护栏构建的智能体上沿用纵深防御原则,让每条客户消息在回复前经过内容、规则与政策、Supervisor 模型、确定性护栏等多层检查,单条消息可触发多达六项校验。Sierra 还通过第三方对抗评估与红队测试、平台级 Threat Detection 与单智能体 Agent Monitors 持续监控,并用 Simulations 在上线前压测护栏回归。

8月13日周四
8月7日周五
8月3日周一
8月1日周六
  1. Together AI 研究与产品博客(RSS)82

    Together AI 发布 Kimi K3 开发者完整指南

    Together AI 发布 Kimi K3 开发者指南。Kimi K3 是 Moonshot AI 的 2.8 万亿参数开源权重模型,支持 1M 上下文、KDA 与 AttnRes 架构,API 兼容 OpenAI,定价为缓存命中输入每 1M token $0.30、未命中 $3.00、输出 $15.00。

    推荐理由:Together AI 官方上手指南,覆盖 Kimi K3 的架构要点、推理与缓存等 API 细节和定价,便于开发者直接接入生产。

7月29日周三
7月23日周四