跳到正文

#产品更新

今日 9 条
9月30日周三
  1. LMSYS:Blog(Chatbot Arena 团队)65

    SGLang 与 Miles 为 Thinking Machines Lab 的 Inkling 提供Day-0支持

    SGLang 团队与 Thinking Machines Lab 合作,为 975B 参数、1M 上下文的多模态模型 Inkling 提供Day-0推理与 RL 支持,并为 Modal 训练的 DFlash 草稿模型提供投机解码。

    推荐理由:原文出自 SGLang 团队,给出针对 Inkling 新架构的具体优化手段和实测吞吐数字,读者可评估其对自建推理或 RL 流程的参考价值。

  2. LMSYS:Blog(Chatbot Arena 团队)67

    SGLang 为 Meta 30B 多模态模型 Muse Glimmer 提供 Day-0 支持

    SGLang 团队与 Meta Superintelligence Labs 合作,为 30B 参数多模态稠密模型 Muse Glimmer 提供 Day-0 支持,面向本地硬件上的智能体工作流推理。

    推荐理由:原文给出 Muse Glimmer 在 SGLang 上的多硬件部署方案和分平台实测数据,读者可据此评估本地智能体推理的可行配置。

  3. LMSYS:Blog(Chatbot Arena 团队)63

    SGLang 与 Miles 为 Qwen3.8-2.4T-A95B 提供 Day-0 支持

    SGLang 团队宣布与 Qwen、阿里百炼、NVIDIA 和 AMD 合作,在 SGLang 和 Miles 中于发布当日支持 Qwen3.8-2.4T-A95B,这是千问最大的开源模型,总参数 2.4T、每 token 激活 95B。

    推荐理由:原文给出 Qwen3.8 混合注意力架构的推理支撑细节和实测性能数字,读者可据此评估新模型在自建推理栈上的部署可行性。

  4. Liquid AI 模型与工程博客(网页)30

    Liquid AI 官方 FAQ:LFM 模型不提供自托管 API,开源权重与 LEAP 平台部署说明

    Liquid AI 表示目前不提供自托管 API,其 LFM 模型可通过 playground(免费限速)和 OpenRouter(付费更高限额)使用,全部模型可在 Hugging Face 直接下载。多数模型支持通过 LEAP 平台定制与部署,并提供本地推理与定制两套软件栈。年营收不超过 $10M 的组织可获商业使用豁免,超过则需联系销售团队定制定价。

  5. Liquid AI 模型与工程博客(网页)22

    Liquid AI 谈 Agentic AI:端侧智能体的三大挑战与协同设计路径

    Liquid AI 提出端侧 AI 智能体需模型与 harness 协同设计,以在内存、功耗和延迟的硬约束下实现主动式本地推理。其指出云端智能体依赖昂贵的前沿模型,任务越长延迟与 token 成本越叠加,而每次云端回退都会增加成本并把个人上下文送出设备。Liquid 称每个 LFM 都针对设备能力定制,通过本地推理循环持续收集屏幕、车内传感器等上下文,实现无需提示即可自主行动的主动式智能体。

  6. Liquid AI 模型与工程博客(网页)17

    Liquid AI 面向国防战术边缘的端侧 AI 方案

    Liquid AI 推出面向国防战术边缘的端侧 AI 方案,其多模态模型完全在设备本地运行,支持威胁检测、自主导航和实时 ISR,推理留在本地以保持速度和断网可用性。该方案针对国防场景的 SWaP 约束调优,适配手持设备、头显、地面车辆和小型 UAS 的 NPU 与 CPU,避免将敏感数据发送至云端带来的安全风险与 ITAR 违规。

  7. Liquid AI 模型与工程博客(网页)17

    Liquid AI 面向工业与机器人场景推出本地多模态 AI 平台

    Liquid AI 推出面向工业与机器人领域的本地 AI 平台,用硬件感知的定制多模态模型在现有设备上离线运行,为一线工人提供实时免手操作辅助。其智能体 LFMs 可打通 IT 与 OT 数据孤岛,跨 SCADA、PLC 和企业系统进行推理,实现实时分析、预测性维护与自主工作流。模型可直接运行在边缘 CPU、NPU、GPU 上,具备亚毫秒级响应。

  8. Liquid AI 模型与工程博客(网页)20

    Liquid AI 面向金融服务的实时智能模型方案

    Liquid AI 面向金融服务推出可在数据中心、边缘或云端运行的模型,驱动反欺诈、客服与风控等智能体工作流,主打低延迟和银行级隐私,成本仅为前沿模型的一小部分。其 SLM 完全托管在客户自有硬件上,数据不出本地,并按业务职能定制多个小模型而非一个通用 LLM。

  9. Liquid AI 模型与工程博客(网页)16

    Liquid AI 面向电商的定制多模态 AI 模型:语义搜索、站内智能体与商家 Copilot

    Liquid AI 推出面向电商行业的定制多模态 AI 模型,以毫秒级响应支撑语义搜索、站内智能体和商家 Copilot。其意图原生搜索可理解自然语言、图像查询与结构化筛选,并实时调用商家 API 返回商品;站内智能体接入购物车、结账、订阅、订单状态等 API,可引导客户并完成购买流程。商家侧 SLM 基于分析数据、营销活动和商品目录训练,用于总结表现、建议行动并生成商品调整。

  10. Liquid AI 模型与工程博客(网页)18

    Liquid AI 面向消费电子设备的端侧 AI 方案

    Liquid AI 面向消费电子厂商推出端侧 AI 方案,其高效 SLM 可为 PC、智能手机、智能扫地机器人等设备定制适配 NPU、CPU、RAM 和功耗的模型,无需新芯片即可实现智能通知、离线助手和功耗摘要等功能。该方案支持调用厂商自有 API 以打开应用、修改设置并编排设备功能,仅在复杂推理时交由云端 LLM 处理,同时以单一多模态模型覆盖文本、音频和视觉。

  11. Liquid AI 模型与工程博客(网页)21

    Liquid AI 面向汽车行业的本地多模态车载 AI 助手方案

    Liquid AI 推出面向汽车行业的车载 AI 助手方案,其多模态模型完全运行在量产车已有的 CPU 和 NPU 上,无需云端依赖或新增硬件。方案采用边缘优先的 SLM 与混合智能体架构,单个模型支持 20+ 种语言,速度达现有方案的 5 倍,可实现亚秒级响应与自然语音、座舱视觉交互。

  12. Liquid AI 模型与工程博客(网页)30

    Liquid AI 发布五套 LFM 本地部署方案演示

    Liquid AI 展示五套基于 LFM 的可运行系统,每套将微调后的 Liquid 模型部署在手机、边缘 GPU 或用户自控 VPC 中,支持断网运行。模型覆盖文本、视觉与音频,量化与推理引擎按目标硬件联合选型并在用户实际硬件上做性能剖析。训练在单张 GPU 上数小时完成,并以留出集评分。

  13. Goodfire Research(网页)11

    Goodfire Research 的 Silico 企业版开放演示申请

    Goodfire Research 为 Silico 推出企业版,团队可在前沿基础设施与算力上运行长周期、异步实验。页面提供演示申请入口,提交后团队会通过邮件跟进是否符合合作条件,同时可查看研究人员在 Silico 上运行的项目。

  14. Cursor Blog63

    Cursor 推出构建,云端智能体启动速度最快提升至 3 倍

    Cursor 推出构建功能,在后台预先准备可直接使用的开发环境副本,智能体启动即可运行,无需额外费用。默认每小时创建一次新构建,环境损坏时智能体沿用上一次成功构建;Cursor 内部环境启动速度提升 10 倍、首个 token 生成速度提升 3 倍。8 月 17 日起所有新建和现有环境将默认启用构建。

    推荐理由:官方原文给出启动速度倍数、构建频率和失败回退机制,读者可据此评估其对云端智能体工作流的影响。

  15. Claude:Blog(网页)71

    Claude Marketplace 上线 340 个插件支持一键安装

    Claude 推出插件市场,收录 340 个插件,可一键安装为 Claude 添加工具、技能和集成。示例包括 GitHub 官方 MCP 服务器、Playwright 浏览器自动化、Figma 设计转代码、Supabase、Vercel 集成,以及代码审查、语言服务器和 CLAUDE.md 维护等开发类插件。

    推荐理由:页面列出了插件市场的主要品类和代表性插件,读者可以据此了解 Claude 现有可扩展能力的范围。

  16. Claude:Blog(网页)70

    Claude Artifacts 功能页详解:Claude Design、Claude Slides 与 Claude Docs 开放 beta

    Claude 介绍 Artifacts 功能,可在对话旁生成设计、演示文稿、文档、仪表盘或小型交互工具,支持画布编辑、链接分享(默认私有)和导出为 PowerPoint、PDF、HTML 等格式。

    推荐理由:官方页面对 Artifacts 及 Claude Design、Claude Slides、Claude Docs 的功能、协作与导出方式做了较完整说明,便于了解可用范围。

  17. Claude:Blog(网页)65

    Claude Code Projects 改版:从文件夹到多线程对话协调

    Anthropic 改版 Claude Code 的 Projects 功能,用户描述目标后由 Claude 负责拆解任务、并行协调多个线程、审查输出并汇总结果,例如按仓库开线程迁移调用、跑测试并开 PR。

    推荐理由:官方介绍了 Projects 从文件夹到对话的改版机制,读者可以了解多线程协调与共享记忆如何改变 Claude Code 的长任务工作流。

  18. Claude:Blog(网页)50

    Anthropic 销售团队如何用 Claude Managed Agents 重建入站销售流程

    Anthropic 销售团队基于 Claude Managed Agents(beta)构建了一个购买智能体,每天承接数千次对话,将客户从咨询直接引导至结账。该智能体转交的线索转化为商机的概率是旧表单的两倍以上,成交速度快约五天,且客户可选择与智能体或销售代表沟通。一名工程师用几周时间完成初版,销售与内容团队可直接在 Console 中修改系统提示词,上线后每周持续迭代提示词。