Liquid AI 发布 LFM2.5-Encoder-230M 与 350M 双向编码器，长上下文 CPU 推理提速
Liquid AI 发布基于 LFM2 混合架构的双向编码器 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M，支持 8,192 token 上下文，面向分类、自然语言理解和 token 级任务微调，模型已上线 Hugging Face。
#端侧
#端侧
今日 1 条Liquid AI 模型与工程博客（网页）AI 评分5454 Liquid AI 模型与工程博客（网页）精选AI 评分7272 Liquid AI 发布端侧智能体模型 LFM2.5-2.6B
Liquid AI 发布 LFM2.5-2.6B，一个可完全在设备端运行的 2.6B 参数智能体模型，Base 与后训练版本已在 Hugging Face 开放。
推荐理由：原文给出完整的四阶段后训练流程、多基准对比和 CPU 与手机端实测速度，读者可据此评估它对端侧 Agent 部署的适配度。
Claude：Blog（网页）AI 评分4040 Anthropic 为 Apple Foundation Models 框架推出 Claude Swift 包
Anthropic 发布 Swift 包，让 Apple 开发者通过 Apple 的 Foundation Models 框架调用 Claude 处理多步推理、代码生成等复杂任务。
Tomer Tunguz 博客（VC 分析）AI 评分4949 AI 的迷你钢厂：本地分类器分流让 Mac 承担 78% 的 AI 工作
把后台 AI 工作先交给设备端小型分类器判断难易，只将最难任务上送云端，单台 Mac 的吞吐量提升约 25%，队列等待从 73 秒降至 4 秒。过去七天该 Mac 承担了 78% 的 AI 工作、日峰值达 88%，平均任务时长从 47 秒降到 19 秒。作者将其类比 Nucor 的迷你钢厂，认为配备蒸馏模型的笔记本、手机与边缘设备将成为企业内的“迷你钢厂”，只按云端价格支付最难的那五分之一。
Black Forest Labs：Blog（网页）AI 评分5252 Black Forest Labs 与 ASUS 合作，FLUX.2 [klein] 4B 预装到 ProArt 笔记本实现端侧图像生成
Black Forest Labs 宣布 FLUX.2 [klein] 4B 将预装在 ASUS 下一代 ProArt RTX 笔记本的 MuseTree 应用中，该产品线在台北 Computex 2026 上亮相。
Tomer Tunguz 博客（VC 分析）AI 评分5959 Ollama 完成 6500 万美元 B 轮融资，用户达 890 万开发者
Theory Ventures 领投 Ollama 的 6500 万美元 B 轮融资，Benchmark、YC 等参投。
Tomer Tunguz 博客（VC 分析）精选AI 评分7070 Tom Tunguz 实测 Qwen3.8-27B 本地模型， birds fly like bumblebees 而非飞机
Tom Tunguz 用 25 个 VC 任务对比 DeepSeek V4 云端模型与两个本地模型，judge 模型盲评显示三者质量接近（8.0 左右），但路径不同。
推荐理由：作者以 25 个真实 VC 任务实测云端与本地模型，用质量、token 用量和延迟数据解释小模型靠更多推理弥补知识差距。
Tomer Tunguz 博客（VC 分析）精选AI 评分6464 Tom Tunguz：intelligence-per-watt 将推动数据中心走向个人化
Tom Tunguz 引用 Stanford 与 Together AI 的研究，提出 intelligence-per-watt 将像当年的 performance-per-watt 一样推动 AI 从云端走向端侧。
推荐理由：原文引用研究数据解释 intelligence-per-watt 趋势如何推动 AI 向端侧迁移，并给出本地加路由方案相对全云的能效与成本收益。
Google Developers Blog（RSS）精选AI 评分6666 Google 发布在 Raspberry Pi 5 上用 LiteRT 部署 Gemma 的端侧 AI 指南
Google 介绍如何在 Raspberry Pi 5 上用 LiteRT 和 Gemma 模型实现完全离线的实时端侧 AI，并以 Reachy Mini 机器人演示目标检测、语音识别、推理和语音合成的完整本地流水线。
推荐理由：原文给出 Gemma 各型号在 Raspberry Pi 5 上的实测数据和完整部署流程，读者可以据此选择合适的端侧模型并复现本地推理。
Preferred Networks：AI 研究与产品AI 评分4141 PFN 与丰田前沿研究中心联合研究，用 MN-Core L 系列处理器加速 Physical AI
Preferred Networks（PFN）与丰田汽车前沿研究中心（FRC）启动联合研究，用尚在开发中的 MN-Core L 系列 AI 处理器加速 Physical AI 推理。
Preferred Networks：AI 研究与产品AI 评分2525 Preferred Networks 的 PLaMo 生成式基础模型系列
Preferred Networks（PFN）从零自研的日本大语言模型 PLaMo，主打日语理解与生成能力，旗舰版 PLaMo Prime 以紧凑模型规模提供世界级日语性能，可通过云端 PLaMo API（付费）和 PLaMo Chat 使用，并借 Amazon Bedrock Marketplace 支持本地部署。
NVIDIA AI BlogAI 评分5050 NVIDIA 联合本地 AI 社区推动开源模型与智能体发展
NVIDIA 在 8 月举办本地 AI 博客专题，联合 Perplexity、MiniMax、DeepSeek、Poolside AI 等伙伴推进可在本地运行的开源模型与智能体。
Meta AI：Blog（网页）AI 评分3232 Meta AI 模型 DINOv3 与 SAM 如何助力匹兹堡大学改造辅助机器人
Meta 的 DINOv3 与 SAM 正被匹兹堡大学 RAMMP 项目用于辅助机器人，在电池供电的边缘设备上实现实时环境感知。RAMMP 的感知系统基于 RF-DETR，并用 DINOv2 嵌入微调、由 SAM 自动标注训练数据，实现 360 度环境感知与自适应物体检测。团队已把基于 DINO 的图像传感器查询功能集成进首个原型，可检测自动门按钮、杯子和路缘，目前正转向语音与触控输入。
Liquid AI 模型与工程博客（网页）AI 评分6363 Liquid AI 发布 LFM2.5-VL-3B 视觉语言模型
Liquid AI 发布 LFM2.5-VL-3B 视觉语言模型，已上架 Hugging Face。相比 LFM2-VL-3B，屏幕理解、函数调用、grounding 和多图输入显著提升，ScreenSpot-v2 达 80.7，ToolSandbox 从 26.4 升至 59.5，RefCOCO 从 57.1 升至 87.9。
Liquid AI 模型与工程博客（网页）AI 评分5050 Liquid AI 发布 LFM2.5 Q4_0 量化感知蒸馏检查点，面向边缘部署
Liquid AI 发布 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 的 4-bit Q4_0 检查点，采用量化感知蒸馏（QAD）训练，四款模型均保留约 97% 的 BF16 平均性能。
Liquid AI 模型与工程博客（网页）AI 评分5454 Liquid AI 发布 LFM2.5 系列 DSpot 投机解码草稿模型，GPU 推理最高提速 3.2x
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 三个模型发布 DSpot 草稿模型权重，通过投机解码在不改变输出质量的前提下大幅提升解码速度，草稿模型约为 3 亿参数。
Liquid AI 模型与工程博客（网页）AI 评分5858 Liquid AI 发布 LFM2.5-VL-3B 的 DSpark 视觉草稿模型，解码吞吐最高提升 3.13 倍
Liquid AI 发布面向视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型，以约 280M 参数（增加 8.9% 内存占用）换取更快解码，GPU 解码吞吐最高提升 2.66 倍、边缘设备最高 3.13 倍，端到端分别最高 2.27 倍和 2.62 倍。
Liquid AI 模型与工程博客（网页）AI 评分4444 Liquid AI 的 LFM 系列模型：面向端侧部署的高效基础模型
Liquid AI 的 Liquid Foundation Models（LFMs）主打在真实约束下运行，可在 GPU、CPU、NPU 上无缝部署于可穿戴设备、机器人、手机、笔记本、汽车等终端。每个 LFM 均可免费下载、运行和微调（含商用），直到公司年收入超过 $10M。模型面向毫秒级延迟、端侧韧性与数据隐私设计，支持本地、云端及混合 AI 部署。
NVIDIA AI BlogAI 评分6666 NVIDIA 在 IFA 2026 推进本地 AI，RTX Spark 电脑十月上市
NVIDIA 在 IFA 2026 宣布与 Microsoft 及伙伴合作加速本地 AI，包括 Hermes Agent、OpenClaw 和 Perplexity Portable Computer 的简化本地模型配置，llama.cpp 与 vLLM 带来最高 1.9x 推理提升，并推出开源工具 NVIDIA PAIR 在局域网内分发推理请求。
NVIDIA AI BlogAI 评分5555 Perplexity Portable Computer 登陆 Windows，由 NVIDIA RTX 加速
Perplexity 在 Windows 版应用中推出 Portable Computer，可在兼容的 NVIDIA GeForce RTX PC 和 RTX PRO Workstation 上本地运行，此前已支持 DGX Spark 和 Linux RTX PC。
Artificial Analysis 完整文章（网页）AI 评分6060 Artificial Analysis 开源 AA-AgentPerf-Local 本地 Agent 推理基准并发布首批结果
Artificial Analysis 发布开源工具 AA-AgentPerf-Local，通过回放真实 Agent 轨迹（默认 8 个任务、168 轮、上下文增长至约 56K tokens）测试笔记本和工作站上的本地模型推理性能。
Google Developers Blog（RSS）精选AI 评分6161 Antigravity SDK 支持本地模型，首发接入 Gemma 4 26B A4B 与 LiteRT
Google 宣布 Antigravity SDK 支持本地模型工作流，首发支持基于 Google AI Edge LiteRT 的 Gemma 4 26B A4B，可完全离线运行智能体辅助，建议机器配备超过 24GB VRAM 或统一内存。
推荐理由：官方给出了本地智能体工作流的完整上手步骤和混合编排演示，含具体 token 与硬件数据，可直接照做复现。
NVIDIA AI@NVIDIAAIAI 评分2222本地 AI：在 DGX Spark 与 Station 上运行 Nemotron | Nemotron Labs https://x.com/i/broadcasts/1RKZzBOEWMNKB
Google Blog：AI（RSS）AI 评分3939 Google Health 应用上线 Health Guardian 健康与安全工具
Google 在 Google Health 应用中推出 Health Guardian 功能，Pixel Watch 用户可设置血压趋势、胰岛素抵抗趋势和睡眠呼吸质量指标，本周开始启用，首批趋势报告将于 10 月初送达。
Hugging Face：Blog（RSS）AI 评分4141 Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型，为 LFM2.5-VL-3B 加速视觉语言推理
Liquid AI 发布实验性 DSpark 草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，设备端解码最高提速 3.13x、H100 上 2.66x，端到端最高提升 2.62x 和 2.27x。
Tencent Hy@TencentHunyuanAI 评分5252Apple Machine Learning Research（RSS）AI 评分3737 Apple 如何通过潜空间蒸馏压缩流式神经音频编码器
Apple 提出一种潜空间蒸馏方法压缩流式神经音频编码器：不监督离散 token 或输出分布，而是让学生编码器回归教师模型每帧的量化前潜表示，并用单层仿射层吸收师生宽度差异。在 2.8× 压缩下，六组师生配对中有五组无需微调即保持在教师 1.9% 相对 WER 以内，并比同容量独立训练编码器相对提升 3.9%。该方案同时适用于单独预训练和与语言模型联合训练的 tokenizer。
Meta Engineering Blog（RSS）AI 评分4949 Meta 将 Private Processing 机密计算引入 AI 眼镜
Meta 把用于 WhatsApp 和 Meta AI 应用的 Private Processing 机密计算基础设施扩展到 AI 眼镜，让流式转录、上下文搜索和长期回忆等云端 AI 负载在机密虚拟机（CVM）内运行，Meta 自身也无法读取用户数据。该方案基于 CPU 与 GPU 的 TEE 硬件隔离，客户端通过远程证明校验软件镜像，并叠加不可定向性与加密存储。
Apple：Newsroom（RSS）精选AI 评分6262 苹果新款 Mac mini（M6/M5 Pro）与 Mac Studio（M5 Max/M5 Ultra）今日开售
Apple 宣布新款 Mac mini 和 Mac Studio 今日上市。Mac mini 搭载 M6（4x AI 性能、2x 图形和存储、40% CPU 性能提升。
推荐理由：官方公告给出两款新 Mac 的芯片、AI 性能倍数、统一内存上限和定价，读者可以据此评估端侧 AI 与升级选择。
vLLM 官方博客（RSS）精选AI 评分7676 vLLM 官方发布 vllm-metal v0.28.0：在 Apple Silicon 上实现并发推理服务
vLLM 官方宣布 vllm-metal 首个正式版本 v0.28.0，将上游 vLLM 的 V1 调度器、分页 KV cache 和 OpenAI 兼容服务带到 Apple Silicon，模型执行由 MLX 和 Metal 完成。
推荐理由：官方详解 vllm-metal 的架构与跨引擎实测数据，读者可据此评估 Apple Silicon 上多并发推理是否值得切换。
Hugging Face：Blog（RSS）精选AI 评分6262 Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 为 transformers 加入 GGUF 模型支持，用户可从 Hub 选取 GGUF 检查点，通过 from_pretrained 传入 gguf_file 在本地生成。
推荐理由：Hugging Face 把 GGUF 量化模型接入 transformers，读者可据此判断本地推理工作流会如何变化。
Hugging Face：Blog（RSS）AI 评分2323 oMLX 作者 Jun Kim 加入 Hugging Face，支持 MLX 社区
oMLX 创作者兼维护者 Jun Kim 加入 Hugging Face，全职投入 MLX 生态建设。oMLX 将保持 Apache 2.0 开源协议，由 Jun 继续领导，从副业转为有资金支持的正式项目，以获得更高稳定性与更快开发。Hugging Face 计划让 oMLX 成为新想法的试验场，并推动 transformers 模型定义快速转为可被各引擎使用的 MLX 参考实现。
NVIDIA Technical Blog（开发者技术博客 · RSS）AI 评分3030 TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic Benchmark
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark，速度提升 6.4 倍。该方案面向从云端数据中心迁移至车辆、机器人等边缘设备的 AI 智能体，针对其多步骤工具调用、结果评估与长对话推理带来的边缘推理新需求，实现快速 token 生成。
Apple：Newsroom（RSS）AI 评分5757 Apple 发布 iPhone 18 Pro、Apple Watch Series 12/Ultra 4、Mac Studio 及 AirPods 5
Apple 发布 iPhone 18 Pro 和 iPhone 18 Pro Max，搭载 48MP 可变光圈 Fusion 主摄、A20 Pro 与新一代均热板，随 iOS 27 以 beta 推出 Siri AI。
Apple：Newsroom（RSS）精选AI 评分6161 Apple 发布 Apple Watch Series 12 与 Ultra 4 健康功能，重新设计的 Health app 将引入 Longevity 标签页
Apple 宣布为 Apple Watch 和 iPhone 推出升级的健康与健身体验。Apple Watch Series 12 和 Apple Watch Ultra 4 引入新 Health Sensing System。
推荐理由：官方新闻稿列出新健康传感系统、Longevity 标签页和在家运动评估等功能的设备要求，可帮助读者判断升级与自家设备的关联。
NVIDIA Technical Blog（开发者技术博客 · RSS）AI 评分3434 NVIDIA Jetson 如何部署与优化前沿推理模型
NVIDIA 发布技术指南，介绍如何在 Jetson 边缘设备上部署和优化具备多步推理能力的模型。此前这类模型体积过大，无法在边缘硬件本地运行，开发者只能将推理请求路由至数据中心，带来网络依赖、成本上升与数据外泄风险。该指南称这一限制正在被打破。
Hugging Face：Blog（RSS）精选AI 评分6666 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，采用推测解码，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍，输出质量不变。
推荐理由：原文给出各模型在 GPU 和端侧的实测加速数据与 llama.cpp、SGLang 接入命令，读者可直接评估是否用于部署。
NVIDIA Technical Blog（开发者技术博客 · RSS）AI 评分3333 用 CLI、Skills 和 AI 编程智能体开发 NVIDIA Holoscan 应用
NVIDIA 探索通用编程智能体能否借助 HoloHub 中的示例、文档和开发工具来开发 Holoscan 边缘实时 AI 应用。Holoscan 是面向医疗影像、机器人等边缘实时 AI 应用的平台，HoloHub 是其配套仓库，汇集了不断增长的参考应用与组件。
Google DeepMind：Blog（RSS）精选AI 评分6868 Google DeepMind 发布手语转文本模型 SL2T，落地 Gboard 与 Live Transcribe
Google DeepMind 发布大规模多语言手语转文本模型 SL2T，为 Gboard 和 Pixel 11 的 Live Transcribe 带来手语转文字听写，首先支持 ASL 转英语，后续将扩展更多语言和设备。
推荐理由：原文解释了手语翻译的两类核心难题和 SL2T 的技术取舍，并给出基准分数与隐私设计，读者可了解可用手语 AI 的实现路径。
Meta Engineering Blog（RSS）AI 评分5656 WhatsApp 推出端侧 Scam Alert 功能，在端到端加密下实现可验证的诈骗提醒
WhatsApp 推出可选的 Scam Alert 功能，在设备端运行机器学习模型，对非联系人消息进行诈骗概率分类，消息内容不出设备、不自动上报。模型下载经 Cloudflare Ed25519 签名与第三方 append-only 透明账本校验，遥测数据经 TEE、OHTTP 与差分隐私聚合处理；该功能已在 Beta 有限推出，并扩展了 Bug Bounty 计划。