跳到正文

#端侧

今日 12 条
今天10月1日周四
  6. IT之家（RSS）51

    华为 Mate 90 标准版官宣搭载麒麟 9030 旗舰 τ 芯片

    华为在 Mate 90 系列及全场景新品发布会上宣布，Mate 90 标准版搭载麒麟 9030 旗舰 τ 芯片。对比 Mate 80 的麒麟 9020，CPU 提升 13%、GPU 提升 54%、NPU 提升 13%；芯片支持 FFRT 软硬协同调度，图片加载速度提升 100%，并集成移动安全处理器 MSP，支持后量子密码算法以抗未来量子攻击。

  8. Google AI：DEV 作者专属（RSS）66

    TensorFlow.js 浏览器端超分优化：一次新张量形状为何耗时 8-17 秒，以及如何消除 40 秒页面冻结

    作者分享在浏览器端用 TensorFlow.js on WebGL 做照片超分（不上传图片）的优化过程：初版用 UpscalerJS，1.2 MP 照片需 60-110 秒并冻结页面约 40 秒。

    推荐理由：作者用自己浏览器端超分项目的实测数字，拆解了 WebGL 上张量形状触发着色器重编译等坑和对应修法。

  9. Rohan Paul44

    美国 Austin 的 webAI 推出 3.66B 本地模型 TwIL-LM3-Pro，将 IBM Granite 的形式逻辑分数提升 28%，在形式逻辑上比 VibeThinker-3B 高约 35%、比 Qwen3.5-4B 高 24%、比 LFM2.5-8B-A1B 高 47%。

    引用David Stout@Davidstout

    Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸

  11. Google AI：DEV 作者专属（RSS）59

    Ornith-1.0-9B vs Qwen3.5 vs Gemma4：CPU 本地实测对比

    作者在纯 CPU、32GB 内存的普通笔记本上，用 Ollama 以相同 Q4_K_M 量化对比 Ornith-1.0-9B、其基座模型 Qwen3.5-9B 和 Gemma4-12B，五个任务显示 Ornith 在 JSON 输出上最紧凑（16 token），但 bug 修复在未见过用例上出错，shell 命令与基座同样在含空格文件名上失败。

9月30日周三
  1. Sarvam AI（网页）49

    Sarvam AI 发布 Sarvam Edge，将语音识别与合成模型搬上端侧

    Sarvam AI 发布 Sarvam Edge，推动语音识别、语音合成与多语言翻译模型在设备端本地推理。其端侧语音识别模型参数 74M、FP16 占用约 294MB，支持 10 种印度语言，在 Snapdragon 8 Gen 3 上实时因子约 0.12（RTFx 8.5），首 token 延迟低于 300 毫秒。语音合成同样以单一模型支持 10 种语言和 8 个多语言说话人，无需联网。

  2. Microsoft AI：官方博客（网页）25

    Microsoft Surface 新品发布：Surface Laptop Ultra 与 Copilot+ PC 功能

    Microsoft 发布 Surface 系列新品，包括面向创作者的性能笔记本 Surface Laptop Ultra，该产品目前为预发布状态，功能可能变动。Surface Laptop 13 英寸本地视频播放续航最高 22.5 小时，Surface Pro 12/13 英寸均为 15.5 小时。Copilot+ PC 功能仅在 16GB 及以上内存的部分配置上提供。

  3. Microsoft AI：官方博客（网页）13

    Windows：Windows Hello 免密登录与本地 AI 功能对比其他操作系统

    微软在 Windows 宣传页中主推 Windows Hello，用户可用人脸、指纹或 PIN 免密登录，无需记忆或输入密码。页面以灵活性、兼容性、本地 AI、游戏生态和内置 Microsoft 安全防护五个维度对比 Windows 与其他主流操作系统，并称 Windows 拥有最大的 PC 游戏生态。本地 AI 功能依赖硬件，且随设备而异。

  4. Liquid AI 模型与工程博客（网页）30

    Liquid AI 官方 FAQ：LFM 模型不提供自托管 API，开源权重与 LEAP 平台部署说明

    Liquid AI 表示目前不提供自托管 API，其 LFM 模型可通过 playground（免费限速）和 OpenRouter（付费更高限额）使用，全部模型可在 Hugging Face 直接下载。多数模型支持通过 LEAP 平台定制与部署，并提供本地推理与定制两套软件栈。年营收不超过 $10M 的组织可获商业使用豁免，超过则需联系销售团队定制定价。

  6. Liquid AI 模型与工程博客（网页）22

    Liquid AI 谈 Agentic AI：端侧智能体的三大挑战与协同设计路径

    Liquid AI 提出端侧 AI 智能体需模型与 harness 协同设计，以在内存、功耗和延迟的硬约束下实现主动式本地推理。其指出云端智能体依赖昂贵的前沿模型，任务越长延迟与 token 成本越叠加，而每次云端回退都会增加成本并把个人上下文送出设备。Liquid 称每个 LFM 都针对设备能力定制，通过本地推理循环持续收集屏幕、车内传感器等上下文，实现无需提示即可自主行动的主动式智能体。

  7. Liquid AI 模型与工程博客（网页）17

    Liquid AI 面向国防战术边缘的端侧 AI 方案

    Liquid AI 推出面向国防战术边缘的端侧 AI 方案，其多模态模型完全在设备本地运行，支持威胁检测、自主导航和实时 ISR，推理留在本地以保持速度和断网可用性。该方案针对国防场景的 SWaP 约束调优，适配手持设备、头显、地面车辆和小型 UAS 的 NPU 与 CPU，避免将敏感数据发送至云端带来的安全风险与 ITAR 违规。

  8. Liquid AI 模型与工程博客（网页）17

    Liquid AI 面向工业与机器人场景推出本地多模态 AI 平台

    Liquid AI 推出面向工业与机器人领域的本地 AI 平台，用硬件感知的定制多模态模型在现有设备上离线运行，为一线工人提供实时免手操作辅助。其智能体 LFMs 可打通 IT 与 OT 数据孤岛，跨 SCADA、PLC 和企业系统进行推理，实现实时分析、预测性维护与自主工作流。模型可直接运行在边缘 CPU、NPU、GPU 上，具备亚毫秒级响应。

  10. Liquid AI 模型与工程博客（网页）20

    Liquid AI 面向金融服务的实时智能模型方案

    Liquid AI 面向金融服务推出可在数据中心、边缘或云端运行的模型，驱动反欺诈、客服与风控等智能体工作流，主打低延迟和银行级隐私，成本仅为前沿模型的一小部分。其 SLM 完全托管在客户自有硬件上，数据不出本地，并按业务职能定制多个小模型而非一个通用 LLM。

  11. Liquid AI 模型与工程博客（网页）18

    Liquid AI 面向消费电子设备的端侧 AI 方案

    Liquid AI 面向消费电子厂商推出端侧 AI 方案，其高效 SLM 可为 PC、智能手机、智能扫地机器人等设备定制适配 NPU、CPU、RAM 和功耗的模型，无需新芯片即可实现智能通知、离线助手和功耗摘要等功能。该方案支持调用厂商自有 API 以打开应用、修改设置并编排设备功能，仅在复杂推理时交由云端 LLM 处理，同时以单一多模态模型覆盖文本、音频和视觉。

  12. Liquid AI 模型与工程博客（网页）21

    Liquid AI 面向汽车行业的本地多模态车载 AI 助手方案

    Liquid AI 推出面向汽车行业的车载 AI 助手方案，其多模态模型完全运行在量产车已有的 CPU 和 NPU 上，无需云端依赖或新增硬件。方案采用边缘优先的 SLM 与混合智能体架构，单个模型支持 20+ 种语言，速度达现有方案的 5 倍，可实现亚秒级响应与自然语音、座舱视觉交互。

  13. Liquid AI 模型与工程博客（网页）17

    Liquid AI 黑客松：用 LFM2.5 等模型挑战端侧 AI

    Liquid AI 公布其黑客松系列活动回顾与日程，开发者围绕 Liquid Foundation Models 构建端侧应用。已举办的 6 场活动覆盖东京、旧金山及线上，涉及 LFM2.5、LFM2.5-VL、LFM2-VL 与 LEAP，可在 AMD Ryzen AI PC、AMD NUC 及 iOS、Android 应用上部署。目前日历上暂无新黑客松，可留邮箱等待通知。

  15. Liquid AI 模型与工程博客（网页）30

    Liquid AI 发布五套 LFM 本地部署方案演示

    Liquid AI 展示五套基于 LFM 的可运行系统，每套将微调后的 Liquid 模型部署在手机、边缘 GPU 或用户自控 VPC 中，支持断网运行。模型覆盖文本、视觉与音频，量化与推理引擎按目标硬件联合选型并在用户实际硬件上做性能剖析。训练在单张 GPU 上数小时完成，并以留出集评分。

  19. Liquid AI 模型与工程博客（网页）55

    Liquid AI 发布 LFM-7B：非 Transformer 架构的高效语言模型

    Liquid AI 发布 LFM-7B，一款基于 Liquid Foundation Model 非 Transformer 架构的语言模型，面向聊天场景。官方称其在 7B-8B 级别英文、阿拉伯语和日语对话评测中领先，上下文窗口为 32k（RULER 有效长度 32k），内存占用低于同类 Transformer 模型，适合本地、低延迟和成本受限部署。

  20. Liquid AI 模型与工程博客（网页）46

    LFM-1B-Math：小模型能否成为简洁推理者？

    Liquid AI 基于 1.3B 的 LFM 模型提出一套后训练方案，通过约 4.5M 样本的 SFT 加短程强化学习，得到 LFM-1.3B-Math，在有限回复预算下实现较强数学推理。SFT 采用 3e-4 学习率、训练 3 个 epoch（约 1000 亿 token），首轮即提升平均性能 36%，后两轮再增 7.6%。该模型无需数学专用预训练，面向边缘设备等资源受限部署。

  21. Liquid AI 模型与工程博客（网页）65

    Liquid AI 发布端侧基础模型 LFM2，含 0.35B、0.7B 和 1.2B 三个版本

    Liquid AI 发布新一代 Liquid Foundation Models（LFM2），定位市场上最快的端侧生成式 AI 基础模型，采用混合架构，包含 10 个双门控短程卷积块和 6 个分组查询注意力块。

    推荐理由：官方博客给出了 LFM2 的架构细节、CPU 推理对比和训练方法，读者可以据此评估它在端侧部署中的实际取舍。