跳到正文

#端侧

今日 1 条
今天10月1日周四
  1. Rohan Paul44

    美国 Austin 的 webAI 推出 3.66B 本地模型 TwIL-LM3-Pro，将 IBM Granite 的形式逻辑分数提升 28%，在形式逻辑上比 VibeThinker-3B 高约 35%、比 Qwen3.5-4B 高 24%、比 LFM2.5-8B-A1B 高 47%。

    引用David Stout@Davidstout

    Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸

9月30日周三
  1. Sarvam AI（网页）49

    Sarvam AI 发布 Sarvam Edge，将语音识别与合成模型搬上端侧

    Sarvam AI 发布 Sarvam Edge，推动语音识别、语音合成与多语言翻译模型在设备端本地推理。其端侧语音识别模型参数 74M、FP16 占用约 294MB，支持 10 种印度语言，在 Snapdragon 8 Gen 3 上实时因子约 0.12（RTFx 8.5），首 token 延迟低于 300 毫秒。语音合成同样以单一模型支持 10 种语言和 8 个多语言说话人，无需联网。

  6. Liquid AI 模型与工程博客（网页）55

    Liquid AI 发布 LFM-7B：非 Transformer 架构的高效语言模型

    Liquid AI 发布 LFM-7B，一款基于 Liquid Foundation Model 非 Transformer 架构的语言模型，面向聊天场景。官方称其在 7B-8B 级别英文、阿拉伯语和日语对话评测中领先，上下文窗口为 32k（RULER 有效长度 32k），内存占用低于同类 Transformer 模型，适合本地、低延迟和成本受限部署。

  7. Liquid AI 模型与工程博客（网页）65

    Liquid AI 发布端侧基础模型 LFM2，含 0.35B、0.7B 和 1.2B 三个版本

    Liquid AI 发布新一代 Liquid Foundation Models（LFM2），定位市场上最快的端侧生成式 AI 基础模型，采用混合架构，包含 10 个双门控短程卷积块和 6 个分组查询注意力块。

    推荐理由：官方博客给出了 LFM2 的架构细节、CPU 推理对比和训练方法，读者可以据此评估它在端侧部署中的实际取舍。

  21. Liquid AI 模型与工程博客（网页）66

    Liquid AI 发布 LFM2.5-8B-A1B 端侧 MoE 模型，128K 上下文主打工具调用

    Liquid AI 发布 LFM2.5-8B-A1B 端侧 MoE 模型，上下文窗口从 32,768 扩展到 128K tokens，预训练从 12T 增至 38T tokens，词表翻倍到 128,000 以提升非拉丁文字的编码效率。

    推荐理由：官方详细给出上下文、训练管线和实测基准，读者可以据此评估这款端侧 MoE 模型是否适合本地 Agent 工作流。

  24. Liquid AI 模型与工程博客（网页）72

    Liquid AI 发布端侧智能体模型 LFM2.5-2.6B

    Liquid AI 发布 LFM2.5-2.6B，一个可完全在设备端运行的 2.6B 参数智能体模型，Base 与后训练版本已在 Hugging Face 开放。

    推荐理由：原文给出完整的四阶段后训练流程、多基准对比和 CPU 与手机端实测速度，读者可据此评估它对端侧 Agent 部署的适配度。

  30. Liquid AI 模型与工程博客（网页）44

    Liquid AI 的 LFM 系列模型：面向端侧部署的高效基础模型

    Liquid AI 的 Liquid Foundation Models（LFMs）主打在真实约束下运行，可在 GPU、CPU、NPU 上无缝部署于可穿戴设备、机器人、手机、笔记本、汽车等终端。每个 LFM 均可免费下载、运行和微调（含商用），直到公司年收入超过 $10M。模型面向毫秒级延迟、端侧韧性与数据隐私设计，支持本地、云端及混合 AI 部署。

9月28日周一
9月24日周四
8月21日周五
  1. Hugging Face：Blog（RSS）66

    Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍

    Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，采用推测解码，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍，输出质量不变。

    推荐理由：原文给出各模型在 GPU 和端侧的实测加速数据与 llama.cpp、SGLang 接入命令，读者可直接评估是否用于部署。

7月19日周日
6月9日周二
  1. Google DeepMind：Blog（RSS）77

    Google DeepMind 发布 Gemma 4 12B：无编码器统一多模态模型，可在 16GB 内存笔记本本地运行

    Google DeepMind 发布 Gemma 4 12B，定位于在笔记本上本地运行的智能体多模态模型，性能接近其 26B MoE 模型而内存占用不到一半。

    推荐理由：官方介绍了无编码器统一架构和 16GB 内存本机运行等细节，适合关注端侧多模态部署的开发者参考。

4月3日周五
  1. Google DeepMind：Blog（RSS）86

    Google DeepMind 发布 Gemma 4 开源模型，含 E2B、E4B、26B MoE 和 31B 四个尺寸

    Google DeepMind 发布 Gemma 4 开源模型，主打高级推理与智能体工作流，采用 Apache 2.0 许可，提供 E2B、E4B、26B MoE 和 31B Dense 四个尺寸。

    推荐理由：官方给出四个尺寸、榜单排名、上下文长度和开放许可等具体信息，读者可以据此判断选型与部署空间。

12月3日周三
  1. Mistral AI：News（网页）80

    Mistral 发布 Mistral 3 系列：含 Mistral Large 3 与 Ministral 3 小模型，全部 Apache 2.0 开源

    Mistral 发布新一代模型系列 Mistral 3，包括 Mistral Large 3（41B 激活、675B 总参数的 MoE 模型）和 Ministral 3 的 3B、8B、14B 三种小模型，全部以 Apache 2.0 许可开源。

    推荐理由：官方发布了完整模型规格、开源许可和部署路径，读者可以据此评估这批开源模型在自己的场景中是否可用。

3月17日周一