跳到正文
原文
Liquid AI 模型与工程博客(网页)·· 15 小时前AI 评分58

Liquid AI 发布 LFM2.5-VL-3B 的 DSpark 视觉草稿模型,解码吞吐最高提升 3.13 倍

LFM2.5-VL-DSpark: Accelerating vision-language models on edge and beyond

AI 导读

Liquid AI 发布面向视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,以约 280M 参数(增加 8.9% 内存占用)换取更快解码,GPU 解码吞吐最高提升 2.66 倍、边缘设备最高 3.13 倍,端到端分别最高 2.27 倍和 2.62 倍。

来源:Liquid AI 模型与工程博客(网页) · liquid.ai