跳到正文
原文
Liquid AI 模型与工程博客(网页)·· 13 小时前AI 评分58

Liquid AI 与 .txt 合作:用 LFM2-350M 加 dotgrammar 实现端侧可靠函数调用

Liquid <> .txt Collaboration

AI 导读

Liquid AI 与 .txt 合作展示如何在边缘设备上实现可靠的 LLM 函数调用:LFM2-350M 无量化下内存占用低于 1 GB、常见边缘硬件推理时间低于 100ms,配合 .txt 的 dotgrammar 库用上下文无关文法保证输出语法有效且不增加推理延迟。

来源:Liquid AI 模型与工程博客(网页) · liquid.ai