Liquid AI 模型与工程博客(网页)·· 13 小时前AI 评分58
Liquid AI 与 .txt 合作:用 LFM2-350M 加 dotgrammar 实现端侧可靠函数调用
Liquid <> .txt Collaboration
AI 导读
Liquid AI 与 .txt 合作展示如何在边缘设备上实现可靠的 LLM 函数调用:LFM2-350M 无量化下内存占用低于 1 GB、常见边缘硬件推理时间低于 100ms,配合 .txt 的 dotgrammar 库用上下文无关文法保证输出语法有效且不增加推理延迟。
来源:Liquid AI 模型与工程博客(网页) · liquid.ai