跳到正文
原文
clem 🤗· @ClementDelangue · X·· 3 小时前AI 评分41
AI 导读

决策模型现在可以在 llama.cpp 上端侧运行。免费、快速、私密！ llama serve -hf ggml-org/Kev-4B-GGUF

正文

Decision models now run on device in llama.cpp. Free, fast, private!

llama serve -hf ggml-org/Kev-4B-GGUF

来源：clem 🤗 · x.com

#产品更新#端侧#开源生态#Hugging Face