跳到正文
NVIDIA RTX Spark· NVIDIARTXSpark·· 2 小时前精选AI 评分63

llama.cpp 推出 Windows 应用 Llama Windows,支持本地运行模型

llama.cpp now has a Windows app 🦙

AI 导读

llama.cpp 推出 Windows 应用 Llama Windows,方便用户在本地运行模型,并针对 NVIDIA RTX Spark 做了优化。应用支持从 Hugging Face 浏览和下载模型,可从系统托盘直接与本地模型对话,提示词保留在用户电脑上。

推荐理由

官方介绍 Llama Windows 的本地运行入口和隐私特点,读者可以据此了解在 Windows 上跑本地模型的新方式。

来源:NVIDIA RTX Spark · x.com