跳到正文
Unsloth AI· @UnslothAI · X·· 2 小时前精选AI 评分65
AI 导读

Unsloth 发布 MiniMax-M3.1-Flash 的 GGUF 量化版本和本地运行指南。2-bit GGUF 保留 91.5% top 1 精度且体积小 45%,可在 150GB 内存上运行;1-bit 达约 89.9%,4-bit UD-Q4_K_XL 达 98.0%。作者称其为同尺寸最强开源模型之一,GGUF 见 https://huggingface.co/unsloth/MiniMax-M3.1-Flash-GGUF,指南见 https://unsloth.ai/docs/models/minimax-m3.1-flash。

推荐理由

Unsloth 给出 2-bit GGUF 保留 91.5% 精度且 150GB 内存可跑的量化结果,读者可据此评估本地部署 MiniMax-M3.1-Flash 的可行性。

正文 · AI 翻译

MiniMax-M3.1-Flash 现在可以在本地运行了!

我们让 2-bit GGUF 在体积缩小 45% 的同时保留了 91.5% 的 top 1 准确率。在 150GB 内存上运行。

MiniMax-M3.1-Flash 是同尺寸中最强的开源模型,整体上也名列前茅。

GGUF:https://huggingface.co/unsloth/MiniMax-M3.1-Flash-GGUF
指南:https://unsloth.ai/docs/models/minimax-m3.1-flash

引用MiniMax (official)@MiniMax_AI
MiniMax M3.1 Flash:太空级性能 + 兔级速度 🚀🐰 是的,Space Bunny——它曾以 200T+ tokens 登顶全球排行榜——正是 M3.1 Flash 的早期版本。 💰重新定义智能体 AI 的性能经济学。M3.1 Flash 在 Cowork(Automation-Bench:62%;ALE:30%)、编程(DeepSWE:74%)和视觉推理(BabyVision:91%)等关键任务上达到前沿级智能水平,成本仅为 M3 的 1/3,速度提升 3 倍。 API 定价(统一费率):每 1M 输入/输出 tokens 分别为 $0.15 / $0.60,缓存读取为 $0.015 / 1M tokens。 模型权重将于 10 月 23 日发布。 API:http://platform.minimax.io M Plan:https://www.minimax.io/m-plan MiniMax Code 桌面版:https://agent.minimax.io/download
原文

MiniMax M3.1 Flash: Space Performance + Bunny Speed 🚀🐰 Yes, Space Bunny - which has topped global leaderboards with 200T+ tokens - was an earlier version of M3.1 Flash. 💰Redefining the performance economics of agentic AI. M3.1 Flash achieves frontier-level intelligence across key tasks such as Cowork (Automation-Bench: 62%; ALE: 30%), Coding (DeepSWE: 74%) and Visual Reasoning (BabyVision: 91%), at 1/3 the cost of M3 and 3x the speed. API pricing (flat rate): $0.15 / $0.60 per 1M input/output tokens, with cache reads at $0.015 / 1M tokens. Model weights will arrive on Oct 23. API: http://platform.minimax.io M Plan: https://www.minimax.io/m-plan MiniMax Code for desktop: https://agent.minimax.io/download

在 X 查看被引用的帖子

来源:Unsloth AI · x.com