Qwen3.5-9B 开源模型可在 12GB 内存笔记本本地运行，性能对标 Claude Opus 4.1

2月28日，我消耗了8400万个token。研究公司、起草备忘录、运行智能体。

这用的是Kimi K2.5，一个通过API提供的无服务器模型。按Claude¹或OpenAI²的价格，混合计费大约每百万token 9美元，同等用量一天的工作就要花756美元。我用量最高的日子达到8000万token。平均每天2000万。按前沿模型定价的云端推理，费用累积得很快。

本周，阿里巴巴发布了Qwen3.5-9B³，一个开源模型，性能媲美2025年12月的Claude Opus 4.1。它能在12GB内存的机器上本地运行。三个月前，这种能力还需要一座数据中心。现在，只需要一个电源插座。

一台5000美元的笔记本电脑，一台内存足以本地运行Qwen的MacBook Pro，在消耗5.56亿token后就能回本。按我的使用率，大约一个月。按每天2000万token算，就是四周。

回本之后，边际成本降到只剩电费。

这不是在智能上妥协。推理、编程、智能体工作流、文档处理、指令遵循：这个9B模型在各方面都媲美12月的前沿水平。

当前沿智能在本地运行时，会发生什么变化？我今天发送给云端API的一切——起草邮件、研究公司、写代码、分析文档——都留在我的机器上。没有API日志。没有第三方留存。没有服务中断。没有速率限制。

代价是并行化。云端API能处理数千个并发请求。一台笔记本电脑一次只能运行一个推理。对于简单任务——摘要、起草、问答——这没问题。

把它们排进队列。让它们整夜运行。对于会生成数十个并行线程的复杂智能体工作流，本地推理可能不值得等待。经济账倾向于深度而非广度：任务更少、运行更久、成本更低。

从数据中心到笔记本电脑，只用了三个月。买还是租的账，刚刚变了。