跳到正文
karminski-牙医· @karminski3 · X·· 16 小时前AI 评分16
AI 导读

作者正尝试让 Qwen3.8-27B、Qwen3.6-35B-A3B、Qwen3.8-Flash-Next 在开启 MTP 的情况下速度再提升约 16%。项目已做了一周,若成功将直接发布开箱即用的 llama.cpp / mlx 版本,目前结果尚未确定。

正文 · 原文

另外再给大家同步个好玩的东西, 已经搞了一周了. 这个如果能做成功, 大家手里的Qwen3.8-27B, Qwen3.6-35B-A3B, Qwen3.8-Flash-Next 的速度能在开启MTP的情况下再原地提升16%左右. 我会直接发一个llama.cpp / mlx 版本, 开箱即用. 祝我成功吧.

来源:karminski-牙医 · x.com