这篇长文讲解如何用 LoRA 与 QLoRA 降低大模型微调的显存开销。QLoRA 冻结权重以 4 位 NF4 存储、LoRA 分支以 16 位训练，7B 模型显存从全参数微调约 100 GB 降到 LoRA 约 15 GB、QLoRA 约 5 GB；2023 年 QLoRA 论文曾在单块 48GB GPU 上微调 65B 模型并保持 16 位微调表现。