为什么大多数 LLM 功能表现不佳时不需要微调

多数表现不佳的 LLM 功能缺的是上下文而非能力，问题往往出在检索返回错误文档、指令相互矛盾或输入解析不完整，改权重并不能修复这些。微调还会把流程冻结在数据集构建时的快照上，且没有 eval set 就无法判断微调是否有效。正确顺序是先优化提示词和检索，再建立 eval set，最后才考虑微调；微调只适合格式固定、稳定、高频的窄任务。