决策专题
Why Finetune
Why Finetune 是一个决策框架——帮助你在微调和 RAG 之间做出选择。这不是"谁更好"的问题,而是"你的场景更适合哪个"。
① 一句话定义
Why Finetune(什么时候该微调)是一个技术决策框架,帮助开发者和产品经理在微调(Fine-tuning)和 RAG(检索增强生成)之间做出选择。两者不互斥,但知道什么时候优先用哪个,是 AI 产品设计的基本功。
⑤ 常见误区
误区:微调能替代好的 Prompt 工程——微调不能。如果 Prompt 写不好,微调后的模型大概率也表现不佳。微调是"锦上添花"不是"雪中送炭"。
更多
优先微调的场景:你需要在模型的"行为"层面做出改变——风格、语气、输出格式(如始终输出 JSON);你的领域有高度专业化的术语和表达模式,RAG 无法覆盖(如某公司的内部代码规范、专利法律文书格式);你需要极低的推理延迟(微调后不需要检索步骤,模型直接回答)。优先 RAG 的场景:任务是基于"已知文档回答问题",文档频繁更新(微调的知识会过时);你需要引用来源(RAG 天然知道回答来自哪个文档);你没有足够的高质量微调数据。两者结合的场景:微调让模型学会你的领域语言,RAG 提供最新的事实信息——"微调+RAG"在很多高要求场景下效果最优。
「When in doubt, start with RAG. RAG 更简单、更可控、更容易迭代。只有在 RAG 明显无法满足需求时(行为模式改变、领域术语过于专深),再考虑微调。
」