场景实践算法工程师、技术创作者工程

用 LoRA 微调你的第一个模型

不从头训练模型,也能用少量数据做出更贴合业务风格的模型。

完成后你会得到
理解并规划一次 LoRA 微调实验
阅读
半天
路径
6 节

阅读路径

按这个顺序读,概念之间的依赖会顺很多。

  1. 01
  2. 02
  3. 03
    监督微调(SFT)
    训练与微调
  4. 04
    LoRA
    训练与微调
  5. 05
    LoRA Rank
    训练与微调
  6. 06
    过拟合与欠拟合
    训练与微调

任务拆解

每一步都对应一个可执行动作,而不是泛泛看概念。

1区分预训练和微调
2理解 SFT 的作用
3掌握 LoRA 原理和参数选择
4准备训练数据
5判断过拟合风险

Prompt 使用原则

先用这些约束把模型拉到正确轨道,再复制下方专题 Prompt。

先用 Prompt 验证风格和任务边界
把训练样本整理成输入输出对
对比基座模型和微调模型的失败案例

专题 Prompt

暂无关联 Prompt