Fine-tuning in PracticeFine-tuning，微调工程实践

先分类：模型「不知道」是知识问题上 RAG；「不听话」是行为问题上微调；「不够聪明」换底座。顺序永远是提示词 → RAG → 微调，左边没榨干不动右边。

九成的「要微调」，追问两句会退回提示词或 RAG——梯子原则既省客户的钱，也是方案可信度的来源。

下一步　用决策器过一遍需求；先把四条劝退清单反着问客户一遍。

依据　定制光谱与分界线

窄任务几百条优质样本、单卡几小时、两周出第一版可验收的模型。大头是数据人力不是算力——先小试点再放量。

官方口径（50–10,000 条、窄分类 200–500 条）客户会拿来对表；「先 100 条看信号」的节奏让报价有依据。

下一步　报价按成本结构拆：数据准备（人天）+ 训练算力（零头）+ 评估验收 + 迭代运营（常被漏报的成败项）。

依据　数据准备 · 成本结构

有「灾难性遗忘」风险，但可控：LoRA 天然温和 + 保守超参 + 通用回归门禁，掉超过阈值不放行。每个版本都带回归报告。

「学得少也忘得少」是 LoRA 的实证取舍——行为定制它两头都稳；深度灌注才用全参，且必须配防遗忘。

下一步　建几百题的通用回归套件（常识/安全拒答/多轮），双达标才放行——跑一次几分钟。

依据　取舍 · 防遗忘

OpenAI：微调平台收摊中（新组织 2026-05-07 起停建、存量客户 2027-01-06 后停止新建，核实 2026-08-01）；Claude：Bedrock 上的 Haiku 微调已随模型 EOL 失效；开源：自由度最大，QLoRA 单卡起步。按事实表作答，不口头加码。

平台开放范围是「先查再承诺」的硬事实——OpenAI 收摊就是活例，答错会在评审会上翻车；权重归属（托管不交付）也要提前讲。

下一步　方案第一步查证当日平台事实；数据不出域的需求直接切 VPC/本地开源路线。

依据　托管服务 · src-cloud-ft

先 SFT 看验收——八成场景到此为止。上线后如果「会答但分寸不对」（啰嗦、过度拒答），再补一轮 DPO，偏好数据从线上反馈里攒。

对齐已平民化：DPO 成本接近 SFT、RFT 有托管——「RLHF 很贵」是旧地图；但 RFT 是尖刀不是标配，别让客户以为要走全流程。

下一步　按症状→处方决策表定层级；RFT 先问一句「结果能不能机器判分」。

依据　对齐三级

事前签验收：held-out 指标 + 任务硬指标 + judge 评分 + 通用回归，四项打包成报告交付。绝不拿训练数据自证——这是验收纪律。

四类实验失真（泄漏/挑 run/judge 虚高/指标替代）会让「高分不可信」——先冻结基线与切分再谈提升，报区间不报单点。

下一步　训练开始前把验收单（合规率 ≥99%、准确率 ≥92%、回归不降）签下来——考卷先于补课。

依据　验收四层与失真

adapter 部署天然支持：新旧 adapter 并存、按流量比例灰度、秒级切回。多租户 = 1 个共享底座 + N 套 LoRA，vLLM 按请求路由。

发布链要锁「组合发布号」（base+adapter+模板+引擎+镜像）——只登记 adapter 哈希没锁 base 版本，底座升级后行为漂移查三天。

下一步　按五层发布控制过一遍上线手册；动态加载 adapter 的安全警告（仅限受信环境）写进部署约束。

依据　部署两形态与五层发布

取决于所用模型的服务条款——各家对「产出能否用于训练」约定不同。方案里写明数据来源与条款依据，是标准动作。

合成数据已是主流来源（种子→扩量→judge 过滤），但合规红线要先踩实——治理三问答不好，技术再好也进不了采购。

下一步　数据流水线里把 PII 清洗设为刚性前置；权属与出域两问的答案写进方案书。

依据　治理三问

别接「能做」，也别接「不建议」——两句都把话谈死了。先问一句「它现在哪儿不对」，把要求落到症状上再分类：「不知道」是知识问题上 RAG，「不听话」才轮到微调，「不够聪明」得换底座。分类完对一遍四条劝退清单（知识频繁更新 / 样本攒不够 / 需求还在天天变 / 只是想更聪明），最后算账：调用量 × 单次收益 > 一次性成本才立项——日均百万次的客服几周回本，日均一千次的内部工具一年省的 token 钱不够付一次标注。

客户说「想微调」时，脑子里装的往往是「有一个自己的模型」这件事本身，不是某个可验收的效果。直接说「你不需要」听起来像不愿干活；换成先分类、再算账，否掉的就是方法而不是需求——客户的目标一个字没改，只是换了条更快到达的路，而且他还欠你一份判断力。这也是本册最核心的立场：会劝退的方案更可信。

下一步　当场用决策器过一遍需求，把四条劝退清单反着问一遍；被哪一条挡住，那一条就是第一期的目标（提示词 + RAG 先上线，同时按「种子 → 扩量 → 过滤」攒数据）——微调排到第二期，不等于被否掉，这句话要当场说出口。

依据　劝退清单与成本收益账

客户嘴里的一个问题其实是三样东西，分开答才接得住。①数据去哪——托管微调等于把数据交给平台，这是第一道分水岭；不能出域就走 VPC 内训练或本地自建开源，QLoRA 单卡就能起步，「保数据」不等于「放弃微调」。②产物归谁——托管闭源拿到的是专属模型 ID 的访问权、权重不交付；开源自训权重完全归你。③凭什么信——「会不会喂别人」要落到该平台的服务条款上、写进方案书当依据，别用一句「放心」口头担保；训练前的 PII 清洗脱敏则是我们这侧的刚性前置，能写成数据流水线里的一道门。

这是安全评审的入口题，答成「不会的，放心」当场好听、进不了采购——口头担保既写不进合同，也过不了评审。拆成「数据在哪、权重归谁、依据哪条条款」，每一样都有能落纸的抓手。顺序也很关键：数据能不能出域决定的是整套技术路线，不是一条附加条款，放在最前面问，能省掉后面一半的返工。

下一步　立项前先问一句「这批数据能不能出域」，答案是不能就直接切 VPC / 本地开源路线，别等方案写完再改；权属与出域两问的答案连同条款依据一起写进方案书。

依据　数据治理三问　·　自建还是托管

作废的只有权重那一件。adapter 是绑在特定底座上的旁路，底座换代就得重跑——但重跑是单卡几小时、云上几十到几百美元的事，算力本来就是零头。真正贵的两样跟底座无关、原样留用：那批清洗过的数据集，和那套签过字的评估集。而且升不升级由你定：把 base + adapter + 模板 + 引擎 + 镜像锁成一个组合发布号，新底座先在你的评估集上跑赢旧组合、通用回归仍不低于基线的 98%，才切。

客户问这句时怕的是沉没成本，而账正好反过来：微调最大的一次性投入是数据与评估的人力，它们在底座换代时一分不浪费，评估集还正好是决定「要不要换」的那把尺子。真正的风险也不是白做，是漂移——只登记了 adapter 哈希、没锁 base 版本，底座悄悄升级后行为就变了，查三天都找不到原因。

下一步　方案里把训练数据集与评估集列成独立交付物，而不是训练的副产品；换底座按同一套门禁跑一遍回归，赢了才切、旧组合留着兜底。

依据　组合发布号与验收门禁　·　LoRA 产物