27届大模型面试准备五十八大模型微调与领域适配工程实战——从 SFT 数据管线到效果回归引言与上一篇、系列的关系上一篇五十七我们建了多模态评测工程用来量化「模型好不好」本篇往前再走一步回答「怎么把通用大模型变成你的领域模型」——也就是微调与领域适配工程。它和五十六的训推一体化、十六的后训练理论、十八的 LoRA/PEFT 方法都有关联但本篇只聚焦工程落地数据怎么造、训练怎么配、遗忘怎么防、效果怎么回归。为什么这是面试硬通货因为华为这类多模态 LLM 岗位不可能让你从零预训练绝大部分工作是「在基座上做领域微调 对齐 效果守护」。能讲清楚一条可复现、可回归、可防退化的微调流水线比背一堆公式更打动人。领域适配微调工程流水线 ------------------------------------------------------ | 领域语料 / 业务日志 / 专家标注 | ------------------------------------------------------ | 清洗 去重 质量过滤 ------------------------------------------------------ | 指令构造层 | | 种子指令 - 自指令扩写 - 多模态配对 - 难例挖掘 | ------------------------------------------------------ | (SFT / LoRA / 全参) ------------------------------------------------------ | 训练层 | | 配置管理 退火 课程 梯度裁剪 容错快照 | ------------------------------------------------------ | ------------------------------------------------------ | 回归层接五十七评测工程 | | 通用能力不掉 领域能力涨 幻觉不升 | ------------------------------------------------------第一节 微调前先问三个问题工程上动手前必须想清楚否则容易白训要不要微调能用 RAG / prompt 解决的别微调——微调有数据成本、回归成本、遗忘风险。你的 4MRAG 就是「用检索替代参数记忆」的典型很多知识类问题根本不必进权重。全参还是 LoRA/QLoRA数据量小、怕遗忘、要快迭代 → LoRA/QLoRA数据量大、领域差异极大、算力充足 → 全参 SFT。两者不是非此即彼常组合先 LoRA 探水再全参冲刺。怎么定义成功必须同时看「领域涨」和「通用不掉」单看领域涨会掩盖灾难性遗忘。# 微调决策的最小判断defshould_finetune(task):iftask.kindin(fact_retrieval,private_kb):return用 RAG不微调# 如 4MRAG 路线iftask.data_scale5_000:returnLoRA / QLoRAiftask.domain_shifthuge:return全参 SFT带通用回放returnLoRA 先探再决定第二节 SFT 数据管线质量远大于数量面试最爱追问「数据怎么造」。工业界共识是1 万条干净指令 10 万条脏数据。一条标准管线阶段动作常见坑收集业务日志、专家标注、公开集直接拿日志当 SFT噪声爆炸清洗去重、去毒、格式统一重复样本导致过拟合构造种子指令 → 自指令(self-instruct)扩写自指令退化成复读机配对文本指令配图/表多模态图文不对齐学歪难例用模型本身挖错样本做 hard negative难例太难压垮训练多模态配对尤其要小心图和问句必须语义对齐否则模型学会「忽略图、靠文本蒙」。建议在配对后加一道 LLM 校验筛掉图文弱相关的样本。# 自指令扩写极简骨架defself_instruct(seed_tasks,llm,n2000):outlist(seed_tasks)whilelen(out)n:promptf基于以下任务生成一个新的指令-输入-输出三元组\n{random.sample(out,3)}newllm.generate(prompt)ifis_valid(new)andnotis_duplicate(new,out):out.append(new)returnout第三节 训练配置工程让实验可复现配置管理是工程基本功。所有超参必须落盘yaml git commit seed否则「上次那版效果好但忘了怎么来的」是常态。关键配置项与经验值以 7B 级 LoRA 为例仅作量级参考learning_rateLoRA 常 1e-4 ~ 2e-4全参 SFT 常 1e-5 ~ 3e-5。warmup cosine decaywarmup_ratio 0.03。batch 通过 grad_accum 凑到有效 64~128。序列长度按领域分布定多模态常 4k~8k图 token 占大头。梯度裁剪 1.0bf16 训练配合五十六的精度对齐。# finetune_config.yamlmodel:base-7bmethod:qloralora_r:64lora_alpha:128lr:2.0e-4warmup_ratio:0.03lr_scheduler:cosineepochs:3max_seq_len:8192grad_clip:1.0seed:42save_steps:500resume_from_checkpoint:auto# 配合容错快照防灾难性遗忘的工程手段在领域数据里按比例混入通用 SFT 数据如 9:1或做 EWC / 模型回放训练后用五十七的评测工程跑通用集任一维度退化超阈值就回滚。第四节 退火与课程让模型收得住冲刺阶段常用「退火annealing」最后一轮用更干净、更高质量的小数据集 更低学习率再走一遍显著提升指令遵循与格式对齐。课程学习则是先易后难避免一上来被难例带崩。# 训练计划先全量粗训再高质量退火stages[{data:domain_mixed_9to1,lr:2e-4,epochs:3},{data:high_quality_small,lr:5e-5,epochs:1},# 退火]forsinstages:trainer.run(datas[data],lrs[lr],epochss[epochs])第五节 效果回归把五十七直接接上来微调完必须回归且回归口径要和上线口径一致。回归报告长这样模型版本: domain-v3 --------------------------------------- | 维度 | BASE | HEAD | 判定 | --------------------------------------- | 通用推理 | 81.2 | 80.9 | OK(-0.3)| | 领域问答 | 62.5 | 78.4 | UP(15.9)| | 幻觉率 | 4.1% | 4.6% | 关注 | | OCR | 83.0 | 82.7 | OK | --------------------------------------- 结论: 领域大幅涨、通用基本不掉、幻觉微升需盯判定规则建议固化成门禁领域涨 ≥ 目标、通用退化 ≤ 2 个点、幻觉不升才允许进入下一阶段。这直接复用了五十七的能力 taxonomy 与 diff 能力两个工程天然咬合。第六节 与 4MRAG / 多模态 LLM 岗位的结合话术面试时你可以这么串我的领域适配观是「参数记忆 vs 检索记忆分工」——静态、易变、私有的知识放 RAG如 4MRAG动态、能力型、通用的知识放微调。两者不是替代是协同微调提升模型理解和推理底力RAG 提供可更新、可溯源的事实锚点。这正好对应华为多模态 LLM 岗位「既要懂训又要懂用」的要求。第七节 一个真实领域适配案例面试可直接讲讲一个我在多模态文档问答场景踩过、也最值得复盘的例子。目标是让模型读懂带表格的财报截图并回答数字问题。第一步我直接全参 SFT喂了 3 万条爬虫抓的「图问答」。结果领域分数从 58 飙到 79但通用 MMBench 从 81 掉到 73——典型的灾难性遗忘客服反馈「模型连普通物体识别都开始胡说」。复盘发现爬虫数据噪声极高且完全没有通用数据回放。第二步改方案换 LoRAr64数据里按 9:1 混入通用 SFT并加一道数据清洗把重复样本从 3 万砍到 1.1 万。训练后领域 76、通用 80.5遗忘基本消失。这里的关键教训是领域涨不一定是胜利通用不掉才是底线。第三步做退火用 2000 条专家精标的高质量财报 pair 以 lr5e-5 再走一轮领域冲到 81、格式对齐明显变好。最后接五十七的评测门禁确认幻觉率没升才放行。整个闭环体现了「数据质量 防遗忘 回归守护」三位一体——这套话术在面试官面前比单纯说「我用 LoRA 训了模型」有说服力得多。面试速答本篇可直接背的 3 句微调前先判断要不要微调——能 RAG/prompt 解决的别进权重避免数据、回归、遗忘三套成本。SFT 数据质量远大于数量管线核心是清洗构造多模态对齐难例挖掘1 万干净 10 万脏。效果回归必须同时看领域涨和通用不掉用维度雷达 门禁守护防灾难性遗忘。高频追问清单LoRA 和全参怎么选答小数据/怕遗忘/快迭代选 LoRA大数据/大领域差异选全参常组合使用。怎么防灾难性遗忘答通用数据回放、EWC、训练后通用集回归门禁退化超阈值回滚。多模态微调图文不对齐怎么办答配对后加 LLM 对齐校验筛掉弱相关样本训练监控图文答对比。退火为什么要单独做答低 lr 高质量小集收尾显著提升格式与指令遵循避免被噪声拖尾。你的微调怎么和 RAG 配合答能力型进权重、事实型进检索RAG 提供可溯源锚点、微调提供推理底力。 27届大模型面试准备（五十八）：大模型微调与领域适配工程实战——从 SFT 数据管线到效果回归
27届大模型面试准备五十八大模型微调与领域适配工程实战——从 SFT 数据管线到效果回归引言与上一篇、系列的关系上一篇五十七我们建了多模态评测工程用来量化「模型好不好」本篇往前再走一步回答「怎么把通用大模型变成你的领域模型」——也就是微调与领域适配工程。它和五十六的训推一体化、十六的后训练理论、十八的 LoRA/PEFT 方法都有关联但本篇只聚焦工程落地数据怎么造、训练怎么配、遗忘怎么防、效果怎么回归。为什么这是面试硬通货因为华为这类多模态 LLM 岗位不可能让你从零预训练绝大部分工作是「在基座上做领域微调 对齐 效果守护」。能讲清楚一条可复现、可回归、可防退化的微调流水线比背一堆公式更打动人。领域适配微调工程流水线 ------------------------------------------------------ | 领域语料 / 业务日志 / 专家标注 | ------------------------------------------------------ | 清洗 去重 质量过滤 ------------------------------------------------------ | 指令构造层 | | 种子指令 - 自指令扩写 - 多模态配对 - 难例挖掘 | ------------------------------------------------------ | (SFT / LoRA / 全参) ------------------------------------------------------ | 训练层 | | 配置管理 退火 课程 梯度裁剪 容错快照 | ------------------------------------------------------ | ------------------------------------------------------ | 回归层接五十七评测工程 | | 通用能力不掉 领域能力涨 幻觉不升 | ------------------------------------------------------第一节 微调前先问三个问题工程上动手前必须想清楚否则容易白训要不要微调能用 RAG / prompt 解决的别微调——微调有数据成本、回归成本、遗忘风险。你的 4MRAG 就是「用检索替代参数记忆」的典型很多知识类问题根本不必进权重。全参还是 LoRA/QLoRA数据量小、怕遗忘、要快迭代 → LoRA/QLoRA数据量大、领域差异极大、算力充足 → 全参 SFT。两者不是非此即彼常组合先 LoRA 探水再全参冲刺。怎么定义成功必须同时看「领域涨」和「通用不掉」单看领域涨会掩盖灾难性遗忘。# 微调决策的最小判断defshould_finetune(task):iftask.kindin(fact_retrieval,private_kb):return用 RAG不微调# 如 4MRAG 路线iftask.data_scale5_000:returnLoRA / QLoRAiftask.domain_shifthuge:return全参 SFT带通用回放returnLoRA 先探再决定第二节 SFT 数据管线质量远大于数量面试最爱追问「数据怎么造」。工业界共识是1 万条干净指令 10 万条脏数据。一条标准管线阶段动作常见坑收集业务日志、专家标注、公开集直接拿日志当 SFT噪声爆炸清洗去重、去毒、格式统一重复样本导致过拟合构造种子指令 → 自指令(self-instruct)扩写自指令退化成复读机配对文本指令配图/表多模态图文不对齐学歪难例用模型本身挖错样本做 hard negative难例太难压垮训练多模态配对尤其要小心图和问句必须语义对齐否则模型学会「忽略图、靠文本蒙」。建议在配对后加一道 LLM 校验筛掉图文弱相关的样本。# 自指令扩写极简骨架defself_instruct(seed_tasks,llm,n2000):outlist(seed_tasks)whilelen(out)n:promptf基于以下任务生成一个新的指令-输入-输出三元组\n{random.sample(out,3)}newllm.generate(prompt)ifis_valid(new)andnotis_duplicate(new,out):out.append(new)returnout第三节 训练配置工程让实验可复现配置管理是工程基本功。所有超参必须落盘yaml git commit seed否则「上次那版效果好但忘了怎么来的」是常态。关键配置项与经验值以 7B 级 LoRA 为例仅作量级参考learning_rateLoRA 常 1e-4 ~ 2e-4全参 SFT 常 1e-5 ~ 3e-5。warmup cosine decaywarmup_ratio 0.03。batch 通过 grad_accum 凑到有效 64~128。序列长度按领域分布定多模态常 4k~8k图 token 占大头。梯度裁剪 1.0bf16 训练配合五十六的精度对齐。# finetune_config.yamlmodel:base-7bmethod:qloralora_r:64lora_alpha:128lr:2.0e-4warmup_ratio:0.03lr_scheduler:cosineepochs:3max_seq_len:8192grad_clip:1.0seed:42save_steps:500resume_from_checkpoint:auto# 配合容错快照防灾难性遗忘的工程手段在领域数据里按比例混入通用 SFT 数据如 9:1或做 EWC / 模型回放训练后用五十七的评测工程跑通用集任一维度退化超阈值就回滚。第四节 退火与课程让模型收得住冲刺阶段常用「退火annealing」最后一轮用更干净、更高质量的小数据集 更低学习率再走一遍显著提升指令遵循与格式对齐。课程学习则是先易后难避免一上来被难例带崩。# 训练计划先全量粗训再高质量退火stages[{data:domain_mixed_9to1,lr:2e-4,epochs:3},{data:high_quality_small,lr:5e-5,epochs:1},# 退火]forsinstages:trainer.run(datas[data],lrs[lr],epochss[epochs])第五节 效果回归把五十七直接接上来微调完必须回归且回归口径要和上线口径一致。回归报告长这样模型版本: domain-v3 --------------------------------------- | 维度 | BASE | HEAD | 判定 | --------------------------------------- | 通用推理 | 81.2 | 80.9 | OK(-0.3)| | 领域问答 | 62.5 | 78.4 | UP(15.9)| | 幻觉率 | 4.1% | 4.6% | 关注 | | OCR | 83.0 | 82.7 | OK | --------------------------------------- 结论: 领域大幅涨、通用基本不掉、幻觉微升需盯判定规则建议固化成门禁领域涨 ≥ 目标、通用退化 ≤ 2 个点、幻觉不升才允许进入下一阶段。这直接复用了五十七的能力 taxonomy 与 diff 能力两个工程天然咬合。第六节 与 4MRAG / 多模态 LLM 岗位的结合话术面试时你可以这么串我的领域适配观是「参数记忆 vs 检索记忆分工」——静态、易变、私有的知识放 RAG如 4MRAG动态、能力型、通用的知识放微调。两者不是替代是协同微调提升模型理解和推理底力RAG 提供可更新、可溯源的事实锚点。这正好对应华为多模态 LLM 岗位「既要懂训又要懂用」的要求。第七节 一个真实领域适配案例面试可直接讲讲一个我在多模态文档问答场景踩过、也最值得复盘的例子。目标是让模型读懂带表格的财报截图并回答数字问题。第一步我直接全参 SFT喂了 3 万条爬虫抓的「图问答」。结果领域分数从 58 飙到 79但通用 MMBench 从 81 掉到 73——典型的灾难性遗忘客服反馈「模型连普通物体识别都开始胡说」。复盘发现爬虫数据噪声极高且完全没有通用数据回放。第二步改方案换 LoRAr64数据里按 9:1 混入通用 SFT并加一道数据清洗把重复样本从 3 万砍到 1.1 万。训练后领域 76、通用 80.5遗忘基本消失。这里的关键教训是领域涨不一定是胜利通用不掉才是底线。第三步做退火用 2000 条专家精标的高质量财报 pair 以 lr5e-5 再走一轮领域冲到 81、格式对齐明显变好。最后接五十七的评测门禁确认幻觉率没升才放行。整个闭环体现了「数据质量 防遗忘 回归守护」三位一体——这套话术在面试官面前比单纯说「我用 LoRA 训了模型」有说服力得多。面试速答本篇可直接背的 3 句微调前先判断要不要微调——能 RAG/prompt 解决的别进权重避免数据、回归、遗忘三套成本。SFT 数据质量远大于数量管线核心是清洗构造多模态对齐难例挖掘1 万干净 10 万脏。效果回归必须同时看领域涨和通用不掉用维度雷达 门禁守护防灾难性遗忘。高频追问清单LoRA 和全参怎么选答小数据/怕遗忘/快迭代选 LoRA大数据/大领域差异选全参常组合使用。怎么防灾难性遗忘答通用数据回放、EWC、训练后通用集回归门禁退化超阈值回滚。多模态微调图文不对齐怎么办答配对后加 LLM 对齐校验筛掉弱相关样本训练监控图文答对比。退火为什么要单独做答低 lr 高质量小集收尾显著提升格式与指令遵循避免被噪声拖尾。你的微调怎么和 RAG 配合答能力型进权重、事实型进检索RAG 提供可溯源锚点、微调提供推理底力。