149、超分模型的迁移学习:预训练权重微调与领域自适应
149、超分模型的迁移学习:预训练权重微调与领域自适应上周调一个老项目,把EDSR从DIV2K直接搬到遥感图像上,结果PSNR掉了快2个dB。同事说“你这不是迁移,是迁移灾难”。我盯着那些糊成一团的卫星屋顶,突然意识到——超分模型的迁移学习,远不是“加载预训练权重、跑几个epoch”那么简单。为什么你的预训练权重“水土不服”先看一个典型场景:你在DIV2K上训好的RCAN,换到医学CT图像上,高频细节全变成伪影。这不是模型不行,是数据分布差异在作祟。DIV2K的退化过程是双三次下采样,干净、均匀。而真实场景的退化千奇百怪——遥感图像有大气扰动、视频帧有运动模糊、手机照片有传感器噪声。你的预训练模型学到的“超分先验”是理想化的,换个领域就失效。我踩过的坑:直接把ImageNet预训练的VGG感知损失权重拿来用,结果纹理迁移得一塌糊涂。后来才想通——VGG是在分类任务上训的,它关注的纹理特征和超分任务需要的细节重建根本不是一回事。微调的正确姿势:不是“从头训”,是“有策略地训”1. 冻结策略:别让底层特征崩掉超分模型的底层卷积层学的是基础纹理模式(边缘、角点、简单纹理),这些在不同领域间是通用的。我一般这样操作:# 加载预训练模型model