GPU显存不够怎么办Erasing Concepts from Diffusion Models训练常见问题与优化技巧【免费下载链接】erasingErasing Concepts from Diffusion Models项目地址: https://gitcode.com/gh_mirrors/er/erasing在本地微调扩散模型、做扩散模型概念擦除Erasing Concepts from Diffusion Models训练时CUDA out of memory是最常见的劝退理由。这个开源项目通过只微调注意力层的小部分参数就能把梵高风格、裸体内容、特定物体等概念从 Stable Diffusion / SDXL / FLUX 中擦除掉而它的新版本代码相比旧版几乎省一半 GPU 显存、速度提升 5-8 倍。本文总结 ESD 训练中的显存优化技巧与常见问题排查方法帮你用一块消费级显卡跑通概念擦除训练。先看效果概念擦除到底能做什么项目效果一目了然左边是原始模型的输出右边是擦除后的输出。无论是不安全内容、知名艺术家风格还是汽车这类具体物体都能被精准移除而画面其余部分保持合理。为什么训练时会爆显存ESD 训练本质上是一次轻量微调加载一个完整的扩散模型UNet 或 FLUX Transformer在显存里同时保留冻结的原始权重和可训练的副本因此显存占用通常比单纯推理高出一倍左右。显存主要消耗在三个地方模型权重本身SD1.4 约 4GB、SDXL 约 7GB、FLUX.1-dev 更大前向采样过程训练时每步都要先用原始模型采样噪声潜变量x_t反向传播的中间激活值这是最容易爆显存的环节。好消息是这个项目在代码层面已经做了大量省显存设计下面这些技巧按见效速度排序。8 个立竿见影的GPU显存优化技巧1. 使用新版代码显存直接减半项目官方明确说明新版代码相比旧版几乎使用一半的 GPU 显存且快 5-8 倍。如果你是从旧 commit 或第三方教程复制来的命令请务必用最新代码重新安装git clone https://gitcode.com/gh_mirrors/er/erasing cd erasing conda create --name erasing python3.14 conda activate erasing pip install -r requirements.txt新版的核心训练逻辑统一收敛在utils/esd_trainer.py中SD、SDXL、FLUX 共用同一套流程安装和排错都更简单。2. 选对训练方法esd-x 只动注意力层这是该项目最核心的省显存设计。ESD 不需要全量微调esd-x方法只更新交叉注意力层attn2的参数其余全部冻结更极致的esd-x-strict甚至只更新to_k和to_v两个投影矩阵。可训练参数量骤减意味着优化器状态、梯度和激活值都大幅减少显存压力直接下降。相关参数选择逻辑可以在utils/esd_trainer.py中看到比如 SD 的esd-x只选择包含attn2的模块。python esd_sd.py --erase_concept Van Gogh --train_method esd-x3. 开启梯度检查点--gradient_checkpointing如果仍然 OOM加上梯度检查点参数用少量计算换显存通常能再省 30%-50%python esd_sdxl.py --erase_concept Van Gogh --train_method esd-x-strict --gradient_checkpointing梯度检查点会丢弃中间激活、在反向传播时重新计算是低显存训练的后悔药SDXL 和 FLUX 的训练入口脚本都支持该参数。4. 降低训练分辨率--resolution 512显存占用与分辨率的平方成正比。FLUX 训练脚本默认就把分辨率设为 512 以控制显存占用。如果你的显卡只有 8GB建议显式指定python esd_flux.py --erase_concept monster --train_method esd-x --resolution 512SD 和 SDXL 脚本默认使用模型原生分辨率512 或 1024训练 SDXL 时如果爆显存先降到 512 试一次。5. 保持 batchsize1ESD 训练每一步只需要一张噪声潜变量图所有脚本默认--batchsize 1这也是官方推荐值。不要为了加快训练去调大 batch除非你的显存非常充裕。6. 利用默认的 bfloat16 混合精度所有训练入口默认使用torch.bfloat16精度加载模型显存占用约为 FP32 的一半。只需确认你的显卡支持 bfloat16RTX 30/40 系列、A100 等都没问题无需额外配置即可享受减半显存。7. 允许 TF32 加速--allow_tf32在 Ampere 及以上架构的显卡上可以开启 TF32 让矩阵乘法更快、更省显存python esd_flux2_klein.py --erase_concept monster --train_method esd-x --allow_tf32FLUX.2 Klein 等新模型的训练入口均支持该开关。8. 减少迭代步数--iterations默认情况下 SD 系列训练 200 步、FLUX 训练 1400 步。如果只是快速验证效果可以先用较小步数跑通流程python esd_sd.py --erase_concept Van Gogh --train_method esd-x --iterations 100训练完成后检查点会以.safetensors格式保存到esd-models/目录并自动带上训练元信息。各模型的显存参考与推荐参数不同基座模型的参数量差异巨大这里给出一个直观参考基座模型默认分辨率建议最低显存推荐训练方法关键参数Stable Diffusion V1.45128GB 可跑通esd-x / esd-x-strictiterations 200SDXL102412GB建议16GBesd-x-strict分辨率降 512 更稳FLUX.1-dev51216GB建议24GBesd-x / esd-x-strictiterations 1400FLUX.2 Klein51216GB建议24GBesd-x需较新 diffusers如果显存低于上表建议值优先叠加使用梯度检查点 降低分辨率两个技巧。ESD 训练原理为什么会这么省显存这张流程图解释了 ESD 的优化目标训练一个可学习的参数副本Fine Tune ESD让它输出的噪声预测逐渐远离原始模型 被擦除概念提示词的组合逼近原始模型 空提示词的预测从而实现概念擦除。全程只优化少量参数所以显存和速度都很友好。常见报错排查与解决CUDA out of memory按顺序尝试加--gradient_checkpointing→ 降低--resolution→ 确认--batchsize 1→ 换成esd-x-strict方法。CUDA: no kernel image is available通常是 PyTorch 与显卡驱动、CUDA 版本不匹配。按项目requirements.txt安装匹配版本的 torch或升级驱动后重装虚拟环境。想用多块显卡训练训练脚本通过--device指定设备默认是cuda:0。ESD 训练本身单卡即可完成如果显存不够更建议先尝试上面 8 个技巧而不是贸然上多卡。训练中断、想恢复ESD 训练步数少、速度快中断后直接重新运行即可。新版会以safetensors保存元数据感知的检查点训练完成后也可直接用推理脚本加载无需额外转换。训练完成后如何验证效果训练完成后可以用notebooks/目录下的推理 notebook如esd_inference_sd.ipynb、esd_inference_sdxl.ipynb、esd_inference_flux.ipynb快速生成对比图要批量评估擦除效果则使用evalscripts/generate-images.py它会自动识别检查点目标是unet还是transformerSD、SDXL、FLUX 通用python evalscripts/generate-images.py --base_model stabilityai/stable-diffusion-xl-base-1.0 --esd_path esd-models/sdxl/esd-kelly-from-kelly.safetensors --num_samples 1 --prompts_path data/kelly_prompts.csv --num_inference_steps 20 --guidance_scale 7data/目录下还提供了art_prompts.csv、vangogh_prompts.csv、unsafe-prompts4703.csv等现成提示词集省去自己整理数据的麻烦。总结GPU 显存不够不是放弃扩散模型概念擦除训练的理由。记住三个核心思路只训练注意力层esd-x 系列方法、开梯度检查点、降低分辨率再配合新版代码本身省一半显存的设计多数 8-16GB 的消费级显卡都能顺利跑通。如果在安装或训练中遇到问题优先检查utils/esd_trainer.py的参数配置和各训练入口脚本esd_sd.py、esd_sdxl.py、esd_flux.py、esd_flux2_klein.py的命令行选项大部分显存问题都能在参数层面解决。【免费下载链接】erasingErasing Concepts from Diffusion Models项目地址: https://gitcode.com/gh_mirrors/er/erasing创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 GPU显存不够怎么办？Erasing Concepts from Diffusion Models训练常见问题与优化技巧
GPU显存不够怎么办Erasing Concepts from Diffusion Models训练常见问题与优化技巧【免费下载链接】erasingErasing Concepts from Diffusion Models项目地址: https://gitcode.com/gh_mirrors/er/erasing在本地微调扩散模型、做扩散模型概念擦除Erasing Concepts from Diffusion Models训练时CUDA out of memory是最常见的劝退理由。这个开源项目通过只微调注意力层的小部分参数就能把梵高风格、裸体内容、特定物体等概念从 Stable Diffusion / SDXL / FLUX 中擦除掉而它的新版本代码相比旧版几乎省一半 GPU 显存、速度提升 5-8 倍。本文总结 ESD 训练中的显存优化技巧与常见问题排查方法帮你用一块消费级显卡跑通概念擦除训练。先看效果概念擦除到底能做什么项目效果一目了然左边是原始模型的输出右边是擦除后的输出。无论是不安全内容、知名艺术家风格还是汽车这类具体物体都能被精准移除而画面其余部分保持合理。为什么训练时会爆显存ESD 训练本质上是一次轻量微调加载一个完整的扩散模型UNet 或 FLUX Transformer在显存里同时保留冻结的原始权重和可训练的副本因此显存占用通常比单纯推理高出一倍左右。显存主要消耗在三个地方模型权重本身SD1.4 约 4GB、SDXL 约 7GB、FLUX.1-dev 更大前向采样过程训练时每步都要先用原始模型采样噪声潜变量x_t反向传播的中间激活值这是最容易爆显存的环节。好消息是这个项目在代码层面已经做了大量省显存设计下面这些技巧按见效速度排序。8 个立竿见影的GPU显存优化技巧1. 使用新版代码显存直接减半项目官方明确说明新版代码相比旧版几乎使用一半的 GPU 显存且快 5-8 倍。如果你是从旧 commit 或第三方教程复制来的命令请务必用最新代码重新安装git clone https://gitcode.com/gh_mirrors/er/erasing cd erasing conda create --name erasing python3.14 conda activate erasing pip install -r requirements.txt新版的核心训练逻辑统一收敛在utils/esd_trainer.py中SD、SDXL、FLUX 共用同一套流程安装和排错都更简单。2. 选对训练方法esd-x 只动注意力层这是该项目最核心的省显存设计。ESD 不需要全量微调esd-x方法只更新交叉注意力层attn2的参数其余全部冻结更极致的esd-x-strict甚至只更新to_k和to_v两个投影矩阵。可训练参数量骤减意味着优化器状态、梯度和激活值都大幅减少显存压力直接下降。相关参数选择逻辑可以在utils/esd_trainer.py中看到比如 SD 的esd-x只选择包含attn2的模块。python esd_sd.py --erase_concept Van Gogh --train_method esd-x3. 开启梯度检查点--gradient_checkpointing如果仍然 OOM加上梯度检查点参数用少量计算换显存通常能再省 30%-50%python esd_sdxl.py --erase_concept Van Gogh --train_method esd-x-strict --gradient_checkpointing梯度检查点会丢弃中间激活、在反向传播时重新计算是低显存训练的后悔药SDXL 和 FLUX 的训练入口脚本都支持该参数。4. 降低训练分辨率--resolution 512显存占用与分辨率的平方成正比。FLUX 训练脚本默认就把分辨率设为 512 以控制显存占用。如果你的显卡只有 8GB建议显式指定python esd_flux.py --erase_concept monster --train_method esd-x --resolution 512SD 和 SDXL 脚本默认使用模型原生分辨率512 或 1024训练 SDXL 时如果爆显存先降到 512 试一次。5. 保持 batchsize1ESD 训练每一步只需要一张噪声潜变量图所有脚本默认--batchsize 1这也是官方推荐值。不要为了加快训练去调大 batch除非你的显存非常充裕。6. 利用默认的 bfloat16 混合精度所有训练入口默认使用torch.bfloat16精度加载模型显存占用约为 FP32 的一半。只需确认你的显卡支持 bfloat16RTX 30/40 系列、A100 等都没问题无需额外配置即可享受减半显存。7. 允许 TF32 加速--allow_tf32在 Ampere 及以上架构的显卡上可以开启 TF32 让矩阵乘法更快、更省显存python esd_flux2_klein.py --erase_concept monster --train_method esd-x --allow_tf32FLUX.2 Klein 等新模型的训练入口均支持该开关。8. 减少迭代步数--iterations默认情况下 SD 系列训练 200 步、FLUX 训练 1400 步。如果只是快速验证效果可以先用较小步数跑通流程python esd_sd.py --erase_concept Van Gogh --train_method esd-x --iterations 100训练完成后检查点会以.safetensors格式保存到esd-models/目录并自动带上训练元信息。各模型的显存参考与推荐参数不同基座模型的参数量差异巨大这里给出一个直观参考基座模型默认分辨率建议最低显存推荐训练方法关键参数Stable Diffusion V1.45128GB 可跑通esd-x / esd-x-strictiterations 200SDXL102412GB建议16GBesd-x-strict分辨率降 512 更稳FLUX.1-dev51216GB建议24GBesd-x / esd-x-strictiterations 1400FLUX.2 Klein51216GB建议24GBesd-x需较新 diffusers如果显存低于上表建议值优先叠加使用梯度检查点 降低分辨率两个技巧。ESD 训练原理为什么会这么省显存这张流程图解释了 ESD 的优化目标训练一个可学习的参数副本Fine Tune ESD让它输出的噪声预测逐渐远离原始模型 被擦除概念提示词的组合逼近原始模型 空提示词的预测从而实现概念擦除。全程只优化少量参数所以显存和速度都很友好。常见报错排查与解决CUDA out of memory按顺序尝试加--gradient_checkpointing→ 降低--resolution→ 确认--batchsize 1→ 换成esd-x-strict方法。CUDA: no kernel image is available通常是 PyTorch 与显卡驱动、CUDA 版本不匹配。按项目requirements.txt安装匹配版本的 torch或升级驱动后重装虚拟环境。想用多块显卡训练训练脚本通过--device指定设备默认是cuda:0。ESD 训练本身单卡即可完成如果显存不够更建议先尝试上面 8 个技巧而不是贸然上多卡。训练中断、想恢复ESD 训练步数少、速度快中断后直接重新运行即可。新版会以safetensors保存元数据感知的检查点训练完成后也可直接用推理脚本加载无需额外转换。训练完成后如何验证效果训练完成后可以用notebooks/目录下的推理 notebook如esd_inference_sd.ipynb、esd_inference_sdxl.ipynb、esd_inference_flux.ipynb快速生成对比图要批量评估擦除效果则使用evalscripts/generate-images.py它会自动识别检查点目标是unet还是transformerSD、SDXL、FLUX 通用python evalscripts/generate-images.py --base_model stabilityai/stable-diffusion-xl-base-1.0 --esd_path esd-models/sdxl/esd-kelly-from-kelly.safetensors --num_samples 1 --prompts_path data/kelly_prompts.csv --num_inference_steps 20 --guidance_scale 7data/目录下还提供了art_prompts.csv、vangogh_prompts.csv、unsafe-prompts4703.csv等现成提示词集省去自己整理数据的麻烦。总结GPU 显存不够不是放弃扩散模型概念擦除训练的理由。记住三个核心思路只训练注意力层esd-x 系列方法、开梯度检查点、降低分辨率再配合新版代码本身省一半显存的设计多数 8-16GB 的消费级显卡都能顺利跑通。如果在安装或训练中遇到问题优先检查utils/esd_trainer.py的参数配置和各训练入口脚本esd_sd.py、esd_sdxl.py、esd_flux.py、esd_flux2_klein.py的命令行选项大部分显存问题都能在参数层面解决。【免费下载链接】erasingErasing Concepts from Diffusion Models项目地址: https://gitcode.com/gh_mirrors/er/erasing创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考