图片来源自上面这个论文论文的图片中展示的是一个随机微分方程SDE的两种形式常用于扩散模型Diffusion Models或随机过程建模特别是在生成模型如DDPM、Score-based models中。下面将逐步解析这两条方程的含义、关系及物理/数学背景并说明它们为何常被并列写出。 一、先明确符号含义便于后续理解x状态变量通常是高维向量如图像像素向量t时间变量常为扩散过程的时间步f(t)漂移项系数函数决定确定性演化g(t)扩散项系数函数决定噪声强度dw标准布朗运动Wiener过程的微分代表随机扰动∇ₓ log pₜ(x)在时刻 t数据分布 pₜ(x) 的对数概率梯度即“score function”pₜ(x)在扩散过程时间 t 时数据 x 的概率密度 二、逐条解析两条方程✅ 第一条方程正向扩散过程 / 扩散SDEdx f(t)x dt g(t) dw这是正向扩散过程Forward Diffusion Process的标准形式。它描述的是一个数据点 x 从初始分布 p₀(x)真实数据开始被逐渐加入噪声最终变成近似高斯分布的过程。f(t)x​ 是线性漂移项常见于线性噪声调度如 VPSDE、VESPDE。g(t)dw​ 是添加的高斯噪声项随时间变化。该过程通常设计为让 xₜ 在 t→T 时接近标准高斯分布 N(0, I)。用途用于训练阶段让模型学习“如何加噪”。✅ 第二条方程反向扩散过程 / 逆向SDEdx [f(t)x − g²(t)∇ₓ log pₜ(x)] dt g(t) dw这是逆向扩散过程Reverse-time SDE由正向SDE通过时间反转推导而来依据 Anderson, 1982 或 《Score-Based Generative Modeling through Stochastic Differential Equations》, Song et al., ICLR 2021。与正向SDE相比仅多了一个“修正项”−g²(t)∇ₓ log pₜ(x)这个项就是“score function”对数梯度它指引系统“逆着噪声方向”恢复数据。该方程允许我们从纯噪声 xₜ ~ N(0, I) 出发通过逐步去噪生成真实数据样本。注意dw 在逆向过程中有时会取负号取决于时间方向但在很多表述中仍保留原符号因为实际采样时通过数值方法处理。用途用于采样/生成阶段让模型“从噪声中重建数据”。 三、两条方程的关系关键这两条方程本质上是一个正向扩散SDE​ 和其对应的逆向SDE正向x₀ → xₜ加噪过程确定随机逆向xₜ → x₀去噪过程依赖于 score ∇ₓ log pₜ(x)逆向SDE的推导依赖于Fokker-Planck 方程​ 或Girsanov 定理核心结论是若正向过程为 dx f(t)x dt g(t) dw则逆向过程在时间倒流下为dx [f(t)x − g²(t)∇ₓ log pₜ(x)] dt − g(t) dw​注部分文献保留 dw 符号实际采样时通过改变积分方向或调整噪声项处理你提供的第二式中写的是 g(t)dw这可能是为了采样方便或记法统一实际含义仍是“逆向过程依赖于 score”。 四、应用场景为什么重要这两条方程是扩散模型Diffusion Models​ 的数学基础Score-based generative models​ 的核心动力学DDPMDenoising Diffusion Probabilistic Models​ 的连续时间版本Stable Diffusion / Midjourney 等图像生成模型​ 的底层理论支撑模型训练目标就是估计 ∇ₓ log pₜ(x)​ —— 也就是训练一个神经网络预测“噪声方向”或“得分”。 五、总结一句话核心要点图片展示的是扩散过程的正向SDE与逆向SDE其中逆向过程依赖于数据分布的对数梯度score这是现代生成模型如Diffusion Model实现“从噪声生成数据”的数学基础。 附加若这是考题/作业题常见问法及答案Q两条方程分别代表什么有何关系A第一个方程描述的是正向扩散过程即数据逐渐被噪声破坏的过程形式为线性漂移 噪声扰动。第二个方程是逆向扩散过程它通过引入 score function ∇ₓ log pₜ(x) 来“逆向”恢复数据用于从噪声生成样本。二者通过时间反转理论关联逆向过程依赖于对数密度梯度score是生成模型的关键。Q∇ₓ log pₜ(x) 在生成中有何作用A这是“得分函数”score function指示在当前状态 x 下概率密度增长最快的方向。模型通过学习该梯度可以在采样时引导噪声样本逐步向高密度区域即真实数据移动。