SDE 与 ODE
SDE
sde是随机微分方程，可以理解成一个加噪声的过程： \[ dx = f(x,t)dt + g(x,t)dw \] 可以认为是一个原始分布\(P_x(0)\)随着时间的推移进行变化。同时dw是一个布朗运动的过程，g是scale函数。每一个是时间概率也会加上一个布朗噪声。
对于一个确定的初始分布，这个扩散过程最终会把x的分布变成一个和初始分布无关的量。
下面观察几种已有方法：
观察传统SMLD的扩散公式： \[ x_i = x_{i-1} + \sqrt{\sigma_i^2 - \sigma_{i-1}^2} z_{i-1},\quad i = 1,2..N \] 如果考虑连续形式，将 \(x_i = x(t_i),x_{i-1} = x(t_{i-1}), t_{i-1} \to t_i\)时，通过求导和逼近，可以有： \[ dx = \sqrt{\frac{d[\sigma^2(t)]}{dt}}dw \] 这是一个一届的近似，这是一个非常简单的sde方程。有如下特征：
- 方差趋近于无穷
另一方面，对于DDPM模型的公式： \[ x_i = \sqrt{1 - \beta_i} x_{i-1} + \sqrt{\beta_i}z_{i-1},\quad i = 1,2..N \] 同样有等价的SDE方程： \[ dx = -\frac{1}{2}\beta(t)xdt + \sqrt{\beta(t)}dw \] 这个方程的方差趋向于1.
ODE
所谓的ode，就是想让这个扩散过程和随机变量z无关。
解SDE
对于一个SDE，有一个对应的解： \[ dx = [f(x,t) - g^2(t)\bigtriangledown_x \log p_t(x)]dt + g(t)d\hat{w} \] 如果忽略上面方程中dw的项，逆过程就会和随机变量无关，是ode。然而，这样采样效果会变差。
也就是说：
一方面，SDE的逆扩散也是SDE。
另一方面，如果我们有了一个网络去拟合\(\bigtriangledown_x \log p_t(x)\)，那么我们就可以通过上面的公式把一个随机分布恢复去噪成\(P_0\)
对于SMLD和DDPM，作者证明了论文中给出的解法都是符合上面的通解公式的。其中DDPM的ancestral sampling是通解公式的一种一阶近似。
作者还给出了一种效果更好的去噪方法：PC
可以看出:
- 原始的 SMLD只有红色部分
- 原始的DDPM只有蓝色部分(这个和原始的ancestral sampling是一阶近似)。
总体而言，这个PC方法相当于是在离散时间下先走按照原来的导数方向走一步概率。由于时间粒度太粗，这个实际SDE解有变差，因此再用多步的Langevin dynamics纠正这个偏差。也就是：预测-纠正
作者通过实验证明了这种带纠正的方法PC同时提升了SMLD和DDPM的效果。注意：计算量增加了
可控生成
也就是在给定y下预测\(P_t(x(t)| y)\)。y可以是标签，也可以是一个遮罩。由于： \[ P_t(x(t)| y) \propto P_t(x) \times P_t(y|x(t)) \] 可以发现: \[ \bigtriangledown_x\log P_t(x(t)| y) = \bigtriangledown_x\log P_t(x(t)) + \bigtriangledown_x\log P_t(y | x(t)) \]
- 左边是不考虑y的正常 score model输出，
- 右边是一个额外的分类器的输出。这个分类器需要对每一个时间t能有输出，因此可以先把训练集中数据做出不同t下的噪声形式，再训练分类器。
生成时，我们将上面的公式作为score带入SDE的通解就可以进行可控地生成了。
总结与点评
总体而言，这篇论文读着很”爽“，让我感觉”不愧是outstanding paper“，”ICLR亦有差距“。这篇文章比较详细地给出了DDPM的数学背景，并且联系起了score-based model和DDPM。 另一方面，作者提出的PC方法简单易用，又真的可以极大提高效果，good。
我在想，既然这些DDPM、SLMD方法都是对于SDE方程的一阶近似解，那么：
- 一阶近似解有无数种，哪种最好？
- 有没有更高阶逼近的解？
另外，我也在思考：
- 想要用在文本生成领域中，还有什么可以借鉴的地方？