前向过程（扩散过程）#

给定真实数据分布 $x_0 \sim q(x_0)$，前向过程定义为一个固定的 Markov 链，逐步向数据中添加高斯噪声：

$q(x_t | x_{t-1}) := \mathcal{N}\left(x_t; \sqrt{1-\beta_t}\, x_{t-1},\ \beta_t I\right)$

其中 $\beta_t \in (0,1)$ 是预设的噪声调度表。整个前向过程的联合分布为：

$q(x_{1:T} | x_0) := \prod_{t=1}^T q(x_t | x_{t-1})$

一个重要的性质是：我们可以一步到位地从 $x_0$ 采样任意时刻 $t$ 的 $x_t$。令 $\alpha_t := 1 - \beta_t$，$\bar\alpha_t := \prod_{s=1}^t \alpha_s$，则：

$q(x_t | x_0) = \mathcal{N}\left(x_t; \sqrt{\bar\alpha_t}\, x_0,\ (1 - \bar\alpha_t) I\right)$

这意味着 $x_t$ 可以写成：

$x_t = \sqrt{\bar\alpha_t}\, x_0 + \sqrt{1 - \bar\alpha_t}\, \epsilon,\quad \epsilon \sim \mathcal{N}(0, I)$

当 $T$ 足够大时，$\bar\alpha_T \to 0$，从而 $q(x_T | x_0) \approx \mathcal{N}(0, I)$，满足先验假设。

反向过程#

反向过程的目标是学习一个参数化的 Markov 链 $p_\theta(x_{0:T})$ 来近似前向过程的后验。反向过程也建模为高斯转移：

$p_\theta(x_{t-1} | x_t) := \mathcal{N}\left(x_{t-1}; \mu_\theta(x_t, t),\ \Sigma_\theta(x_t, t)\right)$

起点为 $p(x_T) = \mathcal{N}(0, I)$。

变分下界与训练目标#

模型通过最大化对数似然的变分下界（ELBO）来训练：

$\log p_\theta(x_0) \geq \mathbb{E}_{q(x_{1:T}|x_0)}\left[\log\frac{p_\theta(x_{0:T})}{q(x_{1:T}|x_0)}\right]$

展开后得到三个部分：

1. 重构项：$L_0 = -\log p_\theta(x_0 | x_1)$
2. 去噪匹配项：$L_t = D_{KL}(q(x_{t-1} | x_t, x_0) \parallel p_\theta(x_{t-1} | x_t)),\quad 1 < t \leq T$
3. 先验匹配项：$L_T = D_{KL}(q(x_T | x_0) \parallel p(x_T))$

关键点在于：后验分布 $q(x_{t-1} | x_t, x_0)$ 有闭式解。利用贝叶斯公式：

$q(x_{t-1} | x_t, x_0) = \mathcal{N}\left(x_{t-1}; \tilde\mu_t(x_t, x_0),\ \tilde\beta_t I\right)$

其中：

$\tilde\mu_t(x_t, x_0) = \frac{\sqrt{\alpha_t}\,(1 - \bar\alpha_{t-1})}{1 - \bar\alpha_t}\, x_t + \frac{\sqrt{\bar\alpha_{t-1}}\,\beta_t}{1 - \bar\alpha_t}\, x_0$

$\tilde\beta_t = \frac{1 - \bar\alpha_{t-1}}{1 - \bar\alpha_t}\, \beta_t$

参数化选择#

Ho et al. (2020) 做出了两个关键的设计决策：

决策一：固定方差。令 $\Sigma_\theta(x_t, t) = \sigma_t^2 I$，其中 $\sigma_t^2 = \beta_t$ 或 $\tilde\beta_t$。实验表明两种选择效果相近。

决策二：预测噪声。将 $\mu_\theta$ 重新参数化为对噪声 $\epsilon$ 的预测。利用 $x_0 = (x_t - \sqrt{1 - \bar\alpha_t}\, \epsilon) / \sqrt{\bar\alpha_t}$，代入 $\tilde\mu_t$ 并化简：

$\mu_\theta(x_t, t) = \frac{1}{\sqrt{\alpha_t}}\left(x_t - \frac{\beta_t}{\sqrt{1 - \bar\alpha_t}}\,\epsilon_\theta(x_t, t)\right)$

最终的训练目标简化为：

$L_{\text{simple}} = \mathbb{E}_{t, x_0, \epsilon}\left[\left\|\epsilon - \epsilon_\theta(\sqrt{\bar\alpha_t}\, x_0 + \sqrt{1 - \bar\alpha_t}\, \epsilon,\ t)\right\|^2\right]$

这一形式极其简洁：网络只需预测所添加的噪声 $\epsilon$。

采样算法（DDPM）#

DDPM 的采样遵循反向 Markov 链，从 $x_T \sim \mathcal{N}(0, I)$ 开始，逐步去噪：

$x_{t-1} = \frac{1}{\sqrt{\alpha_t}}\left(x_t - \frac{\beta_t}{\sqrt{1 - \bar\alpha_t}}\,\epsilon_\theta(x_t, t)\right) + \sigma_t z,\quad z \sim \mathcal{N}(0, I)$

其中 $z = 0$ 当 $t = 1$ 时。

核心观察：DDPM 的采样过程是随机的——每步都注入新的噪声 $z$。这使得采样过程必须走完全部 $T$ 步（通常 $T = 1000$）才能保证质量。

非马尔可夫前向过程#

DDIM 的关键洞察是：DDPM 的训练目标 $L_{\text{simple}}$ 实际上只依赖于边际分布 $q(x_t | x_0)$，而不依赖于联合分布 $q(x_{1:T} | x_0)$。这意味着：

我们可以构造不同的前向过程（具有不同的联合分布），只要它们共享相同的边际分布，训练出的模型就可以互换使用。

DDIM 定义了一类非马尔可夫前向过程族 $Q_\sigma$。其关键性质是：

$q_\sigma(x_t | x_0) = \mathcal{N}\left(\sqrt{\bar\alpha_t}\, x_0,\ (1 - \bar\alpha_t)I\right)$

即边际分布与 DDPM 完全一致。

反向过程#

在 DDIM 的框架下，给定 $x_t$ 和 $x_0$，可以构造如下反向条件分布：

$q_\sigma(x_{t-1} | x_t, x_0) = \mathcal{N}\left(\sqrt{\bar\alpha_{t-1}}\, x_0 + \sqrt{1 - \bar\alpha_{t-1} - \sigma_t^2}\ \frac{x_t - \sqrt{\bar\alpha_t}\, x_0}{\sqrt{1 - \bar\alpha_t}},\ \sigma_t^2 I\right)$

其中 $\sigma_t \geq 0$ 是一个自由参数，控制反向过程的随机性。

验证一下：当 $\sigma_t^2 = \tilde\beta_t = \frac{1 - \bar\alpha_{t-1}}{1 - \bar\alpha_t}\beta_t$ 时，该分布退化为 DDPM 的后验 $q(x_{t-1} | x_t, x_0)$。因此 DDPM 是 DDIM 框架的一个特例。

采样算法#

利用预测噪声的替换 $x_0 = (x_t - \sqrt{1 - \bar\alpha_t}\, \epsilon_\theta(x_t, t)) / \sqrt{\bar\alpha_t}$，DDIM 的采样步骤为：

$x_{t-1} = \sqrt{\bar\alpha_{t-1}}\left(\frac{x_t - \sqrt{1 - \bar\alpha_t}\, \epsilon_\theta(x_t, t)}{\sqrt{\bar\alpha_t}}\right) + \sqrt{1 - \bar\alpha_{t-1} - \sigma_t^2}\ \epsilon_\theta(x_t, t) + \sigma_t \epsilon_t$

其中 $\epsilon_t \sim \mathcal{N}(0, I)$。

理论联系#

DDPM 与 DDIM 的关系可以沿两条轴线理解：

• 当 $\sigma_t \to 0$：DDIM 退化为确定性采样，隐式模型成立，支持加速和可逆插值。但确定性也意味着失去了 DDPM 中随机性带来的多样性增益。
• 当 $\sigma_t = \sqrt{(1 - \bar\alpha_{t-1})/(1 - \bar\alpha_t) \cdot \beta_t}$：DDIM 恢复为 DDPM。

Song et al. 进一步证明，$\sigma_t$ 的取值实际上对应了反向随机微分方程中扩散系数的一个自由选择——不同的 $\sigma_t$ 对应了同一个正向 SDE 的不同反向表示。这一连接为后续的分数扩散 SDE (Score SDE) 框架奠定了基础。