02_造新链_边缘不变

来源：Song、Meng、Ermon，2020，arXiv 2010.02502 v4，ICLR 2021。公式号与论文一致。符号约定与常用公式卡见本单元 00_导读。这一节讲：§3 行使支点给的自由，保住边缘、重设时刻间搭配，造出带 $\sigma$ 旋钮的非马尔可夫新链（公式 6/7）；§4 用 Lemma 1 归纳验证：新链每个时刻的边缘与 DDPM 一字不差。 --- ## §3 造新过程：一条非马尔可夫的新链（论文 3.1） **这一步**：开始行使 §2 给的自由。注意动词：这一节不是「推导」出什么，是**设计**，保住每个时刻的边缘不动，时刻之间怎么搭配随我们重排。设计出来的是一条带自由参数 $\sigma$ 的新链：$\sigma$ 拨到不同位置，同一族链在「全用旧噪声」和「全换新噪声」之间连续滑动。 **结论**：单步规则是公式 7（见公式卡），整条链是公式 6。 > [!abstract] 公式 6 · 完整加噪链 > $q_\sigma(x_{1:T}\mid x_0) := q_\sigma(x_T\mid x_0)\prod_{t=2}^T q_\sigma(x_{t-1}\mid x_t, x_0)$ $\sigma=[\sigma_1,\dots,\sigma_T]$ 是一组按时间步设置的噪声参数，其中 $\sigma_t$ 控制第 $t$ 步“新噪声占多少”：$\sigma_t=0$ 时全用旧噪声，$x_{t-1}$ 被确定下来，这是 DDIM；$\sigma_t^2=\tilde\beta_t$ 时退回 DDPM；$\sigma_t^2=1-\alpha_{t-1}$ 时全用新噪声，基本忘掉 $x_t$。不同的 $\sigma$ 会对应训练目标里不同的一组权重 $\gamma=[\gamma_1,\dots,\gamma_T]$，但这些过程的边缘分布相同，所以训练好的网络可以通用。 > [!note]- 推导：怎么造出公式 7（核心，强烈建议读） > 第 1 步，从 $x_t$ 解出内含噪声。由公式 4 移项、除以 $\sqrt{1-\alpha_t}$： > > $\epsilon = \frac{x_t - \sqrt{\alpha_t}\,x_0}{\sqrt{1-\alpha_t}} \qquad (\star)$ > > 第 2 步，$x_{t-1}$ 必须长这样（边缘不能变）：$x_{t-1} = \sqrt{\alpha_{t-1}}x_0 + (\text{噪声项})$，噪声项方差 $= 1-\alpha_{t-1}$。缺的只有噪声项。 > > 第 3 步，把噪声项设计成旧噪声 + 新噪声：$a\epsilon + b z$（$z\sim\mathcal{N}(0,I)$ 新抽，独立）。方差 $\mathrm{Var}(a\epsilon+bz)=a^2+b^2$。 > > 第 4 步，对上要求、立成等式 $a^2+b^2=1-\alpha_{t-1}$。$b$ 自由选，记 $\sigma_t$；$a$ 反解： > > $a = \sqrt{1-\alpha_{t-1}-\sigma_t^2}$ > > 验证 $(1-\alpha_{t-1}-\sigma_t^2)+\sigma_t^2=1-\alpha_{t-1}$，$\pm\sigma_t^2$ 抵消，总方差钉死，$\sigma_t$ 只改新旧占比（合法范围 $\sigma_t^2\le 1-\alpha_{t-1}$）。 > > 第 5 步，组装并把 $\epsilon$ 用 $(\star)$ 写开，给定 $x_t,x_0$ 后随机的只有 $z$，得高斯，均值如下、方差 $\sigma_t^2 I$，即公式 7： > > $q_\sigma(x_{t-1}\mid x_t,x_0) = \mathcal{N}\!\left(\sqrt{\alpha_{t-1}}x_0 + \sqrt{1-\alpha_{t-1}-\sigma_t^2}\cdot\frac{x_t-\sqrt{\alpha_t}x_0}{\sqrt{1-\alpha_t}},\ \sigma_t^2 I\right)$ > [!note]- 推导：和 DDPM 前向后验对比，旋钮从哪来（支线） > DDPM 的前向后验均值是 $x_0,x_t$ 的固定组合，方差写死成 $\tilde\beta_t=\frac{1-\alpha_{t-1}}{1-\alpha_t}\beta_t$，没得选。公式 7 形状相同，但方差是可调的 $\sigma_t^2$。把 $\sigma_t^2$ 拧到 $\tilde\beta_t$，均值也随之化简成和 DDPM 一样，整个退回 DDPM。来历也不同：DDPM 是被动算出的唯一解，公式 7 是主动设计出来的一族，所以多出了 $\sigma$ 这个自由度。 > [!note]- 推导：怎么把单步规则串成整条链（得公式 6 与公式 8） > 公式 7 是从右往左退格的后验概率。最右的 $x_T$ 没有右边，单独按边缘指定起点 $q_\sigma(x_T\mid x_0)=\mathcal{N}(\sqrt{\alpha_T}x_0,(1-\alpha_T)I)$。起点因子 × $(T-1)$ 个规则因子 = 完整的联合分布（公式 6）。 > > **为什么叫非马尔可夫？** 公式 7 的条件位挂了 $x_t$ 和 $x_0$ 两个变量，正是多挂的 $x_0$ 破坏了马尔可夫性，但也让回收旧噪声、造出 $\sigma$ 旋钮成为可能。 > --- ## §4 验证边缘真的不变：Lemma 1 **这一步**：设计完了要验收。§3 第 1 步有个不严的地方：把「由随机的 $x_t$ 反解出来的 $\epsilon$」当独立标准噪声用了，这在设计草图里可以蒙混，拿来当定理不行。Lemma 1 用归纳法把账算死：新链每个时刻的边缘仍然等于 DDPM 边缘 $\mathcal{N}(\sqrt{\alpha_t}x_0,(1-\alpha_t)I)$。工具只有一件，高斯线性边缘化（Bishop 2.115），先立好再用。 **结论**：全族每个成员、每个时刻，边缘都和 DDPM 一字不差。§3 的设计被严格确认，§2 给出的自由被合法兑现。 > [!note]- 高斯线性边缘化（Bishop 2.115） > 已知 $x$ 的分布、以及 $y$ 如何由 $x$ 线性生成，求抹掉 $x$ 后 $y$ 自己的分布。 > > **已知** > - $x\sim\mathcal N(\mu,\Sigma)$：$x$ 平均在 $\mu$，散布 $\Sigma$。 > - $y\sim\mathcal N(Ax+b,\,S)$：$x$ 定下后，$y$ 的中心落在 $Ax+b$，再带自身散布 $S$。 > > **结果** > $y\sim\mathcal N(A\mu+b,\ \ A^2\Sigma+S)$ > > - **中心 $A\mu+b$**：$x$ 平均在 $\mu$，代入 $Ax+b$，$y$ 的中心平均就落在 $A\mu+b$。 > - **散布 $A^2\Sigma+S$**：$A^2\Sigma$ 是 $x$ 的散布 $\Sigma$ 经系数 $A$ 放大 $A^2$ 倍搬进 $y$；$S$ 是 $y$ 自身那份。两份相加。 > > **适用条件**：$y$ 的中心是 $x$ 的线性函数 $Ax+b$，且 $x$ 与噪声都是高斯。满足就直接代入上式。 > [!note]- Lemma 1 归纳一步：新链边缘 = DDPM 边缘 > **证什么**：DDIM 新链每个时刻的边缘都等于 DDPM 的边缘。只认边缘的网络因此无需重训，DDIM 直接复用。 > > **工具** Bishop 2.115：$x\sim\mathcal{N}(\mu,\Sigma)$、$y\sim\mathcal{N}(Ax+b,S)$ ⟹ $y\sim\mathcal{N}(A\mu+b,\ A^2\Sigma+S)$。 > > **① 边缘化积分**（抹掉 $x_t$）： > $q(x_{t-1}\mid x_0)=\int q(x_t\mid x_0)\,q(x_{t-1}\mid x_t,x_0)\,dx_t$ > > **② 两样料 (24)(25)**： > $q(x_t\mid x_0)=\mathcal{N}(\sqrt{\alpha_t}x_0,\ 1-\alpha_t)\tag{24}$ > $q(x_{t-1}\mid x_t,x_0)=\mathcal{N}\Big(\sqrt{\alpha_{t-1}}x_0+\sqrt{1-\alpha_{t-1}-\sigma_t^2}\cdot\tfrac{x_t-\sqrt{\alpha_t}x_0}{\sqrt{1-\alpha_t}},\ \sigma_t^2\Big)\tag{25}$ > > **③ 套 Bishop 的结果 —— (26)(27) 均值、(28) 方差**： > $\mu_{t-1}=\sqrt{\alpha_{t-1}}x_0+\sqrt{1-\alpha_{t-1}-\sigma_t^2}\cdot\tfrac{\sqrt{\alpha_t}x_0-\sqrt{\alpha_t}x_0}{\sqrt{1-\alpha_t}}=\sqrt{\alpha_{t-1}}x_0\tag{26,27}$ > $\Sigma_{t-1}=\sigma_t^2+\tfrac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_t}(1-\alpha_t)=1-\alpha_{t-1}\tag{28}$ > > **结果**：$x_{t-1}\sim\mathcal{N}(\sqrt{\alpha_{t-1}}x_0,\ 1-\alpha_{t-1})$。归纳成立。 > > --- > **5 个符号怎么认**（把 (25) 的中心整理成 $Ax_t+b$）： > $\begin{aligned} > &\sqrt{\alpha_{t-1}}x_0+\sqrt{1-\alpha_{t-1}-\sigma_t^2}\cdot\frac{x_t-\sqrt{\alpha_t}x_0}{\sqrt{1-\alpha_t}}\\ > &=\sqrt{\alpha_{t-1}}x_0+\frac{\sqrt{1-\alpha_{t-1}-\sigma_t^2}}{\sqrt{1-\alpha_t}}\,(x_t-\sqrt{\alpha_t}x_0)\quad(\text{系数并到分母上})\\ > &=\sqrt{\alpha_{t-1}}x_0+\frac{\sqrt{1-\alpha_{t-1}-\sigma_t^2}}{\sqrt{1-\alpha_t}}\,x_t-\frac{\sqrt{1-\alpha_{t-1}-\sigma_t^2}}{\sqrt{1-\alpha_t}}\sqrt{\alpha_t}x_0\quad(\text{乘进括号})\\ > &=\underbrace{\frac{\sqrt{1-\alpha_{t-1}-\sigma_t^2}}{\sqrt{1-\alpha_t}}}_{A}\,x_t+\underbrace{(\sqrt{\alpha_{t-1}}x_0-A\sqrt{\alpha_t}x_0)}_{b}\quad(\text{按 }x_t\text{ 归类}) > \end{aligned}$ > $\mu=\sqrt{\alpha_t}x_0$，$\Sigma=1-\alpha_t$，$S=\sigma_t^2$。 > > - (26) 均值 $=A\mu+b$：把中心里 $x_t$ 换成 $\mu=\sqrt{\alpha_t}x_0$，分子 $\sqrt{\alpha_t}x_0-\sqrt{\alpha_t}x_0=0$，剩 $\sqrt{\alpha_{t-1}}x_0$。 > - (28) 方差 $=A^2\Sigma+S$：其中 $A^2=\tfrac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_t}$（$A$ 平方掉根号），$\Sigma=1-\alpha_t$，$S=\sigma_t^2$；约分后 $\sigma_t^2$ 抵消，得 $1-\alpha_{t-1}$。 > > **结论**：高斯线性边缘化本身只是把 $x_{t-1}$ 与 $x_t$ 的关系写成线性形式（中心 $=Ax_t+b$）并算出 $x_{t-1}$ 的边缘，它**不保证两个边缘相同**。但代入 DDIM 这套具体的 $A,b,\Sigma,S$ 算下来，恰好得到 $x_{t-1}$ 边缘 $=$ DDPM 在 $t-1$ 的边缘——这个"边缘不变"正是要证的。 > > **直觉**：$\sigma_t$ 不往里加净噪声，只在「从 $x_t$ 回收的旧噪声 $1-\alpha_{t-1}-\sigma_t^2$」和「新灌的噪声 $\sigma_t^2$」之间挪份额，两份之和恒为 $1-\alpha_{t-1}$，总量钉死，边缘就不变。 --- ## 本节一条线保边缘、重设搭配：$x_{t-1}$ 的噪声项拆成「回收的旧噪声 + 新抽的噪声」，方差恒为 $1-\alpha_{t-1}$，新旧占比由 $\sigma_t$ 自由拨，得公式 7、连乘成公式 6；Lemma 1 用高斯线性边缘化（Bishop 2.115）归纳验证每个时刻边缘不变，§2 的自由被严格兑现。