尚学教育_东莞企业邮箱_营销活动推广策划_网店代运营骗局

扩散模型（Diffusion Models）学习笔记

一、概率建模与数学推导

1. 前向扩散过程

马尔可夫链假设
扩散模型假设数据$x_0$通过逐步添加高斯噪声的马尔可夫链过程被破坏为纯噪声$x_T$，过程定义：
$$q(x_{1:T}|x_0)=\prod _{t=1}^{T}q(x_t|x_{t-1})$$
其中单步转移概率为：
$$q(x_t|x_{t-1})=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)$$

累积噪声系数（关键推导）
引入${\alpha }_t=1-{\beta }_t$，${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$，任意时刻$x_t$可表示为：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,ϵ\sim \mathcal{N}(0,I)$$
推导过程：

1. 递归展开(定义：${\alpha }_t=1-{\beta }_t$)， 从初始数据$x_0$开始，逐步展开前向过程：
   $$\begin{array}{rl}{x}_1& =\sqrt{{\alpha }_1}{x}_0+\sqrt{{\beta }_1}{ϵ}_0,\\ x_2& =\sqrt{{\alpha }_2}{x}_1+\sqrt{{\beta }_2}{ϵ}_1\\ & =\sqrt{{\alpha }_2{\alpha }_1}{x}_0+\sqrt{{\alpha }_2{\beta }_1}{ϵ}_0+\sqrt{{\beta }_2}{ϵ}_1,\\ x_3& =\sqrt{{\alpha }_3}{x}_2+\sqrt{{\beta }_3}{ϵ}_2\\ & =\sqrt{{\alpha }_3{\alpha }_2{\alpha }_1}{x}_0+\sqrt{{\alpha }_3{\alpha }_2{\beta }_1}{ϵ}_0+\sqrt{{\alpha }_3{\beta }_2}{ϵ}_1+\sqrt{{\beta }_3}{ϵ}_2.\end{array}$$

2. 归纳可得任意时刻t的表达式：
   $$x_t=\sqrt{\prod _{s=1}^t{\alpha }_s}{x}_0+\sum _{k=0}^{t-1}\sqrt{{\beta }_{t-k}\prod _{m=1}^k{\alpha }_{t-m+1}}{ϵ}_k.$$

3. 利用独立高斯变量相加性质，合并方差项

若${ϵ}_1,...,{ϵ}_t\sim \mathcal{N}(0,I)$且相互独立，则：

$$\sum _{k=1}^t{a}_k{ϵ}_k\sim \mathcal{N}\left(0,\left(\sum _{k=1}^t{a}_k^2\right)I\right)$$

4. 应用该性质可得：
   $$\sum _{k=0}^{t-1}\sqrt{{\beta }_{t-k}\prod _{m=1}^k{\alpha }_{t-m+1}}{ϵ}_k\sim \mathcal{N}\left(0,\left[1-\prod _{s=1}^t{\alpha }_s\right]I\right)$$

5. 最终闭式解：
   $$q(x_t|x_0)=\mathcal{N}\left(x_t;\sqrt{{\bar{\alpha }}_t}{x}_0,(1-{\bar{\alpha }}_t)I\right)$$
   其中${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$

2. 反向去噪过程

1. 变分下界(ELBO)的构造

目标最大化对数似然$\log p_{\theta }(x_0)$，引入变分分布$q(x_{1:T}|x_0)$：
$$\log p_{\theta }(x_0)\ge {\mathbb{E}}_{q(x_{1:T}|x_0)}\left[\log \frac{p_{\theta }(x_{0:T})}{q(x_{1:T}|x_0)}\right]=\text{ELBO}$$

联合分布分解：
$$p_{\theta }(x_{0:T})=p(x_T)\prod _{t=1}^T{p}_{\theta }(x_{t-1}|x_t)$$

详细展开：
$$\begin{array}{rl}\text{ELBO}& ={\mathbb{E}}_q\left[\log p(x_T)+\sum _{t=1}^T\log \frac{p_{\theta }(x_{t-1}|x_t)}{q(x_t|x_{t-1})}\right]\\ & ={\mathbb{E}}_q\left[\log \frac{p(x_T)}{q(x_T|x_0)}+\sum _{t=1}^T\log \frac{p_{\theta }(x_{t-1}|x_t)}{q(x_t|x_{t-1})}\right]\end{array}$$

2. KL散度项的转换
   通过马尔可夫链性质$q(x_t|x_{t-1})=q(x_t|x_{t-1},x_0)$，分解各项：
   $$\text{ELBO}={\mathbb{E}}_q\left[\log p(x_T)-\log q(x_T|x_0)+\sum _{t=2}^T\log \frac{p_{\theta }(x_{t-1}|x_t)}{q(x_{t-1}|x_t,x_0)}+\log p_{\theta }(x_0|x_1)\right]$$

关键项分析：
• $D_{KL}(q(x_T|x_0)\Vert p(x_T))$：常数项，不影响优化

• ${\sum }_{t=2}^T{\mathbb{E}}_{q(x_t|x_0)}[D_{KL}(q(x_{t-1}|x_t,x_0)\Vert p_{\theta }(x_{t-1}|x_t))]$：主要优化目标

• ${\mathbb{E}}_{q(x_1|x_0)}[-\log p_{\theta }(x_0|x_1)]$：最终重建项

3. 真实后验分布推导
   利用贝叶斯定理：
   $$q(x_{t-1}|x_t,x_0)=\frac{q(x_t|x_{t-1},x_0)q(x_{t-1}|x_0)}{q(x_t|x_0)}$$
   代入高斯分布表达式，经推导得：
   $$q(x_{t-1}|x_t,x_0)=\mathcal{N}(x_{t-1};{\tilde{\mu }}_t(x_t,x_0),{\tilde{\beta }}_{t}I)$$
   其中：
   $$\begin{gathered} {\tilde{\mu }}_t=\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0 \\ {\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t \end{gathered}$$

3.参数化与损失函数简化

1. 均值参数化技巧
   将目标均值${\mu }_{\theta }$参数化为：
   $${\mu }_{\theta }(x_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }(x_t,t)\right)$$

推导过程：
从真实后验均值表达式出发：
$${\tilde{\mu }}_t=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_t\right)$$
将${ϵ}_t$替换为神经网络预测${ϵ}_{\theta }(x_t,t)$

2. KL散度项计算
   两个高斯分布$q(x_{t-1}|x_t,x_0)$与$p_{\theta }(x_{t-1}|x_t)$的KL散度：
   $$D_{KL}=\frac{1}{2{\sigma }_t^2}\Vert {\tilde{\mu }}_t-{\mu }_{\theta }{\Vert }^2+\frac{1}{2}\left(\frac{{\sigma }_t^2}{{\tilde{\beta }}_t}-1-\ln \frac{{\sigma }_t^2}{{\tilde{\beta }}_t}\right)$$

简化假设：
• 固定方差${\sigma }_t^2={\tilde{\beta }}_t$，此时KL项简化为：

$$D_{KL}=\frac{1}{2{\sigma }_t^2}\Vert {\tilde{\mu }}_t-{\mu }_{\theta }{\Vert }^2$$

3. 损失函数最终形式
   将参数化后的均值代入KL项：
   $$\begin{array}{rl}\Vert {\tilde{\mu }}_t-{\mu }_{\theta }{\Vert }^2& ={\Vert \frac{{\beta }_t}{\sqrt{{\alpha }_t}\sqrt{1-{\bar{\alpha }}_t}}({ϵ}_t-{ϵ}_{\theta })\Vert }^2\\ & =\frac{{\beta }_t^2}{{\alpha }_t(1-{\bar{\alpha }}_t)}\Vert {ϵ}_t-{ϵ}_{\theta }{\Vert }^2\end{array}$$

加权处理（简化损失函数）：
发现不同时间步的权重系数差异较大，通过实验发现忽略权重可提升性能：
$${\mathcal{L}}_{\text{simple}}={\mathbb{E}}_{t,x_0,ϵ}\Vert ϵ-{ϵ}_{\theta }(\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,t){\Vert }^2$$

4.采样过程推导（DDPM）

1. 反向迭代公式推导
   从$p_{\theta }(x_{t-1}|x_t)=\mathcal{N}(x_{t-1};{\mu }_{\theta }(x_t,t),{\sigma }_t^{2}I)$出发：
   $$x_{t-1}={\mu }_{\theta }(x_t,t)+{\sigma }_{t}z(z\sim \mathcal{N}(0,I))$$

代入参数化后的均值表达式：
$$x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\right)+{\sigma }_{t}z$$

2. 方差修正项分析
   当选择${\sigma }_t^2={\beta }_t$时：
   $$x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\right)+\sqrt{{\beta }_t}z$$

当选择${\sigma }_t^2={\tilde{\beta }}_t$时：
$$x_{t-1}={\tilde{\mu }}_t+\sqrt{{\tilde{\beta }}_t}z$$

3. DDIM采样公式推导
   通过引入非马尔可夫前向过程：
   $$q_{\sigma }(x_{t-1}|x_t,x_0)=\mathcal{N}\left(\sqrt{{\bar{\alpha }}_{t-1}}{x}_0+\sqrt{1-{\bar{\alpha }}_{t-1}-{\sigma }_t^2}\cdot \frac{x_t-\sqrt{{\bar{\alpha }}_t}{x}_0}{\sqrt{1-{\bar{\alpha }}_t}},{\sigma }_t^{2}I\right)$$

确定性采样（${\sigma }_t=0$时）：
$$x_{t-1}=\sqrt{{\bar{\alpha }}_{t-1}}\underset{\text{预测的}{x}_0}{\underbrace{\left(\frac{x_t-\sqrt{1-{\bar{\alpha }}_t}{ϵ}_{\theta }}{\sqrt{{\bar{\alpha }}_t}}\right)}}+\sqrt{1-{\bar{\alpha }}_{t-1}-{\sigma }_t^2}{ϵ}_{\theta }$$

二、网络结构与实现细节

代码均简化处理

1. U-Net架构

核心组件

class DenoiseNet(nn.Module):def __init__(self, dim=64):super().__init__()# 时间步嵌入层self.t_embed = nn.Sequential(SinusoidalPositionEmbeddings(dim),nn.Linear(dim, dim*4),nn.GELU(),nn.Linear(dim*4, dim))# 下采样路径self.down = nn.ModuleList([ResBlock(3, dim),Downsample(dim),ResBlock(dim, dim*2),Downsample(dim*2),ResBlock(dim*2, dim*4),Downsample(dim*4)])# 瓶颈层self.mid = ResBlock(dim*4, dim*4)# 上采样路径self.up = nn.ModuleList([Upsample(dim*4),ResBlock(dim*8, dim*2),Upsample(dim*2),ResBlock(dim*4, dim),Upsample(dim),ResBlock(dim*2, 3)])def forward(self, x, t):# 时间嵌入t = self.t_embed(t)# 下采样h = []for layer in self.down:x = layer(x, t)h.append(x)# 中间层x = self.mid(x, t)# 上采样for layer in self.up:x = layer(x, t)x = torch.cat([x, h.pop()], dim=1)return x

关键技术点

1. 时间步嵌入：使用正弦位置编码将离散时间步映射为连续向量

   class SinusoidalPositionEmbeddings(nn.Module):def __init__(self, dim):super().__init__()self.dim = dimdef forward(self, t):half_dim = self.dim // 2emb = math.log(10000) / (half_dim - 1)emb = torch.exp(torch.arange(half_dim) * -emb)emb = t[:, None] * emb[None, :]return torch.cat([emb.sin(), emb.cos()], dim=-1)
   

2. 残差块设计：每个残差块包含时间嵌入的投影

   class ResBlock(nn.Module):def __init__(self, in_c, out_c):super().__init__()self.mlp = nn.Sequential(nn.Linear(64, out_c),nn.GELU())self.conv = nn.Sequential(nn.Conv2d(in_c, out_c, 3, padding=1),nn.GroupNorm(8, out_c),nn.GELU(),nn.Conv2d(out_c, out_c, 3, padding=1),nn.GroupNorm(8, out_c))def forward(self, x, t):h = self.conv(x)h += self.mlp(t)[:,:,None,None]return h + x  # 残差连接
   

2. 训练与采样算法

训练流程

def train_step(batch):optimizer.zero_grad()# 随机采样时间步t = torch.randint(0, T, (batch.size(0),))# 前向加噪alpha_bar = alphas_cumprod[t][:,None,None,None]noise = torch.randn_like(batch)noisy = torch.sqrt(alpha_bar)*batch + torch.sqrt(1-alpha_bar)*noise# 预测噪声pred = model(noisy, t)loss = F.mse_loss(pred, noise)loss.backward()optimizer.step()return loss.item()

采样流程（DDPM）

@torch.no_grad()
def sample(steps=1000):x = torch.randn(1, 3, 64, 64)  # 初始噪声for t in reversed(range(steps)):ts = torch.full((1,), t, dtype=torch.long)pred_noise = model(x, ts)# 计算系数alpha = 1 - betas[t]alpha_bar_prev = alphas_cumprod_prev[t]# 更新公式x = (1 / torch.sqrt(alpha)) * (x - (betas[t]/torch.sqrt(1-alphas_cumprod[t]))*pred_noise)if t > 0:noise = torch.randn_like(x)x += torch.sqrt((1 - alpha_bar_prev) * betas[t]/(1 - alphas_cumprod[t])) * noisereturn x.clamp(-1,1)

---

三、损失函数与优化

1. 理论损失函数

完整变分下界：
$${\mathcal{L}}_{\text{VLB}}=\underset{\text{常数项}}{\underbrace{D_{KL}(q(x_T|x_0)\Vert p(x_T))}}+\sum _{t=2}^T{\mathbb{E}}_{q(x_t|x_0)}[D_{KL}(q(x_{t-1}|x_t,x_0)\Vert p_{\theta }(x_{t-1}|x_t))]+{\mathbb{E}}_{q(x_1|x_0)}[-\log p_{\theta }(x_0|x_1)]$$

2. 实际简化损失

实践中采用去噪得分匹配目标：
$${\mathcal{L}}_{\text{simple}}={\mathbb{E}}_{t,x_0,ϵ}\left[\Vert ϵ-{ϵ}_{\theta }(\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,t){\Vert }^2\right]$$

• 损失权重：原始论文建议不进行加权，后续改进如Progressive Distillation会调整

---

四、扩展模型与前沿改进

1. DDIM（Denoising Diffusion Implicit Models）

核心改进
• 引入非马尔可夫的前向过程，允许更快的确定性采样

• 生成过程满足：

$$x_{t-1}=\sqrt{{\alpha }_{t-1}}{f}_{\theta }(x_t,t)+\sqrt{1-{\alpha }_{t-1}-{\sigma }_t^2}{ϵ}_{\theta }(x_t,t)+{\sigma }_tϵ$$

优势
• 采样步骤可减少至50-100步（原需1000步）

• 保持生成质量的同时提升效率

2. Stable Diffusion

关键创新

1. 潜在空间扩散：在VAE的潜在空间进行扩散，降低计算量
2. 交叉注意力机制：实现文本-图像的条件生成

   class CrossAttention(nn.Module):def __init__(self, dim):super().__init__()self.q = nn.Linear(dim, dim)self.kv = nn.Linear(768, 2*dim)  # 文本编码维度768self.proj = nn.Linear(dim, dim)def forward(self, x, context):Q = self.q(x)K, V = self.kv(context).chunk(2, dim=-1)attn = (Q @ K.transpose(-2,-1)) * (1.0 / math.sqrt(Q.size(-1)))attn = F.softmax(attn, dim=-1)return self.proj(attn @ V)
   

3. 条件扩散模型

实现方式
• 拼接条件信息：$p_{\theta }(x_{t-1}|x_t,y)$

• 分类器指导：采样时修正噪声预测

$${\widehat{ϵ}}_{\theta }(x_t,t)={ϵ}_{\theta }(x_t,t)-\sqrt{1-{\bar{\alpha }}_t}\gamma {\nabla }_{x_t}\log p_{\varphi }(y|x_t)$$
其中$\gamma$为指导强度系数

---

结论

扩散模型通过前向破坏与反向重建的对称过程，建立了强大的生成框架：

1. 理论优势：严格数学推导保证模式覆盖，避免GAN的模式崩溃问题
2. 实现特性：U-Net架构天然适合像素级预测任务，时间嵌入实现多步共享参数
3. 应用扩展：与语言模型结合（DALL·E 2）、跨模态生成（Stable Diffusion）展现强大潜力

对比VAE与扩散模型：

特性	VAE	扩散模型
生成质量	通常模糊	高清晰度
训练稳定性	易训练	需精细调参
理论保证	ELBO优化	基于得分匹配的严格推导
采样速度	一步生成	需迭代采样（10-1000步）

核心代码库参考：
• PyTorch实现：https://github.com/lucidrains/denoising-diffusion-pytorch

• Stable Diffusion官方：https://github.com/CompVis/stable-diffusion