理解生成模型
从表示压缩和去噪训练出发,连接条件生成与 Transformer 去噪网络。
阅读起点
了解基本概率和梯度训练。
推荐顺序
-
VAE 与隐空间表示
怎样学习能用于生成的连续或离散隐空间?
-
DDPM 与 DDIM
如何通过加噪训练得到逐步生成样本的模型?
-
条件生成与 Guidance
条件信息怎样改变去噪方向,guidance scale 又控制什么?
-
Stable Diffusion 的完整流程
文本、隐变量和去噪模型怎样组成一次生成流程?
-
DiT 架构与条件调制
Transformer 怎样成为扩散模型中的去噪网络?
进阶与分支
-
Score-based SDE
Score、去噪预测与连续时间生成之间有什么联系?
-
Flow Matching
如何用可采样的条件路径学习用于生成的向量场?
-
采样器与 ODE Solver
生成时怎样在求解误差和模型调用成本之间取舍?
-
扩散模型蒸馏
减少采样步数和减少每步前向次数分别需要什么方法?