← 全部阅读路线

理解生成模型

从表示压缩和去噪训练出发,连接条件生成与 Transformer 去噪网络。

5 个步骤

阅读起点

了解基本概率和梯度训练。

推荐顺序

  1. VAE 与隐空间表示

    怎样学习能用于生成的连续或离散隐空间?

    原理笔记入门约 17 分钟
  2. DDPM 与 DDIM

    如何通过加噪训练得到逐步生成样本的模型?

    原理笔记入门约 25 分钟
  3. 条件生成与 Guidance

    条件信息怎样改变去噪方向,guidance scale 又控制什么?

    原理笔记进阶约 11 分钟
  4. Stable Diffusion 的完整流程

    文本、隐变量和去噪模型怎样组成一次生成流程?

    阅读导览进阶约 21 分钟
  5. DiT 架构与条件调制

    Transformer 怎样成为扩散模型中的去噪网络?

    原理笔记进阶约 21 分钟

进阶与分支

  1. Score-based SDE

    Score、去噪预测与连续时间生成之间有什么联系?

    原理笔记进阶约 9 分钟
  2. Flow Matching

    如何用可采样的条件路径学习用于生成的向量场?

    原理笔记进阶约 22 分钟
  3. 采样器与 ODE Solver

    生成时怎样在求解误差和模型调用成本之间取舍?

    原理笔记进阶约 30 分钟
  4. 扩散模型蒸馏

    减少采样步数和减少每步前向次数分别需要什么方法?

    原理笔记进阶约 5 分钟