生成模型
理解表示压缩、扩散与 Flow Matching,并连接到图像和视频生成。
从哪里开始
从 VAE 和 DDPM 入门;已有扩散基础时,可直接进入 Flow Matching 或 DiT。
聚焦生成目标、条件控制与采样机制。通用优化与训练诊断见训练专题。
表示与压缩
-
VAE 与隐空间表示
怎样学习能用于生成的连续或离散隐空间?
-
视觉损失与评估指标
训练时优化的损失和生成后使用的评估指标如何区分?
扩散与 Flow Matching
-
DDPM 与 DDIM
如何通过加噪训练得到逐步生成样本的模型?
-
Score-based SDE
Score、去噪预测与连续时间生成之间有什么联系?
-
Flow Matching
如何用可采样的条件路径学习用于生成的向量场?
条件生成
-
条件生成与 Guidance
条件信息怎样改变去噪方向,guidance scale 又控制什么?
-
文本编码与条件注入
文本向量怎样进入图像生成网络?
-
Stable Diffusion 的完整流程
文本、隐变量和去噪模型怎样组成一次生成流程?
-
ControlNet
如何给预训练生成模型加入空间条件?
采样与蒸馏
-
采样器与 ODE Solver
生成时怎样在求解误差和模型调用成本之间取舍?
-
扩散模型蒸馏
减少采样步数和减少每步前向次数分别需要什么方法?
图像与视频架构
-
DiT 架构与条件调制
Transformer 怎样成为扩散模型中的去噪网络?
-
SD3 与 FLUX 架构案例
DiT 的条件交互如何在具体图像模型中展开?
-
视频生成的表示与注意力
时间维度给压缩、注意力和计算成本增加了哪些约束?
生成训练实践
-
扩散与视频模型训练实践
生成模型训练中哪些目标、采样和显存设置需要一起检查?
推荐阅读路线
-
理解生成模型
从表示压缩和去噪训练出发,连接条件生成与 Transformer 去噪网络。