这篇回答的问题。 如何理解“噪声日程与参数化”背后的核心机制、适用边界和下一步阅读路径。 扩散训练看起来只是“给图加噪,再让模型预测噪声”。真正影响模型性格的,是两件更细的事:噪声日程决定训练样本会落在哪些难度区间,参数化决定模型用什么坐标回答这个去噪问题。它们会直接影响采样器、CFG、少步生成、视频一致性和世界模型里
-
扩散模型:扩散采样与推理加速
训练阶段,扩散模型学会在不同噪声水平下判断“当前样本应该往哪里移动”。推理阶段,我们从噪声 出发,把这个方向连续兑现成图像、视频或动作序列。采样器要解决的不是“怎么把噪声擦掉”这么简单,而是在有限模型调用次数里,尽量沿着正确轨迹从高噪声分布走回数据分布。 这页只抓住一条主线: 模型给方向,采样器决定怎样走这
-
扩散模型:条件控制与 Guidance
扩散模型的条件控制,常被一句“调 prompt 和 CFG scale”带过。真正做系统时,这句话太粗:prompt、边缘图、姿态、mask、参考图和首帧,首先要被模型在每一步去噪时读到;而 guidance 只是在采样时,把“有条件”和“基准方向”的差额放大。前者是条件怎么进入模型,后者是采样轨迹怎么被拉扯。 把这两
-
扩散模型:发展脉络
这页把扩散模型的发展放在一条连续主线上看: DDPM 解决如何稳定训练高质量生成模型, DDIM / ODE solver 解决如何更快采样, Consistency / LCM / DMD / Rectified Flow 继续追问能否把几十步甚至几百步压到几步或一步。 统一记号 后文统一使用这组记号: $$ x t
-
扩散模型:一步生成、蒸馏与整流:把多步纠错压成少数大跳
扩散采样慢,不只是因为循环次数多。多步采样的每一步都在做小修正:先定大结构,再补关系、材质、边缘和高频纹理。把 30 步、50 步压到 4 步甚至 1 步,等于要求学生模型一次跨过教师原来很多个噪声区间。 这篇只回答一个问题: 当采样器不再有几十次纠错机会时,少步模型怎样仍然保住分布、细节、多样性和条件控制? 少步生成
-
扩散模型:一致性模型与 Rectified Flow:终点映射和速度场不是一回事
少步生成经常被讲成“把 50 步变成 4 步、1 步”。这个说法太粗。真正要分清的是:模型到底在学什么对象。 这篇只回答一个问题: Consistency / LCM 和 Rectified Flow / Flow Matching 都能服务少步生成,但它们为什么不是同一种方法? 一个更好的抓手是:一致性模型学的是“同
-
扩散模型:扩散方法怎么选:先判断你在改哪一层成本
扩散方法对照最容易写成方法名大表:DDPM、DDIM、Euler、Heun、DPM-Solver++、Consistency、LCM、DMD、Rectified Flow 都排在一起,最后用“步数更少”做结论。这个读法很危险,因为这些方法改的不是同一个部件。 更实用的问法是:你能不能重训;想省的是在线网络评估次数、离线
-
other-recommend-note
post by Charles in 2024-09-29 00:11:30
-
algorithm-and-datastruct-note
post by Charles in 2024-09-29 00:09:32
-
compiler-design-note
post by Charles in 2024-09-29 00:04:43