L21｜DDIM：更快的擴散取樣
在 Fashion-MNIST 與 CIFAR-10 上做實驗，用 Weights & Biases 追蹤；用 FID、KID 衡量生成品質；從零實作比 DDPM 快很多的 DDIM。
L21｜DDIM：更快的擴散取樣（DDIM）
零基礎提示
- 這一課不用額外數學
- Part 2 是大學程度：中三同學先求看懂概念，不用每行程式都會
- 字幕：離線網站選「中英」（電腦翻譯，大意正確）
- 看不懂的詞查 白話小辭典
在 Fashion-MNIST 與 CIFAR-10 上做實驗，用 Weights & Biases 追蹤；用 FID、KID 衡量生成品質；從零實作比 DDPM 快很多的 DDIM。 （Experiments on Fashion-MNIST and CIFAR-10 tracked with Weights & Biases, FID and KID to measure generated image quality, and DDIM built from scratch as a much faster alternative to DDPM.）
| 項目 | 內容 |
|---|---|
| 所屬 | Part 2：Deep Learning Foundations to Stable Diffusion |
| 影片 | YouTube |
| 對應書本章節 | 無對應章節（Part 2 以 notebook 為主） |
| 原始頁面 | Lessons/lesson21 |
| 難度（F3 視角） | ★★★★★ 大學程度（F3 只求理解概念） |
影片
本課重點
- 資料集：Fashion-MNIST（衣物灰階小圖）與 CIFAR-10（10 類彩色小圖）是常用的分類與生成實驗資料集。
- 實驗追蹤：Weights & Biases（W&B）記錄每次實驗的設定、損失曲線與生成圖片，方便比較。
- FID 與 KID：用預訓練分類器抽取特徵，比較生成圖片與真實圖片的特徵分布差距。FID 越低越好；KID 在樣本少時較穩定。
- DDIM：DDPM 需要很多步（例如 1000 步）才能生成；DDIM 可以跳步，用少很多的步數得到相近品質。從零實作自訂 DDIM。
- DDPM vs DDIM：DDPM 每步加入隨機性；DDIM 可以是確定性的，同一個起始雜訊會得到同一張圖，適合快速取樣。
關鍵概念
| 英文術語 | 中文 | 一句話解釋 |
|---|---|---|
| CIFAR-10 | CIFAR-10 | 10 類 32×32 彩色小圖資料集 |
| W&B | Weights & Biases | 實驗追蹤與視覺化工具 |
| FID | Fréchet Inception 距離 | 生成圖與真實圖特徵分布的差距，越低越好 |
| KID | Kernel Inception 距離 | 類似 FID，小樣本較穩定 |
| DDIM | 去雜訊擴散隱式模型 | 可跳步、較快的擴散取樣方法 |
| Sampling steps | 取樣步數 | 生成一張圖要做幾次去雜訊 |
認識關聯圖與重點圖
練習題
- 兩個模型的 FID 分別是 5 和 40，哪一個生成的圖比較像真的？
- DDPM 用 1000 步、DDIM 用 50 步得到相近品質。DDIM 快了幾倍？
- 為什麼做很多實驗時需要 W&B 這類追蹤工具？
- 中文學生作答：L21_中文F3學生_202611041526
- English student answers: L21_EN_F3_Student_202611041526
