L23｜超解析度：U-Net、感知損失與逐步解凍
用 Tiny ImageNet 打造超解析度 U-Net：資料準備與增強、感知損失讓輸出更清楚，再用逐步解凍預訓練網路提升效果。
L23｜超解析度：U-Net、感知損失與逐步解凍（Super-resolution）
零基礎提示
- 這一課不用額外數學
- Part 2 是大學程度：中三同學先求看懂概念，不用每行程式都會
- 字幕：離線網站選「中英」（電腦翻譯，大意正確）
- 看不懂的詞查 白話小辭典
用 Tiny ImageNet 打造超解析度 U-Net：資料準備與增強、感知損失讓輸出更清楚，再用逐步解凍預訓練網路提升效果。 （Build a super-resolution U-Net on Tiny ImageNet: data preparation and augmentation, perceptual loss for sharper outputs, and gradually unfreezing pretrained networks.）
| 項目 | 內容 |
|---|---|
| 所屬 | Part 2：Deep Learning Foundations to Stable Diffusion |
| 影片 | YouTube |
| 對應書本章節 | 無對應章節（Part 2 以 notebook 為主） |
| 原始頁面 | Lessons/lesson23 |
| 難度（F3 視角） | ★★★★★ 大學程度（F3 只求理解概念） |
影片
本課重點
- Tiny ImageNet 分類：先在 Tiny ImageNet（200 類小圖）上訓練分類器，用 AdamW 和混合精度，準確率接近 60%，並參考 Papers with Code 上其他模型的成績。
- 超解析度任務：目標是把低解析度圖片放大成高解析度。單純的 CNN 效果有限，因為細節在縮小時已經遺失。
- U-Net：先縮小抽取特徵，再放大還原；縮小與放大的同層之間有捷徑（cross connections），把細節直接傳到輸出端。
- 感知損失：用 MSE 比較像素會讓輸出偏模糊（取平均最安全）。感知損失改用預訓練分類器中間層的特徵來比較，輸出更清楚、更像目標圖。但沒有一個明確的指標能公平比較不同模型。
- 逐步解凍：把預訓練分類器的權重複製到 U-Net 的下行路徑，先凍結它訓練一個 epoch，再解凍全部一起訓練，是 fast.ai 最愛的技巧之一。
關鍵概念
| 英文術語 | 中文 | 一句話解釋 |
|---|---|---|
| Super-resolution | 超解析度 | 把低解析度圖片放大並補回細節 |
| Tiny ImageNet | Tiny ImageNet | 200 類、64×64 的圖片資料集 |
| U-Net | U 型網路 | 下採樣 + 上採樣，同層之間有捷徑 |
| Perceptual loss | 感知損失 | 比較預訓練網路的中間特徵，而非像素 |
| Freezing / Unfreezing | 凍結／解凍 | 暫時不更新某些層，之後再放開 |
| AdamW | AdamW | 權重衰減處理方式改良的 Adam |
認識關聯圖與重點圖
練習題
- 為什麼只用 MSE 當超解析度的損失，輸出會比較模糊？
- U-Net 的捷徑連接（cross connections）有什麼作用？
- 「先凍結預訓練層訓練一下，再解凍全部」為什麼比一開始就全部一起訓練好？
- 中文學生作答：L23_中文F3學生_202611041526
- English student answers: L23_EN_F3_Student_202611041526
