L19|中文 F3 學生的學習紀錄
L19|中文 F3 學生的學習紀錄
角色設定:我是中三學生,只看得懂中文。Python 學過變數、for 迴圈和 list,數學讀到一元二次方程。我靠中文課程筆記、YouTube 自動翻譯字幕和查字典來學。Kaggle 筆記本的操作步驟,是依官方 notebook 流程寫下的練習紀錄。
我讀懂了什麼(用自己的話)
- 擴散模型的訓練很聰明:先把圖故意弄髒,再教模型猜「加了什麼髒東西」。
- 前向加雜訊不用學,用公式就能做;難的是反向去雜訊。
- 模型猜的是雜訊,不是直接猜圖片。
- 測試時開著 dropout 多跑幾次,可以知道模型有多不確定。
我卡住的地方,和我怎麼解決
| 卡住的地方 | 我怎麼解決 |
|---|---|
| 時間步 t 為什麼要輸入模型 | 因為不同步數的雜訊量不同,模型要知道現在有多髒,才知道要擦多少。 |
| 數學公式很多 α、β 符號 | 先只記住它們控制「每一步加多少雜訊」,細節跳過。 |
練習作答
Q1. DDPM 的模型在訓練時要預測什麼?損失函數是什麼?
模型輸入加了雜訊的圖片(和時間步),預測當初加進去的雜訊。損失是預測雜訊和真實雜訊之間的均方誤差(MSE)。
Q2. 前向過程和反向過程哪個需要訓練神經網路?為什麼?
反向過程需要。前向加雜訊是我們自己用公式做的,答案已知;反向要從雜訊猜回圖片,這件事沒有公式,只能讓神經網路從大量例子中學。
Q3. 測試時開著 dropout 跑 10 次,如果 10 次預測差很多,代表什麼?
代表模型對這筆資料很不確定,不同的神經元組合給出不同答案。這時候它的預測不太可靠,可能需要人工檢查或更多資料。
我的卡片盒筆記
卡片|要學會還原,先學會分辨哪些是雜訊
DDPM 的訓練方法很巧妙:先把乾淨圖片故意加上雜訊,因為雜訊是我們自己加的,所以有標準答案,再訓練模型猜「剛剛加了什麼雜訊」。學會這件事之後,就能從一團雜訊開始,一步步減掉雜訊,生成全新的圖片。
這讓我想到練聽力。英文老師會播放混了背景噪音的對話,讓我們練習從噪音中聽出重點。剛開始噪音小,慢慢加大,我們分辨雜音和人聲的能力就越來越好。模型也是在各種雜訊程度下練習。不過我覺得有一點不同,模型最後可以從「純雜訊」生出圖片,人卻不可能從純噪音聽出一段對話,這是生成模型最神奇的地方。練習時從簡單到困難,能力才會穩定成長。
這週我要做的小行動:用 Python 對一張 8×8 灰階圖加三種不同強度的隨機雜訊,畫出來比較。
🔗 推薦產生關聯的筆記: → 學習方法類:「自己製造有標準答案的練習題」 → AI 原理類:「生成就是有方向地去除雜訊」 → 不確定性類:「多問幾次答案不一樣,代表還沒把握」