L03｜中文 F3 學生的學習紀錄

角色設定：我是中三學生，只看得懂中文。Python 學過變數、for 迴圈和 list，數學讀到一元二次方程。我靠中文課程筆記、YouTube 自動翻譯字幕和查字典來學。Kaggle 筆記本的操作步驟，是依官方 notebook 流程寫下的練習紀錄。

我讀懂了什麼（用自己的話）

模型其實就是一個函數，裡面有一些可以調的數字（參數）。
訓練就是找最好的參數：先亂猜，算損失，看梯度，往損失變小的方向走一小步。
梯度就是斜率，數學課學過的「切線斜率」原來在這裡用得上。
ReLU 超簡單，負數變 0，但把很多個加起來就能畫出任何曲線，像用很多短直線拼出圓形。
Excel 也能做神經網路，只是很慢；GPU 擅長做矩陣乘法，所以快很多。

我卡住的地方，和我怎麼解決

卡住的地方	我怎麼解決
我還沒學過微分，看不懂 derivative	Jeremy 說現在只要知道「梯度告訴你往哪邊走、走多陡」就夠了。我用「下山時感覺腳下的坡度」來理解。
不懂為什麼要「減掉」梯度	畫了 y = x² 的圖：在 x = 3 時斜率是正的，往右會變高，所以要往左走，就是減掉。
Excel 的矩陣乘法 MMULT 公式一直出錯	發現要先選好輸出範圍，而且兩個矩陣的欄列數要對上。

練習作答

Q1. 損失函數 L(w) = w²，目前 w = 3，學習率 0.1。算出梯度、更新一次後的 w，再更新第二次的 w。

梯度 = 2 × 3 = 6。第一次更新：w = 3 − 0.1 × 6 = 2.4。第二次：梯度 = 2 × 2.4 = 4.8，w = 2.4 − 0.48 = 1.92。w 越來越接近 0，也就是損失最低的地方。

Q2. ReLU(x) = max(0, x)。算出 ReLU(−2)、ReLU(0)、ReLU(3)。為什麼把很多 ReLU 加起來可以做出彎曲的形狀？

ReLU(−2) = 0，ReLU(0) = 0，ReLU(3) = 3。每個 ReLU 是一條在某點轉彎的折線，很多條在不同位置轉彎的折線加起來，就能拼出彎彎曲曲的形狀。

Q3. 學習率太大和太小各會發生什麼事？

太大：每一步跨太遠，會跳過谷底，損失忽上忽下甚至越來越大。太小：每次只走一點點，要非常多步才到谷底，訓練很慢。

Q4. 模型預測 [2, 4]，正確答案 [3, 3]。算出 MSE。

誤差：2 − 3 = −1，4 − 3 = 1。平方：1、1。平均：(1 + 1) ÷ 2 = 1。MSE = 1。

Q5. 鐵達尼號資料中，Fare（票價）從 0 到 500 都有，Age 大約 0 到 80。為什麼要對 Fare 取 log 並正規化？

如果不處理，Fare 的數字比 Age 大很多，乘上參數後會主導整個結果，其他欄位幾乎沒有影響。取 log 可以把很長的尾巴壓短（例如 log(1+9) ≈ 2.3，log(1+99) ≈ 4.6），正規化再讓各欄範圍差不多，訓練比較穩。

我的卡片盒筆記

卡片｜梯度下降就是蒙著眼睛一步步走下山

神經網路的學習方法，就是一直問「往哪邊走損失會變小」，然後走一小步。梯度告訴我方向和坡度，學習率決定步伐大小。原來 AI 會「學習」，背後是一個很樸素的重複動作。

這讓我想到在家附近的行山徑迷路的經驗。天黑看不到路，我只能用腳感覺哪邊是往下坡，一步一步走，最後走回山腳。如果步子太大，在陡坡很容易滑倒；步子太小，又要走到半夜。這跟學習率一模一樣。不過我也發現一個問題，如果山上有一個小凹地，我可能以為到了山腳，其實只是半山腰的小坑，課程說深度學習裡這個問題沒有想像中嚴重，我還想再查查原因。我後來發現，學習率的道理也適用在溫習上。

這週我要做的小行動：在 Excel 自己做一次 y = w² 的梯度下降，試三種學習率，畫出 w 的變化。

🔗 推薦產生關聯的筆記： → 數學類：「斜率是描述變化快慢的語言」 → 學習方法類：「小步快跑比一次想清楚更容易前進」 → 生活類：「迷路時先確認方向，再決定步伐」

回到課程筆記：L03_神經網路基礎_202611041526