L01|中文影片導讀

點時間會在 YouTube 跳到該段。離線網站的版本還能「只播必看」、中英雙字幕、自動暫停與下載筆記。

建議學習步驟

  1. 先花 10 分鐘讀完下面「看之前」三點和必看章節的中文說明,知道 Jeremy 要講什麼再看。
  2. 只看標「必看」的章節(約 40 分鐘),用 0.75 倍速,遇到下面列出的英文關鍵字就停一下對照。
  3. 看到「節錄評論」停止點時暫停,用一句中文寫下重點,再從 A/B/C/D 選一個方向寫兩三句自己的想法。
  4. 看完到 Kaggle 跑一次 Is it a bird? notebook,換成你自己想分辨的兩種東西。

看之前先知道

  • 這一課的主角是一個「分辨鳥和森林照片」的程式,2015 年這還被當成不可能的笑話,現在幾分鐘就做到。
  • 電腦眼中的照片只是一大堆 0 到 255 的數字(紅、綠、藍三色)。
  • fast.ai 的教法是「先做出能用的東西,再慢慢往下挖原理」,所以聽不懂細節很正常,後面的課會補。

聽力關鍵字

英文中文
model模型
train / training訓練
dataset / data資料集/資料
pretrained model預訓練模型
fine-tune微調
weights / parameters權重/參數
loss損失(模型錯多少)
predict / prediction預測
label標籤(正確答案)
validation set驗證集
notebook / cell筆記本/儲存格
DataBlock資料區塊
learner學習器
GPU顯示卡運算器
segmentation影像分割
tabular表格資料

章節

時間建議章節這段在講什麼
0:00🟡 可快轉開場第五版課程,兩年來第一次全新錄製。
0:25🔴 必看2015 年以來改變了什麼用一則 xkcd 漫畫說明:2015 年「判斷照片是不是鳥」還被認為幾乎不可能,而這堂課要免費、幾分鐘做出來。
1:20🔴 必看這是鳥嗎?示範程式:從 DuckDuckGo 搜尋並下載一張鳥的照片。先看一遍就好,之後會再回來。
2:09🔴 必看圖片其實是數字用網站示範每個像素由紅綠藍三個 0 到 255 的數字組成,一張圖就是 256 × 171 × 3 個數字。
3:29🔴 必看下載圖片「不是鳥」很難搜尋,所以改用「森林」當對照組;每類下載圖片並縮小到 400 像素以內。
4:25🔴 必看建立 DataBlock 與 LearnerDataBlock 告訴 fastai 資料長什麼樣子;先用 show_batch 看幾張圖,確認資料沒問題。
5:18🔴 必看訓練模型並預測在一般筆電上不到 30 秒就訓練好,拿一張新照片預測,模型說「是鳥」,而且幾乎百分之百確定。 ⏸ 見下方節錄評論 1
7:20🟡 可快轉深度學習現在能做什麼展示 DALL-E 2 把文字變成圖片等例子,感受技術進步的速度。
10:33🟡 可快轉PaLM 語言模型Google 的語言模型能解數學題並說明思路,甚至能解釋笑話。
15:40🔴 必看課程怎麼教:由上而下先做出完整可用的東西,再往下學原理;像學打球先下場玩,不是先背規則十五年。 ⏸ 見下方節錄評論 2
19:25⚪ 可略過Jeremy 的經歷講者自我介紹:Kaggle 冠軍、創辦 Enlitic 和 fast.ai。
22:38🟡 可快轉2012 年的做法 vs 現在以前要很多專家手工設計特徵(例如乳癌病理切片研究),現在交給神經網路自己學。
24:31🔴 必看看見神經網路學到什麼Zeiler 與 Fergus 把每一層權重畫出來:第一層找邊線和顏色,越後面的層組合出眼睛、文字等複雜特徵。
27:40🟡 可快轉把聲音變成圖片來分類學生把聲音波形畫成圖,再用圖片分類器處理,得到頂尖成績。
28:08🟡 可快轉時間序列與詐騙偵測滑鼠移動軌跡也能畫成圖片來偵測詐騙。重點:不需要很多數學、很多資料、很貴的電腦。
30:16⚪ 可略過PyTorch vs TensorFlow研究界大多已轉用 PyTorch,所以課程用 PyTorch。
31:43🟡 可快轉fastai 建在 PyTorch 之上同一件事,PyTorch 要寫一大段,fastai 只要幾行。
35:18🔴 必看用雲端 Kaggle 跑 notebook在 Kaggle 按 Copy & Edit 複製別人的 notebook;介紹 Jupyter 的基本操作。
38:45🔴 必看回到「是不是鳥」的 notebook第一格先更新 fastai 到最新版,避免版本問題。
40:15🟡 可快轉如何匯入 fastaifrom fastai.vision.all import * 一行就把需要的工具都帶進來。
40:42🔴 必看最佳實踐:每一步都看資料Jeremy 的習慣:每做一步就把資料印出來看,確認合理再繼續。
42:00🔴 必看DataBlock 整體說明實務上大部分時間花在「把資料整理好送進模型」,模型種類其實只需要少數幾種。
44:40🔴 必看DataBlock 的五個參數blocks(輸入輸出類型)、get_items(資料在哪)、splitter(切出驗證集)、get_y(標籤從哪來)、item_tfms(每張圖怎麼處理)。 ⏸ 見下方節錄評論 3
48:40🟡 可快轉去哪裡找 fastai 文件docs.fast.ai 有很多範例,先找類似的例子照著改。
49:54🔴 必看Learner:資料 + 模型learner 把資料和模型組合在一起,例如 vision_learner(dls, resnet18)。
50:40🟡 可快轉可用的預訓練模型timm 收錄大量影像模型,但大多數情況 resnet 就夠用。
52:02🔴 必看什麼是預訓練模型resnet18 已經在 ImageNet(一百多萬張、一千類)上學過;fine_tune 只是用你的少量資料把它調整成你的任務。
53:48🔴 必看用 predict 測試模型learn.predict(圖片) 一行就回傳:類別、編號、機率。
55:08🟡 可快轉其他電腦視覺應用:影像分割替圖片中每個像素標出它屬於車、建築、圍牆等。
56:48⚪ 可略過影像分割程式碼用 SegmentationDataLoaders 寫更少的程式碼。
58:32🟡 可快轉用 fastai 做表格分析用表格中幾欄(例如職業、教育)預測另一欄(收入是否超過五萬)。
59:42⚪ 可略過show_batch 說明不論什麼資料,show_batch 都會用合適的方式顯示。
61:25🟡 可快轉協同過濾(推薦系統)根據「喜歡相同東西的人」來推薦,像 Spotify 推薦歌曲。
65:08⚪ 可略過把 notebook 變成簡報(RISE)這堂課的投影片就是 notebook 做的。
65:45⚪ 可略過notebook 還能做什麼整本書和整個 fastai 函式庫都是用 notebook 寫的。
68:06🟡 可快轉深度學習目前能做到的事各領域只要有人嘗試,幾乎都能用深度學習做出好結果。
70:33🔴 必看第一個神經網路:Mark I 感知器(1957)基本想法幾十年來沒變,變的是 GPU、資料量和大家的努力。
72:38🔴 必看機器學習的大圖輸入 + 權重 → 模型 → 結果 → 用損失評分 → 更新權重 → 重複。這就是「學習」。
78:27🔴 必看作業跑完 bird notebook、改成自己有興趣的題目、讀課本第 1 章。

節錄評論停止點

⏸ 節錄評論 1|方法論:五步做出一個模型

看完 5:18「訓練模型並預測」後暫停。

節錄:找圖片 → 縮小存檔 → 建 DataBlock → 訓練 → 預測,不到 30 秒就完成。

未來應用型:這套「五步做出模型」你會想用在哪裡?

  • A. 我想分辨生活中的兩種東西(例如:貓和狗、澳門葡撻和香港蛋撻)
  • B. 我想講給同學或家人聽,讓他們知道 AI 沒那麼難
  • C. 我想用在學校的專題或比賽
  • D. 其他(自由寫)

我的評論:

⏸ 節錄評論 2|心法:由上而下學習

看完 15:40「課程怎麼教:由上而下」後暫停。

節錄:先做出能用的東西,再往下挖原理,就像學打球先下場玩。

經驗連結型:這讓你想到自己哪一次的學習經驗?

  • A. 學某項運動或樂器時,先玩起來才慢慢學技巧
  • B. 學校某一科一直背理論,學得很辛苦
  • C. 打遊戲時不看說明書,邊玩邊學會
  • D. 其他(自由寫)

我的評論:

⏸ 節錄評論 3|觀點:資料比模型更花時間

看完 44:40「DataBlock 的五個參數」後暫停。

節錄:實務上大部分時間花在把資料整理好,而不是設計模型。

觀點質疑型:你完全同意嗎?

  • A. 同意,因為垃圾資料進、垃圾結果出
  • B. 不完全同意,我覺得選對模型也很重要,例如 ……
  • C. 這要看情況,例如 ……
  • D. 其他(自由寫)
  • E. 我完全同意,請老師幫我找反例

我的評論:

相關筆記

Built with LogoFlowershow