L08A｜中文 F3 學生的學習紀錄

角色設定：我是中三學生，只看得懂中文。Python 學過變數、for 迴圈和 list，數學讀到一元二次方程。我靠中文課程筆記、YouTube 自動翻譯字幕和查字典來學。Kaggle 筆記本的操作步驟，是依官方 notebook 流程寫下的練習紀錄。

我讀懂了什麼（用自己的話）

AI 很厲害，但用錯地方會傷害人，所以做模型的人要先想後果。
回饋迴圈是「越推越偏」：模型推給你什麼，你就看什麼，模型又以為你更愛看。
資料如果少了某些人，模型對這些人就會不準，這是代表性偏差。
演算法出錯時，要有人可以申訴、有人負責改。
每份資料集都應該有說明書，寫清楚從哪來、適合做什麼、不適合做什麼。

我卡住的地方，和我怎麼解決

卡住的地方	我怎麼解決
案例都是美國的，有些背景不熟	我把每個案例改寫成「在澳門／學校可能發生的版本」，例如用學校的 AI 點名系統來想。
英文詞 recourse、accountability 很難記	做成中英小卡：recourse ＝申訴管道，accountability ＝誰負責。

練習作答

Q1. 用自己的話解釋「回饋迴圈」，並舉一個你在生活中見過的例子。

回饋迴圈是模型的輸出改變了之後收集到的資料，新資料又讓模型更偏向原本的方向。例子：我在短片 App 看了幾個搞笑貓片，之後首頁全是貓，我看得更多，它就推得更多，其他內容幾乎看不到了。

Q2. 如果一個人臉辨識系統主要用淺膚色男性的照片訓練，可能會出現什麼問題？屬於哪一種偏差？

系統對深膚色或女性的人臉辨識錯誤率會高很多，例如認錯人或認不出來。這是代表性偏差：某些群體在訓練資料中太少。

Q3. 為什麼演算法做決定時，一定要有申訴管道？

因為演算法一定會出錯，而它的決定可能影響一個人的學業、工作或福利。如果沒有申訴管道，被錯判的人無法更正，錯誤會一直延續，也沒有人負責。

Q4. 如果你要替自己 L02 收集的圖片資料集寫一份「資料集說明書」，至少要寫哪四項？

① 資料來源（從 DuckDuckGo 搜尋下載，關鍵字是什麼）。② 收集日期與數量（每類幾張）。③ 標籤方式（用資料夾名稱，誰檢查過）。④ 已知限制（例如壁球拍照片太少、多數是商品圖，真實拍攝的照片少）。⑤ 適合與不適合的用途。

Q5. 找出你在 L02 部署的 App 可能有的兩個倫理風險，各提一個改善方法。

風險一：球拍分類器只用商品圖訓練，同學用手機拍的舊球拍可能判錯。改善：加入真實拍攝的照片，並在介面顯示信心分數。風險二：使用者上傳的照片可能拍到人臉。改善：在頁面說明不保存照片，並提醒只拍球拍。

我的卡片盒筆記

卡片｜做模型的人要先想好出錯時誰會受傷

AI 一定會出錯，問題是出錯時誰會受影響、他們能不能申訴。這課讓我第一次從「被模型判斷的人」的角度去看 AI，而不只是想著怎麼讓準確率變高。

我們學校去年試用過一個 AI 點名系統，用人臉辨識記錄出席。我的同學戴了新眼鏡，連續三天被記成缺席，他要找班主任、再找 IT 老師手動改，花了一個星期。如果系統沒有人工修正的流程，他的出席紀錄就會一直是錯的。這正是課堂說的申訴與問責。不過我也覺得不能因為會出錯就完全不用，重點是設計好出錯時的補救方法。後來學校在系統旁邊貼上 IT 老師的聯絡方式，有問題可以直接找人處理，這就是一個很實際的申訴管道。

下週我要做的小行動：替我的球拍分類器寫一份半頁的資料集說明書，列出資料來源、數量和已知限制。

🔗 推薦產生關聯的筆記： → 科技倫理類：「準確率 95% 代表還有 5% 的人被判錯」 → 產品設計類：「每個自動化系統都要有人工修正的出口」 → 媒體素養類：「看到太完美的照片，先懷疑它是不是生成的」

回到課程筆記：L08A_資料倫理_202611041526