L08A｜加課：資料倫理
深度學習威力很大，所以更要思考選擇帶來的後果。由應用資料倫理中心創辦主任 Rachel Thomas 主講，以案例討論資料倫理。
L08A｜加課：資料倫理（Bonus: Data ethics）
零基礎提示
- 這一課不用額外數學
- 看不懂的詞查 白話小辭典
- 字幕：離線網站選「中英」（電腦翻譯，大意正確）
深度學習威力很大，所以更要思考選擇帶來的後果。由應用資料倫理中心創辦主任 Rachel Thomas 主講，以案例討論資料倫理。 （Because deep learning is so powerful, we must think about the consequences of our choices. Taught by Dr Rachel Thomas through case studies.）
| 項目 | 內容 |
|---|---|
| 所屬 | Part 1：Practical Deep Learning |
| 影片 | YouTube |
| 對應書本章節 | 第 3 章 Ethics |
| 原始頁面 | Lessons/lesson8a |
| 難度（F3 視角） | ★★☆☆☆ 基礎（觀念題） |
影片
本課重點
- 什麼是倫理：倫理學研究是非對錯：怎麼定義對錯、辨認對錯的行為、理解行為與後果的關係。資料倫理已被用在政策制定、企業產品開發和學術研究。
- 申訴與問責：當演算法做出錯誤決定（例如錯誤刪除福利資格），受影響的人需要有管道申訴、有人負責修正。系統設計要預留人類覆核的機制。
- 回饋迴圈：模型的輸出會改變未來的資料。例如推薦系統推越極端的影片，使用者看越多，模型又推更多；預測性警務派更多警力到某區，該區記錄的犯罪就變多。
- 偏差：資料可能帶有歷史偏差、量測偏差、代表性不足等問題。例如人臉辨識在深膚色女性上的錯誤率明顯較高；審前羈押的風險評估也可能延續不公平。
- 假訊息：生成模型可以大量製造幾可亂真的文字和人臉，影響公眾輿論甚至政策。
- 實用工具：Datasheets for Datasets（替資料集寫說明書）、Markkula Center 倫理工具包、在團隊中納入多元背景成員、在產品開發早期就提出倫理問題。
關鍵概念
| 英文術語 | 中文 | 一句話解釋 |
|---|---|---|
| Ethics | 倫理 | 研究是非對錯，以及行為與後果的關係 |
| Recourse | 申訴管道 | 受演算法影響的人能要求覆核與更正 |
| Accountability | 問責 | 清楚知道誰要為系統的決定負責 |
| Feedback loop | 回饋迴圈 | 模型輸出影響未來資料，再強化模型本身 |
| Bias | 偏差 | 資料或模型系統性地對某些群體不公平 |
| Representation bias | 代表性偏差 | 某些群體在資料中太少 |
| Disinformation | 假訊息 | 刻意製造、用來誤導的內容 |
| Datasheets for datasets | 資料集說明書 | 記錄資料集來源、用途、限制的文件 |
認識關聯圖與重點圖
練習題
- 用自己的話解釋「回饋迴圈」，並舉一個你在生活中見過的例子。
- 如果一個人臉辨識系統主要用淺膚色男性的照片訓練，可能會出現什麼問題？屬於哪一種偏差？
- 為什麼演算法做決定時，一定要有申訴管道？
- 如果你要替自己 L02 收集的圖片資料集寫一份「資料集說明書」，至少要寫哪四項？
- 找出你在 L02 部署的 App 可能有的兩個倫理風險，各提一個改善方法。
- 中文學生作答：L08A_中文F3學生_202611041526
- English student answers: L08A_EN_F3_Student_202611041526
資源連結
英文延伸資源（零基礎可以先略過，點開看）
Useful links
- Datasheets for datasets
- Weapons of math destruction
- AI Generated Faces
- Papers/repos/tools on how to check for bias
- Markkula Center - Ethical Toolkit
- The Pollyannish Assumption
- Understanding the context and consequences of pre-trial detention
- Fast.ai community ethics resources & discussion
- Montreal AI Ethics Institute Weekly Newsletter
