L232 機器學習與深度學習
完成後你能：分辨 Bagging 與 Boosting、決策樹的資訊增益與 DBSCAN 的雜訊點，說出 CNN、LSTM 與多頭注意力各適合什麼資料，也知道 ReLU 為什麼能讓網路學到非線性。
這個單元約 20 分鐘：讀重點，練 2 題，再用 3 題沒做過的題目驗證。
- 讀重點
下方的白話重點與例子 - 練 2 題
- 驗證 3 題
步驟 1・讀重點
先看懂這些
L23202 常見機器學習演算法
| 演算法 | 重點 |
|---|---|
| 決策樹 | 每次挑資訊增益最大的特徵分裂，讓子節點越純越好 |
| 隨機森林（Bagging） | 平行訓練多棵樹再投票或平均，降低變異 |
| Boosting（AdaBoost、XGBoost） | 依序訓練，後一個模型修正前一個的錯誤，降低偏差 |
| XGBoost 比傳統 GBDT 多的 | 損失函數加正則化項、會處理缺失值、可以平行化訓練 |
| Stacking | 用另一個模型整合多個模型的預測 |
| DBSCAN | 用鄰域半徑 ε 與最小點數 MinPts 找密集區域，不屬於任何群的點是雜訊點 |
| K-means | 事先指定 K，反覆把點分到最近的中心、再更新中心 |
L23203 深度學習原理與框架
| 架構 | 適合的資料 | 關鍵 |
|---|---|---|
| CNN | 影像 | 第一層卷積抽取邊緣、紋理等局部特徵，局部感受野與參數共享讓參數比全連接少很多 |
| RNN、LSTM | 時間序列、文字 | LSTM 用閘門保留長期資訊，例如預測未來七天的用電 |
| Transformer | 文字、語音、影像 | 多頭注意力從不同的表示子空間同時捕捉關聯 |
- 激活函數：只用線性激活，疊再多層也只是一個線性轉換，改用 ReLU 才能學到非線性
- VGG16：13 層卷積加 3 層全連接，約 1.38 億個參數，參數最多的是全連接層，運算量最多的是卷積層
［官方勘誤］ 神經元的加權求和
錯誤：Z ＝ Σ w₁x₁ ＋ b（下標全是 1）
正確：Z ＝ w₁x₁ ＋ w₂x₂ ＋ … ＋ wₙxₙ ＋ b ＝ Σ wᵢxᵢ ＋ b（下標是 i）
考試陷阱
- Bagging 平行訓練、降低變異，Boosting 依序訓練、降低偏差，選項常把兩者對調
- VGG16 參數最多在全連接層，運算量最多在卷積層，兩種問法答案不同
- 沒有非線性激活函數，網路疊再多層也學不到複雜的模式