L114 鑑別式 AI 與生成式 AI 概念
完成後你能：分辨 VAE、GAN、Diffusion 與 Transformer 的核心機制，說出 Flash Attention 與 RLHF 各解決什麼問題。
這個單元約 15 分鐘：讀重點，練 2 題，再用 3 題沒做過的題目驗證。
- 讀重點
下方的白話重點與例子 - 練 2 題
- 驗證 3 題
步驟 1・讀重點
先看懂這些
生成模型架構比較（混考）
| 模型 | 核心機制 | 特性 | 代表應用 |
|---|---|---|---|
| VAE | 編碼到連續 latent space → 解碼 | 可控生成、latent space 插值 | 風格轉換、藥物設計 |
| GAN | 生成器 vs 鑑別器對抗訓練 | 高品質生成，訓練不穩定 | Deepfake、圖像生成 |
| Diffusion | 逐步加雜訊 → 逐步去雜訊 | 高品質、可控，推理慢 | Stable Diffusion、DALL-E |
| Transformer | Self-Attention，平行計算 | 長文脈依賴，需大量記憶體 | GPT-4、BERT、翻譯 |
［115 年新考點］ Flash Attention / RLHF
Flash Attention
- 問題：Transformer Self-Attention 的記憶體 I/O 瓶頸
- 解法：分塊計算，減少 HBM（高頻寬記憶體）讀寫次數
- 效果：速度更快，記憶體使用更少
- 考試關鍵詞：I/O 瓶頸、記憶體效率
RLHF（人類回饋強化學習）
- 目的：讓 LLM 的輸出符合人類價值觀
- 流程：SFT → Reward Model → PPO 強化學習
- 應用：ChatGPT、Claude 的對齊技術
- 考試關鍵詞：對齊、安全、人類偏好