深度Q網路 是什麼？
Deep Q-Network — 深度Q網路 的完整解釋
深度Q網路（DQN）是一種結合深度學習與Q學習的強化學習演算法，利用深度神經網路逼近Q函數，解決高維度狀態空間的強化學習問題。
容易混淆
vs 傳統Q學習 傳統Q學習像在紙上畫表格來記住每個狀況的「最佳動作」，表格太大就記不住；DQN 則是用「腦袋」來歸納，能處理更複雜的遊戲。
深度學習 vs 強化學習 深度學習 比較像同一類問題裡的近鄰參考，強化學習 則更像把資料或結構往更深一層整理，兩者的用法不一樣。
最關鍵的區別： 先看它是在做「理解、生成、分組、保護」哪一件事，再看細節。
記住這句就好
用神經網路近似每個動作的長期價值
實際案例
案例一：深度Q網路 玩 Atari 遊戲 智能體看到畫面後選擇動作，分數高就把這條路記住，分數低就往別的策略試，DQN 就是這種學法的代表。
案例二：深度Q網路 控制機器人手臂 機器人要決定往哪裡移、抓多快、停多久，動作會連鎖影響後面的回饋，這時候就需要長期獎勵的觀念。
深入了解
強化學習看的是狀態、動作、獎勵和下一步狀態，目標是把長期回報做大 DQN 用神經網路近似價值函數，解決狀態太大、表格塞不下的問題 如果獎勵設計不好，再強的模型也會學歪
深度Q網路 真正重要的，不是名詞本身，而是它幫你解決的是哪一類問題。
情境判斷
Q1（直覺題）： 在遊戲或控制問題裡，AI 需要靠試錯學最佳動作嗎？ → 需要，這正是強化學習最典型的場景。
Q2（判斷題）： 如果每一步的獎勵都很稀疏，還適合直接用 DQN 嗎？ → 看情況，因為稀疏獎勵會讓學習變慢，這時候可能要改獎勵設計、加探索策略，甚至換成其他強化學習方法。
相關術語
常見問題
DQN和傳統Q學習有什麼區別？
傳統Q學習使用表格來儲存Q值，這在高維度狀態空間中不可行。DQN使用深度神經網路來近似Q函數，使其能夠處理高維度狀態空間。此外，DQN使用經驗回放和目標網路來提高訓練的穩定性。
DQN中的經驗回放機制有什麼作用？
經驗回放機制儲存智能體的經驗，並從回放緩衝區中隨機抽樣經驗用於訓練。這有助於打破經驗之間的相關性，減少訓練過程中的震盪，並提高學習的穩定性。它也允許重複利用過去的經驗，提高樣本效率。
如何選擇DQN的超參數，例如學習率和折扣因子？
DQN的超參數選擇通常需要進行實驗和調整。學習率控制權重更新的幅度，折扣因子控制未來獎勵的重要性。可以使用網格搜索或隨機搜索等技術來找到最佳的超參數組合。也可以參考相關文獻中常用的超參數設定。