深度Q網路(Deep Q-Network)是什麼?

深度Q網路(DQN)是一種結合深度學習與Q學習的強化學習演算法,利用深度神經網路逼近Q函數,解決高維度狀態空間的強化學習問題。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

英文
Deep Q-Network
主題標籤
機器學習、深度學習、強化學習
考點定位
非 iPAS 核心術語
最後更新
2026/06/17
深度Q網路(Deep Q-Network)是什麼? 機器學習深度學習
術語快查

搜尋意圖: 如果你在找「深度Q網路 是什麼」或「深度Q網路 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。

TL;DR: 深度Q網路(DQN)是一種結合深度學習與Q學習的強化學習演算法,利用深度神經網路逼近Q函數,解決高維度狀態空間的強化學習問題。

實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。

下一步: 先讀完定義,再往下看延伸比較與對應工具,把概念轉成實際應用。

你玩遊戲時,AI 怎麼學會哪一步最划算? 你可以把 深度Q網路 想成一個邊試錯邊學最划算動作的系統。 它其實就是把「做哪一步比較好」變成可計算的長期分數。 深度Q網路(DQN)是一種結合深度學習與Q學習的強化學習演算法,利用深度神經網路逼近Q函數,解決高維度狀態空間的強化學習問題。當環境會回饋獎勵,而且每一步都會影響後面結果時,這類方法特別有用。

容易混淆

vs 傳統Q學習 傳統Q學習像在紙上畫表格來記住每個狀況的「最佳動作」,表格太大就記不住;DQN 則是用「腦袋」來歸納,能處理更複雜的遊戲。

深度學習 vs 強化學習 深度學習 比較像同一類問題裡的近鄰參考,強化學習 則更像把資料或結構往更深一層整理,兩者的用法不一樣。

最關鍵的區別: 先看它是在做「理解、生成、分組、保護」哪一件事,再看細節。

記住這句就好

用神經網路近似每個動作的長期價值

實際案例

案例一:深度Q網路 玩 Atari 遊戲 智能體看到畫面後選擇動作,分數高就把這條路記住,分數低就往別的策略試,DQN 就是這種學法的代表。

案例二:深度Q網路 控制機器人手臂 機器人要決定往哪裡移、抓多快、停多久,動作會連鎖影響後面的回饋,這時候就需要長期獎勵的觀念。

深入了解

強化學習看的是狀態、動作、獎勵和下一步狀態,目標是把長期回報做大 DQN 用神經網路近似價值函數,解決狀態太大、表格塞不下的問題 如果獎勵設計不好,再強的模型也會學歪

深度Q網路 真正重要的,不是名詞本身,而是它幫你解決的是哪一類問題。

情境判斷

Q1(直覺題): 在遊戲或控制問題裡,AI 需要靠試錯學最佳動作嗎? → 需要,這正是強化學習最典型的場景。

Q2(判斷題): 如果每一步的獎勵都很稀疏,還適合直接用 DQN 嗎? → 看情況,因為稀疏獎勵會讓學習變慢,這時候可能要改獎勵設計、加探索策略,甚至換成其他強化學習方法。

常見問題

DQN和傳統Q學習有什麼區別?

傳統Q學習使用表格來儲存Q值,這在高維度狀態空間中不可行。DQN使用深度神經網路來近似Q函數,使其能夠處理高維度狀態空間。此外,DQN使用經驗回放和目標網路來提高訓練的穩定性。

DQN中的經驗回放機制有什麼作用?

經驗回放機制儲存智能體的經驗,並從回放緩衝區中隨機抽樣經驗用於訓練。這有助於打破經驗之間的相關性,減少訓練過程中的震盪,並提高學習的穩定性。它也允許重複利用過去的經驗,提高樣本效率。

如何選擇DQN的超參數,例如學習率和折扣因子?

DQN的超參數選擇通常需要進行實驗和調整。學習率控制權重更新的幅度,折扣因子控制未來獎勵的重要性。可以使用網格搜索或隨機搜索等技術來找到最佳的超參數組合。也可以參考相關文獻中常用的超參數設定。