AITerms 登入
機器學習深度學習強化學習

深度Q網路(Deep Q-Network)是什麼?

深度Q網路(DQN)是一種結合深度學習與Q學習的強化學習演算法,利用深度神經網路逼近Q函數,解決高維度狀態空間的強化學習問題。

完整定義

深度Q網路(DQN)是強化學習領域的突破性演算法,它使用深度神經網路來近似Q函數,從而能夠處理具有高維度狀態空間的強化學習問題。DQN結合了Q學習的決策能力和深度學習的表徵學習能力,使得智能體能夠從原始感官輸入中學習策略。

白話說明

你玩遊戲時,AI 怎麼學會哪一步最划算?

你可以把 深度Q網路 想成一個邊試錯邊學最划算動作的系統。

它其實就是把「做哪一步比較好」變成可計算的長期分數。

深度Q網路(DQN)是一種結合深度學習與Q學習的強化學習演算法,利用深度神經網路逼近Q函數,解決高維度狀態空間的強化學習問題。當環境會回饋獎勵,而且每一步都會影響後面結果時,這類方法特別有用。

記住這句

用神經網路近似每個動作的長期價值

比喻:DQN 就像一個玩電動玩具的超級玩家,一邊玩一邊學習,用「經驗」來判斷下一步怎麼走才能得分最高 -- 它用神經網路記住各種情況下最好的動作,慢慢變成高手。

容易混淆

vs 傳統Q學習

傳統Q學習像在紙上畫表格來記住每個狀況的「最佳動作」,表格太大就記不住;DQN 則是用「腦袋」來歸納,能處理更複雜的遊戲。

實際案例

案例一:深度Q網路 玩 Atari 遊戲

智能體看到畫面後選擇動作,分數高就把這條路記住,分數低就往別的策略試,DQN 就是這種學法的代表。

案例二:深度Q網路 控制機器人手臂

機器人要決定往哪裡移、抓多快、停多久,動作會連鎖影響後面的回饋,這時候就需要長期獎勵的觀念。

深入了解

強化學習看的是狀態、動作、獎勵和下一步狀態,目標是把長期回報做大

DQN 用神經網路近似價值函數,解決狀態太大、表格塞不下的問題

如果獎勵設計不好,再強的模型也會學歪

情境判斷

Q1(直覺題): 在遊戲或控制問題裡,AI 需要靠試錯學最佳動作嗎?

需要,這正是強化學習最典型的場景。

Q2(判斷題): 如果每一步的獎勵都很稀疏,還適合直接用 DQN 嗎?

看情況,因為稀疏獎勵會讓學習變慢,這時候可能要改獎勵設計、加探索策略,甚至換成其他強化學習方法。

常見問題

相關術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本