詹森-夏農散度 vs KL散度
Jensen-Shannon Divergence vs KL Divergence
詹森-夏農散度 側重 詹森-夏農散度（Jensen-Shannon Divergence, JSD）是一種衡量兩個機率分布相似程度的對稱指標，以 KL 散度為基礎改良，輸出範圍為 [0, 1]（使用以 2 為底的對數時），，而 KL散度 側重 KL散度（Kullback-Leibler Divergence）衡量兩個機率分佈的差異，數值越大代表分佈差異越大，常用於評估模型預測分佈與真實分佈的接近程度。。
逐項比較
| 項目 | 詹森-夏農散度 | KL散度 |
|---|---|---|
| 一句定義 | 詹森-夏農散度（Jensen-Shannon Divergence, JSD）是一種衡量兩個機率分布相似程度的對稱指標，以 KL 散度為基礎改良，輸出範圍為 [0, 1]（使用以 2 為底的對數時）， | KL散度（Kullback-Leibler Divergence）衡量兩個機率分佈的差異，數值越大代表分佈差異越大，常用於評估模型預測分佈與真實分佈的接近程度。 |
| 常見標籤 | 統計方法、模型評估、機器學習、生成式AI | 機器學習、深度學習、模型評估、統計方法、生成式AI、模型訓練、自然語言處理 |
| iPAS 關聯度 | 未知 | 未知 |
| 考生最常問 | JSD 和 KL 散度最重要的差異是什麼？ | KL散度 最容易跟 交叉熵 混淆嗎？ |