搜尋意圖： 如果你在找「影子部署 是什麼」或「影子部署 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 影子部署是一種零風險的部署方式，新版本與舊版本同時運行，使用者只看到舊版本的結果，新版本的預測結果被記錄但不返回，用於離線評估新版本的實際性能。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
影子部署是一種零風險的部署方式，新版本與舊版本同時運行，使用者只看到舊版本的結果，新版本的預測結果被記錄但不返回，用於離線評估新版本的實際性能。
核心概念
影子部署（Shadow Deployment）的核心思想是：離線測試無法完全模擬生產環境的複雜性。即使在精心準備的測試集上表現很好的模型，在真實生產環境中也可能表現不同，原因可能是資料分佈不同、流量特徵不同或邊界情況與測試不符。影子部署提供了一種在真實生產環境中驗證新版本的低風險方式。
影子部署的關鍵特點是：新版本接收與舊版本相同的輸入，生成預測結果，但這些結果對用戶是「不可見的」（即不用於決策或返回給用戶）。只有舊版本的結果被返回。這樣，即使新版本有問題，用戶也不會受影響。同時，新版本的結果被記錄用於離線分析，團隊可以計算新版本在真實流量上的各種指標。
運作原理
影子部署的技術流程如下：
請求複製：當用戶請求進入系統時，請求被複製到兩條路徑：一條去舊版本（主路徑），一條去新版本（影子路徑）。複製可以是同步的（阻塞式，等待兩個版本都完成才返回）或非同步的（新版本的處理不影響對用戶的響應延遲）。在實踐中，為了避免增加用戶的延遲，通常使用非同步複製。
並行計算：舊版本和新版本都計算結果。舊版本的結果立即返回給用戶，用於實際決策。新版本的結果被捕獲但不返回。
結果記錄與比對：新版本的結果被記錄到日誌或專用的分析存儲中。同時，系統記錄舊版本的結果（為了進行離線比較）、請求輸入特徵（為了後續分析）、以及其他上下文信息（如請求時間、用戶ID等）。
離線分析：在測試期間（通常幾小時到幾天），系統積累了大量的請求和兩個版本的結果。然後進行離線分析，計算各種指標：新版本的準確率、精度、召回率等；與舊版本的差異統計；在特定子集上（如不同用戶群體）的性能差異等。
評估與決策：基於離線分析的結果，團隊決定是否推進到金絲雀部署或完全部署。如果發現新版本在某些方面有顯著問題，可以在部署前進行修改。
實際應用
考慮一個搜尋引擎排序模型升級的場景：
背景：搜尋引擎團隊開發了一個新的學習排序（Learning to Rank）模型，在離線測試中顯示相關性指標（NDCG）提高了 5%。然而，他們擔心實際用戶的搜尋行為和文檔分佈可能與測試數據不同，想進一步驗證。
影子部署：新模型被部署為影子模型。當用戶進行搜尋時，查詢被同時發送到舊排序模型（主模型）和新排序模型（影子模型）。舊模型的排序結果被展示給用戶。新模型的排序結果被記錄到日誌中，包括排序得分、排序位置等。
數據積累：一週內，系統為 100 萬次搜尋查詢積累了舊模型和新模型的排序結果。同時，系統記錄了用戶是否點擊了搜尋結果（點擊表示相關性）。
離線評估：分析團隊計算新舊模型在真實用戶查詢上的 NDCG。結果發現新模型的 NDCG 實際上只提高了 1.2%（不是離線測試中的 5%）。進一步分析發現，新模型在長尾查詢上的性能下降明顯（因為長尾查詢的訓練數據較少）。
改進與重新部署：基於這個發現，團隊調整了模型的訓練方法以更好地處理長尾查詢，然後重新進行影子部署，這次新模型的性能改進更均勻。
常見誤區
誤區 1：影子部署可以完全替代線上 A/B 測試
影子部署提供了離線評估，但不能完全替代 A/B 測試。A/B 測試測量的是用戶的真實行為反應（點擊、購買、留存等），而影子部署只測量模型的輸出質量。例如，排序模型的相關性分數提高不一定導致點擊率提升（如果用戶的點擊行為受其他因素影響）。A/B 測試才能回答「新版本是否實際提高了業務指標」的問題。
誤區 2：影子部署沒有成本
影子部署需要為新版本分配計算資源，雖然結果不返回給用戶，但計算仍然消耗 CPU、GPU、內存等。在大規模系統中，這可能增加 100% 的計算成本。因此，影子部署不能無限期進行，需要在成本和評估價值之間平衡。
誤區 3：影子部署的結果直接可用於決策
影子部署的結果基於記錄的真實流量和用戶行為（如點擊），但這些行為本身是基於舊版本的結果產生的。例如，如果舊版本的排序不好，用戶可能不會點擊相關文檔（因為沒看到）；新版本排序好後，即使記錄顯示新版本的這個文檔排名靠前，也無法知道用戶是否會點擊（因為用戶沒有機會看到舊版本的排序）。這種偏差叫做「位置偏差」（position bias）。分析影子部署結果時需要考慮這類偏差。
與相關技術的比較
影子部署 vs. A/B 測試：影子部署是離線評估方法，新版本的結果不影響用戶。A/B 測試是線上實驗方法，用戶實際接收不同版本。影子部署快速而低成本，適合初步評估；A/B 測試測量真實效果，適合最終驗證。
影子部署 vs. Canary 部署：金絲雀部署逐步向真實用戶推出新版本，監控系統指標。影子部署新版本與舊版本並行運行，但結果不影響用戶。金絲雀部署用於管理部署風險，影子部署用於評估模型質量。
影子部署 vs. 離線評估：離線評估在預先準備的靜態測試集上評估模型。影子部署在真實生產流量上評估，資料分佈和流量特徵更接近真實情況。影子部署通常能發現離線評估遺漏的問題。
常見問題
影子部署應該進行多長時間？
影子部署的持續時間取決於幾個因素。首先考慮流量規模：如果系統流量很大，1-2 天內可能積累足夠的樣本；如果流量較小，可能需要一週。其次考慮評估的深度：簡單的評估（如準確率指標）幾天內就能得出結論；複雜的評估（如針對不同用戶群體的性能差異）需要更長時間。第三考慮商業考量：如果有迫切的需求，可能只進行幾小時；如果時間充分，可以進行更長時間的觀察。一般建議是：至少進行足夠長的時間以覆蓋完整的使用週期（例如對於日常應用，至少 1 天；對於金融交易系統，可能需要覆蓋完整的市場週期）。
如何在影子部署中處理計算成本問題？
影子部署的計算成本可以通過幾種方式優化。首先可以採用流量採樣：不是所有請求都發送給新版本，而是只有一部分（如 10%）發送給新版本進行影子處理，這樣計算成本降低 10 倍。其次可以採用非同步處理：新版本的計算在後台進行，不阻塞對用戶的響應，這樣可以調度到更便宜的計算資源。第三可以定時進行影子部署：不是 24 小時進行，而只在特定時間段（如每天的低流量時期）進行，進一步降低成本。另外，應該定期評估影子部署的價值，如果新版本的性能評估已經穩定，應該停止影子部署並進入金絲雀或 A/B 測試階段。
影子部署中應該記錄哪些信息用於分析？
完整的影子部署分析需要記錄以下信息。首先是兩個版本的輸出結果（舊版本和新版本的預測值、置信度、排序等）。其次是請求的輸入特徵（查詢、用戶特徵、上下文等），以便進行子集分析（如新版本在特定用戶群體上的性能）。第三是用戶的真實反饋（點擊、轉化、停留時間等），以便計算離線指標。第四是上下文信息（請求時間、系統狀態等），以便診斷異常或趨勢。第五是兩個版本的性能指標（延遲、資源使用等），確保新版本的計算開銷在可接受範圍內。記錄這些信息的目的是讓分析團隊能夠全面評估新版本，而不遺漏任何可能影響決策的因素。