AITerms 登入
模型部署模型評估MLOps

模型監控(Model Monitoring)是什麼?

模型監控是持續追蹤機器學習模型在生產環境中的效能和行為,以確保其準確性、可靠性和公平性。及時發現並解決問題。

同主題的術語模型評估AI應用

完整定義

模型監控是一種持續追蹤機器學習模型在生產環境中的效能和行為的過程,用於確保其準確性、可靠性和公平性。它能夠幫助數據科學家和工程師及時發現並解決模型退化、資料漂移和概念漂移等問題,常見應用包括預測模型、推薦系統和風險評估。

白話說明

你有沒有想過,模型上線後不是放著就好,而是要持續看它有沒有變差?

你可以把模型監控想成,持續觀察輸入資料、輸出結果、延遲和錯誤率,看看模型還正不正常。

它重要在於,模型會隨著資料漂移、業務變動和系統壓力慢慢失準。

記住這句

上線不是結束,還要持續盯表現。

比喻:模型監控就像醫生的定期健康檢查 -- 確保模型在實際工作中表現良好,一旦出現「生病」(效能下降、預測偏差),就能及早發現並治療。

容易混淆

模型監控 vs 系統監控

模型監控:看預測品質、資料漂移和模型行為。

系統監控:看 CPU、記憶體、延遲和錯誤率。

最關鍵的區別:前者關心模型有沒有變笨,後者關心服務有沒有壞。

模型監控 vs 模型部署

模型部署:把模型送上線。

模型監控:上線後持續看它有沒有出問題。

最關鍵的區別:前者是上線,後者是觀察。

實際案例

詐欺模型監控

如果交易量突然暴增,但模型命中率下降,就要檢查是不是資料型態變了。

推薦模型監控

當使用者興趣改變時,點擊率會慢慢下滑,監控可以提早發現這種漂移。

算法與應用

常看指標包括延遲、錯誤率、輸入分布、預測分布和業務 KPI。

很多問題不是立刻壞掉,而是慢慢漂移,這也是監控最有價值的地方。

若系統能自動告警和回滾,維運成本會低很多。

情境判斷

Q1(情境題): 如果模型表面上還能回應,但命中率一路下降,這算正常嗎?

不正常。模型可能已經漂移,只是服務還沒壞。

Q2(情境題): 如果流量很低,模型監控還有必要嗎?

有必要,但可簡化。流量低不代表不會資料漂移或版本失配。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 12 題把模型監控列為延伸術語,這裡列出 5 題。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本