iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目一 AI 技術應用與規劃・114 年第二次・L21・第 32 題

哪個監控指標能最早偵測模型效能下滑?

原題

某企業已將 AI 模型部署於生產環境,為確保系統持續穩定運作,並能提前偵測模型效能可能衰退,技術團隊希望透過監控指標進行預警。下列哪一項監控指標最具預測效力,能提早發現模型效能下滑風險?

白話

某企業把 AI 模型部署到生產環境後,技術團隊想透過監控指標來提前預警,在模型效能真正衰退前就察覺到風險。

問你:哪一項監控指標最具預測效力,能提早發現模型效能下滑的風險?

一句話總結

最能「提早預警」模型效能下滑的指標是:PSI(群體穩定性指數,Population Stability Index)。它直接量測「現在進來的資料跟當初訓練時的資料有多不一樣」,資料分佈一偏移,模型出包只是時間問題。

情境

先感受問題:模型沒改,結果就越來越爛

假設「全台信貸公司」用 AI 模型預測申貸者會不會違約,模型在 2023 年訓練完畢,當時準確率 92%。

2025 年初,公司發現實際違約率突然升高,但模型說大部分人是「低風險」。

工程師去查:

  • CPU 使用率:正常
  • API 回應時間:正常
  • 模型沒有修改過

問題出在哪?

原來,2024 年升息環境改變,申貸族群的年齡分佈、負債比例都跟 2023 年訓練資料差很多。模型還用舊的眼光判斷新的人,當然越判越錯。

這叫做資料漂移(Data Drift)。如果有在監控 PSI,早在資料分佈開始偏移時就會拉警報,不用等到模型真的爛了才發現。

舊方法

只看系統指標,為什麼發現不了模型要壞

傳統 IT 監控只盯著伺服器健康度,不管模型「認知是否正確」。這樣有五個漏洞:

  1. CPU/記憶體正常不代表模型正確:模型跑得順,但預測全部偏掉,伺服器毫無感覺。
  2. API 回應快不代表答案對:0.02 秒吐出一個錯誤答案,延遲指標漂亮但結果是廢的。
  3. 等準確率下滑才知道,已經太晚:準確率是結果指標(lagging indicator),要等真實標籤回來才算得出來,通常滯後幾週到幾個月。
  4. 沒有標籤的生產環境根本算不了準確率:信貸模型預測「不會違約」,要等 6 個月後才知道對不對,哪能即時監控?
  5. 輸入資料改變了,無人察覺:資料管道看起來正常,但資料的統計特性悄悄漂移,沒人盯就沒人知道。

新方法

PSI 怎麼當預警雷達

回到「全台信貸公司」。PSI 的邏輯很直白:把訓練時的資料分佈(基準)跟現在的線上資料分佈做比較,算出一個數字。

PSI 小於 0.1:分佈幾乎沒變,模型繼續用沒問題

PSI 介於 0.1 到 0.2:輕微漂移,需要留意

PSI 大於 0.2:顯著漂移,模型可能需要重新訓練

2024 年中,全台信貸公司的 PSI 從 0.05 升到 0.23。

這個數字告訴工程師:現在進來的申貸者特徵,跟訓練時的樣子已經差很多了。不用等模型爛掉才知道,現在就能啟動再訓練或人工審查機制。

CPU 和 API 延遲是「系統健不健康」,PSI 是「模型認知有沒有過期」。生產環境需要兩者都盯,但要預測效能下滑,PSI 是那個有預測力的指標。

這就是選項 D 講的:輸入特徵與訓練資料分佈差異的 PSI(Population Stability Index)指數。

錯選項

為什麼其他選項是錯的

A系統 CPU 與記憶體使用率波動幅度

字面在說什麼

監控伺服器的計算資源使用狀況,CPU 飆高或記憶體不夠代表系統可能有問題。

為什麼不對

CPU 和記憶體是系統健康指標,不是模型品質指標。模型完全可以在 CPU 很閒的情況下吐出一堆錯誤預測。伺服器資源正常,代表的是「推論服務跑得動」,跟「推論結果有沒有意義」是兩回事。這是 IT 監控,不是 AI 監控。

誰會選錯

習慣從 DevOps 角度看問題、把「系統沒壞」等於「AI 正常」的人。AI 系統需要同時監控基礎設施層(CPU/記憶體)和模型層(資料分佈、預測品質),這題問的是後者。

B模型推論結果的置信度(Confidence)分佈變化趨勢

字面在說什麼

觀察模型輸出的信心分數(如 softmax 機率)的整體分佈,如果模型原本很有信心,現在變得猶豫,代表可能有問題。

為什麼不對

置信度分佈是值得監控的指標,但它是輸出端的觀察,有滯後性。資料已經漂移、模型開始出錯一段時間後,置信度才會有明顯變化。而且置信度下降也可能是正常的(例如邊界案例增多),不一定代表效能要出問題。PSI 從輸入端就開始監控,預警比置信度更早。

誰會選錯

認為「模型自己的輸出應該最能反映模型狀態」的人。邏輯沒有完全錯,但問題是「預測效力」:置信度的變化往往跟在效能下滑之後,而 PSI 在效能下滑之前就能拉警報,題目問的是哪個最具預測效力。

CAPI 平均回應時間與延遲百分位數變化

字面在說什麼

追蹤 API 回應速度,例如 P99 延遲突然升高代表系統可能卡住了。

為什麼不對

延遲是效能(Performance)指標,指的是服務速度,不是預測品質。API 回應再慢,吐出來的答案可能還是對的;API 回應再快,答案可能已經全錯。延遲監控是用來抓「服務中斷」或「超載」的問題,對「模型預測品質即將下滑」完全沒有預測能力。

誰會選錯

把「模型效能」和「系統效能」混為一談的人。英文裡 performance 同時有「表現」和「效能」兩個意思,中文一樣容易混。「API 延遲」是系統層的效能,「模型準確率」才是模型層的效能,PSI 是用來預警後者的。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二次 iPAS AI 應用規劃師 中級 科目一 第 32 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。