iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論・115 年第一次・L11・第 28 題

反事實解釋最適合哪種金融 AI 應用?

原題

在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?

白話

金融業在導入 AI 模型,搭配使用可解釋性技術,其中一種叫做「反事實解釋(Counterfactual Explanation)」。

問你:反事實解釋最符合下列哪一種金融 AI 應用情境?

一句話總結

反事實解釋回答「如果資料改變,結果會不會不同」,最適合告訴客戶「如何調整申請條件讓審核通過」。

情境

先感受問題:被拒絕後,「為什麼」不如「怎麼辦」

假設「遠銀」有一套 AI 信貸審核系統。客戶張先生申請 100 萬的個人信貸,系統輸出「拒絕」。

張先生很不解,他的信用分數 680、月收入 5 萬、任職同一家公司 3 年、沒有逾期紀錄。

如果用 SHAP 解釋,行員可以告訴他:「主要是負債比率 45% 偏高,加上申請金額相對收入偏大,讓模型評為高風險。」

但張先生聽完還是不知道該怎麼辦。他想問的是:「那我怎麼做才能過?」

這就是反事實解釋的用途:「如果你的負債比率降到 35% 以下,或者申請金額改為 70 萬,系統就會核准。」這是可行動的建議,讓張先生知道具體改什麼條件,結果就會翻轉。

舊方法

傳統解釋方法能解決什麼,解決不了什麼

面對「解釋 AI 決策」,業界有幾種常見做法,但各有邊界:

  1. 特徵重要性:告訴你「這個模型最看重哪些特徵」,但無法告訴張先生「你要改什麼才能過」
  2. SHAP 值:告訴你「這一筆預測裡,哪個特徵推高了拒絕機率」,可以解釋為什麼,但仍然是「事後診斷」,不是「改善建議」
  3. 決策規則:銀行寫下一堆「月收入要超過 X、負債比不超過 Y」的硬規則,雖然透明,但忽略了特徵之間的交互作用,也難以更新
  4. 人工審核說明:行員口頭解釋,但沒有量化依據,不同行員說法可能不一致,法規上也難以稽核
  5. 缺乏「可行動性」:大多數解釋方法告訴使用者「為什麼」,但沒有告訴使用者「如何改變才能得到不同結果」,使用者陷入無助感

新方法

反事實解釋怎麼給出具體的改善路徑

反事實解釋的問題形式是:「在模型不變的前提下,哪些輸入特徵做最小的改變,可以讓輸出翻轉?」

對張先生的案例,系統在他的申請資料附近搜索:有沒有一個「跟張先生很像、但只改了幾個條件」的假想申請,會被模型核准?

搜索結果:「假設張先生的負債比率從 45% 降到 33%,且申請金額從 100 萬降到 75 萬,其他條件不變,模型預測結果從拒絕變為核准。」

這就是反事實解釋:找到最接近現實、但能翻轉結果的「假想情境」,告訴使用者「哪些條件如果這樣改,結果就會不同」。

注意這個解釋是「分析在模型不變的前提下,申請資料的變動如何影響決策結果」,也就是選項 C 的描述。

這就是選項 C 的正確理由:分析在模型不變的前提下,客戶申請資料變動對授信決策結果的影響。

錯選項

為什麼其他選項是錯的

A分析整體客戶群的信用風險分布,以預測未來違約率趨勢

字面在說什麼

用模型分析大量客戶的整體風險分佈,預測下一季的違約率。

為什麼不對

這是整體預測分析(Aggregate Analysis),不是對個別決策的解釋。反事實解釋是針對單一決策的可行動建議,「整體分布分析」用的是模型預測能力,不需要解釋技術。

誰會選錯

把「信用風險分析」和「信用決策解釋」混為一談的人。兩者都是金融 AI 的應用,但前者是預測,後者是解釋。

B回溯歷史呆帳案例,辨識造成違約的主要影響因素

字面在說什麼

分析過去已發生的違約案例,找出導致違約的共同特徵。

為什麼不對

這是回溯分析(Retrospective Analysis)或根因分析,目的是理解「過去發生了什麼」,是探索性資料分析的任務,不是對單一當下決策的反事實解釋。

誰會選錯

聽到「辨識影響因素」就以為是反事實解釋的人。反事實解釋的焦點是「如果不同,結果會如何」,而不是「過去為什麼是這樣」。

D依據客戶輪廓與行為資料,推薦最適合的金融商品以提升交叉銷售

字面在說什麼

根據客戶的特徵,推薦他可能有興趣的保險、投資或信貸商品。

為什麼不對

這是推薦系統(Recommendation System)的應用,目標是預測客戶的偏好並推薦商品,不涉及對已做出的決策進行反事實解釋。推薦系統需要的是協作過濾或內容過濾算法,不是反事實解釋技術。

誰會選錯

對「反事實」這個詞不熟悉,以為任何涉及「如果客戶不同就推薦不同商品」的應用都算反事實解釋的人。反事實解釋是針對已做出的決定,解釋「如果輸入不同,決定是否翻轉」,不是推薦商品。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論 第 28 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。