iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目一 AI 技術應用與規劃・114 年第二次・L21・第 30 題

AI 金融系統如何確保「不可否認性」?

原題

某銀行計劃將 AI 詐欺偵測模組整合至核心交易系統,主管機關要求全流程必須符合金融監管對「不可否認性(Non-repudiation)」的資訊安全規範,以確保日後能進行法務追蹤與稽核。下列哪一項措施最能確保此要求的落實?

白話

一家銀行要把「AI 詐欺偵測」接進核心交易系統。金融主管機關要求:必須符合「不可否認性(Non-repudiation)」的資訊安全規範,也就是說,每一筆 AI 判斷必須有據可查,未來可以追蹤、可以稽核,沒有人可以事後說「那筆判斷不是我做的」或「結果被改過了」。

問你:哪一項措施最能確保「不可否認性」的落實?

一句話總結

要落實「不可否認性(Non-repudiation)」:為每筆 AI 推論的輸入和輸出計算加密雜湊值(Hash),再加上數位簽章,讓這筆記錄事後任何人都無法否認它發生過、也無法竄改它。這是資訊安全的法律可追蹤性要求,跟系統效能或備援無關。

情境

先感受問題:一筆詐欺判斷引發的法律糾紛

假設「富嶼銀行」的 AI 詐欺偵測系統在某一天,把客戶王先生的一筆 50 萬元轉帳判斷為「疑似詐欺」並自動攔截。

王先生事後提出申訴,說這筆轉帳是合法的,他損失了商機。

銀行的法務部門要查:

「AI 當時收到的輸入是什麼?(交易金額、收款帳號、地點、時間)」

「AI 輸出的判斷是什麼?(詐欺機率幾%?閾值是多少?)」

「這個結果是當時真實跑出來的,還是後來有人改過的?」

「是哪一版本的模型做的判斷?」

如果沒有「不可否認性」機制,銀行的工程師可以說「我沒改過」,也可以說「那個輸入不是這樣的」,甚至有人在事後偷偷改了 log,法務追蹤就成了各說各話。

「不可否認性」就是要讓每一筆 AI 判斷都有「鐵一樣的證據」:發生了就是發生了,誰都不能否認。

舊方法

單純記 log 為什麼不夠

很多系統只是把推論結果寫進 log 檔案,這有五個漏洞:

  1. log 可以被改:有資料庫寫入權限的人,可以事後修改 log,讓輸入或輸出看起來不同。沒有數位簽章,根本無法證明記錄沒被動過。
  2. log 可以被刪:伺服器磁碟清理、備份策略,都可能讓特定時段的 log 消失。沒有不可竄改的儲存,記錄可以被選擇性刪除。
  3. 無法證明「是哪一版模型」:只記結果,沒記模型版本和參數 hash,事後無法重現或驗證「當時的判斷邏輯」。
  4. 無法識別「誰」做了這個判斷:log 沒有數位簽章,無法確認這個推論記錄確實是由官方系統產生的,而不是有人捏造的。
  5. 不符合金融法規要求:金管會對金融機構的稽核要求,不只是「有記錄」,而是「記錄可信且不可否認」,普通 log 不達標。

新方法

加密雜湊 + 數位簽章,怎麼解

回到富嶼銀行。導入不可否認性機制後:

每次 AI 推論發生時:

輸入:{帳號: A123, 金額: 500000, 時間: 2024-03-15T14:23:05Z, ...}

輸出:{詐欺機率: 0.89, 動作: BLOCK, 模型版本: v2.3.1}

1. 計算加密雜湊值(Hash):把輸入和輸出合在一起,算出一個固定長度的「指紋」(例如 SHA-256)。任何一個字元被改動,指紋就會完全不同。

2. 用銀行的私鑰對這個指紋做數位簽章(Digital Signature):只有銀行持有這把私鑰,所以只有銀行的官方系統能產生這個簽章。

3. 把 {輸入、輸出、雜湊值、簽章} 一起存進不可竄改的稽核日誌(例如區塊鏈或 WORM 儲存)。

未來法務追蹤時,只需要用銀行的公鑰驗證簽章,就能確認:這筆記錄是真實的、沒有被修改、確實由官方系統產生。王先生和銀行都沒辦法否認這個記錄。

這就是選項 A 講的:為每筆 AI 模型推論記錄其輸入與輸出結果的加密雜湊值(Hash),並簽署數位簽章以確保不可竄改性。

錯選項

為什麼其他選項是錯的

B優化模型效能以降低平均推論延遲至 100ms 以下,提升使用者體驗

字面在說什麼

讓 AI 模型推論更快,每次判斷在 0.1 秒以內完成,讓交易不會卡太久。

為什麼不對

這是「效能優化」(Performance Optimization),跟「不可否認性」完全是兩個維度的需求。推論快 1 秒還是 0.1 秒,都不影響這筆記錄能不能被事後稽核、能不能防止竄改。好比說:把一份文件打字速度從 1 分鐘縮短到 10 秒,並不代表這份文件的法律效力提升了。

誰會選錯

看到「AI 系統」就聯想到「效能」的考生,誤以為所有問題都可以用效能優化解決。記住:不可否認性是「法律可追蹤性」問題,屬於資訊安全領域,跟速度無關。

C增加主機備援數量,以確保系統在故障時持續可用

字面在說什麼

多買幾台伺服器,一台壞了另一台頂上,讓系統不會因為單台故障而中斷服務。

為什麼不對

這是「高可用性」(High Availability)和「容錯」(Fault Tolerance)的做法,對應的是 CIA 三要素中的「可用性(Availability)」,不是「不可否認性」。備援機器再多,也不能防止有人事後篡改推論記錄,或者否認某筆判斷的存在。

誰會選錯

把「資訊安全規範」理解成「系統要穩定不能斷線」的考生。金融監管對不可否認性的要求不是「系統要持續運作」,而是「每一筆交易記錄要有法律效力且不可竄改」。

D將模型推論請求導入負載平衡器,避免單點壅塞導致服務延遲

字面在說什麼

在 AI 推論服務前面加一個負載平衡器(Load Balancer),把大量請求分散到多台伺服器,避免一台被打爆。

為什麼不對

負載平衡是系統架構的「效能和可用性」設計,解決的是「請求量太大時怎麼不崩潰」的問題,跟不可否認性沒有任何關係。就算請求被平均分配到 100 台伺服器,如果每台伺服器的推論記錄都沒有雜湊和簽章,稽核時還是無法證明記錄沒被竄改。

誰會選錯

有系統架構背景的考生,看到「AI 整合至核心交易系統」就想到「高流量、要做負載平衡」,誤解了題目的資訊安全需求方向。題目的核心詞是「不可否認性」和「法務追蹤與稽核」,這兩個都指向密碼學機制,不是架構擴展能力。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二次 iPAS AI 應用規劃師 中級 科目一 第 30 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。