某金融機構已部署的AI模型遭客戶抱怨有不公平情形,經數據分析發現不同族群之間的模型預測結果存在顯著差異。根據金融監督管理委員會發布之《金融業運用人工智慧(AI)指引》,此情形下最適當的處置方式為何?
iPAS 考題解析
某金融機構已部署的AI模型遭客戶抱怨有不公平情形,經數據分析發現不同族群之間的模型預測結果存在顯著差異。根據金融監督管理委員會發布之《金融業運用人工智慧(AI)指引》,此情形下最適當的處置方式為何?
- A. 重新訓練新的模型,並重新部署以修正結果
- B. 啟動人工覆核與調整機制,並持續監控族群間預測效果 ✓ 正確答案
- C. 記錄模型預測結果並提交備查,待未來法規修正後再行處理
- D. 若模型偏誤屬於高風險用途,可由風控或合規單位先行審視其公平性影響,再決定是否啟動調整機制
詳細解析
依金管會《金融業運用人工智慧(AI)指引》,發現不公平(Unfairness)應啟動人工覆核與調整機制,並持續監控以確保公平性(Fairness)。
難度:★★☆