AITerms 登入
AI倫理與治理風險評估模型評估

人工智慧風險評估(AI Risk Assessment)是什麼?

人工智慧風險評估是一種識別、分析和評估人工智慧系統可能造成的潛在風險的過程,旨在了解風險的性質、可能性和影響,並制定相應的應對措施。

完整定義

人工智慧風險評估是一種系統性的過程,用於識別、分析和評估人工智慧系統在開發、部署和使用過程中可能產生的潛在風險。它旨在了解風險的性質、發生的可能性和潛在影響,並為制定風險緩解策略提供依據。常見應用包括金融、醫療、交通等高風險領域。

白話說明

你要把 AI 上線前,會不會先問它可能出什麼事?

你可以把人工智慧風險評估想成上線前的安全檢查,先找出模型可能在哪裡出錯、錯了會造成多大損失、發生機率有多高。它不是在討論模型有沒有能力,而是在討論失手時的代價。

這很重要,因為很多 AI 問題不是一開始就爆炸,而是先出現小偏差,最後慢慢變成大事故。

記住這句

先找出哪裡會出事,再決定先救哪一塊。

比喻:AI風險評估就像建築師在蓋大樓前做地震安全評估 -- 他們要找出所有可能的結構弱點和潛在危險,評估發生機率和後果,然後設計加固方案,確保大樓不會倒塌。

容易混淆

風險評估 vs AI安全

風險評估是在找風險、排優先順序。

AI安全是在設計方法去降低風險。

最關鍵的區別:一個先盤點,一個再處理。

風險評估 vs AI治理

治理是整體管理框架。

風險評估是其中很重要的一個步驟。

最關鍵的區別:治理是大架構,評估是工具。

風險評估 vs 紅隊演練

風險評估看哪些地方可能危險。

紅隊演練會主動去攻擊那些地方。

最關鍵的區別:一個找風險,一個驗風險。

實際案例

貸款核准模型

銀行在上線前會先看模型會不會對某些族群有系統性偏差,若風險高,就要加人工覆核、限制自動拒絕或調整特徵。

客服聊天機器人

一個會回覆客訴的聊天機器人,風險可能不是「答錯一題」而已,而是誤導消費者、洩漏個資或說出不當內容,所以要先做風險盤點。

深入了解

風險評估常看的維度

發生機率、影響程度、可偵測性、可修復性和受影響的人數,通常都會一起看。

常見輸出

風險清單、優先級、緩解措施、監控指標和責任人,才算完整。

情境判斷

Q1(直覺題): 你發現模型在少數族群上的錯誤率特別高,這時要先做什麼?

先做風險評估,把影響範圍、嚴重度和修正優先順序排出來。

Q2(判斷題): 只要風險評估做過一次,就可以永久不再看嗎?

不行,這要看情況。模型、資料、法規和使用情境會變,風險也會跟著變,通常要定期重做。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把人工智慧風險評估列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本