AITerms 登入
AI倫理與治理AI應用AI基礎

AI治理(AI Governance)是什麼?

AI治理是指建立一套框架和流程,以確保AI系統的開發和使用符合倫理、法律和社會價值觀。

完整定義

AI治理是一種跨領域的方法,旨在指導和監管AI系統的開發、部署和使用,確保其符合倫理原則、法律法規和社會價值觀。它涉及制定政策、建立標準、實施監管措施,並促進利益相關者之間的合作,以應對AI帶來的風險和挑戰。AI治理的目標是促進AI的負責任發展,並最大限度地發揮其社會效益,常見應用包括風險評估、合規性檢查和倫理審查。

白話說明

你有沒有注意到,ChatGPT 在某些國家可以用,某些國家不行?

義大利曾經直接禁用ChatGPT一個月,理由是個資保護不足。這不是技術問題,而是治理問題:誰來決定AI能做什麼、不能做什麼、出了事誰負責。AI治理就是建立這套規則和流程的過程,讓AI的開發和使用在倫理、法律和社會價值觀的框架內運作。

你可以把它想成一個先回答「用途是什麼」的入口,抓住生活場景後,再看技術細節會更容易。

記住這句

倫理管「該不該」,監管管「准不准」,治理管「怎麼做到」。

比喻:AI治理就像一個國家的政府管理系統 -- 它制定法律、政策、監督機制,確保AI這個「國家公民」能守規矩,對社會有益,而不是為所欲為。

容易混淆

AI 治理 vs AI 監管 vs AI 倫理

AI 治理:整體戰略框架,涵蓋政策、標準、流程、組織架構。

AI 監管:政府用法律強制執行的具體規範,例如歐盟 AI Act。

AI 倫理:討論 AI「應不應該」做某件事的價值判斷。

最關鍵的區別:倫理是思考層面,監管是法律層面,治理是把兩者落地成可執行的制度。

實際案例

歐盟 AI Act:全球第一部 AI 專法

2024 年歐盟通過了全球第一部全面性的 AI 法規,把 AI 系統依風險等級分成四類:不可接受風險(直接禁止,例如社會信用評分)、高風險(須通過合規審查,例如司法量刑 AI)、有限風險(須揭露 AI 身份,例如聊天機器人)、最小風險(不受管制,例如垃圾郵件過濾)。這套分級制度就是 AI 治理的具體實踐:不是一刀切禁止,而是依照風險程度給出不同的管理要求。

企業內部治理:微軟的 Responsible AI 框架

微軟在內部設立了 Office of Responsible AI 和 AI 倫理審查委員會,所有新的 AI 產品在上線前都必須通過影響評估。當 Bing Chat 早期出現不當言論時,這套治理機制讓團隊能快速下架功能、調整護欄、重新上線。治理不是事後補救,而是事前就建好決策流程和應變機制。

深入了解

AI 治理的運作通常圍繞五個核心支柱:

支柱
問責
在問什麼
AI 出錯時誰負責?
落地方式
明確角色歸屬,建立審計機制
支柱
透明
在問什麼
人能不能理解 AI 的決策?
落地方式
要求演算法揭露、決策紀錄留存
支柱
公平
在問什麼
AI 有沒有歧視特定族群?
落地方式
偏見檢測、公平性指標監控
支柱
安全
在問什麼
AI 會不會被惡意利用?
落地方式
紅隊測試、對抗攻擊防禦
支柱
隱私
在問什麼
AI 怎麼蒐集和使用個人資料?
落地方式
資料最小化、匿名化、同意機制

情境判斷

Q1(直覺題): 一家銀行用 AI 自動審核貸款申請,但申請人無法得知被拒絕的原因。這涉及 AI 治理的哪個面向?

透明性。申請人有權知道影響自己權益的 AI 決策依據,這是治理框架中「演算法可解釋性」的基本要求。

Q2(判斷題): 一家新創公司開發了 AI 面試系統,技術上準確率很高,但沒有經過任何外部審查。公司認為「等規模更大再來做治理也不遲」。這個想法合理嗎?

不合理,但要看情境。AI 治理的成本確實隨規模而不同,但等到出事才補治理,代價遠高於早期就建立基本框架。實務上,新創可以先從最小可行治理開始:記錄訓練資料來源、設定基本的偏見檢測、建立使用者申訴管道,不需要一開始就做到歐盟等級的完整合規。

iPAS 考題

出題方向: 通常考 AI 治理的定義、核心支柱辨認、與相關概念的區別。

題目

下列何者最能完整描述 AI 治理的範疇?

(A) 制定 AI 相關法律法規

(B) 建立涵蓋政策、標準、流程和組織架構的整體框架

(C) 審查 AI 演算法的技術正確性

(D) 監控 AI 系統的運算效能

答案:B。 AI 治理是整體框架,涵蓋政策、標準、流程和組織架構。A 只是監管面向,C 是技術審查,D 是效能管理,都只是治理的一小部分。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 9 題把AI治理列為延伸術語,這裡列出 5 題。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本