某電信公司導入生成式AI客服系統,利用過去對話紀錄與用戶行為資料訓練語言模型,在資料治理與合規審查過程中,團隊發現模型可能會在回答中生成包含真實姓名、電話或交易資訊的內容。為確保系統符合各個法令及生成式AI的安全與隱私要求,下列哪一項作法最符合實務可行及法規原則?

iPAS 考題解析

某電信公司導入生成式AI客服系統,利用過去對話紀錄與用戶行為資料訓練語言模型,在資料治理與合規審查過程中,團隊發現模型可能會在回答中生成包含真實姓名、電話或交易資訊的內容。為確保系統符合各個法令及生成式AI的安全與隱私要求,下列哪一項作法最符合實務可行及法規原則?

  • A. 在訓練資料前進行資料匿名化(Anonymization)或偽匿名化(Pseudonymization)處理,並建立輸出內容稽核機制 ✓ 正確答案
  • B. 改以強化學習(Reinforcement Learning)微調模型,使模型學習避免產出真實資訊
  • C. 採用同態加密(Homomorphic Encryption)以加密所有文字輸入,確保模型無法辨識任何個資
  • D. 僅設定模型回覆時不顯示用戶姓名,即可視為隱私防護完成

詳細解析

在訓練前對資料進行匿名化或偽匿名化,從根本上降低模型記憶個資的風險,同時建立輸出稽核機制作為第二道防線,是符合GDPR等法規且實務可行的完整方案。

出題年份:114 難度:★★☆