某公司在導入生成式 AI 協助撰寫內部報告時，測試人員刻意在輸入的上下文中放入互相矛盾的資訊（例如：同一位員工在不同段落被描述為「入職三年」與「入職五年」）。在這種情況下，最常見的模型行為會是什麼？
iPAS 考題解析
某公司在導入生成式 AI 協助撰寫內部報告時，測試人員刻意在輸入的上下文中放入互相矛盾的資訊（例如：同一位員工在不同段落被描述為「入職三年」與「入職五年」）。在這種情況下，最常見的模型行為會是什麼？
- A. 永遠選擇第一段資訊作為答案依據
- B. 可能生成幻覺或隨機採信其中一方的內容 ✓ 正確答案
- C. 拒絕回答，並要求提供更一致的輸入
- D. 自動判斷並只選擇正確的資訊
詳細解析
當上下文中存在矛盾資訊時，生成式 AI 最常見的行為是隨機採信其中一方或生成幻覺內容。模型通常不會主動識別矛盾並拒絕回答，而是會嘗試產出看似合理但可能不正確的回應。
出題年份：114 難度：★★☆