iPAS 考題解析某公司在導入生成式 AI 協助撰寫內部報告時，測試人員刻意在輸入的上下文中放入互相矛盾的資訊（例如：同一位員工在不同段落被描述為「入職三年」與「入職五年」）。在這種情況下，最常見的模型行為會是什麼？

解析

正確答案：B. 可能生成幻覺或隨機採信其中一方的內容

當上下文中存在矛盾資訊時，生成式 AI 最常見的行為是隨機採信其中一方或生成幻覺內容。模型通常不會主動識別矛盾並拒絕回答，而是會嘗試產出看似合理但可能不正確的回應。

每個選項為什麼對或錯

• A 永遠選擇第一段資訊作為答案依據 錯誤選項

  模型不會固定選擇第一段資訊，它的行為取決於注意力機制和上下文權重分配。

• B 可能生成幻覺或隨機採信其中一方的內容 正解

  面對矛盾資訊，模型最常見的行為是生成幻覺或隨機採信其中一方內容。

• C 拒絕回答，並要求提供更一致的輸入 錯誤選項

  大多數生成式模型不會主動拒絕回答，即使輸入存在矛盾也會嘗試生成回應。

• D 自動判斷並只選擇正確的資訊 錯誤選項

  模型無法自動判斷哪個資訊「正確」，它缺乏外部知識來驗證矛盾內容。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。