某公司在導入生成式AI協助撰寫內部報告時,測試人員刻意在輸入的上下文中放入互相矛盾的資訊(例如:同一位員工在不同段落被描述為「入職三年」與「入職五年」)。在這種情況下,最常見的模型行為會是什麼?

iPAS 考題解析

某公司在導入生成式AI協助撰寫內部報告時,測試人員刻意在輸入的上下文中放入互相矛盾的資訊(例如:同一位員工在不同段落被描述為「入職三年」與「入職五年」)。在這種情況下,最常見的模型行為會是什麼?

  • A. 永遠選擇第一段資訊作為答案依據;
  • B. 可能生成幻覺或隨機採信其中一方的內容; ✓ 正確答案
  • C. 拒絕回答,並要求提供更一致的輸入;
  • D. 自動判斷並只選擇正確的資訊

詳細解析

當輸入矛盾資訊時,模型最常見的行為是可能產生幻覺或隨機採信其中一方,而非拒絕回答。

難度:★★☆