某公司在導入生成式AI協助撰寫內部報告時,測試人員刻意在輸入的上下文中放入互相矛盾的資訊(例如:同一位員工在不同段落被描述為「入職三年」與「入職五年」)。在這種情況下,最常見的模型行為會是什麼?
iPAS 考題解析
某公司在導入生成式AI協助撰寫內部報告時,測試人員刻意在輸入的上下文中放入互相矛盾的資訊(例如:同一位員工在不同段落被描述為「入職三年」與「入職五年」)。在這種情況下,最常見的模型行為會是什麼?
- A. 永遠選擇第一段資訊作為答案依據;
- B. 可能生成幻覺或隨機採信其中一方的內容; ✓ 正確答案
- C. 拒絕回答,並要求提供更一致的輸入;
- D. 自動判斷並只選擇正確的資訊
詳細解析
當輸入矛盾資訊時,模型最常見的行為是可能產生幻覺或隨機採信其中一方,而非拒絕回答。
難度:★★☆