某市政府交通局計劃導入生成式 AI 技術來自動生成公車到站時間預測的文字報告,每日需處理約 50 萬筆交通資料並生成 1000 份報告。在評估導入成本時,團隊希望進行 Token Economics 分析(指模型推理與生成過程中,Token 使用量及其費用)。下列何者不屬於 Token Economics 的考量範圍?

iPAS 考題解析

某市政府交通局計劃導入生成式 AI 技術來自動生成公車到站時間預測的文字報告,每日需處理約 50 萬筆交通資料並生成 1000 份報告。在評估導入成本時,團隊希望進行 Token Economics 分析(指模型推理與生成過程中,Token 使用量及其費用)。下列何者不屬於 Token Economics 的考量範圍?

  • A. 每次 API 呼叫所需的輸入 Token 數量
  • B. 生成報告內容所消耗的輸出 Token 費用
  • C. AI 模型訓練階段使用 Token 數量所需的 GPU 記憶體成本 ✓ 正確答案
  • D. 模型推理過程中的 Token 使用量統計

詳細解析

Token Economics 專指模型推理與生成過程中的 Token 使用量與費用。模型訓練階段的 GPU 記憶體成本屬於訓練成本,不屬於推理階段的 Token Economics 範圍。

出題年份:115 難度:★★☆