iPAS 考題解析
對非常長的輸入序列進行推理（Inference），Transformer 模型推理的主要計算瓶頸通常是什麼？
初級 人工智慧基礎概論
難度：中等 ★★☆ 114 年考題
考試範圍定位
- 考試等級
- 初級能力鑑定
- 考試科目
- 人工智慧基礎概論
- 知識主題
- 機器學習概念
- 能力指標
- 常見的機器學習模型（L11302）
本題屬於 iPAS AI 應用規劃師初級能力鑑定「人工智慧基礎概論」科目中的「機器學習概念」範疇， 對應的能力指標為「常見的機器學習模型」，涵蓋監督式、非監督式、半監督式、強化式、多模態、深度學習等核心知識點。 考生在準備這個範疇時，需要掌握相關的理論基礎與實務應用。
題目與選項
對非常長的輸入序列進行推理（Inference），Transformer 模型推理的主要計算瓶頸通常是什麼？
- A. 模型輸出層產生文本的過程，因為每生成一個詞都必須重新訓練整個模型一次；
- B. 詞嵌入（Embedding）查找操作，因為其時間複雜度隨詞彙表大小指數級增長；
- C. Softmax 函數的計算，因為對每個 Token 都需要執行繁重的運算；
- D. 自注意力層的計算和其記憶體使用，因為注意力矩陣的大小隨序列長度呈平方級增長 ✓ 正確答案
詳細解析
正確答案：D. 自注意力層的計算和其記憶體使用，因為注意力矩陣的大小隨序列長度呈平方級增長
Transformer 的自注意力機制需要計算序列中每個 Token 與所有其他 Token 的注意力分數，產生 N*N 的注意力矩陣（N 為序列長度）。計算量和記憶體使用都隨序列長度呈 O(N^2) 增長，這是長序列推理的主要瓶頸。
各選項逐一解析
理解每個選項為什麼對或錯，是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。
A. 模型輸出層產生文本的過程，因為每生成一個詞都必須重新訓練整個模型一次； （不正確）
推理時不需要重新訓練模型，生成每個詞只需一次前向傳播，此描述完全錯誤。
B. 詞嵌入（Embedding）查找操作，因為其時間複雜度隨詞彙表大小指數級增長； （不正確）
詞嵌入查找是簡單的表格查詢操作，時間複雜度為 O(1)，不是瓶頸。
C. Softmax 函數的計算，因為對每個 Token 都需要執行繁重的運算； （不正確）
Softmax 計算雖然是注意力機制的一部分，但主要瓶頸在於注意力矩陣整體的 O(N^2) 規模。
D. 自注意力層的計算和其記憶體使用，因為注意力矩陣的大小隨序列長度呈平方級增長 （正確）
自注意力的計算量和記憶體隨序列長度呈平方級增長，是長序列推理的核心瓶頸。
延伸學習
本題尚未連結特定術語，你可以從以下常見主題開始探索相關知識。
中等題備考建議
- ▶ 本題屬於中等難度，需要理解概念之間的關聯與應用情境，不能只靠死背定義。
- ▶ 中等難度的題目常考「為什麼」和「怎麼用」，建議整理各技術的優缺點比較表。
- ▶ 練習時注意錯誤選項的陷阱設計，很多時候錯誤選項只有一兩個字的差異，需要仔細辨別。
- ▶ 建議用「費曼學習法」，嘗試向別人解釋這道題的解題思路，能講清楚就代表真正理解了。
同主題考題練習
以下題目與本題屬於相同的考試範疇，建議一併練習以加強對該主題的掌握程度。
某大型零售企業準備將商品推薦模型上線，專案團隊在檢視訓練資料時，發現部分商品類別（例如高價商品）樣本數量極少，而多數樣本集中於低價商品。若此不平衡問題未妥善處理，下列何種狀況最可能在實際推薦結果中發生？
初級 人工智慧基礎概論 難度 ★★☆ 114 年
某商業銀行想建立洗錢行為檢測系統，擁有過去 5 年的交易記錄，其中包含已確認的洗錢案例（標記為「異常」）和正常交易（標記為「正常」）。銀行希望系統能自動識別新交易是否為洗錢行為，請問使用下列哪一種機器學習方法最為適合？
初級 人工智慧基礎概論 難度 ★★☆ 115 年
一家智慧工廠使用機器學習分類模型預測關鍵設備是否會異常停機。完成模型訓練後，團隊希望全面評估模型在不同面向的表現。請問下列哪項指標最適合用來衡量模型在偵測異常停機時的「漏報率」（即未能正確偵測出異常停機事件的比例）？
初級 人工智慧基礎概論 難度 ★★☆
iPAS AI 應用規劃師認證簡介
iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度， 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目， 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目， 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍，適合正在準備初級認證的考生練習。
開始準備 iPAS 考試
本題來自 114 年 AI 應用規劃師初級考試。 想通過 iPAS 認證？從完整題庫練習開始，搭配術語詞典與備考攻略，系統化提升你的 AI 知識。