AI 術語詞典 + iPAS 備考平台

Transformer 是一種基於自注意力機制（Self-Attention）的深度學習架構，能平行處理序列資料，是 GPT、BERT 等大型語言模型的核心基礎。

大型語言模型（LLM）是透過海量文本資料訓練的深度學習模型，具備理解與生成自然語言的能力，參數量通常達數十億至數兆規模。

注意力機制是一種讓模型在處理序列資料時，自動聚焦於輸入中最相關部分的計算方法，是 Transformer 架構的核心運算單元。

微調是在預訓練模型的基礎上，使用特定領域或任務的資料進行額外訓練，使模型在目標任務上達到更好表現的技術。

RAG 是一種結合資訊檢索與文本生成的技術框架，讓大型語言模型能即時查詢外部知識庫，產出更準確、可溯源的回答。