完整定義
大型語言模型是一種基於深度學習的神經網路模型,擁有數十億甚至數千億的參數,能夠學習並生成人類語言。它能夠執行多種自然語言處理任務,例如文本生成、翻譯、問答等。在 iPAS 考試中,理解大型語言模型的架構、訓練方法以及應用場景是重要的考點。
白話說明
你有沒有覺得,現在很多 AI 不只會接話,還能寫稿、整理和回答複雜問題?
你可以把它想成用超大量文字訓練出來的超大語言模型,既會理解,也會生成。
大型語言模型是以大量文字訓練的超大 Transformer 模型,擅長理解並生成自然語言
記住這句
大資料、大模型、大能力。
比喻:LLM 就像一個讀過整座圖書館的學生 -- 它從海量文本中學會語言的規律,能用自己的話回答各種問題,但有時會「記錯」或「瞎編」
容易混淆
語言模型
語言模型是大類,LLM 是規模更大、通常建立在 Transformer 上的版本。
聊天機器人
聊天機器人是產品形態,LLM 是背後的大腦,兩者不是同一件事。
實際案例
寫作助理
你丟一句需求,模型就能幫你改寫成簡報、信件或摘要。
文件問答
把文件內容餵給模型後,它能根據上下文回答你問的細節。
演算法與應用
LLM 通常先做預訓練,再做指令微調或對齊。它強在通用性,但也容易出現幻覺,所以部署時常要搭配檢索、工具和驗證流程。
iPAS 考題
出題方向: 這類概念常考定義、差異和實務用法。
題目 大型語言模型最核心的特徵是什麼?
答案:用大量文字訓練、參數規模很大、能理解並生成自然語言。 它不是單純的聊天介面,而是能驅動很多語言任務的基礎模型。
常見問題
語言模型是大類,LLM 是規模更大、通常建立在 Transformer 上的版本。
你可以把它想成用超大量文字訓練出來的超大語言模型,既會理解,也會生成。
聊天機器人是產品形態,LLM 是背後的大腦,兩者不是同一件事。
範例考題
某企業提供大型語言模型(LLM)API 服務,需支援高併發請求與流量波動,同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則,下列哪一種部署方式較為適當?
- A採用單一高效能虛擬機(VM)集中部署,以提升資源使用效率
- B建立多個模型服務實例並透過負載分散機制提供服務
- C將推論任務改由用戶端設備分擔,以降低伺服器負載壓力
- D使用 FTP 協議傳輸請求與回應,以減少服務通訊負擔
正解是 B:建立多個模型服務實例並透過負載分散機制提供服務
解析:高可用性與可擴展性的核心是建立多個服務實例並透過負載均衡分散流量,確保單一實例故障時服務不中斷,同時能動態擴展應對流量波動。
某企業導入大型語言模型(LLM)進行客服自動化,並已透過 Fine-Tuning 學習企業標準問答範例,但在實務運作中仍出現回應策略未符合服務優先順序及語氣與品牌風格不一致的情況,因此技術團隊建議再導入 Reinforcement Fine-tuning(RFT)機制進行優化,其主要目的為何?
- A擴展模型的知識涵蓋範圍與資料記憶能力
- B透過 reward 訊號調整模型回應策略與行為偏好
- C提升模型推論速度與降低回應延遲
- D降低 prompt 設計複雜度並取代訓練流程
正解是 B:透過 reward 訊號調整模型回應策略與行為偏好
解析:Reinforcement Fine-tuning(RFT)的主要目的是透過 reward 訊號(獎勵信號)來調整模型的回應策略與行為偏好,使其更符合期望的服務優先順序與品牌風格。
出現在這些考古題
官方公告試題的逐題解析裡,有 10 題把大型語言模型列為延伸術語,這裡列出 5 題。
立即測驗
想測試你對 大型語言模型 的掌握程度?用考古題作答
相關術語
來源
這個術語目前沒有標註外部來源。
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本