搜尋意圖： 如果你在找「大型語言模型代理 是什麼」或「大型語言模型代理 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 以大型語言模型為核心決策引擎，結合工具調用與記憶機制，自主規劃並執行多步驟任務的 AI 系統。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
以大型語言模型為核心決策引擎，結合工具調用與記憶機制，自主規劃並執行多步驟任務的 AI 系統。
大型語言模型代理（LLM Agents）代表了 AI 系統從「問答工具」向「自主行動體」演進的關鍵範式轉移。傳統 LLM 應用模式是單次問答：使用者提問，模型生成回應，互動結束。LLM Agents 則讓模型持續地感知環境、規劃行動、執行操作，並根據執行結果調整後續計畫，直到達成目標任務。
一個完整的 LLM Agent 系統通常包含四個核心模組。第一是 LLM 核心（Brain）：負責理解任務指令、進行推理規劃、生成行動決策，這是整個 Agent 的認知中樞。第二是工具集（Tools）：Agent 可以呼叫的外部能力，包括搜尋引擎、程式碼執行器（Python sandbox）、資料庫查詢介面、REST API 呼叫、瀏覽器控制等。不同的工具集賦予 Agent 不同的行動空間。第三是記憶（Memory）：分為短期記憶（當前對話的上下文窗口）和長期記憶（向量資料庫存儲的過往經驗、知識庫）。長期記憶使 Agent 在跨對話的任務執行中保持連貫性。第四是行動規劃器（Planner）：將複雜目標拆解為可執行的子任務序列，並在子任務失敗時調整計畫。
規劃策略是 LLM Agents 研究中的核心課題。ReAct（Reasoning + Acting）框架是最具影響力的早期方法，讓 LLM 在「思考（Thought）→ 行動（Action）→ 觀察（Observation）」的循環中逐步推進任務。Chain-of-Thought（CoT）提示技術讓模型在行動前先進行顯式推理，提升複雜任務的成功率。更進階的方法如 Tree of Thoughts（ToT）讓模型探索多條可能的推理路徑，並評估各路徑的前景選擇最佳方向；MCTS（Monte Carlo Tree Search）結合搜尋演算法進行更系統性的規劃空間探索。
多代理（Multi-Agent）架構是 LLM Agents 的重要延伸，讓多個專門化的 Agent 協作完成單一 Agent 難以處理的大規模任務。典型架構包括：主代理（Orchestrator）負責任務分配，多個子代理（Sub-agents）各司其職（如一個負責程式碼生成、一個負責測試、一個負責文件撰寫）；以及點對點協作架構，多個同級 Agent 透過訊息傳遞相互協調。
工具使用（Tool Use）是 LLM Agents 得以超越純語言生成的關鍵。透過函數調用（Function Calling）或工具調用（Tool Calling）機制，LLM 能以結構化格式輸出對工具的呼叫請求（包含工具名稱與參數），外部執行層接收請求、調用實際工具、並將結果返回給 LLM 作為下一步推理的輸入。這使得 Agent 能夠存取即時資訊、執行計算、操作外部系統，大幅擴展了純 LLM 的能力邊界。
記憶管理是 Agent 長期任務執行的關鍵挑戰。上下文窗口（context window）雖然越來越大，但仍有容量上限，長任務執行中的完整歷史無法全部放入。解決方案包括：摘要記憶（對過往交互進行壓縮摘要）、向量資料庫（將知識與歷史嵌入為向量，按需檢索）、以及 episodic memory（儲存重要的行動-結果對作為未來的參考案例）。
LLM Agents 的主要挑戰包括幻覺（hallucination）導致的錯誤規劃、工具調用失敗的錯誤恢復能力不足、長鏈推理中的累積誤差、以及安全性與可控性（Agent 在自主執行過程中可能採取非預期的高風險行動）。這也使得 Agent 系統的設計需要謹慎設置行動邊界、人工審查關卡、以及失敗回滾機制。
應用場景已在快速落地：軟體開發（自動化程式碼生成、測試、除蟲）、研究輔助（自動文獻搜尋與摘要合成）、客服自動化（多步驟查詢與系統操作）、個人助理（日程管理、郵件處理、資訊整理）等領域均有具體部署案例。隨著工具生態系統的成熟（如 MCP 協議標準化工具調用接口），LLM Agents 的能力邊界正持續擴展。
常見問題
LLM Agents 和普通 LLM 聊天機器人有什麼根本差異？
普通 LLM 聊天機器人是「單輪或多輪問答系統」：使用者輸入訊息，模型依據對話歷史和訓練知識生成文字回應，互動在此停止，模型不會採取任何外部行動，能力完全受限於訓練資料的截止日期。LLM Agents 則是「自主行動系統」：使用者給出一個目標（而非問題），Agent 自主規劃達成目標所需的步驟，呼叫真實工具（搜尋網路、執行程式碼、查詢資料庫、發送請求）獲取資訊或改變外部狀態，根據執行結果調整計畫，並持續迭代直到任務完成。核心差異在於：普通聊天機器人的輸出只有文字，Agent 的輸出包括對現實世界的實際操作；普通聊天機器人是單次推論，Agent 是多步驟自主決策迴圈；普通聊天機器人被動回應，Agent 主動規劃。
ReAct 框架在 LLM Agents 中如何運作？
ReAct（Reasoning + Acting）是讓 LLM Agent 交替進行推理與行動的提示框架，設計目的是讓模型在採取每個行動前先進行顯式推理，並在觀察行動結果後更新理解，形成「思考（Thought）→ 行動（Action）→ 觀察（Observation）」的迭代循環。具體流程：模型接收任務指令後，先生成一段思考文字（Thought），分析當前狀況並決定下一步；然後輸出一個行動（Action），如「搜尋：台灣 AI 應用現況」；外部執行層調用搜尋工具並返回結果（Observation）；模型讀取觀察結果，生成新的 Thought 評估是否已有足夠資訊或需要進一步行動；如此循環直到生成最終答案（Final Answer）。ReAct 的貢獻在於把 LLM 的內部推理過程顯式化，使得 Agent 的決策過程可追蹤、可調試，比純粹的行動生成更加穩定可靠。
LLM Agents 在實際部署中面臨哪些主要挑戰？
部署 LLM Agents 面臨的挑戰主要集中在可靠性、安全性和效率三個維度。可靠性方面：LLM 的幻覺問題在 Agent 場景下會累積放大：單次問答中的一個小幻覺影響有限，但在多步驟任務中，第一步的錯誤判斷可能導致後續所有步驟都建立在錯誤基礎上；工具調用失敗時，Agent 的錯誤恢復機制往往不夠健壯，可能陷入無效重試循環。安全性方面：自主 Agent 在執行過程中可能採取使用者未預期的高風險行動（如刪除文件、傳送郵件、發起支付），需要設置明確的行動邊界和高風險操作的人工確認關卡；提示注入（prompt injection）攻擊也是真實威脅，惡意內容可以劫持 Agent 的行動目標。效率方面：多步驟任務中每一步都需要一次 LLM 推論，延遲和成本會隨任務複雜度線性增長，對即時應用是明顯制約。目前主流解決方向包括：結合形式化規劃（formal planning）、增加沙箱隔離、以及人機協作的審查機制（human-in-the-loop）。