Prompt工程 相關 AI 術語
查中文、英文或縮寫,找到定義、範例與相關考點。
- 上下文脈絡 Context AI 模型在生成回應或進行預測時,所能參考與記憶的輸入資訊範圍及歷史對話內容。
- 上下文窗口管理 Context Window Management 有效利用 LLM 的上下文窗口(模型能處理的最大序列長度),在有限的空間內優先放置最重要的信息,避免超長內容丟失或品質下降。
- 上下文學習 In-context Learning 上下文學習 (In-context Learning) 指的是大型語言模型無需額外訓練,僅通過輸入範例即可學習新任務的能力。
- 上下文學習理論 In-context Learning Theory 上下文學習理論指大型語言模型無需額外訓練,僅憑藉輸入提示中的範例,即可執行新任務的能力,展現了模型泛化的潛力。
- 工具使用能力 Tool Use 工具使用能力是指大型語言模型利用外部工具(例如API、資料庫)來擴展其功能,完成更複雜任務的能力。
- 分塊處理 Chunking 分塊處理是指將大型資料集或文本分割成更小、更易於管理的部分,以便於模型處理和分析,提升效率。
- 少樣本提示 Few-shot Prompting 在提示詞中提供少量(通常 2-10 個)輸入輸出範例,引導語言模型依照示範格式完成任務的提示技術。
- 文本提示 Text Prompt 指引AI模型生成內容的文字指令或問題,是與生成式AI互動的核心方式。
- 文字生成圖像 Text-to-Image 文字生成圖像是一種人工智慧技術,它能根據文字描述自動生成對應的圖像,實現文字內容的視覺化呈現。
- 代理人系統 Agent Systems 由一個或多個能自主感知環境、做出決策並採取行動以達成目標的 AI 代理人所組成的計算架構。
- 向量資料庫 Vector Database 向量資料庫是一種專門儲存和檢索向量嵌入的資料庫,能高效處理高維度資料的相似性搜尋,廣泛應用於推薦系統和語義搜尋。
- 因果語言模型 Causal Language Model 因果語言模型是一種語言模型,它基於序列中先前詞彙預測下一個詞彙,並明確建模詞彙之間的因果關係,以提升生成文本的連貫性和可控性。
- 安全護欄 Guardrails AI安全護欄是用於限制AI系統行為,確保其符合預期規範和倫理標準的機制,防止產生有害或不當的輸出。
- 自動提示工程 Automatic Prompt Engineer 自動提示工程(APE)讓大型語言模型產生多條候選指令,再依實際作答的表現打分數,挑出效果最好的提示詞。
- 低秩適配 LoRA LoRA是一種參數高效的微調技術,透過學習低秩矩陣來適應預訓練模型,大幅減少訓練參數,降低計算成本。
- 系統提示詞 System Prompt 系統提示詞是用於引導大型語言模型行為的初始指令,影響模型的回應風格、知識範圍和任務執行方式。
- 函數呼叫 Function Calling 函數呼叫是一種允許大型語言模型(LLM)調用外部函數或API的能力,以擴展其功能並與外部世界互動。
- 前綴調整法 Prefix Tuning 前綴調整法是一種參數高效的微調技術,通過在輸入序列前添加可訓練的前綴向量,來引導預訓練模型生成期望的輸出,同時保持原始模型參數凍結。
- 思維鏈 Chain-of-Thought 思維鏈是一種讓大型語言模型逐步推理,而非直接給出答案,以提升複雜問題解答正確率的方法
- 思維鏈提示 Chain-of-Thought Prompting 思維鏈提示是一種Prompt工程技術,透過引導模型逐步推理,提升複雜問題的解答品質與可解釋性。
- 查詢重寫 Query Rewriting 查詢重寫是將使用者原始輸入轉換為更精確檢索字串的技術,能解決詞彙不匹配問題,提升搜尋結果準確度。
- 重複懲罰 Repetition Penalty 在生成過程中對已經出現的詞彙施加機率懲罰,抑制模型重複使用相同詞彙或短語,提高文本多樣性。
- 核心採樣 Nucleus Sampling 根據累積機率選擇詞彙範圍,只從機率累計達到設定閾值(如 90%)的最少詞彙中採樣,比 Top-k 更能適應不同機率分布。
- 假設性文件嵌入 Hypothetical Document Embeddings 假設性文件嵌入是一種檢索技術,透過語言模型先生成假設解答,再將該解答轉為向量以搜尋真實文件。
- 停止序列 Stop Sequence 指定特殊的詞彙序列,當模型生成到此序列時立即停止生成,用於控制輸出長度和結構邊界。
- 基礎模型 Foundation Model 基礎模型是使用大量未標記數據訓練的大型模型,可適應多種下游任務,展現出強大的泛化能力和遷移學習能力。
- 符記 Token 符記是大型語言模型處理文字時,不可分割的最小單位,它可以是一個字、詞,或者更小的子詞
- 聊天機器人 Chatbot 聊天機器人是一種能模擬人類對話的電腦程式,透過文字或語音與使用者互動,提供資訊、協助解決問題或執行特定任務。
- 提示詞注入 Prompt Injection 提示詞注入是一種安全漏洞,攻擊者通過惡意設計的提示詞操控大型語言模型的行為,使其忽略或違反原始指令。
- 程式碼生成 Code Generation 程式碼生成是指利用人工智慧模型,自動產生程式碼片段或完整程式的技術,旨在提高開發效率並降低編碼錯誤。
- 程式碼副駕駛 Copilot Copilot 是一個 AI 程式碼助手,透過分析程式碼上下文,提供程式碼建議、自動完成和程式碼生成,提升開發效率。
- 越獄攻擊 Jailbreaking 越獄攻擊是設計特殊提示詞或利用模型漏洞,繞過 AI 系統的安全防護與內容政策,讓模型產生原本應被阻止的內容。
- 量化低秩適配 QLoRA QLoRA是LoRA的改進版,使用4位量化技術壓縮預訓練模型,進一步降低記憶體需求,實現在消費級硬體上微調大型模型。
- 溫度採樣 Temperature Sampling 透過調整溫度參數,控制語言模型生成文本的隨機程度和多樣性。溫度越低生成越確定,溫度越高生成越隨機。
- 對話式人工智慧 Conversational AI 對話式人工智慧是指能透過自然語言與人類進行互動的AI系統,例如聊天機器人或語音助理,旨在提供更自然、直觀的互動體驗。
- 語言處理與模型 Language 在AI中,「語言」專指機器對人類自然語言的理解與生成能力,是實現人機順暢溝通與通用人工智慧的關鍵技術橋樑。
- 語意核心 Semantic Kernel Semantic Kernel是一個輕量級的開源SDK,使您可以將大型語言模型(LLMs)與傳統程式語言(如C#、Python)整合,建立AI應用。
- 語義搜尋 Semantic Search 語義搜尋是一種理解使用者搜尋意圖和上下文的搜尋技術,超越了關鍵字匹配,旨在提供更相關和精確的搜尋結果。
- 適配器模組 Adapter 適配器模組是一種輕量級的模型微調方法,透過在預訓練模型中插入少量可訓練參數,以適應特定任務,同時保持原始模型參數凍結。
- 餘弦相似度 Cosine Similarity 餘弦相似度是一種衡量兩個非零向量之間夾角餘弦值的度量方法,常用於評估文本或資料點之間的相似程度。
- 憲法型 AI Constitutional AI 憲法型 AI 是對齊大型語言模型的方法,用一份列出原則的「憲法」引導模型自我批評與修正,減少對人類回饋的依賴。
- AI代理 Agent 具備自主感知環境、做出決策並執行相應動作以達成特定目標的智慧型軟體實體。
- LangChain框架 LangChain LangChain是一個用於開發基於大型語言模型(LLM)應用程式的框架。它簡化了LLM的整合、鏈接和部署,讓開發者能快速構建複雜的AI應用。
- ReAct框架 ReAct Framework ReAct框架是一種結合推理(Reasoning)和行動(Acting)的AI Agent框架,允許模型在解決問題的過程中進行思考、規劃和執行。
- Top-k採樣 Top-k Sampling 限制每次詞彙選擇只從機率最高的 k 個候選詞彙中進行隨機採樣,減少低機率詞彙被錯誤選中的風險。