iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論・115 年第一次・L11・第 12 題

ChatGPT 背後用什麼模型技術?

原題

ChatGPT、Gemini 等對話型生成式 AI 工具所依據的基礎模型技術,下列何者正確?

白話

ChatGPT、Gemini 這類工具,你輸入一句話,它會讀懂你的意思、然後生成一段回應:這就是對話型生成式 AI。

問你:ChatGPT、Gemini 這類對話型生成式 AI 工具,所依據的基礎模型技術是哪一個?

一句話總結

ChatGPT、Gemini 這類對話型生成式 AI 的核心,是大型語言模型(Large Language Model, LLM),用海量文字訓練出來、能理解並生成自然語言的模型。

情境

先感受問題:你每天用的 ChatGPT 是怎麼回話的?

你在 ChatGPT 輸入:「請幫我寫一封請假信,原因是頭痛,語氣正式。」幾秒後,一封格式正確、語氣恰當的信就出現了。

「台灣科技股份有限公司」的人資主管陳怡君每天都在用。她不需要知道背後是什麼技術,但 iPAS 考試會問:這個「讀懂你的話、生出你要的文字」的能力,叫什麼?

這就是語言理解加語言生成的組合,也是 LLM 的核心任務:給一段文字輸入,預測並生成最合適的下一段文字。

舊方法

LLM 出現之前,電腦怎麼「讀」文字?

在大型語言模型流行之前,想讓電腦處理語言,幾乎全靠規則和統計,困難重重:

  1. 關鍵字比對:只能找有沒有某個詞,不懂語意。「我不喜歡這個」跟「我喜歡這個」判斷成差不多。
  2. 決策樹分類:可以做「垃圾郵件 / 非垃圾郵件」,但面對開放式問題完全沒辦法生成文字。
  3. 早期神經網路:能分類短句,但長篇對話記不住前文,回答常常答非所問。
  4. 固定模板回覆:電話客服機器人說「請按 1 查餘額、請按 2 轉人工」,完全無法應付沒預設過的問題。
  5. 知識圖譜查詢:可以回答「台灣首都是哪裡」,但遇到需要推理或創作的問題就卡死了。

以上方法共同的問題:只能在固定框架內動,一遇到開放式語言生成就失靈。

新方法

LLM 怎麼解決「讀懂並說話」這件事

大型語言模型(Large Language Model, LLM)的解法很直接:用超大量的文字資料訓練一個深度神經網路,讓模型學會「在這個上下文之後,最可能出現什麼文字」。

陳怡君輸入「幫我寫請假信」,LLM 內部做的事大致是:分析這段指令的意圖、調出訓練時學到的「請假信格式知識」、一個字一個字預測出最適合的回覆。

這背後的關鍵結構是 Transformer 架構,它讓模型能夠「注意到句子中各個字詞之間的關係」,處理長篇文字時也不會忘記前面說了什麼。

GPT(OpenAI)、Gemini(Google)、Claude(Anthropic)都是 LLM 的具體實現,雖然公司不同、訓練資料不同,但底層都是這個架構。

這就是選項 B 講的:大型語言模型(Large Language Model, LLM)正是對話型生成式 AI 工具的基礎模型技術。

錯選項

為什麼其他選項是錯的

A決策樹(Decision Tree)

字面在說什麼

一種用樹狀結構做分類或預測的演算法,每個節點是一個判斷條件,最終走到葉節點得出結論。

為什麼不對

決策樹處理的是結構化資料(如表格),輸出是固定的類別或數字,完全沒有生成文字的能力。ChatGPT 能生成長篇文章,決策樹做不到。

誰會選錯

聽過「AI 做決策」這個詞,以為「決策樹」就是 AI 決策的核心技術的人。兩個是完全不同的概念。

C生成對抗網路(Generative Adversarial Network, GAN)

字面在說什麼

一種由「生成器」和「判別器」互相對抗訓練的模型,生成器努力生成假資料、判別器努力識破,兩者越來越強。

為什麼不對

GAN 的強項是圖像生成(假臉、風格轉換),在文字對話任務上表現不佳,也沒有大規模商業部署成對話 AI。ChatGPT 跟 GAN 毫無關係。

誰會選錯

知道 GAN 也是「生成式 AI」的一種,就以為 ChatGPT 也用 GAN 的人。生成式 AI 是個大家族,GAN 跟 LLM 是其中兩個方向不同的成員。

D圖卷積網路(Graph Convolutional Network, GCN)

字面在說什麼

一種處理「圖結構資料」的神經網路,圖中有節點(node)和邊(edge),GCN 學習節點之間的關係。

為什麼不對

GCN 用於社交網路分析、分子結構預測等圖資料任務,跟語言理解和對話生成完全是不同問題。ChatGPT 沒有用到圖卷積網路。

誰會選錯

看到「卷積網路」四個字聯想到深度學習很強,以為是對的人。卷積網路(CNN)做圖像很強,但 GCN 是圖資料,跟語言不是同一回事。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論 第 12 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。