AITerms 登入
機器學習深度學習模型訓練

圖形處理器(GPU)是什麼?

圖形處理器(GPU)是一種專為並行處理設計的電子電路,最初用於加速圖像渲染,現廣泛應用於深度學習等需要大量計算的領域。

完整定義

圖形處理器(GPU)最初設計用於加速電腦圖形的渲染。其架構針對並行處理做了最佳化,能夠同時執行大量計算。隨著深度學習的興起,GPU 因為並行計算能力強,成為訓練和執行複雜神經網路常用的硬體。

白話說明

你有沒有遇過算圖、剪片、訓練模型時,電腦明明很新卻還是卡?

你可以把 GPU 想成專門處理很多相似小計算的工人群。

它不一定每一步都比 CPU 聰明,但能同時做很多件事,所以在深度學習、影像處理和渲染上特別有用。

記住這句

很多小算一起算,找 GPU。

比喻:GPU 就像一個有幾千隻手的「超級工人」-- 它不像 CPU 只有幾隻手但很靈活,而是可以同時處理幾千個簡單的小任務,特別適合深度學習這種重複性高的計算。

容易混淆

GPU vs CPU

CPU 擅長少量複雜任務

GPU 擅長大量平行任務

最關鍵的區別是單點能力強,還是同時處理很多件事

GPU vs TPU

GPU 很通用,適合很多型別的計算

TPU 更偏向神經網路矩陣運算

最關鍵的區別是通用性還是專用加速

實際案例

模型訓練

深度學習訓練需要大量矩陣運算,GPU 可以把這些運算平行化,所以訓練速度通常比只用 CPU 快很多。

影像渲染

3D 遊戲和影片特效要快速產生大量像素,GPU 就很像專門跑產線的機器,能把畫面算得又快又穩。

演算法與應用

GPU 的價值在平行運算能力和記憶體頻寬,很多深度學習框架也直接把它當主要運算後端。

實際挑選時,不只看算力,也要看 VRAM、驅動支援和你的工作型態。

情境判斷

Q1: 你只是想跑 Excel 和文書,需不需要高階 GPU?

通常不需要,這類工作主要吃 CPU 和記憶體。

Q2: 你要訓練影像分類模型,預算有限,先考慮什麼?

先看可用的 GPU 記憶體和雲端租用成本,再決定要不要升級硬體。

常見問題

範例考題

某紡織製造公司導入 AI 系統進行布料瑕疵檢測,每天需處理來自 30 條產線的影像資料,包括高解析度照片、感測器數值、生產參數記錄等多種格式。該公司收集的資料量從每日 2GB 增長至 50GB,且需在布料離開產線前的 3 秒內完成瑕疵判定。近期團隊發現系統在尖峰時段容易出現判定延遲,影響製程節奏。若要優先改善此問題,下列哪一種做法最適合?

  1. A擴充資料儲存容量,以因應長期資料累積需求
  2. B強化即時資料處理與推論計算資源配置,以降低延遲風險
  3. C調整資料格式標準,以降低跨來源整合複雜度
  4. D增加資料驗證與清理機制,以提升資料品質穩定性
到題目頁作答

在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?

  1. A知識蒸餾(Knowledge Distillation)
  2. B提示詞工程(Prompt Engineering)
  3. C梯度凍結(Gradient Freezing)
  4. D低秩適配(Low-Rank Adaptation)
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 3 題把圖形處理器列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本