AITerms 登入
機器學習深度學習模型部署

開放神經網路交換(ONNX)是什麼?

ONNX 是一種開放標準,用於表示機器學習模型,允許模型在不同框架之間互操作,簡化模型部署流程。

完整定義

ONNX (Open Neural Network Exchange) 是一種開放標準,用於表示機器學習模型。它能夠讓模型在不同的深度學習框架之間進行轉換和互操作,簡化模型部署流程,提高模型的可移植性。常見應用包括在不同硬體平台和雲端服務上部署模型。

白話說明

你訓練好的模型,會不會到了別的框架或裝置就搬不動?

你可以把 開放神經網路交換 想成 把模型包成跨框架可搬運的格式。

訓練和部署常常不是同一個環境,把模型包成通用格式,才好跨框架部署 這件事就特別重要。

記住這句

把模型包成通用格式,才好跨框架部署

比喻:ONNX 就像機器學習模型的「通用語言」或「轉接頭」 -- 你的模型可能是在 TensorFlow 訓練的,但部署時想用 PyTorch 或 Caffe2,ONNX 就是那個讓它們能互相溝通、順暢轉換的橋樑。

容易混淆

開放神經網路交換 vs 特定框架模型(如 TensorFlow 模型)

特定框架模型像只會說一種方言的人,只能在自家地盤交流;ONNX 像會說英文的人,走到哪都能溝通,讓模型部署更有彈性。

最關鍵的區別:一個是模型交換格式,一個是訓練框架本體。

開放神經網路交換 vs 原生框架模型

ONNX 是通用交換格式,原生框架模型通常只能在自己的生態裡跑得最順

最關鍵的區別:格式是不是能跨框架、跨 runtime。

實際案例

案例 1:PyTorch 訓練完,轉成 ONNX 再丟到邊緣裝置推論

案例 2:同一個模型要在 CPU、GPU 和不同 runtime 間切換

演算法與應用

核心意思就是:把模型包成通用格式,才好跨框架部署。

重點是把計算圖和權重保存成通用表示,再交給不同 runtime 執行

部署時常會再配合量化、剪枝或硬體加速

情境判斷

Q2(判斷題): 同一個模型要在 CPU、GPU 和邊緣裝置間切換,還合適嗎?

看情況,ONNX 就常是這種跨平台部署的中介層

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本