# 量化低秩適配（QLoRA）

QLoRA是LoRA的改進版，使用4位量化技術壓縮預訓練模型，進一步降低記憶體需求，實現在消費級硬體上微調大型模型。

## 完整說明

QLoRA (Quantized Low-Rank Adaptation) 是LoRA的進階版本，它結合了量化技術和低秩適配。QLoRA使用4位量化來壓縮預訓練模型的權重，從而大幅降低記憶體需求，使得在消費級硬體上微調大型模型成為可能。同時，QLoRA保留了LoRA的參數高效性，只需要訓練少量的參數。

## 常見問題

### undefined



### undefined



### undefined



---

來源：https://aiterms.tw/terms/qlora
快查頁：https://aiterms.tw/terms/qlora
深度解說：https://aiterms.tw/learning/what-is-qlora