Všechna hesla

Slovník IT, managementu a projektového řízení

Kvantizované nízkohodnostní dolaďování

Quantized low-rank adaptation (QLoRA)

QLoRA kombinuje kvantizaci základního modelu s nízkohodnostní adaptací pro úspornější dolaďování.

Zmenšená přesnost vah snižuje paměťovou náročnost, zatímco trénují malé adaptační matice. Metoda umožňuje pracovat i s velkými modely na omezeném hardwaru, avšak nastavení může ovlivnit rychlost i výslednou kvalitu.