Optimalizátor

Optimizer

Optimalizátor určuje, jak se při trénování mění parametry modelu podle gradientů a zvolených nastavení.

Mezi příklady patří SGD, Adam a AdamW. Volba může ovlivnit rychlost konvergence i výslednou kvalitu, proto se hodnotí společně s ostatními parametry.