Optimalizátor trénování

Machine learning optimizer

Optimalizátor převádí gradienty na změny parametrů modelu během trénování.

Různé algoritmy volí velikost a směr aktualizace odlišně a mohou používat také historii předchozích kroků. Volba ovlivňuje rychlost konvergence i stabilitu učení a obvykle se ověřuje společně s dalšími nastaveními trénování.