Omezení extrémních hodnot

Gradient Clipping

Clipping omezuje nebo odstraňuje extrémní číselné hodnoty, které by nepřiměřeně ovlivnily další výpočet.

Při trénování může omezit příliš velké gradienty; zvolená hranice však ovlivňuje učení a musí se ověřit.