Slovník IT, managementu a projektového řízení
AdaGrad
Adaptive Gradient Algorithm
AdaGrad přizpůsobuje velikost kroku každému parametru podle dosavadních gradientů.
U parametrů, které se mění často, krok rychle zmenšuje, zatímco u řídkých vstupů zachovává účinnější aktualizace.