Všechna hesla

Slovník IT, managementu a projektového řízení

Nelineární funkce uvnitř neuronové vrstvy

Neural network activation function

Aktivační funkce převádí výstup výpočtu neuronu a umožňuje síti učit se složitější než lineární vztahy.

Bez nelinearity by několik vrstev lineárních výpočtů šlo sloučit do jediné lineární transformace. Funkce jako ReLU nebo sigmoid mají odlišné vlastnosti a ovlivňují učení i rozsah výstupu. Volba závisí na architektuře a experimentálně se ověřuje na datech odpovídajících úloze.