Všechna hesla

Slovník IT, managementu a projektového řízení

BERT

Bidirectional Encoder Representations from Transformers

BERT je rodina jazykových modelů založených na architektuře Transformer, které při učení využívají kontext z obou stran textu.

Často se používá pro klasifikaci, vyhledávání nebo extrakci informací. Na rozdíl od běžného generativního modelu není jeho hlavním účelem vytvářet souvislý text.