Slovník IT, managementu a projektového řízení
Kontextové okno jazykového modelu
Language model context window
Kontextové okno určuje, kolik vstupních a generovaných tokenů model zpracuje v jedné relaci.
Do limitu se mohou počítat instrukce, historie rozhovoru, přiložené texty i odpověď. Delší okno umožňuje předat více podkladů, ale samo nezaručuje, že model všechny části správně využije. Aplikace musí sledovat limit i náklady.