Context window

Context window je maximálny rozsah tokenov, ktoré jazykový alebo multimodálny model dokáže súčasne spracovať pri jednej požiadavke vrátane vstupu, histórie a generovaného výstupu.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi je dôležité určiť presný kontext, hranice významu a situácie, v ktorých sa pojem nesmie zamieňať s príbuzným javom.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je príliš široký výklad, zámena príbuzných pojmov a prenos tvrdenia medzi odlišnými disciplínami. Význam treba vždy viazať na konkrétny kontext a overiteľný zdroj.

Context window sa od pojmov Decision boundary, Black-box model, Deep learning odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.