Lemmatization

Lemmatization je jazykové spracovanie, ktoré prevádza ohýbané tvary slov na základnú slovníkovú podobu s využitím morfológie a kontextu.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa prínos metódy overuje porovnaním s jednoduchšou základnou verziou a na dátach zodpovedajúcich cieľu.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je použitie bez porovnávacej základne, prenos do nevhodnej domény alebo skrytý vedľajší účinok. Prínos sa musí overiť kontrolovaným experimentom na dátach zodpovedajúcich cieľu.

Lemmatization sa od pojmov LoRA, Label smoothing, Label encoding odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.