cílové kódování kategorií | AI slovník

Odborná definice

Target encoding nahrazuje kategorii číselnou štatistikou odvodenou z cílové proměnné, například vyhladeným průměrem cíle pro danou hodnotu. Při klasifikaci může vytvářet odhady podmienených pravděpodobností tříd. Metoda je účinná při stlpcoch s vysokou kardinalitou, ale nesprávný výpočet způsobuje únik cíle a přeučení. Tréninková kódování se proto počítá mimo aktuálního riadka nebo fold-u a kombinuje se s globálnym průměrem. Vyhladzovací parameter se vybírá pouze na tréninkových foldoch, ne podle výkonu na konečnom teste.

Srozumitelné vysvětlení

Představte si sloupec s tisíckami PSČ. One-hot kódování by vytvorilo tisíce nových stlpců. Target encoding místo toho přiřadí každému PSČ například vyhladenou míru reklamací. Tato hodnota už nese užitečný signál, ale je nebezpečne blízko odpovedi, kterou se model učí. Pokud se při výpočtu použije i cíl toho istého riadka, model dostane nápovedu. Proto se hodnoty pro trénink vytvářejí krížovým způsobem a vzácné kategorie se sťahují ku globálnemu průměru. Při velmi vzácné kategórii je rozumnejšie veriť průměru populace než jednomu náhodnému výsledku.

Časté otázky

Kdy je target encoding vhodnější než one-hot encoding?

Zejména při kategóriách s velkým počtem hodnot, kde by one-hot reprezentace byla velmi široká. Výhodný je i tehdy, když kategorie mají stabilní vztah k cielu.

Co znamená smoothing při target encodingu?

Průměr malé kategorie se zmieša s globálnym průměrem. Čím méně pozorování kategorie má, tím větší je váha globální hodnoty a menší riziko extrémneho odhadu.

Jak se zabrání target leakage?

Kódování tréninkového riadka se počítá z jiných riadků, typicky pomocí cross-fittingu nebo leave-one-out postupu. Validační a testovací data se transformují pouze štatistikami z tréninku.

Jak se kóduje neznáma kategorie při inferenci?

Obvykle dostane globální průměr cíle nebo jinou předem určenou záložnou hodnotu. Pravidlo musí být součástí produkční transformačnej pipeline.

Je target encoding vhodný pro multiclass klasifikaci?

Ano, může vytvořit osobitnou podmienenou pravděpodobnost pro každou třídu. Počet výsledných stlpců potom roste podle počtu vstupních kategorií a cílových tříd.

Související pojmy

Zdroje a redakční stopa

scikit-learn TargetEncoder documentation
scikit-learn, Target Encoder Internal Cross Fitting

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.