Odborná definícia
Odborná definícia
Target encoding nahrádza kategóriu číselnou štatistikou odvodenou z cieľovej premennej, napríklad vyhladeným priemerom cieľa pre danú hodnotu. Pri klasifikácii môže vytvárať odhady podmienených pravdepodobností tried. Metóda je účinná pri stĺpcoch s vysokou kardinalitou, no nesprávny výpočet spôsobuje únik cieľa a preučenie. Tréningové kódovanie sa preto počíta mimo aktuálneho riadka alebo fold-u a kombinuje sa s globálnym priemerom. Vyhladzovací parameter sa vyberá iba na tréningových foldoch, nie podľa výkonu na konečnom teste.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Predstavte si stĺpec s tisíckami PSČ. One-hot kódovanie by vytvorilo tisíce nových stĺpcov. Target encoding namiesto toho priradí každému PSČ napríklad vyhladenú mieru reklamácií. Táto hodnota už nesie užitočný signál, ale je nebezpečne blízko odpovedi, ktorú sa model učí. Ak sa pri výpočte použije aj cieľ toho istého riadka, model dostane nápovedu. Preto sa hodnoty pre tréning vytvárajú krížovým spôsobom a zriedkavé kategórie sa sťahujú ku globálnemu priemeru. Pri veľmi zriedkavej kategórii je rozumnejšie veriť priemeru populácie než jednému náhodnému výsledku.
Časté otázky
Časté otázky
Kedy je target encoding vhodnejší než one-hot encoding?
Najmä pri kategóriách s veľkým počtom hodnôt, kde by one-hot reprezentácia bola veľmi široká. Výhodný je aj vtedy, keď kategórie majú stabilný vzťah k cieľu.
Čo znamená smoothing pri target encodingu?
Priemer malej kategórie sa zmieša s globálnym priemerom. Čím menej pozorovaní kategória má, tým väčšia je váha globálnej hodnoty a menšie riziko extrémneho odhadu.
Ako sa zabráni target leakage?
Kódovanie tréningového riadka sa počíta z iných riadkov, typicky pomocou cross-fittingu alebo leave-one-out postupu. Validačné a testovacie dáta sa transformujú iba štatistikami z tréningu.
Ako sa kóduje neznáma kategória pri inferencii?
Zvyčajne dostane globálny priemer cieľa alebo inú vopred určenú záložnú hodnotu. Pravidlo musí byť súčasťou produkčnej transformačnej pipeline.
Je target encoding vhodný pre multiclass klasifikáciu?
Áno, môže vytvoriť osobitnú podmienenú pravdepodobnosť pre každú triedu. Počet výsledných stĺpcov potom rastie podľa počtu vstupných kategórií a cieľových tried.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- scikit-learn TargetEncoder documentation
- scikit-learn, Target Encoder Internal Cross Fitting
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.