One-hot kódování | AI slovník

Odborná definice

One-hot encoding převádí nominálnu kategorickou proměnnou s K možnými hodnotami na K binárnych indikátorů, přičemž pro jeden záznam je aktivní indikátor príslušnej kategorie a ostatní mají hodnotu nula. Reprezentace nevnáša umelé pořadí mezi kategoriemi, ale při velkém počtu hodnot vytváří vysokodimenzionálne řídké data. Při lineárním modeli se často jedna kategorie vynechá nebo se upraví intercept, aby se predišlo dokonalej kolinearite. Produkční encoder musí mít pevný slovník a definované chování pro neznámou kategorii.

Srozumitelné vysvětlení

Sloupec farba s hodnotami červená, zelená a modrá se změní na tri prepínače. Červený záznam má jedničku pouze v stlpci červená. Model tak nedostane falešnou informaci, že modrá je větší než zelená, co by vzniklo při číslach 1, 2 a 3. Pokud však e-shop obsahuje státisíce identifikátorů produktů, takáto reprezentace spotrebuje mnoho paměti a nezachytí podobnost mezi položkami. Tehdy se používají hashing, target encoding, embeddings nebo natívne kategorické algoritmy podle rizika úniku a typu modelu.

Časté otázky

Proč se one-hot nepoužívá na přirozeně usporiadané kategorie?

Při poradí jako nízké, stredné a vysoké může ordinal encoding zachovat relevantní strukturu. One-hot tuto informaci odstraní a model se musí naučit každý vztah samostatně.

Co se stane s neznámou kategorií v produkci?

Encoder může vyhodit chybu, vytvořit samostatný indikátor unknown nebo všechny známé sloupce nastavit na nulu. Volba musí být stejná při tréninku i inferenci a musí se monitorovat její frekvence.

Proč se někdy zahadzuje první indikátor?

Při lineárním modeli s interceptom je součet všech K indikátorů vždy jedna, co způsobuje lineárnu závislost. Vynechání referenční kategorie odstraní redundanci, ale mění interpretaci koeficientů.

Je one-hot vhodný pro stromové modely?

Může fungovat, ale při vysoké kardinalite vyžaduje mnoho stlpců a rozdělení. Algoritmus s natívnou podporou kategorií může být efektívnejší a zachovat lepší statistickou silu.

Jak se chrání před rozdílným pořadím stlpců?

Encoder se uloží jako součást pipeline spolu se slovníkem kategorií. Produkce nesmí nanovo zostavit sloupce z aktuální dávky, protože by se význam pozic mohl změnit.

Související pojmy

Zdroje a redakční stopa

scikit-learn, OneHotEncoder

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.