Giniho nečistota | AI slovník

Odborná definice

Giniho nečistota je míra heterogenity tříd v uzle klasifikačního stromu, vypočítaná jako 1 mínus součet druhých mocnín podielů jednotlivých tříd. Hodnota je nulová, když všechny příklady patří do jedné třídy, a roste při rovnomernejšom premiešaní. Při učení stromu se kandidátne rozdělení porovnávají podle váženého poklesu nečistoty mezi rodičovským a dcérskymi uzlami. Kritérium nevyjadruje ekonomickou cenu omylů ani kalibraci pravděpodobností. Při mnoha možnostiach rozdělení může také prispievat k skreslení důležitosti vlastností.

Srozumitelné vysvětlení

Představte si krabicu s červenými, modrými a zelenými kartami. Pokud jsou v ní pouze červené, po náhodnom vytiahnutí a odhade podle složení krabice nevzniká nejistota o třídě. Když jsou farby premiešané rovnomerne, krabica je nečistá. Rozhodovací strom hledá otázku, která rozdělí jednu zmiešanou krabicu na dcérske krabice s čistejším zložením. Giniho nečistota však nepozná, zda je zámena nebezpečnej diagnózy drahšia než jiný omyl. Je to matematické kritérium rozdělení, ne kompletná metrika úspěchu modelu.

Časté otázky

Jaký je vzorec Giniho nečistoty?

Pro K tříd se počítá 1 minus součet p_k na druhou, kde p_k je podíl třídy v uzle. V binárnom případě má maximum při pomere přibližně 50 ku 50 a minimum při čistej třídě.

Jak se liší Giniho nečistota od entropie?

Obě zvýhodňují čisté uzly a často vyberou podobné dělení. Entropie používá logaritmy a souvisí s informačným ziskom, Giniho kritérium je výpočetně jednodušší a má mírně odlišnou citlivost.

Ovlivňuje nevyváženost tříd výběr rozdělení?

Ano. Dominantní třída může vést k nízké nečistote i při slabom zachytení menšiny. Používají se váhy tříd, omezení stromu a hodnocení recall nebo nákladů na oddelenom teste.

Používá se Giniho nečistota při regresných stromoch?

Ne v této klasifikačnej podobe. Regresní stromy obvykle minimalizují rozptyl, strednou štvorcovou chybu nebo jinou ztrátu vhodnou pro spojitý cíl.

Proč může Giniho důležitost vlastností zavádzat?

Součet poklesů nečistoty může zvýhodnit spojité nebo vysokokardinálne proměnné s mnohými kandidátnymi rezmi. Na kontrolu se používá permutačná důležitost a hodnocení na nezávislých datech.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.