Yuleova-Simonova distribuce | AI slovník

Odborná definice

Yule-Simon distribution je diskrétní pravděpodobnostní rozdělení na kladných celých číslach s ťažkým mocninovým chvostom, parametrizované kladným parametrem rho. Vzniká v modelech preferenčného pripájání, kde se nové typy objavují s určitou pravděpodobností a existujúce typy získavají další výskyty úmerne svojej doterajšej frekvencii. V NLP může približovat nerovnomerné frekvence slov nebo entít, v sítích distribuci popularity. Není totožné se Zipfovým zákonom a jeho vhodnost se musí testovat na chvoste i vůči alternatívnym rozdeleniam.

Srozumitelné vysvětlení

Představte si slovník, ve kterém se občas objeví nové slovo, ale večšina dalších použití pripadne výrazom, které už jsou časté. Bohatí tak získavají další výskyty a vznikne několik velmi populárnych položek spolu s množstvím vzácných. Yuleova-Simonova distribuce matematicky popisuje takový mechanismus. Pro AI je důležitá při analýze dlhého chvosta tokenů, používatelských požadavků nebo entít. Samotná podobnost log-log grafu však nestačí, protože více mechanizmy vytvářejí podobně vyzerajúce těžké chvosty.

Časté otázky

Jaké hodnoty může proměnná nadobúdat?

Kladné celé čísla, typicky počty výskytů nebo velikost skupiny. Parameter rho řídí rychlost poklesu chvosta.

Jaký je vztah k preferenčnému pripájání?

Rozdělení vzniká v procesoch, kde pravděpodobnost dalšího výskytu roste s doterajšou popularitou a zároveň pribúdají nové typy.

Je Yule-Simon to jisté jako Zipfovo rozdělení?

Ne. Jsou příbuzné přes mocninové chování, ale opisují odlišnou veličinu a mají jinou parametrizaci i generatívnu interpretaci.

Jak se ověřuje vhodnost modelu?

Odhadne se parameter, zvolí se hranice chvosta a porovná se goodness-of-fit s alternatívami, například lognormálnym nebo zrezaným mocninovým rozdělením.

Proč je dlouhý ocas důležitý pro NLP?

Velká část slov a entít má málo příkladů. Průměrná metrika může zakrýt slabý výkon právě na těchto vzácných položkách.

Související pojmy

Zdroje a redakční stopa

SciPy, yulesimon distribution
Simon, 1955

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.