Odborná definícia
Odborná definícia
Log loss je negatívna logaritmická vierohodnosť pravdepodobností priradených správnym triedam. Pri binárnej klasifikácii kombinuje členy mínus y krát log p a mínus jedna mínus y krát log jedna mínus p. Veľmi sebaistá nesprávna predikcia dostane výrazne vyšší trest než mierne neistá chyba. Multiclass verzia zodpovedá cross-entropy nad cieľovou distribúciou. Log loss je proper scoring rule, preto pri správne špecifikovanom hodnotení motivuje reportovať poctivé pravdepodobnosti, no je citlivá na clipping a chybné labely.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Ak model pridelí správnej triede pravdepodobnosť 0,8, dostane malú stratu. Ak jej dá iba 0,01, trest prudko narastie, pretože logaritmus silno postihuje sebaistú chybu. Vďaka tomu log loss rozlišuje dva modely s rovnakou accuracy, ale rozdielnou kvalitou pravdepodobností. Hodnota sa nedá interpretovať bez počtu tried, distribúcie dát a baseline. Pri numerickom výpočte sa pravdepodobnosti orežú od presnej nuly a jednotky, aby logaritmus nevytvoril nekonečno.
Časté otázky
Časté otázky
Je log loss to isté ako cross-entropy?
Pri one-hot klasifikačných cieľoch sa názvy často používajú pre rovnaký výpočet. Cross-entropy je širší pojem pre dve distribúcie.
Prečo môže mať model dobrú accuracy a zlý log loss?
Triedy môže vyberať správne, ale pri chybách byť extrémne sebaistý. Accuracy intenzitu sebaistoty vôbec nevidí.
Čo je baseline log loss?
Napríklad strata modelu, ktorý vždy predikuje triedne frekvencie. Umožňuje posúdiť zlepšenie voči jednoduchému pravdepodobnostnému odhadu.
Ako pôsobí class weighting?
Mení príspevok jednotlivých príkladov alebo tried k priemernej strate. Výsledná hodnota potom zodpovedá zvoleným nákladom, nie prirodzenej prevalencii.
Prečo sa pravdepodobnosti clipujú?
Log nuly je nedefinovaný a vedie k nekonečnej strate. Malé epsilon zabezpečí numerický výpočet, pričom stále zachová veľký trest.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- scikit-learn, log_loss
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.