Lineární klasifikátor | AI slovník

Odborná definice

Linear classifier přiřazuje třídu na základě lineární nebo afínnej funkce vstupních příznaků. Pro každou třídu vypočítá skóre v tvaru váhový vektor krát vstup plus intercept a rozhodne podle prahu nebo najvyššieho skóre. Hranice mezi třídami jsou v použitom prostoru hyperroviny. Logistic regression převádí skóre na pravděpodobnosti, lineární SVM optimalizuje margin a perceptron používá jinou aktualizačnou logiku. Nelineárny výkon může vzniknout až po nelineárnej transformaci příznaků nebo embeddingu.

Srozumitelné vysvětlení

Lineární klasifikátor si lze predstavit jako rovnou deliacu plochu v prostoru příznaků. Při dvou vstupech je to čiara, při troch rovina a ve vyššom rozmere hyperrovina. Pokud jsou dokumenty už prevedené na kvalitné embeddingy, jednoduchá rovina může oddělit témy velmi dobře. Pokud se však třídy prepletají v kruhoch nebo složitých tvaroch, samotná linearita nestačí. Výhodou bývá rychlost, menší počet parametrů a čitatelné koeficienty, kterých interpretace stále vyžaduje škálování a kontrolu korelací.

Časté otázky

Je logistic regression lineární klasifikátor?

Ano. Logit je lineární v príznakoch, ačkoli pravděpodobnost vzniká nelineárnou sigmoid nebo softmax transformací.

Co znamená lineární separovatelné data?

Existuje hyperrovina, která bez chyby oddelí třídy v daném prostoru příznaků. Po pridaní šumu nebo overlapu tato vlastnost často zaniká.

Jako funguje multiclass verze?

Model může trénovat one-vs-rest klasifikátory nebo společnou multinomickou ztrátovou funkci a vybrat třídu s najvyšším skóre.

Proč bývá silný nad embeddingmi?

Embedding model už vykonal nelineárnu reprezentaci. Lineární hlava potom testuje, zda je požadovaná informace v novém prostoru jednoduše oddelitelná.

Jsou koeficienty přímo vysvetlitelné?

Pouze opatrne. Jejich znaménko a velikost závisí na škály, kódování, regularizace a korelací mezi vstupmi.

Související pojmy

Zdroje a redakční stopa

scikit-learn, Linear Models

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.