Odborná definícia
Význam a odborné vymedzenie pojmu
Naive Bayes je rodina klasifikačných algoritmov odvodených z Bayesovej vety, ktoré počítajú posteriornú pravdepodobnosť triedy pri predpoklade podmienenej nezávislosti príznakov po zohľadnení triedy. Konkrétna verzia volí rozdelenie vhodné pre vstupy, napríklad multinomické pre početnosti slov, Bernoulliho pre binárne príznaky alebo Gaussovo pre spojité hodnoty. Predpoklad nezávislosti býva nereálny, ale model môže byť napriek tomu presný, rýchly a stabilný v riedkych vysokodimenzionálnych dátach.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Pri triedení e-mailov model sleduje, ako často sa jednotlivé slová objavujú v spame a v legitímnej pošte. Každé slovo vyhodnotí, akoby prinášalo vlastný nezávislý dôkaz, a tieto dôkazy spojí s tým, ako častá je daná trieda. Slová pritom v skutočnosti nezávislé nie sú, no zjednodušenie umožňuje spoľahlivý výpočet aj pri tisícoch príznakov. Naive Bayes je preto silný prvý model pre text, kategorizáciu dokumentov a rýchle prototypy, pričom jeho pravdepodobnosti nemusia byť dobre kalibrované.
Časté otázky
Otázky, ktoré spresňujú význam
V čom je predpoklad modelu naivný?
Model predpokladá, že po znalosti triedy jeden príznak neposkytuje informáciu o inom príznaku. Pri slovách to znamená ignorovanie slovosledu a väzieb medzi výrazmi, hoci práve tieto väzby sú v prirodzenom jazyku bežné.
Ktorý variant je vhodný pre textové dokumenty?
Multinomial Naive Bayes sa používa pri početnostiach alebo TF-IDF reprezentáciách. Bernoulliho variant je vhodný, keď príznak vyjadruje iba prítomnosť alebo neprítomnosť termínu.
Prečo model používa logaritmy pravdepodobností?
Súčin veľkého počtu malých pravdepodobností môže numericky podtiecť k nule. V logaritmickom priestore sa súčin zmení na súčet, ktorý je stabilnejší a jednoduchší na porovnávanie tried.
Sú výstupné pravdepodobnosti Naive Bayes dôveryhodné?
Nemusia byť. Silný nezávislostný predpoklad môže viesť k príliš extrémnym posteriorom. Ak pravdepodobnosť ovplyvňuje rozhodovací prah alebo cenu rizika, treba ju overiť kalibračnou krivkou a prípadne kalibrovať.
Aké sú hlavné výhody pri malom datasete?
Model odhaduje relatívne málo parametrov, trénuje veľmi rýchlo a dokáže využiť riedke vstupy bez komplikovanej optimalizácie. Výsledok však závisí od vhodného rozdelenia a od ošetrenia nulových početností.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- scikit-learn, Naive Bayes
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.