Odborná definícia
Význam a odborné vymedzenie pojmu
XGBoost je knižnica a algoritmický rámec pre gradient boosting, najčastejšie nad rozhodovacími stromami. Model sa skladá aditívne, každý nový strom koriguje reziduálnu chybu predchádzajúceho súboru podľa diferenciovateľnej cieľovej funkcie. Implementácia používa regularizáciu stromov, shrinkage, subsampling, stĺpcové vzorkovanie, spracovanie chýbajúcich hodnôt a efektívne histogramové alebo distribuované postupy. XGBoost nie je jeden pevný model, výsledok závisí od boosteru, objective, hĺbky, learning rate a validačného protokolu. Pri kategóriách a časových dátach treba zabrániť leakage.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
XGBoost nevytvorí jeden obrovský strom. Stavia sériu menších stromov, pričom každý sa sústreďuje na chyby, ktoré zostali po predchádzajúcich. Výsledná predikcia je súčtom ich príspevkov. Tento prístup býva silný pri tabuľkových dátach, kde sú vzťahy nelineárne a atribúty sa ovplyvňujú. Veľký počet hlbokých stromov však ľahko preučí dáta. Preto sa používa validačná množina, early stopping, regularizácia a kontrola únikov z budúcnosti. Pri nerovnovážnych triedach sa prah a váhy volia podľa nákladov chýb, nie podľa samotnej accuracy.
Časté otázky
Otázky, ktoré spresňujú význam
Je XGBoost iba klasifikátor?
Nie. Podporuje regresiu, ranking, klasifikáciu, survival úlohy a vlastné cieľové funkcie, ak spĺňajú požiadavky na gradienty a hessián.
Čo znamená learning rate v XGBoost?
Škáluje príspevok každého nového stromu. Menšia hodnota zvyčajne vyžaduje viac boosting kôl a môže zlepšiť generalizáciu.
Ako spracúva chýbajúce hodnoty?
Pri učení rozdelenia hľadá predvolený smer pre chýbajúce hodnoty. To nenahrádza analýzu, prečo údaje chýbajú a či vzor chýbania prenáša leakage.
Kedy je XGBoost nevhodný?
Pri surovom obraze, zvuku alebo dlhom texte bez vhodnej reprezentácie. Tam často dominujú neurónové architektúry, hoci ich embeddingy možno následne vložiť do stromového modelu.
Ako sa vysvetľuje predikcia XGBoost?
Možno použiť tree SHAP, príspevky stromov, gain alebo permutation importance. Každá metóda odpovedá na inú otázku a korelované atribúty komplikujú interpretáciu.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- XGBoost, A Scalable Tree Boosting System XGBoost Documentation
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.