Odborná definícia
Význam a odborné vymedzenie pojmu
SHAP je rodina metód vysvetliteľnosti, ktorá priraďuje vstupným vlastnostiam príspevky odvodené zo Shapleyho hodnôt kooperatívnej teórie hier. Predikcia sa rozkladá na základnú hodnotu a súčet príspevkov vlastností pre konkrétny príklad. Výpočet presných hodnôt je spravidla drahý, preto implementácie používajú aproximácie alebo algoritmy špecializované pre typ modelu. Výsledok závisí aj od voľby referenčného rozdelenia a spôsobu práce so závislými vlastnosťami. Pri publikovaní vysvetlenia sa uvádza verzia modelu, pozadie a presný SHAP explainer.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Predstavte si, že model určil cenu nehnuteľnosti. SHAP sa pýta, ako sa o rozdiel oproti typickej cene „podelili“ rozloha, lokalita, vek a ďalšie vlastnosti. Každá vlastnosť dostane kladný alebo záporný príspevok a ich súčet vedie k predikcii. Aby bolo rozdelenie férové, teória zvažuje rôzne poradia, v ktorých sa vlastnosti pripájajú. V praxi sa tento náročný výpočet aproximuje a výsledok môže skresliť nevhodné pozadie alebo silná korelácia vstupov. Rovnaká predikcia môže dostať iné rozdelenie príspevkov po zmene referenčnej populácie.
Časté otázky
Otázky, ktoré spresňujú význam
Čo je base value v SHAP vysvetlení?
Je to očakávaný výstup modelu vzhľadom na zvolené referenčné dáta. SHAP príspevky ukazujú, ako sa konkrétna predikcia od tejto hodnoty odchýlila.
Sú SHAP hodnoty kauzálne účinky?
Nie. Vysvetľujú správanie predikčného modelu voči zvolenej distribúcii, nie to, čo by sa v realite stalo po zásahu do vlastnosti.
Ako korelované vlastnosti ovplyvňujú SHAP?
Príspevok sa môže rozdeliť medzi zameniteľné vlastnosti alebo závisieť od použitého podmieneného či intervečného prístupu. Interpretácia musí uviesť zvolený variant.
Aký je rozdiel medzi lokálnym a globálnym SHAP?
Lokálne vysvetlenie opisuje jednu predikciu. Globálny pohľad agreguje absolútne alebo smerové príspevky cez viac príkladov, čím ukazuje typické správanie modelu.
Môže SHAP potvrdiť, že model je spravodlivý?
Nie. Vie odhaliť používanie citlivých alebo proxy vlastností, ale spravodlivosť vyžaduje samostatné skupinové metriky, kauzálne otázky a posúdenie kontextu.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- A Unified Approach to Interpreting Model Predictions SHAP documentation
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.