Odborná definícia
Odborná definícia
Globálne vysvetlenie opisuje správanie modelu naprieč celou definovanou populáciou alebo rozsahom vstupov, nie dôvody jedinej predikcie. Môže mať podobu zjednodušeného surrogate modelu, globálnej dôležitosti vlastností, pravidiel, partial dependence grafov alebo analýzy interakcií. Jeho kvalita závisí od fidelity k pôvodnému modelu, stability pri zmene vzorky a pokrytia relevantných podskupín. Priemerované vysvetlenie môže zakryť opačné efekty alebo lokálne výnimky, preto sa globálny obraz kombinuje s lokálnymi a skupinovými analýzami.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Lokálne vysvetlenie je ako odôvodnenie jednej zamietnutej žiadosti. Globálne vysvetlenie sa snaží opísať celú rozhodovaciu politiku modelu, napríklad ktoré premenné zvyčajne menia rizikové skóre a kde sa účinok obracia. Je to mapa správania, nie záznam jednej cesty. Ak sa v priemere príjem javí ako najsilnejší faktor, model môže v konkrétnom segmente reagovať hlavne na dĺžku histórie. Preto treba uviesť, na akej populácii sa mapa vytvorila, ako verne kopíruje model a či zostáva stabilná pri novej vzorke.
Časté otázky
Časté otázky
Ako sa globálne vysvetlenie líši od lokálneho?
Globálne sumarizuje pravidlá a citlivosti modelu v populácii, lokálne rozoberá jednu predikciu alebo úzky región. Rovnaká vlastnosť môže byť globálne dôležitá, ale pre konkrétny prípad takmer irelevantná.
Ktoré metódy vytvárajú globálne vysvetlenia?
Používajú sa surrogate stromy, globálne feature importance, partial dependence, accumulated local effects, pravidlové zoznamy a agregované atribúcie. Každá metóda odpovedá na inú otázku a má iné predpoklady.
Čo znamená fidelity globálneho surrogate modelu?
Je to miera, ako dobre zjednodušený vysvetľujúci model reprodukuje výstupy pôvodného modelu v sledovanom priestore. Vysoká čitateľnosť bez dostatočnej fidelity vytvára pekný, ale nepravdivý príbeh.
Prečo môže priemerované vysvetlenie skryť problém?
Dva segmenty môžu mať opačné vzťahy a priemer vyjde takmer nulový. Analýza podskupín, interakcií a rozdelenia lokálnych efektov ukáže, či globálny súhrn nezakrýva heterogenitu.
Je globálne vysvetlenie automaticky právnym odôvodnením?
Nie. Technický opis správania modelu nemusí spĺňať požiadavky na konkrétnosť, zrozumiteľnosť, procesné práva ani identifikáciu rozhodujúcich faktorov v individuálnom prípade.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.