Globálně vysvětlení modelu | AI slovník

Odborná definice

Globálně vysvětlení popisuje chování modelu napříč celou definovanou populací nebo rozsahem vstupů, ne důvody jedinej predikce. Může mít podobu zjednodušeného surrogate modelu, globální důležitosti vlastností, pravidel, partial dependence grafů nebo analýzy interakcí. Jeho kvalita závisí na fidelity k původnému modelu, stability při změně vzorku a pokrytí relevantních podskupín. Priemerované vysvětlení může zakrýt opačné efekty nebo lokálně výjimky, proto se globální obraz kombinuje s lokálnymi a skupinovými analýzami.

Srozumitelné vysvětlení

Lokálně vysvětlení je jako odůvodnení jedné zamietnutej žiadosti. Globálně vysvětlení se snaží popsat celou rozhodovací politiku modelu, například které proměnné obvykle mění rizikové skóre a kde se účinek obrace. Je to mapa chování, ne záznam jedné cesty. Pokud se v priemere příjem javí jako najsilnejší faktor, model může v konkrétním segmente reagovat hlavne na délku historie. Proto je třeba uvést, na jaké populaci se mapa vytvořila, jako verne kopíruje model a či zůstává stabilní při nové vzorku.

Časté otázky

Jak se globálně vysvětlení liší od lokálneho?

Globálně sumarizuje pravidla a citlivosti modelu v populaci, lokálně rozebírá jednu predikci nebo úzký region. Stejná vlastnost může být globálně důležitá, ale pro konkrétní případ téměř irelevantná.

Které metody vytvářejí globálně vysvětlení?

Používají se surrogate stromy, globálně feature importance, partial dependence, accumulated local effects, pravidlové zoznamy a agregované atribuce. Každá metoda odpovídá na jinou otázku a má jiné předpoklady.

Co znamená fidelity globálneho surrogate modelu?

Je to míra, jako dobře zjednodušený vysvetlujúci model reprodukuje výstupy původního modelu v sledovanom prostoru. Vysoká čitatelnost bez dostatočnej fidelity vytváří pekný, ale nepravdivý príbeh.

Proč může priemerované vysvětlení skrýt problém?

Dva segmenty mohou mít opačné vztahy a průměr vyjde téměř nulový. Analýza podskupín, interakcí a rozdělení lokálních efektů ukáže, či globální souhrn nezakrýva heterogenitu.

Je globálně vysvětlení automaticky právnym odůvodnením?

Ne. Technický popis chování modelu nemusí splňat požadavky na konkrétnost, zrozumitelnost, procesné práva ani identifikaci rozhodujúcich faktorů v individuálnom případě.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.