Odborná definícia
Odborná definícia
XAI counterfactual explanation opisuje minimálnu alebo primeranú zmenu vstupných podmienok, pri ktorej by model vytvoril odlišný cieľový výsledok. Optimalizácia obvykle vyvažuje blízkosť pôvodnému prípadu, dosiahnutie cieľa, realizovateľnosť, sparsity a rešpektovanie nemenných atribútov. Kontrafaktuál vysvetľuje rozhodovaciu hranicu modelu, nie automaticky skutočný kauzálny zásah. Návrh typu zvýšte príjem môže byť nereálny, eticky nevhodný alebo mimo kontroly osoby. Kvalitný systém preto používa obmedzenia a viac rozmanitých alternatív.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Namiesto otázky ktoré premenné boli dôležité sa používateľ môže pýtať, čo by muselo byť inak, aby dostal schválenie. Kontrafaktuál môže odpovedať napríklad kratším omeškaním a nižšou požadovanou sumou. Taký návrh však nesmie meniť vek, falšovať údaje ani odporúčať krok, ktorý v realite výsledok neovplyvní. Ide o navigáciu po hranici modelu. Bez kauzálneho overenia nie je sľubom, že zmena vo svete prinesie rovnaký efekt. Organizácia musí navyše rozlíšiť technicky možnú zmenu od kroku, ktorý smie používateľovi odporučiť.
Časté otázky
Časté otázky
Je kontrafaktuálne vysvetlenie kauzálnou radou?
Nie automaticky. Ukazuje, ako by reagoval model pri zmenenom vstupe. Reálny zásah môže spustiť ďalšie mechanizmy, ktoré model nezachytáva.
Čo sú immutable features?
Vlastnosti, ktoré sa nemajú meniť, napríklad dátum narodenia alebo historická udalosť. Optimalizácia ich musí uzamknúť, inak vytvorí neprípustný návrh.
Prečo sa generuje viac kontrafaktuálov?
Jedna najbližšia zmena nemusí byť uskutočniteľná. Rozmanitá množina ponúkne alternatívy s odlišnými nákladmi a umožní človeku vybrať realistickú cestu.
Ako sa meria kvalita kontrafaktuálu?
Sleduje sa dosiahnutie cieľovej predikcie, vzdialenosť, počet zmenených atribútov, realizovateľnosť, plausibilita v dátovej distribúcii a stabilita voči aktualizácii modelu.
Môže kontrafaktuál odhaliť nespravodlivé správanie?
Môže ukázať, že podobné prípady potrebujú veľmi rozdielne zmeny, no záver o diskriminácii vyžaduje systematické porovnanie skupín, právny kontext a kauzálnu analýzu.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Counterfactual Explanations without Opening the Black Box Diverse Counterfactual Explanations, DiCE
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.