Odborná definícia
Význam a odborné vymedzenie pojmu
XAI counterfactual explanation opisuje minimálnu alebo primeranú zmenu vstupných podmienok, pri ktorej by model vytvoril odlišný cieľový výsledok. Optimalizácia obvykle vyvažuje blízkosť pôvodnému prípadu, dosiahnutie cieľa, realizovateľnosť, sparsity a rešpektovanie nemenných atribútov. Kontrafaktuál vysvetľuje rozhodovaciu hranicu modelu, nie automaticky skutočný kauzálny zásah. Návrh typu zvýšte príjem môže byť nereálny, eticky nevhodný alebo mimo kontroly osoby. Kvalitný systém preto používa obmedzenia a viac rozmanitých alternatív.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Namiesto otázky ktoré premenné boli dôležité sa používateľ môže pýtať, čo by muselo byť inak, aby dostal schválenie. Kontrafaktuál môže odpovedať napríklad kratším omeškaním a nižšou požadovanou sumou. Taký návrh však nesmie meniť vek, falšovať údaje ani odporúčať krok, ktorý v realite výsledok neovplyvní. Ide o navigáciu po hranici modelu. Bez kauzálneho overenia nie je sľubom, že zmena vo svete prinesie rovnaký efekt. Organizácia musí navyše rozlíšiť technicky možnú zmenu od kroku, ktorý smie používateľovi odporučiť.
Časté otázky
Otázky, ktoré spresňujú význam
Je kontrafaktuálne vysvetlenie kauzálnou radou?
Nie automaticky. Ukazuje, ako by reagoval model pri zmenenom vstupe. Reálny zásah môže spustiť ďalšie mechanizmy, ktoré model nezachytáva.
Čo sú immutable features?
Vlastnosti, ktoré sa nemajú meniť, napríklad dátum narodenia alebo historická udalosť. Optimalizácia ich musí uzamknúť, inak vytvorí neprípustný návrh.
Prečo sa generuje viac kontrafaktuálov?
Jedna najbližšia zmena nemusí byť uskutočniteľná. Rozmanitá množina ponúkne alternatívy s odlišnými nákladmi a umožní človeku vybrať realistickú cestu.
Ako sa meria kvalita kontrafaktuálu?
Sleduje sa dosiahnutie cieľovej predikcie, vzdialenosť, počet zmenených atribútov, realizovateľnosť, plausibilita v dátovej distribúcii a stabilita voči aktualizácii modelu.
Môže kontrafaktuál odhaliť nespravodlivé správanie?
Môže ukázať, že podobné prípady potrebujú veľmi rozdielne zmeny, no záver o diskriminácii vyžaduje systematické porovnanie skupín, právny kontext a kauzálnu analýzu.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Counterfactual Explanations without Opening the Black Box Diverse Counterfactual Explanations, DiCE
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.