kontrafaktuální vysvětlení výsledku AI | AI slovník

Odborná definice

XAI counterfactual explanation popisuje minimálnu nebo přiměřenou změnu vstupních podmínek, při které by model vytvořil odlišný cílový výsledek. Optimalizace obvykle vyvažuje blízkost původnému případu, dosiahnutie cíle, realizovatelnost, sparsity a rešpektování nemenných atributů. Kontrafaktuál vysvětluje rozhodovací hranici modelu, ne automaticky skutečný kauzální zásah. Návrh typu zvýšte příjem může být nereálný, eticky nevhodný nebo mimo kontroly osoby. Kvalitní systém proto používá omezení a více rozmanitých alternatív.

Srozumitelné vysvětlení

Místo otázky které proměnné byly důležité se uživatel může pýtať, co by muselo být jinak, aby dostal schválení. Kontrafaktuál může odpovídat například kratším omeškáním a nižší požadovanou sumou. Takový návrh však nesmí měnit vek, falšovat údaje ani doporučovat krok, který v realite výsledek neovplyvní. Jde o navigaci po hranici modelu. Bez kauzálneho ověření není slubom, že změna ve svete prinese stejný efekt. Organizace musí navíc rozlíšit technicky možnou změnu od kroku, který smie uživateli odporučit.

Časté otázky

Je kontrafaktuální vysvětlení kauzálnou radou?

Ne automaticky. Ukazuje, jako by reagoval model při zmenenom vstupe. Reálný zásah může spustit další mechanizmy, které model nezachytáva.

Co jsou immutable features?

Vlastnosti, které se nemají měnit, například datum narodení nebo historická událost. Optimalizace jejich musí uzamknúť, jinak vytvoří neprípustný návrh.

Proč se generuje více kontrafaktuálů?

Jedna najbližšia změna nemusí být proveditelná. Rozmanitá množina ponúkne alternativy s odlišnými nákladmi a umožní člověku vybrat realistickou cestu.

Jak se měří kvalita kontrafaktuálu?

Sleduje se dosiahnutie cílové predikce, vzdálenost, počet zmenených atributů, realizovatelnost, plausibilita v datové distribuci a stabilita vůči aktualizaci modelu.

Může kontrafaktuál odhalit nespravodlivé chování?

Může ukázat, že podobné případy potřebují velmi rozdílně změny, ale závěr o diskriminaci vyžaduje systematické porovnání skupin, právní kontext a kauzálnu analýzu.

Související pojmy

Zdroje a redakční stopa

Counterfactual Explanations without Opening the Black Box Diverse Counterfactual Explanations, DiCE

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.