Odborná definícia
Význam a odborné vymedzenie pojmu
XAI stability vyjadruje, do akej miery vysvetľovacia metóda poskytuje konzistentné výsledky pri opakovanom výpočte, podobných vstupoch alebo porovnateľných verziách modelu. Stabilita sa hodnotí voči presne určenej zmene, napríklad náhodnému seedu explaineru, bootstrapovej vzorke alebo malému posunu vstupu. Nevyžaduje absolútnu zhodu, ale primeranú kontinuitu vzhľadom na zmenu predikcie. Vysoká stabilita sama nepreukazuje správnosť ani kauzálnosť vysvetlenia.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Dvaja žiadatelia sa líšia iba zaokrúhlením jedného údaja a dostanú rovnaké skóre. Ak systém pri jednom označí za hlavný dôvod príjem a pri druhom vek, vysvetlenie pôsobí náhodne. Stabilitný test zopakuje výpočet a meria, ako sa menia poradia alebo hodnoty atribúcií. Pri strome môže byť skok legitímny, ak prípad prekročí deliaci prah. Preto sa stabilita neposudzuje bez informácie o lokálnej geometrii modelu a neistote vysvetľovača.
Časté otázky
Otázky, ktoré spresňujú význam
Ako sa stability líši od robustness?
Stabilita zdôrazňuje opakovateľnosť a kontinuitu pri definovaných malých zmenách. Robustnosť zahŕňa aj odolnosť voči cielenej manipulácii a širším perturbáciám.
Prečo je seed dôležitý?
Metódy založené na vzorkovaní môžu pri každom behu zvoliť inú lokálnu množinu. Seed a počet vzoriek ovplyvňujú výsledok.
Kedy je nestabilita oprávnená?
Blízko rozhodovacej hranice, pri silnej interakcii vlastností alebo keď malá zmena skutočne mení predikčný mechanizmus.
Ako sa porovnávajú dve atribučné mapy?
Koreláciou, vzdialenosťou, prekryvom top-k prvkov alebo stabilitou znamienka. Metrika musí zodpovedať spôsobu použitia.
Má sa stabilita merať po každom retréningu?
Áno, ak vysvetlenia vstupujú do rozhodovania alebo auditu. Nová verzia môže zachovať metriky modelu a zmeniť zdôvodnenia.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NISTIR 8312, Four Principles of Explainable AI Alvarez-Melis a Jaakkola, On the Robustness of Interpretability Methods, 2018
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.