XAI

XAI je explainable AI, súbor prístupov na poskytovanie zrozumiteľných informácií o faktoroch, mechanizmoch a dôvodoch výstupov AI systému.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi vyžaduje jasné vlastníctvo, dokumentované pravidlá, merateľné kontroly a dohľad primeraný riziku.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je formálna kontrola bez reálneho vlastníka, neúplná dokumentácia a dohľad neprimeraný dopadu. Opatrenia musia mať zodpovednú osobu, dôkaz vykonania a pravidelnú revíziu.

XAI sa od pojmov Versioning, Value alignment, Usage policy odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.