Odborná definícia
Odborná definícia
XAI fidelity je miera, do akej vysvetľovací model alebo atribúcia verne napodobňuje skutočné správanie pôvodného modelu v hodnotenom okolí.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Jednoducho povedané, XAI fidelity je miera, do akej vysvetľovací model alebo atribúcia verne napodobňuje skutočné správanie pôvodného modelu v hodnotenom okolí. V praxi musí zodpovedať reálnemu cieľu, cene jednotlivých chýb a rozdielom medzi relevantnými skupinami.
Časté otázky
Časté otázky
Čo je XAI fidelity?
XAI fidelity je miera, do akej vysvetľovací model alebo atribúcia verne napodobňuje skutočné správanie pôvodného modelu v hodnotenom okolí.
Na čo sa XAI fidelity používa?
Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi musí zodpovedať reálnemu cieľu, cene jednotlivých chýb a rozdielom medzi relevantnými skupinami.
Ako sa XAI fidelity overuje v praxi?
Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.
Aké riziká alebo obmedzenia treba pri XAI fidelity sledovať?
Rizikom je optimalizácia nesprávneho ukazovateľa, zakrytie rozdielov medzi skupinami a interpretácia bez kontextu. Metriku treba prepojiť s reálnym cieľom a cenou jednotlivých chýb.
Čím sa XAI fidelity líši od súvisiacich pojmov?
XAI fidelity sa od pojmov XAI stability, YOLO confidence score, Z-score odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- ISO/IEC 22989:2022
- NIST AI Risk Management Framework 1.0
- OECD AI Principles
- Primárna odborná literatúra podľa typu pojmu
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.