Odborná definícia
Odborná definícia
XAI interaction attribution rozdeľuje časť predikcie medzi spoločné účinky dvojíc alebo väčších skupín vstupných vlastností, ktoré nemožno vysvetliť iba súčtom ich samostatných príspevkov. Príkladom sú SHAP interaction values, kde sa celková atribúcia rozkladá na hlavné efekty a párové interakcie. Výsledok závisí od referenčného rozdelenia a od predpokladov pri chýbajúcich vlastnostiach. Interakčná hodnota opisuje správanie modelu, nie automaticky fyzickú alebo kauzálnu väzbu medzi premennými.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Cena domu môže rásť s plochou aj s lokalitou, ale veľký dom v centre môže dostať dodatočný efekt, ktorý nevznikne pri samostatnom hodnotení oboch znakov. Interakčná atribúcia sa snaží oddeliť tento spoločný príspevok. Používateľ tak vidí, že model nereaguje iba na „veľkosť plus lokalita“, ale na ich konkrétnu kombináciu. Pri mnohých vlastnostiach však počet dvojíc prudko rastie a vizualizácia môže byť zložitejšia než pôvodná predikcia.
Časté otázky
Časté otázky
Ako sa interakcia líši od hlavného efektu?
Hlavný efekt patrí jednej vlastnosti samostatne. Interakcia zachytáva dodatočný príspevok ich spoločnej kombinácie.
Môže byť interakčná hodnota záporná?
Áno. Kombinácia môže výsledok znižovať alebo môže oslabovať kladný účinok jednej vlastnosti.
Prečo sú korelované vstupy problém?
Rozdelenie spoločného príspevku závisí od toho, ako vysvetľovač modeluje neprítomnosť a podmienenosť vlastností.
Ako sa obmedzuje výpočtová náročnosť?
Analyzujú sa iba dôležité vlastnosti, používajú sa aproximácie alebo modelovo špecifické algoritmy.
Ako sa interakcie zobrazujú?
Maticou párov, dependence grafom, sieťou alebo výberom niekoľkých najsilnejších kombinácií s uvedením smeru a rozsahu.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Lundberg et al., Consistent Individualized Feature Attribution for Tree Ensembles, 2018
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.