Odborná definícia
Význam a odborné vymedzenie pojmu
XAI interaction attribution rozdeľuje časť predikcie medzi spoločné účinky dvojíc alebo väčších skupín vstupných vlastností, ktoré nemožno vysvetliť iba súčtom ich samostatných príspevkov. Príkladom sú SHAP interaction values, kde sa celková atribúcia rozkladá na hlavné efekty a párové interakcie. Výsledok závisí od referenčného rozdelenia a od predpokladov pri chýbajúcich vlastnostiach. Interakčná hodnota opisuje správanie modelu, nie automaticky fyzickú alebo kauzálnu väzbu medzi premennými.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Cena domu môže rásť s plochou aj s lokalitou, ale veľký dom v centre môže dostať dodatočný efekt, ktorý nevznikne pri samostatnom hodnotení oboch znakov. Interakčná atribúcia sa snaží oddeliť tento spoločný príspevok. Používateľ tak vidí, že model nereaguje iba na „veľkosť plus lokalita“, ale na ich konkrétnu kombináciu. Pri mnohých vlastnostiach však počet dvojíc prudko rastie a vizualizácia môže byť zložitejšia než pôvodná predikcia.
Časté otázky
Otázky, ktoré spresňujú význam
Ako sa interakcia líši od hlavného efektu?
Hlavný efekt patrí jednej vlastnosti samostatne. Interakcia zachytáva dodatočný príspevok ich spoločnej kombinácie.
Môže byť interakčná hodnota záporná?
Áno. Kombinácia môže výsledok znižovať alebo môže oslabovať kladný účinok jednej vlastnosti.
Prečo sú korelované vstupy problém?
Rozdelenie spoločného príspevku závisí od toho, ako vysvetľovač modeluje neprítomnosť a podmienenosť vlastností.
Ako sa obmedzuje výpočtová náročnosť?
Analyzujú sa iba dôležité vlastnosti, používajú sa aproximácie alebo modelovo špecifické algoritmy.
Ako sa interakcie zobrazujú?
Maticou párov, dependence grafom, sieťou alebo výberom niekoľkých najsilnejších kombinácií s uvedením smeru a rozsahu.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Lundberg et al., Consistent Individualized Feature Attribution for Tree Ensembles, 2018
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.