Atribuce interakcí ve vysvětlení AI | AI slovník

Odborná definice

XAI interaction attribution rozděluje část predikce mezi společné účinky dvojic nebo večších skupin vstupních vlastností, které nelze vysvetlit pouze součtem jejich samostatných príspevků. Příkladem jsou SHAP interaction values, kde se celková atribuce rozkladá na hlavní efekty a párové interakce. Výsledek závisí na referenčního rozdělení a od predpokladů při chybějících vlastnostiach. Interakčná hodnota popisuje chování modelu, ne automaticky fyzickou nebo kauzálnu vezbu mezi premennými.

Srozumitelné vysvětlení

Cena domu může rásť s plochou i s lokalitou, ale velký dom v centre může dostat dodatečný efekt, který nevznikne při samostatnom hodnocení obou znaků. Interakčná atribuce se snaží oddělit tento společný příspěvek. Uživatel tak vidí, že model nereaguje pouze na „velikost plus lokalita“, ale na jejich konkrétní kombinaci. Při mnoha vlastnostiach však počet dvojic prudko roste a vizualizace může být zložitejšia než původná predikce.

Časté otázky

Jak se interakce liší od hlavného efektu?

Hlavný efekt patří jedné vlastnosti samostatně. Interakce zachycuje dodatečný příspěvek jejich společné kombinace.

Může být interakčná hodnota záporná?

Ano. Kombinace může výsledek znižovat nebo může oslabovat kladný účinek jedné vlastnosti.

Proč jsou korelované vstupy problém?

Rozdělení společného příspěvku závisí na toho, jako vysvetlovač modeluje neprítomnost a podmienenost vlastností.

Jak se omezuje výpočetní náročnost?

Analyzují se pouze důležité vlastnosti, používají se aproximace nebo modelovo specifické algoritmy.

Jak se interakce zobrazují?

Maticou párů, dependence grafem, sítí nebo výběrem několika najsilnejších kombinací s uvedením smeru a rozsahu.

Související pojmy

Zdroje a redakční stopa

Lundberg et al., Consistent Individualized Feature Attribution for Tree Ensembles, 2018

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.