Odborná definícia
Odborná definícia
Causal AI je zastrešujúce označenie pre AI systémy, ktoré explicitne modelujú príčinné vzťahy a používajú ich pri predikcii, vysvetľovaní, plánovaní alebo výbere zásahu. Môžu kombinovať štrukturálne kauzálne modely, kauzálne grafy, experimentálne dáta a metódy strojového učenia. Nejde o jeden štandardizovaný algoritmus ani o záruku kauzality. Dôveryhodný systém musí uviesť kauzálnu otázku, predpoklady identifikácie, pôvod grafu, možné confoundery a spôsob validácie intervenčných alebo kontrafaktuálnych záverov.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Bežný prediktívny model môže zistiť, že zákazníci s častými kontaktmi podpory častejšie odchádzajú. Z toho ešte nevyplýva, že obmedzenie podpory zníži odchod, pretože kontakt môže byť následkom problémov. Kauzálna AI sa pýta, čo sa stane po konkrétnom zásahu, napríklad po rýchlejšom vyriešení reklamácie. Musí oddeliť koreláciu od mechanizmu a pomenovať predpoklady, bez ktorých odpoveď neplatí. Jej prínos vzniká pri rozhodovaní o akcii, nie iba pri presnejšom popise minulosti.
Časté otázky
Časté otázky
Je každý model s vysvetlením príkladom Causal AI?
Nie. Feature importance alebo lokálne vysvetlenie ukazuje, čo ovplyvnilo predikciu modelu, nie čo spôsobuje jav vo svete. Kauzálny záver vyžaduje model intervenčných vzťahov a explicitné predpoklady. Vysvetliteľnosť predikcie a kauzálne vysvetlenie sú odlišné úlohy.
Aké vstupy potrebuje kauzálny systém?
Okrem dát potrebuje definíciu zásahu a výsledku, časové poradie, doménové znalosti a predpoklady o skrytých premenných. Randomizovaný experiment poskytuje silný základ, no pri observačných dátach sa používajú grafy, adjustment sety, inštrumentálne premenné alebo prirodzené experimenty.
Môže Causal AI pracovať s neurónovými sieťami?
Áno. Neurónové siete môžu odhadovať flexibilné funkcie v kauzálnom modeli, reprezentácie alebo heterogénne efekty. Samotná hĺbka siete však nevytvorí identifikáciu. Kauzálna otázka a predpoklady musia zostať oddelené od predikčnej kapacity použitého estimátora.
Ako sa overí kauzálny graf?
Časť hrán možno testovať pomocou podmienených nezávislostí alebo intervenčných dát, no graf sa z pozorovaní často nedá určiť jednoznačne. Organizácia má dokumentovať zdroj každej hrany, sporné alternatívy, citlivostné analýzy a zmeny po novom experimente.
Kde má Causal AI praktický význam?
Pri optimalizácii kampaní, medicínskych intervenciách, údržbe, cenotvorbe alebo verejnej politike, teda tam, kde treba vybrať zásah. Vysoké riziko vzniká, ak sa marketingové označenie causal použije bez popisu identifikácie a systém iba extrapoluje korelácie z historických dát.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Pearl, Causal Inference in Statistics: An Overview Microsoft Research, DoWhy, causal inference framework
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.