Kauzální umělá inteligence | AI slovník

Odborná definice

Causal AI je zastrešujúce označení pro AI systémy, které explicitně modelují príčinné vztahy a používají jejich při predikci, vysvetlování, plánování nebo výběru zásahu. Mohou kombinovat štrukturálne kauzální modely, kauzální grafy, experimentálne data a metody strojového učení. Nejde o jeden štandardizovaný algoritmus ani o záruku kauzality. Důvěryhodný systém musí uvést kauzálnu otázku, předpoklady identifikace, původ grafu, možné confoundery a způsob validace intervenčných nebo kontrafaktuálnych záverů.

Srozumitelné vysvětlení

Běžný prediktívny model může zjistit, že zákazníci s častými kontaktmi podpory častěji odchádzají. Z toho ještě nevyplýva, že omezení podpory sníží odchod, protože kontakt může být následkom problémů. Kauzální AI se ptá, co se stane po konkrétním zásahu, například po rýchlejšom vyřešení reklamace. Musí oddělit korelaci od mechanizmu a pomenovat předpoklady, bez kterých odpověď neplatí. Její přínos vzniká při rozhodování o akcii, ne pouze při presnejšom popise minulosti.

Časté otázky

Je každý model s vysvětlením příkladem Causal AI?

Ne. Feature importance nebo lokálně vysvětlení ukazuje, co ovplyvnilo predikci modelu, ne co způsobuje jev ve svete. Kauzální závěr vyžaduje model intervenčných vztahů a explicitní předpoklady. Vysvětlitelnost predikce a kauzální vysvětlení jsou odlišné úlohy.

Jaké vstupy potřebuje kauzální systém?

Kromě dat potřebuje definici zásahu a výsledku, časové pořadí, doménové znalosti a předpoklady o skrytých proměnných. Randomizovaný experiment poskytuje silný základ, ale při observačných datech se používají grafy, adjustment sety, inštrumentálne proměnné nebo prirodzené experimenty.

Může Causal AI pracovat s neurónovými sieťami?

Ano. Neuronové sítě mohou odhadovat flexibilné funkce v kauzálnom modeli, reprezentace nebo heterogénne efekty. Samotná hloubka sítě však nevytvorí identifikaci. Kauzální otázka a předpoklady musí zůstat oddělené od predikčnej kapacity použitého estimátora.

Jak se ověří kauzální graf?

Část hrán lze testovat pomocí podmienených nezávislostí nebo intervenčných dat, ale graf se z pozorování často nedá určit jednoznačne. Organizace má dokumentovat zdroj každé hrany, sporné alternativy, citlivostné analýzy a změny po novém experimente.

Kde má Causal AI praktický význam?

Při optimalizaci kampaní, medicínskych intervenciách, údržbe, cenotvorbe nebo verejnej politice, tedy tam, kde je třeba vybrat zásah. Vysoké riziko vzniká, pokud se marketingové označení causal použije bez popisu identifikace a systém pouze extrapoluje korelace z historických dat.

Související pojmy

Zdroje a redakční stopa

Pearl, Causal Inference in Statistics: An Overview Microsoft Research, DoWhy, causal inference framework

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.