Spravedlnost AI | AI slovník

Odborná definice

Fairness v AI je kontextová vlastnost systému, při které se zkoumá, či jeho návrh, data, rozhodovací pravidla a používání nevytvárají neodůvodnené nebo škodlivé rozdíly mezi jednotlivcami či skupinami. Neexistuje jedna univerzální matematická definice spravodlivosti. Požadavky mohou vycházet z rovnosti zaobchádzání, rovnosti príležitostí, proporcionality, procesnej spravodlivosti nebo právnych noriem. Posouzení proto spojuje statistické měření s analýzou dopadů a kontextu.

Srozumitelné vysvětlení

Stejná úspěšnost úverového modelu pro celou populaci ještě neznamená férové rozhodování. Jedna skupina může mít podstatně více neoprávnených zamietnutí, ačkoli průměrné číslo vypadá dobře. Jiná situace vznikne, když se stejný práh používá při rozdílné kvalite vstupních údajů. Fairness proto není kozmetická úprava metriky. Vyžaduje určit, koho systém ovlivňuje, jaké chyby jsou pro koho škodlivé a které rozdíly mají vecné nebo právně opodstatnení.

Časté otázky

Je fairness to jisté jako absence biasu?

Ne. Bias může označovat statistické, kognitívne nebo systémové zkreslení. Fairness hodnotí, či výsledné rozdíly a postupy odpovídají zvoleným normám a kontextu.

Proč se definice spravodlivosti mohou dostat do konfliktu?

Demographic parity, equalized odds a kalibrace ukladají odlišné podmínky. Při rozdielnych základných mierach jejich často nelze splnit najednou bez dalších kompromisů.

Kdo má určit, co je v projekte férové?

Rozhodnutí nemá zůstat pouze na dátovom tíme. Potrební jsou doménoví odborníci, právnici, vlastníci procesu a zástupcovia lidí, kterých systém zasiahne.

Stačí odstranit citlivý atribút z tréninkových dat?

Ne. Jiné proměnné mohou fungovat jako jeho zástupné indikátory. Navíc bez citlivého atribútu může být ťažšie odhalit rozdielny výkon mezi skupinami.

Jak se fairness sleduje po nasazení?

Metriky se vyhodnocují odděleně pro relevantní skupiny a časové období. Sledují se i změny populace, stížnosti, zásahy člověka a reálně následky rozhodnutí.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.