Odborná definice
Význam a odborné vymezení pojmu
Fairness v AI je kontextová vlastnost systému, při které se zkoumá, či jeho návrh, data, rozhodovací pravidla a používání nevytvárají neodůvodnené nebo škodlivé rozdíly mezi jednotlivcami či skupinami. Neexistuje jedna univerzální matematická definice spravodlivosti. Požadavky mohou vycházet z rovnosti zaobchádzání, rovnosti príležitostí, proporcionality, procesnej spravodlivosti nebo právnych noriem. Posouzení proto spojuje statistické měření s analýzou dopadů a kontextu.
Srozumitelné vysvětlení
Jak se pojem používá v praxi
Stejná úspěšnost úverového modelu pro celou populaci ještě neznamená férové rozhodování. Jedna skupina může mít podstatně více neoprávnených zamietnutí, ačkoli průměrné číslo vypadá dobře. Jiná situace vznikne, když se stejný práh používá při rozdílné kvalite vstupních údajů. Fairness proto není kozmetická úprava metriky. Vyžaduje určit, koho systém ovlivňuje, jaké chyby jsou pro koho škodlivé a které rozdíly mají vecné nebo právně opodstatnení.
Časté otázky
Otázky, které upřesňují význam
Je fairness to jisté jako absence biasu?
Ne. Bias může označovat statistické, kognitívne nebo systémové zkreslení. Fairness hodnotí, či výsledné rozdíly a postupy odpovídají zvoleným normám a kontextu.
Proč se definice spravodlivosti mohou dostat do konfliktu?
Demographic parity, equalized odds a kalibrace ukladají odlišné podmínky. Při rozdielnych základných mierach jejich často nelze splnit najednou bez dalších kompromisů.
Kdo má určit, co je v projekte férové?
Rozhodnutí nemá zůstat pouze na dátovom tíme. Potrební jsou doménoví odborníci, právnici, vlastníci procesu a zástupcovia lidí, kterých systém zasiahne.
Stačí odstranit citlivý atribút z tréninkových dat?
Ne. Jiné proměnné mohou fungovat jako jeho zástupné indikátory. Navíc bez citlivého atribútu může být ťažšie odhalit rozdielny výkon mezi skupinami.
Jak se fairness sleduje po nasazení?
Metriky se vyhodnocují odděleně pro relevantní skupiny a časové období. Sledují se i změny populace, stížnosti, zásahy člověka a reálně následky rozhodnutí.
Související pojmy
Významové a tematické souvislosti
Zdroje a redakční stopa
Použitá východiska a odborná revize
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.