Odborná definícia
Význam a odborné vymedzenie pojmu
Fairness v AI je kontextová vlastnosť systému, pri ktorej sa skúma, či jeho návrh, dáta, rozhodovacie pravidlá a používanie nevytvárajú neodôvodnené alebo škodlivé rozdiely medzi jednotlivcami či skupinami. Neexistuje jedna univerzálna matematická definícia spravodlivosti. Požiadavky môžu vychádzať z rovnosti zaobchádzania, rovnosti príležitostí, proporcionality, procesnej spravodlivosti alebo právnych noriem. Posúdenie preto spája štatistické meranie s analýzou dopadov a kontextu.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Rovnaká úspešnosť úverového modelu pre celú populáciu ešte neznamená férové rozhodovanie. Jedna skupina môže mať podstatne viac neoprávnených zamietnutí, hoci priemerné číslo vyzerá dobre. Iná situácia vznikne, keď sa rovnaký prah používa pri rozdielnej kvalite vstupných údajov. Fairness preto nie je kozmetická úprava metriky. Vyžaduje určiť, koho systém ovplyvňuje, aké chyby sú pre koho škodlivé a ktoré rozdiely majú vecné alebo právne opodstatnenie.
Časté otázky
Otázky, ktoré spresňujú význam
Je fairness to isté ako absencia biasu?
Nie. Bias môže označovať štatistické, kognitívne alebo systémové skreslenie. Fairness hodnotí, či výsledné rozdiely a postupy zodpovedajú zvoleným normám a kontextu.
Prečo sa definície spravodlivosti môžu dostať do konfliktu?
Demographic parity, equalized odds a kalibrácia ukladajú odlišné podmienky. Pri rozdielnych základných mierach ich často nemožno splniť naraz bez ďalších kompromisov.
Kto má určiť, čo je v projekte férové?
Rozhodnutie nemá zostať iba na dátovom tíme. Potrební sú doménoví odborníci, právnici, vlastníci procesu a zástupcovia ľudí, ktorých systém zasiahne.
Stačí odstrániť citlivý atribút z tréningových dát?
Nie. Iné premenné môžu fungovať ako jeho zástupné indikátory. Navyše bez citlivého atribútu môže byť ťažšie odhaliť rozdielny výkon medzi skupinami.
Ako sa fairness sleduje po nasadení?
Metriky sa vyhodnocujú oddelene pre relevantné skupiny a časové obdobia. Sledujú sa aj zmeny populácie, sťažnosti, zásahy človeka a reálne následky rozhodnutí.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.