Bias | AI slovník | DNA marketing®

Odborná definice

Bias v AI označuje systematickou odchylku, která může vzniknout v datech, měření, anotacích, výběru cíle, modeli, hodnocení nebo spůsobe nasazení. Pojem má více významů a netreba ho zamieňat s bias parametrem neuronu ani se štatistickým biasom odhadu. V spoločenskom kontextu může zkreslení vést k rozdílným chybám nebo dopadom mezi skupinami. Posouzení vyžaduje určit, vůči čomu je výsledek odchýlený, kdo nese následky a či rozdíl vzniká z legitímnej vlastnosti úlohy nebo z nevhodného procesu.

Srozumitelné vysvětlení

Pokud historické data obsahují méně schválených úverů pro určitou skupinu, model se může naučit tento vzorec jako prediktívny. To ještě neříká, zda je vzorec oprávněný, může odrážat staré pravidla, nerovný přístup nebo chybu měření. Bias není jedna technická závada, kterou odstraní jediná metrika. Je třeba preskúmat původ dat, definici cíle, proxy proměnné, chybovost mezi skupinami a reálný rozhodovací proces. Někdy se metriky férovosti navzájem nedají současně splnit, proto je potřeba zdůvodnené rozhodnutí a dohled.

Časté otázky

Jaké druhy biasu se v AI sledují?

Například selection bias, measurement bias, historical bias, representation bias, annotation bias a deployment bias. Kategorie se prekrývají. Důležitější než název je identifikovat mechanismus, který vytváří systematickou odchylku a dopad.

Může odstranění citlivej vlastnosti vyriešit bias?

Obvykle ne. Jiné proměnné mohou citlivou vlastnost nepřímo zastupovat a rozdíly mohou být zakódované už v cílových labeloch. Citlivá vlastnost je navíc často potřebná na audit výsledků mezi skupinami.

Je každý rozdíl mezi skupinami důkaz diskriminace?

Ne. Rozdíl je signál na analýzu, ne automatický právní závěr. Je třeba posoudit definici skupin, kvalitu dat, účel rozhodnutí, kauzální mechanismus, primeranost a príslušný právní rámec.

Jak se bias měří?

Používají se rozdíly v error rates, selection rates, kalibraci, true positive rate nebo výsledných dopadoch. Metrika musí odpovídat případu použití. Agregovaný průměr může zakrýt problém v malé nebo prekrývajúcej se skupině.

Lze bias odstranit pouze technickou úpravou modelu?

Ne vždy. Príčina může být v procese sběru dat, nedostupnej službe, nevhodném cílí nebo ludskom rozhodování po predikci. Účinné opatření může vyžadovat změnu dat, politiky, workflow, monitoringu i možnosti odvolání.

Související pojmy

Zdroje a redakční stopa

NIST, The Language of Trustworthy AI, glossary
Google Machine Learning Glossary, Responsible AI
NIST AI Risk Management Framework

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.