Odborná definícia
Význam a odborné vymedzenie pojmu
Bias v AI označuje systematickú odchýlku, ktorá môže vzniknúť v dátach, meraní, anotáciách, výbere cieľa, modeli, hodnotení alebo spôsobe nasadenia. Pojem má viac významov a netreba ho zamieňať s bias parametrom neurónu ani so štatistickým biasom odhadu. V spoločenskom kontexte môže skreslenie viesť k rozdielnym chybám alebo dopadom medzi skupinami. Posúdenie vyžaduje určiť, voči čomu je výsledok odchýlený, kto nesie následky a či rozdiel vzniká z legitímnej vlastnosti úlohy alebo z nevhodného procesu.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Ak historické dáta obsahujú menej schválených úverov pre určitú skupinu, model sa môže naučiť tento vzorec ako prediktívny. To ešte nehovorí, či je vzorec oprávnený, môže odrážať staré pravidlá, nerovný prístup alebo chybu merania. Bias nie je jedna technická závada, ktorú odstráni jediná metrika. Treba preskúmať pôvod dát, definíciu cieľa, proxy premenné, chybovosť medzi skupinami a reálny rozhodovací proces. Niekedy sa metriky férovosti navzájom nedajú súčasne splniť, preto je potrebné zdôvodnené rozhodnutie a dohľad.
Časté otázky
Otázky, ktoré spresňujú význam
Aké druhy biasu sa v AI sledujú?
Napríklad selection bias, measurement bias, historical bias, representation bias, annotation bias a deployment bias. Kategórie sa prekrývajú. Dôležitejšie než názov je identifikovať mechanizmus, ktorý vytvára systematickú odchýlku a dopad.
Môže odstránenie citlivej vlastnosti vyriešiť bias?
Zvyčajne nie. Iné premenné môžu citlivú vlastnosť nepriamo zastupovať a rozdiely môžu byť zakódované už v cieľových labeloch. Citlivá vlastnosť je navyše často potrebná na audit výsledkov medzi skupinami.
Je každý rozdiel medzi skupinami dôkaz diskriminácie?
Nie. Rozdiel je signál na analýzu, nie automatický právny záver. Treba posúdiť definíciu skupín, kvalitu dát, účel rozhodnutia, kauzálny mechanizmus, primeranosť a príslušný právny rámec.
Ako sa bias meria?
Používajú sa rozdiely v error rates, selection rates, kalibrácii, true positive rate alebo výsledných dopadoch. Metrika musí zodpovedať prípadu použitia. Agregovaný priemer môže zakryť problém v malej alebo prekrývajúcej sa skupine.
Dá sa bias odstrániť iba technickou úpravou modelu?
Nie vždy. Príčina môže byť v procese zberu dát, nedostupnej službe, nevhodnom cieli alebo ľudskom rozhodovaní po predikcii. Účinné opatrenie môže vyžadovať zmenu dát, politiky, workflow, monitoringu aj možnosti odvolania.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NIST, The Language of Trustworthy AI, glossary
- Google Machine Learning Glossary, Responsible AI
- NIST AI Risk Management Framework
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.