Human-centered AI | AI slovník

Odborná definícia

Human-centered AI je prístup k návrhu a správe AI, ktorý začína ľudskými potrebami, hodnotami, schopnosťami a dôsledkami používania, nie iba optimalizáciou technickej metriky. Zahŕňa participáciu dotknutých ľudí, analýzu pracovného kontextu, prístupnosť, zrozumiteľné ovládanie, možnosť nápravy, primeranú autonómiu a meranie dopadu na jednotlivcov aj organizáciu. Neznamená automaticky, že človek musí schvaľovať každý výstup. Rozdelenie úloh sa navrhuje podľa rizika a kompetencií. Deklarácia orientácie na človeka nemá hodnotu bez dôkazov z výskumu používateľov a prevádzkových výsledkov.

Zrozumiteľné vysvetlenie

Pri systéme na plánovanie smien nestačí dosiahnuť nízke náklady a presné pokrytie pracovísk. Návrh musí zistiť, či zamestnanci rozumejú zmenám, môžu uviesť zdravotné alebo rodinné obmedzenie, vedia napadnúť chybu a či algoritmus nevytvára nepredvídateľný režim. Človek tu nie je dekorácia pri hotovom modeli, ale zdroj požiadaviek a hodnotiteľ následkov. Niekedy je humánnejšia plná automatizácia rutinného kroku, inokedy je nutné rozhodnutie ponechať expertovi. Rozhoduje kvalita celého sociotechnického procesu, nie počet obrazoviek s tlačidlom schváliť.

Časté otázky

Ako sa human-centered AI líši od user-centered designu?

User-centered design sa sústreďuje na používateľov konkrétneho produktu a ich interakciu. Human-centered AI širšie zahŕňa aj osoby, ktoré systém ovplyvňuje bez priameho používania, pracovné roly, mocenské vzťahy a spoločenské dopady.

Musí byť človek vždy posledným rozhodovateľom?

Nie. Rutinná nízkoriziková úloha môže byť automatizovaná, ak existuje kontrola a náprava. Pri vysokom dopade sa vyžaduje zmysluplný dohľad, kompetencia zasiahnuť a čas na posúdenie, nie iba formálne potvrdenie.

Ako sa overuje, že systém je orientovaný na človeka?

Dokumentujú sa potreby a riziká dotknutých skupín, vykonáva sa používateľský výskum, testuje prístupnosť a merajú sa chyby, pracovná záťaž, dôvera, možnosť odvolania a distribúcia prínosov či škôd.

Čo znamená kalibrovaná dôvera používateľa?

Používateľ má systému veriť približne v rozsahu jeho skutočnej spoľahlivosti. Rozhranie nesmie podporovať slepú poslušnosť ani všeobecnú nedôveru, ale má ukázať hranice, neistotu a situácie vyžadujúce kontrolu.

Prečo je dôležité zapojiť aj ne-používateľov?

Rozhodnutie môže ovplyvniť uchádzača, pacienta alebo občana, ktorý rozhranie nikdy nevidí. Ich práva, možnosť vysvetlenia a nápravy sa stratia, ak výskum zahŕňa iba operátorov alebo kupujúcu organizáciu.

Súvisiace pojmy

Pojem v rozhodovaní

Odborné články, ktoré tento pojem používajú v praxi

Zdroje a redakčná stopa

NIST, Human-Centered AI (nist.gov)
ISO 9241-210, Human-centred design for interactive systems (iso.org)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.