AI orientovaná na člověka | AI slovník

Odborná definice

Human-centered AI je přístup k návrhu a správe AI, který začíná ludskými potrebami, hodnotami, schopnostmi a důsledkami používání, ne pouze optimalizací technickej metriky. Zahrnuje participaci dotknutých lidí, analýzu pracovného kontextu, prístupnost, zrozumitelné ovládání, možnost nápravy, přiměřenou autonómiu a měření dopadu na jednotlivců i organizaci. Neznamená automaticky, že člověk musí schvalovat každý výstup. Rozdělení úloh se navrhuje podle rizika a kompetencií. Deklarace orientace na člověka nemá hodnotu bez důkazů z výskumu uživatelů a provozních výsledků.

Srozumitelné vysvětlení

Při systéme na plánování smien nestačí dosáhnout nízké náklady a přesné pokrytí pracovísk. Návrh musí zjistit, či zamestnanci rozumejou změnám, mohou uvést zdravotní nebo rodinné omezení, vedia napadnúť chybu a či algoritmus nevytváří nepredvídatelný režim. Člověk tu není dekorace při hotovom modeli, ale zdroj požadavků a hodnotitel následků. Někdy je humánnejšia plná automatizace rutinného kroku, inokedy je nutné rozhodnutí ponechat expertovi. Rozhoduje kvalita celého sociotechnického procesu, ne počet obrazoviek s tlačidlom schválit.

Časté otázky

Jak se human-centered AI liší od user-centered designu?

User-centered design se soustřeďuje na uživatelů konkrétního produktu a jejich interakci. Human-centered AI šířeji zahrnuje i osoby, které systém ovlivňuje bez přímého používání, pracovní roly, mocenské vztahy a spoločenské dopady.

Musí být člověk vždy posledným rozhodovatelom?

Ne. Rutinná nízkoriziková úloha může být automatizovaná, pokud existuje kontrola a náprava. Při vysokém dopade se vyžaduje zmysluplný dohled, kompetence zasáhnout a čas na posouzení, ne pouze formálně potvrzení.

Jak se ověřuje, že systém je orientovaný na člověka?

Dokumentují se potřeby a rizika dotknutých skupin, provádí se uživatelský výzkum, testuje prístupnost a merají se chyby, pracovná záťaž, důvěra, možnost odvolání a distribuce prínosů či škůd.

Co znamená kalibrovaná důvěra uživatele?

Uživatel má systému veriť přibližně v rozsahu jeho skutečné spolahlivosti. Rozhraní nesmí podporovat slepou poslušnost ani obecnou nedůveru, ale má ukázat hranice, nejistotu a situace vyžadujúce kontrolu.

Proč je důležité zapojit i ne-uživatelů?

Rozhodnutí může ovlivnit uchádzača, pacienta nebo občana, který rozhraní nikdy nevidí. Jejich práva, možnost vysvětlení a nápravy se stratia, pokud výzkum zahrnuje pouze operátorů nebo kupujúcu organizaci.

Související pojmy

Zdroje a redakční stopa

NIST, Human-Centered AI (nist.gov)
ISO 9241-210, Human-centred design for interactive systems (iso.org)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.