Člověk zapojený do rozhodovací smyčky | AI slovník

Odborná definice

Human-in-the-loop je usporiadání, ve kterém člověk poskytuje vstup do cyklu učení, rozhodování nebo provedení AI systému. Může označovat anotování neistých příkladů, potvrzení kritické predikce, opravu výstupu, výběr akce nebo zpětnou vezbu použitou na další trénink. Samotná přítomnost člověka nezaručuje kontrolu. Zásah musí prísť v správném čase, uživatel potřebuje informace, kompetenci, oprávnění a reálnou možnost výsledek změnit. Při vysoké frekvencii, automation bias nebo slabé zodpovednosti se člověk může stát pouze formálnym schvalovatelom.

Srozumitelné vysvětlení

Systém označí podozrivou bankovou transakci a analytik rozhodne, či ji zablokuje. To je human-in-the-loop pouze tehdy, když analytik vidí relevantní údaje, má čas preverit případ a může modelu odporovat. Pokud musí za minútu odkliknúť stovky upozornení, jeho podpis nevytváří skutečný dohled. V tréninku může slučka fungovat jinak, model vybere najneistejšie dokumenty, člověk jejich označí a nové labely se vrátia do další verze. V obou případech je třeba měřit kvalitu lidského zásahu, ne pouze evidovat, že obrazovku navštívil uživatel.

Časté otázky

Je human-in-the-loop to jisté jako human oversight?

Ne zcela. HITL popisuje konkrétně vložení člověka do pracovného nebo učiaceho cyklu. Human oversight je širší rámec schopnosti monitorovat, pochopit, zastavit nebo korigovat systém i mimo každé jednotlivej transakce.

Kdy má člověk kontrolovat pouze vybrané případy?

Při velkém objeme se eskalují případy s vysokým rizikem, nízkou istotou, novým vzorom nebo konfliktom pravidel. Výběr musí být kalibrovaný, aby model neposielal člověku pouze lahké případy a sám neriešil nebezpečné výjimky.

Co je automation bias?

Je tendence akceptovat doporučení automatizovaného systému i při dostupných protidůkazoch. Snižuje se tréninkem, zobrazením nejistoty, nezávislým prvým úsudkom a dizajnom, který neprezentuje modelový návrh jako predvolenou pravdu.

Jak se měří kvalita lidské smyčky?

Sleduje se přesnost po zásahu, čas, míra přepisu modelu, konzistence expertů, počet přehlédnutých incidentů a kvalita zpětné vazby. Důležité je porovnat celý tím člověk plus AI s člověkem a AI samostatně.

Může HITL vytvořit nové riziko?

Ano. Citlivé data se mohou sprístupnit anotátorom, nejasné zodpovednosti vedou k slepému schvalování a zpětná vazba může přenést osobný bias do modelu. Proces potřebuje přístupové pravidla, audit a mechanismus odvolání.

Související pojmy

Zdroje a redakční stopa

NIST AI 100-4, Synthetic Content Transparency (doi.org)
NIST AI RMF 1.0 (nvlpubs.nist.gov)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.