Odborná definícia
Význam a odborné vymedzenie pojmu
Human-in-the-loop je usporiadanie, v ktorom človek poskytuje vstup do cyklu učenia, rozhodovania alebo vykonania AI systému. Môže označovať anotovanie neistých príkladov, potvrdenie kritickej predikcie, opravu výstupu, výber akcie alebo spätnú väzbu použitú na ďalší tréning. Samotná prítomnosť človeka nezaručuje kontrolu. Zásah musí prísť v správnom čase, používateľ potrebuje informácie, kompetenciu, oprávnenie a reálnu možnosť výsledok zmeniť. Pri vysokej frekvencii, automation bias alebo slabej zodpovednosti sa človek môže stať iba formálnym schvaľovateľom.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Systém označí podozrivú bankovú transakciu a analytik rozhodne, či ju zablokuje. To je human-in-the-loop iba vtedy, keď analytik vidí relevantné údaje, má čas preveriť prípad a môže modelu odporovať. Ak musí za minútu odkliknúť stovky upozornení, jeho podpis nevytvára skutočný dohľad. V tréningu môže slučka fungovať inak, model vyberie najneistejšie dokumenty, človek ich označí a nové labely sa vrátia do ďalšej verzie. V oboch prípadoch treba merať kvalitu ľudského zásahu, nie iba evidovať, že obrazovku navštívil používateľ.
Časté otázky
Otázky, ktoré spresňujú význam
Je human-in-the-loop to isté ako human oversight?
Nie úplne. HITL opisuje konkrétne vloženie človeka do pracovného alebo učiaceho cyklu. Human oversight je širší rámec schopnosti monitorovať, pochopiť, zastaviť alebo korigovať systém aj mimo každej jednotlivej transakcie.
Kedy má človek kontrolovať iba vybrané prípady?
Pri veľkom objeme sa eskalujú prípady s vysokým rizikom, nízkou istotou, novým vzorom alebo konfliktom pravidiel. Výber musí byť kalibrovaný, aby model neposielal človeku iba ľahké prípady a sám neriešil nebezpečné výnimky.
Čo je automation bias?
Je tendencia akceptovať odporúčanie automatizovaného systému aj pri dostupných protidôkazoch. Znižuje sa tréningom, zobrazením neistoty, nezávislým prvým úsudkom a dizajnom, ktorý neprezentuje modelový návrh ako predvolenú pravdu.
Ako sa meria kvalita ľudskej slučky?
Sleduje sa presnosť po zásahu, čas, miera prepisu modelu, konzistencia expertov, počet prehliadnutých incidentov a kvalita spätnej väzby. Dôležité je porovnať celý tím človek plus AI s človekom a AI samostatne.
Môže HITL vytvoriť nové riziko?
Áno. Citlivé dáta sa môžu sprístupniť anotátorom, nejasné zodpovednosti vedú k slepému schvaľovaniu a spätná väzba môže preniesť osobný bias do modelu. Proces potrebuje prístupové pravidlá, audit a mechanizmus odvolania.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NIST AI 100-4, Synthetic Content Transparency (doi.org)
- NIST AI RMF 1.0 (nvlpubs.nist.gov)
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.