Odborná definícia
Význam a odborné vymedzenie pojmu
Quality assurance for AI je plánovaný súbor procesov, zodpovedností a dôkazov, ktorými organizácia vytvára primeranú istotu, že AI systém spĺňa určené požiadavky počas celého životného cyklu. Zahŕňa kvalitu dát, návrhové kontroly, verifikáciu, validáciu, bezpečnostné testy, dokumentáciu, riadenie zmien, monitoring a reakciu na incident. QA je procesne orientované a preventívne. Neobmedzuje sa na finálnu metriku modelu ani na jednorazovú kontrolu pred vydaním.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Pri výrobe zdravotníckeho zariadenia nestačí odmerať hotový kus. Kontroluje sa pôvod materiálu, kalibrácia nástrojov, schválenie návrhu, záznam zmien aj reklamácie. AI potrebuje podobnú reťaz dôkazov. Dataset má vlastníka, model verziu, test má protokol a zistenie má spôsob nápravy. Keď sa zmení dodávateľ modelu alebo vstupná schéma, QA určí, ktoré testy sa musia zopakovať a kto rozhodne o uvoľnení.
Časté otázky
Otázky, ktoré spresňujú význam
Ako sa QA líši od quality control?
QA navrhuje procesy, ktoré majú chybám predchádzať a vytvárať dôkazy. Quality control kontroluje konkrétny výstup alebo dávku.
Kto vlastní kvalitu AI?
Zodpovednosť je rozdelená medzi dátových, modelových, produktových, bezpečnostných a doménových vlastníkov, no musí mať určeného koordinátora a schvaľovateľa.
Má každý systém rovnaký rozsah QA?
Nie. Hĺbka kontrol sa odvodzuje od účelu, dopadu, regulačného režimu, zraniteľnosti používateľov a možnosti nápravy.
Aké dôkazy sa uchovávajú?
Požiadavky, verzie, testovacie dáta, výsledky, výnimky, schválenia, incidenty, monitoring a dôvody zmien.
Kedy sa QA opakuje?
Pri významnej zmene modelu, dát, promptu, nástroja, používateľskej populácie, právneho kontextu alebo pozorovaného rizika.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NIST AI Risk Management Framework
- ISO/IEC 42001, Artificial intelligence management system
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.