Odborná definice
Význam a odborné vymezení pojmu
Quality assurance for AI je plánovaný soubor procesů, zodpovedností a důkazů, kterými organizace vytváří přiměřenou istotu, že AI systém splňuje určené požadavky během celého životního cyklu. Zahrnuje kvalitu dat, návrhové kontroly, verifikaci, validaci, bezpečnostní testy, dokumentaci, řízení změn, monitoring a reakci na incident. QA je procesne orientované a preventívne. Neobmedzuje se na finálnu metriku modelu ani na jednorazovou kontrolu před vydáním.
Srozumitelné vysvětlení
Jak se pojem používá v praxi
Při výrobe zdravotníckeho zařízení nestačí odmerat hotový kus. Kontroluje se původ materiálu, kalibrace nástrojů, schválení návrhu, záznam změn i reklamace. AI potřebuje podobnou reťaz důkazů. Dataset má vlastníka, model verzi, test má protokol a zjištění má způsob nápravy. Když se změní dodávatel modelu nebo vstupní schéma, QA určí, které testy se musí zopakovat a kdo rozhodne o uvolnení.
Časté otázky
Otázky, které upřesňují význam
Jak se QA liší od quality control?
QA navrhuje procesy, které mají chybám predchádzat a vytvářet důkazy. Quality control kontroluje konkrétní výstup nebo dávku.
Kdo vlastní kvalitu AI?
Odpovědnost je rozdělená mezi datových, modelových, produktových, bezpečnostných a doménových vlastníků, ale musí mít určeného koordinátora a schvalovatela.
Má každý systém stejný rozsah QA?
Ne. Hloubka kontrol se odvozuje od účelu, dopadu, regulačného režimu, zranitelnosti uživatelů a možnosti nápravy.
Jaké důkazy se uchovávají?
Požadavky, verze, testovací data, výsledky, výjimky, schválení, incidenty, monitoring a důvody změn.
Kdy se QA opakuje?
Při významnej změně modelu, dat, promptu, nástroje, používatelskej populace, právneho kontextu nebo pozorovaného rizika.
Související pojmy
Významové a tematické souvislosti
Zdroje a redakční stopa
Použitá východiska a odborná revize
- NIST AI Risk Management Framework
- ISO/IEC 42001, Artificial intelligence management system
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.