Zabezpečování kvality AI | AI slovník

Odborná definice

Quality assurance for AI je plánovaný soubor procesů, zodpovedností a důkazů, kterými organizace vytváří přiměřenou istotu, že AI systém splňuje určené požadavky během celého životního cyklu. Zahrnuje kvalitu dat, návrhové kontroly, verifikaci, validaci, bezpečnostní testy, dokumentaci, řízení změn, monitoring a reakci na incident. QA je procesne orientované a preventívne. Neobmedzuje se na finálnu metriku modelu ani na jednorazovou kontrolu před vydáním.

Srozumitelné vysvětlení

Při výrobe zdravotníckeho zařízení nestačí odmerat hotový kus. Kontroluje se původ materiálu, kalibrace nástrojů, schválení návrhu, záznam změn i reklamace. AI potřebuje podobnou reťaz důkazů. Dataset má vlastníka, model verzi, test má protokol a zjištění má způsob nápravy. Když se změní dodávatel modelu nebo vstupní schéma, QA určí, které testy se musí zopakovat a kdo rozhodne o uvolnení.

Časté otázky

Jak se QA liší od quality control?

QA navrhuje procesy, které mají chybám predchádzat a vytvářet důkazy. Quality control kontroluje konkrétní výstup nebo dávku.

Kdo vlastní kvalitu AI?

Odpovědnost je rozdělená mezi datových, modelových, produktových, bezpečnostných a doménových vlastníků, ale musí mít určeného koordinátora a schvalovatela.

Má každý systém stejný rozsah QA?

Ne. Hloubka kontrol se odvozuje od účelu, dopadu, regulačného režimu, zranitelnosti uživatelů a možnosti nápravy.

Jaké důkazy se uchovávají?

Požadavky, verze, testovací data, výsledky, výjimky, schválení, incidenty, monitoring a důvody změn.

Kdy se QA opakuje?

Při významnej změně modelu, dat, promptu, nástroje, používatelskej populace, právneho kontextu nebo pozorovaného rizika.

Související pojmy

Zdroje a redakční stopa

NIST AI Risk Management Framework
ISO/IEC 42001, Artificial intelligence management system

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.