audit AI | AI slovník | DNA marketing®

Odborná definice

AI audit je systematické, zdokumentované a přiměřeně nezávislé preskúmání AI systému, jeho řízení nebo konkrétního súladu s předem určenými kritériami. Audit může hodnotit dokumentaci, data, modelové testy, kontrolní procesy, dodávatelský řetězec, přístupová práva a reálně provozní důkazy. Výsledkem není obecné potvrzení, že systém je bezpečný, ale závěr v přesně vymedzenom rozsahu, čase, verzi a podle uvedeného štandardu či politiky.

Srozumitelné vysvětlení

Audit AI je podobný technickej a procesnej kontrole, která se nepýta pouze, či model dosiahol dobré skóre. Zkoumá, či firma ví preukázat původ dat, schválení použití, testování citlivých skupin, reakci na incident a kontrolu změn. Auditor pracuje s důkazmi, ne s marketingovým popisem. Pokud je rozsahem pouze ochrana osobních údajů, závěr neříká nic automaticky o kybernetickej odolnosti nebo vecnej přesnosti modelu. Dobrý audit zároveň ukáže konkrétní medzeru, vlastníka nápravy a důkaz, kterým se po oprave ověří účinnost opatření.

Časté otázky

Co určuje rozsah AI auditu?

Rozsah definuje systém, organizačné jednotky, časové období, verzi modelu, fáze životního cyklu a hodnotiace kritéria. Může jít o internou politiku, právně požadavky, zmluvné podmínky nebo normu. Přesný rozsah chrání obě strany před nesprávnym záverom, že audit jedné oblasti automaticky potvrdil všechny vlastnosti systému.

Jaké důkazy auditor typicky požaduje?

Patří sem inventár AI, záznam schválení, datasheets a model cards, výsledky testů, logy, záznamy incidentů, řízení prístupů, smlouvy s dodávatelmi a důkazy o školení. Auditor může vzorkovat případy a opakovat vybrané testy. Ústne tvrzení bez konzistentného záznamu má nižší důkaznou hodnotu než automaticky vytvořená a kontrolovaná stopa.

Jaký je rozdíl mezi auditom a hodnotením modelu?

Hodnocení modelu měří technické vlastnosti, například accuracy, robustnost nebo halucinace. Audit zkoumá i to, či byly požadavky správně určené, testy riadne vykonané, výsledky schválené a kontroly udržiavané. Model může mít dobré metriky, ale audit odhalí chybějící zodpovednosti, neplatný právní základ nebo nezdokumentovanou aktualizaci.

Musí být AI audit externí?

Ne. Interný audit může poskytnout nezávislost v rámci organizace, pokud audítor není vlastníkom ani vývojárom hodnoteného systému. Externí audit může zvýšit důvěryhodnost nebo splnit zmluvnou požadavek. Úroveň nezávislosti se volí podle rizika a účelu. Sebahodnotení vlastníkom systému je užitečné, ale nemá se vydávat za nezávislý audit.

Proč audit platí pouze pro konkrétní čas a verzi?

Model, data, prompt, integrace i pravidla se mění. Závěr založený na verzi z januára nemusí pokrývat aktualizaci z júla. Audit proto uvádí stav k určitému dátumu a mechanismus následného dohladu. Významná změna může vyžadovat nový audit nebo cielené rozšíření, ne pouze administratívne prenesení starého závěru.

Související pojmy

Zdroje a redakční stopa

NIST AI Risk Management Framework Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689
OECD Glossary of Terms on AI

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.