Odborná definícia
Odborná definícia
AI audit je systematické, zdokumentované a primerane nezávislé preskúmanie AI systému, jeho riadenia alebo konkrétneho súladu s vopred určenými kritériami. Audit môže hodnotiť dokumentáciu, dáta, modelové testy, kontrolné procesy, dodávateľský reťazec, prístupové práva a reálne prevádzkové dôkazy. Výsledkom nie je všeobecné potvrdenie, že systém je bezpečný, ale záver v presne vymedzenom rozsahu, čase, verzii a podľa uvedeného štandardu či politiky.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Audit AI je podobný technickej a procesnej kontrole, ktorá sa nepýta iba, či model dosiahol dobré skóre. Skúma, či firma vie preukázať pôvod dát, schválenie použitia, testovanie citlivých skupín, reakciu na incident a kontrolu zmien. Auditor pracuje s dôkazmi, nie s marketingovým opisom. Ak je rozsahom iba ochrana osobných údajov, záver nehovorí nič automaticky o kybernetickej odolnosti alebo vecnej presnosti modelu. Dobrý audit zároveň ukáže konkrétnu medzeru, vlastníka nápravy a dôkaz, ktorým sa po oprave overí účinnosť opatrenia.
Časté otázky
Časté otázky
Čo určuje rozsah AI auditu?
Rozsah definuje systém, organizačné jednotky, časové obdobie, verziu modelu, fázy životného cyklu a hodnotiace kritériá. Môže ísť o internú politiku, právne požiadavky, zmluvné podmienky alebo normu. Presný rozsah chráni obe strany pred nesprávnym záverom, že audit jednej oblasti automaticky potvrdil všetky vlastnosti systému.
Aké dôkazy auditor typicky požaduje?
Patrí sem inventár AI, záznam schválenia, datasheets a model cards, výsledky testov, logy, záznamy incidentov, riadenie prístupov, zmluvy s dodávateľmi a dôkazy o školení. Auditor môže vzorkovať prípady a opakovať vybrané testy. Ústne tvrdenie bez konzistentného záznamu má nižšiu dôkaznú hodnotu než automaticky vytvorená a kontrolovaná stopa.
Aký je rozdiel medzi auditom a hodnotením modelu?
Hodnotenie modelu meria technické vlastnosti, napríklad accuracy, robustnosť alebo halucinácie. Audit skúma aj to, či boli požiadavky správne určené, testy riadne vykonané, výsledky schválené a kontroly udržiavané. Model môže mať dobré metriky, no audit odhalí chýbajúce zodpovednosti, neplatný právny základ alebo nezdokumentovanú aktualizáciu.
Musí byť AI audit externý?
Nie. Interný audit môže poskytnúť nezávislosť v rámci organizácie, ak audítor nie je vlastníkom ani vývojárom hodnoteného systému. Externý audit môže zvýšiť dôveryhodnosť alebo splniť zmluvnú požiadavku. Úroveň nezávislosti sa volí podľa rizika a účelu. Sebahodnotenie vlastníkom systému je užitočné, ale nemá sa vydávať za nezávislý audit.
Prečo audit platí iba pre konkrétny čas a verziu?
Model, dáta, prompt, integrácie aj pravidlá sa menia. Záver založený na verzii z januára nemusí pokrývať aktualizáciu z júla. Audit preto uvádza stav k určitému dátumu a mechanizmus následného dohľadu. Významná zmena môže vyžadovať nový audit alebo cielené rozšírenie, nie iba administratívne prenesenie starého záveru.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- NIST AI Risk Management Framework Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689
- OECD Glossary of Terms on AI
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.