řízení AI | AI slovník | DNA marketing®

Odborná definice

AI governance je soubor rozhodovacích právomocí, politík, rolí, procesů a kontrol, kterými organizace usmerňuje výběr, vývoj, nákup, používání, monitoring a ukončení AI systémů. Propojuje strategii, řízení rizik, právní soulad, bezpečnost, kvalitu dat a odpovědnost za výsledky. Účinná governance určuje, kdo může schválit případ použití, jaké důkazy jsou potřebné, kdo přijímá zvyškové riziko a jak se řeší incidenty či změny modelu. Governance má být primeraná riziku, ale musí zůstat preukázatelná, vykonatelná a previazaná s bežným riadením organizace.

Srozumitelné vysvětlení

AI governance odpovídá na praktické otázky: Kdo vede seznam používaných modelů? Kdo smie pripojit asistenta k osobným údajom? Kdo zastaví systém po incidente? Bez těchto pravidel může mít firma množství nástrojů, ale nikto neví, kdo za ne odpovídá. Dobrá governance nevytváří pouze komisi. Zavádí konkrétně brány před nasazením, povinnou dokumentaci, vlastníků rizika, pravidelnou kontrolu a jasný způsob eskalace problémů. Pokud pravidla nejsou součástí nákupu, vývoja a provozu, zůstanou pouze dokumentem, který se při skutečném rozhodnutí obchádza.

Časté otázky

Jaké dokumenty tvoří základ AI governance?

Základom bývá politika používání AI, inventár systémů, klasifikace rizika, schvalovací proces, pravidla pro data a dodávatelů, štandard hodnocení, plán monitoringu a postup reakce na incident. Dokumenty mají být prepojené s reálnymi vlastníkmi a systémy evidence. Samotná smernica bez vykonatelných kontrol a důkazů o dodržiavaní nevytváří účinnou governance.

Kdo má sedieť v AI governance štruktúre?

Zastoupení závisí na organizace, typicky však zahrnuje vedení, vlastníka případu použití, IT, bezpečnost, právníků, ochranu údajů, risk, datových a AI odborníků a doménu. Při významných dopadoch je třeba zohladnit i uživatelů a dotknuté skupiny. Rozhodovací právomoci mají být uvedené v RACI nebo jiném jednoznačnom modeli zodpovednosti.

Je AI governance to jisté jako soulad s AI Act?

Ne. Soulad s právnymi povinnostmi je jedna část governance. Organizace může riadit i systémy, na které se konkrétní povinnost AI Act nevzťahuje, protože stále nesou reputačné, bezpečnostní, etické nebo provozní riziko. Governance propojuje více režimů, například ochranu údajů, kybernetickou bezpečnost, sektorové pravidla a internou toleranci rizika.

Proč je potřebný inventár AI systémů?

Bez inventára nelze spolehlivě určit, kde se spracúvají údaje, které modely ovlivňují rozhodnutí a kdy se zmenila verze. Evidence má zahrnovat vlastníka, účel, dodávatela, použité data, integrace, rizikovou třídu, stav hodnocení a datum revíze. Zahrnuje i neformálne nástroje používané tímami, ne pouze centrální nakúpené platformy.

Jak se governance přizpůsobuje menšej firme?

Menší firma nepotřebuje velkou radu, ale potřebuje jasného vlastníka a jednoduché brány. Může používat krátký register, tri úrovně rizika, povinný checklist pro citlivé použití a externí konzultaci při právně či bezpečnostne náročných případech. Rozsah procesů se má přizpůsobit riziku, ne zcela odstranit z důvodu malé organizačnej velikosti.

Související pojmy

Zdroje a redakční stopa

NIST AI Risk Management Framework Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689
OECD Glossary of Terms on AI

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.