Odborná definice
Význam a odborné vymezení pojmu
Model governance je soubor rolí, politík, kontrol a rozhodovacích práv, které riadia výběr, vývoj, schvalování, nasazení, změny, monitorování a vyradení modelů. Definuje vlastníka, nezávislou validaci, klasifikaci rizika, povinnou dokumentaci, přístupové oprávnění, výjimky a eskalaci incidentů. Governance se nevzťahuje pouze na regulované skórovace modely, ale i na předtrénované, generativní a externí modely. Úroveň kontroly má být primeraná dopadu a kontextu použití.
Srozumitelné vysvětlení
Jak se pojem používá v praxi
Model může být technicky přesný, ale organizace stále potřebuje vědět, kdo smie změnit práh, kdo schváli novou verzi a co se stane při incidente. Model governance vytváří pravidla životního cyklu a zodpovednosti. Určí například, že vysokorizikový model nesmí jít do produkce bez nezávislej validace a že každá změna musí mít záznam. Nejde o jednu softvérovou platformu ani o administratívny formulár. Je to způsob, jako prepojit technické důkazy s rozhodnutím, rizikem a dohladom lidí.
Časté otázky
Otázky, které upřesňují význam
Kdo je model owner?
Osoba nebo funkce zodpovedná za účel, primerané použití, zdroje, monitorování a rozhodnutí během životního cyklu. Nemusí být autorom kódu.
Co dělá nezávislá validace?
Ověřuje metodiku, data, výkon, omezení a implementaci odděleně od vývojového tímu, zejména u modelů s významným finančným nebo bezpečnostním dopadom.
Patří externí API do model governance?
Ano. Organizace stále rozhoduje o použití, datech, prahoch a kontrolách, i když nevlastní váhy. Potřebuje posoudit dodávatela a změny služby.
Jak se určuje intenzita kontrol?
Podle dopadu chyby, autonomie, citlivosti dat, počtu dotknutých osůb, možnosti odvolání, regulačného režimu a reverzibility rozhodnutí.
Kdy se model vyradí?
Když už nesplňa účel, drift nebo incidenty prekročia toleranci, existuje lepší náhrada, zanikne právní základ nebo není možné zabezpečit jeho podporu.
Související pojmy
Významové a tematické souvislosti
Zdroje a redakční stopa
Použitá východiska a odborná revize
- NIST AI Risk Management Framework 1.0
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.