Model governance | AI slovník

Odborná definice

Model governance je soubor rolí, politík, kontrol a rozhodovacích práv, které riadia výběr, vývoj, schvalování, nasazení, změny, monitorování a vyradení modelů. Definuje vlastníka, nezávislou validaci, klasifikaci rizika, povinnou dokumentaci, přístupové oprávnění, výjimky a eskalaci incidentů. Governance se nevzťahuje pouze na regulované skórovace modely, ale i na předtrénované, generativní a externí modely. Úroveň kontroly má být primeraná dopadu a kontextu použití.

Srozumitelné vysvětlení

Model může být technicky přesný, ale organizace stále potřebuje vědět, kdo smie změnit práh, kdo schváli novou verzi a co se stane při incidente. Model governance vytváří pravidla životního cyklu a zodpovednosti. Určí například, že vysokorizikový model nesmí jít do produkce bez nezávislej validace a že každá změna musí mít záznam. Nejde o jednu softvérovou platformu ani o administratívny formulár. Je to způsob, jako prepojit technické důkazy s rozhodnutím, rizikem a dohladom lidí.

Časté otázky

Kdo je model owner?

Osoba nebo funkce zodpovedná za účel, primerané použití, zdroje, monitorování a rozhodnutí během životního cyklu. Nemusí být autorom kódu.

Co dělá nezávislá validace?

Ověřuje metodiku, data, výkon, omezení a implementaci odděleně od vývojového tímu, zejména u modelů s významným finančným nebo bezpečnostním dopadom.

Patří externí API do model governance?

Ano. Organizace stále rozhoduje o použití, datech, prahoch a kontrolách, i když nevlastní váhy. Potřebuje posoudit dodávatela a změny služby.

Jak se určuje intenzita kontrol?

Podle dopadu chyby, autonomie, citlivosti dat, počtu dotknutých osůb, možnosti odvolání, regulačného režimu a reverzibility rozhodnutí.

Kdy se model vyradí?

Když už nesplňa účel, drift nebo incidenty prekročia toleranci, existuje lepší náhrada, zanikne právní základ nebo není možné zabezpečit jeho podporu.

Související pojmy

Zdroje a redakční stopa

NIST AI Risk Management Framework 1.0

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.