Odborná definícia
Význam a odborné vymedzenie pojmu
Model governance je súbor rolí, politík, kontrol a rozhodovacích práv, ktoré riadia výber, vývoj, schvaľovanie, nasadenie, zmeny, monitorovanie a vyradenie modelov. Definuje vlastníka, nezávislú validáciu, klasifikáciu rizika, povinnú dokumentáciu, prístupové oprávnenia, výnimky a eskaláciu incidentov. Governance sa nevzťahuje iba na regulované skórovacie modely, ale aj na predtrénované, generatívne a externé modely. Úroveň kontroly má byť primeraná dopadu a kontextu použitia.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Model môže byť technicky presný, no organizácia stále potrebuje vedieť, kto smie zmeniť prah, kto schváli novú verziu a čo sa stane pri incidente. Model governance vytvára pravidlá životného cyklu a zodpovednosti. Určí napríklad, že vysokorizikový model nesmie ísť do produkcie bez nezávislej validácie a že každá zmena musí mať záznam. Nejde o jednu softvérovú platformu ani o administratívny formulár. Je to spôsob, ako prepojiť technické dôkazy s rozhodnutím, rizikom a dohľadom ľudí.
Časté otázky
Otázky, ktoré spresňujú význam
Kto je model owner?
Osoba alebo funkcia zodpovedná za účel, primerané použitie, zdroje, monitorovanie a rozhodnutia počas životného cyklu. Nemusí byť autorom kódu.
Čo robí nezávislá validácia?
Overuje metodiku, dáta, výkon, obmedzenia a implementáciu oddelene od vývojového tímu, najmä pri modeloch s významným finančným alebo bezpečnostným dopadom.
Patrí externé API do model governance?
Áno. Organizácia stále rozhoduje o použití, dátach, prahoch a kontrolách, aj keď nevlastní váhy. Potrebuje posúdiť dodávateľa a zmeny služby.
Ako sa určuje intenzita kontrol?
Podľa dopadu chyby, autonómie, citlivosti dát, počtu dotknutých osôb, možnosti odvolania, regulačného režimu a reverzibility rozhodnutia.
Kedy sa model vyradí?
Keď už nespĺňa účel, drift alebo incidenty prekročia toleranciu, existuje lepšia náhrada, zanikne právny základ alebo nie je možné zabezpečiť jeho podporu.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NIST AI Risk Management Framework 1.0
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.