Odborná definice
Odborná definice
Quality gate for AI je formálně rozhodovací místo mezi etapami životního cyklu, ve kterém se ověří splnění předem určených kritérií před tréninkem, pilotom, produkčným nasazením nebo rozšírením použití. Brána může kombinovat metriky, bezpečnostní limity, povinné dokumenty, výsledek doménové revíze a schválení vlastníka rizika. Výsledkem je povolení, podmíněné povolení, vrátení na opravu nebo zastavení. Výnimka musí mít časové omezení, zodpovednou osobu a kompenzačné opatření.
Srozumitelné vysvětlení
Srozumitelné vysvětlení
Před otvorením nové výrobní linky se nekontroluje pouze rychlost stroja. Musí být hotové revíze, núdzové postupy a školení obsluhy. Kvalitativní brána dělá stejné rozhodnutí při AI. Model může dosáhnout požadovanou přesnost, ale neprejde, pokud chybí test menšinového segmentu nebo rollback. Brána není dekorativní checklist. Musí mít právomoc uvolnení skutečně zastavit.
Časté otázky
Časté otázky
Co má obsahovat gate criterion?
Jednoznačný ukazovatel nebo důkaz, práh, vlastníka, zdroj dat, způsob výpočtu a pravidlo při nesplnení.
Může být brána automatická?
Technické kontroly ano, ale významné rizika často vyžadují doménové posouzení a explicitní schválení.
Jak se řeší výnimka?
Zdokumentuje se důvod, rozsah, platnost, kompenzačné kontroly, vlastník a termín opetovného posouzení.
Je jedna globální metrika dostatočná?
Ne. Kritéria mají pokrývat relevantní segmenty, bezpečnost, prevádzku, náklady a následky chyb.
Co se stane po nasazení?
Brány pokračují při změně verze a incidentoch. Monitoring může automaticky vyvolat návrat do předchozí etapy.
Související pojmy
Související pojmy
Zdroje a redakční stopa
Zdroje a redakční stopa
- NIST AI RMF Playbook
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.