Odborná definícia
Odborná definícia
Quality gate for AI je formálne rozhodovacie miesto medzi etapami životného cyklu, v ktorom sa overí splnenie vopred určených kritérií pred tréningom, pilotom, produkčným nasadením alebo rozšírením použitia. Brána môže kombinovať metriky, bezpečnostné limity, povinné dokumenty, výsledok doménovej revízie a schválenie vlastníka rizika. Výsledkom je povolenie, podmienené povolenie, vrátenie na opravu alebo zastavenie. Výnimka musí mať časové obmedzenie, zodpovednú osobu a kompenzačné opatrenia.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Pred otvorením novej výrobnej linky sa nekontroluje iba rýchlosť stroja. Musia byť hotové revízie, núdzové postupy a školenie obsluhy. Kvalitatívna brána robí rovnaké rozhodnutie pri AI. Model môže dosiahnuť požadovanú presnosť, no neprejde, ak chýba test menšinového segmentu alebo rollback. Brána nie je dekoratívny checklist. Musí mať právomoc uvoľnenie skutočne zastaviť.
Časté otázky
Časté otázky
Čo má obsahovať gate criterion?
Jednoznačný ukazovateľ alebo dôkaz, prah, vlastníka, zdroj dát, spôsob výpočtu a pravidlo pri nesplnení.
Môže byť brána automatická?
Technické kontroly áno, no významné riziká často vyžadujú doménové posúdenie a explicitné schválenie.
Ako sa rieši výnimka?
Zdokumentuje sa dôvod, rozsah, platnosť, kompenzačné kontroly, vlastník a termín opätovného posúdenia.
Je jedna globálna metrika dostatočná?
Nie. Kritériá majú pokrývať relevantné segmenty, bezpečnosť, prevádzku, náklady a následky chýb.
Čo sa stane po nasadení?
Brány pokračujú pri zmene verzie a incidentoch. Monitoring môže automaticky vyvolať návrat do predchádzajúcej etapy.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- NIST AI RMF Playbook
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.