Model monitoring | AI slovník

Odborná definice

Model monitoring je priebežné sledování technického a vecného chování nasadeného modelu, jeho vstupů, výstupů a provozního prostředí. Zahrnuje dostupnost, latenci, chyby rozhraní, změnu schémata, distribuce příznaků, pomery predikcí, kalibraci, kvalitu po príchode labelů a rozdíly mezi segmentmi. Monitor musí mít baseline, prahy, vlastníka upozornení a postup reakce. Samotný dashboard bez rozhodovacích pravidel a zpětné vazby nepredstavuje účinnou kontrolu.

Srozumitelné vysvětlení

Po nasazení se model nestáva hotovým produktom bez dozoru. Vstupní data mohou měnit formát, uživatelé mohou změnit chování a upstream systém může začít posielat nuly. Monitoring sleduje, či služba odpovídá, zda se změnily vstupy a či predikce stále prinášají očekávaný výsledek. Některé chyby vidno okamžitě, například nárast latence, jiné až po týždňoch, když dorazí skutečný výsledek. Každý alarm musí vést ku konkrétnímu vyšetrení, ne pouze k ďalšiemu grafu.

Časté otázky

Co se dá monitorovat bez ground truth?

Schéma, chybějící hodnoty, rozsahy, distribuce, embeddingy, confidence, poměr tříd, latence a technické chyby. Nejde však o přímý důkaz správnosti predikce.

Jak se nastavuje práh alarmu?

Z historickej variability, rizika a nákladů reakce. Statický statistický práh je třeba ověřit, aby nevytváral množství falešných alarmů.

Co je delayed feedback?

Skutečný výsledek je známy až později, například splatení úveru. Monitoring musí spájat predikci s budoucím labelom a správně řešit zpoždění.

Má se sledovat výkon podle segmentů?

Ano. Celková metrika může zůstat stabilní, ačkoli se výkon zhorší v konkrétním jazyku, zařízení, regióne nebo rizikovej skupině.

Kdo reaguje na alarm?

Předem určený vlastník s runbookom. Postup může zahrnovat kontrolu dat, rollback, úpravu prahu, fallback, incident management nebo pretrénování.

Související pojmy

Zdroje a redakční stopa

NIST AI RMF Playbook, AI deployment, operation and monitoring

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.