Robustnost AI systému | AI slovník

Odborná definice

Robustness je schopnost AI systému udržat prijatelné chování a výkon při předem špecifikovaných zmenách podmínek, například při šume, chybějících údajoch, distribučnom posune, adversariálnych vstupech, variaci hardwaru nebo zlyhaní komponentu. Není absolútnou vlastností modelu, ale tvrdením viazaným na množinu perturbací, toleranci, metriky a kontext použití. Robustnost se ověřuje stresovými testy, segmentovou analýzou, OOD scenármi a monitoringom po nasazení. Vysoká průměrná accuracy ji sama nepreukazuje.

Srozumitelné vysvětlení

Robustní systém nefunguje pouze na čistom benchmarku. Měl by zvládnout rozmazaný obraz, nový typ formulára, chybějící údaj nebo mírně zmenenou formulaci bez nepřiměřeného selhání. Nejprve však musíme povedat, vůči čomu má být odolný a jaký pokles je ještě prijatelný. Model může být stabilní vůči šumu a zároveň citlivý na změnu populace. Proto se robustnost měří po konkrétních scenároch a segmentech, ne jedním všeobecným číslem nebo marketingovým tvrdením.

Časté otázky

Jak se robustnost liší od accuracy?

Accuracy měří výkon na určité vzorku. Robustnost porovnává chování při definovaných zmenách podmínek a sleduje, či degradace zůstává v prijatelnej hranici.

Co je distribution shift test?

Tréninková nebo referenční distribuce se porovná s novým prostredím, například podle času, regiónu, zařízení či segmentu. Hodnotí se výkon i změna vstupních vlastností.

Je adversariální robustnost to jisté jako běžná robustnost?

Je její špecifickou částí, kde perturbaci záměrně vybírá protivník. Přirozený šum a náhodné provozní změny mohou vyžadovat odlišné testy a mitigace.

Co znamená certifikovaná robustnost?

Matematická metoda poskytuje záruku, že predikce se nezmění v přesně definovaném okolí vstupu. Záruka platí pouze pro daný model, normu a velikost perturbace.

Jak se robustnost udržuje po nasazení?

Monitoring sleduje drift, chyby podle segmentů, kvalitu vstupů a neznámé případy. Potřebné jsou prahy, eskalace, fallback, rollback a plán opetovnej evaluace.

Související pojmy

Zdroje a redakční stopa

NIST AI 100-2e2025, Adversarial Machine Learning Taxonomy and Terminology

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.