Odborná definícia
Odborná definícia
Adversarial example je vstup pozmenený často veľmi malou, pre človeka nenápadnou zmenou, ktorá však spôsobí, že model vytvorí výrazne chybnú predikciu alebo klasifikáciu.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Jednoducho povedané, Adversarial example je vstup pozmenený často veľmi malou, pre človeka nenápadnou zmenou, ktorá však spôsobí, že model vytvorí výrazne chybnú predikciu alebo klasifikáciu. V praxi sa posudzuje cez hrozbový scenár, preventívne kontroly, záznamy udalostí a pripravený postup pri incidente.
Časté otázky
Časté otázky
Čo je Adversarial example?
Adversarial example je vstup pozmenený často veľmi malou, pre človeka nenápadnou zmenou, ktorá však spôsobí, že model vytvorí výrazne chybnú predikciu alebo klasifikáciu.
Na čo sa Adversarial example používa?
Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa posudzuje cez hrozbový scenár, preventívne kontroly, záznamy udalostí a pripravený postup pri incidente.
Ako sa Adversarial example overuje v praxi?
Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.
Aké riziká alebo obmedzenia treba pri Adversarial example sledovať?
Rizikom je obídenie kontroly, únik údajov, neoprávnený prístup alebo nový spôsob útoku. Ochrana potrebuje vrstvené opatrenia, monitoring, obmedzené oprávnenia a nacvičený incidentný postup.
Čím sa Adversarial example líši od súvisiacich pojmov?
Adversarial example sa od pojmov Adversarial attack, Data poisoning, Input validation odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- ISO/IEC 22989:2022
- NIST AI Risk Management Framework 1.0
- OECD AI Principles
- Primárna odborná literatúra podľa typu pojmu
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.