Odborná definícia
Odborná definícia
Out-of-distribution detection je odhad, či vstup pochádza z rozdelenia odlišného od dát, na ktorých bol model trénovaný a validovaný.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Jednoducho povedané, Out-of-distribution detection je odhad, či vstup pochádza z rozdelenia odlišného od dát, na ktorých bol model trénovaný a validovaný. V praxi sa hodnotí podľa konkrétnej úlohy, kvality výsledku, ceny chyby a možnosti zásahu človeka.
Časté otázky
Časté otázky
Čo je Out-of-distribution detection?
Out-of-distribution detection je odhad, či vstup pochádza z rozdelenia odlišného od dát, na ktorých bol model trénovaný a validovaný.
Na čo sa Out-of-distribution detection používa?
Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa hodnotí podľa konkrétnej úlohy, kvality výsledku, ceny chyby a možnosti zásahu človeka.
Ako sa Out-of-distribution detection overuje v praxi?
Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.
Aké riziká alebo obmedzenia treba pri Out-of-distribution detection sledovať?
Rizikom je nesúlad s pracovnou úlohou, nekontrolovaný automatizovaný výstup a nejasná zodpovednosť. Nasadenie potrebuje ľudskú kontrolu, merateľný cieľ a bezpečný náhradný postup.
Čím sa Out-of-distribution detection líši od súvisiacich pojmov?
Out-of-distribution detection sa od pojmov Operational AI, Outlier detection, Open-set recognition odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- ISO/IEC 22989:2022
- NIST AI Risk Management Framework 1.0
- OECD AI Principles
- Primárna odborná literatúra podľa typu pojmu
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.