Odborná definícia
Odborná definícia
High-risk AI system je právna kategória AI systému podľa EÚ AI Act, pri ktorej môže použitie významne ovplyvniť zdravie, bezpečnosť alebo základné práva a podlieha osobitným povinnostiam.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Jednoducho povedané, High-risk AI system je právna kategória AI systému podľa EÚ AI Act, pri ktorej môže použitie významne ovplyvniť zdravie, bezpečnosť alebo základné práva a podlieha osobitným povinnostiam. V praxi treba význam vždy posudzovať podľa cieľa, dát, prostredia nasadenia a následkov chybného výsledku.
Časté otázky
Časté otázky
Čo je High-risk AI system?
High-risk AI system je právna kategória AI systému podľa EÚ AI Act, pri ktorej môže použitie významne ovplyvniť zdravie, bezpečnosť alebo základné práva a podlieha osobitným povinnostiam.
Na čo sa High-risk AI system používa?
Použitie závisí od konkrétnej úlohy a očakávaného výsledku. Použitie musí mať jasný cieľ, merateľný prínos a určené hranice.
Ako sa High-risk AI system overuje v praxi?
Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.
Aké riziká alebo obmedzenia treba pri High-risk AI system sledovať?
Rizikom je použitie bez jasného cieľa, dôkazu kvality alebo určených hraníc. Výsledok treba overovať v konkrétnom kontexte a pri vyššom dopade zachovať ľudský dohľad.
Čím sa High-risk AI system líši od súvisiacich pojmov?
High-risk AI system sa od pojmov Human oversight, Hallucination, Harmful bias odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- ISO/IEC 22989:2022
- NIST AI Risk Management Framework 1.0
- OECD AI Principles
- Primárna odborná literatúra podľa typu pojmu
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.