Odborná definícia
Význam a odborné vymedzenie pojmu
High-risk AI system je právna kategória podľa nariadenia Európskej únie 2024/1689, nie všeobecné označenie každého nebezpečného modelu. Systém sa považuje za vysokorizikový najmä vtedy, keď je bezpečnostným komponentom regulovaného výrobku podľa článku 6 ods. 1, alebo patrí do použitia uvedeného v prílohe III a spĺňa podmienky článku 6 ods. 2 a 3. Klasifikácia sa viaže na zamýšľaný účel a konkrétne použitie, nie iba na technológiu. Poskytovateľ musí plniť požiadavky na riadenie rizík, dáta, dokumentáciu, záznamy, transparentnosť, ľudský dohľad, presnosť, robustnosť a kybernetickú bezpečnosť.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Rovnaký model rozpoznávania obrazu môže byť bežným nástrojom na triedenie fotografií a súčasne súčasťou zdravotníckeho zariadenia, kde ovplyvňuje diagnózu. Právny režim sa neurčuje podľa názvu algoritmu, ale podľa funkcie, sektora a dopadu. Pri systéme uvedenom v prílohe III sa navyše skúma, či materiálne ovplyvňuje rozhodovanie a či predstavuje významné riziko pre zdravie, bezpečnosť alebo základné práva. Firma preto nemôže klasifikáciu vyriešiť vetou používame AI. Musí zdokumentovať účel, používateľov, rozhodovací tok, výnimku aj zmenu použitia po nasadení.
Časté otázky
Otázky, ktoré spresňujú význam
Je každý generatívny model vysokorizikový systém AI?
Nie. Všeobecný model môže podliehať osobitným povinnostiam pre GPAI, ale vysokoriziková klasifikácia sa posudzuje podľa systému a jeho zamýšľaného použitia. Generatívna funkcia sama osebe článok 6 automaticky nespĺňa.
Ktoré oblasti uvádza príloha III?
Zahŕňa vybrané použitia v biometrike, kritickej infraštruktúre, vzdelávaní, zamestnanosti, základných službách, presadzovaní práva, migrácii a justícii. Presný rozsah určujú jednotlivé body a ich podmienky.
Môže systém z prílohy III nebyť vysokorizikový?
Áno, článok 6 ods. 3 stanovuje okolnosti, keď systém nepredstavuje významné riziko a materiálne neovplyvňuje výsledok rozhodovania. Poskytovateľ musí hodnotenie zdokumentovať pred uvedením systému na trh alebo do prevádzky.
Kto zodpovedá za klasifikáciu?
Primárne poskytovateľ, ktorý určuje zamýšľaný účel a uvádza systém na trh alebo do prevádzky. Povinnosti však majú aj nasadzujúce subjekty, dovozcovia a distribútori, najmä pri zmene účelu alebo podstatnej modifikácii.
Prečo nestačí jednorazová právna analýza?
Použitie, integrácia, používateľská skupina alebo legislatívne usmernenie sa môžu zmeniť. Organizácia má preto sledovať zmeny účelu, incidenty, nové funkcie a to, či sa z deployera nestane poskytovateľ po podstatnej úprave.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Nariadenie Európskeho parlamentu a Rady EÚ 2024/1689 (eur-lex.europa.eu) Európska komisia, AI Act service desk (ai-act-service-desk.ec.europa.eu)
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.