Vysokorizikový systém AI | AI slovník

Odborná definice

High-risk AI system je právní kategorie podle nařízení Evropské únie 2024/1689, ne obecné označení každého nebezpečného modelu. Systém se považuje za vysokorizikový zejména tehdy, když je bezpečnostním komponentem regulovaného výrobku podle článku 6 ods. 1, nebo patří do použití uvedeného v příloze III a splňuje podmínky článku 6 ods. 2 a 3. Klasifikace se váže na zamýšlený účel a konkrétně použití, ne pouze na technologii. Poskytovatel musí plnit požadavky na řízení rizik, data, dokumentaci, záznamy, transparentnost, lidský dohled, přesnost, robustnost a kybernetickou bezpečnost.

Srozumitelné vysvětlení

Stejný model rozpoznávání obrazu může být bežným nástrojem na triedení fotografií a současně součástí zdravotníckeho zařízení, kde ovlivňuje diagnózu. Právní režim se neurčuje podle názvu algoritmu, ale podle funkce, sektora a dopadu. Při systéme uvedenom v příloze III se navíc zkoumá, či materiálne ovlivňuje rozhodování a či představuje významné riziko pro zdravie, bezpečnost nebo základní práva. Firma proto nemůže klasifikaci vyriešit vetou používame AI. Musí zdokumentovat účel, uživatelů, rozhodovací tok, výnimku i změnu použití po nasazení.

Časté otázky

Je každý generativní model vysokorizikový systém AI?

Ne. Obecný model může podliehat osobitným povinnostiam pro GPAI, ale vysokoriziková klasifikace se posuzuje podle systému a jeho zamýšleného použití. Generativní funkce sama sám o sobě článek 6 automaticky nesplňa.

Které oblasti uvádí príloha III?

Zahrnuje vybrané použití v biometrike, kritické infraštruktúre, vzdelávaní, zamestnanosti, základných službách, presadzování práva, migraci a justícii. Přesný rozsah určují jednotlivé body a jejich podmínky.

Může systém z prílohy III nebyť vysokorizikový?

Ano, článek 6 ods. 3 stanovuje okolnosti, když systém nepredstavuje významné riziko a materiálne neovplyvňuje výsledek rozhodování. Poskytovatel musí hodnocení zdokumentovat před uvedením systému na trh nebo do provozu.

Kdo odpovídá za klasifikaci?

Primárně poskytovatel, který určuje zamýšlený účel a uvádí systém na trh nebo do provozu. Povinnosti však mají i nasadzujúce subjekty, dovozcovia a distribútori, zejména při změně účelu nebo podstatnej modifikaci.

Proč nestačí jednorazová právní analýza?

Použití, integrace, používatelská skupina nebo legislatívne usmernení se mohou změnit. Organizace má proto sledovat změny účelu, incidenty, nové funkce a to, zda se z deployera nestane poskytovatel po podstatnej úprave.

Související pojmy

Zdroje a redakční stopa

Nariadenie Európskeho parlamentu a Rady EÚ 2024/1689 (eur-lex.europa.eu) Európska komisia, AI Act service desk (ai-act-service-desk.ec.europa.eu)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.