Odborná definice
Význam a odborné vymezení pojmu
Model card je štandardizovaný dokument sprevádzajúci model, který popisuje jeho účel, zamýšlaných uživatelů, architekturu nebo původ, tréninková data, metody evaluace, výsledky, omezení, etické aspekty a podmínky použití. Má komunikovat rozdíly výkonu mezi relevantnými skupinami a známé scénáře selhání, ne pouze jednu souhrnnou metriku. Karta je verzovaná spolu s modelem a mala by uvádět zodpovedného vlastníka, datum revíze, licenci a kontakt na hlásení problémů.
Srozumitelné vysvětlení
Jak se pojem používá v praxi
Model card je technický pas modelu. Člověk, který ho chce použít, z ní má zjistit, na jaký problém byl vytvořený, na akých datech se overoval a kde se jeho výsledkem nedá důvěřovat. Dobrá karta neříká pouze to, že accuracy dosiahla 94 procent. Ukáže i segmenty, jazyky, typy vstupů, prahy a podmínky, při kterých výkon klesá. Dokument však není automatickou zárukou bezpečnosti. Musí odpovídat konkrétní verzi a aktualizovat se po změně dat, váh nebo použití.
Časté otázky
Otázky, které upřesňují význam
Je model card povinný právní dokument?
Ne obecně pod týmto názvem. Může však podporit dokumentačné, transparentné a riadiace povinnosti, kterých rozsah závisí na jurisdikce a použití.
Kdo má kartu vytvořit?
Tím, který pozná trénink, evaluaci a nasazení, spolu s vlastníkmi rizika a doménovými odborníkmi. Marketingový popis bez technických důkazů nestačí.
Má obsahovat tréninková data?
Má popsat jejich původ, čas, hlavní vlastnosti, omezení a licenci v rozsahu, který je možný bez porušení soukromí nebo obchodného tajomstva.
Jako často se aktualizuje?
Při nové verzi modelu, změně datasetu, prahu, významnej evaluaci, objavení nového rizika nebo rozšíření zamýšleného použití.
Jaký je rozdíl mezi model card a system card?
Model card se soustřeďuje na konkrétní modelový artefakt. System card popisuje širší produkt včetně nástrojů, filtrů, rozhraní, provozu a lidských kontrol.
Související pojmy
Významové a tematické souvislosti
Zdroje a redakční stopa
Použitá východiska a odborná revize
- Mitchell et al., Model Cards for Model Reporting
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.