Model card | AI slovník | DNA marketing®

Odborná definice

Model card je štandardizovaný dokument sprevádzajúci model, který popisuje jeho účel, zamýšlaných uživatelů, architekturu nebo původ, tréninková data, metody evaluace, výsledky, omezení, etické aspekty a podmínky použití. Má komunikovat rozdíly výkonu mezi relevantnými skupinami a známé scénáře selhání, ne pouze jednu souhrnnou metriku. Karta je verzovaná spolu s modelem a mala by uvádět zodpovedného vlastníka, datum revíze, licenci a kontakt na hlásení problémů.

Srozumitelné vysvětlení

Model card je technický pas modelu. Člověk, který ho chce použít, z ní má zjistit, na jaký problém byl vytvořený, na akých datech se overoval a kde se jeho výsledkem nedá důvěřovat. Dobrá karta neříká pouze to, že accuracy dosiahla 94 procent. Ukáže i segmenty, jazyky, typy vstupů, prahy a podmínky, při kterých výkon klesá. Dokument však není automatickou zárukou bezpečnosti. Musí odpovídat konkrétní verzi a aktualizovat se po změně dat, váh nebo použití.

Časté otázky

Je model card povinný právní dokument?

Ne obecně pod týmto názvem. Může však podporit dokumentačné, transparentné a riadiace povinnosti, kterých rozsah závisí na jurisdikce a použití.

Kdo má kartu vytvořit?

Tím, který pozná trénink, evaluaci a nasazení, spolu s vlastníkmi rizika a doménovými odborníkmi. Marketingový popis bez technických důkazů nestačí.

Má obsahovat tréninková data?

Má popsat jejich původ, čas, hlavní vlastnosti, omezení a licenci v rozsahu, který je možný bez porušení soukromí nebo obchodného tajomstva.

Jako často se aktualizuje?

Při nové verzi modelu, změně datasetu, prahu, významnej evaluaci, objavení nového rizika nebo rozšíření zamýšleného použití.

Jaký je rozdíl mezi model card a system card?

Model card se soustřeďuje na konkrétní modelový artefakt. System card popisuje širší produkt včetně nástrojů, filtrů, rozhraní, provozu a lidských kontrol.

Související pojmy

Zdroje a redakční stopa

Mitchell et al., Model Cards for Model Reporting

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.