Odborná definícia
Význam a odborné vymedzenie pojmu
Model card je štandardizovaný dokument sprevádzajúci model, ktorý opisuje jeho účel, zamýšľaných používateľov, architektúru alebo pôvod, tréningové dáta, metódy evaluácie, výsledky, obmedzenia, etické aspekty a podmienky použitia. Má komunikovať rozdiely výkonu medzi relevantnými skupinami a známe scenáre zlyhania, nie iba jednu súhrnnú metriku. Karta je verzovaná spolu s modelom a mala by uvádzať zodpovedného vlastníka, dátum revízie, licenciu a kontakt na hlásenie problémov.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Model card je technický pas modelu. Človek, ktorý ho chce použiť, z nej má zistiť, na aký problém bol vytvorený, na akých dátach sa overoval a kde sa jeho výsledkom nedá dôverovať. Dobrá karta nehovorí iba to, že accuracy dosiahla 94 percent. Ukáže aj segmenty, jazyky, typy vstupov, prahy a podmienky, pri ktorých výkon klesá. Dokument však nie je automatickou zárukou bezpečnosti. Musí zodpovedať konkrétnej verzii a aktualizovať sa po zmene dát, váh alebo použitia.
Časté otázky
Otázky, ktoré spresňujú význam
Je model card povinný právny dokument?
Nie všeobecne pod týmto názvom. Môže však podporiť dokumentačné, transparentné a riadiace povinnosti, ktorých rozsah závisí od jurisdikcie a použitia.
Kto má kartu vytvoriť?
Tím, ktorý pozná tréning, evaluáciu a nasadenie, spolu s vlastníkmi rizika a doménovými odborníkmi. Marketingový opis bez technických dôkazov nestačí.
Má obsahovať tréningové dáta?
Má opísať ich pôvod, čas, hlavné vlastnosti, obmedzenia a licenciu v rozsahu, ktorý je možný bez porušenia súkromia alebo obchodného tajomstva.
Ako často sa aktualizuje?
Pri novej verzii modelu, zmene datasetu, prahu, významnej evaluácii, objavení nového rizika alebo rozšírení zamýšľaného použitia.
Aký je rozdiel medzi model card a system card?
Model card sa sústreďuje na konkrétny modelový artefakt. System card opisuje širší produkt vrátane nástrojov, filtrov, rozhraní, prevádzky a ľudských kontrol.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Mitchell et al., Model Cards for Model Reporting
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.