model AI

Model provádí inferenci nebo jinou základnou výpočtovou funkci. AI systém zahrnuje model spolu s dátovým spracováním, používatelským rozhráním, pravidly, infraštruktúrou a způsobem nasazení. Právně a provozní riziko se často posuzuje na úrovni celého systému, protože stejný model může mít odlišné důsledky v prekladači, náborovom nástroji nebo zdravotníckej aplikaci.

Parametry jsou hodnoty, které určují, jako model transformuje vstup na výstup. Při neuronové síti jde zejména o váhy a zkreslení upravené během tréninku. Počet parametrů přibližně popisuje kapacitu, ne automaticky kvalitu. Dva modely s stejným počtem parametrů se mohou výrazně lišit architekturou, daty, optimalizací, kontextovým oknom a schopnostmi.

Při inferenci se už natrénovaný model použije na nový vstup. V klasifikátore vypočítá skóre tříd, v jazykovém modeli postupně odhaduje další tokeny a v odporúčacom systéme zoradí položky. Chování může měnit práh, teplota, system prompt, dostupný kontext nebo kvantizace. Proto se musí evidovat i nastavení inference, ne pouze soubor s váhami.

Nová verze může změnit přesnost, bezpečnostní chování, formát výstupu, cenu i latenci. Pokud dodávatel aktualizuje model bez jasného označení, výsledky testů se mohou stát neplatnými. Evidence verze, dátumu nasazení, konfigurace a hodnotiacich výsledků umožňuje reprodukovat incident, provést rollback a určit, které aplikace změna zasiahla.

Závisí na definice a kontextu. AI může zahrnovat i znalostní a symbolické přístupy, ale ne každý jednoduchý rozhodovací strom nebo pevný if-then proces se prakticky považuje za AI. Při právním posouzení je rozhodujúca definice AI systému v príslušnom predpise a způsob, jakým systém odvozuje výstupy ze vstupů, ne marketingové označení produktu.