Velký jazykový model | AI slovník

Odborná definice

Large language model, LLM, je jazykový model s vysokou kapacitou, trénovaný na rozsáhlých textových nebo multimodálnych korpusoch tak, aby se dal použít na široké spektrum jazykových úloh. Súčasné LLM často využívají transformerovou architekturu, tokenizaci a pretrénování s následnou inštrukčnou nebo preferenčnou adaptací. Velikost se nedá určit jediným univerzálnym počtem parametrů. LLM generuje výstupy z naučených distribúcií a kontextu, ne spolahlivým vyhledáváním v databázi pravdivých faktů.

Srozumitelné vysvětlení

Velký jazykový model je obecný textový motor, který se během pretrénování naučil množství jazykových, štylistických a vecných vzorů. Po zadaní instrukce dokáže tyto vzory kombinovat při sumarizaci, preklade, extrakcii či tvorbě kódu. Neuchováva však každou informaci jako přesný záznam s overeným zdrojem. Při otázce může vytvořit pravděpodobně znejúcu odpověď i tam, kde nemá dostatočnou oporu. Aplikačný systém proto doplňa model o retrieval, nástroje, validaci a pravidla lidského dohledu.

Časté otázky

Kolik parametrů musí mít LLM?

Neexistuje obecně závezná hranice. Označení závisí na období, architektury, tréninkových dat, výpočtů a rozsahu použitelných úloh.

Je každý LLM generativní?

V běžném použití se tím často myslia generativní modely, ale jazykové modely mohou slúžit i na skórování, klasifikaci nebo tvorbu reprezentací.

Proč LLM halucinuje?

Optimalizuje pravděpodobnost pokračování a další tréninková cíle, ne přímou garanci pravdivosti. Chyba vzniká i při nejasnom kontextu nebo chybějícím zdroji.

Co mění instruction tuning?

Učí model reagovat na pokyny ve formáte podobnom používatelským úlohám. Nepridáva automaticky aktuálně znalosti ani oprávnění provádět externí akce.

Jak se LLM bezpečně nasadzuje ve firme?

S obmedzeným přístupem k datům a nástrojem, testy na konkrétní účel, logováním, politikou citlivých údajů, overováním výstupů a jasným vlastníkom rizika.

Související pojmy

Zdroje a redakční stopa

NIST CSRC Glossary, large language model

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.