Dolaďování předtrénovaného modelu | AI slovník

Odborná definice

Fine-tuning je další trénink předtrénovaného modelu na datech nebo cílí špecifickom pro novou úlohu, doménu nebo požadované chování. Aktualizovat lze všechny parametry, vybrané vrstvy nebo malou sadu adaptérů. Učení obvykle používá nižší learning rate a potřebuje samostatnou validaci, aby se obmedzilo přeučení, catastrophic forgetting a regrese mimo cílové oblasti. Dolaďování mění modelové váhy, čím se odlišuje od promptování, retrievalu a kontextových demonštrací.

Srozumitelné vysvětlení

Obecný jazykový model může poznat právnický styl, ale neví přesně dodržiavat interný formát odpovědi. Tím připraví kvalitné dvojice vstupů a cílových výstupů a model na nich opatrne dolaďuje. Pokud dataset obsahuje opakované chyby nebo příliš úzký slovník, model jejich prevezme a může stratit část původní univerzálnosti. Proto se porovnává s baseline, testují se nezahrnuté situace a uchovává se verze tréninkových dat, hyperparametrů i checkpointu.

Časté otázky

Kdy je fine-tuning vhodnější než prompt engineering?

Když se opakovaně vyžaduje stabilní styl, formát nebo chování, které prompt nedokáže spolehlivě udržat, a je dostupný dostatek kvalitných příkladů.

Co je full fine-tuning?

Aktualizují se všechny nebo téměř všechny parametry modelu. Ponúka vysokou flexibilitu, ale vyžaduje více paměti, výpočtu a kontrol proti zabúdání.

Jak se liší parameter-efficient fine-tuning?

Mění pouze malou část parametrů nebo přidává adaptéry, například Lora. Snižuje náklady a ulahčuje správu více doménových variant.

Proč je třeba validation set oddělený od tréninku?

Umožní sledovat generalizaci a vyberat checkpoint bez hodnocení na stejných příkladech, z kterých se model přímo učil.

Může fine-tuning doplnit aktuálně fakta?

Může ovlivnit znalosti, ale není ideálnym mechanizmom na často se meniace informace. Pro aktuálnost bývá vhodnější retrieval s verziovanými zdroji.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.