Parametricky efektivně dolaďování | AI slovník

Odborná definice

Parameter-efficient fine-tuning, zkráceně PEFT, je skupina metod, které prispůsobují předtrénovaný model aktualizací malé části původných parametrů nebo pridáním kompaktných trénovatelných komponentů. Základní váhy zůstávají převážně zmrazené a učí se například low-rank adaptéry, prefixy, soft prompty nebo vybrané zkreslení. PEFT snižuje paměť potřebnou na gradienty a stavy optimalizátora, zrýchluje správu variant a umožňuje ukladat malé adaptéry. Výsledná kvalita však závisí na metody, umístění modulů, dat a cílové úlohy.

Srozumitelné vysvětlení

Organizace potřebuje jeden velký model přizpůsobit právnym dokumentem, zákazníckej podpoře a technickému servisu. Místo troch úplných kópií může ponechat společný základ a pro každý účel uložit malý adaptér. Tím šetří tréninkovou paměť i úložiště, ale při inference musí správně načíst základ, tokenizér a konkrétní PEFT konfiguraci. Adaptér není samostatný model, může být nekompatibilný s inou revízí základu a při nedostatočných datech může naučit nežádoucí doménové zkratky.

Časté otázky

Které metody patří mezi PEFT?

Mezi rozšířené přístupy patří Lora a její varianty, adaptérové vrstvy, IA3, prompt tuning, prefix tuning, P-tuning a selektívne učení malého počtu existujúcich parametrů.

Proč PEFT snižuje paměť během tréninku?

Gradienty a stavy optimalizátora se vedou pouze pro malou trénovatelnou část. Aktivace základního modelu jsou stále potřebné, proto úspora není stejná jako úplné odstranění výpočtu přes zmrazené vrstvy.

Je PEFT vždy stejně kvalitné jako full fine-tuning?

Ne. Při některých úlohách se kvalita vyrovná úplnému dolaďování, při velkém doménovém posune nebo požadavku měnit hluboké reprezentace může zaostávat. Rozhoduje kontrolovaný experiment.

Dají se adaptéry kombinovat?

Některé frameworky umožňují prepínání, vážené spájání nebo skladání adaptérů. Kombinace může vytvořit interferenci, proto se musí hodnotit na cílových scenároch, ne pouze na původných benchmarkoch.

Co je třeba archivovat spolu s PEFT adaptérom?

Identifikátor a hash základního modelu, tokenizér, verzi knižnice, konfiguraci adaptéra, tréninková data nebo jejich původ, metriky, licenci a přesný postup zlúčení nebo načítání.

Související pojmy

Zdroje a redakční stopa

Hugging Face, Parameter-efficient fine-tuning PEFT library documentation

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.