Odborná definícia
Odborná definícia
Joint training je praktický tréningový režim, v ktorom sa parametre viacerých modulov alebo cieľov aktualizujú v spoločnom optimalizačnom cykle. Gradient môže prechádzať cez celý zložený systém, napríklad retriever a generátor, enkóder a dekóder alebo viac výstupných hláv. Režim sa odlišuje od oddeleného predtrénovania a následného zmrazenia komponentov. Výhodou je prispôsobenie modulov spoločnému cieľu, nevýhodou nestabilita, veľké pamäťové nároky a možnosť, že jeden modul využije skratku na úkor druhého. Harmonogram môže striedať fázy spoločných a samostatných aktualizácií.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
RAG systém má retriever a generátor. Pri oddelenom tréningu sa každý optimalizuje na vlastnú metriku. Pri joint training dostane výsledná odpoveď stratu, ktorá ovplyvní aj to, aké dokumenty retriever vyberá. Moduly sa môžu lepšie zladiť, ale generátor sa môže naučiť ignorovať retrieval alebo retriever vyberať text, ktorý pomáha tréningovej sade bez všeobecnej relevancie. Spoločný tréning preto potrebuje diagnostiku každého modulu, kontrolné baseline a často postupné odomykanie parametrov, aby sa užitočné schopnosti nerozpadli.
Časté otázky
Časté otázky
Čím sa joint training líši od joint learning?
Joint learning pomenúva formuláciu spoločného učenia, joint training zdôrazňuje konkrétny optimalizačný režim a tok aktualizácií. Projekt môže mať spoločný cieľ, ale trénovať moduly striedavo, alebo ich skutočne aktualizovať v jednom priechode.
Kedy sa používajú zmrazené moduly?
Pri nedostatku pamäte, malom datasete alebo riziku katastrofického zabúdania sa časť modelu ponechá fixná. Neskôr sa môže postupne odomknúť s nižšou learning rate. Zmrazenie znižuje adaptáciu, ale stabilizuje tréning.
Ako sa diagnostikuje kolaps jedného modulu?
Sledujú sa samostatné metriky, gradientové normy, ablačné vypnutie komponentu a kvalita medzivýstupov. Ak generátor odpovedá rovnako bez retrievera, spoločná strata pravdepodobne nevytvára požadovanú závislosť.
Prečo je tréning pamäťovo náročný?
Autograd musí uchovať aktivácie cez viac modulov až po spätný priechod. Pomáha gradient checkpointing, menší batch, zmiešaná presnosť, pipeline parallelism alebo oddelené aktualizačné kroky.
Ako sa volí spoločný harmonogram?
Možnosti zahŕňajú warm-up jednotlivých modulov, striedanie batchov, rozdielne learning rates a periodické zmrazenie. Voľba sa opiera o stabilitu, konvergenciu čiastkových metrík a výsledok celého systému na nezávislom teste.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Lewis a kol., Retrieval-Augmented Generation Guu a kol., REALM
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.