Odborná definícia
Odborná definícia
Teacher forcing je tréningový postup pre autoregresívny dekóder, pri ktorom model pri predikcii ďalšieho kroku dostáva ako predchádzajúci vstup správny referenčný token, nie vlastnú skoršiu predikciu. Uľahčuje optimalizáciu a umožňuje paralelnejšie spracovanie cieľovej sekvencie. Vzniká však rozdiel medzi tréningom a inferenciou, pretože pri nasadení model pokračuje z vlastných výstupov. Skorá chyba sa potom môže kumulovať spôsobom, ktorý počas tréningu nezažil. Pomer referenčných a modelových tokenov je súčasťou tréningového protokolu a musí byť reprodukovateľný.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Pri tréningu prekladača učiteľ po každom kroku ukáže správne predchádzajúce slovo, aj keď ho model sám predpovedal zle. Model sa tak učí ďalší krok z čistého kontextu a tréning je stabilnejší. V reálnej prevádzke už učiteľ nie je prítomný. Model musí nadviazať na vlastné slovo, a ak sa pomýli, ďalšie rozhodnutia vychádzajú z chybného základu. Tento rozdiel sa nazýva exposure bias a rieši sa napríklad plánovaným miešaním referenčných a modelových tokenov. Dobrý test obsahuje aj dlhé sekvencie, kde sa následky jednej skorej chyby prejavia až o mnoho krokov neskôr.
Časté otázky
Časté otázky
Používa sa teacher forcing iba pri texte?
Nie. Uplatňuje sa pri preklade, syntéze reči, predikcii časových sekvencií a ďalších autoregresívnych úlohách, kde ďalší výstup závisí od predchádzajúceho kroku.
Čo je exposure bias?
Je to nesúlad medzi tréningom na správnych predchádzajúcich tokenoch a inferenciou na vlastných predikciách. Model nemusí vedieť zotaviť sa z kontextu, ktorý vznikol jeho chybou.
Čo je scheduled sampling?
Počas tréningu postupne nahrádza časť referenčných tokenov vlastnými výstupmi modelu. Cieľom je priblížiť tréning podmienkam inferencie, hoci metóda má vlastné teoretické limity.
Dá sa teacher forcing použiť pri transformerovom dekóderi?
Áno. Počas tréningu sa cieľová sekvencia posunie o jeden token a kauzálna maska zabráni prístupu k budúcim tokenom, pričom všetky pozície možno počítať súčasne.
Prečo nízka tréningová strata nemusí znamenať dobré generovanie?
Strata sa meria pri správnom prefixe. Pri voľnom generovaní model čelí vlastným chybným prefixom, opakovaniu a odbočeniu, ktoré tréningová metrika nemusí zachytiť.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Sequence to Sequence Learning with Neural Networks Scheduled Sampling for Sequence Prediction
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.