učení s referenčním předchozím tokenom | AI slovník

Odborná definice

Teacher forcing je tréninkový postup pro autoregresivní dekóder, při kterém model při predikci dalšího kroku dostává jako předchozí vstup správný referenční token, ne vlastní skoršiu predikci. Ulahčuje optimalizaci a umožňuje paralelnejšie zpracování cílové sekvence. Vzniká však rozdíl mezi tréninkem a inferencí, protože při nasazení model pokračuje z vlastních výstupů. Skorá chyba se potom může kumulovat způsobem, který během tréninku nezažil. Poměr referenčních a modelových tokenů je součástí tréninkového protokolu a musí být reprodukovatelný.

Srozumitelné vysvětlení

Při tréninku prekladača učitel po každém kroku ukáže správně předchozí slovo, i když ho model sám predpovedal špatně. Model se tak učí další krok z čistého kontextu a trénink je stabilnější. V reálném provozu už učitel není prítomný. Model musí nadviazat na vlastní slovo, a pokud se pomýli, další rozhodnutí vychádzají z chybného základu. Tento rozdíl se nazýva exposure bias a řeší se například plánovaným miešáním referenčních a modelových tokenů. Dobrý test obsahuje i dlouhé sekvence, kde se následky jedné skorej chyby prejavia až o mnoho kroků později.

Časté otázky

Používá se teacher forcing pouze při textu?

Ne. Uplatňuje se při preklade, syntéze řeči, predikci časových sekvencí a dalších autoregresívnych úlohách, kde další výstup závisí na předchozího kroku.

Co je exposure bias?

Je to nesúlad mezi tréninkem na správných předchozích tokenech a inferencí na vlastních predikciách. Model nemusí vědět zotavit se z kontextu, který vznikl jeho chybou.

Co je scheduled sampling?

Během tréninku postupně nahrazuje část referenčních tokenů vlastnými výstupy modelu. Cílem je priblížit trénink podmienkam inference, ačkoli metoda má vlastní teoretické limity.

Lze teacher forcing použít při transformerovom dekóderi?

Ano. Během tréninku se cílová sekvence posune o jeden token a kauzální maska zabrání přístupu k budoucím tokenom, přičemž všechny pozice lze počítat současně.

Proč nízká tréninková ztráta nemusí znamenat dobré generování?

Ztráta se měří při správném prefixe. Při volnom generování model čelí vlastným chybným prefixom, opakování a odbočení, které tréninková metrika nemusí zachytit.

Související pojmy

Zdroje a redakční stopa

Sequence to Sequence Learning with Neural Networks Scheduled Sampling for Sequence Prediction

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.