Učení podle kurikula | AI slovník

Odborná definice

Curriculum learning je tréninková strategie, při které se pořadí nebo výběr příkladů mění od jednodušších či spolehlivějších k náročnějším, podobně jako učební kurikulum. Obtížnost může určit člověk, heuristika nebo model a plán může měnit data, úlohy, šum či délku sekvence. Cílem je zlepšit optimalizaci, rychlost nebo generalizaci tím, že model nejprve získá stabilní reprezentace. Nesprávně kurikulum může vytvořit bias, opozdit důležité hraniční případy nebo vést k zapomenutí, proto se porovnává s náhodným pořadím.

Srozumitelné vysvětlení

Model na čtení rukopisu může začít na jasných znakoch a až později dostat rozmazané, prekrývajúce se nebo vzácné tvary. První příklady mu pomůžu vytvořit základní filtry a složité případy potom nerozbijou trénink tak skoro. Jiné úlohy však nemají jednoznačnou stupnicu náročnosti. To, co je lahké pro aktuální model, nemusí být pedagogicky nejlépe a dlouhé odkladání menšinových příkladů může zhoršit jejich výkon. Kurikulum je proto experimentálny plán s meráním, ne obecné pravidlo, že jednoduché musí jít vždy první.

Časté otázky

Jak se určuje obtížnost příkladu?

Podle délky, šumu, rarity, expertnej anotace, historickej ztráty nebo istoty teacher modelu. Každý signál může obsahovat bias. Při adaptívnom kurikule se obtížnost průběžně mění podle toho, co aktuální model už zvláda.

Co je self-paced learning?

Model sám preferuje příklady, které mají při aktuálnych parametrech nízkou ztrátu, a postupně pripúšťa ťažšie. Mechanismus může stabilizovat učení při šume, ale také ignorovat systematicky náročné nebo menšinové případy, pokud nemá ochranné pravidla.

Je curriculum learning vždy rychlejší?

Ne. Více fáz, výpočtu obtížnosti a opakovaného samplingu může trénink predlžit. Přínos se hodnotí podle času do cílového výkonu, finálnej kvality a robustnosti. Na některých úlohách je náhodné miešání stejně dobré nebo lépe.

Jako souvisí kurikulum s catastrophic forgetting?

Pokud neskoré fáze obsahují pouze těžké nebo nové typy dat, model může oslabit schopnosti získané na začátku. Pomáhá miešat část starších příkladů, používat replay a průběžně měřit všechny úrovně náročnosti, ne pouze poslednou fázu.

Může se kurikulum použít při fine-tuningu LLM?

Ano. Data lze zoradit podle kvality, délky, formátu instrukce nebo zložitosti reasoning úloh. Je třeba však kontrolovat, či časné dominantné šablóny neuzamknou styl a či pozdější citlivé data nezmění bezpečnostní chování modelu.

Související pojmy

Zdroje a redakční stopa

Bengio a kol., Curriculum Learning, ICML 2009

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.