Few-shot learning | AI slovník

Odborná definícia

Few-shot learning je rodina postupov, ktorých cieľom je zvládnuť novú triedu alebo úlohu z malého počtu označených príkladov. V klasickom ML môže využívať meta-learning, metric learning, prototypové reprezentácie alebo prenos z predtrénovaného modelu. Pri generatívnych modeloch sa výraz často používa aj pre few-shot prompting, kde sa niekoľko demonštrácií vloží do kontextu bez aktualizácie parametrov. Výsledok závisí od podobnosti úloh, výberu príkladov, poradia a pokrytia variantov.

Zrozumiteľné vysvetlenie

Ak firma potrebuje rozoznať nový typ súčiastky, no má iba päť označených fotografií, bežný tréning od nuly je slabý základ. Few-shot prístup využije znalosti získané z iných objektov a z niekoľkých ukážok vytvorí reprezentáciu novej triedy. Pri LLM možno do promptu vložiť tri vzorové vstupy a požadované výstupy, aby model napodobnil formát. To nie je trvalé učenie, pretože po odstránení príkladov z kontextu sa správanie nemusí zachovať. Kvalita navyše prudko klesá, ak ukážky nepokrývajú reálnu variabilitu vstupov.

Časté otázky

Koľko príkladov znamená few-shot?

Neexistuje univerzálne číslo. V benchmarkoch sa používa napríklad 1-shot alebo 5-shot, no praktický význam závisí od zložitosti triedy a variability dát.

Ako sa few-shot líši od zero-shot?

Zero-shot rieši novú úlohu bez označenej demonštrácie cieľovej triedy. Few-shot poskytuje malé množstvo konkrétnych príkladov na adaptáciu alebo podmienenie.

Je few-shot prompting tréning modelu?

Nie. Parametre sa nemenia, model reaguje na demonštrácie v aktuálnom kontexte. Fine-tuning naopak vykonáva optimalizačné aktualizácie váh.

Prečo záleží na poradí demonštrácií?

Autoregresívny model môže byť citlivý na recency, štruktúru a vzory v kontexte. Rôzne poradie preto môže meniť predikcie aj konzistentnosť.

Ako sa vyberajú dobré príklady?

Majú pokryť typické aj hraničné prípady, používať správny formát a byť podobné cieľovému vstupu. Výber sa hodnotí na oddelenom validačnom súbore.

Súvisiace pojmy

Zdroje a redakčná stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.