K-shot prompting, definícia a použitie | AI slovník

Odborná definícia

K-shot prompting je nastavenie promptu, v ktorom sa modelu pred cieľovou požiadavkou poskytnú k demonštračných dvojíc vstup a požadovaný výstup. Model nemení parametre, ale počas inferencie využíva vzory z kontextu na pochopenie úlohy, formátu, rozhodovacích hraníc alebo štýlu. Kvalita závisí od výberu, poradia, rozmanitosti a reprezentatívnosti ukážok, od dĺžky kontextu a od toho, či demonštrácie neobsahujú chyby alebo skryté skratky. Demonštrácie sú súčasťou riadenia správania, preto sa verzujú rovnako ako systémová inštrukcia.

Zrozumiteľné vysvetlenie

Chcete, aby model triedil reklamácie do štyroch kategórií. Namiesto dlhého opisu mu ukážete šesť správ a pri každej správny štítok. Siedma správa je reálna požiadavka, ktorú má zaradiť. Model sa učí iba v rámci aktuálneho promptu, po skončení volania sa jeho váhy nezmenia. Ak všetky ukážky obsahujú krátke, jasné texty, ale produkcia má nejednoznačné a viacjazyčné správy, šesť príkladov môže vytvoriť falošný pocit spoľahlivosti. Každá ukážka zaberá tokeny, takže presnejší prompt môže byť zároveň pomalší a drahší.

Časté otázky

Je k-shot prompting to isté ako few-shot learning?

V kontexte LLM sa termíny často prekrývajú, no k-shot presne uvádza počet demonštrácií v promte. Širšie few-shot learning môže zahŕňať aj aktualizáciu parametrov alebo meta-learning mimo samotného promptu.

Ako vyberať ukážky do promptu?

Majú pokryť typické aj hraničné prípady, správny formát a relevantné rozdiely medzi triedami. Pri dynamickom výbere sa príklady vyhľadajú podľa podobnosti k dotazu, no treba strážiť duplicitu a únik odpovede.

Môže väčšie k zhoršiť výsledok?

Áno. Nadbytočné, konfliktné alebo jednostranné ukážky predlžujú kontext a môžu model viesť k napodobneniu nesprávnych pravidiel. Počet demonštrácií sa testuje na reprezentatívnom validačnom súbore.

Prečo záleží na poradí príkladov?

Model môže venovať väčšiu pozornosť novším, prvým alebo lexikálne podobným ukážkam. Zmena poradia preto môže meniť predikcie. Stabilita sa overuje permutáciami a agregáciou viacerých promptov.

Ako merať prínos k-shot promptu?

Porovnajte zero-shot baseline, presnosť alebo inú cieľovú metriku, dodržanie formátu, latenciu, cenu tokenov a robustnosť na parafrázy. Ukážky sa nesmú vyberať z finálneho testovacieho súboru.

Súvisiace pojmy

Zdroje a redakčná stopa

Brown a kol., Language Models are Few-Shot Learners
OpenAI, Prompt engineering guide

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.