Promptování s k ukázkami | AI slovník

Odborná definice

K-shot prompting je nastavení promptu, ve kterém se modelu před cílovou požiadavkou poskytnou k demonstračních dvojic vstup a požadovaný výstup. Model nemění parametry, ale během inference využívá vzory z kontextu na pochopení úlohy, formátu, rozhodovacích hranic nebo štýlu. Kvalita závisí na výběru, pořadí, rozmanitosti a reprezentativnosti ukážok, od délky kontextu a od toho, či demonštrace neobsahují chyby nebo skryté zkratky. Demonštrace jsou součástí řízení chování, proto se verzují stejně jako systémová instrukce.

Srozumitelné vysvětlení

Chcete, aby model triedil reklamace do štyroch kategorií. Místo dlhého opisu mu ukážete šesť správ a při každé správný štítek. Siedma správa je reálna požadavek, kterou má zařadit. Model se učí pouze v rámci aktuálního promptu, po skončení volání se jeho váhy nezmění. Pokud všechny ukázky obsahují krátké, jasné texty, ale produkce má nejednoznačné a vícejazyčné správy, šesť příkladů může vytvořit falešný pocit spolahlivosti. Každá ukážka zaberá tokeny, takže přesnější prompt může být zároveň pomalší a drahší.

Časté otázky

Je k-shot prompting to jisté jako few-shot learning?

V kontextu LLM se termíny často prekrývají, ale k-shot přesně uvádí počet demonštrací v promte. Šířeji few-shot learning může zahrnovat i aktualizaci parametrů nebo meta-learning mimo samotného promptu.

Jako vyberat ukázky do promptu?

Mají pokrýt typické i hraniční případy, správný formát a relevantní rozdíly mezi třídami. Při dynamickom výběru se příklady vyhladají podle podobnosti k dotazu, ale je třeba strážit duplicitu a únik odpovědi.

Může větší k zhoršit výsledek?

Ano. Nadbytočné, konfliktní nebo jednostranné ukázky predlžují kontext a mohou model vést k napodobnení nesprávnych pravidel. Počet demonštrací se testuje na reprezentatívnom validačním souboru.

Proč záleží na poradí příkladů?

Model může venovat větší pozornost novším, prvým nebo lexikálne podobným ukážkam. Změna pořadí proto může měnit predikce. Stabilita se ověřuje permutacemi a agregací více promptů.

Jako měřit přínos k-shot promptu?

Porovnajte zero-shot baseline, přesnost nebo jinou cílovou metriku, dodržání formátu, latenci, cenu tokenů a robustnost na parafráze. Ukázky se nesmějí vyberat z finálneho testovacieho souboru.

Související pojmy

Zdroje a redakční stopa

Brown a kol., Language Models are Few-Shot Learners
OpenAI, Prompt engineering guide

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.