Odborná definícia
Význam a odborné vymedzenie pojmu
Zero-shot transfer je použitie modelu na novej úlohe, datasete, doméne alebo množine tried bez ďalšieho učenia na označených cieľových príkladoch. Prenos môže byť sprostredkovaný prirodzeným jazykom, spoločným embeddingovým priestorom, multitask predtrénovaním alebo univerzálnym rozhraním vstup a výstup. Hodnotenie musí oddeliť skutočný transfer od možnej kontaminácie tréningových dát a má merať výkon na distribúcii, ktorú model pri príprave neoptimalizoval.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Model sa vytrénuje na širokom korpuse a následne sa bez dolaďovania skúsi na novom benchmarku. Ak vie názvy tried alebo opis úlohy prepojiť so svojou reprezentáciou, môže podať použiteľný výkon. Takýto výsledok ukazuje flexibilitu, nie automatickú robustnosť. Nový dataset môže používať odlišné významy štítkov, iný jazyk alebo skryté pravidlá. Preto sa zero-shot transfer hodnotí oddelene od fine-tuningu a musí sa dokumentovať presný prompt, preprocessing aj verzia modelu.
Časté otázky
Otázky, ktoré spresňujú význam
Je každý predtrénovaný model schopný zero-shot transferu?
Nie. Potrebuje reprezentáciu a rozhranie, ktoré dokážu špecifikovať novú úlohu bez úpravy parametrov.
Ako sa líši od domain adaptation?
Domain adaptation zvyčajne využíva cieľové dáta na prispôsobenie. Zero-shot transfer v čistom nastavení parametre na cieľovej úlohe nemení.
Čo je kontaminácia benchmarku?
Testové položky alebo ich blízke varianty sa mohli objaviť v predtrénovaní. Výsledok potom nie je čistým dôkazom generalizácie.
Má sa porovnávať s náhodnou baseline?
Áno, ale aj s jednoduchými klasickými modelmi, retrievalom a few-shot alebo fine-tuned variantom, aby bola hodnota transferu interpretovateľná.
Prečo ukladať presnú šablónu promptu?
Aj malá zmena názvu triedy alebo formulácie môže výkon výrazne posunúť. Bez promptu sa experiment nedá reprodukovať.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- OpenAI, CLIP
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.