Odborná definícia
Význam a odborné vymedzenie pojmu
System prompt je nadradená inštrukčná vrstva od poskytovateľa alebo prevádzkovateľa aplikácie, ktorá nastavuje rolu, pravidlá, hranice, dostupné nástroje a očakávaný spôsob správania jazykového modelu. V chatových rozhraniach býva oddelená od používateľského vstupu a má vyššiu prioritu podľa konkrétnej hierarchie správ. Nie je bezpečnostnou hranicou sama osebe, pretože môže byť neúplná, konfliktne navrhnutá alebo obchádzaná nepriamou inštrukciou z externého obsahu. Jeho verzia musí byť súčasťou logu a evaluačného výsledku, aby sa správanie dalo spätne vysvetliť.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Systémový prompt je prevádzkový manuál, ktorý aplikácia priloží ku konverzácii skôr, než model spracuje požiadavku používateľa. Môže určiť, že asistent má odpovedať po slovensky, citovať zdroje, neodhaľovať interné údaje a používať iba schválené nástroje. Používateľ tento manuál často nevidí, no jeho požiadavky s ním môžu kolidovať. Keď model číta web alebo dokumenty, text v nich nesmie automaticky získať rovnakú autoritu ako systémová inštrukcia. Malá úprava jednej priority môže zmeniť odpovede v stovkách scenárov, preto sa prompt nasadzuje ako kód s regresnými testami.
Časté otázky
Otázky, ktoré spresňujú význam
Ako sa system prompt líši od user promptu?
System prompt nastavuje dlhodobejšie pravidlá aplikácie a zvyčajne má vyššiu prioritu. User prompt opisuje aktuálnu úlohu a musí sa interpretovať v rámci nadradených obmedzení.
Môže system prompt zabrániť prompt injection?
Môže definovať pravidlá izolácie a nedôvery k externému textu, ale sám útok nevyrieši. Potrebné sú oprávnenia nástrojov, sanitizácia, validácia výstupov a monitorovanie.
Čo má dobrý system prompt obsahovať?
Jasný účel, rozsah, pravidlá priority, formát výstupu, hranice zdrojov, prácu s neistotou, povolenia nástrojov a správanie pri konflikte alebo chýbajúcich údajoch.
Prečo je problematický veľmi dlhý system prompt?
Dlhý text môže obsahovať rozpory, znižovať pozornosť venovanú kritickým pravidlám, zvyšovať náklady a komplikovať testovanie zmien. Pravidlá sa majú modularizovať a verzovať.
Ako sa system prompt testuje?
Používajú sa pozitívne úlohy, konfliktné pokyny, prompt injection, nejasné prípady, viac-turnové scenáre a regresné testy po každej zmene modelu alebo nástroja.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- OpenAI, Moving from Completions to Chat Completions
- OpenAI, Prompt management in Playground
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.