systémový prompt | AI slovník

Odborná definice

System prompt je nadradená inštrukčná vrstva od poskytovatela nebo prevádzkovatela aplikace, která nastavuje rolu, pravidla, hranice, dostupné nástroje a očekávaný způsob chování jazykového modelu. V chatových rozhraniach bývá oddelená od používatelského vstupu a má vyšší prioritu podle konkrétní hierarchie správ. Není bezpečnostnou hranicou sama sám o sobě, protože může být neúplná, konfliktne navržená nebo obchádzaná nepriamou inštrukcí z externího obsahu. Jeho verze musí být součástí logu a evaluačného výsledku, aby se chování dalo spetne vysvetlit.

Srozumitelné vysvětlení

Systémový prompt je provozní manuál, který aplikace priloží ku konverzaci dříve, než model zpracuje požadavek uživatele. Může určit, že asistent má odpovídat česky, citovat zdroje, neodhalovat interní údaje a používat pouze schválené nástroje. Uživatel tento manuál často nevidí, ale jeho požadavky s ním mohou kolidovat. Když model čte web nebo dokumenty, text v nich nesmí automaticky získat stejnou autoritu jako systémová instrukce. Malá úprava jedné priority může změnit odpovědi v stovkách scenárů, proto se prompt nasadzuje jako kód s regresnými testy.

Časté otázky

Jak se system prompt liší od user promptu?

System prompt nastavuje dlhodobejšie pravidla aplikace a obvykle má vyšší prioritu. User prompt popisuje aktuálnu úlohu a musí se interpretovat v rámci nadradených omezení.

Může system prompt zabránit prompt injection?

Může definovat pravidla izolace a nedůvery k externému textu, ale sám útok nevyrieši. Potřebné jsou oprávnění nástrojů, sanitizace, validace výstupů a monitorování.

Co má dobrý system prompt obsahovat?

Jasný účel, rozsah, pravidla priority, formát výstupu, hranice zdrojů, práci s nejistotou, povolení nástrojů a chování při konflikte nebo chybějících údajoch.

Proč je problematický velmi dlouhý system prompt?

Dlouhý text může obsahovat rozpory, znižovat pozornost venovanou kritickým pravidlám, zvyšovat náklady a komplikovat testování změn. Pravidla se mají modularizovat a verzovat.

Jak se system prompt testuje?

Používají se pozitivně úlohy, konfliktní pokyny, prompt injection, nejasné případy, více-turnové scénáře a regresní testy po každé změně modelu nebo nástroje.

Související pojmy

Zdroje a redakční stopa

OpenAI, Moving from Completions to Chat Completions
OpenAI, Prompt management in Playground

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.