Diskrétní textový prompt | AI slovník

Odborná definice

Hard prompt je prompt vytvořený z diskrétnych tokenů přirozeného jazyka nebo jiných symbolů, které uživatel přímo čte a upravuje. Obsahuje instrukce, kontext, příklady, omezení či požadovaný formát a vstupuje do modelu přes bežnou tokenizaci. Označení hard ho odlišuje od soft promptu, kterého naučené spojité vektory nemusí odpovídat čitatelným slovám. Hard prompt nemění parametry modelu a jeho účinek závisí na formulace, pořadí informací, kontextového okna a verze modelu. Není bezpečnostnou hranicou, protože může být prebitý konfliktom nebo prompt injection útokům.

Srozumitelné vysvětlení

Když do asistenta napíšete rolu, úlohu, tri příklady a přesný formát výstupu, vytvárate hard prompt. Každé slovo je viditelné a lze ho redakčne skontrolovat. Soft prompt by místo vět používal sadu naučených čísel vložených před vstup, kterým člověk bez analýzy modelu nerozumie. Textová instrukce je prenosná a lahko se mění, ale drobná změna pořadí může ovlivnit odpověď. Pokud do promptu vložíte nedůveryhodný dokument, jeho text může obsahovat pokyn, který se pokúsi změnit původní úlohu, proto samotný prompt nestačí na vynucení oprávnění.

Časté otázky

Proč se používá název hard prompt?

Hard označuje diskrétnu volbu tokenů z pevného slovníka. Výběr slova nelze měnit nekonečne malým krokom gradientu tak jako spojitý embedding, ačkoli prompt lze optimalizovat vyhledáváním nebo generováním kandidátů.

Je system prompt také hard prompt?

Ano, pokud je vyjadrený čitatelnými tokenmi. Liší se umiestnením a prioritou v aplikačnom protokole, ne základnou reprezentací. Jeho vyšší priorita stále neznamená, že nahrazuje externí přístupové kontroly.

Jak se hard prompt testuje?

Používá se pevná sada úloh, hraniční vstupy, paraprázy, dlouhý kontext a adversariální pokusy. Hodnotí se přesnost, konzistentnost, formát, odmítnutí, citlivost na pořadí a regrese po změně modelu.

Kdy je vhodnější než fine tuning?

Při rychlé změně pravidel, malém počtu příkladů nebo potrebe okamžitě čitatelného řízení. Fine tuning je vhodnější, když se má stabilne změnit široké chování, styl nebo doménová schopnost ve velkém objeme interakcí.

Může se hard prompt automaticky optimalizovat?

Ano. Systém může generovat varianty, měřit jejich na validační sade a vyberat nejlepší. Optimalizace však nesmí používat testovaci sadu ani jedinou metriku, která odmeňuje formát na úkor pravdivosti či bezpečnosti.

Související pojmy

Zdroje a redakční stopa

Liu a kol., Pre-train, Prompt, and Predict (arxiv.org)
OpenAI, Prompt engineering guide (developers.openai.com)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.