Hard prompt, definícia a použitie | AI slovník

Odborná definícia

Hard prompt je prompt vytvorený z diskrétnych tokenov prirodzeného jazyka alebo iných symbolov, ktoré používateľ priamo číta a upravuje. Obsahuje inštrukcie, kontext, príklady, obmedzenia či požadovaný formát a vstupuje do modelu cez bežnú tokenizáciu. Označenie hard ho odlišuje od soft promptu, ktorého naučené spojité vektory nemusia zodpovedať čitateľným slovám. Hard prompt nemení parametre modelu a jeho účinok závisí od formulácie, poradia informácií, kontextového okna a verzie modelu. Nie je bezpečnostnou hranicou, pretože môže byť prebitý konfliktom alebo prompt injection útokom.

Zrozumiteľné vysvetlenie

Keď do asistenta napíšete rolu, úlohu, tri príklady a presný formát výstupu, vytvárate hard prompt. Každé slovo je viditeľné a možno ho redakčne skontrolovať. Soft prompt by namiesto viet používal sadu naučených čísel vložených pred vstup, ktorým človek bez analýzy modelu nerozumie. Textová inštrukcia je prenosná a ľahko sa mení, no drobná zmena poradia môže ovplyvniť odpoveď. Ak do promptu vložíte nedôveryhodný dokument, jeho text môže obsahovať pokyn, ktorý sa pokúsi zmeniť pôvodnú úlohu, preto samotný prompt nestačí na vynútenie oprávnení.

Časté otázky

Prečo sa používa názov hard prompt?

Hard označuje diskrétnu voľbu tokenov z pevného slovníka. Výber slova nemožno meniť nekonečne malým krokom gradientu tak ako spojitý embedding, hoci prompt možno optimalizovať vyhľadávaním alebo generovaním kandidátov.

Je system prompt tiež hard prompt?

Áno, ak je vyjadrený čitateľnými tokenmi. Líši sa umiestnením a prioritou v aplikačnom protokole, nie základnou reprezentáciou. Jeho vyššia priorita stále neznamená, že nahrádza externé prístupové kontroly.

Ako sa hard prompt testuje?

Používa sa pevná sada úloh, hraničné vstupy, paraprázy, dlhý kontext a adversariálne pokusy. Hodnotí sa presnosť, konzistentnosť, formát, odmietnutie, citlivosť na poradie a regresia po zmene modelu.

Kedy je vhodnejší než fine tuning?

Pri rýchlej zmene pravidiel, malom počte príkladov alebo potrebe okamžite čitateľného riadenia. Fine tuning je vhodnejší, keď sa má stabilne zmeniť široké správanie, štýl alebo doménová schopnosť vo veľkom objeme interakcií.

Môže sa hard prompt automaticky optimalizovať?

Áno. Systém môže generovať varianty, merať ich na validačnej sade a vyberať najlepší. Optimalizácia však nesmie používať testovaciu sadu ani jedinú metriku, ktorá odmeňuje formát na úkor pravdivosti či bezpečnosti.

Súvisiace pojmy

Zdroje a redakčná stopa

Liu a kol., Pre-train, Prompt, and Predict (arxiv.org)
OpenAI, Prompt engineering guide (developers.openai.com)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.