Kontextové inženýrství pro LLM | AI slovník

Odborná definice

Context engineering je systematický návrh, výběr, transformace a správa informací, které model dostane během inference. Zahrnuje systémové instrukce, historii, retrieval, paměť, výsledky nástrojů, příklady, metadata, kompresi a izolaci kontextů. Je šířeji než formulace jednoho promptu, protože řeší celý životní cyklus informací při jednotlivých krocích aplikace nebo agenta. Cílem je poskytnout relevantní a důvěryhodné data v správném poradí a formáte při omezené kapacite, latencii, ceně, oprávneniach a riziku prompt injection.

Srozumitelné vysvětlení

Asistent pro servis nepotřebuje při každé otázce celý firemný archív. Potřebuje pravidla roly, posledné kroky případu, správnou verzi manuálu, údaje konkrétního zařízení a výsledek diagnostického nástroje. Kontextové inženýrství rozhoduje, co se načte, co se shrne, co zůstane oddělené a co se modelu nesmí ukázat. Dobrý prompt nezachráni nesprávný dokument ani zastaranou paměť. Kvalita aplikace proto vzniká z riadeného toku informací, měření retrievalu, verziování a kontroly důveryhodnosti každého zdroje.

Časté otázky

Jak se context engineering liší od prompt engineeringu?

Prompt engineering se zameriava na formulaci pokynu a příkladů. Context engineering zahrnuje i retrieval, paměť, nástroje, kompresi, oprávnění a skladání informací během celého workflow. Prompt je jedna vrstva večšieho kontextového systému.

Co znamená context poisoning?

Nedůveryhodná nebo chybná informace se dostane do pracovného kontextu a ovlivní další kroky. Může pochádzat z dokumentu, webu, paměti nebo výstupu nástroje. Ochrana vyžaduje provenienci, oddělení instrukcí od dat a pravidla důvěry.

Proč není více kontextu vždy lépe?

Nerelevantný obsah spotrebúva tokeny, zvyšuje latenci a může odviesť pozornost od rozhodujúcich faktů. Dlouhý vstup také rozširuje prostor pro konfliktní instrukce. Výběr se optimalizuje podle úspěchu úlohy, ne podle maximálneho zaplnení okna.

Jak se hodnotí kontextová pipeline?

Samostatně se měří retrieval recall, přesnost filtrů, čerstvost, oprávnění, kvalita komprese a následně úspěch odpovědi nebo akce. Trace má ukázat, které části kontextu model dostal a z akého zdroje, bez nepřiměřeného logování citlivých dat.

Co je compaction při dlouhém agentnom běhu?

Starší kroky se zhrnou nebo premení na strukturovaný stav, aby zostal prostor pro nové informace. Kompakce může stratit detail nebo skreslit rozhodnutí, proto se důležité fakta ukladají odděleně a souhrn se váže na původní záznamy.

Související pojmy

Zdroje a redakční stopa

Anthropic, Effective Context Engineering for AI Agents Mei a kol., A Survey of Context Engineering for Large Language Models

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.