Odborná definícia
Odborná definícia
Context engineering je systematický návrh, výber, transformácia a správa informácií, ktoré model dostane počas inferencie. Zahŕňa systémové inštrukcie, históriu, retrieval, pamäť, výsledky nástrojov, príklady, metadáta, kompresiu a izoláciu kontextov. Je širšie než formulácia jedného promptu, pretože rieši celý životný cyklus informácií pri jednotlivých krokoch aplikácie alebo agenta. Cieľom je poskytnúť relevantné a dôveryhodné dáta v správnom poradí a formáte pri obmedzenej kapacite, latencii, cene, oprávneniach a riziku prompt injection.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Asistent pre servis nepotrebuje pri každej otázke celý firemný archív. Potrebuje pravidlá roly, posledné kroky prípadu, správnu verziu manuálu, údaje konkrétneho zariadenia a výsledok diagnostického nástroja. Kontextové inžinierstvo rozhoduje, čo sa načíta, čo sa zhrnie, čo zostane oddelené a čo sa modelu nesmie ukázať. Dobrý prompt nezachráni nesprávny dokument ani zastaranú pamäť. Kvalita aplikácie preto vzniká z riadeného toku informácií, merania retrievalu, verziovania a kontroly dôveryhodnosti každého zdroja.
Časté otázky
Časté otázky
Ako sa context engineering líši od prompt engineeringu?
Prompt engineering sa zameriava na formuláciu pokynu a príkladov. Context engineering zahŕňa aj retrieval, pamäť, nástroje, kompresiu, oprávnenia a skladanie informácií počas celého workflow. Prompt je jedna vrstva väčšieho kontextového systému.
Čo znamená context poisoning?
Nedôveryhodná alebo chybná informácia sa dostane do pracovného kontextu a ovplyvní ďalšie kroky. Môže pochádzať z dokumentu, webu, pamäte alebo výstupu nástroja. Ochrana vyžaduje provenienciu, oddelenie inštrukcií od dát a pravidlá dôvery.
Prečo nie je viac kontextu vždy lepšie?
Nerelevantný obsah spotrebúva tokeny, zvyšuje latenciu a môže odviesť pozornosť od rozhodujúcich faktov. Dlhý vstup tiež rozširuje priestor pre konfliktné inštrukcie. Výber sa optimalizuje podľa úspechu úlohy, nie podľa maximálneho zaplnenia okna.
Ako sa hodnotí kontextová pipeline?
Samostatne sa meria retrieval recall, presnosť filtrov, čerstvosť, oprávnenia, kvalita kompresie a následne úspech odpovede alebo akcie. Trace má ukázať, ktoré časti kontextu model dostal a z akého zdroja, bez neprimeraného logovania citlivých dát.
Čo je compaction pri dlhom agentnom behu?
Staršie kroky sa zhrnú alebo premenia na štruktúrovaný stav, aby zostal priestor pre nové informácie. Kompakcia môže stratiť detail alebo skresliť rozhodnutie, preto sa dôležité fakty ukladajú oddelene a súhrn sa viaže na pôvodné záznamy.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Anthropic, Effective Context Engineering for AI Agents Mei a kol., A Survey of Context Engineering for Large Language Models
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.