Odborná definícia
Odborná definícia
Orchestration layer je aplikačná vrstva, ktorá riadi poradie a podmienky krokov medzi modelom, retrievalom, nástrojmi, pamäťou, validátormi, ľudským schválením a externými systémami. Implementuje stav workflow, smerovanie, retry, timeouty, idempotenciu, oprávnenia a spracovanie chýb. Model môže navrhnúť ďalší krok, ale orchestrátor rozhoduje, či je volanie povolené a ako sa výsledok uloží. Dobre navrhnutá vrstva oddeľuje nedeterministické generovanie od deterministických kontrol a umožňuje auditovať celý priebeh.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Pri vybavení reklamácie model najprv zhrnie e-mail, potom vyhľadá objednávku, navrhne riešenie a pripraví odpoveď. Orchestračná vrstva zabezpečí, že prístup k objednávke používa správne oprávnenie, refundácia nad limit čaká na človeka a opakovaný retry nevytvorí dve platby. Bez nej by bol agent iba séria voľných promptov, ktoré sa ťažko reprodukujú. Orchestrátor drží stav, rozlišuje čítacie a zapisovacie operácie, nastavuje časové limity a zaznamenáva dôkaz, prečo workflow prešiel konkrétnou vetvou.
Časté otázky
Časté otázky
Je orchestration to isté ako prompt chaining?
Prompt chaining spája výstup jedného modelového kroku so vstupom ďalšieho. Orchestration zahŕňa aj stav, nástroje, oprávnenia, vetvenie, retry, transakcie a ľudské schvaľovanie.
Prečo je idempotencia dôležitá?
Po timeout-e nemusí byť jasné, či externá operácia prebehla. Idempotentný kľúč zabráni, aby opakovaný pokus vytvoril druhú objednávku, platbu alebo záznam.
Kde sa má kontrolovať oprávnenie na nástroj?
V deterministickej aplikačnej vrstve pred vykonaním volania, nie iba v texte promptu. Modelový pokyn nie je bezpečnostná hranica a môže byť ovplyvnený vstupom používateľa.
Ako sa rieši nedeterministický výstup modelu?
Použijú sa štruktúrované schémy, validácia, obmedzené retry a bezpečný fallback. Kritické rozhodnutie sa nesmie opakovať bez limitu, pretože každý pokus môže vytvoriť nový nepredvídateľný návrh.
Čo má obsahovať audit workflow?
Verzie modelov a promptov, vstupy a redigované výstupy, rozhodnutia vetvenia, volania nástrojov, identity oprávnení, časové údaje, výsledky validátorov a ľudské zásahy.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Google Gemini, Function Calling LangGraph, Workflows and Agents
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.