Odborná definícia
Odborná definícia
ReAct je agentný vzor, v ktorom jazykový model strieda kroky plánovania alebo pracovného uvažovania s akciami vykonanými v externom prostredí a s pozorovaniami ich výsledkov. Akciou môže byť vyhľadanie, volanie API, čítanie databázy alebo manipulácia so stavom úlohy. Pozorovanie následne upraví ďalší krok. ReAct nie je samostatný model ani záruka správnosti, ale orchestrácia slučky reason, act, observe. Bez obmedzení nástrojov môže šíriť chyby, zacykliť sa alebo reagovať na škodlivý obsah.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Agent pracujúci podľa ReAct sa podobá analytikovi, ktorý si zapíše ďalší krok, vykoná ho, prečíta výsledok a až potom rozhodne, čo nasleduje. Pri otázke o firemnom dokumente nemusí hádať z pamäte, ale vyhľadá súbor, otvorí relevantnú časť a odpoveď prispôsobí nájdenému dôkazu. Výhodou je spojenie plánovania s realitou. Slabinou je, že nesprávne pozorovanie, podvrhnutý text alebo príliš široké oprávnenia môžu ovplyvniť celý ďalší postup. Kritické akcie preto musia zostať pod kontrolou orchestrátora.
Časté otázky
Časté otázky
Ako sa ReAct líši od chain-of-thought promptingu?
Chain-of-thought sa sústreďuje na medzikroky v texte. ReAct pridáva explicitné akcie a pozorovania z prostredia, takže agent môže získavať nové informácie alebo meniť stav.
Musí používateľ vidieť interné uvažovanie agenta?
Nie. Produkčný systém môže uchovávať stručný plán, stav úlohy a audit akcií bez zverejňovania súkromných interných reťazcov uvažovania.
Ako sa zabráni nekonečnej slučke?
Orchestrátor nastaví limit krokov, časový rozpočet, podmienku úspechu a pravidlo bezpečného ukončenia. Užitočná je aj detekcia opakovaných akcií bez nového výsledku.
Prečo je ReAct citlivý na prompt injection?
Text načítaný nástrojom môže obsahovať pokyny, ktoré sa vydávajú za autoritatívnu inštrukciu. Agent musí oddeľovať dáta od riadiacich pravidiel a overovať pôvod obsahu.
Čo sa má logovať pri použití ReAct?
Dopyt, zvolený nástroj, parametre, výsledok, rozhodnutie o ďalšom kroku, oprávnenia a konečný stav. Citlivé údaje sa majú minimalizovať alebo redigovať.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models, ICLR, 2023
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.