Odborná definícia
Význam a odborné vymedzenie pojmu
ReAct je agentný vzor, v ktorom jazykový model strieda kroky plánovania alebo pracovného uvažovania s akciami vykonanými v externom prostredí a s pozorovaniami ich výsledkov. Akciou môže byť vyhľadanie, volanie API, čítanie databázy alebo manipulácia so stavom úlohy. Pozorovanie následne upraví ďalší krok. ReAct nie je samostatný model ani záruka správnosti, ale orchestrácia slučky reason, act, observe. Bez obmedzení nástrojov môže šíriť chyby, zacykliť sa alebo reagovať na škodlivý obsah.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Agent pracujúci podľa ReAct sa podobá analytikovi, ktorý si zapíše ďalší krok, vykoná ho, prečíta výsledok a až potom rozhodne, čo nasleduje. Pri otázke o firemnom dokumente nemusí hádať z pamäte, ale vyhľadá súbor, otvorí relevantnú časť a odpoveď prispôsobí nájdenému dôkazu. Výhodou je spojenie plánovania s realitou. Slabinou je, že nesprávne pozorovanie, podvrhnutý text alebo príliš široké oprávnenia môžu ovplyvniť celý ďalší postup. Kritické akcie preto musia zostať pod kontrolou orchestrátora.
Časté otázky
Otázky, ktoré spresňujú význam
Ako sa ReAct líši od chain-of-thought promptingu?
Chain-of-thought sa sústreďuje na medzikroky v texte. ReAct pridáva explicitné akcie a pozorovania z prostredia, takže agent môže získavať nové informácie alebo meniť stav.
Musí používateľ vidieť interné uvažovanie agenta?
Nie. Produkčný systém môže uchovávať stručný plán, stav úlohy a audit akcií bez zverejňovania súkromných interných reťazcov uvažovania.
Ako sa zabráni nekonečnej slučke?
Orchestrátor nastaví limit krokov, časový rozpočet, podmienku úspechu a pravidlo bezpečného ukončenia. Užitočná je aj detekcia opakovaných akcií bez nového výsledku.
Prečo je ReAct citlivý na prompt injection?
Text načítaný nástrojom môže obsahovať pokyny, ktoré sa vydávajú za autoritatívnu inštrukciu. Agent musí oddeľovať dáta od riadiacich pravidiel a overovať pôvod obsahu.
Čo sa má logovať pri použití ReAct?
Dopyt, zvolený nástroj, parametre, výsledok, rozhodnutie o ďalšom kroku, oprávnenia a konečný stav. Citlivé údaje sa majú minimalizovať alebo redigovať.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models, ICLR, 2023
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.