Propojení uvažování a konání | AI slovník

Odborná definice

React je agentný vzor, ve kterém jazykový model strieda kroky plánování nebo pracovného uvažování s akciami vykonanými v externom prostředí a s pozorovaniami jejich výsledků. Akciou může být vyhladání, volání API, čtení databáze nebo manipulace se stavem úlohy. Pozorování následně upraví další krok. React není samostatný model ani záruka správnosti, ale orchestrace smyčky reason, act, observe. Bez omezení nástrojů může šíriť chyby, zacyklit se nebo reagovat na škodlivý obsah.

Srozumitelné vysvětlení

Agent pracujúci podle React se podobá analytikovi, který si zapíše další krok, provede ho, prečíta výsledek a až potom rozhodne, co nasleduje. Při otázce o firemnom dokumente nemusí hádať z paměti, ale vyhladá soubor, otevře relevantní část a odpověď prispůsobí nájdenému důkazu. Výhodou je spojení plánování s realitou. Slabinou je, že nesprávně pozorování, podvrhnutý text nebo příliš široké oprávnění mohou ovlivnit celý další postup. Kritické akce proto musí zůstat pod kontrolou orchestrátora.

Časté otázky

Jak se React liší od chain-of-thought promptingu?

Chain-of-thought se soustřeďuje na medzikroky v textu. React přidává explicitní akce a pozorování z prostředí, takže agent může získavat nové informace nebo měnit stav.

Musí uživatel vidět interní uvažování agenta?

Ne. Produkční systém může uchovávat stručný plán, stav úlohy a audit akcií bez zverejňování súkromných interných reťazců uvažování.

Jak se zabrání nekonečnej slučke?

Orchestrátor nastaví limit kroků, časový rozpočet, podmínku úspěchu a pravidlo bezpečného ukončení. Užitečná je i detekce opakovaných akcií bez nového výsledku.

Proč je React citlivý na prompt injection?

Text načítaný nástrojem může obsahovat pokyny, které se vydávají za autoritatívnu instrukci. Agent musí oddělovat data od riadiacich pravidel a ověřovat původ obsahu.

Co se má logovat při použití React?

Dotaz, zvolený nástroj, parametry, výsledek, rozhodnutí o dalším kroku, oprávnění a konečný stav. Citlivé údaje se mají minimalizovat nebo redigovat.

Související pojmy

Zdroje a redakční stopa

Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models, ICLR, 2023

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.