Odborná definícia
Význam a odborné vymedzenie pojmu
Retrieval-augmented generation, RAG, spája retrieval externých zdrojov s generatívnym modelom, ktorý vytvára odpoveď podmienenú získaným kontextom. Pipeline zvyčajne zahŕňa spracovanie dopytu, vyhľadanie kandidátov, prípadný reranking, zostavenie kontextu, generovanie a prácu s citáciami. RAG umožňuje používať aktualizovateľnú neparametrickú pamäť bez úplného pretrénovania modelu. Nezaručuje faktickosť, pretože môže zlyhať retrieval, výber pasáže, interpretácia kontextu aj generovanie.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
RAG dáva jazykovému modelu pred odpoveďou možnosť pozrieť sa do konkrétnej knižnice. Namiesto spoliehania sa iba na to, čo si osvojil počas tréningu, vyhľadá relevantné pasáže a dostane ich do promptu. To uľahčuje prácu s internými dokumentmi, novými údajmi a citáciami. Ak však systém prinesie nesprávny dokument, odreže dôležitú vetu alebo model dôkaz ignoruje, odpoveď môže zostať chybná. RAG je preto celý merateľný reťazec, nie jednoduché pripojenie vektorovej databázy.
Časté otázky
Otázky, ktoré spresňujú význam
Kedy zvoliť RAG namiesto fine-tuningu?
RAG je vhodný pre meniace sa fakty, veľké dokumentové bázy, prístupové filtre a požiadavku na pôvod tvrdení. Fine-tuning je vhodnejší na správanie, štýl alebo stabilnú úlohu.
Odstráni RAG halucinácie?
Nie. Znižuje závislosť od parametrov modelu, ale generátor môže nesprávne spojiť pasáže, ignorovať dôkaz alebo doplniť nepodložené tvrdenie. Potrebná je grounded evaluácia.
Ako chunking ovplyvňuje RAG?
Príliš malé chunky stratia kontext, veľké znižujú presnosť retrievalu a spotrebujú okno. Delenie má rešpektovať štruktúru dokumentu, nadpisy, tabuľky a väzby medzi odsekmi.
Ako sa majú zobrazovať zdroje?
Citácia má smerovať na konkrétny dokument a ideálne na pasáž, ktorá tvrdenie podporuje. Samotný zoznam použitých súborov nepreukazuje oporu každej vety.
Aké bezpečnostné riziko prináša RAG?
Dokument môže obsahovať prompt injection, škodlivý kód alebo údaje mimo oprávnenia používateľa. Systém musí izolovať inštrukcie, filtrovať prístup a sanitizovať obsah.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, 2020
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.