Generování rozšířené vyhledáváním, RAG | AI slovník

Odborná definice

Retrieval-augmented generation, RAG, spojuje retrieval externích zdrojů s generativním modelem, který vytváří odpověď podmienenou získaným kontextem. Pipeline obvykle zahrnuje zpracování dotazu, vyhladání kandidátů, prípadný reranking, sestavení kontextu, generování a práci s citacemi. RAG umožňuje používat aktualizovatelnou neparametrickou paměť bez úplného pretrénování modelu. Nezaručuje faktičnost, protože může selhat retrieval, výběr pasáže, interpretace kontextu i generování.

Srozumitelné vysvětlení

RAG dává jazykovému modelu před odpovědí možnost podívat se do konkrétní knižnice. Místo spoliehání se pouze na to, co si osvojil během tréninku, vyhladá relevantní pasáže a dostane jejich do promptu. To ulahčuje práci s internými dokumentmi, novými údajmi a citacemi. Pokud však systém prinese nesprávný dokument, odreže důležitou větu nebo model důkaz ignoruje, odpověď může zůstat chybná. RAG je proto celý meratelný řetězec, ne jednoduché pripojení vektorovej databáze.

Časté otázky

Kdy zvolit RAG místo fine-tuningu?

RAG je vhodný pro meniace se fakta, velké dokumentové bázy, přístupové filtry a požadavek na původ tvrzení. Fine-tuning je vhodnější na chování, styl nebo stabilnou úlohu.

Odstraní RAG halucinace?

Ne. Snižuje závislost od parametrů modelu, ale generátor může nesprávně spojit pasáže, ignorovat důkaz nebo doplnit nepodložené tvrzení. Potřebná je grounded evaluace.

Jako chunking ovlivňuje RAG?

Příliš malé chunky stratia kontext, velké snižují přesnost retrievalu a spotrebují okno. Dělení má respektovat strukturu dokumentu, nadpisy, tabulky a vezby mezi odsekmi.

Jak se mají zobrazovat zdroje?

Citace má směřovat na konkrétní dokument a ideálne na pasáž, která tvrzení podporuje. Samotný seznam použitých souborů nepreukazuje oporu každé věty.

Jaké bezpečnostní riziko přináší RAG?

Dokument může obsahovat prompt injection, škodlivý kód nebo údaje mimo oprávnění uživatele. Systém musí izolovat instrukce, filtrovat přístup a sanitizovat obsah.

Související pojmy

Zdroje a redakční stopa

Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, 2020

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.