Odborná definícia
Odborná definícia
Knowledge-grounded generation je generovanie textu alebo iného výstupu podmienené explicitne dodanými znalosťami, napríklad vyhľadanými dokumentmi, databázovými faktmi, grafovými cestami alebo nástrojovým výsledkom. Cieľom je zvýšiť faktickosť, aktuálnosť a dohľadateľnosť oproti čisto parametrickej odpovedi. Grounding však vzniká až vtedy, keď výstup verne používa poskytnutý dôkaz. Samotné priloženie kontextu nezaručuje podporu tvrdení, preto sa meria atribúcia, faithfulnes a pokrytie zdrojov. Produkčný systém má uchovať aj identitu verzie zdroja, z ktorej bola odpoveď zostavená.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Asistent dostane otázku o záručnej lehote a systém mu priloží aktuálny článok obchodných podmienok. Odpoveď má vychádzať z tohto textu, uviesť správnu dĺžku a odkaz na zdroj. Model však môže pridať vlastnú domnienku, zameniť výnimku alebo ignorovať odsek na konci. Preto sa kontroluje každé faktické tvrdenie voči dodanému kontextu. Ukotvenie nie je iba retrieval, ale záväzok, že generovaný obsah má oporu v konkrétnom dôkaze. Používateľ má vedieť odlíšiť citovaný fakt od vysvetlenia alebo záveru vytvoreného modelom.
Časté otázky
Časté otázky
Ako sa líši od bežného RAG?
RAG je konkrétna architektonická rodina spájajúca retrieval a generátor. Knowledge-grounded generation je širší cieľ, ktorý môže používať ručne dodaný dokument, SQL výsledok, znalostný graf, API alebo kombináciu zdrojov.
Čo je atribúcia tvrdenia?
Prepojenie konkrétnej časti odpovede na pasáž alebo záznam, ktorý ju podporuje. Citácia na celý dokument nestačí, ak používateľ nevie určiť, ktorý dôkaz zodpovedá danému tvrdeniu.
Čo robiť, keď zdroje konfliktujú?
Systém má zachovať provenance, zistiť čas platnosti a autoritu zdrojov, konflikt používateľovi priznať alebo použiť definované pravidlo nadradenosti. Generátor nesmie rozdiel potichu zliať do jedného faktu.
Ako merať faithfulness?
Kontroluje sa, či každé faktické tvrdenie vyplýva z kontextu, či citácia obsahuje podporu a či odpoveď nepridáva nepodložené detaily. Automatický judge sa kalibruje na ľudsky označených príkladoch.
Kedy má systém radšej neodpovedať?
Keď retrieval nevrátil dostatočný dôkaz, zdroje sú neaktuálne alebo si protirečia a chýba pravidlo rozhodnutia. Abstencia s vysvetlením je kvalitnejšia než plynulá odpoveď bez opory.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Lewis a kol., Retrieval-Augmented Generation Zhang a kol., Retrieval and Grounded Generation
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.