Generování ukotvené v znalostech | AI slovník

Odborná definice

Knowledge-grounded generation je generování textu nebo jiného výstupu podmíněné explicitně dodanými znalosťami, například vyhladanými dokumentmi, databázovými faktmi, grafovými cestami nebo nástrojovým výsledkem. Cílem je zvýšit faktičnost, aktuálnost a dohledatelnost oproti čisto parametrickej odpovedi. Grounding však vzniká až tehdy, když výstup verne používá poskytnutý důkaz. Samotné priložení kontextu nezaručuje podporu tvrzení, proto se měří atribuce, faithfulnes a pokrytí zdrojů. Produkční systém má uchovat i identitu verze zdroje, ze které byla odpověď sestavená.

Srozumitelné vysvětlení

Asistent dostane otázku o záručnej lehote a systém mu priloží aktuální článek obchodných podmínek. Odpověď má vycházet z tohoto textu, uvést správnou délku a odkaz na zdroj. Model však může přidat vlastní domnienku, zaměnit výnimku nebo ignorovat odsek na konci. Proto se kontroluje každé faktické tvrzení vůči dodanému kontextu. Ukotvení není pouze retrieval, ale závezok, že generovaný obsah má oporu v konkrétním důkaze. Uživatel má vědět odlíšit citovaný fakt od vysvětlení nebo závěru vytvoreného modelem.

Časté otázky

Jak se liší od běžného RAG?

RAG je konkrétní architektonická rodina spájajúca retrieval a generátor. Knowledge-grounded generation je širší cíl, který může používat ručně dodaný dokument, SQL výsledek, znalostní graf, API nebo kombinaci zdrojů.

Co je atribuce tvrzení?

Propojení konkrétní části odpovědi na pasáž nebo záznam, který ji podporuje. Citace na celý dokument nestačí, pokud uživatel neví určit, který důkaz odpovídá danému tvrzení.

Co dělat, když zdroje konfliktují?

Systém má zachovat provenance, zjistit čas platnosti a autoritu zdrojů, konflikt uživateli priznat nebo použít definované pravidlo nadradenosti. Generátor nesmí rozdíl potichu zliať do jednoho faktu.

Jako měřit faithfulness?

Kontroluje se, či každé faktické tvrzení vyplývá z kontextu, či citace obsahuje podporu a či odpověď nepridáva nepodložené detaily. Automatický judge se kalibruje na ludsky označených příkladech.

Kdy má systém raději neodpovedat?

Když retrieval nevrátil dostatečný důkaz, zdroje jsou neaktuálne nebo si protirečia a chybí pravidlo rozhodnutí. Abstence s vysvětlením je kvalitnejšia než plynulá odpověď bez opory.

Související pojmy

Zdroje a redakční stopa

Lewis a kol., Retrieval-Augmented Generation Zhang a kol., Retrieval and Grounded Generation

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.