ukotvení odpovědi ve webových zdrojích | AI slovník

Odborná definice

Web grounding je proces, při kterém generativní systém získává aktuálně nebo overitelné informace z webových zdrojů a váže na ne tvrzení ve výstupu. Pipeline zahrnuje formulaci dotazu, retrieval, výběr stránok, extrakci relevantních pasáží, posouzení důveryhodnosti, syntézu a citování. Ukotvení snižuje závislost od parametrových znalostí, ale nezaručuje pravdivost, protože web může být chybný, zastaraný nebo manipulovaný. Kvalita se hodnotí podle podpory tvrzení, aktuálnosti, pokrytí a přesnosti atribuce.

Srozumitelné vysvětlení

Když se model opýta na dnešnou cenu, nemal by si ji domyslieť ze starého tréninku. Nejprve vyhladá zdroj, otevře relevantní stránku, rozlíši datum a až potom vytvoří odpověď s odkazom na důkaz. Samotné pripojení internetu však nestačí. Systém může vybrat neoficiálny blog, zaměnit datum publikování za datum události nebo citovat stránku, která tvrzení vůbec nepodporuje. Web grounding je proto celý proces overování a atribuce, ne pouze technická možnost spustit vyhledávání.

Časté otázky

Je web grounding to jisté jako RAG?

Je to špecifický retrievalem podporovaný postup nad webom. RAG může pracovat i s internými dokumentmi, databázou, znalostným grafem nebo jiným kontrolovaným korpusem.

Proč citace nemusí dokazovat tvrzení?

Odkaz může směřovat na tematicky podobnou stránku, ale konkrétně číslo nebo závěr se v ní nemusí nachádzat. Potřebná je kontrola entailmentu mezi pasážou a vetou.

Jak se řeší aktuálnost zdrojů?

Systém má rozlišovat datum události, publikování a poslední aktualizace, porovnat více zdrojů a při nestabilních údajoch uprednostnit primární systém záznamu.

Co je zdrojová autorita?

Je to kontextová důvěryhodnost vydavatela pro dané tvrzení. Oficiálny regulátor je silný při pravidlách, výrobca při špecifikaci a nezávislá studie při porovnávacom výkone.

Jak se měří groundedness?

Hodnotí se, či každé overitelné tvrzení vyplývá z priloženého důkazu, či citace ukazuje správnou pasáž a či odpověď neprekračuje obsah zdrojů.

Související pojmy

Zdroje a redakční stopa

OpenAI, WebGPT
OpenAI, BrowseComp

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.