Ukotvení výstupu | AI slovník

Odborná definice

Grounding je naviazání výstupu AI na konkrétní ověřitelný kontext, autoritatívne data, nástroj nebo stav prostředí. V generativních systémech se realizuje například retrievalem dokumentů, citacemi, databázovým dotazom, voláním funkce nebo obmedzením odpovědi na poskytnuté důkazy. Cílem je snížit nepodložené tvrzení a zabezpečit aktuálnost či doménovou přesnost. Grounding však není záruka pravdy. Zdroj může být nesprávný, neaktuálny nebo špatně interpretovaný a model může citovat text, který jeho závěr v skutečnosti nepodporuje.

Srozumitelné vysvětlení

Představte si asistenta, který má odpovídat na otázku o firemnej smernici. Bez ukotvení se spolieha na obecné jazykové vzory a může vymyslieť přesvědčivé pravidlo. Při groundingu nejprve otevře aktuálnu smernicu, najde relevantní odsek a odpověď spojí s týmto důkazem. Stále však může vybrat starou verzi nebo z citace odvodit více, než text hovoří. Kvalitní systém proto kontroluje oprávnění k dokumentu, jeho datum, relevantnost, vztah mezi tvrdením a důkazem a prizná, když dostupné zdroje odpověď neobsahují.

Časté otázky

Jak se grounding liší od fine tuningu?

Fine tuning mění parametry a typické chování modelu, ale negarantuje přesné uložení ani aktuálnost faktů. Grounding dodáva konkrétní důkaz při vykonaní požadavky bez potřeby přetrénovat model.

Zaručí retrieval augmented generation pravdivou odpověď?

Ne. Retrieval může přinést nerelevantný nebo zastaraný dokument a generátor může důkaz skreslit. Je třeba samostatně měřit úspěšnost vyhladání, podporu tvrzení a správně odmítnutí.

Jak se měří kvalita groundingu?

Hodnotí se recall relevantních zdrojů, přesnost citací, entailment mezi tvrdením a důkazem, úplnost podpory a podíl odpovědí, které správně priznají chybějící informace.

Co má systém urobit při konflikte zdrojů?

Má identifikovat verzi, autoritu a čas, konflikt transparentne uvést a podle pravidel zvolit nadradený zdroj nebo eskalovat. Tiché zlúčení protichodných tvrzení vytváří falešnou istotu.

Může se grounding týkat i akcií agenta?

Ano. Agent se může ukotvit v aktuálnom stave kalendára, databáze, zařízení nebo transakce. Před akciou musí znova ověřit stav a oprávnění, protože kontext se může mezi plánom a vykonáním změnit.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.