Odborná definícia
Odborná definícia
Grounding je naviazanie výstupu AI na konkrétny overiteľný kontext, autoritatívne dáta, nástroj alebo stav prostredia. V generatívnych systémoch sa realizuje napríklad retrievalom dokumentov, citáciami, databázovým dotazom, volaním funkcie alebo obmedzením odpovede na poskytnuté dôkazy. Cieľom je znížiť nepodložené tvrdenia a zabezpečiť aktuálnosť či doménovú presnosť. Grounding však nie je záruka pravdy. Zdroj môže byť nesprávny, neaktuálny alebo zle interpretovaný a model môže citovať text, ktorý jeho záver v skutočnosti nepodporuje.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Predstavte si asistenta, ktorý má odpovedať na otázku o firemnej smernici. Bez ukotvenia sa spolieha na všeobecné jazykové vzory a môže vymyslieť presvedčivé pravidlo. Pri groundingu najprv otvorí aktuálnu smernicu, nájde relevantný odsek a odpoveď spojí s týmto dôkazom. Stále však môže vybrať starú verziu alebo z citácie odvodiť viac, než text hovorí. Kvalitný systém preto kontroluje oprávnenie k dokumentu, jeho dátum, relevantnosť, vzťah medzi tvrdením a dôkazom a prizná, keď dostupné zdroje odpoveď neobsahujú.
Časté otázky
Časté otázky
Ako sa grounding líši od fine tuningu?
Fine tuning mení parametre a typické správanie modelu, no negarantuje presné uloženie ani aktuálnosť faktov. Grounding dodáva konkrétny dôkaz pri vykonaní požiadavky bez potreby pretrénovať model.
Zaručí retrieval augmented generation pravdivú odpoveď?
Nie. Retrieval môže priniesť nerelevantný alebo zastaraný dokument a generátor môže dôkaz skresliť. Treba samostatne merať úspešnosť vyhľadania, podporu tvrdení a správne odmietnutie.
Ako sa meria kvalita groundingu?
Hodnotí sa recall relevantných zdrojov, presnosť citácií, entailment medzi tvrdením a dôkazom, úplnosť podpory a podiel odpovedí, ktoré správne priznajú chýbajúce informácie.
Čo má systém urobiť pri konflikte zdrojov?
Má identifikovať verziu, autoritu a čas, konflikt transparentne uviesť a podľa pravidiel zvoliť nadradený zdroj alebo eskalovať. Tiché zlúčenie protichodných tvrdení vytvára falošnú istotu.
Môže sa grounding týkať aj akcií agenta?
Áno. Agent sa môže ukotviť v aktuálnom stave kalendára, databázy, zariadenia alebo transakcie. Pred akciou musí znova overiť stav a oprávnenie, pretože kontext sa môže medzi plánom a vykonaním zmeniť.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.