Hallucination

Hallucination je nepodložený alebo fakticky chybný výstup generatívneho modelu, ktorý môže byť jazykovo plynulý a vierohodný napriek absencii spoľahlivého dôkazu.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi treba určiť príčinu, dopad, signály včasného odhalenia, vlastníka nápravy a bezpečný náhradný postup.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je neskoré odhalenie, nejasný dopad a chýbajúci postup nápravy. Potrebné sú merateľné signály, vlastník incidentu, limit zásahu a bezpečný náhradný režim.

Hallucination sa od pojmov Harmful bias, Gradient vanishing, Gradient explosion odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.