Datový únik | AI slovník

Odborná definice

Datový únik vzniká, když se během tréninku nebo prípravy modelu dostane do vstupů informace, která by při reálném použití nebola dostupná, případně když se obsah validační nebo testovací množiny nepřímo využije na učení. Může jít o budúcu hodnotu, proměnnou odvodenou z výsledku, normalizaci vypočítanou nad celým datasetem nebo duplicity mezi rozdeleniami. Únik vytváří uměle vysoký výkon v experimente, protože model řeší jednoduchšiu úlohu než tu, kterou bude řešit v provozu.

Srozumitelné vysvětlení

Představte si model, který má při prijatí pacienta odhadnout riziko hospitalizace. Pokud mu omylem dáte proměnnou vytvorenou až při prepustení, test vypadá výborne, protože vstup už obsahuje část odpovědi. V provozu však tato informace v okamihu rozhodnutí neexistuje. Datový únik je jako skúška, při které žiak nevedomky dostal řešení v zadaní. Najťažšie případy nejsou priame, ale vznikají přes agregace, časové okna, deduplikaci nebo opakované ladění na stejném teste.

Časté otázky

Jaký je rozdíl mezi target leakage a test leakage?

Target leakage znamená, že vstup obsahuje informaci odvodenou od cíle nebo budúcnosti. Test leakage vzniká, když se testovací data použijí při učení, výběru nebo ladění modelu.

Může únik vzniknout při štandardizaci dat?

Ano. Pokud se průměr a odchýlka vypočítají z celého datasetu před rozdělením, trénink získává informaci o validačních a testovacích příkladech.

Jak se únik odhaluje?

Kontroluje se časová dostupnost proměnných, původ feature, pipeline po rozdělení dat, duplicity entít a nepřiměřeně vysoký výkon podozrivých atributů.

Proč je časové rozdělení často bezpečnejšie?

Při predikci budúcnosti zachovává pořadí událostí. Trénink používá pouze minulost a test simuluje pozdější období, čím omezuje prenikání budoucích informací.

Může být únik i mezi dokumentmi pro RAG?

Ano. Pokud hodnotiace otázky nebo jejich odpovědi preniknou do indexu, promptů nebo tréninkových dat, benchmark měří zapametání místo schopnosti vyhladávat a odpovídat.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.