Odborná definícia
Odborná definícia
Hard negative je tréningový príklad označený ako negatívny, ktorý sa podľa aktuálnej reprezentácie veľmi podobá pozitívnemu príkladu alebo leží blízko rozhodovacej hranice. Pri vyhľadávaní môže ísť o dokument tematicky podobný dotazu, ale bez správnej odpovede, pri rozpoznávaní tváre o inú osobu s podobnými črtami. Taký príklad prináša silný učiaci signál, pretože núti model zachytiť jemné rozlišovacie znaky. Ak je však údaj v skutočnosti relevantný alebo chybne označený, stáva sa false negative a model sa učí oddeľovať prvky, ktoré majú zostať blízko.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Pri tréningu vyhľadávača je náhodný negatívny dokument o varení pre otázku o daňovej sadzbe príliš ľahký. Model ho odmietne bez hlbšieho pochopenia. Náročný negatív môže hovoriť o daniach, používať rovnaké čísla a právne výrazy, ale vzťahovať sa na inú krajinu alebo obdobie. Až taký príklad model naučí kontrolovať jurisdikciu a dátum. Problém nastane, keď dokument obsahuje čiastočnú správnu odpoveď a dataset ho napriek tomu označí ako nerelevantný. Silný tréningový signál sa potom zmení na systematickú chybu dohľadu.
Časté otázky
Časté otázky
Čím sa hard negative líši od bežného negatívneho príkladu?
Bežný negatív stačí na označenie nesprávnej triedy, no model ho môže rozlíšiť okamžite. Hard negative je blízko pozitívu v dátach alebo embeddingovom priestore, takže odhaľuje, či model pozná rozhodujúci detail.
Môže byť hard negative vytvorený umelo?
Áno. Možno zmeniť jednu podstatnú vlastnosť pozitívneho príkladu, použiť generátor alebo vybrať suseda z indexu. Syntetický príklad musí zostať realistický a skutočne negatívny, inak vnáša artefakty alebo nesprávny label.
Prečo sú hard negatives dôležité pre RAG?
Retriever potrebuje odlíšiť pasáž, ktorá iba zdieľa kľúčové slová, od pasáže podporujúcej odpoveď. Náročné negatívy učia model vnímať verziu dokumentu, entitu, časový rozsah a presný vzťah k otázke.
Sú najťažšie negatívy vždy najlepšie?
Nie. Úplne najbližšie položky môžu byť chybne označené, duplicitné alebo relevantné z iného uhla. Kurikulum často začína stredne náročnými príkladmi a postupne zvyšuje obtiažnosť pri kontrole false negatives.
Ako sa overuje kvalita hard negative?
Vzorka sa ručne posúdi podľa jasných kritérií relevancie, sleduje sa zdroj výberu a miera sporných labelov. Pri retrievale je vhodné zachovať viacstupňové hodnotenie, nie iba binárne relevantný alebo nerelevantný.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Schroff a kol., FaceNet (arxiv.org) Karpukhin a kol., Dense Passage Retrieval (arxiv.org)
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.