Dolování náročných negativních příkladů | AI slovník

Odborná definice

Hard negative mining je proces, při kterém se z velké množiny negativních kandidátů cíleně vybírají ty, které aktuální model zamieňa s pozitívnymi nebo im přiřazuje vysokou podobnost. Výběr může probíhat v rámci minibatchu, z průběžně obnovovaného indexu, pomocí staršej verze modelu nebo kombinací více retrieverů. Cílem je soustředit učení na rozhodovací hranici a zvýšit diskriminačnou schopnost. Příliš agresívne dolování může zosilnit chyby anotace, opakovaně vyberat stejné případy, snížit rozmanitost a destabilizovat trénink.

Srozumitelné vysvětlení

Místo toho, aby tréner dával modelu stále náhodné a očividne nesprávně možnosti, nechá ho prehladat databázi a zozbiera odpovědi, při kterých si byl nesprávně najistejší. Ty se vrátia do dalšího kola učení. Vyhladávač se tak zameria na dokumenty s stejným názvem produktu, ale inou verzí, nebo na podobné právně ustanovení z nesprávneho predpisu. Postup je účinný, ale model může vyťahovat i legitimní alternatívne odpovědi. Bez kontroly labelů by jejich potrestal a zhoršil recall přesně tam, kde je realita nejednoznačná.

Časté otázky

Kdy se hard negative mining provádí?

Může se dělat před tréninkem pomocí existujúceho retrievera, periodicky mezi epochami nebo online v každém batchi. Častejšia obnova lépe sleduje aktuální model, ale zvyšuje výpočetní a infraštruktúrne náklady.

Co je in-batch negative mining?

Pozitivně položky ostatních dvojic v minibatchi se používají jako negatívy pro daný dotaz. Metoda je lacná a škáluje s velikostí batchu, ale může vytvářet false negatives, pokud se témy nebo správně odpovědi prekrývají.

Jak se zabrání opakování stejných náročných příkladů?

Používá se náhodný výběr z pásma skóre, kvóty podle kategorií, deduplikace a kombinace náročných, stredných i náhodných negatívů. Diverzita chrání model před úzkym prispůsobením jedné skupině chyb.

Proč může dolování zhoršit trénink?

Pokud model na začátku používá slabé reprezentace, jeho najbližší susedia nemusí být informatívni. Chybné labely dostanou vysokou váhu a gradienty se sústredia na sporné případy, co může vést k nestabilite nebo kolapsu.

Jak se hodnotí přínos hard negative mining?

Porovnává se retrieval recall, rankingová přesnost a výkon na ťažkých testovacích skupinách proti rovnakému tréninku s náhodnými negatívmi. Současně se sleduje podíl false negatives a náklady na obnovu indexu.

Související pojmy

Zdroje a redakční stopa

Xuan a kol., Hard Negative Examples are Hard, but Useful (ecva.net) Kalantidis a kol., Hard Negative Mixing (papers.neurips.cc)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.