Retrieval model, definícia a použitie | AI slovník

Odborná definícia

Retrieval model je funkcia alebo naučený systém, ktorý odhaduje relevanciu položky voči dopytu a umožňuje vybrať kandidátov z veľkého korpusu. Sparse modely používajú termínové váhy, dense bi-encodery mapujú dopyt a dokument do vektorov a late-interaction prístupy zachovávajú jemnejšie tokenové porovnanie. Model musí podporovať efektívne indexovanie a nearest-neighbor search. Jeho skóre nie je automaticky porovnateľné medzi verziami alebo dopytmi a kvalita závisí od negatívnych príkladov a cieľovej domény.

Zrozumiteľné vysvetlenie

Retrieval model rozhoduje, ktoré položky sa vôbec dostanú do užšieho výberu. Pri dense prístupe vytvorí vektor otázky a hľadá dokumenty s blízkymi vektormi. To je rýchle, pretože dokumenty môžu byť zakódované vopred, no jemné detaily interakcie medzi každým slovom otázky a textu sa zjednodušia. Model preto optimalizujeme hlavne na vysoký záchyt relevantných kandidátov. Presnejšie, ale drahšie posúdenie môže prísť v samostatnom rerankeri. Retrieval model sa preto hodnotí najmä podľa toho, čo do výberu dostal, nie iba podľa prvého miesta.

Časté otázky

Aký je rozdiel medzi sparse a dense retrieval modelom?

Sparse model zvýrazňuje konkrétne termíny a presné zhody, dense model pracuje so spojitými embeddingmi a lepšie zachytáva parafrázy. Hybrid často kombinuje ich silné stránky.

Prečo sú dôležité hard negatives?

Sú to nerelevantné dokumenty, ktoré sa veľmi podobajú správnym. Učia model rozlišovať jemné rozdiely, ktoré náhodné negatíva neodhaľujú.

Čo sa stane po aktualizácii encoderu dokumentov?

Staré vektory už nemusia byť kompatibilné s novým dopytovým encoderom. Index sa má znovu vytvoriť alebo musí existovať riadená migračná stratégia.

Je cosine similarity vždy správna metrika?

Nie. Niektoré modely sa trénujú pre dot product, cosine alebo inú funkciu. Serving musí použiť rovnakú geometriu a normalizáciu ako tréning.

Ako zistím, že model potrebuje doménový fine-tuning?

Ak zlyháva na terminológii, skratkách a typických otázkach domény napriek správnemu indexu. Potrebné sú vlastné relevance judgments a porovnanie s lexikálnym baseline.

Súvisiace pojmy

Zdroje a redakčná stopa

Karpukhin et al., Dense Passage Retrieval for Open-Domain Question Answering, 2020

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.