Odborná definícia
Odborná definícia
Reranking je druhá alebo neskoršia fáza, ktorá preusporiada obmedzený zoznam kandidátov pomocou presnejšieho modelu, bohatších príznakov alebo dodatočných pravidiel. Kým prvý retriever optimalizuje rýchlosť a recall nad veľkým korpusom, reranker môže vykonať nákladnú interakciu medzi dopytom a každým kandidátom, napríklad cross-encoderom. Reranking zvyšuje presnosť prvých pozícií, no nedokáže obnoviť relevantnú položku, ktorá nebola v kandidátnom zozname. Môže tiež uplatniť diverzitu, čerstvosť či bezpečnostné obmedzenia.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Prvá fáza vyhľadávania funguje ako rýchly predvýber zo státisícov položiek. Reranker potom venuje viac výpočtu iba desiatkam alebo stovkám kandidátov a porovná ich s otázkou podrobnejšie. V RAG tak môže posunúť presnú pasáž pred všeobecný dokument, v odporúčaní zas vyvážiť relevanciu s rozmanitosťou. Jeho strop je však určený predvýberom. Ak správny dokument medzi kandidátmi nie je, druhé zoradenie nemá čo presunúť na vrchol. Latencia druhej fázy musí zostať v súlade s používateľským a prevádzkovým limitom.
Časté otázky
Časté otázky
Ako sa reranker líši od retrieval modelu?
Retriever musí lacno prehľadať celý index a vytvoriť kandidátov. Reranker hodnotí iba malý zoznam a môže používať drahšiu interakciu medzi dopytom a dokumentom.
Prečo sa často používa cross-encoder?
Dopyt a dokument vstupujú do modelu spoločne, takže attention zachytí jemné väzby medzi tokenmi. Cena je samostatný výpočet pre každý pár.
Koľko kandidátov má dostať reranker?
Počet sa ladí podľa recallu retrievera, latencie a ceny. Príliš málo kandidátov obmedzí kvalitu, príliš veľa môže prekročiť prevádzkový rozpočet.
Ako sa meria prínos rerankingu?
Porovná sa nDCG, MRR, Precision@k alebo kvalita grounded odpovedí pred a po rerankingu pri rovnakom kandidátnom zozname a rovnakom časovom limite.
Môže reranking obsahovať obchodné pravidlá?
Áno, ale pravidlá majú byť oddelené a auditovateľné. Dostupnosť, právne obmedzenia alebo diverzita môžu upraviť poradie po modelovom skóre.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- Google for Developers, Recommendation systems overview and reranking
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.