Odborná definice
Odborná definice
Reranking je druhá nebo neskoršia fáza, která preusporiada omezený seznam kandidátů pomocí presnejšieho modelu, bohatších příznaků nebo dodatočných pravidel. Zatímco první retriever optimalizuje rychlost a recall nad velkým korpusem, reranker může provést nákladnou interakci mezi dopytom a každým kandidátom, například cross-encoderem. Reranking zvyšuje přesnost prvních pozic, ale nedokáže obnovit relevantní položku, která nebola v kandidátnom zozname. Může také uplatnit diverzitu, čerstvost či bezpečnostní omezení.
Srozumitelné vysvětlení
Srozumitelné vysvětlení
První fáza vyhledávání funguje jako rychlý predvýber ze státisíců položek. Reranker potom venuje více výpočtu pouze desiatkam nebo stovkám kandidátů a porovná jejich s otázkou podrobnejšie. V RAG tak může posunout přesnou pasáž před obecný dokument, v doporučení zas vyvážit relevanci s rozmanitosťou. Jeho strop je však určený predvýberom. Pokud správný dokument mezi kandidátmi není, druhé seřazení nemá co presunúť na vrchol. Latence druhé fáze musí zůstat v súlade s používatelským a prevádzkovým limitem.
Časté otázky
Časté otázky
Jak se reranker liší od retrieval modelu?
Retriever musí lacno prehladat celý index a vytvořit kandidátů. Reranker hodnotí pouze malý seznam a může používat drahšiu interakci mezi dopytom a dokumentem.
Proč se často používá cross-encoder?
Dotaz a dokument vstupují do modelu společně, takže attention zachytí jemné vezby mezi tokenmi. Cena je samostatný výpočet pro každý pár.
Kolik kandidátů má dostat reranker?
Počet se ladí podle recallu retrievera, latence a ceny. Příliš málo kandidátů omezí kvalitu, příliš mnoho může prekročit provozní rozpočet.
Jak se měří přínos rerankingu?
Porovná se ndcg, MRR, Precision@k nebo kvalita grounded odpovědí před a po rerankingu při stejném kandidátnom zozname a stejném časovém limite.
Může reranking obsahovat obchodné pravidla?
Ano, ale pravidla mají být oddělené a auditovatelné. Dostupnost, právně omezení nebo diverzita mohou upravit pořadí po modelovom skóre.
Související pojmy
Související pojmy
Zdroje a redakční stopa
Zdroje a redakční stopa
- Google for Developers, Recommendation systems overview and reranking
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.
