BM25, definícia a použitie | AI slovník

Odborná definícia

BM25 je lexikálny rankingový model z probabilistic relevance framework, ktorý skóruje dokument podľa výskytu dotazových termov, ich vzácnosti v kolekcii a normalizácie dĺžky dokumentu. Term frequency má saturujúci prínos, takže desiaty výskyt slova nepridáva rovnakú hodnotu ako prvý. Parameter k1 riadi saturáciu a parameter b silu dĺžkovej normalizácie. BM25 nepracuje priamo so sémantickou podobnosťou, preto nemusí nájsť dokument s vhodnou parafrázou bez spoločných termov. V hybridnom vyhľadávaní sa často kombinuje s embeddingovým retrieverom.

Zrozumiteľné vysvetlenie

Pri dotaze „riadenie rizík AI“ BM25 zvýhodní dokumenty, ktoré obsahujú tieto slová, najmä ak sú v celej kolekcii relatívne vzácne. Dokument s jedným presným výskytom môže byť relevantnejší než veľmi dlhý text, v ktorom sa slovo opakuje desiatkykrát. Dĺžková normalizácia bráni tomu, aby rozsiahle dokumenty vyhrávali iba preto, že obsahujú viac všetkého. Model však nerozumie, že „správa rizika umelej inteligencie“ môže vyjadrovať podobný význam. Preto je BM25 silný pre presnú terminológiu a hybridné RAG systémy ho dopĺňajú vektorovým hľadaním.

Časté otázky

Čo robí parameter k1?

Určuje, ako rýchlo sa prínos term frequency nasýti. Pri nízkom k1 ďalšie opakovania pridávajú málo, pri vyššom majú väčší vplyv. Optimálna hodnota závisí od kolekcie, jazyka a typu dotazov.

Čo robí parameter b?

Riadi dĺžkovú normalizáciu. Hodnota 0 ignoruje dĺžku dokumentu, hodnota 1 používa plnú normalizáciu podľa priemernej dĺžky. Nevhodné nastavenie môže poškodiť krátke záznamy alebo dlhé odborné dokumenty.

Je BM25 lepší než vektorové vyhľadávanie?

Závisí od dotazu. BM25 je výborný pri názvoch, kódoch, presných frázach a odbornej terminológii. Embeddingy lepšie zachytávajú parafrázy. Hybridné vyhľadávanie často dosahuje robustnejší recall než ktorákoľvek metóda samostatne.

Ako sa BM25 používa v RAG?

Retriever zoradí textové chunky podľa lexikálneho skóre a najlepšie odošle generatívnemu modelu ako kontext. Treba ladiť chunking, analyzér jazyka, stop slová a kombinovanie skóre, nie iba samotné k1 a b.

Prečo stemming ovplyvňuje BM25?

BM25 porovnáva termy po analýze textu. Stemming alebo lemmatizácia môže spojiť tvary jedného slova a zvýšiť recall, ale príliš agresívne zlučovanie môže zameniť významy. Slovenská morfológia vyžaduje vhodný analyzér.

Súvisiace pojmy

Zdroje a redakčná stopa

Robertson a Zaragoza, The Probabilistic Relevance Framework: BM25 and Beyond

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.