Odborná definícia
Význam a odborné vymedzenie pojmu
Beam search je heuristický algoritmus na hľadanie vysoko skórovanej sekvencie v priestore, ktorý rastie exponenciálne s dĺžkou výstupu. V každom kroku rozšíri aktuálne kandidátne prefixy o možné ďalšie tokeny a ponechá iba stanovený počet najlepších hypotéz, nazývaný beam width. Nezaručuje globálne optimum, pretože vyradený prefix už neobnoví. Výsledok ovplyvňuje šírka lúča, normalizácia podľa dĺžky, podmienky zastavenia a prípadné obmedzenia. Používa sa v preklade, rozpoznávaní reči a ďalších autoregresívnych úlohách.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Generátor pri prvom slove nepozná celú budúcu vetu. Greedy decoding vždy vyberie momentálne najpravdepodobnejší token, čím sa môže skoro uzamknúť do zlej cesty. Beam search drží napríklad päť rozpracovaných viet, každú rozšíri a znovu ponechá päť najlepších. Získa tak väčší rozhľad bez prehľadania všetkých možností. Širší lúč však zvyšuje výpočet a nemusí zlepšiť prirodzenosť, pretože modelové skóre nemusí presne zodpovedať kvalite textu. Pri LLM sa preto často používajú aj samplingové stratégie.
Časté otázky
Otázky, ktoré spresňujú význam
Čo je beam width?
Je to počet čiastočných hypotéz uchovávaných po každom kroku. Hodnota 1 zodpovedá greedy search. Väčšia hodnota rozširuje vyhľadávanie, ale zvyšuje pamäť a čas a môže zvýrazniť chyby samotného modelového skóre.
Prečo sa používa length normalization?
Súčet log pravdepodobností sa s každým tokenom znižuje, takže bez korekcie môže algoritmus preferovať príliš krátke sekvencie. Normalizácia alebo length penalty upraví porovnanie hypotéz rôznej dĺžky.
Zaručí beam search najpravdepodobnejšiu sekvenciu?
Nie. Pruning môže odstrániť prefix, ktorý by neskôr viedol k lepšiemu výsledku. Presné hľadanie je pri veľkom slovníku a dlhej sekvencii väčšinou nepraktické. Beam search je kompromis medzi greedy voľbou a úplným prehľadávaním.
Ako funguje constrained beam search?
Algoritmus obmedzí alebo upraví rozširovanie tak, aby výstup obsahoval požadované tokeny, frázy alebo štruktúru. Používa sa pri terminologicky viazanom preklade alebo generovaní podľa formátu, no zložité obmedzenia zvyšujú cenu hľadania.
Prečo sa beam search menej používa pri otvorenom chatovaní?
Otvorený text má mnoho rovnocenných pokračovaní a maximalizácia pravdepodobnosti môže produkovať jednotvárne odpovede. Sampling s temperature, top-k alebo top-p poskytuje väčšiu variabilitu. Beam search zostáva užitočný tam, kde je cieľ presnejšie definovaný.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Freitag a Al-Onaizan, Beam Search Strategies for Neural Machine Translation
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.