Model hodnotící výstupy jiných modelů | AI slovník

Odborná definice

Judge model je jazykový nebo multimodální model používaný na skórování, porovnávání, klasifikaci nebo zdůvodnení kvality výstupů jiných systémů podle zadanej rubriky. Může hodnotit jeden výstup, párovo vybrat lepší, nebo přiřadit vícerozměrné skóre s referenčnou odpovědí či bez ní. Spolehlivost ovlivňuje pozíciové a štýlové zkreslení, sebe-preference, citlivost na prompt, kontaminace a schopnost ověřit fakta. Judge model není automatický ground truth, proto se meta-evaluuje vůči ludským anotáciám, kontrolným prípadom a stabilite mezi opakovaniami.

Srozumitelné vysvětlení

Tím vygeneruje tisíce odpovědí a člověk nemůže každou podrobne prečítat. Judge model dostane otázku, odpověď a rubriku, například faktická správnost, úplnost a styl, a vrátí skóre nebo pořadí. Také hodnocení je rychle, ale sudca může preferovat dlhší text, vlastní styl nebo odpověď uvedenou na prvním mieste. Proto se jeho verdikt neberie jako objektívna pravda. Nejprve se ověří na ludsky označenom souboru, používají se otočené pořadí, slepé reference a pravidelné kontrolní vzorku.

Časté otázky

Jaký je rozdíl mezi pointwise a pairwise judging?

Pointwise režim hodnotí jednu odpověď podle stupnice. Pairwise režim porovná dvě odpovědi a vybere lepší nebo remízu. Párové rozhodnutí může být jednodušší, ale je citlivé na pořadí a nevrace absolutní úroveň kvality.

Co je position bias?

Sudca může systematicky preferovat prvú nebo druhou odpověď bez ohladu na obsah. Testuje se výmenou pořadí a meráním konzistence. Výsledek lze agregovat z obou poradí nebo označit jako nerozhodný při rozporu.

Potřebuje judge model referenčnou odpověď?

Ne vždy. Reference pomáhá při úlohách s overitelným cílem, ale může být neúplná nebo obsahovat chybu. Při otvorených úlohách se používá rubrika a kontext. Obě nastavení je třeba validovat na ludskom hodnocení.

Jak se judge model meta-evaluuje?

Měří se shoda s odbornými anotátormi, korelace skóre, Cohenovo kappa, konzistence při parafráze, citlivost na pořadí a výkon na adversariálnych kontrolách. Důležité je oddělit data použité na návrh promptu od finálneho testu.

Může judge model hodnotit faktičnost RAG odpovědi?

Může porovnat odpověď s poskytnutými zdroji a označit nepodporované tvrzení. Pokud však zdroj neobsahuje potřebnou informaci, sudca může doplnit vlastní znalosti nebo přehlédnout jemný rozpor. Kritické případy vyžadují ludskou nebo deterministickou kontrolu.

Související pojmy

Zdroje a redakční stopa

Zheng a kol., Judging LLM-as-a-Judge with MT-Bench Gu a kol., A Survey on LLM-as-a-Judge Huang a kol., Fine-tuned Judge Model Is Not a General Substitute

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.