Odborná definícia
Odborná definícia
Embedding drift je zmena rozdelenia, geometrie alebo praktického významu vektorových reprezentácií v čase. Môže vzniknúť zmenou vstupného obsahu, predspracovania, chunkovania, modelu alebo jeho verzie. V RAG a sémantickom vyhľadávaní je kritická nekompatibilita, keď nové dotazy vznikajú v inom priestore než staršie indexované dokumenty. Drift sa sleduje pomocou vzdialeností distribúcií, stability susedov, výkonnostných metrík a kontrolných dotazov, pričom samotný štatistický posun ešte nedokazuje zhoršenie služby.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Predstavte si mapu skladu, na ktorej sa po aktualizácii zmení poloha všetkých regálov, ale staré navigačné body zostanú nezmenené. Systém stále počíta vzdialenosti, ibaže už neukazujú správne susedstvo. Podobný problém nastane, keď sa časť dokumentov prekóduje novým embedding modelom a zvyšok zostane v pôvodnom indexe. Druhým typom je zmena samotného obsahu používateľských otázok. Preto sa oddelene sleduje verzia priestoru, distribúcia vstupov a skutočná úspešnosť retrievalu.
Časté otázky
Časté otázky
Aký je rozdiel medzi embedding driftom a dátovým driftom?
Dátový drift opisuje zmenu vstupov. Embedding drift sleduje ich naučené reprezentácie a môže vzniknúť aj bez zmeny vstupov, napríklad po výmene modelu alebo predspracovania.
Prečo nemožno miešať staré a nové embeddingy?
Súradnice z rôznych modelových priestorov nemajú spoločnú geometriu. Číselná podobnosť medzi nimi preto nemusí vyjadrovať žiadny stabilný význam.
Ktoré kontrolné metriky sú vhodné pre RAG?
Sleduje sa stabilita nearest neighbors, Recall@k na referenčných otázkach, zmena skóre relevantných pasáží, podiel prázdnych výsledkov a výkon po skupinách dotazov.
Znamená posun centroidu automaticky incident?
Nie. Globálny posun môže byť neškodný, ak sa zachovalo lokálne susedstvo a retrieval funguje. Alarm sa preto viaže aj na aplikačné metriky.
Ako bezpečne vymeniť embedding model?
Treba verzovať model aj predspracovanie, prekódovať celý korpus alebo prevádzkovať oddelené indexy, porovnať výsledky na referenčnej sade a pripraviť rollback.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.