Embedding space | AI slovník

Odborná definice

Embedding space je mnohorozmerný vektorový prostor, ve kterém jsou objekty umiestnené embedding modelem a jejich vztahy se vyhodnocují z geometrie. Blízkost může reprezentovat sémantickou podobnost, funkčnou zamenitelnost nebo jinou vlastnost určenou tréninkovým cílem. Prostor charakterizuje dimenze, hustota, anisotropia, lokálně susedstvá a použitá metrika. Jeho osi nelze automaticky chápat jako pomenované koncepty a dvojrozmerná vizualizace může skreslit vzdálenosti původního vysokorozmerného prostoru.

Srozumitelné vysvětlení

V prostoru embeddingů nemají dokumenty adresu podle abecedy, ale podle naučené podobnosti. Otázka o reklamaci může být blízko návodu na vrátení tovaru a daleko od článku o výrobe, i když obsahují stejné slovo. Když se prostor premietne do grafu s dvěma osami, část struktury se nevyhnutelně ztratí. Pekný zhluk proto není důkazem kvalitného retrievalu. Důležitější je, či správně položky zůstávají mezi najbližšími susedmi při reálných dotazoch a zvolené metrice. Lokální geometrii je třeba ověřit na doménových datech.

Časté otázky

Co určuje geometrii embeddingového prostoru?

Zejména architektura, tréninková data, loss funkce, výběr pozitivních a negativních párů, pooling a normalizace výsledných vektorů.

Proč kosínusová a euklidovská vzdálenost dávají jiné výsledky?

Kosínus porovnává směr, euklidovská vzdálenost i velikost rozdílu. Při jednotkovo normalizovaných vektoroch jsou jejich pořadí úzko prepojené.

Co znamená anisotropia embeddingů?

Vektory nejsou rozložené rovnomerne ve všech smeroch, ale jsou sústredené v části prostoru. To může znižovat rozlišovaci schopnost podobnosti.

Lze význam prostoru vysvetlit přes nejbližších sousedů?

Lokálně susedstvo poskytne užitečný náhlad, ale nejde o úplnou interpretaci. Výsledek ovlivňuje korpus, metrika i hustota konkrétní oblasti.

Jak se testuje stabilita prostoru po aktualizaci?

Porovnají se susedia stejných kontrolných položek, retrieval metriky, distribuce podobností a výkon downstream úloh mezi starou a novou verzí.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.