Paměťová síť s klúčmi a hodnotami | AI slovník

Odborná definice

Key-value memory network je architektura s explicitnými pameťovými slotmi oddelenými na keys používané na adresování a values obsahujúce informaci odovzdanou ďalšiemu výpočtu. Dotaz se porovnává s klúčmi, attention váhy určia relevantní sloty a vážená kombinace hodnot aktualizuje reprezentaci odpovědi, často ve více hops. Oddělené kódování adresy a obsahu umožňuje pracovat s dokumentmi, faktami nebo stavmi, které mají jinou formu vyhledávání a jinou formu použití. Adresování může být diferencovatelné, takže výběr paměti se učí spolu s odpoveďovou úlohou.

Srozumitelné vysvětlení

V databázi filmů může být klúčom formulace, podle které se fakt hledá, například název filmu a typ vztahu, zatímco hodnotou je jméno režiséra nebo věta z dokumentu. Otázka se porovná s klúčmi, vybere relevantní sloty a z jejich hodnot zostaví odpověď. Při dalším hope může získaná informace spresnit nový dotaz. Síť se učí, co má považovat za adresu a co za obsah, takže není odkázaná na přesnou databázovou shodu. Pokud klúče špatně zachytia otázku, správná hodnota zůstane v pameti, ale mechanismus ji nikdy neprečíta.

Časté otázky

Proč se klúč a hodnota kódují odděleně?

Text vhodný na nájdení záznamu nemusí být nejlepší text na vytvoření odpovědi. Klúč může zvýraznit entitu a vztah, hodnota zachovat větu, objekt nebo dynamický stav, který se má načíst.

Co je memory hop?

Jeden cyklus adresování paměti a aktualizace dotazu. Více hops umožní skladat řetězec faktů, například najít autora a potom jeho rodisko, ale zvyšuje riziko akumulace chyb.

Jak se tato architektura liší od KV cache?

Memory network je učený mechanismus na obsahové adresování externích slotů. KV cache v transformeri uchovává interní attention tenzory minulých tokenů na zrychlení dekódování. Názvy jsou podobné, účely odlišné.

Lze hodnota paměti průběžně měnit?

Ano. Dynamické varianty zachovávají stabilní klúče konceptů a aktualizují hodnoty, například odhad zvládnutia učiva uživatelům. Zápis musí řešit zapomínání, konflikt a stabilitu.

Proč memory networks ustúpili modernému RAG?

RAG často využívá škálovatelné vyhladávače a hotové generativní modely, co ulahčuje aktualizaci korpusu. Pameťové sítě zůstávají důležité jako princip diferencovatelného adresování a v špecializovaných architektúrach.

Související pojmy

Zdroje a redakční stopa

Miller a kol., Key-Value Memory Networks Zhang a kol., Dynamic Key-Value Memory Networks

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.