Grafová pozornostní síť | AI slovník

Odborná definice

Graph attention network je architektura GNN, která při agregaci sousedů počítá naučené attention koeficienty pro jednotlivé hrany nebo dvojice uzlů. Koeficienty se v susedstve normalizují a určují váhu transformovaných vlastností při aktualizaci reprezentace uzla. Několik attention heads může stabilizovat učení nebo zachytit odlišné vztahy. GAT umožňuje rozdílně vážení sousedů bez pevnej spektrálnej bázy a podporuje induktivní úlohy. Pozornostní váhy však nejsou automaticky kauzálnym vysvětlením a původná formulace má omezení statickej pozornosti.

Srozumitelné vysvětlení

V běžné grafovej agregaci může uzel počúvat všech sousedů podobně. GAT se učí, komu venovat větší pozornost. Při odhalování podvodu může být transakce s novým zahraničným účtom důležitejšia než pravidelná platba za elektrinu, ačkoli obě jsou sousední hrany. Model vypočítá váhy z reprezentací uzlů a vytvoří jejich vážený souhrn. Více hláv může sledovat různé typy vztahů. Vysoká attention váha však neznamená, že daný soused byl jedinou príčinou rozhodnutí, protože reprezentace vznikli v předchozích vrstvách a ovlivňuje jejich celý graf.

Časté otázky

Jak se GAT liší od graph convolutional network?

GCN často používá váhy odvozené ze stupňů a struktury grafu, zatímco GAT se učí relatívnu důležitost sousedů z jejich reprezentací. Obě metody zůstávají formami lokálneho message passingu.

K čemu slouží více attention heads?

Hlavy mohou zachytit rozdílně vzory susedstva a snížit varianci učení. Jejich výstupy se konkatenizují nebo průměrují, co mění rozměr reprezentace a výpočtovou cenu.

Dokáže GAT používat vlastnosti hrán?

Původná verze se soustřeďuje zejména na vlastnosti uzlů. Rozšíření přidávají typ, směr, čas nebo atributy hrán do výpočtu attention skóre a správy.

Proč je GAT náročný na velkých grafech?

Attention koeficient se počítá pro mnoho hrán a vrstvy potřebují sousední reprezentace. Sampling, mini batch subgrafy a řídké operace snižují paměť, ale mohou měnit dostupný kontext.

Jsou attention váhy spolahlivým vysvětlením?

Ne samy sám o sobě. Váha vyjadřuje interný mechanismus agregace, ne nevyhnutnost nebo kauzalitu. Ověřuje se perturbací, stabilitou a porovnáním s inými atribučnými metódami.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.