Hluboká neuronová síť | AI slovník

Odborná definice

Deep neural network je neuronová síť s více po sebe nasledujúcimi transformačnými vrstvami mezi vstupem a výstupem. Každá vrstva aplikuje naučenou lineárnu nebo jinou parametrickou operaci a nelinearitu, čím vytváří čoraz abstraktnejšiu reprezentaci. Hloubka umožňuje efektivně skladat složité funkce, ale zároveň komplikuje optimalizaci, interpretaci a kontrolu generalizace. Konkrétnou hlbokou sítí může být konvoluční síť, transformer, rekurentní architektura nebo kombinovaný multimodální model.

Srozumitelné vysvětlení

Hluboká neuronová síť není definovaná pouze velkým počtem neuronů, ale zejména reťazením vrstev, ve kterých se informace postupně mění. Při analýze zvuku může jedna vrstva zachytit frekvenčné změny, další fonetické vzory a vyšší význam slova. Každý krok je jednodušší než celá úloha, ale jejich skladání vytváří silnou funkci. Problémem je, že chyba i zkreslení se mohou prenášat přes mnoho vrstev. Proto se sledují aktivace, gradienty, kalibrace i chování na okrajových případech.

Časté otázky

Kolik vrstev musí mít síť, aby byla hluboká?

Neexistuje pevná hranice. Pojem vyjadřuje viacstupňové učení reprezentací, přičemž moderní modely mohou mít desiatky až tisíce bloků.

Proč se používají reziduální spojení?

Umožňují informaci a gradientu obejít část vrstev. Zjednodušují trénink velmi hlubokých sítí a obmedzují degradaci výkonu.

Co způsobuje miznúci gradient?

Při opakovaném násobení malými derivacemi se signál pro časné vrstvy zmenšuje. Pomáhají vhodné aktivace, inicializace, normalizace a reziduální cesty.

Je transformer hluboká neuronová síť?

Ano. Skládá se z opakovaných bloků pozornosti a dopredných vrstev, které se učí reprezentace sekvencí nebo multimodálnych vstupů.

Jak se měří kapacita sítě?

Přibližně počtem parametrů, šírkou, hlbkou a architekturou, ale praktickou kapacitu ovlivňuje i optimalizace, regularizace a množství dat.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.