Neural network | AI slovník

Odborná definícia

Neural network je parametrizovaný výpočtový model zložený z vrstiev alebo modulov, ktoré aplikujú lineárne transformácie, nelineárne aktivácie, normalizáciu a ďalšie operácie. Parametre sa spravidla učia gradientnou optimalizáciou tak, aby sieť minimalizovala stratovú funkciu. Hĺbka, prepojenia a zdieľanie váh určujú induktívne skreslenie architektúry. Neurónová sieť môže aproximovať zložité funkcie, no jej výkon a správanie závisia od dát, cieľa, regularizácie, optimalizácie a prevádzkového kontextu.

Zrozumiteľné vysvetlenie

Sieť možno vnímať ako reťaz nastaviteľných transformácií. Prvé vrstvy obrazu zachytia jednoduché hrany, ďalšie skladajú textúry a vyššie vrstvy vytvoria reprezentáciu užitočnú pre klasifikáciu. Pri texte môžu vrstvy pracovať so vzťahmi medzi tokenmi. Názov je inšpirovaný biológiou, ale bežná neurónová sieť nie je simuláciou ľudského mozgu. Je to matematický systém s veľkým počtom parametrov, ktorý môže byť veľmi presný v distribúcii tréningu a súčasne krehký pri nečakanom vstupe.

Časté otázky

Čo robí vrstva neurónovej siete?

Prijme tensor, vykoná definovanú transformáciu a odovzdá výsledok ďalej. Môže ísť o maticové násobenie, konvolúciu, attention, aktiváciu, pooling alebo normalizáciu.

Prečo sieť potrebuje nelineárne aktivácie?

Bez nich by sa ľubovoľný počet lineárnych vrstiev dal zlúčiť do jednej lineárnej transformácie. Nelinearita umožní modelovať zakrivené rozhodovacie hranice a zložité vzťahy.

Čo sú váhy a biasy?

Váhy určujú silu a smer transformácie vstupov, bias posúva výsledok nezávisle od vstupu. Obe skupiny parametrov sa počas tréningu upravujú podľa gradientu straty.

Je väčšia sieť automaticky lepšia?

Nie. Vyššia kapacita môže zlepšiť učenie z veľkých dát, ale zvyšuje cenu, latenciu, riziko preučenia a nároky na evaluáciu. Rozhoduje pomer architektúry, dát a úlohy.

Ako sa neurónová sieť nasadzuje do produkcie?

Okrem váh treba zmraziť predspracovanie, tvar vstupov, verziu runtime, presnosť výpočtu, dekódovanie a monitorovanie. Zmena ktorejkoľvek vrstvy môže zmeniť výsledok.

Súvisiace pojmy

Pojem v rozhodovaní

Odborné články, ktoré tento pojem používajú v praxi

Zdroje a redakčná stopa

NIST and EU-US AI Terminology Deep Learning, Chapter 6

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.