Batch normalization

Batch normalization je vrstva neurónovej siete, ktorá normalizuje aktivácie v rámci tréningovej dávky a používa naučené škálovanie a posun na stabilizáciu a zrýchlenie učenia.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi určuje, ako sú časti systému usporiadané, ako medzi nimi tečú dáta a aké obmedzenia riešenie má.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je zbytočná zložitosť, neprimeraná spotreba zdrojov, slabá interpretovateľnosť alebo nevhodné správanie pri zmene dát. Voľba architektúry sa musí overiť experimentom a prevádzkovým testom.

Batch normalization sa od pojmov Attention mechanism, Activation function, Convolutional neural network odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.