CNN architektura s depthwise separable convolution

Odborná definice

Xception je konvoluční neuronová architektura navržená Françoisom Cholletom jako extrémna interpretace modulů Inception. Prostorovou filtraci provádí samostatně v každém kanáli pomocí depthwise convolution a následně mieša kanály bodovou konvolúcí 1 krát 1. Síť používá reziduální spojení a vstupní, stredný a výstupný tok bloků. Oddělení priestorových a medzikanálových korelací může efektivněji využívat parametry, ale nezaručuje nižší latenci na každém hardwaru. Implementace musí správně nastavit padding, stride a normalizaci.

Srozumitelné vysvětlení

Běžná konvolúce najednou hledá obrazový vzor i kombinuje informace ze všech kanálů. Xception tyto dvě úlohy rozdělí. Nejprve každý kanál prefiltruje samostatně a potom jejich spojí lacnejšou operací 1 krát 1. Je to podobné, jako keby odborníci nejprve nezávisle analyzovali svoje signály a až potom vytvořili společný závěr. Úspora operací závisí na rozměrů vrstvy a zařízení, proto se reálný výkon měří na cílovém runtime. Při malých dávkách je třeba ověřit i chování batch normalization, protože může ovlivnit přenos na novou doménu.

Časté otázky

Jak se Xception liší od Inception?

Inception kombinuje více paralelných vetiev s různými filtrami. Xception nahrazuje tento princip opakovanými depthwise separable convolutions s reziduálnymi spojeniami.

Co dělá depthwise convolution?

Aplikuje samostatný priestorový filtr na každý vstupní kanál. Kanály mezi sebou nemieša, tuto úlohu provede následná pointwise convolution.

Je Xception vždy menší než Inception V3?

Původní porovnání malo podobný počet parametrů. Přínos byl pripísaný efektívnejšiemu využitiu kapacity, ne jednoduchému zmenšení modelu.

Na jaké úlohy se používá?

Zejména na klasifikaci a jako backbone pro detekci, segmentaci nebo medicínské zobrazování. Výstupná hlava se přizpůsobuje konkrétní úloze.

Co je třeba kontrolovat při transfer learningu?

Vstupní rozlišení, normalizaci očakávanou checkpointom, zmrazení vrstev, learning rate nové hlavy a rozdíl mezi zdrojovou a cílovou doménou.

Související pojmy

Zdroje a redakční stopa

Xception, Deep Learning with Depthwise Separable Convolutions Keras Applications, Xception

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.