Feature extraction, definícia a použitie | AI slovník

Odborná definícia

Feature extraction je prevod surového vstupu na informatívnu číselnú reprezentáciu použitú ďalším modelom alebo pravidlom. Pojem môže označovať ručné odvodenie charakteristík, napríklad spektrogramu zo zvuku, aj získanie aktivácií z vnútornej vrstvy predtrénovanej neurónovej siete. Pri transfer learningu sa extraktor často zmrazí a trénuje sa iba nová hlava. Výsledná reprezentácia musí zachovať informáciu dôležitú pre cieľovú úlohu bez neprimeraného šumu, skreslenia alebo doménovej nezhody.

Zrozumiteľné vysvetlenie

Obrázok má milióny pixelov, no klasifikátor nemusí pracovať priamo s každým z nich. Predtrénovaná sieť môže z fotografie vytvoriť kompaktnejší vektor, v ktorom sú zachytené hrany, tvary a vyššie vizuálne vzory. Tento vektor potom vstúpi do menšieho klasifikátora pre konkrétny produkt. Ak extraktor pozná iba bežné fotografie, nemusí dobre reprezentovať röntgenové snímky alebo technické výkresy. Preto sa testuje prenositeľnosť a podľa potreby sa časť vrstiev dolaďuje.

Časté otázky

Ako sa extraction líši od feature engineeringu?

Feature engineering je širší návrh a transformácia vlastností. Extraction často zdôrazňuje automatické získanie reprezentácie zo surového signálu alebo z vnútorných vrstiev modelu.

Čo znamená frozen feature extractor?

Parametre predtrénovanej časti sa počas nového tréningu nemenia. Učí sa iba následná hlava, čo znižuje výpočet aj riziko preučenia na malom datasete.

Ktorú vrstvu modelu treba použiť?

Skoršie vrstvy zachytávajú všeobecnejšie lokálne vzory, neskoršie sú špecifickejšie pre pôvodnú úlohu. Voľba sa overuje na cieľových dátach.

Môže extraktor zhoršiť fairness?

Áno. Reprezentácia môže potlačiť dôležité signály alebo zachovať neželané zástupné informácie. Výkon treba analyzovať aj po relevantných skupinách.

Ako sa porovnávajú dva extraktory?

Použije sa rovnaký downstream model, dátové rozdelenie a protokol. Sleduje sa presnosť, robustnosť, latencia, veľkosť vektora a stabilita pri doménovom posune.

Súvisiace pojmy

Zdroje a redakčná stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.