Extrakce vstupních reprezentací | AI slovník

Odborná definice

Feature extraction je převod surového vstupu na informativní číselnou reprezentaci použitou dalším modelem nebo pravidlem. Pojem může označovat ruční odvození charakteristik, například spektrogramu ze zvuku, i získání aktivací z vnitřní vrstvy předtrénované neuronové sítě. Při transfer learningu se extraktor často zmrazí a trénuje se pouze nová hlava. Výsledná reprezentace musí zachovat informaci důležitou pro cílovou úlohu bez nepřiměřeného šumu, zkreslení nebo doménové neshody.

Srozumitelné vysvětlení

Obrázek má milióny pixelů, ale klasifikátor nemusí pracovat přímo s každým z nich. Predtrénovaná síť může z fotografie vytvořit kompaktnejší vektor, ve kterém jsou zachytené hrany, tvary a vyšší vizuálně vzory. Tento vektor potom vstúpi do menšieho klasifikátora pro konkrétní produkt. Pokud extraktor pozná pouze běžné fotografie, nemusí dobře reprezentovat röntgenové snímky nebo technické výkresy. Proto se testuje prenositelnost a podle potřeby se část vrstev dolaďuje.

Časté otázky

Jak se extraction liší od feature engineeringu?

Feature engineering je širší návrh a transformace vlastností. Extraction často zdůrazňuje automatické získání reprezentace ze surového signálu nebo z vnútorných vrstev modelu.

Co znamená frozen feature extractor?

Parametry předtrénované části se během nového tréninku nemění. Učí se pouze následná hlava, co snižuje výpočet i riziko přeučení na malém datasete.

Kterou vrstvu modelu je třeba použít?

Skoršie vrstvy zachycují všeobecnejšie lokálně vzory, pozdější jsou špecifickejšie pro původní úlohu. Volba se ověřuje na cílových datech.

Může extraktor zhoršit fairness?

Ano. Reprezentace může potlačit důležité signály nebo zachovat neželané zástupné informace. Výkon je třeba analyzovat i po relevantních skupinách.

Jak se porovnávají dva extraktory?

Použije se stejný downstream model, datové rozdělení a protokol. Sleduje se přesnost, robustnost, latence, velikost vektora a stabilita při doménovém posune.

Související pojmy

Zdroje a redakční stopa

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.