Nyströmova metoda | AI slovník

Odborná definice

Nyström method je aproximačný postup pro velké pozitivně semidefinitné jadrové matice. Vybere podmnožinu landmark vzorků, vypočítá jádro mezi všemi daty a landmarkmi a z menšej jádrové matice vytvoří nízkorozmernou aproximaci. V strojovém učení se používá na explicitní mapu příznaků, která umožní aplikovat lineární algoritmus jako aproximaci nelineárnej kernel metody. Přesnost závisí na počtu komponentů, strategie výběru landmarků, jadra a spektra původní matice.

Srozumitelné vysvětlení

Kernel SVM může potrebovat matici podobností mezi každou dvojicí příkladů, co je při miliónoch záznamů nepraktické. Nyströmova metoda vybere reprezentatívnu menší skupinu bodů a pomocí ní vytvoří nové příznaky pro celý dataset. Lineární model nad týmito príznakmi potom přibližuje chování původního jadra s nižší pamětí. Pokud landmarky nepokrývají důležité oblasti dat nebo je komponentů málo, aproximace ztratí rozhodujúcu strukturu a výsledek se zhorší.

Časté otázky

Proč se Nyströmova metoda používá při kernel modelech?

Úplná kernel matice roste kvadraticky s počtem příkladů. Nyströmova aproximace vytvoří nízkorozmerné příznaky a umožní trénovat škálovatelnejší lineární model.

Co jsou landmark samples?

Jsou to vybrané referenční příklady, přes které se aproximuje podobnost všech bodů. Mohou se vybrat náhodně, zhlukováním nebo adaptívnou stratégiou podle leverage scores.

Jak se volí počet komponentů?

Vyšší počet obvykle zlepšuje aproximaci, ale zvyšuje paměť a čas. Hodnota se volí validačne vzhledem na spektrum jadra, velikost datasetu a rozpočet.

Je Nyströmova metoda stejná jako random Fourier features?

Ne. Obě aproximují jádro explicitnými príznakmi, ale Nyström používá vzorkované datové landmarky a rozklad jádrové matice, zatímco Fourierove příznaky vzorkují frekvence ze spektrálnej reprezentace jadra.

Kdy může Nyströmova aproximace selhat?

Když jsou landmarky nereprezentatívne, jádrová matice nemá rychle klesajúce spektrum nebo je počet komponentů příliš nízký. Chybu je třeba hodnotit na cílové metrice, ne pouze na rekonštrukcii matice.

Související pojmy

Zdroje a redakční stopa

scikit-learn, Nystroem Using the Nyström Method to Speed Up Kernel Machines

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.