Odborná definícia
Odborná definícia
Nyström method je aproximačný postup pre veľké pozitívne semidefinitné jadrové matice. Vyberie podmnožinu landmark vzoriek, vypočíta jadro medzi všetkými dátami a landmarkmi a z menšej jadrovej matice vytvorí nízkorozmernú aproximáciu. V strojovom učení sa používa na explicitnú mapu príznakov, ktorá umožní aplikovať lineárny algoritmus ako aproximáciu nelineárnej kernel metódy. Presnosť závisí od počtu komponentov, stratégie výberu landmarkov, jadra a spektra pôvodnej matice.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Kernel SVM môže potrebovať maticu podobností medzi každou dvojicou príkladov, čo je pri miliónoch záznamov nepraktické. Nyströmova metóda vyberie reprezentatívnu menšiu skupinu bodov a pomocou nej vytvorí nové príznaky pre celý dataset. Lineárny model nad týmito príznakmi potom približuje správanie pôvodného jadra s nižšou pamäťou. Ak landmarky nepokrývajú dôležité oblasti dát alebo je komponentov málo, aproximácia stratí rozhodujúcu štruktúru a výsledok sa zhorší.
Časté otázky
Časté otázky
Prečo sa Nyströmova metóda používa pri kernel modeloch?
Úplná kernel matica rastie kvadraticky s počtom príkladov. Nyströmova aproximácia vytvorí nízkorozmerné príznaky a umožní trénovať škálovateľnejší lineárny model.
Čo sú landmark samples?
Sú to vybrané referenčné príklady, cez ktoré sa aproximuje podobnosť všetkých bodov. Môžu sa vybrať náhodne, zhlukovaním alebo adaptívnou stratégiou podľa leverage scores.
Ako sa volí počet komponentov?
Vyšší počet zvyčajne zlepšuje aproximáciu, ale zvyšuje pamäť a čas. Hodnota sa volí validačne vzhľadom na spektrum jadra, veľkosť datasetu a rozpočet.
Je Nyströmova metóda rovnaká ako random Fourier features?
Nie. Obe aproximujú jadro explicitnými príznakmi, ale Nyström používa vzorkované dátové landmarky a rozklad jadrovej matice, kým Fourierove príznaky vzorkujú frekvencie zo spektrálnej reprezentácie jadra.
Kedy môže Nyströmova aproximácia zlyhať?
Keď sú landmarky nereprezentatívne, jadrová matica nemá rýchlo klesajúce spektrum alebo je počet komponentov príliš nízky. Chybu treba hodnotiť na cieľovej metrike, nie iba na rekonštrukcii matice.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- scikit-learn, Nystroem Using the Nyström Method to Speed Up Kernel Machines
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.