Odborná definícia
Význam a odborné vymedzenie pojmu
Tensor je dátová štruktúra predstavujúca n-rozmerné pole prvkov rovnakého dátového typu spolu s tvarom, rozložením v pamäti a často aj informáciou o zariadení a potrebe gradientu. Skalár je tensor rádu nula, vektor rádu jedna a matica rádu dva. V AI sa tensory používajú na vstupy, parametre, aktivácie aj gradienty. Matematický pojem tensor je širší, zatiaľ čo knižnice strojového učenia týmto slovom často označujú praktické viacrozmerné pole. Operácie s broadcastom musia byť skontrolované, pretože platný tvar môže vytvoriť numericky nesprávny výsledok bez chyby runtime.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Obraz možno uložiť ako blok čísel s rozmermi výška, šírka a farebný kanál. Dávka obrazov pridá ďalší rozmer. Takýto blok je tensor a knižnica nad ním vykonáva rovnakú operáciu naraz na mnohých prvkoch. Tvar určuje význam osí a dátový typ ovplyvňuje presnosť aj pamäť. Dve polia s rovnakým počtom hodnôt nemusia byť zameniteľné, ak majú iné poradie rozmerov. Chyby tvaru preto patria medzi najčastejšie implementačné problémy neurónových sietí. V debug výstupe sa preto sleduje nielen hodnota, ale aj shape, dtype, device a poradie osí.
Časté otázky
Otázky, ktoré spresňujú význam
Aký je rozdiel medzi tensorom a maticou?
Matica má dve osi. Tensor v programovacích knižniciach môže mať ľubovoľný počet osí, vrátane nuly alebo jednej. Operácie sa riadia tvarom a pravidlami broadcastingu.
Čo znamená shape tensora?
Shape je usporiadaná n-tica veľkostí jednotlivých osí. Pri texte môže ísť napríklad o dávku, dĺžku sekvencie a rozmer embeddingu.
Čo je stride?
Stride určuje, o koľko pamäťových prvkov sa treba posunúť pri pohybe o jednu pozíciu na danej osi. Ovlplyvňuje, či je tensor v pamäti súvislý.
Prečo tensor nesie informáciu o dtype?
Dátový typ určuje rozsah, presnosť, pamäť a podporované operácie. Float32, bfloat16, float16 a int8 majú odlišné numerické aj výkonnostné vlastnosti.
Ako tensor súvisí s automatickou diferenciáciou?
Framework môže k operáciám s tensorom vytvárať výpočtový graf. Ak tensor vyžaduje gradient, spätný priechod vypočíta deriváciu straty podľa jeho hodnôt.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- PyTorch Tensor documentation
- PyTorch Tensors tutorial
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.