Odborná definícia
Odborná definícia
Quantization je prevod váh alebo aktivácií modelu na číselný formát s menšou presnosťou s cieľom znížiť pamäť, latenciu a spotrebu.
Zrozumiteľné vysvetlenie
Zrozumiteľné vysvetlenie
Jednoducho povedané, Quantization je prevod váh alebo aktivácií modelu na číselný formát s menšou presnosťou s cieľom znížiť pamäť, latenciu a spotrebu. V praxi sa prínos metódy overuje porovnaním s jednoduchšou základnou verziou a na dátach zodpovedajúcich cieľu.
Časté otázky
Časté otázky
Čo je Quantization?
Quantization je prevod váh alebo aktivácií modelu na číselný formát s menšou presnosťou s cieľom znížiť pamäť, latenciu a spotrebu.
Na čo sa Quantization používa?
Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa prínos metódy overuje porovnaním s jednoduchšou základnou verziou a na dátach zodpovedajúcich cieľu.
Ako sa Quantization overuje v praxi?
Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.
Aké riziká alebo obmedzenia treba pri Quantization sledovať?
Rizikom je použitie bez porovnávacej základne, prenos do nevhodnej domény alebo skrytý vedľajší účinok. Prínos sa musí overiť kontrolovaným experimentom na dátach zodpovedajúcich cieľu.
Čím sa Quantization líši od súvisiacich pojmov?
Quantization sa od pojmov Quantization-aware training, Query expansion, Query rewriting odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.
Súvisiace pojmy
Súvisiace pojmy
Zdroje a redakčná stopa
Zdroje a redakčná stopa
- ISO/IEC 22989:2022
- NIST AI Risk Management Framework 1.0
- OECD AI Principles
- Primárna odborná literatúra podľa typu pojmu
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.