Web-scale training

Web-scale training je tréning modelu na mimoriadne veľkých a rôznorodých dátach získaných z webových zdrojov s rozsiahlym distribuovaným výpočtom.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa sleduje dostupnosť, výkon, náklady, pozorovateľnosť, bezpečnosť a možnosť bezpečného návratu.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je výpadok, nekonzistentná verzia, neprimerané náklady, únik údajov alebo nemožnosť reprodukovať výsledok. Prevádzka potrebuje monitoring, verziovanie a bezpečný návrat.

Web-scale training sa od pojmov Webhook for AI, XLA compiler, YARN cluster manager odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.