Contrastive learning

Contrastive learning je učenie reprezentácií, ktoré približuje podobné páry príkladov a odďaľuje nepodobné páry v latentnom priestore podľa kontrastnej stratovej funkcie.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi sa prínos metódy overuje porovnaním s jednoduchšou základnou verziou a na dátach zodpovedajúcich cieľu.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je použitie bez porovnávacej základne, prenos do nevhodnej domény alebo skrytý vedľajší účinok. Prínos sa musí overiť kontrolovaným experimentom na dátach zodpovedajúcich cieľu.

Contrastive learning sa od pojmov Curriculum learning, Data augmentation, Chunking odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.