Proximal policy optimization

Proximal policy optimization je algoritmus posilňovaného učenia, ktorý aktualizuje politiku v obmedzených krokoch pomocou orezaného cieľa, aby zlepšil stabilitu učenia.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi treba poznať vstupy, kroky výpočtu, výstup a podmienky, pri ktorých je výsledok spoľahlivý.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je nesprávny vstup, nevhodná voľba postupu, numerická nestabilita alebo použitie mimo overeného rozsahu. Prevenciou sú hraničné testy, porovnanie s referenčným riešením a meranie chýb.

Proximal policy optimization sa od pojmov Principal component analysis, Policy gradient, Q-learning odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.