Uncertainty estimation

Uncertainty estimation je odhad neistoty predikcie, parametrov alebo dát, ktorý pomáha rozlíšiť spoľahlivé výstupy od prípadov vyžadujúcich opatrnosť.

Použitie závisí od konkrétnej úlohy a očakávaného výsledku. V praxi potrebuje reprodukovateľný protokol, vhodnú porovnávaciu základňu a analýzu chýb aj neistoty.

Overenie sa robí na reprezentatívnych dátach alebo scenároch, voči jasnej porovnávacej základni a pomocou metrík zodpovedajúcich reálnemu cieľu. Kontrola má zahŕňať aj hraničné prípady, neistotu a prevádzkové náklady.

Rizikom je nereprezentatívny test, únik dát, preladenie na benchmark alebo zamenenie priemernej metriky za bezpečnú prevádzku. Hodnotenie musí zahŕňať hraničné prípady a analýzu chýb.

Uncertainty estimation sa od pojmov Turing test, Unit test for AI, SHAP odlišuje funkciou, vstupmi, spôsobom výpočtu a účelom výsledku. Súvisiace pojmy môžu spolupracovať, nie sú však automaticky zameniteľné.