Measurement bias, definícia a použitie | AI slovník

Odborná definícia

Measurement bias je systematická odchýlka medzi javom, ktorý chce systém poznať, a hodnotou, ktorou ho dataset alebo senzor v skutočnosti meria. Vzniká nevhodným proxy ukazovateľom, rozdielnou presnosťou zariadení, procesom zberu, formuláciou otázky alebo nerovnakou dostupnosťou záznamov medzi skupinami. Na rozdiel od náhodného šumu sa chyba opakuje určitým smerom a model ju môže stabilne reprodukovať. Odstránenie modelového biasu preto nemusí pomôcť, ak je skreslený samotný cieľ alebo vstupné meranie.

Zrozumiteľné vysvetlenie

Firma môže chcieť merať pracovný výkon, ale použije počet odoslaných správ. Tento ukazovateľ zachytáva aktivitu v komunikačnom nástroji, nie celý výkon. Zamestnanci, ktorí riešia úlohy mimo chatu, budú systematicky vyzerať slabšie. Model sa potom môže presne naučiť nesprávne meradlo. Measurement bias nie je iba technická chyba senzora. Môže vzniknúť aj z administratívneho procesu, rozdielneho prístupu k službe alebo z toho, že určitá skupina je pozorovaná častejšie než iná.

Časté otázky

Ako sa measurement bias líši od label noise?

Label noise je nesúlad alebo náhodná chyba v konkrétnych štítkoch. Measurement bias je systematický problém v tom, čo a ako štítok alebo príznak reprezentuje.

Môže presný senzor vytvárať skreslené dáta?

Áno. Senzor môže presne merať nesprávnu veličinu alebo byť umiestnený tak, že systematicky nezachytí relevantnú časť procesu.

Ako sa bias odhaľuje?

Porovnaním s nezávislým referenčným meraním, auditom procesu zberu, analýzou rozdielov medzi skupinami a testovaním, či proxy naozaj koreluje s cieľovým konštruktom.

Pomôže vyváženie datasetu?

Nie automaticky. Rovnaký počet záznamov neodstráni chybu meracieho nástroja alebo proxy. Najprv treba opraviť definíciu a proces merania.

Prečo je measurement bias nebezpečný pri spätnej väzbe?

Rozhodnutia modelu môžu meniť, kto bude meraný a aké dáta vzniknú. Skreslenie sa potom posilňuje a vytvára dojem, že pôvodné predpoklady boli správne.

Súvisiace pojmy

Zdroje a redakčná stopa

Google Machine Learning Glossary, measurement bias

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.