Odborná definícia
Význam a odborné vymedzenie pojmu
Privacy-preserving machine learning zahŕňa techniky a procesy, ktoré obmedzujú odhalenie osobných alebo citlivých informácií počas zberu dát, tréningu, inference, zdieľania modelu a vyhodnocovania. Patrí sem diferenciálne súkromie, federated learning, secure aggregation, homomorfné šifrovanie, trusted execution environments, syntetické dáta a minimalizácia príznakov. Každá technika chráni iný povrch hrozby a prináša kompromis medzi presnosťou, výkonom, auditovateľnosťou a zložitosťou. Ochrana modelu nenahrádza právny základ, účelové obmedzenie ani riadenie prístupu.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Nemocnice chcú spoločne trénovať model bez odoslania surových záznamov na jedno miesto. Federated learning môže ponechať dáta lokálne, ale aktualizácie modelu môžu stále unikať informácie a centrálny koordinátor môže byť rizikom. Secure aggregation skryje jednotlivé aktualizácie a diferenciálne súkromie obmedzí vplyv jedného pacienta, no môže znížiť kvalitu pri malej vzorke. Správny návrh preto začína hrozbovým modelom, určí, pred kým sa chráni, ktoré údaje môžu opustiť organizáciu a ako sa overí výsledný privacy budget.
Časté otázky
Otázky, ktoré spresňujú význam
Je anonymizácia datasetu postačujúca?
Nie vždy. Kombinácia kvázi-identifikátorov alebo externých zdrojov môže umožniť opätovnú identifikáciu. Treba posúdiť riziko linkage, členstva v tréningu a memorovania modelu.
Ako federated learning chráni súkromie?
Surové dáta zostávajú pri účastníkovi a odosielajú sa aktualizácie. Samotná federácia však negarantuje súkromie, preto sa dopĺňa secure aggregation, clipping a diferenciálne súkromie.
Čo je privacy budget?
Pri diferenciálnom súkromí sumarizuje kumulatívnu mieru možného úniku cez parameter epsilon a súvisiace nastavenia. Viac dotazov alebo tréningových krokov rozpočet spotrebúva.
Môže šifrovanie chrániť inference?
Homomorfné šifrovanie alebo secure computation umožňujú výpočet nad chránenými vstupmi, ale zvyšujú latenciu a obmedzujú podporované operácie. Trusted execution environment chráni výpočet iným modelom dôvery.
Ako sa overí privacy-preserving riešenie?
Kontroluje sa hrozbový model, konfigurácia protokolu, prístupové práva, logy, membership inference testy, privacy accounting a správanie pri výpadku účastníkov. Marketingové označenie privacy-first nestačí.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- NIST Privacy Framework
- NIST, Privacy-enhancing cryptography
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.