Odborná definice
Význam a odborné vymezení pojmu
Privacy-preserving machine learning zahrnuje techniky a procesy, které obmedzují odhalení osobních nebo citlivých informací během sběru dat, tréninku, inference, sdílení modelu a vyhodnocování. Patří sem diferenciálne soukromí, federated learning, secure aggregation, homomorfní šifrování, trusted execution environments, syntetická data a minimalizace příznaků. Každá technika chrání jiný povrch hrozby a přináší kompromis mezi přesností, výkonem, auditovatelností a zložitosťou. Ochrana modelu nenahrádza právní základ, účelové omezení ani řízení přístupu.
Srozumitelné vysvětlení
Jak se pojem používá v praxi
Nemocnice chcú společně trénovat model bez odoslání surových záznamů na jedno místo. Federated learning může ponechat data lokálně, ale aktualizace modelu mohou stále unikat informace a centrálny koordinátor může být rizikem. Secure aggregation skryje jednotlivé aktualizace a diferenciálne soukromí omezí vliv jednoho pacienta, ale může snížit kvalitu při malé vzorku. Správný návrh proto začíná hrozbovým modelem, určí, před zatímco se chrání, které údaje mohou opustit organizaci a jak se ověří výsledný privacy budget.
Časté otázky
Otázky, které upřesňují význam
Je anonymizace datasetu postačujúca?
Ne vždy. Kombinace kvázi-identifikátorů nebo externích zdrojů může umožnit opetovnou identifikaci. Je třeba posoudit riziko linkage, členstva v tréninku a memorování modelu.
Jako federated learning chrání soukromí?
Surová data zůstávají při účastníkovi a odosielají se aktualizace. Samotná federace však negarantuje soukromí, proto se doplňa secure aggregation, clipping a diferenciálne soukromí.
Co je privacy budget?
Při diferenciálnom súkromí sumarizuje kumulatívnu míru možného úniku přes parameter epsilon a související nastavení. Více dotazů nebo tréninkových kroků rozpočet spotrebúva.
Může šifrování chránit inference?
Homomorfní šifrování nebo secure computation umožňují výpočet nad chránenými vstupmi, ale zvyšují latenci a obmedzují podporované operace. Trusted execution environment chrání výpočet jiným modelem důvěry.
Jak se ověří privacy-preserving řešení?
Kontroluje se hrozbový model, konfigurace protokolu, přístupová práva, logy, membership inference testy, privacy accounting a chování při výpadku účastníků. Marketingové označení privacy-first nestačí.
Související pojmy
Významové a tematické souvislosti
Zdroje a redakční stopa
Použitá východiska a odborná revize
- NIST Privacy Framework
- NIST, Privacy-enhancing cryptography
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.