Strojové učení chrániace soukromí | AI slovník

Odborná definice

Privacy-preserving machine learning zahrnuje techniky a procesy, které obmedzují odhalení osobních nebo citlivých informací během sběru dat, tréninku, inference, sdílení modelu a vyhodnocování. Patří sem diferenciálne soukromí, federated learning, secure aggregation, homomorfní šifrování, trusted execution environments, syntetická data a minimalizace příznaků. Každá technika chrání jiný povrch hrozby a přináší kompromis mezi přesností, výkonem, auditovatelností a zložitosťou. Ochrana modelu nenahrádza právní základ, účelové omezení ani řízení přístupu.

Srozumitelné vysvětlení

Nemocnice chcú společně trénovat model bez odoslání surových záznamů na jedno místo. Federated learning může ponechat data lokálně, ale aktualizace modelu mohou stále unikat informace a centrálny koordinátor může být rizikem. Secure aggregation skryje jednotlivé aktualizace a diferenciálne soukromí omezí vliv jednoho pacienta, ale může snížit kvalitu při malé vzorku. Správný návrh proto začíná hrozbovým modelem, určí, před zatímco se chrání, které údaje mohou opustit organizaci a jak se ověří výsledný privacy budget.

Časté otázky

Je anonymizace datasetu postačujúca?

Ne vždy. Kombinace kvázi-identifikátorů nebo externích zdrojů může umožnit opetovnou identifikaci. Je třeba posoudit riziko linkage, členstva v tréninku a memorování modelu.

Jako federated learning chrání soukromí?

Surová data zůstávají při účastníkovi a odosielají se aktualizace. Samotná federace však negarantuje soukromí, proto se doplňa secure aggregation, clipping a diferenciálne soukromí.

Co je privacy budget?

Při diferenciálnom súkromí sumarizuje kumulatívnu míru možného úniku přes parameter epsilon a související nastavení. Více dotazů nebo tréninkových kroků rozpočet spotrebúva.

Může šifrování chránit inference?

Homomorfní šifrování nebo secure computation umožňují výpočet nad chránenými vstupmi, ale zvyšují latenci a obmedzují podporované operace. Trusted execution environment chrání výpočet jiným modelem důvěry.

Jak se ověří privacy-preserving řešení?

Kontroluje se hrozbový model, konfigurace protokolu, přístupová práva, logy, membership inference testy, privacy accounting a chování při výpadku účastníků. Marketingové označení privacy-first nestačí.

Související pojmy

Zdroje a redakční stopa

NIST Privacy Framework
NIST, Privacy-enhancing cryptography

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.