strojové odnaučení | AI slovník

Odborná definice

Unlearning je soubor metod, kterých cílem je odstranit nebo podstatně omezit vliv určených tréninkových dat, uživatelů, tříd nebo znalostí z už natrénovaného modelu. Exact unlearning má vést k výsledku ekvivalentnému pretrénování bez odstránených dat, approximate unlearning hledá lacnejšiu aproximaci. Úspěch nelze posoudit pouze tím, že model přestane reprodukovat jeden text. Potřebné jsou testy členstva, memorování, výkonu, vedlajších škůd a opakovaného učení odstráneného obsahu. Požadavek na odstranění se váže na identifikátory dat, všechny derivované artefakty, modelové verze a důkaz provedení.

Srozumitelné vysvětlení

Vymazání riadka z databáze nezmění model, který se z něho už naučil parametry. Unlearning se snaží tuto stopu odstranit bez úplného tréninku od nuly. Při jednoduché architektúre lze prepočítat pouze část modelu, při velkém generatívnom modeli se často používá približná úprava váh nebo cielené dolaďování. Najťažšie je dokázat, že informace skutečně prestala ovplyvňovat chování, a přitom se nepoškodili legitimní znalosti, které s ňou zdielají reprezentaci. Organizace musí předem rozhodnout, či akceptuje aproximaci, úplný retraining nebo ukončení používání modelu při neoveritelnom výsledku.

Časté otázky

Je unlearning to jisté jako zmazání tréninkového souboru?

Ne. Zmazání souboru zabrání budúcemu použití, ale nemění existujúce váhy, checkpointy, embeddingové indexy ani derivované datasety.

Co je exact unlearning?

Metoda má vytvořit distribučne nebo matematicky ekvivalentný výsledek jako trénink od začátku bez požadovaných dat. Při komplexných modelech bývá nákladná nebo nepraktická.

Jak se ověřuje, že unlearning fungoval?

Porovnává se model s referenčním retrainingom, používají se membership inference testy, extrakčné útoky, specifické prompty a kontrola výkonu na zachovaných datech.

Může unlearning snížit kvalitu modelu?

Ano. Odstraňované a zachované znalosti mohou být prepojené. Příliš agresívna úprava spůsobí collateral damage, příliš slabá ponechá zvyškový vliv.

Je unlearning právnou zárukou splnění práva na výmaz?

Ne automaticky. Technická metoda je pouze část procesu. Organizace musí posoudit právní rozsah, zálohy, logy, odvozené artefakty a důkaz o vykonaní.

Související pojmy

Zdroje a redakční stopa

Machine Unlearning: A Comprehensive Survey Machine Unlearning, SISA training

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.