Odborná definícia
Význam a odborné vymedzenie pojmu
Unlearning je súbor metód, ktorých cieľom je odstrániť alebo podstatne obmedziť vplyv určených tréningových dát, používateľov, tried alebo znalostí z už natrénovaného modelu. Exact unlearning má viesť k výsledku ekvivalentnému pretrénovaniu bez odstránených dát, approximate unlearning hľadá lacnejšiu aproximáciu. Úspech nemožno posúdiť iba tým, že model prestane reprodukovať jeden text. Potrebné sú testy členstva, memorovania, výkonu, vedľajších škôd a opakovaného učenia odstráneného obsahu. Požiadavka na odstránenie sa viaže na identifikátory dát, všetky derivované artefakty, modelové verzie a dôkaz vykonania.
Zrozumiteľné vysvetlenie
Ako sa pojem používa v praxi
Vymazanie riadka z databázy nezmení model, ktorý sa z neho už naučil parametre. Unlearning sa snaží túto stopu odstrániť bez úplného tréningu od nuly. Pri jednoduchej architektúre možno prepočítať iba časť modelu, pri veľkom generatívnom modeli sa často používa približná úprava váh alebo cielené dolaďovanie. Najťažšie je dokázať, že informácia skutočne prestala ovplyvňovať správanie, a pritom sa nepoškodili legitímne znalosti, ktoré s ňou zdieľajú reprezentáciu. Organizácia musí vopred rozhodnúť, či akceptuje aproximáciu, úplný retraining alebo ukončenie používania modelu pri neoveriteľnom výsledku.
Časté otázky
Otázky, ktoré spresňujú význam
Je unlearning to isté ako zmazanie tréningového súboru?
Nie. Zmazanie súboru zabráni budúcemu použitiu, ale nemení existujúce váhy, checkpointy, embeddingové indexy ani derivované datasety.
Čo je exact unlearning?
Metóda má vytvoriť distribučne alebo matematicky ekvivalentný výsledok ako tréning od začiatku bez požadovaných dát. Pri komplexných modeloch býva nákladná alebo nepraktická.
Ako sa overuje, že unlearning fungoval?
Porovnáva sa model s referenčným retrainingom, používajú sa membership inference testy, extrakčné útoky, špecifické prompty a kontrola výkonu na zachovaných dátach.
Môže unlearning znížiť kvalitu modelu?
Áno. Odstraňované a zachované znalosti môžu byť prepojené. Príliš agresívna úprava spôsobí collateral damage, príliš slabá ponechá zvyškový vplyv.
Je unlearning právnou zárukou splnenia práva na výmaz?
Nie automaticky. Technická metóda je iba časť procesu. Organizácia musí posúdiť právny rozsah, zálohy, logy, odvodené artefakty a dôkaz o vykonaní.
Súvisiace pojmy
Významové a tematické súvislosti
Pojem v rozhodovaní
Odborné články, ktoré tento pojem používajú v praxi
Zdroje a redakčná stopa
Použité východiská a odborná revízia
- Machine Unlearning: A Comprehensive Survey Machine Unlearning, SISA training
Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.