Inkrementální učení | AI slovník

Odborná definice

Incremental learning je způsob tréninku, při kterém model přijímá nové data, třídy nebo úlohy postupně a aktualizuje se bez úplného pretrénování na celém historickom korpuse. Variant class-incremental přidává kategorie, task-incremental rozlišuje úlohy a online učení zpracovává prichádzajúce příklady v krátkych intervaloch. Klúčovým rizikem je katastrofické zapomínání, když nové gradienty poškodia výkon na skorších znalostech. Používají se replay buffery, regularizace důležitých parametrů, destilace a rozširování architektury. Provoz musí rozlišovat skutečné učení od obyčajného periodického retrainingu a sledovat pořadí dat.

Srozumitelné vysvětlení

Klasifikátor dokumentů dnes pozná faktúry a smlouvy, o mesiac pribudnou objednávky a později reklamačné protokoly. Při inkrementálnom učení se model rozširuje po etapách místo tréninku od nuly se všemi starými súbormi. Pokud se učí pouze z objednávok, může zabudnúť znaky faktúr. Systém proto uchová malou reprezentatívnu vzorek starších příkladů nebo omezí změny parametrů důležitých pro původní třídy. Každá aktualizace se testuje na nových i starých kategóriách, protože vysoký výkon na poslední dávce může skrývat znehodnotení celé služby.

Časté otázky

Je incremental learning to jisté jako online learning?

Online learning je užší režim s priebežnými nebo velmi častými aktualizacemi. Inkrementální učení může probíhat i po večších etapách, například při pridaní nové třídy raz za štvrťrok.

Co znamená katastrofické zapomínání?

Parametry prispůsobené novým datům prestanou reprezentovat skoršie úlohy. Model se zlepší na poslední etape, ale bez přístupu k starému rozdělení prudko ztratí předchozí schopnosti.

Jako funguje replay buffer?

Uchovává vybranou část minulých příkladů nebo syntetických reprezentací a mieša jejich s novou dávkou. Omezená paměť musí pokrýt třídy, hraniční případy a změny distribuce.

Jak se hodnotí inkrementálny model?

Po každé etape se měří aktuálna úloha, všechny predošlé úlohy, průměrný výkon, zapomínání a schopnost přenést znalost dopredu. Jedno finálne skóre nevysvetlí průběh degradace.

Kdy je úplný retraining vhodnější?

Když jsou historické data dostupné, výpočetní rozpočet prijatelný a změna architektury nebo taxonomie je velká. Trénink od začátku může být jednodušší na audit a méně citlivý na pořadí etáp.

Související pojmy

Zdroje a redakční stopa

Li a Hoiem, Learning without Forgetting (arxiv.org) Parisi a kol., Continual Lifelong Learning with Neural Networks: A Review (arxiv.org)

Definícia je autorská odborná syntéza. Pri právnych a regulačných rozhodnutiach má prednosť aktuálne oficiálne znenie predpisu a posúdenie konkrétneho prípadu.