Návrh Školení
DEN 1 - UMĚLÉ NEURONOVÉ SÍTĚ
Úvod a struktura ANS.
- Biologické a umělé neurony.
- Model umělé neuronové sítě.
- Aktivace funkce používané v ANS.
- Typické třídy architektur sítí.
Matematické základy a mechanismy učení.
- Opakování vektorové a maticové algebry.
- Koncepce stavového prostoru.
- Koncepce optimalizace.
- Učení s opravou chyb.
- Učení založené na paměti.
- Hebbovo učení.
- Konkurenční učení.
Jednovrstvé perceptrony.
- Struktura a učení perceptronů.
- Třídač vzorů - úvod a Bayesovy třídače.
- Perceptron jako třídač vzorů.
- Konvergence perceptronu.
- Omezení perceptronů.
Výstupní ANS (Feedforward).
- Struktury vícestupňových výstupních sítí.
- Algoritmus zpětného šíření (Backpropagation).
- Zpětné šíření - trénování a konvergence.
- Funkční aproximace pomocí zpětného šíření.
- Praktické a návrhové otázky týkající se učení zpětným šířením.
Sítě s radiálními bázi.
- Separovatelnost vzorů a interpolace.
- Teorie regularizace.
- Regularizace a sítě s radiálními bázi.
- Návrh a trénování sítí s radiálními bázi.
- Aproximační vlastnosti sítí s radiálními bázi.
Konkurenční učení a samoorganizující se ANS.
- Obecné postupy klastrování.
- Vektorová kvantizace učení (LVQ).
- Algoritmy a architektury konkurenčního učení.
- Samoorganizující se mapy vlastností.
- Vlastnosti map vlastností.
Fuzzy neuronové sítě.
- Neuro-fuzzy systémy.
- Základy teorie fuzzy množin a logiky.
- Návrh fuzzy systémů.
- Návrh fuzzy ANS.
Aplikace
- Budou diskutovány příklady aplikací neuronových sítí, jejich výhody a problémy.
DEN 2 - STROJOVÉ UČENÍ
- Rámec PAC učení
- Záruky pro konečnou množinu hypotéz – konzistentní případ
- Záruky pro konečnou množinu hypotéz – nekonzistentní případ
- Obecnosti
- Deterministické vs. stochastické scénáře
- Šum Bayesovy chyby
- Chyby odhadu a aproximace
- Výběr modelu
- Rademaacherova složitost a VC-dimense
- Obchodní trade-off bias-variance (kompromis mezi zkreslením a rozptylem)
- Regularizace
- Přeapprentování (Overfitting)
- Validace
- Podpěrovací vektorové stroje (SVM)
- Kriging (Gaussovská regresní procesy)
- PCA a Kernel PCA
- Samoorganizující se mapy (SOM)
- Vektorový prostor indukovány jádrem
- Mercerova jádra a metriky podobnosti indukovány jádrem
- Učení posilováním (Reinforcement Learning)
DEN 3 - HLUBOKÉ UČENÍ
Toto bude probíráno v souvislosti s tématy pokrytými v 1. a 2. dni
- Logistická a Softmaxova regresce
- Rozřídlé autoenkódkéry (Sparse Autoencoders)
- Vektorizace, PCA a bělení (Whitening)
- Samoučení (Self-Taught Learning)
- Hluboké sítě
- Lineární dekódkéry
- Konvoluce a poolování
- Rozřídlé kódování (Sparse Coding)
- Analýza nezávislých složek
- Kanónická korelační analýza
- Demo a aplikace
Požadavky
Dobré porozumění matematice.
Dobré porozumění základní statistice.
Znalosti základů programování nejsou vyžadovány, ale jsou doporučovány.
Reference (2)
Práce na základě prvních principů s cíleným zaměřením a následné aplikace případových studií v rámci stejného dne
Maggie Webb - Department of Jobs, Regions, and Precincts
Kurz - Artificial Neural Networks, Machine Learning, Deep Thinking
Přeloženo strojem
It was very interactive and more relaxed and informal than expected. We covered lots of topics in the time and the trainer was always receptive to talking more in detail or more generally about the topics and how they were related. I feel the training has given me the tools to continue learning as opposed to it being a one off session where learning stops once you've finished which is very important given the scale and complexity of the topic.
Jonathan Blease
Kurz - Artificial Neural Networks, Machine Learning, Deep Thinking
Přeloženo strojem
