Návrh Školení
Úvod do hlubokého učení
- Co je to hluboké učení a чем se liší od tradičního strojového učení
- Příklady reálných aplikací v oblasti počítačového vidění, NLP a dalších oborech
- Přehled ekosystému hlubokého učení: TensorFlow 2.x, Keras, PyTorch
- Nastavení vývojářského prostředí s podporou GPU
Mechanika hlubokého učení
- Umělé neurony, aktivační funkce a vrstvy sítě
- Feedforward propagace a výpočet predikcí
- Ztrátové funkce pro klasifikační a regresní úlohy
- Optimalizace gradientovým sestupem a zpětná propagace (backpropagation)
- Trénování první neuronové sítě na datasetu MNIST
Konvoluční neuronové sítě pro počítačové vidění
- Rozumění konvoluci, filtrům a mapám znaků
- Pooling vrstvy a redukce dimenzionality
- Architektury CNN: koncepty LeNet, VGG a ResNet
- Vytváření a trénování CNN pro klasifikaci obrazu
- Visualizace naučených znaků a mezivýstupů aktivací
Augmentace dat a zlepšování přesnosti modelu
- Příčiny augmentace dat proti přeučení (overfitting) a pro lepší generalizaci
- Transformace obrazu: rotace, flipování, zoomování a ořezávání
- Implementace pipelineů s Keras preprocessing layers
- Dropout, batch normalization a další techniky regulace
- Sledování tréninku pomocí validačních metrik a early stopping
Transfer learning s předtrénovanými modely
- Pochopení principů transfer learningu a důvodu jeho účinnosti
- Načítání předtrénovaných modelů z Keras Applications (ResNet, EfficientNet, MobileNet)
- Výběr znaků: zamrazení základních vrstev a trénování nových klasifikátorů
- Fine-tuning: selektivní odemknutí vrstev pro adaptaci domény
- Dosažení vysoké přesnosti s omezeným množstvím trénovacích dat
Rekurentní sítě a modelování sekvencí
- Úvod do sekvenčních dat a časových závislostí
- Rekurentní neuronové sítě (RNN) a problém mizejícího gradientu
- Bunky LSTM a GRU pro dlouhodobé závislosti
- Trénování modelu generování textu na úrovni znaků
- Slovníková vnoření (word embeddings) a Embedding vrstva v Keras
Základy zpracování přirozeného jazyka
- Předzpracování textu: tokenizace, padding a budování slovníku
- Vytváření klasifikátoru textu pomocí RNN a LSTM
- Koncepty modelů sekvenční-secuencia pro strojový překlad
- Mechanismy pozornosti (attention) a jejich role v moderním NLP
- Praktické NLP s API zpracování textu TensorFlow 2.x
Závěrečný projekt: Popis obrázků (Image Captioning)
- Kombinace počítačového vidění a NLP v multimodální architektuře
- Extrakce znaků z obrazu pomocí předtrénovaného enkodéru CNN
- Vytvoření dekodéru založeného na LSTM pro generování popisu
- Správa více vstupních vrstev v Keras functional API
- Trénování a vyhodnocení end-to-end pipeline popisu obrázků
Další kroky a zdroje
- Nasazování trénovaných modelů pomocí TensorFlow Serving
- Prozkoumání architektury transformátoru a velkých jazykových modelů
- Pokročilé workshopy NVIDIA DLI a certifiční cesty
- Zdroje komunity, datasety a nápady na projekty
Požadavky
- Základní znalost programování v Pythonu (funkce, cykly, slovníky, pole)
- Seznámení s programátorskými koncepty jako proměnné, podmínky a datové struktury
- Předchozí zkušenosti s hlubokým nebo strojovým učením nejsou vyžadovány
Cílová skupina
- Softwaroví vývojáři a inženýři přecházející do oblasti AI a strojového učení
- Analytici dat a vědci o data hledající dovednosti v hlubokém učení
- Techničtí profesionálové, kteří chtějí pochopit modely neuronových sítí a umět je aplikovat
- Studenti a výzkumní pracovníci začínající svou cestu v hlubokém učení
Reference (2)
Školení bylo organizované a dobře naplánované, a já z něj vyšel s systémovou znalostí a dobrým přehledem o tématech, které jsme probral.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Kurz - Deep Learning with TensorFlow 2
Přeloženo strojem
Opravdu jsem se líbil konec, kdy jsme si vyzkoušeli CHAT GPT. Místnost nebyla pro toto cvičení nejlepší nastavená - místo jednoho velkého stolu by pomohlo několik menších stolů, abychom se mohli rozdělit do menších skupin a společně přemýšlet.
Nola - Laramie County Community College
Kurz - Artificial Intelligence (AI) Overview
Přeloženo strojem
