Návrh Školení
Úvod do hlubokého učení
- Co je hluboké učení a jak se liší od tradičního strojového učení
- Praktické využití v oblasti počítačového vidění, NLP a dalších oblastech
- Prezentace ekosystému hlubokého učení: TensorFlow 2.x, Keras, PyTorch
- Nastavení vývojového prostředí s využitím GPU akcelerace
Principy hlubokého učení
- Umělé neurony, aktivizační funkce a jednotlivé vrstvy sítě
- Dopředné šíření signálů a výpočet předpovědí
- Funkce ztráty pro klasifikační i regresní úlohy
- Optimalizace pomocí gradientního sestupu a metoda zpětného šíření chyby
- První trénování neuronové sítě na datovém souboru MNIST
Konvoluční neuronové sítě pro počítačové vidění
- Pochopení konvoluce, filtrů a map výrazů
- Poolingové vrstvy a redukce dimenzionality dat
- Architektury CNN: základní myšlenky LeNetu, VGG a ResNetu
- Vytvoření a trénování konvoluční sítě určené k klasifikaci obrazů
- Vizualizace rozpoznaných rysů a aktivačních signálů v jednotlivých vrstvách
Augmentace dat a zlepšování přesnosti modelu
- Důvody, proč augmentace dat pomáhá předcházet přeučení a zvyšuje univerzálnost modelů
- Měnící operace s obrázky: rotace, převracení, zoomování a oříznutí
- Implementace systémů augmentace dat pomocí funkcí z balíčku Keras Preprocessing Layers
- Techniky regularizace jako dropout nebo normalizace dávek
- Sledování průběhu trénování prostřednictvím validačních metrik a včasné zastavení procesu užitečných výsledků
Transfer learning s předem natrenovanými modely
- Vysvětlení principů transfer learningu a důvody jeho efektivity
- Nahrávání předem trénovaných modelů z knihovny Keras Applications (např. ResNet, EfficientNet, MobileNet)
- Extrakce rysů: zamrazení vstupních vrstev a následné trenování nového klasifikátoru
- Fine-tuning – postupné povolování změn ve vybraných vrstvách pro adaptaci modelu na konkrétní úlohu
- Dosažení vysoké přesnosti i při velmi omezeném množství trénovacích dat
Rekurzivní sítě a modelování sekvencí
- Představení sekvenčních dat a vztahů mezi jejich prvky v čase
- Recurzivní neuronové sítě (RNN) a problém zmizelého gradientu
- Použití LSTM a GRU jednotek pro efektivní zpracování dlouhých řad dat
- Vytvoření generátoru textu pracujícího s jednotlivými znaky jako vstupem
- Použití vestavěných embeddů a funkce Embedding pro reprezentaci slov
Základy zpracování přirozeného jazyka
- Příprava textových dat: tokenizace, zarovnávání a tvorba slovníku
- Vytváření klasifikátorů textu pomocí RNN i LSTM jednotek
- Představení konceptů modelů typu sequence-to-sequence určených například pro překlady textů
- Mechanismus attention a jeho role v moderním zpracování jazyka
- Praktické využití API pro textové operace z balíčku TensorFlow 2.x
Závěrečný projekt: Generování popisů k obrazům
- Kombinace metod počítačového vidění a zpracování jazyka v jednom multimodálním systému
- Extrakce obrazových rysů pomocí předem trénovaného enkodéru typu CNN
- Tvorba dekodéru na bázi LSTM jednotek určeného k generaci popisu obrázku
- Pracování s několika vstupními kanály v rámci funkcionálního rozhraní Kerasu
- Trénování i testování kompletního systému pro generování popisů k obrazům
Co dále? Doporučené zdroje a směry rozvoje
- Nasazování hotových modelů pomocí nástroje TensorFlow Serving
- Poznávání architektur typu Transformer i rozsáhlých jazykových modelů s miliardami parametrů
- Doporučené školení NVIDIA DLI a možnosti získání profesní certifikace
- Užitečné komunitní zdroje, datové sady i náměty na další vlastní projekty
Požadavky
- Základní znalost programování v jazyce Python (funkce, cykly, slovníky, pole)
- Orientace v základních programátorských konceptech jako jsou proměnné, podmínky a datové struktury
- Předchozí zkušenosti s hlubokým učením či strojovým učením nejsou nutné
Cílová skupina
- Vývojáři softwaru a inženýři, kteří chtějí vstoupit do oblasti umělé inteligence a strojového učení
- Analytici dat a datoví vědci s touhou osvojit si techniky hlubokého učení
- Techničtí specialisté, kteří se chtějí naučit tvořit a používat neuronové sítě
- Studenti a výzkumníci začínající svou cestu v oblasti hlubokého učení
Reference (2)
Školení bylo organizované a dobře naplánované, a já z něj vyšel s systémovou znalostí a dobrým přehledem o tématech, které jsme probral.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Kurz - Deep Learning with TensorFlow 2
Přeloženo strojem
Opravdu jsem se líbil konec, kdy jsme si vyzkoušeli CHAT GPT. Místnost nebyla pro toto cvičení nejlepší nastavená - místo jednoho velkého stolu by pomohlo několik menších stolů, abychom se mohli rozdělit do menších skupin a společně přemýšlet.
Nola - Laramie County Community College
Kurz - Artificial Intelligence (AI) Overview
Přeloženo strojem