Návrh Školení
Úvod do GPU podporované kontejnerizace
- Chápání využití GPU ve workflow hlubokého učení
- Jak Docker podporuje GPU založené úkoly
- Klíčová kritéria výkonu
Instalace a konfigurace NVIDIA Container Toolkit
- Nastavení ovladačů a CUDA kompatibility
- Ověření přístupu k GPU uvnitř kontejnerů
- Konfigurace běhového prostředí
Vytváření GPU podporovaných Docker imagí
- Použití CUDA základních imagí
- Balení AI frameworků do GPU připravených kontejnerů
- Správa závislostí pro trénování a odvozování
Spouštění GPU podporovaných AI úloh
- Provádění trénovacích úloh pomocí GPU
- Správa více-GPU úkolů
- Monitorování využití GPU
Optimalizace výkonu a alokace prostředků
- Limity a izolace GPU prostředků
- Optimalizace paměti, velikosti dávek a umístění zařízení
- Tuning výkonu a diagnostika
Kontejnerizované odvozování a poskytování modelů
- Vytváření kontejnerů připravených pro odvozování
- Poskytování úloh s vysokým zatížením na GPU
- Integrace běha modelů a API
Škálování GPU úkolů s Dockerem
- Strategie pro distribuované trénování na GPU
- Škálování mikrosluhů odvozování
- Koordinace více-kontejnerových AI systémů
Bezpečnost a spolehlivost pro GPU podporované kontejnery
- Zajištění bezpečného přístupu k GPU v sdílených prostředích
- Zachování kontejnerizovaných imagí
- Správa aktualizací, verzí a kompatibility
Shrnutí a další kroky
Požadavky
- Pochopení principů hlubokého učení
- Zkušenosti s Pythonem a běžnými AI frameworky
- Opačenost s základními koncepty kontejnerizace
Cílová skupina
- Inženýři hlubokého učení
- Výzkumníci a vývojářské týmy
- Trénovatelé AI modelů
Reference (5)
Vysvětlil všechno, nejen pojmy z k8s.
Stefan Voinea - EMAG IT Research S.R.L
Kurz - Certified Kubernetes Application Developer (CKAD) - exam preparation
Přeloženo strojem
Znalostní úroveň trénера
Grant Miller - BMW
Kurz - Certified Kubernetes Administrator (CKA) - exam preparation
Přeloženo strojem
Velmi informativní a jasně na bod. Praktické procvičování
Gil Matias - FINEOS
Kurz - Introduction to Docker
Přeloženo strojem
Vynikající obsah
Alan Kavanagh - FINEOS Corporation Ltd
Kurz - Docker from Basic to Advanced
Přeloženo strojem
Laboratoře a technické diskuse.
Dinesh Panchal - AXA XL
Kurz - Advanced Docker
Přeloženo strojem