Návrh Školení
Úvod do GPU podporované kontejnerizace
- Chápání využití GPU ve workflow hlubokého učení
- Jak Docker podporuje GPU založené úkoly
- Klíčová kritéria výkonu
Instalace a konfigurace NVIDIA Container Toolkit
- Nastavení ovladačů a CUDA kompatibility
- Ověření přístupu k GPU uvnitř kontejnerů
- Konfigurace běhového prostředí
Vytváření GPU podporovaných Docker imagí
- Použití CUDA základních imagí
- Balení AI frameworků do GPU připravených kontejnerů
- Správa závislostí pro trénování a odvozování
Spouštění GPU podporovaných AI úloh
- Provádění trénovacích úloh pomocí GPU
- Správa více-GPU úkolů
- Monitorování využití GPU
Optimalizace výkonu a alokace prostředků
- Limity a izolace GPU prostředků
- Optimalizace paměti, velikosti dávek a umístění zařízení
- Tuning výkonu a diagnostika
Kontejnerizované odvozování a poskytování modelů
- Vytváření kontejnerů připravených pro odvozování
- Poskytování úloh s vysokým zatížením na GPU
- Integrace běha modelů a API
Škálování GPU úkolů s Dockerem
- Strategie pro distribuované trénování na GPU
- Škálování mikrosluhů odvozování
- Koordinace více-kontejnerových AI systémů
Bezpečnost a spolehlivost pro GPU podporované kontejnery
- Zajištění bezpečného přístupu k GPU v sdílených prostředích
- Zachování kontejnerizovaných imagí
- Správa aktualizací, verzí a kompatibility
Shrnutí a další kroky
Požadavky
- Pochopení principů hlubokého učení
- Zkušenosti s Pythonem a běžnými AI frameworky
- Opačenost s základními koncepty kontejnerizace
Cílová skupina
- Inženýři hlubokého učení
- Výzkumníci a vývojářské týmy
- Trénovatelé AI modelů
Reference (5)
OC is new to us and we learnt alot and the labs were excellent
sharkey dollie
Kurz - OpenShift 4 for Administrators
Very informative and to the point. Hands on pratice
Gil Matias - FINEOS
Kurz - Introduction to Docker
Labs and technical discussions.
Dinesh Panchal - AXA XL
Kurz - Advanced Docker
It gave a good grounding for Docker and Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Kurz - Docker (introducing Kubernetes)
I mostly enjoyed the knowledge of the trainer.