Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Doba trvání 21 hodiny
Návrh Školení
Úvod do GPU akcelerované kontejnerizace
- Pochopení využití GPU v workflow hlubokého učení
- Jak Docker podporuje GPU úlohy
- Klíčové aspekty výkonu
Instalace a konfigurace NVIDIA Container Toolkit
- Nastavení ovladačů a CUDA kompatibility
- Ověření přístupu k GPU uvnitř kontejnerů
- Konfigurace běhového prostředí
Vytváření Docker obrazů s podporou GPU
- Používání základních CUDA obrazů
- Balení AI frameworků do kontejnerů připravených na GPU
- Správa závislostí pro trénink a inferenci
Spouštění GPU akcelerovaných AI úloh
- Spuštění tréninkových úloh pomocí GPU
- Správa multi-GPU úloh
- Monitorování využití GPU
Optimalizace výkonu a přiřazování zdrojů
- Omezení a izolace GPU zdrojů
- Optimalizace paměti, velikostí dávek a umístění zařízení
- Ladění výkonu a diagnostika
Kontejnerizovaná inferencce a poskytování modelů
- Vytváření kontejnerů připravených na inferenci
- Poskytování úloh s vysokým zatížením na GPU
- Integrace model runners a API
Škálování GPU úloh pomocí Docker
- Strategie pro distribuovaný GPU trénink
- Škálování inference mikroslužeb
- Koordinace multi-kontejnerových AI systémů
Bezpečnost a spolehlivost kontejnerů s podporou GPU
- Zajištění bezpečného přístupu k GPU v sdílených prostředích
- Zvýšení zabezpečení kontejnerových obrazů
- Správa aktualizací, verzí a kompatibility
Shrnutí a další kroky
Požadavky
- Porozumění základům hlubokého učení
- Zkušenosti s jazykem Python a běžnými AI frameworky
- Poznatky o základních konceptech kontejnerizace
Cílová skupina
- Inženýři hlubokého učení
- Týmy výzkumu a vývoje
- Tréněři AI modelů
Reference (2)
Jak jsem již dříve zmínil, pro někoho jako jsem já (bez předchozích zkušeností) to byla brána k pochopení funkcí a možností těchto programů, nástrojů a dalšího.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurz - Docker and Kubernetes
Přeloženo strojem
víceúrovňový strukturovaný kurz
Bert Paelinckx - Cube SoftwareSolutions
Kurz - Introduction to Docker
Přeloženo strojem