Zkuste nás kontaktovat
 Doba trvání 21 hodiny

Návrh Školení

Úvod do GPU akcelerované kontejnerizace

  • Pochopení využití GPU v workflow hlubokého učení
  • Jak Docker podporuje GPU úlohy
  • Klíčové aspekty výkonu

Instalace a konfigurace NVIDIA Container Toolkit

  • Nastavení ovladačů a CUDA kompatibility
  • Ověření přístupu k GPU uvnitř kontejnerů
  • Konfigurace běhového prostředí

Vytváření Docker obrazů s podporou GPU

  • Používání základních CUDA obrazů
  • Balení AI frameworků do kontejnerů připravených na GPU
  • Správa závislostí pro trénink a inferenci

Spouštění GPU akcelerovaných AI úloh

  • Spuštění tréninkových úloh pomocí GPU
  • Správa multi-GPU úloh
  • Monitorování využití GPU

Optimalizace výkonu a přiřazování zdrojů

  • Omezení a izolace GPU zdrojů
  • Optimalizace paměti, velikostí dávek a umístění zařízení
  • Ladění výkonu a diagnostika

Kontejnerizovaná inferencce a poskytování modelů

  • Vytváření kontejnerů připravených na inferenci
  • Poskytování úloh s vysokým zatížením na GPU
  • Integrace model runners a API

Škálování GPU úloh pomocí Docker

  • Strategie pro distribuovaný GPU trénink
  • Škálování inference mikroslužeb
  • Koordinace multi-kontejnerových AI systémů

Bezpečnost a spolehlivost kontejnerů s podporou GPU

  • Zajištění bezpečného přístupu k GPU v sdílených prostředích
  • Zvýšení zabezpečení kontejnerových obrazů
  • Správa aktualizací, verzí a kompatibility

Shrnutí a další kroky

Požadavky

  • Porozumění základům hlubokého učení
  • Zkušenosti s jazykem Python a běžnými AI frameworky
  • Poznatky o základních konceptech kontejnerizace

Cílová skupina

  • Inženýři hlubokého učení
  • Týmy výzkumu a vývoje
  • Tréněři AI modelů

Počet účastníků


Cena za účastníka

Reference (2)

Nadcházející kurzy

Související kategorie