Zkuste nás kontaktovat

Návrh Školení

Úvod do kontejnerizace s akcelerací GPU

  • Pochopení využití GPU v workflowech hlubokého učení
  • Jak Docker podporuje GPU-based úlohy
  • Klíčové aspekty výkonu

Instalace a konfigurace NVIDIA Container Toolkit

  • Nastavení ovladačů a kompatibility CUDA
  • Validace přístupu k GPU uvnitř kontejnerů
  • Konfigurace běhového prostředí

Sestavování Docker obrazů s podporou GPU

  • Použití základních obrazů CUDA
  • Balíkování AI frameworků do kontejnerů připravených pro GPU
  • Správa závislostí pro trénování a inferenci

Spouštění AI úloh s akcelerací GPU

  • Spuštění trénovacích úloh pomocí GPU
  • Správa workloadů s více GPU
  • Monitorování využití GPU

Optimalizace výkonu a alokace zdrojů

  • Limitace a izolace zdrojů GPU
  • Optimalizace paměti, velikosti batches a umístění zařízení
  • Laďení výkonu a diagnostika

Kontejnerizace inference a servírování modelů

  • Sestavování kontejnerů připravených pro inferenci
  • Servírování výkonnostně náročných workloadů na GPU
  • Integrace model runnerů a API

Škálování GPU workloadů pomocí Dockeru

  • Strategie pro distribuované trénování GPU
  • Škálování microservice pro inferenci
  • Koordinace AI systémů s více kontejnery

Bezpečnost a spolehlivost kontejnerů s podporou GPU

  • Zajištění bezpečného přístupu k GPU ve sdílených prostředích
  • Zuštění bezpečnosti obrazů kontejnerů
  • Správa aktualizací, verzí a kompatibility

Shrnutí a další kroky

Požadavky

  • Pochopení základů hlubokého učení
  • Zkušenosti s Pythonem a běžnými AI frameworky
  • Znalost základních konceptů kontejnerizace

Cílová skupina

  • Inženýři hlubokého učení
  • Tým výzkumu a vývoje
  • Tréneři AI modelů
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (3)

Nadcházející kurzy

Související kategorie