Zkuste nás kontaktovat

Návrh Školení

Založení hybridního AI nasazení

  • Pochopení hybridního, cloudového a edge deployment modelů
  • Charakteristiky AI úloh a omezení infrastruktury
  • Výběr vhodné topologie nasazení

Kontejnerizace AI úloh s Dockerem

  • Sestavování GPU a CPU kontejnerů pro inference
  • Správa zabezpečených obrazů a registrů
  • Implementace reprodukovatelných prostředí pro AI

Nasazení AI služeb do cloudových prostředí

  • Provozování inference na AWS, Azure a GCP pomocí Dockeru
  • Přidělování cloudového výpočetního výkonu pro podávání modelu
  • Zajištění bezpečnosti cloudově-hostovaných AI endpointů

Edge a on-premise deployment techniky

  • Provozování AI na IoT zařízeních, bránách a microserverech
  • Lépe lehké runtimes pro edge prostředí
  • Správa přerušovaného připojení a lokální persistentnosti

Hybridní síťování a zabezpečená konektivita

  • Zabezpečený tunelování mezi edge a cloudem
  • Certifikáty, tajné hodnoty a přístup na základě tokenů
  • Optimalizace výkonu pro nízkolatentní inference

Orchestrácia distribuovaných AI deployments

  • Používání K3s, K8s nebo lehkých orchestrací pro hybridní nastavení
  • Objevování služeb a plánování úloh
  • Automatizace strategií vícemístných rolloutů

Sledování a observability v různých prostředích

  • Sledování výkonu inference napříč místy
  • Centralizované logování pro hybridní AI systémy
  • Detekce chyb a automatické obnovy

Škálování a optimalizace hybridních AI systémů

  • Škálování edge klastrů a cloud nodech
  • Optimalizace využití bandwidthu a mezipaměti
  • Balancing výpočetního výkonu mezi cloudem a edge

Shrnutí a další kroky

Požadavky

  • Understanding kontejnerizačních konceptů
  • Zkušenosti s operačním systémem Linux a jeho příkazovou řádkou
  • Seznámení s workflow nasazování AI modelů

Cílová skupina

  • Architekti infrastruktury
  • Inženýři pro SPO (SRE)
  • Vývojáři pro edge a IoT
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (3)

Nadcházející kurzy

Související kategorie