Návrh Školení

Základy hybridního nasazení AI

  • Chápání hybridních, cloudu a hraničních modelů nasazení
  • Charakteristiky pracovní zátěže AI a omezení infrastruktury
  • Volba vhodné topologie nasazení

Kontejnerizace AI pracovní zátěže pomocí Dockeru

  • Vytváření kontejnerů pro inferenci GPU a CPU
  • Správa zabezpečených obrázků a registru
  • Implementace reprodukovatelného prostředí pro AI

Nasazování AI služeb do cloudových prostředí

  • Spouštění inferencí na AWS, Azure a GCP pomocí Dockeru
  • Zřizování cloudových výpočetních prostředků pro servis modelů
  • Zabezpečení cloudu založených koncových bodů AI

Techniky nasazení do hraničních a lokálních prostředí

  • Spouštění AI na IoT zařízeních, branách a mikroserverech
  • Lehké runtime pro hraniční prostředí
  • Správa průběžného připojení a místní trvalosti

Hybridní sítě a zabezpečené připojení

  • Zabezpečená tunelování mezi hraničními a cloudu
  • Certifikáty, tajemství a tokenový přístup
  • Optimalizace výkonu pro nízkou latenci inferencí

Orchestrace distribuovaných nasazení AI

  • Použití K3s, K8s nebo lehké orchestrační nástroje pro hybridní nastavení
  • Objevování služeb a plánování pracovní zátěže
  • Automatizace strategií nasazení pro více lokací

Monitorování a viditelnost napříč prostředími

  • Sledování výkonu inferencí napříč lokacemi
  • Centralizované logování pro hybridní systémy AI
  • Detekce selhání a automatizovaná obnova

Škálování a optimalizace hybridních systémů AI

  • Škálování hraničních clusterů a cloudu uzlů
  • Optimalizace využití šířky pásma a cachování
  • Balancování výpočetní zátěže mezi cloudu a hraničními prostředími

Shrnutí a další kroky

Požadavky

  • Chápání konceptů kontejnerizace
  • Zkušenosti s Linuxovými příkazovými operacemi
  • Důvěrnost s pracovními postupy nasazení AI modelů

Cílová skupina

  • Architekti infrastruktury
  • Inženýři spolehlivosti systému (SREs)
  • Vývojáři pro hraniční a IoT zařízení
 21 hodiny

Počet účastníků


Cena za účastníka

Reference (5)

Nadcházející kurzy

Související kategorie