Návrh Školení
Základy hybridního nasazení AI
- Chápání hybridních, cloudu a hraničních modelů nasazení
- Charakteristiky pracovní zátěže AI a omezení infrastruktury
- Volba vhodné topologie nasazení
Kontejnerizace AI pracovní zátěže pomocí Dockeru
- Vytváření kontejnerů pro inferenci GPU a CPU
- Správa zabezpečených obrázků a registru
- Implementace reprodukovatelného prostředí pro AI
Nasazování AI služeb do cloudových prostředí
- Spouštění inferencí na AWS, Azure a GCP pomocí Dockeru
- Zřizování cloudových výpočetních prostředků pro servis modelů
- Zabezpečení cloudu založených koncových bodů AI
Techniky nasazení do hraničních a lokálních prostředí
- Spouštění AI na IoT zařízeních, branách a mikroserverech
- Lehké runtime pro hraniční prostředí
- Správa průběžného připojení a místní trvalosti
Hybridní sítě a zabezpečené připojení
- Zabezpečená tunelování mezi hraničními a cloudu
- Certifikáty, tajemství a tokenový přístup
- Optimalizace výkonu pro nízkou latenci inferencí
Orchestrace distribuovaných nasazení AI
- Použití K3s, K8s nebo lehké orchestrační nástroje pro hybridní nastavení
- Objevování služeb a plánování pracovní zátěže
- Automatizace strategií nasazení pro více lokací
Monitorování a viditelnost napříč prostředími
- Sledování výkonu inferencí napříč lokacemi
- Centralizované logování pro hybridní systémy AI
- Detekce selhání a automatizovaná obnova
Škálování a optimalizace hybridních systémů AI
- Škálování hraničních clusterů a cloudu uzlů
- Optimalizace využití šířky pásma a cachování
- Balancování výpočetní zátěže mezi cloudu a hraničními prostředími
Shrnutí a další kroky
Požadavky
- Chápání konceptů kontejnerizace
- Zkušenosti s Linuxovými příkazovými operacemi
- Důvěrnost s pracovními postupy nasazení AI modelů
Cílová skupina
- Architekti infrastruktury
- Inženýři spolehlivosti systému (SREs)
- Vývojáři pro hraniční a IoT zařízení
Reference (5)
OC is new to us and we learnt alot and the labs were excellent
sharkey dollie
Kurz - OpenShift 4 for Administrators
Very informative and to the point. Hands on pratice
Gil Matias - FINEOS
Kurz - Introduction to Docker
Labs and technical discussions.
Dinesh Panchal - AXA XL
Kurz - Advanced Docker
It gave a good grounding for Docker and Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Kurz - Docker (introducing Kubernetes)
I mostly enjoyed the knowledge of the trainer.