Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Doba trvání 21 hodiny
Návrh Školení
Základy hybridního nasazení AI
- Rozumění hybridním, cloudovým a edge modelům nasazení
- Vlastnosti AI pracovních zátěží a omezení infrastruktury
- Výběr vhodné topologie nasazení
Kontejnerizace AI pracovních zátěží pomocí Dockeru
- Vytváření GPU a CPU inferenčních kontejnerů
- Správa bezpečných obrazů a registrů
- Nasazování reprodukovatelných prostředí pro AI
Nasazování AI služeb do cloudových prostředí
- Spouštění inferencí na AWS, Azure a GCP přes Docker
- Připravování cloudového výpočetního výkonu pro servírování modelů
- Zabezpečování cloudových AI koncovek
Techniky nasazení Edge a On-Prem
- Spouštění AI na IoT zařízeních, bránách a mikroserverech
- Lehké runtime pro edge prostředí
- Správa přerušované konektivity a lokální perzistence
Hybridní síťování a bezpečná konektivita
- Bezpečné tunelování mezi edge a clouдем
- Certifikáty, tajné klíče a tokenová přístupová práva
- Vyladování výkonu pro inferenci s nízkou latencí
Orchestrace distribuovaných nasazení AI
- Používání K3s, K8s nebo lehké orchestrace pro hybridní konfigurace
- Objev služeb a plánování pracovních zátěží
- Automatizace strategií rolloutu napříč lokalitami
Monitoring a pozorovatelnost napříč prostředími
- Sledování výkonu inferencí napříč lokalitami
- Centralizované logování pro hybridní AI systémy
- Detekce poruch a automatizované obnovení
Škálování a optimalizace hybridních AI systémů
- Škálování edge klastrů a cloudových uzlů
- Optimalizace využití pásma a cache
- Vyvažování výpočetního zatížení mezi clouдем a edge
Shrnutí a další kroky
Požadavky
- Pochopení konceptů kontejnerizace
- Zkušenosti s příkazovým řádkem Linuxu
- Znalost workflow pro nasazování AI modelů
Cílové publikum
- Architekti infrastruktury
- Inženýři pro spolehlivost míst (SRE)
- Vývojáři Edge a IoT
Reference (2)
Jak jsem již dříve zmínil, pro někoho jako jsem já (bez předchozích zkušeností) to byla brána k pochopení funkcí a možností těchto programů, nástrojů a dalšího.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurz - Docker and Kubernetes
Přeloženo strojem
víceúrovňový strukturovaný kurz
Bert Paelinckx - Cube SoftwareSolutions
Kurz - Introduction to Docker
Přeloženo strojem