Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Doba trvání 14 hodiny
Návrh Školení
Úvod do AI inferenční služby s Dockerem
- Pochopení AI inferenčních workloadů
- Výhody kontejnerizované inference
- Scénáře a omezení nasazování
Budování kontejnerů pro AI inferenci
- Výběr základních obrázků a frameworků
- Balíkování předtrénovaných modelů
- Strukturování inferenčního kódu pro spuštění v kontejneru
Zabezpečení kontejnerizovaných AI služeb
- Minimalizace útočné plochy kontejneru
- Správa tajenství a citlivých souborů
- Bezpečné sítě a strategie vystavení API
Techniky přenosného nasazování
- Optimalizace obrázků pro přenosnost
- Zajištění předvídatelného běhového prostředí
- Správa závislostí napříč platformami
Lokální nasazení a testování
- Spuštění služeb lokálně pomocí Dockeru
- Debugging inferenčních kontejnerů
- Testování výkonu a spolehlivosti
Nasazování na servery a cloudové virtuální stroje
- U přizpůsobení kontejnerů pro vzdálená prostředí
- Konfigurace bezpečného serverového přístupu
- Nasazování inferenčních API na cloudových virtuálních strojích
Použití Docker Compose pro více služeb AI systémů
- Orchestrace inference s podpůrnými komponentami
- Správa proměnných prostředí a konfigurací
- Šklování mikroslužeb pomocí Compose
Monitoring a údržba AI inferenčních služeb
- Přístupy k protokolování a observability
- Detekce selhání v inferenčních pipelinech
- Aktualizace a verzování modelů v produkci
Shrnutí a další kroky
Požadavky
- Pochopení základních konceptů machine learningu
- Zkušenost s Pythonem nebo backend vývojem
- Ovělost se základními pojmy kontejnerizace
Cílová skupina
- Vyvojáři
- Backend inženýři
- Týmy nasazující AI služby
Reference (2)
Jak jsem již dříve zmínil, pro někoho jako jsem já (bez předchozích zkušeností) to byla brána k pochopení funkcí a možností těchto programů, nástrojů a dalšího.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurz - Docker and Kubernetes
Přeloženo strojem
víceúrovňový strukturovaný kurz
Bert Paelinckx - Cube SoftwareSolutions
Kurz - Introduction to Docker
Přeloženo strojem