Zkuste nás kontaktovat
 Doba trvání 14 hodiny

Návrh Školení

Úvod do AI inferenční služby s Dockerem

  • Pochopení AI inferenčních workloadů
  • Výhody kontejnerizované inference
  • Scénáře a omezení nasazování

Budování kontejnerů pro AI inferenci

  • Výběr základních obrázků a frameworků
  • Balíkování předtrénovaných modelů
  • Strukturování inferenčního kódu pro spuštění v kontejneru

Zabezpečení kontejnerizovaných AI služeb

  • Minimalizace útočné plochy kontejneru
  • Správa tajenství a citlivých souborů
  • Bezpečné sítě a strategie vystavení API

Techniky přenosného nasazování

  • Optimalizace obrázků pro přenosnost
  • Zajištění předvídatelného běhového prostředí
  • Správa závislostí napříč platformami

Lokální nasazení a testování

  • Spuštění služeb lokálně pomocí Dockeru
  • Debugging inferenčních kontejnerů
  • Testování výkonu a spolehlivosti

Nasazování na servery a cloudové virtuální stroje

  • U přizpůsobení kontejnerů pro vzdálená prostředí
  • Konfigurace bezpečného serverového přístupu
  • Nasazování inferenčních API na cloudových virtuálních strojích

Použití Docker Compose pro více služeb AI systémů

  • Orchestrace inference s podpůrnými komponentami
  • Správa proměnných prostředí a konfigurací
  • Šklování mikroslužeb pomocí Compose

Monitoring a údržba AI inferenčních služeb

  • Přístupy k protokolování a observability
  • Detekce selhání v inferenčních pipelinech
  • Aktualizace a verzování modelů v produkci

Shrnutí a další kroky

Požadavky

  • Pochopení základních konceptů machine learningu
  • Zkušenost s Pythonem nebo backend vývojem
  • Ovělost se základními pojmy kontejnerizace

Cílová skupina

  • Vyvojáři
  • Backend inženýři
  • Týmy nasazující AI služby

Počet účastníků


Cena za účastníka

Reference (2)

Nadcházející kurzy

Související kategorie