Zkuste nás kontaktovat

Návrh Školení

Úvod do AI inference s Dockerem

  • Chápání zátěží při AI inference
  • Výhody kontejnerizované inference
  • Nasazovací scénáře a omezení

Tvorba kontejnerů pro AI inference

  • Výběr základních obrazů a frameworků
  • Balení předtrénovaných modelů
  • Strukturování kódu pro inference pro spuštění v kontejneru

Zabezpečení kontejnerizovaných služeb AI

  • Minimalizace plochy útoku kontejnerů
  • Správa tajemství a citlivých souborů
  • Strategie bezpečné sítě a vystavení API

Přenositelné techniky nasazení

  • Optimalizace obrazů pro přenosnost
  • Zajištění předvídatelného runtime prostředí
  • Správa závislostí napříč platformami

Lokální nasazení a testování

  • Spouštění služeb lokálně s Dockerem
  • Debugging kontejnerů pro inference
  • Testování výkonu a spolehlivosti

Nasazení na serverech a cloudových VM

  • Přizpůsobení kontejnerů pro vzdálená prostředí
  • Konfigurace zabezpečeného přístupu k serverům
  • Nasadit inference API na cloudových VM.

Použití Docker Compose pro multi-service systémy AI

  • Orchestrace inference s podpůrnými komponentami
  • Správa proměnných prostředí a konfigurací
  • Škálování mikroslužeb pomocí Compose.

Monitoring a údržba služeb AI inference

  • Přístupy k loggingu a sledování //>
  • Zjišťování selhání v pipelinech pro inference
  • Aktualizace a verzování modelů ve výrobě

Shrnutí a další kroky

Požadavky

  • Povědomí o základních konceptech strojového učení
  • Zkušenosti s Pythonem nebo vývojem back-endu
  • Seznámení se s základními pojmy kontejnerizace

Cíl skupiny

  • Vývojáři
  • Inženýři back-endu
  • Týmy nasazující služby AI
 14 Hodiny

Počet účastníků


Cena za účastníka

Reference (3)

Nadcházející kurzy

Související kategorie