Zkuste nás kontaktovat

Návrh Školení

Úvod do nasazování modelů do produkce

  • Hlavní výzvy při nasazování optimalizovaných modelů
  • Rozdíly mezi vývojovým a produkčním prostředím
  • Nástroje a platformy určené k nasazení modelů

Příprava modelů na nasazení

  • Export modelů do standardizovaných formátů (ONNX, TensorFlow SavedModel atd.)
  • Optimalizace modelů s ohledem na latenci a propustnost
  • Otestování modelů na okrajových případech a reálných datech

Kontejnerizace modelů pro nasazení

  • Seznámení s nástrojem Docker
  • Tvorba Docker obrazů určených k použití s modely strojového učení
  • Dobré postupy ohledně bezpečnosti a efektivity kontejnerů

Škálování nasazení pomocí Kubernetes

  • Přehled využití Kubernetes pro úlohy spojené s umělou inteligencí
  • Nastavení clusterů Kubernetes určených k hostování modelů
  • Vyvažování zátěže a horizontální škálování systémů

Monitorování a údržba nasazených modelů

  • Nastavení monitorování pomocí nástrojů Prometheus a Grafana
  • Automatické logování pro sledování chyb a výkonu systému
  • Vytváření procesů pro přetrénovávání modelů v reakci na jejich degradaci či aktualizace

Zajištění bezpečnosti v produkčním prostředí

  • Ochrana API určených k vyhodnocování modelů
  • Mechanismy autentizace a autorizace uživatelů
  • Řešení problémů souvisejících s ochranou osobních údajů

Případové studie a praktická cvičení

  • Nasazení modelu na analýzu sentimentu textu
  • Škálování služby pro strojový překlad<\/li>
  • Nastavení monitorování u modelů určených k rozpoznávání obrázků

Shrnutí a další kroky

Požadavky

  • Hluboké porozumění pracovním postupům v oblasti strojového učení
  • Praktické zkušenosti s optimalizací modelů strojového učení
  • Orientace na principech DevOps nebo MLOps

Cílová skupina

  • Inženýři DevOps
  • Praktici v oblasti MLOps
  • Specialisté na nasazování umělé inteligence
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (2)

Nadcházející kurzy

Související kategorie