Návrh Školení

Úvod do produkčního nasazení

  • Klíčové výzvy při nasazování vyladěných modelů
  • Rozdíly mezi vývojovým a produkčním prostředím
  • Nástroje a platformy pro nasazení modelu

Příprava modelů pro nasazení

  • Export modelů ve standardních formátech (ONNX, TensorFlow SavedModel atd.)
  • Optimalizace modelů pro latenci a propustnost
  • Testování modelů na okrajových případech a reálných datech

Kontejnerizace pro nasazení modelu

  • Úvod do Docker
  • Vytváření obrázků Docker pro modely ML
  • Nejlepší postupy pro zabezpečení a efektivitu kontejnerů

Škálování implementací pomocí Kubernetes

  • Úvod do Kubernetes pro pracovní zátěže AI
  • Nastavení Kubernetes clusterů pro modelování
  • Vyvažování zátěže a horizontální škálování

Monitorování a údržba modelu

  • Implementace monitorování pomocí Prometheus a Grafana
  • Automatizované protokolování pro sledování chyb a výkon
  • Přeškolení potrubí pro drift a aktualizace modelu

Zajištění bezpečnosti ve výrobě

  • Zabezpečení API pro odvození modelu
  • Autentizační a autorizační mechanismy
  • Řešení problémů s ochranou osobních údajů

Případové studie a praktické laboratoře

  • Nasazení modelu analýzy sentimentu
  • Škálování služby strojového překladu
  • Implementace monitorování pro modely klasifikace snímků

Shrnutí a další kroky

Požadavky

  • Silné pochopení pracovních postupů strojového učení
  • Zkušenosti s dolaďováním ML modelů
  • Znalost principů DevOps nebo MLOps

Publikum

  • DevOps inženýři
  • MLOps praktikující
  • Specialisté na nasazení AI
 21 hodiny

Počet účastníků


Price per participant

Reference (1)

Upcoming Courses

Související kategorie