Návrh Školení

Úvod do Huawei CloudMatrix

  • Ekosystém a tok nasazení pro CloudMatrix
  • Podporované modely, formáty a módy nasazení
  • Typické případové studie a podporované čipsety

Příprava Modelů pro Nasazení

  • Export modelu z nástrojů pro trénování (MindSpore, TensorFlow, PyTorch)
  • Použití ATC (Ascend Tensor Compiler) pro konverzi formátů
  • Statické vs dynamické modely tvaru

Nasazení na CloudMatrix

  • Vytvoření služby a registrace modelů
  • Nasazování inferenčních služeb prostřednictvím uživatelského rozhraní nebo příkazového řádku
  • Směrování, ověřování a řízení přístupu

Sloužení Inferenčních Požadavků

  • Toky inferencí v dávkovém vs reálném čase
  • Předzpracování a pozpracování datových kanálů
  • Volání CloudMatrix služeb z externích aplikací

Sledování a Optimalizace Výkonu

  • Protokoly nasazení a sledování požadavků
  • Škálování zdrojů a rovnoměrné rozložení zatížení
  • Nastavení latence a optimalizace propustnosti

Integrace s Podnikovými Nástroji

  • Připojení CloudMatrix k OBS a ModelArts
  • Používání pracovních proudů a verzování modelů
  • CI/CD pro nasazení a vrácení zpět modelu

Celkový Inferenční Pracovní Proud

  • Nasazení kompletního pracovního půdu pro klasifikaci obrázků
  • Změření a ověření přesnosti
  • Simulace přechodu na rezervní systém a výstrahy systému

Shrnutí a Další Kroky

Požadavky

  • Přehled o pracovních postupech pro trénink AI modelů
  • Zkušenosti s ML frameworky založenými na Python
  • Základní znalost konceptů nasazení do cloudu

Audience

  • Týmy AI ops
  • Inženýři pro strojové učení
  • Specializovaní na nasazení do cloudu, pracující s infrastrukturou Huawei
 21 hodiny

Počet účastníků


Price per participant

Reference (1)

Upcoming Courses

Související kategorie