Zkuste nás kontaktovat

Návrh Školení

Úvod do Huawei CloudMatrix

  • Ekosystém CloudMatrix a tok nasazení
  • Podporované modely, formáty a režimy nasazení
  • Typické použití a podporované čipy

Příprava modelů pro nasazení

  • Export modelů z nástrojů pro trénink (MindSpore, TensorFlow, PyTorch)
  • Použití ATC (Ascend Tensor Compiler) pro převod formátu
  • Modely se statickým vs. dynamickým tvarem

Nasazení do CloudMatrix

  • Vytváření služby a registrace modelu
  • Nasazování inferenčních služeb pomocí UI nebo CLI
  • Routing, autentizace a řízení přístupu

Servirování inferenčních požadavků

  • Toky inferenční zpracování: dávkové vs. reálný čas
  • Pipeline předzpracování a pozdějšího zpracování dat
  • Volání služeb CloudMatrix z externích aplikací

Monitorování a ladění výkonu

  • Deníky nasazení a sledování požadavků
  • Škálování zdrojů a vyvážení zátěže
  • Ladění latence a optimalizace propustnosti

Integrace s podnikovými nástroji

  • Propojení CloudMatrix se službami OBS a ModelArts
  • Použití pracovních toků a verzování modelů
  • CI/CD pro nasazování a vrácení modelů

Kompletní inferenční pipeline

  • Nasazení kompletního pipeline pro klasifikaci obrázků
  • Běchmarkování a ověření přesnosti
  • Simulace přepnutí na záložní systém a systémová upozornění

Shrnutí a další kroky

Požadavky

  • Rozumění pracovním tokům tréninku AI modelů
  • Zkušenosti s ML frameworky založenými na Pythonu
  • Základní znalosti konceptů cloudového nasazování

Cílová skupina

  • Týmy AI ops
  • Inženýři machine learningu
  • Specialisté na cloudové nasazování pracující s infrastrukturou Huawei
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (2)

Nadcházející kurzy

Související kategorie