Návrh Školení

Vstup do Cambricon a architektury MLU

  • Přehled portfolia AI čipů Cambriconu
  • Architektura MLU a instrukční pipeline
  • Podporované typy modelů a případové studie

Nainstalace vývojového nástroje

  • Nainstalace BANGPy a Neuware SDK
  • Nastavení prostředí pro Python a C++
  • Kompatibilita modelů a předzpracování

Vývoj modelu pomocí BANGPy

  • Struktura tenzorů a správa tvaru
  • Sestavení výpočetního grafu
  • Podpora vlastních operací v BANGPy

Nasazení pomocí runtime Neuware

  • Převod a načtení modelů
  • Kontrola spouštění a dedukce
  • Praxe nasazování na hraničních zařízeních a v datecenter

Vylepšení výkonu

  • Zmapování paměti a tunink vrstev
  • Sledování a profilace spouštění
  • Běžné zácpy a jejich řešení

Integrace MLU do aplikací

  • Použití API Neuware pro integraci aplikací
  • Podpora streamování a více modelů
  • Hibridní scénáře dedukce CPU-MLU

Celkový projektní průběh a Use Case

  • Laboratoř: Nasazení vizuálního nebo NLP modelu
  • Hraniční dedukce s integrací BANGPy
  • Testování přesnosti a propustnosti

Závěr a další kroky

Požadavky

  • Pochopení struktur modelů strojového učení
  • Zkušenosti s Python a/nebo C++
  • Znalost konceptů nasazování a zrychlování modelů

Cílová skupina

  • Vývojáři embedded AI
  • Inženýři ML, kteří nasazují do hraničního zařízení nebo datového střediska
  • Vývojáři pracující s čínskou infrastrukturou AI
 21 hodiny

Počet účastníků


Price per participant

Upcoming Courses

Související kategorie