Návrh Školení

Přehled ekosystému čínských GPU architektur pro umělou inteligenci (AI)

  • Srovnání Huawei Ascend, Biren, Cambricon MLU
  • CUDA vs CANN, Biren SDK a modely BANGPy
  • Trendy v průmyslu a ekosystémy poskytovatelů služeb

Příprava na migraci

  • Hodnocení CUDA kódové báze
  • Identifikace cílových platform a verzí SDK
  • Nainstalování nástrojů a nastavení prostředí

Téchniky překladu kódu

  • Převod paměťového přístupu a jádrové logiky CUDA
  • Mapování výpočetních sítí/částečných modelů vláken
  • Možnosti automatického vs ručního překladu

Implementace specifické pro platformy

  • Použití operátorů Huawei CANN a vlastních jáder
  • Převodový kanál Biren SDK
  • Představění modelu s použitím BANGPy (Cambricon)

Křižová platformová testování a optimalizace

  • Profiling provozu na každé cílové platformě
  • Nastavení paměti a porovnání paralelního provedení
  • Sledování výkonu a iterativní úpravy

Řízení smíšených GPU prostředí

  • Hibridní nasazení s více architekturami
  • Zálohové strategie a detekce zařízení
  • Aby bylo kódování udržitelné, abstrakční vrstvy

Případové studie a nejlepší praktiky

  • Převod modelů vizualizace/NLP do Ascend nebo Cambriconu
  • Nastavení odvozených kanálů na Biren clusterech
  • Zvládání nesrovnalostí verzí a mezer v APIch

Shrnutí a další kroky

Požadavky

  • Zkušenosti s programováním v CUDA nebo aplikacích založených na GPU
  • Pochopení modelů paměti a početních jáдер GPU
  • Znalost výsadu pro nasazování nebo zrychlování AI modelů

Cílová skupina

  • Programátoři GPU
  • Aktéři na systémovou architekturu
  • Zvláštníci převodu kódu
 21 hodiny

Počet účastníků


Price per participant

Upcoming Courses

Související kategorie