Zkuste nás kontaktovat

Návrh Školení

Úvod do tvorby vlastních operátorů umělé inteligence

  • Proč vytvářet vlastní operátory? Příklady využití a omezení
  • Struktura běhového prostředí CANN a místa pro integraci nových operátorů
  • Přehled nástrojů TBE, TIK a TVM v ekosystému řešení AI od společnosti Huawei

Práce s nástrojem TIK při programování operátorů na nízké úrovni

  • Seznámení s programovacím modelem TIK a dostupnými rozhraními API
  • Správa paměti a strategie rozdělení dat při práci v prostředí TIK
  • Vytváření, kompilace a registrace vlastních operátorů do prostředí CANN

Testování a validace vlastních operátorů

  • Jednotkové i integrační testy fungování jednotlivých operátorů v rámci celého grafu modelu
  • Odstraňování problémů s výkonností na úrovni jednotlivých kernelů
  • Zobrazování průběhu provádění operátorů a chování bufferů v paměti

Plánování a optimalizace pomocí nástroje TVM

  • Přehled využití nástroje TVM jako kompilátoru pro operace s tensory
  • Návrh plánu provedení pro vlastní operátory pomocí nástroje TVM
  • Techniky ladění parametrů, testování výkonnosti a generování kódu určeného speciálně pro hardware Ascend

Integrace s vývojovými frameworky a modely AI

  • Registrace vlastních operátorů do prostředí MindSpore a formátu ONNX
  • Ověřování integrity celého modelu a chování systému při výpadcích některých operací
  • Podpora grafů s více operátory pracujících v různých stupních přesnosti výpočtů

Případové studie a speciální techniky optimalizace

  • Praktická ukázka efektivní realizace konvoluce pro modely s malými vstupními daty
  • Optimalizace operátoru určeného k výpočtu pozornosti s ohledem na využití paměti
  • Doporučené postupy při nasazování vlastních operátorů napříč různými typy zařízení

Závěr a další směřování vývoje

Požadavky

  • Důkladné znalosti vnitřní struktury modelů umělé inteligence a výpočetních operací na úrovni jednotlivých operátorů
  • Zkušenosti s programováním v Pythonu a práce v linuxovém prostředí
  • Seznámenost s kompilátory neuronových sítí či nástroji na optimalizaci struktury grafu modelů

Cílové skupiny

  • Inženýři v oblasti kompilátorů zabývající se nástroji pro vývoj AI
  • Systémoví vývojáři zaměření na optimalizaci operací umělé inteligence na nízké úrovni
  • Vývojáři vytvářející vlastní operátory nebo pracující s novými typy výpočetních nároků modelů AI
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie