Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Návrh Školení
Úvod do tvorby vlastních operátorů umělé inteligence
- Proč vytvářet vlastní operátory? Příklady využití a omezení
- Struktura běhového prostředí CANN a místa pro integraci nových operátorů
- Přehled nástrojů TBE, TIK a TVM v ekosystému řešení AI od společnosti Huawei
Práce s nástrojem TIK při programování operátorů na nízké úrovni
- Seznámení s programovacím modelem TIK a dostupnými rozhraními API
- Správa paměti a strategie rozdělení dat při práci v prostředí TIK
- Vytváření, kompilace a registrace vlastních operátorů do prostředí CANN
Testování a validace vlastních operátorů
- Jednotkové i integrační testy fungování jednotlivých operátorů v rámci celého grafu modelu
- Odstraňování problémů s výkonností na úrovni jednotlivých kernelů
- Zobrazování průběhu provádění operátorů a chování bufferů v paměti
Plánování a optimalizace pomocí nástroje TVM
- Přehled využití nástroje TVM jako kompilátoru pro operace s tensory
- Návrh plánu provedení pro vlastní operátory pomocí nástroje TVM
- Techniky ladění parametrů, testování výkonnosti a generování kódu určeného speciálně pro hardware Ascend
Integrace s vývojovými frameworky a modely AI
- Registrace vlastních operátorů do prostředí MindSpore a formátu ONNX
- Ověřování integrity celého modelu a chování systému při výpadcích některých operací
- Podpora grafů s více operátory pracujících v různých stupních přesnosti výpočtů
Případové studie a speciální techniky optimalizace
- Praktická ukázka efektivní realizace konvoluce pro modely s malými vstupními daty
- Optimalizace operátoru určeného k výpočtu pozornosti s ohledem na využití paměti
- Doporučené postupy při nasazování vlastních operátorů napříč různými typy zařízení
Závěr a další směřování vývoje
Požadavky
- Důkladné znalosti vnitřní struktury modelů umělé inteligence a výpočetních operací na úrovni jednotlivých operátorů
- Zkušenosti s programováním v Pythonu a práce v linuxovém prostředí
- Seznámenost s kompilátory neuronových sítí či nástroji na optimalizaci struktury grafu modelů
Cílové skupiny
- Inženýři v oblasti kompilátorů zabývající se nástroji pro vývoj AI
- Systémoví vývojáři zaměření na optimalizaci operací umělé inteligence na nízké úrovni
- Vývojáři vytvářející vlastní operátory nebo pracující s novými typy výpočetních nároků modelů AI
14 Hodiny