Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Doba trvání 14 hodiny
Návrh Školení
Úvod do vývoje vlastních operátorů
- Proč vyvíjet vlastní operátory? Použití a omezení
- Struktura běhového prostředí CANN a bod integrace operátorů
- Přehled TBE, TIK a TVM v ekosystému Huawei AI
Používání TIK pro programování operátorů na nízké úrovni
- Rozumět programovému modelu TIK a podporovaným API
- Správa paměti a strategie dlaždicování (tiling) v TIK
- Vytvoření, kompilace a registrace vlastního operátoru s CANN
Testování a validace vlastních operátorů
- Unit testy a integrační testy operátorů v grafu
- Ladění problémů výkonu na úrovni jádra (kernel)
- Vizualizace provádění operátorů a chování bufferů
Plánování a optimalizace na základě TVM
- Přehled TVM jako kompilátoru pro tensorové operátory
- Psaní harmonogramu (schedule) pro vlastní operátor v TVM
- Ladění TVM, benchmarkování a generování kódu pro Ascend
Integrace s frameworky a modely
- Registrace vlastních operátorů pro MindSpore a ONNX
- Ověření integrity modelu a chování při zálohování (fallback)
- Podpora grafů více operátorů s mixovanou přesností
Kazuistiky a specializované optimalizace
- Kазуistika: vysoce efektivní konvoluce pro malé vstupní tvary
- Kазуistika: optimalizace operátoru pozornosti (attention) s ohledem na paměť
- Nejlepší praktiky při nasazování vlastních operátorů napříč zařízeními
Shrnutí a další kroky
Požadavky
- Pokročilé znalosti vnitřního fungování AI modelů a výpočetů na úrovni operátorů
- Zkušenosti s Pythonem a vývojovými prostředími Linux
- Znalost kompilátorů neuronových sítí nebo optimalizátorů na úrovni grafu
Cílová skupina
- Inženýři kompilátorů pracující na AI nástrojích (toolchains)
- Vývojáři systémů zaměřující se na optimalizaci AI na nízké úrovni
- Vývojáři vytvářející vlastní operátory nebo cílící na nové AI zatížení
