ROCm pro Windows Počítačový Kurz
ROCm je open-source platforma určená k programování GPU, která podporuje grafické procesory od společnosti AMD a zároveň zajišťuje kompatibilitu s technologiemi CUDA i OpenCL. Tato platforma poskytuje programátorům detailní přístup k hardwarovým aspektům a umožňuje plnou kontrolu nad procesem paralelizace. To však vyžaduje hluboké porozumění architektuře zařízení, modelu paměti, způsobu provádění instrukcí a technikám optimalizace.
ROCm pro Windows je nový nástroj, který umožňuje uživatelům instalovat a používat platformu ROCm v operačním systému Windows, široce využívaném jak v domácnostech, tak i v profesionálním prostředí. Díky němu mohou uživatelé plně využít potenciál grafických procesorů AMD pro různé účely – od umělé inteligence přes hry a grafiku až po vědecké výpočty.
Toto živé školení pod vedením instruktora (online či na místě) je určeno pro začínající i středně pokročilé vývojáře, kteří si přejí nainstalovat a používat ROCm ve Windows za účelem programování grafických procesorů AMD a efektivního využití jejich paralelizace.
Po absolvování tohoto kurzu budou účastníci schopni:
- Nastavit vývojové prostředí, které zahrnuje platformu ROCm, grafický procesor od AMD a editor Visual Studio Code v systému Windows.
- Vytvořit jednoduchý program v ROCm, jenž provede sčítání vektorů na GPU a poté načte výsledky z paměti grafického procesoru.
- Používat API platformy ROCm k vyhledávání informací o zařízení, alokaci a dealokaci paměti, přenosu dat mezi hostitelem a GPU, spouštění instrukcí a synchronizaci vláken.
- Pomocí jazyka HIP psát programy, které se provádějí na grafickém procesoru a manipulují s daty.
- Využívat vestavěné funkce, proměnné a knihovny jazyka HIP k řešení běžných úloh.
- Používat různé paměťové prostory v ROCm i HIP – globální, sdílenou, konstantní či lokální – za účelem optimalizace přenosu a přístupu k datům.
- Řídit vlákna, bloky a mřížky definující paralelizaci pomocí vhodných modellů provádění v ROCm i HIP.
- Ladit a testovat programy napsané v ROCm a HIP pomocí nástrojů typu ROCm Debugger či ROCm Profiler.
- Optimalizovat výkon programů využívajících ROCm a HIP díky technikám jako je sloučení přístupů k paměti, ukládání do mezipaměti nebo prediktivní načítání dat.
Forma kurzu
- Interaktivní výuka s diskuzemi.
- Četné cvičení a praktické úkoly.
- Aktivní programování v reálném laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pokud si přejete požádat o individuálně upravený kurz, kontaktujte nás za účelem domluvy.
Návrh Školení
Úvod
- Co je ROCm?
- Co je HIP?
- ROCm vs. CUDA vs. OpenCL – srovnání technologií
- Přehled vlastností a architektury ROCm a HIP
- Rozdíly mezi ROCm pro Windows a ROCm pro Linux
Instalace
- Postup instalace platformy ROCm na systém Windows
- Ověření správné instalace a kontrola kompatibility zařízení
- Aktualizace nebo odinstalace platformy ROCm z Windows
- Řešení běžných problémů při instalaci<\/li>
Základy práce
- Vytvoření nového projektu v ROCm pomocí Visual Studio Code na Windows
- Přehled struktury a souborů projektu
- Kompilace a spuštění programu
- Zobrazení výstupních informací pomocí funkcí printf a fprintf<\/li>
API platformy ROCm
- Používání API ROCm v hostitelském programu
- Zjišťování informací o zařízení a jeho možnostech
- Alokace a uvolňování paměti na grafickém procesoru
- Přenos dat mezi hostitelem a GPU
- Spuštění instrukcí a synchronizace vláken
- Ošetření chyb a výjimek v programech<\/li>
Jazyk HIP
- Používání jazyka HIP při tvorbě kódu určeného k provádění na grafickém procesoru
- Psaní programů, které manipulují s daty a spouštějí se na GPU.
- Pracovní s datovými typy, specifikátory, operátory i výrazy v HIP
- Využití vestavěných funkcí, proměnných a knihoven jazyka HIP<\/li>
Paměťový model v ROCm a HIP
- Používání různých typů paměti – globální, sdílená, konstantní či lokální<
- Práce s různými objekty v paměti jako jsou ukazatele, pole, textury a povrchy
- Aplikace jednotlivých režimů přístupu k paměti – pouze čtení, pouze zápis, čtení i zápis atd.
- Zajištění konzistence dat a vhodné mechanismy synchronizace
Modely provádění v ROCm a HIP
- Definování jednotlivých modelů provádění – vlákna, bloky i mřížky
- Používání funkcí určených k práci s vlákny, např. hipThreadIdx_x, hipBlockIdx_x či hipBlockDim_x<
- Manipulace s blokovými strukturami prostřednictvím funkcí jako __syncthreads či __threadfence_block
- Řízení celých skupin výpočtů pomocí funkcí typu hipGridDim_x, hipGridSync nebo kooperativních skupin<\/li>
Ladění
- Ladění programů napsaných v ROCm a HIP na platformě Windows<
- Používání debuggeru Visual Studio Code k prohlížení proměnných, nastavování breakpointů či kontrole call stacku
- Využití nástroje ROCm Debugger pro ladění aplikací na grafických procesorech AMD<
- Analýza výkonnosti programů pomocí nástroje ROCm Profiler u zařízení s procesory AMD<\/li>
Optimalizace
- Postupy vedoucí k vylepšení výkonu programů napsaných v ROCm a HIP na Windows<
- Aplikace techniky sloučení přístupů k paměti za účelem zvýšení její propustnosti
- Využití mezipaměti a prediktivního načítání dat ke snížení latence při přístupu k paměti<
- Optimalizace přenosů dat díky efektivnějšímu využívání sdílené i lokální paměti
- Použití profilovacích nástrojů pro měření doby provádění a využití systémových zdrojů<\/li>
Závěr a další kroky
Požadavky
- Znalost programovacího jazyka C/C++ a základů paralelního programování
- Elementární porozumění počítačové architektuře a hierarchii pamětí
- Zkušenosti s prací v terminálu a v editorech kódu
- Orientace v operačním systému Windows a nástroji PowerShell
Cílová skupina
- Vývojáři, kteří se chtějí naučit instalovat a používat ROCm ve Windows pro programování grafických procesorů AMD a využití jejich paralelních schopností.
- Vývojáři s cílem vytvářet vysoce výkonný kód, který bude spolehlivě fungovat na různých zařízeních od AMD.
- Programátoři toužící proniknout do hlubších aspektů programování GPU a zdokonalit výkon svých aplikací.
Veřejné školení vyžaduje minimálně 5 účastníků.
ROCm pro Windows Počítačový Kurz - Rezervace
ROCm pro Windows Počítačový Kurz - Dotaz
ROCm pro Windows - Dotaz ohledně konzultace
Nadcházející kurzy
Související kurzy
Vývoj aplikací s umělou inteligencí pomocí platformy Huawei Ascend a nástroje CANN
21 HodinyHuawei Ascend je řada procesorů určených k výpočtům pro umělou inteligenci, které zajišťují vysoký výkon při inferenci i trénování modelů.
Tento školení pod vedením instruktora (online či prezenčně) je určeno pro softwarové inženýry a datové vědce střední úrovně, kteří se chtějí učit vyvíjet a optimalizovat neurální sítě s využitím platformy Huawei Ascend a nástroje CANN.
Po absolvování tohoto kurzu budou účastníci schopni:
- Nastavit a konfigurovat vývojové prostředí nástroje CANN.
- Vytvářet aplikace s využitím umělé inteligence pomocí frameworku MindSpore a nástroje CloudMatrix.
- Optimalizovat výkon na procesorech Ascend NPU prostřednictvím vlastních operátorů a strategií rozdělování výpočtů.
- Nasazovat modely do okolních nebo cloudových prostředí.
Forma kurzu
- Interaktivní přednášky a diskuse.
- Praktické cvičení s využitím produktů Huawei Ascend a nástroje CANN na ukázkových projektech.
- Průvodcovaná cvičení zaměřená na tvorbu, trénování a nasazování modelů.
Možnosti přizpůsobení kurzu
- Pokud si přejete, aby byl kurz upraven podle vaší infrastruktury či sad dat, kontaktujte nás a domluvíme se na potřebách.
Nasazení AI modelů pomocí CANN a procesorů Ascend AI
14 HodinyCANN (Compute Architecture for Neural Networks) je sada nástrojů od společnosti Huawei určená k nasazování a optimalizaci AI modelů na procesorech Ascend AI.
Toto školení vedené instruktorem (online či prezenčně) je určeno pro středně pokročilé vývojáře a inženýry, kteří chtějí efektivně nasadit již vyškolené AI modely na hardware od společnosti Huawei s využitím nástrojů CANN, MindSpore, TensorFlow či PyTorch.
Po absolvování tohoto školení budou účastníci schopni:
- Pochopit architekturu CANN a jeho roli v procesu nasazování AI modelů.
- Převádět modely z populárních vývojových frameworků do formátů kompatibilních s hardwarem Ascend.
- Využívat nástroje jako ATC, konverzi modelů OM a MindSpore pro inferenci na okrajových zařízeních i v cloudu.
- Diagnostikovat problémy při nasazení a optimalizovat výkon modelů na procesorech Ascend.
Forma školení
- Interaktivní přednášky a praktická demonstrace.
- Praktické cvičení s využitím nástrojů CANN a simulátorů či zařízení Ascend.
- Reálné scénáře nasazení založené na skutečných AI modelech.
Možnosti přizpůsobení školení
- Chcete-li si toto školení nechat upravit podle svých potřeb, kontaktujte nás a domluvíme se na detailech.
Inferenční zpracování a nasazení AI pomocí platformy CloudMatrix
21 HodinyCloudMatrix je jednotná platforma společnosti Huawei určená k vývoji a nasazování modelů umělé inteligence, která podporuje škálovatelné a produkční inferenční systémy.
Tento praktický kurz vedený instruktorem (online nebo na místě) je určen pro začínající i středně pokročilé odborníky v oblasti AI, kteří chtějí nasazovat a monitorovat modely pomocí platformy CloudMatrix ve spojení s nástroji CANN a MindSpore.
Po absolvování tohoto kurzu budou účastníci schopni:
- Využívat CloudMatrix k balení, nasazování a poskytování modelů.
- Převádět a optimalizovat modely tak, aby byly vhodné pro čipy Ascend.
- Vytvářet procesní řetězce pro okamžitou i dávkovou inferenci.
- Monitorovat nasazené modely a ladit jejich výkon v produkčním prostředí.
Forma kurzu
- Interaktivní přednášky a diskuze.
- Praktické cvičení s využitím CloudMatrix na skutečných nasazovacích scénářích.
- Cílené úlohy zaměřené na konverzi, optimalizaci a škálování modelů.
Možnosti přizpůsobení kurzu
- Chcete-li si nechat kurz upravit podle vaší infrastruktury AI či cloudového prostředí, kontaktujte nás a domluvíme se na vhodném řešení.
Programování na GPU pomocí akcelerátorů Biren AI
21 HodinyAkcelerátory Biren AI představují vysoce výkonná GPU navržená speciálně pro úlohy v oblasti umělé inteligence a high-performance computing. Tyto akcelerátory podporují škálovatelné trénování i provádění algoritmů.
Toto živé školení vedené instruktorem (online či na místě) je určeno pro vývojáře středně pokročilé a pokročilé úrovně, kteří si přejí programovat a optimalizovat aplikace využívající proprietární sadu nástrojů Biren pro GPU. Součástí školení jsou také praktická srovnání s prostředím založeným na technologii CUDA.
Po absolvování tohoto kurzu budou účastníci schopni:
- Pochopit architekturu GPU od Biren a hierarchii pamětí.
- Nastavit vývojové prostředí a využívat programovací model poskytovaný společností Biren.
- Převádět a optimalizovat kód psaný ve stylu CUDA pro platformy Biren.
- Aplikovat techniky ladění a optimalizace výkonu.
Formát kurzu
- Interaktivní přednášky a diskuse.
- Praktické cvičení s využitím sady nástrojů Biren na ukázkových úlohách GPU.
- Cílená cvičení zaměřená na přenesení kódu a optimalizaci výkonu.
Možnosti přizpůsobení kurzu
- Chcete-li si vyžádat individuálně upravené školení v souladu s vaším softwarovým stackem či požadavky na integraci, kontaktujte nás prosím k domluvě.
Vývoj pro Cambricon MLU pomocí nástrojů BANGPy a Neuware
21 HodinyCambricon MLU (Machine Learning Units) jsou specializované AI čipy optimalizované pro inferenci i trénování modelů v prostředích edge zařízení i datových center.
Toto živé školení vedené instruktorem (online nebo na místě) je určeno pro vývojáře středně pokročilé úrovně, kteří chtějí vytvářet a nasazovat AI modely pomocí frameworku BANGPy a sady nástrojů Neuware na hardwaru Cambricon MLU.
Po absolvování tohoto kurzu budou účastníci schopni:
- Nastavit a konfigurovat vývojová prostředí pro BANGPy a Neuware.
- Vytvářet a optimalizovat modely v Pythonu i C++ určené k běhu na Cambricon MLU.
- Nasazovat modely do edge zařízení či datových center vybavených runtime prostředím Neuware.
- Integrovat pracovní postupy strojového učení s technologiemi akcelerace specifickými pro MLU.
Formát kurzu
- Interaktivní přednášky a diskuze.
- Praktické cvičení s využitím nástrojů BANGPy a Neuware pro vývoj i nasazování modelů.
- Řízená cvičení zaměřená na optimalizaci, integraci a testování modelů.
Možnosti přizpůsobení kurzu
- Pokud si přejete upravit obsah kurzu podle konkrétního modelu Cambricon zařízení či vašich potřeb, kontaktujte nás a domluvíme se na potřebách.
Úvod do CANN pro vývojáře pracující s AI frameworky
7 HodinyCANN (Compute Architecture for Neural Networks) je nástrojová sada od společnosti Huawei určená k tvorbě, optimalizaci a nasazení umělých inteligencí na procesorech Ascend.
Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro začínající vývojáře AI, kteří chtějí porozumět tomu, jak CANN zapadá do celého životního cyklu modelů – od jejich trénování až po nasazení – a jak spolupracuje s frameworky jako MindSpore, TensorFlow a PyTorch.
Po absolvování tohoto kurzu budou účastníci schopni:
- Pochopit účel a architekturu nástrojové sady CANN.
- Nastavit vývojové prostředí využívající CANN a MindSpore.
- Převést a nasadit jednoduchý model na hardware Ascend.
- Získat základní znalosti pro budoucí optimalizace nebo integrace s CANN.
Formát kurzu
- Interaktivní přednášky a diskuze.
- Praktická cvičení zaměřená na nasazování jednoduchých modelů.
- Podrobný postup používání nástrojového řetězce CANN a jeho integrace do různých systémů.
Možnosti přizpůsobení kurzu
- Chcete-li si vyžádat individuálně upravený program, kontaktujte nás prosím k domluvě podrobností.
CANN pro nasazení AI na okraji sítě
14 HodinyNástrojová sada Ascend CANN od společnosti Huawei umožňuje efektivní inferenci umělé inteligence na zařízeních na okraji sítě, včetně čipu Ascend 310. CANN poskytuje důležité nástroje pro kompilaci, optimalizaci a nasazení modelů i v prostředích s omezenými výpočetními kapacitami a pamětí.
Toto školení pod vedením instruktora (online nebo prezenčně) je určeno pro AI vývojáře a integrovatele na středně pokročilé úrovni, kteří chtějí nasazovat a optimalizovat modely na zařízeních Ascend pomocí nástrojového řetězce CANN.
Po absolvování tohoto kurzu budou účastníci schopni:
- Připravovat a převádět modely umělé inteligence pro použití na čipu Ascend 310 pomocí nástrojů CANN.
- Vytvářet lehké infrastruktury pro inferenci s využitím nástroje MindSpore Lite a rozhraní AscendCL.
- Optimalizovat výkon modelů tak, aby vyhovoval omezeným výpočetním a paměťovým zdrojům.
- Nasazovat a monitorovat aplikace AI v reálných scénářích na okraji sítě.
Forma kurzu
- Interaktivní přednášky a praktické ukázky.
- Cvičení v laboratořích s modely a scénáři specifickými pro zařízení na okraji sítě.
- Reálné příklady nasazení na virtuálním nebo fyzickém hardwaru na okraji sítě.
Možnosti přizpůsobení kurzu
- Chcete-li si objednat školení upravené na míru, kontaktujte nás a domluvme se na podrobnostech.
Pochopení softwarového balíku pro umělou inteligenci od společnosti Huawei: Od CANN po MindSpore
14 HodinySoftwarový balík pro AI od Huawei – od nízkoúrovňové sady SDK CANN až po vyšší úroveň rámce MindSpore – poskytuje dokonale integrované prostředí určené k vývoji a nasazení systémů umělé inteligence optimalizované pro hardwarové produkty Ascend.
Toto živé školení vedené instruktorem (online nebo na místě) je určeno technicky zdatným odborníkům začínajícím i středně pokročilým, kteří si chtějí osvojit fungování součástek CANN a MindSpore při správě celého životního cyklu AI systémů a při rozhodování o vhodné infrastruktuře.
Po absolvování tohoto kurzu budou účastníci schopni:
- Pochopit vírovitou architekturu softwarového balíku pro AI od Huawei.
- Určit, jak CANN napomáhá optimalizaci modelů a jejich nasazení na hardwaru.
- Posoudit vhodnost rámce MindSpore a jeho nástrojového prostředí ve srovnání s ostatními řešeními na trhu.
- Určit, jak může být softwarový balík Huawei využit v korporátním prostředí či v cloudových a lokálních infrastrukturách.
Forma kurzu
- Interaktivní přednášky s diskusí.
- Přímé ukázky fungování systémů a konkrétní praktické příklady.
- Volitelné cvičení – provedení procesu přenosu modelu z MindSpore do CANN.
Možnosti přizpůsobení kurzu
- Chcete-li si vyžádat individuálně upravený kurz, kontaktujte nás pro domluvu.
Optimalizace výkonu neuronových sítí pomocí SDK CANN
14 HodinySDK CANN (Compute Architecture for Neural Networks) představuje základní nástroj pro umělou inteligenci od společnosti Huawei, který vývojářům umožňuje doladit a optimalizovat výkon nasazených neuronových sítí na procesorech Ascend AI.
Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro pokročilé vývojáře umělé inteligence a systémové inženýry, kteří chtějí optimalizovat výkon inferencí s využitím sofistikovaných nástrojů CANN, jako je Graph Engine, TIK a možnosti tvorby vlastních operátorů.
Po absolvování tohoto kurzu budou účastníci schopni:
- Pochopit architekturu běhového prostředí CANN a procesy ovlivňující výkon.
- Využívat profilovací nástroje a Graph Engine k analýze a optimalizaci výkonu.
- Tvořit a optimalizovat vlastní operátory s pomocí TIK a TVM.
- Překonávat problémy spojené s pamětí a zvyšovat celkový průtok dat modelu.
Formát kurzu
- Interaktivní přednášky a diskuse.
- Praktická cvičení s okamžitou analýzou výkonu a laděním operátorů.
- Cvičení na optimalizaci na základě reálných příkladů nasazení v obtížných podmínkách.
Možnosti přizpůsobení kurzu
- Pokud si přejete vytvořit na míru šité školení, kontaktujte nás pro domluvení podrobností.
CANN SDK pro pipeline v oblasti počítačového vidění a zpracování přirozeného jazyka
14 HodinySDK CANN (Compute Architecture for Neural Networks) nabízí výkonné nástroje pro nasazení a optimalizaci reálných AI aplikací v oblastech počítačového vidění a zpracování přirozeného jazyka, zejména na hardwaru Huawei Ascend.
Tento živý školení pod vedením instruktora (online nebo na místě) je určeno pro AI odborníky středně pokročilé úrovně, kteří chtějí s pomocí SDK CANN budovat, nasazovat a optimalizovat modely pro zpracování obrazu a textu v produkčním prostředí.
Po absolvování tohoto školení budou účastníci schopni:
- Nasazovat a optimalizovat modely pro počítačové vidění i zpracování přirozeného jazyka pomocí nástrojů CANN a AscendCL.
- Využívat nástroje SDK CANN k konverzi modelů a jejich integraci do fungujících pipeline.
- Optimalizovat výkon při provádění inferencí – například detekce objektů, klasifikace nebo analýza sentimentu.
- Vytvářet reálné pipeline pro počítačové vidění a zpracování jazyka určené k nasazení na okraji sítě nebo v cloudu.
Formát školení
- Interaktivní přednášky a praktická ukázky.
- Praktické cvičení s nasazením modelů a analyzováním jejich výkonu.
- Návrh reálných pipeline na základě konkrétních případů použití v oblasti počítačového vidění a NLP.
Možnosti přizpůsobení kurzu
- Chcete-li si vyžádat školení na míru, kontaktujte nás a domluvíme si detaily.
Vytváření vlastních operátorů umělé inteligence pomocí CANN TIK a TVM
14 HodinyNástroje CANN TIK (Tensor Instruction Kernel) a Apache TVM umožňují pokročilou optimalizaci a přizpůsobení operátorů modelů umělé inteligence pro hardwarové prostředí Huawei Ascend.
Tento praktický školení vedené instruktorem (online nebo na místě) je určeno pro systémové vývojáře pokročilé úrovně, kteří si přejí vytvářet, nasazovat a ladit vlastní operátory pro modely AI s využitím programovacího modelu TIK od CANN a integrace kompilátoru TVM.
Po absolvování tohoto školení budou účastníci schopni:
- Vytvářet a testovat vlastní operátory umělé inteligence s použitím jazyka TIK DSL určeného pro procesory Ascend.
- Integrovat vlastní operace do běhového prostředí CANN a do grafu vykonávání modelu.
- Využívat nástroj TVM k plánování provádění, automatickému ladění parametrů i testování výkonnosti operátorů.
- Ladit a optimalizovat výkonnost vlastních výpočetních jednotek na úrovni instrukcí.
Formát kurzu
- Interaktivní přednášky a ukázky konkrétních postupů.
- Praktické programování vlastních operátorů s využitím nástrojů TIK a TVM.
- Testování a ladění výkonnosti na zařízeních Ascend nebo jejich emulátorech.
Možnosti přizpůsobení kurzu
- Pokud si přejete kurz uzpůsobit svým konkrétním potřebám, kontaktujte nás pro domluvu podrobností.
Migrace aplikací využívajících CUDA na čínské architektury GPU
21 HodinyČínské architektury GPU, jako jsou Huawei Ascend, Biren a Cambricon MLU, nabízejí alternativy k platformě CUDA určené pro místní trhy v oblasti umělé inteligence a výpočetně náročných úloh.
Toto školení vedené instruktorem (online nebo na místě) je určeno programátorům GPU s pokročilými znalostmi a specialistům na infrastrukturu, kteří chtějí migrovat a optimalizovat stávající aplikace využívající CUDA pro nasazení na čínských hardwarových platformách.
Po absolvování tohoto kurzu budou účastníci schopni:
- Zhodnotit kompatibilitu stávajících aplikací využívajících CUDA s alternativami čínských procesorů.
- Převést kód z platformy CUDA do prostředí Huawei CANN, Biren SDK a Cambricon BANGPy.
- Srovnávat výkonnostní charakteristiky jednotlivých platforem a identifikovat místa pro optimalizaci.
- Řešit praktické problémy spojené s podporou různých architektur a jejich nasazením.
Formát kurzu
- Interaktivní přednášky a diskuse.
- Praktické cvičení v oblasti překladu kódu a srovnávání výkonnosti.
- Řízená cvičení zaměřená na strategie adaptace aplikací pro více GPU.
Možnosti přizpůsobení kurzu
- Chcete-li si vyžádat školení upravené podle vaší platformy či projektu využívajícího CUDA, kontaktujte nás a domluvíme se na konkrétních podrobnostech.
Optimalizace výkonu na platformách Ascend, Biren a Cambricon
21 HodinyAscend, Biren a Cambricon patří mezi přední čínské hardwarové platformy určené k nasazení umělé inteligence. Každá z nich poskytuje speciální nástroje na profilování a optimalizaci výkonu pro rozsáhlé AI aplikace.
Tento praktický školení vedené instruktorem (online nebo prezenčně) je určeno pro pokročilé inženýry specializující se na infrastrukturu umělé inteligence a optimalizaci výkonu, kteří chtějí zdokonalit procesy odvozování i trénování modelů napříč různými čínskými hardwarovými platformami.
Po absolvování kurzu budou účastníci schopni:
- Provádět testy výkonu modelů na platformách Ascend, Biren a Cambricon.
- Identifikovat systémová omezení a neefektivnosti v oblasti paměti či výpočtů.
- Aplikovat optimalizace na úrovni grafu, jádra i jednotlivých operátorů.
- Upravovat procesy nasazení modelů tak, aby se zvýšila propustnost a snížila latence.
Forma kurzu
- Interaktivní přednášky a diskuse.
- Praktické použití nástrojů na profilování a optimalizaci výkonu na jednotlivých platformách.
- Cvičení s cílem procvičit reálné scénáře optimalizace.
Možnosti přizpůsobení kurzu
- Pokud si přejete vytvořit kurz na míru podle vašeho prostředí či konkrétních typů modelů, kontaktujte nás a domluvme se.