Migrace aplikací využívajících CUDA na čínské architektury GPU Počítačový Kurz

Huawei Ascend je řada procesorů určených k výpočtům pro umělou inteligenci, které zajišťují vysoký výkon při inferenci i trénování modelů.

Tento školení pod vedením instruktora (online či prezenčně) je určeno pro softwarové inženýry a datové vědce střední úrovně, kteří se chtějí učit vyvíjet a optimalizovat neurální sítě s využitím platformy Huawei Ascend a nástroje CANN.

Po absolvování tohoto kurzu budou účastníci schopni:

• Nastavit a konfigurovat vývojové prostředí nástroje CANN.
• Vytvářet aplikace s využitím umělé inteligence pomocí frameworku MindSpore a nástroje CloudMatrix.
• Optimalizovat výkon na procesorech Ascend NPU prostřednictvím vlastních operátorů a strategií rozdělování výpočtů.
• Nasazovat modely do okolních nebo cloudových prostředí.

Forma kurzu

• Interaktivní přednášky a diskuse.
• Praktické cvičení s využitím produktů Huawei Ascend a nástroje CANN na ukázkových projektech.
• Průvodcovaná cvičení zaměřená na tvorbu, trénování a nasazování modelů.

Možnosti přizpůsobení kurzu

• Pokud si přejete, aby byl kurz upraven podle vaší infrastruktury či sad dat, kontaktujte nás a domluvíme se na potřebách.

CANN (Compute Architecture for Neural Networks) je sada nástrojů od společnosti Huawei určená k nasazování a optimalizaci AI modelů na procesorech Ascend AI.

Toto školení vedené instruktorem (online či prezenčně) je určeno pro středně pokročilé vývojáře a inženýry, kteří chtějí efektivně nasadit již vyškolené AI modely na hardware od společnosti Huawei s využitím nástrojů CANN, MindSpore, TensorFlow či PyTorch.

Po absolvování tohoto školení budou účastníci schopni:

• Pochopit architekturu CANN a jeho roli v procesu nasazování AI modelů.
• Převádět modely z populárních vývojových frameworků do formátů kompatibilních s hardwarem Ascend.
• Využívat nástroje jako ATC, konverzi modelů OM a MindSpore pro inferenci na okrajových zařízeních i v cloudu.
• Diagnostikovat problémy při nasazení a optimalizovat výkon modelů na procesorech Ascend.

Forma školení

• Interaktivní přednášky a praktická demonstrace.
• Praktické cvičení s využitím nástrojů CANN a simulátorů či zařízení Ascend.
• Reálné scénáře nasazení založené na skutečných AI modelech.

Možnosti přizpůsobení školení

• Chcete-li si toto školení nechat upravit podle svých potřeb, kontaktujte nás a domluvíme se na detailech.

CloudMatrix je jednotná platforma společnosti Huawei určená k vývoji a nasazování modelů umělé inteligence, která podporuje škálovatelné a produkční inferenční systémy.

Tento praktický kurz vedený instruktorem (online nebo na místě) je určen pro začínající i středně pokročilé odborníky v oblasti AI, kteří chtějí nasazovat a monitorovat modely pomocí platformy CloudMatrix ve spojení s nástroji CANN a MindSpore.

Po absolvování tohoto kurzu budou účastníci schopni:

• Využívat CloudMatrix k balení, nasazování a poskytování modelů.
• Převádět a optimalizovat modely tak, aby byly vhodné pro čipy Ascend.
• Vytvářet procesní řetězce pro okamžitou i dávkovou inferenci.
• Monitorovat nasazené modely a ladit jejich výkon v produkčním prostředí.

Forma kurzu

• Interaktivní přednášky a diskuze.
• Praktické cvičení s využitím CloudMatrix na skutečných nasazovacích scénářích.
• Cílené úlohy zaměřené na konverzi, optimalizaci a škálování modelů.

Možnosti přizpůsobení kurzu

• Chcete-li si nechat kurz upravit podle vaší infrastruktury AI či cloudového prostředí, kontaktujte nás a domluvíme se na vhodném řešení.

Akcelerátory Biren AI představují vysoce výkonná GPU navržená speciálně pro úlohy v oblasti umělé inteligence a high-performance computing. Tyto akcelerátory podporují škálovatelné trénování i provádění algoritmů.

Toto živé školení vedené instruktorem (online či na místě) je určeno pro vývojáře středně pokročilé a pokročilé úrovně, kteří si přejí programovat a optimalizovat aplikace využívající proprietární sadu nástrojů Biren pro GPU. Součástí školení jsou také praktická srovnání s prostředím založeným na technologii CUDA.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit architekturu GPU od Biren a hierarchii pamětí.
• Nastavit vývojové prostředí a využívat programovací model poskytovaný společností Biren.
• Převádět a optimalizovat kód psaný ve stylu CUDA pro platformy Biren.
• Aplikovat techniky ladění a optimalizace výkonu.

Formát kurzu

• Interaktivní přednášky a diskuse.
• Praktické cvičení s využitím sady nástrojů Biren na ukázkových úlohách GPU.
• Cílená cvičení zaměřená na přenesení kódu a optimalizaci výkonu.

Možnosti přizpůsobení kurzu

• Chcete-li si vyžádat individuálně upravené školení v souladu s vaším softwarovým stackem či požadavky na integraci, kontaktujte nás prosím k domluvě.

Cambricon MLU (Machine Learning Units) jsou specializované AI čipy optimalizované pro inferenci i trénování modelů v prostředích edge zařízení i datových center.

Toto živé školení vedené instruktorem (online nebo na místě) je určeno pro vývojáře středně pokročilé úrovně, kteří chtějí vytvářet a nasazovat AI modely pomocí frameworku BANGPy a sady nástrojů Neuware na hardwaru Cambricon MLU.

Po absolvování tohoto kurzu budou účastníci schopni:

• Nastavit a konfigurovat vývojová prostředí pro BANGPy a Neuware.
• Vytvářet a optimalizovat modely v Pythonu i C++ určené k běhu na Cambricon MLU.
• Nasazovat modely do edge zařízení či datových center vybavených runtime prostředím Neuware.
• Integrovat pracovní postupy strojového učení s technologiemi akcelerace specifickými pro MLU.

Formát kurzu

• Interaktivní přednášky a diskuze.
• Praktické cvičení s využitím nástrojů BANGPy a Neuware pro vývoj i nasazování modelů.
• Řízená cvičení zaměřená na optimalizaci, integraci a testování modelů.

Možnosti přizpůsobení kurzu

• Pokud si přejete upravit obsah kurzu podle konkrétního modelu Cambricon zařízení či vašich potřeb, kontaktujte nás a domluvíme se na potřebách.

CANN (Compute Architecture for Neural Networks) je nástrojová sada od společnosti Huawei určená k tvorbě, optimalizaci a nasazení umělých inteligencí na procesorech Ascend.

Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro začínající vývojáře AI, kteří chtějí porozumět tomu, jak CANN zapadá do celého životního cyklu modelů – od jejich trénování až po nasazení – a jak spolupracuje s frameworky jako MindSpore, TensorFlow a PyTorch.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit účel a architekturu nástrojové sady CANN.
• Nastavit vývojové prostředí využívající CANN a MindSpore.
• Převést a nasadit jednoduchý model na hardware Ascend.
• Získat základní znalosti pro budoucí optimalizace nebo integrace s CANN.

Formát kurzu

• Interaktivní přednášky a diskuze.
• Praktická cvičení zaměřená na nasazování jednoduchých modelů.
• Podrobný postup používání nástrojového řetězce CANN a jeho integrace do různých systémů.

Možnosti přizpůsobení kurzu

• Chcete-li si vyžádat individuálně upravený program, kontaktujte nás prosím k domluvě podrobností.

Nástrojová sada Ascend CANN od společnosti Huawei umožňuje efektivní inferenci umělé inteligence na zařízeních na okraji sítě, včetně čipu Ascend 310. CANN poskytuje důležité nástroje pro kompilaci, optimalizaci a nasazení modelů i v prostředích s omezenými výpočetními kapacitami a pamětí.

Toto školení pod vedením instruktora (online nebo prezenčně) je určeno pro AI vývojáře a integrovatele na středně pokročilé úrovni, kteří chtějí nasazovat a optimalizovat modely na zařízeních Ascend pomocí nástrojového řetězce CANN.

Po absolvování tohoto kurzu budou účastníci schopni:

• Připravovat a převádět modely umělé inteligence pro použití na čipu Ascend 310 pomocí nástrojů CANN.
• Vytvářet lehké infrastruktury pro inferenci s využitím nástroje MindSpore Lite a rozhraní AscendCL.
• Optimalizovat výkon modelů tak, aby vyhovoval omezeným výpočetním a paměťovým zdrojům.
• Nasazovat a monitorovat aplikace AI v reálných scénářích na okraji sítě.

Forma kurzu

• Interaktivní přednášky a praktické ukázky.
• Cvičení v laboratořích s modely a scénáři specifickými pro zařízení na okraji sítě.
• Reálné příklady nasazení na virtuálním nebo fyzickém hardwaru na okraji sítě.

Možnosti přizpůsobení kurzu

• Chcete-li si objednat školení upravené na míru, kontaktujte nás a domluvme se na podrobnostech.

Softwarový balík pro AI od Huawei – od nízkoúrovňové sady SDK CANN až po vyšší úroveň rámce MindSpore – poskytuje dokonale integrované prostředí určené k vývoji a nasazení systémů umělé inteligence optimalizované pro hardwarové produkty Ascend.

Toto živé školení vedené instruktorem (online nebo na místě) je určeno technicky zdatným odborníkům začínajícím i středně pokročilým, kteří si chtějí osvojit fungování součástek CANN a MindSpore při správě celého životního cyklu AI systémů a při rozhodování o vhodné infrastruktuře.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit vírovitou architekturu softwarového balíku pro AI od Huawei.
• Určit, jak CANN napomáhá optimalizaci modelů a jejich nasazení na hardwaru.
• Posoudit vhodnost rámce MindSpore a jeho nástrojového prostředí ve srovnání s ostatními řešeními na trhu.
• Určit, jak může být softwarový balík Huawei využit v korporátním prostředí či v cloudových a lokálních infrastrukturách.

Forma kurzu

• Interaktivní přednášky s diskusí.
• Přímé ukázky fungování systémů a konkrétní praktické příklady.
• Volitelné cvičení – provedení procesu přenosu modelu z MindSpore do CANN.

Možnosti přizpůsobení kurzu

• Chcete-li si vyžádat individuálně upravený kurz, kontaktujte nás pro domluvu.

SDK CANN (Compute Architecture for Neural Networks) představuje základní nástroj pro umělou inteligenci od společnosti Huawei, který vývojářům umožňuje doladit a optimalizovat výkon nasazených neuronových sítí na procesorech Ascend AI.

Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro pokročilé vývojáře umělé inteligence a systémové inženýry, kteří chtějí optimalizovat výkon inferencí s využitím sofistikovaných nástrojů CANN, jako je Graph Engine, TIK a možnosti tvorby vlastních operátorů.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit architekturu běhového prostředí CANN a procesy ovlivňující výkon.
• Využívat profilovací nástroje a Graph Engine k analýze a optimalizaci výkonu.
• Tvořit a optimalizovat vlastní operátory s pomocí TIK a TVM.
• Překonávat problémy spojené s pamětí a zvyšovat celkový průtok dat modelu.

Formát kurzu

• Interaktivní přednášky a diskuse.
• Praktická cvičení s okamžitou analýzou výkonu a laděním operátorů.
• Cvičení na optimalizaci na základě reálných příkladů nasazení v obtížných podmínkách.

Možnosti přizpůsobení kurzu

• Pokud si přejete vytvořit na míru šité školení, kontaktujte nás pro domluvení podrobností.

SDK CANN (Compute Architecture for Neural Networks) nabízí výkonné nástroje pro nasazení a optimalizaci reálných AI aplikací v oblastech počítačového vidění a zpracování přirozeného jazyka, zejména na hardwaru Huawei Ascend.

Tento živý školení pod vedením instruktora (online nebo na místě) je určeno pro AI odborníky středně pokročilé úrovně, kteří chtějí s pomocí SDK CANN budovat, nasazovat a optimalizovat modely pro zpracování obrazu a textu v produkčním prostředí.

Po absolvování tohoto školení budou účastníci schopni:

• Nasazovat a optimalizovat modely pro počítačové vidění i zpracování přirozeného jazyka pomocí nástrojů CANN a AscendCL.
• Využívat nástroje SDK CANN k konverzi modelů a jejich integraci do fungujících pipeline.
• Optimalizovat výkon při provádění inferencí – například detekce objektů, klasifikace nebo analýza sentimentu.
• Vytvářet reálné pipeline pro počítačové vidění a zpracování jazyka určené k nasazení na okraji sítě nebo v cloudu.

Formát školení

• Interaktivní přednášky a praktická ukázky.
• Praktické cvičení s nasazením modelů a analyzováním jejich výkonu.
• Návrh reálných pipeline na základě konkrétních případů použití v oblasti počítačového vidění a NLP.

Možnosti přizpůsobení kurzu

• Chcete-li si vyžádat školení na míru, kontaktujte nás a domluvíme si detaily.

Nástroje CANN TIK (Tensor Instruction Kernel) a Apache TVM umožňují pokročilou optimalizaci a přizpůsobení operátorů modelů umělé inteligence pro hardwarové prostředí Huawei Ascend.

Tento praktický školení vedené instruktorem (online nebo na místě) je určeno pro systémové vývojáře pokročilé úrovně, kteří si přejí vytvářet, nasazovat a ladit vlastní operátory pro modely AI s využitím programovacího modelu TIK od CANN a integrace kompilátoru TVM.

Po absolvování tohoto školení budou účastníci schopni:

• Vytvářet a testovat vlastní operátory umělé inteligence s použitím jazyka TIK DSL určeného pro procesory Ascend.
• Integrovat vlastní operace do běhového prostředí CANN a do grafu vykonávání modelu.
• Využívat nástroj TVM k plánování provádění, automatickému ladění parametrů i testování výkonnosti operátorů.
• Ladit a optimalizovat výkonnost vlastních výpočetních jednotek na úrovni instrukcí.

Formát kurzu

• Interaktivní přednášky a ukázky konkrétních postupů.
• Praktické programování vlastních operátorů s využitím nástrojů TIK a TVM.
• Testování a ladění výkonnosti na zařízeních Ascend nebo jejich emulátorech.

Možnosti přizpůsobení kurzu

• Pokud si přejete kurz uzpůsobit svým konkrétním potřebám, kontaktujte nás pro domluvu podrobností.

Ascend, Biren a Cambricon patří mezi přední čínské hardwarové platformy určené k nasazení umělé inteligence. Každá z nich poskytuje speciální nástroje na profilování a optimalizaci výkonu pro rozsáhlé AI aplikace.

Tento praktický školení vedené instruktorem (online nebo prezenčně) je určeno pro pokročilé inženýry specializující se na infrastrukturu umělé inteligence a optimalizaci výkonu, kteří chtějí zdokonalit procesy odvozování i trénování modelů napříč různými čínskými hardwarovými platformami.

Po absolvování kurzu budou účastníci schopni:

• Provádět testy výkonu modelů na platformách Ascend, Biren a Cambricon.
• Identifikovat systémová omezení a neefektivnosti v oblasti paměti či výpočtů.
• Aplikovat optimalizace na úrovni grafu, jádra i jednotlivých operátorů.
• Upravovat procesy nasazení modelů tak, aby se zvýšila propustnost a snížila latence.

Forma kurzu

• Interaktivní přednášky a diskuse.
• Praktické použití nástrojů na profilování a optimalizaci výkonu na jednotlivých platformách.
• Cvičení s cílem procvičit reálné scénáře optimalizace.

Možnosti přizpůsobení kurzu

• Pokud si přejete vytvořit kurz na míru podle vašeho prostředí či konkrétních typů modelů, kontaktujte nás a domluvme se.