Návrh Školení

Úvod do periferní AI a Nano Banana

  • Klíčové charakteristiky periferních AI úloh
  • Architektura a schopnosti Nano Banana
  • Porovnání strategií nasazení na periférii vs cloudu

Příprava modelů pro nasazení na periférii

  • Výběr modelu a základní hodnocení
  • Úvahy ohledně závislostí a kompatibility
  • Exportování modelů pro další optimalizaci

Techniky komprese modelů

  • Strategie řezání a strukturní řídkosti
  • Sdílení váh a redukce parametrů
  • Posouzení dopadů komprese

Kvantizace pro výkon na periférii

  • Metody post-training kvantizace
  • Workflows kvantizačního učení s ohledem na trénování
  • Přístupy INT8, FP16 a smíšené přesnosti

Zrychlení s Nano Banana

  • Použití urychlitele Nano Banana
  • Integrace ONNX a hardwarových back-endů
  • Měření výkonu urychleného odvození

Nasazení na periferní zařízení

  • Integrace modelů do vestavěných nebo mobilních aplikací
  • Konfigurace a monitorování běhu
  • Řešení problémů s nasazením

Profilace výkonu a analýza kompromisů

  • Latence, propustnost a tepelné omezení
  • Kompromisy mezi přesností a výkonem
  • Iterativní strategie optimalizace

Nejlepší praktiky pro udržování periferních AI systémů

  • Verzování a kontinuální aktualizace
  • Zpětné převody modelů a řízení kompatibility
  • Bezpečnostní a integrita úvahy

Shrnutí a další kroky

Požadavky

  • Pochopení workflow strojového učení
  • Zkušenosti s vývojem modelů pomocí Pythonu
  • Omlouvání se s architekturami neuronových sítí

Cílová skupina

  • Inženýři ML (Machine Learning)
  • Data scientisci
  • Praktikanti MLOps
 14 hodiny

Počet účastníků


Cena za účastníka

Reference (1)

Nadcházející kurzy

Související kategorie