Zkuste nás kontaktovat

Návrh Školení

Základy agentických systémů v produkčním prostředí

  • Architektury agentů: cykly provádění, nástroje, paměť a orchestrace
  • Životní cyklus agentů: vývoj, nasazení a průběžný provoz
  • Problémy spojené se správou agentických systémů ve velkém měřítku

Infrastruktura a modely nasazení

  • Nasazování agentů v kontejnerizovaném prostředí i na cloudových platformách
  • Strategie škálování: horizontální a vertikální rozšiřování, zvládání konkurenčního využití a omezování zátěže
  • Orchestrace více agentů a vyvažování pracovních zátěží

Monitorování a sledovatelnost

  • Klíčové metriky: latence, úspěšnost provádění, využití paměti a hloubka volání agentů
  • Sledování aktivit agentů a mapování jejich interakcí
  • Implementace sledovacích systémů pomocí nástrojů Prometheus, OpenTelemetry a Grafana

Logování, auditování a dodržování předpisů

  • Centralizované logování a shromažďování strukturovaných událostí
  • Požadavky na dodržování předpisů a auditovatelnost agentických procesů
  • Návrh auditních záznamů a mechanismů pro opakované spuštění za účelem ladění

Optimalizace výkonu a správa zdrojů

  • Snižování nároků na výpočetní prostředky při inferenci a optimalizace cyklů orchestrace agentů
  • Využívání mezipaměti modelů a lehkých reprezentací dat pro rychlejší vyhledávání informací
  • Testování zátěže a simulace extrémních podmínek u AI systémů

Kontrola nákladů a řízení systémů

  • Identifikace hlavních faktorů ovlivňujících náklady na agenty: volání API, využití paměti, výpočetní síla a externí integrace
  • Sledování nákladů jednotlivých agentů a zavádění systémů pro jejich vyúčtovávání
  • Automatizovaná opatření pro prevenci nadměrného rozšiřování počtu agentů a nevyužití zdrojů

Strategie CI/CD a postupy nasazování agentů

  • Integrace agentických systémů do procesů CI/CD
  • Metody testování, verzování a navracení změn při aktualizacích agentů
  • Postupné nasazování a mechanismy zajišťující bezpečné uvedení do provozu

Obnova po selhání a inženýring spolehlivosti

  • Návrh systémů odolných vůči chybám a schopných postupné degradace funkcí
  • Využívání mechanismů opakování, časových limitů a ochran před nekontrolovaným šířením chyb pro zajištění spolehlivosti agentů
  • Postupy reakce na incidenty a analýzy po selhání v provozu AI systémů

Závěrečný projekt

  • Vytvoření a nasazení agentického AI systému s komplexním monitorováním a sledováním nákladů
  • Simulace zátěže, měření výkonu a optimalizace využití prostředků
  • Prezentace finální architektury a monitorovacích nástrojů kolegům

Shrnutí a další kroky

Požadavky

  • Dobrá znalost MLOps a provozních aspektů systémů strojového učení
  • Zkušenosti s nasazováním v kontejnerech (Docker/Kubernetes)
  • Seznámenost s nástroji pro optimalizaci cloudových nákladů a sledování systémů

Cílová skupina

  • Inženýři MLOps
  • Specialisté na spolehlivost systémů (SRE)
  • Vedení inženýrských týmů zodpovědných za infrastrukturu AI
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (3)

Nadcházející kurzy

Související kategorie