Návrh Školení
Základy agentických systémů v produkčním prostředí
- Architektury agentů: cykly provádění, nástroje, paměť a orchestrace
- Životní cyklus agentů: vývoj, nasazení a průběžný provoz
- Problémy spojené se správou agentických systémů ve velkém měřítku
Infrastruktura a modely nasazení
- Nasazování agentů v kontejnerizovaném prostředí i na cloudových platformách
- Strategie škálování: horizontální a vertikální rozšiřování, zvládání konkurenčního využití a omezování zátěže
- Orchestrace více agentů a vyvažování pracovních zátěží
Monitorování a sledovatelnost
- Klíčové metriky: latence, úspěšnost provádění, využití paměti a hloubka volání agentů
- Sledování aktivit agentů a mapování jejich interakcí
- Implementace sledovacích systémů pomocí nástrojů Prometheus, OpenTelemetry a Grafana
Logování, auditování a dodržování předpisů
- Centralizované logování a shromažďování strukturovaných událostí
- Požadavky na dodržování předpisů a auditovatelnost agentických procesů
- Návrh auditních záznamů a mechanismů pro opakované spuštění za účelem ladění
Optimalizace výkonu a správa zdrojů
- Snižování nároků na výpočetní prostředky při inferenci a optimalizace cyklů orchestrace agentů
- Využívání mezipaměti modelů a lehkých reprezentací dat pro rychlejší vyhledávání informací
- Testování zátěže a simulace extrémních podmínek u AI systémů
Kontrola nákladů a řízení systémů
- Identifikace hlavních faktorů ovlivňujících náklady na agenty: volání API, využití paměti, výpočetní síla a externí integrace
- Sledování nákladů jednotlivých agentů a zavádění systémů pro jejich vyúčtovávání
- Automatizovaná opatření pro prevenci nadměrného rozšiřování počtu agentů a nevyužití zdrojů
Strategie CI/CD a postupy nasazování agentů
- Integrace agentických systémů do procesů CI/CD
- Metody testování, verzování a navracení změn při aktualizacích agentů
- Postupné nasazování a mechanismy zajišťující bezpečné uvedení do provozu
Obnova po selhání a inženýring spolehlivosti
- Návrh systémů odolných vůči chybám a schopných postupné degradace funkcí
- Využívání mechanismů opakování, časových limitů a ochran před nekontrolovaným šířením chyb pro zajištění spolehlivosti agentů
- Postupy reakce na incidenty a analýzy po selhání v provozu AI systémů
Závěrečný projekt
- Vytvoření a nasazení agentického AI systému s komplexním monitorováním a sledováním nákladů
- Simulace zátěže, měření výkonu a optimalizace využití prostředků
- Prezentace finální architektury a monitorovacích nástrojů kolegům
Shrnutí a další kroky
Požadavky
- Dobrá znalost MLOps a provozních aspektů systémů strojového učení
- Zkušenosti s nasazováním v kontejnerech (Docker/Kubernetes)
- Seznámenost s nástroji pro optimalizaci cloudových nákladů a sledování systémů
Cílová skupina
- Inženýři MLOps
- Specialisté na spolehlivost systémů (SRE)
- Vedení inženýrských týmů zodpovědných za infrastrukturu AI
Reference (3)
Intruktor je trpělivý a velmi nápomocný. Dobře zná danou problematiku.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurz - Agentic AI for Business Automation: Use Cases & Integration
Přeloženo strojem
Dobrý zmatek znalostí a praxe
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Agentic AI for Enterprise Applications
Přeloženo strojem
Míchání teorie a praxe a pohledů z vysokého i nízkého úrovní
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Autonomous Decision-Making with Agentic AI
Přeloženo strojem