Návrh Školení
Den 1
Anatomie moderního AI agenta
Více než jen chatboty: agenti jako autonomní systémy pro uvažování a jednání
Paradigmata reaktivních, proaktivních, hybridních a cílem řízených agentů
Základní komponenty: vnímání, plánování, paměť, použití nástrojů, akce
Kompromisy mezi návrhem s jedním a více agenty
Rámcové standardy pro agenty a moderní technologie
LangChain, LlamaIndex, AutoGen, CrewAI a jejich kompromisy
Porovnání s klasickými rámcovými standardy, jako jsou JADE a SPADE
Výběr rámcového standardu na základě požadavků produkce
Přivolávání nástrojů, přivolávání funkcí a strukturované výstupy
Praktické cvičení: vybudování kostry jednoho Python agenta s přivoláváním nástrojů
Architektury systémů s více agenty
Návrhy centralizovaných, decentralizovaných, hybridních a vrstvených MAS systémů
FIPA ACL, předávání zpráv a jejich moderní ekvivalenty
Patterny koordinace: plánování, vyjednávání, synchronizace
Emergentní chování a samoorganizace v populacích agentů
Rozhodování a učení v agentech
Teorie her pro kooperativní a kompetitivní interakce agentů
Posilovací učení v prostředí s více agenty
Přenesení učení a sdílení znalostí mezi agenty
Řešení konfliktů a důvěra mezi koordinujícími agenty
Den 2
Základy vícmódálního vnímání pro agenty
Vícmódální AI jako ucelené workflow napříč textem, obrázkem, řečí a videem
Populární vícmódální modely: GPT-4 Vision, Gemini, Claude, Whisper
Techniky fúze pro kombinování módů uvnitř uvažovací smyčky agenta
Kompromisy v latenci, nákladech a přesnosti vícmódálních pipeline
Vytvoření vrstvy vnímání
Zpracování obrazu pro agenty: klasifikace, popisky, detekce objektů
rozpoznání řeči s Whisper ASR a streamingovým transkripčním přepisem
Text-to-speech syntéza a přirozená hlasová interakce
Připojení výstupů vnímání k LLM-řízenému uvažování a výběru nástrojů
Praktické cvičení - Budování vícmódálního agenta v Pythonu
Definování úkolu agenta, kontextového okna a inventáře nástrojů
Propojení API GPT-4 Vision a Whisper end-to-end
Implementace paměti, stavu a správy konverzací
Přidání přivolávání nástrojů, která bezpečně vyvolávají reálné vedlejší efekty
Praktické cvičení - Orchestrace systému s více agenty
Skládání specializovaných agentů s AutoGen nebo CrewAI
Definování rolí, odpovědností a protokolů mezera-agent komunikace
Přidělování zdrojů a koordinace v simulovaném prostředí
Logování uvažování agentů, přivolávání nástrojů a rozhodnutí pro inspekci a audit
Den 3
Plocha hrozeb produkčních AI agentů
Co dělá agentic AI jedinečně zranitelnou ve srovnání s tradičním softwarem
Plocha útoků: data, model, prompt, nástroj, výstup a rozhranní vrstvy
Modelování hrozeb pro systémy založené na agenticích s autonomním použitím nástrojů
Porovnávání postupů kyberbezpečnosti AI s tradiční kyberbezpečností
Praktické cvičení - Adversarialní útoky
Adversarialní příklady a metody perturbace: FGSM, PGD, DeepFool
Scénáře útoků s bílou skříňkou versus černou skříňkou
Útoky inverze modelu a odvození členství v datech
Omračování dat a vkládání záložních dveří během tréninku
Prompt injection, jailbreaking a zneužívání nástrojů v LLM-řízených agentech
Obranné techniky a hardening modelů
Adversarialní trénink a strategie augmentace dat
Obranná distilace a další techniky odolnosti
Předzpracování vstupů, maskování gradientů a regularizace
Diferenciální soukromí, vkládání šumu a rozpočty soukromí
Federované učení a bezpečná agregace pro distribuovaný trénink
Praktické cvičení s nástrojem Adversarial Robustness Toolbox
Simulace útoků na vícmódálního agenta vybudovaného ve 2. den
Měření odolnosti pod perturbací a kvantifikace degradace
Aplikace obran iterativně a pře Hodnocení úspěšnosti útoků
Testování zátěží cest přivolávání nástrojů a vektorů prompt injection
Den 4
Rámcové standardy pro řízení rizik AI
NIST AI Risk Management Framework: řídit, mapovat, měřit, spravovat
ISO/IEC 42001 a vznikající specifické normy pro AI
Mapování rizik AI do existujících podnikových GRC rámců
Požadavky na odpovědnost AI, auditovatelnost a dokumentaci
Regulativní soulad pro agentic systémy
EU AI Act: tierové rizika, zakázané použití a povinnosti pro systémy s vysokým rizikem
Dopad GDPR a CCPA na pipeline dat agentů
U.S. Executive Order on Safe, Secure, and Trustworthy AI
Odvětvové směrnice pro finance, zdravotnictví a veřejné služby
Rizika třetích stran a používání nástrojů AI dodavatelů
Etika, zkreslení a vysvětlitelnost
Detekce a zmírnění zkreslení napříč vnímáním a uvažováním agenta
Vysvětlitelnost a transparentnost jako vlastnosti relevantní pro bezpečnost
Spravedlnost, vedlejší škody a zodpovědné nasazení
Navrhování inkluzivního a auditovatelného chování agenta
Produkční nasazení, monitorování a reakce na incidenty
Bezpečné vzory nasazení pro systémy s jedním a více agenty
Pokračující monitorování pro drift, anomálie a zneužívání
Logování, auditní stopy a forenzní připravenost pro akce agentů
Playbooky reakce na incidenty kyberbezpečnosti AI a obnovy
Případové studie skutečných přestupků AI a vyučené lekce
Capstone a syntéza
Přehled vícmódálního systému s více agenty vybudovaného během kurzu
Přehled end-to-end pipeline: design, build, zabezpečit, governance, deploy
Sebevyhodnocení systému podle funkcí NIST AI RMF
Pohled do budoucnosti na vznikající trendy v agentic AI a kyberbezpečnosti AI
Shrnutí a další kroky
Požadavky
Cílová skupina
AI inženýři a architekti budující agentic systémy pro produkční použití. Profesionálové v oblasti kyberbezpečnosti, rizik a souladu s předpisy odpovědní za zajištění AI v regulovaných odvětvích, jako je finance, zdravotnictví a konzulting. Senioři vývojáři a vedoucí řešení integrující vícmódální a víceagentové schopnosti do podnikových platforem.
Reference (3)
Intruktor je trpělivý a velmi nápomocný. Dobře zná danou problematiku.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurz - Agentic AI for Business Automation: Use Cases & Integration
Přeloženo strojem
Dobrý zmatek znalostí a praxe
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Agentic AI for Enterprise Applications
Přeloženo strojem
Míchání teorie a praxe a pohledů z vysokého i nízkého úrovní
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Autonomous Decision-Making with Agentic AI
Přeloženo strojem
