Návrh Školení
Den 1
Anatomie moderního AI agenta
Agenti jako autonomní systémy pro úvahy a jednání, beyond chatboty
Reaktivní, proaktivní, hybridní a cílem řízené paradigmata agentů
Základní komponenty: vnímání, plánování, paměť, používání nástrojů, akce
Kompromisy při návrhu jednoho proti více agentům
Frameworky pro agenty a moderní stack
LangChain, LlamaIndex, AutoGen, CrewAI a jejich kompromisy
Srovnání s klasickými frameworky jako JADE a SPADE
Výběr frameworku založený na produkčních požadavcích
Používání nástrojů (tool calling), funkční volání a strukturované výstupy
Cvičení: návrh základu jednoho Python agenta s voláními nástrojů
Architektury multi-agentních systémů
Centralizované, decentralizované, hybridní a vrstvené navrhování MAS
FIPA ACL, posílání zpráv a moderní ekvivalenty
Vzory koordinace: plánování, vyjednávání, synchronizace
Emergentní chování a samoorganizace v populacích agentů
Úvažování a učení se u agentů
Teorie her pro kooperativní a konkurenční interakce agentů
Posilované učení (reinforcement learning) v multi-agentních prostředích
Přenášení učení a sdílení znalostí mezi agenty
Rozhodování konfliktů a důvěra mezi koordinujícími agenty
Den 2
Založení multi-modality pro agenty
Multi-modální AI jako sjednocený pracovní postup napříč textem, obrazem, hlasem a videem
Popředí multi-modální modely: GPT-4 Vision, Gemini, Claude, Whisper
Techniky fúze pro kombinování modalit uvnitř myšlenkové smyčky agenta
Kompromisy mezi latencí, náklady a přesností v multi-modálních pipelinech
Vytvoření vrstvy vnímání
Zpracování obrazu pro agenty: klasifikace, popisky, detekce objektů
Rozpoznávání řeči pomocí Whisper ASR a streamovaného transkripce
Syntéza textu na řeč a přirozená hlasová interakce
Připojení výstupů vnímání k úvahám řízeným LLM a výběru nástrojů
Cvičení - Výstavba multi-modálního agenta v Pythonu
Definování úkolu agenta, okna kontextu a inventáře nástrojů
Připojení rozhraní GPT-4 Vision a Whisper end-to-end
Implementace paměti, stavu a správy konverzací
Přidání volání nástrojů, která bezpečně vytvářejí vedlejší efekty ve skutečném světě
Cvičení - Orchestri multi-agentního systému
Komponování specializovaných agentů s AutoGen nebo CrewAI
Definování rolí, odpovědností a protokolů komunikace mezi agenty
Přidělování zdrojů a koordinace ve simulovaném prostředí
Logování úvah agenta, volání nástrojů a rozhodnutí pro inspekci a audit
Den 3
Hrozby produkčních AI agentů
Co dělá agentic AI jedinečně zranitelnější ve srovnání se tradičním softwarem
Útočná plocha: vrstvy dat, modelu, promptu, nástroje, výstupu a rozhraní
Risk modeling pro systémy založené na agentech s autonomním používáním nástrojů
Srovnání praktik kyberbezpečnosti AI s tradiční kyberbezpečností
Cvičení - Adversariální útoky
Adversariální příklady a metody perturbace: FGSM, PGD, DeepFool
Bílá skříňka versus černá skříňka scénáře útoků
Útoky na inverzi modelu a inference členství
Otrava dat a vložení backdooru během tréninku
Injekce promptu, jailbreaking a zneužívání nástrojů u agentů založených na LLM
Defenzivní techniky a zhutnění modelu (Model Hardening)
Adversariální trénink a strategie augmentace dat
Defenzivní distilace a další techniky odolnosti
Předzpracování vstupů, maskování gradientu a regularizace
Diferenciální soukromí, vložení šumu a rozpočty soukromí
Federované učení a bezpečná agregace pro distributovaný trénink
Cvičení s nástrojem Adversarial Robustness Toolbox
Simulace útoků na multi-modální agenta vybudovaného ve 2. den
Měření odolnosti při perturbaci a kvantifikace degradace
Aplikace obrany iterativně a přehodnocování úspěšnosti útoků
Zatěžování cest volání nástrojů a vektorů injekce promptu
Den 4
Ramce řízení rizik pro AI
NIST AI Risk Management Framework: řídít, mapovat, měřit, spravovat
ISO/IEC 42001 a nově vznikající standardy specifické pro AI
Přemapování rizik AI na existující podnikové rámce GRC
Požadavky na odpovědnost, auditovatelnost a dokumentaci AI
Regulační soulad pro agentní systémy
EU AI Act: stupně rizika, zakázané použití a povinnosti pro vysoce rizikové systémy
Dopady GDPR a CCPA na datové pipeline agentů
Americký exekutivní příkaz o bezpečné, spolehlivé a důvěryhodné AI
Odvětví specifické pokyny pro finance, zdravotnictví a veřejné služby
Riziko třetích stran a používání AI nástrojů dodavatelů
Ethika, zkreslení (bias) a vysvětlovatelnost
Detekce a zmírnění zkreslení napříč vnímáním a úvažováním agenta
Vysvětlovatelnost a transparentnost jako vlastnosti relevantní pro bezpečnost
Spravedlnost, downstream škody a zodpovědné nasazení
Navrhování inkluzivního a auditovatelného chování agenta
Produkční nasazení, monitorování a reakce na incidenty
Vzory bezpečného nasazení pro systémy s jedním a více agenty
Kontinuální monitorování posunu dat (drift), anomálií a zneužívání
Logování, auditní stopy a forensic připravenost pro akce agenta
Návodky na reakci na bezpečnostní incidenty AI a obnovu
Případové studie reálných průniků AI a vyučované lekce
Souhrn a synteze
Zkontrola multi-modálního multi-agentního systému vybudovaného napříč kurzem
Kontrola end-to-end pipeline: design, build, secure, govern, deploy
Sebaevaluace systému proti funkcím NIST AI RMF
Výhled na vznikající trendy v agentic AI a bezpečnosti AI
Souhrn a další kroky
Požadavky
Cílová skupina
AI inženýři a architekti vytvářející agentní systémy pro produkční použití. Profesionálové v oblasti kyberbezpečnosti, rizik a compliance zodpovědní za jistotu AI v regulovaných odvětvích, jako jsou finance, zdravotnictví a konzultační služby. Zkušení vývojáři a vedoucí řešení implementující multi-modální a multi-agentní schopnosti do podnikových platforem.
Reference (3)
Intruktor je trpělivý a velmi nápomocný. Dobře zná danou problematiku.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurz - Agentic AI for Business Automation: Use Cases & Integration
Přeloženo strojem
Dobrý zmatek znalostí a praxe
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Agentic AI for Enterprise Applications
Přeloženo strojem
Míchání teorie a praxe a pohledů z vysokého i nízkého úrovní
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurz - Autonomous Decision-Making with Agentic AI
Přeloženo strojem