Zkuste nás kontaktovat

Návrh Školení

Den 1
Anatomie moderního AI agenta

Agenti jako autonomní systémy pro úvahy a jednání, beyond chatboty

Reaktivní, proaktivní, hybridní a cílem řízené paradigmata agentů

Základní komponenty: vnímání, plánování, paměť, používání nástrojů, akce

Kompromisy při návrhu jednoho proti více agentům

Frameworky pro agenty a moderní stack

LangChain, LlamaIndex, AutoGen, CrewAI a jejich kompromisy

Srovnání s klasickými frameworky jako JADE a SPADE

Výběr frameworku založený na produkčních požadavcích

Používání nástrojů (tool calling), funkční volání a strukturované výstupy

Cvičení: návrh základu jednoho Python agenta s voláními nástrojů

Architektury multi-agentních systémů

Centralizované, decentralizované, hybridní a vrstvené navrhování MAS

FIPA ACL, posílání zpráv a moderní ekvivalenty

Vzory koordinace: plánování, vyjednávání, synchronizace

Emergentní chování a samoorganizace v populacích agentů

Úvažování a učení se u agentů

Teorie her pro kooperativní a konkurenční interakce agentů

Posilované učení (reinforcement learning) v multi-agentních prostředích

Přenášení učení a sdílení znalostí mezi agenty

Rozhodování konfliktů a důvěra mezi koordinujícími agenty

Den 2
Založení multi-modality pro agenty

Multi-modální AI jako sjednocený pracovní postup napříč textem, obrazem, hlasem a videem

Popředí multi-modální modely: GPT-4 Vision, Gemini, Claude, Whisper

Techniky fúze pro kombinování modalit uvnitř myšlenkové smyčky agenta

Kompromisy mezi latencí, náklady a přesností v multi-modálních pipelinech

Vytvoření vrstvy vnímání

Zpracování obrazu pro agenty: klasifikace, popisky, detekce objektů

Rozpoznávání řeči pomocí Whisper ASR a streamovaného transkripce

Syntéza textu na řeč a přirozená hlasová interakce

Připojení výstupů vnímání k úvahám řízeným LLM a výběru nástrojů

Cvičení - Výstavba multi-modálního agenta v Pythonu

Definování úkolu agenta, okna kontextu a inventáře nástrojů

Připojení rozhraní GPT-4 Vision a Whisper end-to-end

Implementace paměti, stavu a správy konverzací

Přidání volání nástrojů, která bezpečně vytvářejí vedlejší efekty ve skutečném světě

Cvičení - Orchestri multi-agentního systému

Komponování specializovaných agentů s AutoGen nebo CrewAI

Definování rolí, odpovědností a protokolů komunikace mezi agenty

Přidělování zdrojů a koordinace ve simulovaném prostředí

Logování úvah agenta, volání nástrojů a rozhodnutí pro inspekci a audit

Den 3
Hrozby produkčních AI agentů

Co dělá agentic AI jedinečně zranitelnější ve srovnání se tradičním softwarem

Útočná plocha: vrstvy dat, modelu, promptu, nástroje, výstupu a rozhraní

Risk modeling pro systémy založené na agentech s autonomním používáním nástrojů

Srovnání praktik kyberbezpečnosti AI s tradiční kyberbezpečností

Cvičení - Adversariální útoky

Adversariální příklady a metody perturbace: FGSM, PGD, DeepFool

Bílá skříňka versus černá skříňka scénáře útoků

Útoky na inverzi modelu a inference členství

Otrava dat a vložení backdooru během tréninku

Injekce promptu, jailbreaking a zneužívání nástrojů u agentů založených na LLM

Defenzivní techniky a zhutnění modelu (Model Hardening)

Adversariální trénink a strategie augmentace dat

Defenzivní distilace a další techniky odolnosti

Předzpracování vstupů, maskování gradientu a regularizace

Diferenciální soukromí, vložení šumu a rozpočty soukromí

Federované učení a bezpečná agregace pro distributovaný trénink

Cvičení s nástrojem Adversarial Robustness Toolbox

Simulace útoků na multi-modální agenta vybudovaného ve 2. den

Měření odolnosti při perturbaci a kvantifikace degradace

Aplikace obrany iterativně a přehodnocování úspěšnosti útoků

Zatěžování cest volání nástrojů a vektorů injekce promptu

Den 4
Ramce řízení rizik pro AI

NIST AI Risk Management Framework: řídít, mapovat, měřit, spravovat

ISO/IEC 42001 a nově vznikající standardy specifické pro AI

Přemapování rizik AI na existující podnikové rámce GRC

Požadavky na odpovědnost, auditovatelnost a dokumentaci AI

Regulační soulad pro agentní systémy

EU AI Act: stupně rizika, zakázané použití a povinnosti pro vysoce rizikové systémy

Dopady GDPR a CCPA na datové pipeline agentů

Americký exekutivní příkaz o bezpečné, spolehlivé a důvěryhodné AI

Odvětví specifické pokyny pro finance, zdravotnictví a veřejné služby

Riziko třetích stran a používání AI nástrojů dodavatelů

Ethika, zkreslení (bias) a vysvětlovatelnost

Detekce a zmírnění zkreslení napříč vnímáním a úvažováním agenta

Vysvětlovatelnost a transparentnost jako vlastnosti relevantní pro bezpečnost

Spravedlnost, downstream škody a zodpovědné nasazení

Navrhování inkluzivního a auditovatelného chování agenta

Produkční nasazení, monitorování a reakce na incidenty

Vzory bezpečného nasazení pro systémy s jedním a více agenty

Kontinuální monitorování posunu dat (drift), anomálií a zneužívání

Logování, auditní stopy a forensic připravenost pro akce agenta

Návodky na reakci na bezpečnostní incidenty AI a obnovu

Případové studie reálných průniků AI a vyučované lekce

Souhrn a synteze

Zkontrola multi-modálního multi-agentního systému vybudovaného napříč kurzem

Kontrola end-to-end pipeline: design, build, secure, govern, deploy

Sebaevaluace systému proti funkcím NIST AI RMF

Výhled na vznikající trendy v agentic AI a bezpečnosti AI

Souhrn a další kroky

Požadavky

Cílová skupina

AI inženýři a architekti vytvářející agentní systémy pro produkční použití. Profesionálové v oblasti kyberbezpečnosti, rizik a compliance zodpovědní za jistotu AI v regulovaných odvětvích, jako jsou finance, zdravotnictví a konzultační služby. Zkušení vývojáři a vedoucí řešení implementující multi-modální a multi-agentní schopnosti do podnikových platforem.

 28 Hodiny

Počet účastníků


Cena za účastníka

Reference (3)

Nadcházející kurzy

Související kategorie