Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Návrh Školení
Základy: Modely hrozeb pro agentic AI
- Typy hrozeb agentic AI: zneužití, eskalace, únik dat a rizika v dodavatelském řetězci
- Profily adversary a schopnosti útočníků specifické pro autonomní agenty
- Mapování aktiv, hranic důvěry a kritických bodů ovládání pro agenty
Governance, zásady a správa rizik
- Rámcy governance pro agentic systémy (role, odpovědnosti, brány schválení)
- Návrh zásad: přijatelné použití, pravidla eskalace, zpracování dat a auditovatelnost
- Zvažit soulad s předpisy a sběr důkazů pro audity
Nehumanní identity a ověřování pro agenty
- Návrh identit pro agenty: service účty, JWT a krátce platné pověření
- Vzorce přístupu minimálních oprávnění a just-in-time pověřování
- Strategie cyklu života identity, rotace, delegace a revokace
Ovládání přístupu, tajné údaje a ochrana dat
- Modely jemného ovládání přístupu a vzorce založené na schopnostech pro agenty
- Správa tajných údajů, šifrování při přenosu a v klidu, minimalizace dat
- Ochrana citlivých zdrojů znalostí a PII před neoprávněným přístupem agentů
Pozorovatelnost, revize a reakce na incidenty
- Návrh telemetrie pro chování agentů: sledování záměru, protokol příkazů a provenience
- Integrace SIEM, prahy upozornění a připravenost forenzního zkoumání
- Průvodce (runbooky) a playbook pro incidenty spojené s agenty a jejich zneškodnění
Red-teaming agentic systémů
- Plánování cvičení red teamu: rozsah, pravidla angažmá a bezpečný failover
- Adversariální techniky: prompt injection, zneužití nástrojů, manipulace s chain-of-thought a zneužití API
- Provádění řízených útoků a měření expozice a dopadu
Zpevnění a zmírnění
- Inženýrské kontroly: omezení odpovědí, ovládání schopností a sandboxing
- Kontrola zásad a orchestrace: tok schválení, human-in-the-loop a governance hooks
- Obraně na úrovni modelu a promptu: validace vstupů, normalizace a filtry výstupů
Operacionalizace bezpečných nasazení agentů
- Vzorce nasazení: staging, canary a postupný rollout pro agenty
- Kontrola změn, testovací pipeline a bezpečnostní kontroly před nasazením
- Přesahující governance: playbook pro zabezpečení, právní věc, produkt a operace
Capstone: Cvižení Red Team / Blue Team
- Vykonat simulovaný red team útok proti agentnímu prostředí v sandboxu
- Obranně, detekčně a nápravně jednat jako blue team pomocí kontrol a telemetrie
- Předložit zjištění, plán nápravy a aktualizace zásad
Shrnutí a další kroky
Požadavky
- Solidní znalosti v oblasti zabezpečování inženýrství, správy systémů nebo cloudových operací
- Znalost konceptů AI/ML a chování velkých jazykových modelů (LLM)
- Zkušenosti se správou identit a přístupu (IAM) a zabezpečeným návrhem systémů
Cílová skupina
- Zabezpečovací inženýři a členové red teamu
- Inženýři AI operací a platformních inženýři
- Zaměstnanci zodpovědní za soulad s předpisy a správci rizik
- Inženýrští vedoucí odpovědní za nasazení agentů
21 Hodiny
Reference (1)
inventarizace a identifikace různých rizikových expozic v rámci AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurz - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Přeloženo strojem
