Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Doba trvání 21 hodiny
Návrh Školení
Základy: Modely hrozeb pro agentní AI
- Typy hrozeb pro agenty: zneužití, eskalace, únik dat a rizika dodavatelského řetězce
- Profily protivníků a schopnosti útočníků specifické pro autonomní agenty
- Mapování aktiv, hranic důvěry a kritických bodů řízení pro agenty
Rada, politiky a řízení rizik
- Rády pro agentní systémy (role, odpovědnosti, brány schválení)
- Návrh politik: přijatelné použití, pravidla eskalace, zpracování dat a auditovatelnost
- Zohlednění souladu a shromažďování důkazů pro audit
Ne-lidská identity a ověření pro agenty
- Navrhování identit pro agenty: service accounts, JWT a krátkodobé přihlašovací údaje
- Vzorce přístupu s minimálními oprávněními a just-in-time přihlašovací údaje
- Životní cyklus identity, rotace, delegace a strategie zrušení
Řízení přístupu, tajemství a ochrana dat
- Modely jemného řízení přístupu a vzorce založené na schopnostech pro agenty
- Správa tajných údajů, šifrování při přenosu a v klidu a minimalizace dat
- Ochrana citlivých zdrojů znalostí a PII před neoprávněným přístupem agentů
Observability, audit a reakce na incidenty
- Navrhování telemetrie pro chování agentů: sledování záměru, protokoly příkazů a provenience
- Integrace SIEM, práh upozornění a připravenost na forenzní analýzu
- Runbooky a playboky pro incidenty týkající se agentů a izolaci
Red-teaming agentních systémů
- Plánování cvičení red-teamu: rozsah, pravidla zaangažmání a bezpečné přepnutí
- Adversární techniky: injekce promptů, zneužití nástrojů, manipulace řetězcem myšlenek a zneužití API
- Provádění ovládaných útoků a měření expozice a dopadu
Zhroucení a mitigace
- Inženýrské kontroly: omezování odpovědí, brány schopností a sandboxing
- Kontroly politik a orchestrace: toky schvalování, člověk v smyčce a háčky rady
- Obrany na úrovni modelu a promptu: validace vstupu, kanonizace a filtry výstupu
Operacionalizace bezpečného nasazování agentů
- Vzorce nasazování: staging, canary a postupné rollout pro agenty
- Řízení změn, testovací potrubí a bezpečnostní kontroly před nasazením
- Mezioborová rada: playboky pro bezpečnost, právo, produkt a operace
Capstone: Cvičení Red-Team / Blue-Team
- Provedení simulovaného útoku red-teamu proti sandboxovanému prostředí agentů
- Obrana, detekce a náprava jako blue team pomocí kontrol a telemetrie
- Představení zjištění, plánu nápravy a aktualizací politik
Shrnutí a další kroky
Požadavky
- Pevné základy v oblasti zabezpečení softwaru, systémové administraci nebo cloudových operacích
- Znalost konceptů AI/ML a chování velkých jazykových modelů (LLM)
- Zkušenosti se správou identity a přístupu (IAM) a návrhem bezpečných systémů
Cílová skupina
- Inženýři bezpečnosti a členové red-teamu
- Inženýři AI operací a platformních inženýři
- Činitelé souladu a manažeři rizik
- Vedoucí inženýři odpovědní za nasazení agentů
Reference (1)
inventarizace a identifikace různých rizikových expozic v rámci AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurz - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Přeloženo strojem