Zkuste nás kontaktovat
 Doba trvání 21 hodiny

Návrh Školení

Základy: Modely hrozeb pro agentní AI

  • Typy hrozeb pro agenty: zneužití, eskalace, únik dat a rizika dodavatelského řetězce
  • Profily protivníků a schopnosti útočníků specifické pro autonomní agenty
  • Mapování aktiv, hranic důvěry a kritických bodů řízení pro agenty

Rada, politiky a řízení rizik

  • Rády pro agentní systémy (role, odpovědnosti, brány schválení)
  • Návrh politik: přijatelné použití, pravidla eskalace, zpracování dat a auditovatelnost
  • Zohlednění souladu a shromažďování důkazů pro audit

Ne-lidská identity a ověření pro agenty

  • Navrhování identit pro agenty: service accounts, JWT a krátkodobé přihlašovací údaje
  • Vzorce přístupu s minimálními oprávněními a just-in-time přihlašovací údaje
  • Životní cyklus identity, rotace, delegace a strategie zrušení

Řízení přístupu, tajemství a ochrana dat

  • Modely jemného řízení přístupu a vzorce založené na schopnostech pro agenty
  • Správa tajných údajů, šifrování při přenosu a v klidu a minimalizace dat
  • Ochrana citlivých zdrojů znalostí a PII před neoprávněným přístupem agentů

Observability, audit a reakce na incidenty

  • Navrhování telemetrie pro chování agentů: sledování záměru, protokoly příkazů a provenience
  • Integrace SIEM, práh upozornění a připravenost na forenzní analýzu
  • Runbooky a playboky pro incidenty týkající se agentů a izolaci

Red-teaming agentních systémů

  • Plánování cvičení red-teamu: rozsah, pravidla zaangažmání a bezpečné přepnutí
  • Adversární techniky: injekce promptů, zneužití nástrojů, manipulace řetězcem myšlenek a zneužití API
  • Provádění ovládaných útoků a měření expozice a dopadu

Zhroucení a mitigace

  • Inženýrské kontroly: omezování odpovědí, brány schopností a sandboxing
  • Kontroly politik a orchestrace: toky schvalování, člověk v smyčce a háčky rady
  • Obrany na úrovni modelu a promptu: validace vstupu, kanonizace a filtry výstupu

Operacionalizace bezpečného nasazování agentů

  • Vzorce nasazování: staging, canary a postupné rollout pro agenty
  • Řízení změn, testovací potrubí a bezpečnostní kontroly před nasazením
  • Mezioborová rada: playboky pro bezpečnost, právo, produkt a operace

Capstone: Cvičení Red-Team / Blue-Team

  • Provedení simulovaného útoku red-teamu proti sandboxovanému prostředí agentů
  • Obrana, detekce a náprava jako blue team pomocí kontrol a telemetrie
  • Představení zjištění, plánu nápravy a aktualizací politik

Shrnutí a další kroky

Požadavky

  • Pevné základy v oblasti zabezpečení softwaru, systémové administraci nebo cloudových operacích
  • Znalost konceptů AI/ML a chování velkých jazykových modelů (LLM)
  • Zkušenosti se správou identity a přístupu (IAM) a návrhem bezpečných systémů

Cílová skupina

  • Inženýři bezpečnosti a členové red-teamu
  • Inženýři AI operací a platformních inženýři
  • Činitelé souladu a manažeři rizik
  • Vedoucí inženýři odpovědní za nasazení agentů

Počet účastníků


Cena za účastníka

Reference (1)

Nadcházející kurzy

Související kategorie