Zkuste nás kontaktovat

Návrh Školení

Porozumění rizikům specifickým pro umělou inteligenci v prostředí vládních institucí

  • Jak se rizika spojená s AI liší od tradičních IT a datových rizik
  • Kategorie rizik AI: technická, operační, reputační a etická
  • Veřejná odpovědnost a vnímání rizik ve státní správě

Rámce pro řízení rizik v oblasti AI

  • NIST AI Risk Management Framework (AI RMF)
  • ISO/IEC 42001:2023 – Standard pro systémy řízení v oblasti umělé inteligence
  • Další doporučení specifická pro daný sektor i mezinárodní směrnice (např. OECD, UNESCO)

Bezpečnostní hrozby vůči systémům AI

  • Agresivní vstupy, kontaminace dat a inverzní analýza modelů
  • Možnost odhalení citlivých trénovacích dat
  • Rizika spojená s dodavatelským řetězcem a externími poskytovateli modelů

Řízení, audit a kontrolní mechanismy

  • Lidská role v řízení systémů AI a mechanismy odpovědnosti
  • Audytovatelnost AI: dokumentace, verzování a interpretovatelnost modelů
  • Interní kontroly, dohled a body kontroly souladu s požadavky

Vyhodnocování rizik a plánování jejich zmírňování

  • Tvorba registru rizik pro jednotlivé případy využití AI
  • Spolupráce s týmy zabývajícími se nákupy, právní oblastí a návrhem služeb
  • Provádění hodnocení před i po nasazení systémů AI

Reakce na incidenty a odolnost veřejné správy vůči rizikům AI

  • Postup při řešení incidentů souvisejících s umělou inteligencí
  • Komunikace se zainteresovanými stranami i veřejností
  • Začlenění postupů řízení rizik AI do standardních bezpečnostních protokolů

Shrnutí a další kroky

Požadavky

  • Zkušenosti s provozem IT systémů, řízením rizik, kybernetickou bezpečností nebo dodržováním předpisů ve státních institucích
  • Znalost standardních bezpečnostních postupů a způsobů poskytování digitálních služeb
  • Předchozí technické znalosti o systémech umělé inteligence nejsou vyžadovány

Cílová skupina

  • IT týmy ve státních institucích zodpovědné za digitální služby a integraci systémů
  • Odborníci na kybernetickou bezpečnost a řízení rizik ve státních orgánech
  • Zaměstnanci odpovědní za audit, soulad s předpisy a řízení v oblasti veřejné správy
 7 Hodiny

Počet účastníků


Cena za účastníka

Reference (1)

Nadcházející kurzy

Související kategorie