Kybernetická bezpečnost v systémech umělé inteligence Počítačový Kurz

Tento živý školicí kurz vedený lektorem v České republice (online nebo prezenčně) je určen pro vedoucí pracovníky střední úrovně, kteří se chtějí naučit, jak odpovědně řídit a zabezpečovat systémy umělé inteligence v souladu s novými globálními předpisy, jako je např. evropský zákon o AI, GDPR, ISO/IEC 42001 a nařízení prezidenta USA týkající se AI.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět právním, etickým a regulatorním rizicím spojeným s využíváním AI v rámci jednotlivých oddělení.
• Interpretovat a uplatňovat hlavní rámce pro řízení AI (evropský zákon o AI, NIST AI RMF, ISO/IEC 42001).
• Stanovit bezpečnostní, auditní a kontrolní politiky pro nasazení AI v podniku.
• Vypracovat pokyny pro pořizování a používání systémů umělé inteligence od třetích stran i interně vyvinutých.

Tento kurz poskytuje praktické seznámení se zabezpečením moderních aplikací využívajících umělou inteligenci, rozhraní API, asistenty řízené AI i autonomní agenty. Účastníci pochopí odlišnosti mezi bezpečností běžných webových aplikací a systémů využívajících umělou inteligenci, seznámí se s četnými hrozbami specifickými pro tuto oblast – jako jsou injekce promptů, otrávení dat v systémech RAG či zneužití agentů. Dále zjistí, jak vytvořit vícevrstvou ochranu pomocí WAF, bran pro rozhraní API a dalších bezpečnostních mechanismů. Prostřednictvím praktických cvičení a reálných příkladů získají studenti dovednosti potřebné k rozpoznávání útoků na AI systémy, zabezpečování aplikací s využitím modelů LLM i implementaci efektivních mechanismů obrany v produkci.

Tento kurz vedený lektorem v <lok> (online nebo prezenčně) je určen pro IT profesionály na začátečnické až střední úrovni, kteří chtějí porozumět a implementovat principy AI TRiSM ve svých organizacích.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit klíčové koncepty a význam řízení důvěry, rizik a bezpečnosti v oblasti AI.
• Identifikovat a zmírňovat rizika spojená se systémy umělé inteligence.
• Aplikovat osvědčené postupy v oblasti bezpečnosti u AI systémů.
• Porozumět regulatorním požadavkům a etickým aspektům využívání umělé inteligence.
• Vytvořit strategie pro efektivní řízení a správu AI systémů.

Tento kurz vedený lektorem v České republice (online nebo prezenčně) je určen pro vývojáře umělé inteligence, architekty a produktové manažery na středně pokročilé a pokročilé úrovni, kteří si přejí identifikovat a zmírňovat rizika spojená s aplikacemi využívajícími velké jazykové modely – např. injekci promtů, únik dat či nekontrolovaný výstup. Současně se učí zavádět bezpečnostní opatření jako ověřování vstupů, kontrolu ze strany lidí a nastavení omezení pro generovaný obsah.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit hlavní slabiny systémů založených na velkých jazykových modelech.
• Aplikovat bezpečnostní principy při navrhování architektury aplikací využívajících LLM.
• Používat nástroje jako Guardrails AI a LangChain k validaci, filtrování a zajištění bezpečnosti.
• Začlenit do produkčních systémů techniky jako izolace prostředí, simulované útoky a kontrolu ze strany lidí.

Tento kurz učí vývojáře, jak vytvářet aplikace s využitím umělé inteligence bezpečným způsobem již od samého začátku. Účastníci se naučí chránit chatboty, asistenty, systémy RAG i agenty před specifickými hrozbami v oblasti AI, jako jsou injekce promptů, otrava dat, zneužití nástrojů a nebezpečný výstup modelu. Kurz pokrývá bezpečný návrh promptů, zabezpečení systémů RAG, princip nejmenších oprávnění, ochranné vrstvy a red-teaming – vše pro to, aby vývojáři mohli budovat funkce AI, které jsou v reálných podmínkách spolehlivé a odolné.

Toto školení vedené instruktorem České republice (online nebo na místě) je určeno bezpečnostním inženýrům a pracovníkům odpovědným za dodržování předpisů, kteří chtějí zvýšit zabezpečení nasazení EXO, řídit přístup k modelům a spravovat AI pracovní zátěže běžící výhradně v prostředí na místě.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno pro začínající odborníky z oblasti IT bezpečnosti, řízení rizik a dodržování předpisů, kteří se chtějí seznámit se základními koncepty zabezpečení AI, typy hrozeb a celosvětovými rámcovými dokumenty jako je NIST AI RMF či ISO/IEC 42001.

Po absolvování tohoto školení budou účastníci schopni:

• Porozumět jedinečným bezpečnostním rizikům, která s sebou přinášejí systémy založené na umělé inteligenci.
• Identifikovat hlavní typy hrozeb – například adverzární útoky, kontaminaci dat či inverzi modelů.
• Používat základní modely řízení, jako je Rámec pro řízení rizik v oblasti AI podle NIST.
• Sladit používání umělé inteligence s nově vytvářenými standardy, pokyny pro dodržování předpisů a etickými zásadami.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno bezpečnostním specialistům a inženýrům strojového učení, kteří potřebují rozpoznávat, testovat a bránit se útokům na modely strojového učení i aplikace využívající velké jazykové modely.

Na základě nejnovějších pokynů projektu OWASP GenAI Security se účastníci naučí identifikovat, hodnotit a zmírňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných scénářů.

Toto školení pod vedením instruktora České republice (online či prezenčně) je určeno profesionálům na pokročilé úrovni, kteří chtějí implementovat a vyhodnocovat techniky jako federované učení, bezpečný vícestranný výpočet, homomorfická šifrování a diferenciální soukromí v reálných systémech strojového učení.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět a porovnat klíčové techniky ochrany soukromí v rámci strojového učení.
• Implementovat systémy federovaného učení s využitím open-source nástrojů.
• Používat diferenciální soukromí k bezpečnému sdílení dat a trénování modelů.
• Využít šifrovací a bezpečnostní metody k ochraně vstupů i výstupů modelů.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno pro pokročilé odborníky v oblasti bezpečnosti a specialisty na strojové učení, kteří chtějí simulovat útoky na systémy umělé inteligence, odhalit jejich zranitelnosti a posílit odolnost nasazených modelů.

Po absolvování tohoto kurzu budou účastníci schopni:

• Simulovat reálné hrozby pro modely strojového učení.
• Vytvářet adversariální příklady za účelem testování odolnosti modelů.
• Vyhodnocovat povrch ohrožení API a procesních řetězců využívajících AI.
• Navrhovat strategie Red Teaming pro prostředí nasazení AI.

Toto živé školení vedené instruktorem České republice (online nebo na místě) je určeno pro inženýry a odborníky na bezpečnost středně pokročilé úrovně, kteří si přejí zabezpečit modely AI nasazené na okraji sítě před hrozbami typu manipulace, únik dat, adverzní vstupy či fyzické útoky.

Po ukončení tohoto školení budou účastníci schopni:

• Identifikovat a vyhodnocovat bezpečnostní rizika při nasazení AI na okraji sítě.
• Používat techniky odolnosti vůči manipulaci a šifrovaného provádění výpočtů.
• Zvyšovat bezpečnost nasazených modelů a zabezpečovat datové toky.
• Implementovat strategie zmírňování rizik specifické pro vestavěné systémy s omezenými prostředky.

Toto školení vedené instruktorem v České republice (online nebo prezenčně) je určeno pro odborníky na strojové učení a kybernetickou bezpečnost na středně pokročilé úrovni, kteří si chtějí osvojit metody identifikace a zmírňování nových hrozeb vůči AI modelům. Využívají přitom jak teoretické modely, tak praktické obranné techniky jako je robustní trénování či diferenciální soukromí.

Po absolvování tohoto školení budou účastníci schopni:

• Rozpoznávat a klasifikovat hrozby specifické pro AI, včetně adverzárních útoků, inverzních technik a poškození dat.
• Využívat nástroje jako Adversarial Robustness Toolbox (ART) k simulaci útoků a testování modelů.
• Aplikovat konkrétní obranné metody, mezi které patří adverzární trénování, přidávání šumu či techniky chránící soukromí.
• Navrhnout strategie vyhodnocování modelů s ohledem na možné hrozby v produkčním prostředí.