Zabezpečení AI modelů: Hrozby, útoky a obrana Počítačový Kurz

AAISM je pokročilý rámec určený k hodnocení, řízení a zvládání bezpečnostních rizik v systémech využívajících umělou inteligenci.

Tento kurz s přímým vedením lektora (online nebo na místě) je určen pro odborníky na pokročilé úrovni, kteří chtějí zavádět efektivní bezpečnostní kontroly a řídící postupy v prostředí podnikových systémů s umělou inteligencí.

Po absolvování tohoto programu budou účastníci schopni:

• Hodnotit bezpečnostní rizika spojená s umělou inteligencí pomocí mezinárodně uznávaných metodik.
• Zavádět řídící modely pro odpovědné nasazení umělé inteligence.
• Přizpůsobovat bezpečnostní politiky týkající se AI cílům organizace a požadavkům legislativy.
• Zvyšovat odolnost a zodpovědnost v provozech řízených umělou inteligencí.

Forma kurzu

• Přednášky s možností diskuze, doprovázené odbornými analýzami.
• Praktické workshopy a činnosti založené na hodnocení schopností účastníků.
• Cvičení s využitím reálných situací ze světa řízení bezpečnosti AI.

Možnosti přizpůsobení kurzu

• Pokud si přejete kurz upravit podle strategie vaší organizace v oblasti umělé inteligence, kontaktujte nás za účelem jeho individualizace.

Tento živý školicí kurz vedený lektorem v České republice (online nebo prezenčně) je určen pro vedoucí pracovníky střední úrovně, kteří se chtějí naučit, jak odpovědně řídit a zabezpečovat systémy umělé inteligence v souladu s novými globálními předpisy, jako je např. evropský zákon o AI, GDPR, ISO/IEC 42001 a nařízení prezidenta USA týkající se AI.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět právním, etickým a regulatorním rizicím spojeným s využíváním AI v rámci jednotlivých oddělení.
• Interpretovat a uplatňovat hlavní rámce pro řízení AI (evropský zákon o AI, NIST AI RMF, ISO/IEC 42001).
• Stanovit bezpečnostní, auditní a kontrolní politiky pro nasazení AI v podniku.
• Vypracovat pokyny pro pořizování a používání systémů umělé inteligence od třetích stran i interně vyvinutých.

Umělá inteligence přináší nové aspekty operačních rizik, výzev v oblasti řízení a hrozeb pro kybernetickou bezpečnost pro vládní orgány a jejich jednotlivá oddělení.

Toto školení pod vedením instruktora (online nebo prezenčně) je určeno IT specialistům a odborníkům na řízení rizik ze veřejného sektoru, kteří mají jen minimální předchozí zkušenosti s umělou inteligencí a chtějí porozumět tomu, jak vyhodnocovat, monitorovat a chránit systémy AI v rámci vládních či regulatorních požadavků.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět klíčovým konceptům rizik souvisejících s systémy AI, včetně předpojatosti, nepředvídatelnosti chování a změn vlastností modelů.
• Používat specifické rámce pro řízení a audit AI, jako jsou NIST AI RMF a ISO/IEC 42001.
• Rozpoznávat kybernetické hrozby zaměřené na modely umělé inteligence a datové toky.
• Vytvářet plány řízení rizik napříč odděleními a zajišťovat soulad politik při nasazování AI.

Forma kurzu

• Interaktivní přednášky a diskuze o konkrétních příkladech využití AI ve veřejném sektoru.
• Cvičení na tvorbu rámců řízení AI a mapování politických požadavků.
• Modelování hrozeb a vyhodnocování rizik na základě reálných scénářů.

Možnosti přizpůsobení kurzu

• Chcete-li si objednat školení upravené na míru, kontaktujte nás a domluvíme se na podrobnostech.

Tento kurz poskytuje praktické seznámení se zabezpečením moderních aplikací využívajících umělou inteligenci, rozhraní API, asistenty řízené AI i autonomní agenty. Účastníci pochopí odlišnosti mezi bezpečností běžných webových aplikací a systémů využívajících umělou inteligenci, seznámí se s četnými hrozbami specifickými pro tuto oblast – jako jsou injekce promptů, otrávení dat v systémech RAG či zneužití agentů. Dále zjistí, jak vytvořit vícevrstvou ochranu pomocí WAF, bran pro rozhraní API a dalších bezpečnostních mechanismů. Prostřednictvím praktických cvičení a reálných příkladů získají studenti dovednosti potřebné k rozpoznávání útoků na AI systémy, zabezpečování aplikací s využitím modelů LLM i implementaci efektivních mechanismů obrany v produkci.

Tento kurz vedený lektorem v <lok> (online nebo prezenčně) je určen pro IT profesionály na začátečnické až střední úrovni, kteří chtějí porozumět a implementovat principy AI TRiSM ve svých organizacích.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit klíčové koncepty a význam řízení důvěry, rizik a bezpečnosti v oblasti AI.
• Identifikovat a zmírňovat rizika spojená se systémy umělé inteligence.
• Aplikovat osvědčené postupy v oblasti bezpečnosti u AI systémů.
• Porozumět regulatorním požadavkům a etickým aspektům využívání umělé inteligence.
• Vytvořit strategie pro efektivní řízení a správu AI systémů.

Tento kurz vedený lektorem v České republice (online nebo prezenčně) je určen pro vývojáře umělé inteligence, architekty a produktové manažery na středně pokročilé a pokročilé úrovni, kteří si přejí identifikovat a zmírňovat rizika spojená s aplikacemi využívajícími velké jazykové modely – např. injekci promtů, únik dat či nekontrolovaný výstup. Současně se učí zavádět bezpečnostní opatření jako ověřování vstupů, kontrolu ze strany lidí a nastavení omezení pro generovaný obsah.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit hlavní slabiny systémů založených na velkých jazykových modelech.
• Aplikovat bezpečnostní principy při navrhování architektury aplikací využívajících LLM.
• Používat nástroje jako Guardrails AI a LangChain k validaci, filtrování a zajištění bezpečnosti.
• Začlenit do produkčních systémů techniky jako izolace prostředí, simulované útoky a kontrolu ze strany lidí.

Tento kurz učí vývojáře, jak vytvářet aplikace s využitím umělé inteligence bezpečným způsobem již od samého začátku. Účastníci se naučí chránit chatboty, asistenty, systémy RAG i agenty před specifickými hrozbami v oblasti AI, jako jsou injekce promptů, otrava dat, zneužití nástrojů a nebezpečný výstup modelu. Kurz pokrývá bezpečný návrh promptů, zabezpečení systémů RAG, princip nejmenších oprávnění, ochranné vrstvy a red-teaming – vše pro to, aby vývojáři mohli budovat funkce AI, které jsou v reálných podmínkách spolehlivé a odolné.

Toto živé školení pod vedením instruktora v České republice (online nebo prezenčně) je určeno pro odborníky ze střední úrovně z oblasti umělé inteligence a kybernetické bezpečnosti, kteří chtějí pochopit a řešit bezpečnostní rizika spojená se systémy AI – zejména v vysoce regulovaných odvětvích jako je finančnictví, správa dat a poradenství.

Po absolvování tohoto kurzu budou účastníci schopni:

• Popsat typy útoků na systémy umělé inteligence a metody jejich odvrácení.
• Aplikovat techniky zpevňování modelů za účelem ochrany procesů strojového učení.
• Zajistit bezpečnost a integritu dat v rámci modelů strojového učení.
• Správně se orientovat v požadavcích právních předpisů týkajících se bezpečnosti AI.

Toto školení vedené instruktorem České republice (online nebo na místě) je určeno bezpečnostním inženýrům a pracovníkům odpovědným za dodržování předpisů, kteří chtějí zvýšit zabezpečení nasazení EXO, řídit přístup k modelům a spravovat AI pracovní zátěže běžící výhradně v prostředí na místě.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno pro začínající odborníky z oblasti IT bezpečnosti, řízení rizik a dodržování předpisů, kteří se chtějí seznámit se základními koncepty zabezpečení AI, typy hrozeb a celosvětovými rámcovými dokumenty jako je NIST AI RMF či ISO/IEC 42001.

Po absolvování tohoto školení budou účastníci schopni:

• Porozumět jedinečným bezpečnostním rizikům, která s sebou přinášejí systémy založené na umělé inteligenci.
• Identifikovat hlavní typy hrozeb – například adverzární útoky, kontaminaci dat či inverzi modelů.
• Používat základní modely řízení, jako je Rámec pro řízení rizik v oblasti AI podle NIST.
• Sladit používání umělé inteligence s nově vytvářenými standardy, pokyny pro dodržování předpisů a etickými zásadami.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno bezpečnostním specialistům a inženýrům strojového učení, kteří potřebují rozpoznávat, testovat a bránit se útokům na modely strojového učení i aplikace využívající velké jazykové modely.

Na základě nejnovějších pokynů projektu OWASP GenAI Security se účastníci naučí identifikovat, hodnotit a zmírňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných scénářů.

Toto školení pod vedením instruktora České republice (online či prezenčně) je určeno profesionálům na pokročilé úrovni, kteří chtějí implementovat a vyhodnocovat techniky jako federované učení, bezpečný vícestranný výpočet, homomorfická šifrování a diferenciální soukromí v reálných systémech strojového učení.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět a porovnat klíčové techniky ochrany soukromí v rámci strojového učení.
• Implementovat systémy federovaného učení s využitím open-source nástrojů.
• Používat diferenciální soukromí k bezpečnému sdílení dat a trénování modelů.
• Využít šifrovací a bezpečnostní metody k ochraně vstupů i výstupů modelů.

Toto školení pod vedením instruktora České republice (online nebo na místě) je určeno pro pokročilé odborníky v oblasti bezpečnosti a specialisty na strojové učení, kteří chtějí simulovat útoky na systémy umělé inteligence, odhalit jejich zranitelnosti a posílit odolnost nasazených modelů.

Po absolvování tohoto kurzu budou účastníci schopni:

• Simulovat reálné hrozby pro modely strojového učení.
• Vytvářet adversariální příklady za účelem testování odolnosti modelů.
• Vyhodnocovat povrch ohrožení API a procesních řetězců využívajících AI.
• Navrhovat strategie Red Teaming pro prostředí nasazení AI.

Toto živé školení vedené instruktorem České republice (online nebo na místě) je určeno pro inženýry a odborníky na bezpečnost středně pokročilé úrovně, kteří si přejí zabezpečit modely AI nasazené na okraji sítě před hrozbami typu manipulace, únik dat, adverzní vstupy či fyzické útoky.

Po ukončení tohoto školení budou účastníci schopni:

• Identifikovat a vyhodnocovat bezpečnostní rizika při nasazení AI na okraji sítě.
• Používat techniky odolnosti vůči manipulaci a šifrovaného provádění výpočtů.
• Zvyšovat bezpečnost nasazených modelů a zabezpečovat datové toky.
• Implementovat strategie zmírňování rizik specifické pro vestavěné systémy s omezenými prostředky.