Red Teaming AI Systems: Offensive Security for ML Models Počítačový Kurz

Tento instruktážní živý trénink na místě nebo vzdáleně je určen pro středně pokročilé podnikové vůdce, kteří chtějí pochopit, jak řídit a zabezpečit AI systémy zodpovědným způsobem a v souladu s evolvujícími globálními rámci jako je EU AI Act, GDPR, ISO/IEC 42001 a usnesení prezidenta USA o AI.

Po skončení tohoto tréninku budou účastníci schopni:

• Porozumět právním, etickým a regulačním rizikům používání AI v různých odděleních.
• Interpretovat a aplikovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Vytvořit zásady zabezpečení, auditu a dohledu pro nasazení AI v podniku.
• Vyvinout nákupní a užívání pokyny pro třetích stran a interní AI systémy.

Artificial Intelligence (AI) přináší nové rozměry operativního rizika, výzv pro správu a zvýšenou expozici na cybersicheritu pro státní orgány a oddělení.

Tento instruktorově prováděný živý kurz (online nebo na místním pozemku) je zaměřen na IT a rizikové profesionály ve veřejné správě s omezenou předchozí zkušeností s AI, kteří chtějí porozumět tomu, jak hodnotit, sledovat a chránit AI systémy v rámci státních nebo regulativních kontextů.

Po skončení tohoto kurzu budou účastníci schopni:

• Interpretovat klíčové pojmy spojené s riziky AI systémů, včetně biasu, nepředvídatelnosti a model drift.
• Použít AI specifická rámce správy a auditování jako jsou NIST AI RMF a ISO/IEC 42001.
• Rozpoznat cybersicheritní hrozby cílené na AI modely a datové potoky.
• Vytvořit křížové oddělení rizikových manažerských plánů a shody politik pro nasazení AI.

Formát kurzu

• Interaktivní přednáška a diskuse o použitích v veřejné správě.
• Cvičení s rámci AI správy a mapování politik.
• Modelování hrozeb a hodnocení rizik na základě scénářů.

Možnosti přizpůsobení kurzu

• Pro žádost o individualizovaný kurz pro tento kurz nás kontaktujte, abychom to zařídili.

Tento instruktážní živý kurz na místě nebo online je určen pro začínající a středně pokročilé IT odborníky, kteří chtějí pochopit a implementovat AI TRiSM v jejich organizacích.

Koncepci kurzu se studenti budou moci dozvědět:

• Pochopení klíčových pojmů a důležitosti správy důvěry, rizik a bezpečnosti ve AI.
• Identifikace a zmírnění rizik spojených s AI systémy.
• Implementace nejlepších praxe pro bezpečnost ve AI.
• Pochopení souladu s právními předpisy a etickými zásadami pro AI.
• Rozvoj strategií pro efektivní správu a řízení AI.

Tento vedený instruktorem živý kurz (online nebo na místě) je určen pro středně pokročilé až pokročilé AI vývojáře, architekty a manažery produktů, kteří chtějí identifikovat a eliminovat rizika spojená s aplikacemi založenými na LLM (Large Language Models), jako jsou injection prompts, úniky dat a nefiltrováné výstupy, přičemž začleňují bezpečnostní kontroly jako je validace vstupu, lidská kontrola a ochrana výstupů.

Na konci tohoto kurzu budou účastníci schopni:

• Porozumět základním zranitelnostem systémů na bázi LLM.
• Aplikovat bezpečnostní principy při návrhu architektury aplikací LLM.
• Používat nástroje jako Guardrails AI a LangChain pro validaci, filtrování a zajištění bezpečnosti.
• Integrovat techniky jako sandboxování, červené týmy a lidská kontrola do produkčních pipeline.

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé odborníky v oblasti umělé inteligence a kybernetické bezpečnosti, kteří chtějí pochopit a řešit bezpečnostní úniky specifické pro modely a systémy AI, zejména ve velmi regulovaných odvětvích jako jsou finanční služby, správa dat a poradenství.

Po absolvování tohoto školení budou účastníci schopni:

• Porozumět typům protivýchodiskových útoků namířených na systémy AI a metodám pro ochranu proti nim.
• Implementovat techniky posilnění modelů pro zabezpečení potrubí strojového učení.
• Zajišťovat bezpečnost a integrity dat v modelech strojového učení.
• Navigovat po žebříčku souladu s regulačními normami spojenými s bezpečností AI.

Tento instruktorově vedený živý školení na místě nebo online (online nebo přítomnost) je určen pro začátečníky z oblasti IT bezpečnosti, rizik a souladu, kteří chtějí pochopit základní AI bezpečnostní koncepty, vektory hrozeb a globální rámce jako NIST AI RMF a ISO/IEC 42001.

Konec tohoto školení budou účastníci schopni:

• Pochopit jedinečné bezpečnostní rizika, která přinášejí AI systémy.
• Identifikovat vektory hrozeb jako jsou protihrací útoky, otrávení dat a inverzní modelování.
• Použít základní modely správy jako je NIST AI Risk Management Framework.
• Zohodnocovat použití AI s vznikajícími standardy, souladovými pokyny a etickými principy.

Na základě nejnovějších doporučení projektu OWASP GenAI Security se účastníci naučí identifikovat, hodnotit a odstraňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných scénářů.

Tento instruktorově vedený živý kurz na místě nebo online je určen pro pokročilé profesionály, kteří chtějí implementovat a vyhodnotit techniky jako federované učení, bezpečné víceklientské výpočty, homomorfní šifrování a diferenciální soukromí v reálných živých paprskovech strojového učení.

Koncepce kurzu:

• Pochopit a porovnat klíčové techniky ochrany soukromí v ML.
• Implementovat systémy federovaného učení s použitím otevřených zdrojových rámci.
• Použít diferenciální soukromí pro bezpečné sdílení dat a školení modelů.
• Využívat šifrování a techniky bezpečných výpočtů k ochraně vstupů a výstupů modelů.

Tento školení vedené instruktorem na místě nebo online je určen pro středně zkušené inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako jsou upravy, únik dat, nepřátelské vstupy a fyzické útoky.

Po ukončení tohoto školení budou účastníci schopni:

• Identifikovat a hodnotit bezpečnostní rizika v nasazeních AI na okraji.
• Používat techniky odolnosti proti upravám a zašifrované inferenci.
• Odborně zpevnit modely nasazené na okraji a chránit datové potrubí.
• Implementovat strategie zmírňování hrozeb specifické pro vložené a omezené systémy.

Tento instruktorův kurz (na místě nebo online) je zaměřen na středně pokročilé odborníky v oblasti strojového učení a kybernetické bezpečnosti, kteří chtějí porozumět a minimalizovat nově vznikající hrozby proti AI modelům, pomocí jak konceptuálních rámce, tak praktických obranných metod jako je robustní školení a diferenciální soukromí.

Koncepčně se studenté budou moci:

• Identifikovat a klasifikovat AI-specifické hrozby, jako jsou protiútočné útoky, invertace a otrávení.
• Použít nástroje jako Adversarial Robustness Toolbox (ART) pro simulaci útoků a testování modelů.
• Aplikovat praktické obranné metody, včetně protiútočného školení, vložení šumu a technik ochrany soukromí.
• Navrhovat hrozby-vědomé strategie hodnocení modelů ve výrobních prostředích.