Securing AI Models: Threats, Attacks, and Defenses Počítačový Kurz

Tento instruktážní živý trénink na místě nebo vzdáleně je určen pro středně pokročilé podnikové vůdce, kteří chtějí pochopit, jak řídit a zabezpečit AI systémy zodpovědným způsobem a v souladu s evolvujícími globálními rámci jako je EU AI Act, GDPR, ISO/IEC 42001 a usnesení prezidenta USA o AI.

Po skončení tohoto tréninku budou účastníci schopni:

• Porozumět právním, etickým a regulačním rizikům používání AI v různých odděleních.
• Interpretovat a aplikovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Vytvořit zásady zabezpečení, auditu a dohledu pro nasazení AI v podniku.
• Vyvinout nákupní a užívání pokyny pro třetích stran a interní AI systémy.

Artificial Intelligence (AI) přináší nové rozměry operativního rizika, výzv pro správu a zvýšenou expozici na cybersicheritu pro státní orgány a oddělení.

Tento instruktorově prováděný živý kurz (online nebo na místním pozemku) je zaměřen na IT a rizikové profesionály ve veřejné správě s omezenou předchozí zkušeností s AI, kteří chtějí porozumět tomu, jak hodnotit, sledovat a chránit AI systémy v rámci státních nebo regulativních kontextů.

Po skončení tohoto kurzu budou účastníci schopni:

• Interpretovat klíčové pojmy spojené s riziky AI systémů, včetně biasu, nepředvídatelnosti a model drift.
• Použít AI specifická rámce správy a auditování jako jsou NIST AI RMF a ISO/IEC 42001.
• Rozpoznat cybersicheritní hrozby cílené na AI modely a datové potoky.
• Vytvořit křížové oddělení rizikových manažerských plánů a shody politik pro nasazení AI.

Formát kurzu

• Interaktivní přednáška a diskuse o použitích v veřejné správě.
• Cvičení s rámci AI správy a mapování politik.
• Modelování hrozeb a hodnocení rizik na základě scénářů.

Možnosti přizpůsobení kurzu

• Pro žádost o individualizovaný kurz pro tento kurz nás kontaktujte, abychom to zařídili.

Tento instruktážní živý kurz na místě nebo online je určen pro začínající a středně pokročilé IT odborníky, kteří chtějí pochopit a implementovat AI TRiSM v jejich organizacích.

Koncepci kurzu se studenti budou moci dozvědět:

• Pochopení klíčových pojmů a důležitosti správy důvěry, rizik a bezpečnosti ve AI.
• Identifikace a zmírnění rizik spojených s AI systémy.
• Implementace nejlepších praxe pro bezpečnost ve AI.
• Pochopení souladu s právními předpisy a etickými zásadami pro AI.
• Rozvoj strategií pro efektivní správu a řízení AI.

This instructor-led, live training in České republice (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé odborníky v oblasti umělé inteligence a kybernetické bezpečnosti, kteří chtějí pochopit a řešit bezpečnostní úniky specifické pro modely a systémy AI, zejména ve velmi regulovaných odvětvích jako jsou finanční služby, správa dat a poradenství.

Po absolvování tohoto školení budou účastníci schopni:

• Porozumět typům protivýchodiskových útoků namířených na systémy AI a metodám pro ochranu proti nim.
• Implementovat techniky posilnění modelů pro zabezpečení potrubí strojového učení.
• Zajišťovat bezpečnost a integrity dat v modelech strojového učení.
• Navigovat po žebříčku souladu s regulačními normami spojenými s bezpečností AI.

Tento instruktorově vedený živý školení na místě nebo online (online nebo přítomnost) je určen pro začátečníky z oblasti IT bezpečnosti, rizik a souladu, kteří chtějí pochopit základní AI bezpečnostní koncepty, vektory hrozeb a globální rámce jako NIST AI RMF a ISO/IEC 42001.

Konec tohoto školení budou účastníci schopni:

• Pochopit jedinečné bezpečnostní rizika, která přinášejí AI systémy.
• Identifikovat vektory hrozeb jako jsou protihrací útoky, otrávení dat a inverzní modelování.
• Použít základní modely správy jako je NIST AI Risk Management Framework.
• Zohodnocovat použití AI s vznikajícími standardy, souladovými pokyny a etickými principy.

Na základě nejnovějších doporučení projektu OWASP GenAI Security se účastníci naučí identifikovat, hodnotit a odstraňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných scénářů.

Tento instruktorově vedený živý kurz na místě nebo online je určen pro pokročilé profesionály, kteří chtějí implementovat a vyhodnotit techniky jako federované učení, bezpečné víceklientské výpočty, homomorfní šifrování a diferenciální soukromí v reálných živých paprskovech strojového učení.

Koncepce kurzu:

• Pochopit a porovnat klíčové techniky ochrany soukromí v ML.
• Implementovat systémy federovaného učení s použitím otevřených zdrojových rámci.
• Použít diferenciální soukromí pro bezpečné sdílení dat a školení modelů.
• Využívat šifrování a techniky bezpečných výpočtů k ochraně vstupů a výstupů modelů.

Tento školení vedoucí instruktor (online nebo na místě) je zaměřen na pokročilé bezpečnostní profesionály a odborníky v oblasti ML, kteří chtějí simulovat útoky na AI systémy, objevovat zranitelnosti a posilovat odolnost nasazených AI modelech.

Po ukončení tohoto školení budou účastníci schopni:

• Simulovat skutečné hrozby pro modely strojového učení.
• Generovat protiváhy k otestování odolnosti modelu.
• Zkoumat povrch útoků AI API a potrubí.
• Navrhovat strategie red teaming pro prostředí nasazených AI systémů.

Tento školení vedené instruktorem na místě nebo online je určen pro středně zkušené inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako jsou upravy, únik dat, nepřátelské vstupy a fyzické útoky.

Po ukončení tohoto školení budou účastníci schopni:

• Identifikovat a hodnotit bezpečnostní rizika v nasazeních AI na okraji.
• Používat techniky odolnosti proti upravám a zašifrované inferenci.
• Odborně zpevnit modely nasazené na okraji a chránit datové potrubí.
• Implementovat strategie zmírňování hrozeb specifické pro vložené a omezené systémy.