Cybersecurity in AI Systems Training Course

Tento instruktážní živý kurz v České republice (online nebo na místě) je určen pro středně pokročilé podnikové vedoucí, kteří chtějí pochopit, jak řídit a zabezpečovat AI systémy odpovědně a v souladu s evolvujícími globálními rámci jako je EU AI Act, GDPR, ISO/IEC 42001 a Úředním nařízením USA o AI.

Do konce tohoto kurzu budou účastníci schopni:

• Pochopit právní, etické a regulativní rizika používání AI ve všech odděleních.
• Vysvětlit a aplikovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Založit zásady zabezpečení, auditu a dohledu pro nasazení AI v podniku.
• Vytvořit nákupní a užitkové pokyny pro třetích stran a interní systémy AI.

Artificial Intelligence (AI) introduces new dimensions of operational risk, governance challenges, and cybersecurity exposure for government agencies and departments.

This instructor-led, live training (online or onsite) is aimed at public sector IT and risk professionals with limited prior experience in AI who wish to understand how to evaluate, monitor, and secure AI systems within a government or regulatory context.

By the end of this training, participants will be able to:

• Interpret key risk concepts related to AI systems, including bias, unpredictability, and model drift.
• Apply AI-specific governance and auditing frameworks such as NIST AI RMF and ISO/IEC 42001.
• Recognize cybersecurity threats targeting AI models and data pipelines.
• Establish cross-departmental risk management plans and policy alignment for AI deployment.

Format of the Course

• Interactive lecture and discussion of public sector use cases.
• AI governance framework exercises and policy mapping.
• Scenario-based threat modeling and risk evaluation.

Course Customization Options

• To request a customized training for this course, please contact us to arrange.

Toto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na začátečníky až středně pokročilé IT profesionály, kteří chtějí porozumět a implementovat AI TRiSM ve svých organizacích.

Na konci tohoto školení budou účastníci schopni:

• Uvědomte si klíčové pojmy a důležitost správy důvěry, rizik a zabezpečení AI.
• Identifikujte a zmírněte rizika spojená se systémy AI.
• Implementujte osvědčené bezpečnostní postupy pro AI.
• Pochopte dodržování předpisů a etická hlediska pro AI.
• Vyvíjejte strategie pro efektivní řízení a správu AI.

This instructor-led, live training in České republice (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

This instructor-led, live training in České republice (online or onsite) is aimed at beginner-level IT security, risk, and compliance professionals who wish to understand foundational AI security concepts, threat vectors, and global frameworks such as NIST AI RMF and ISO/IEC 42001.

By the end of this training, participants will be able to:

• Understand the unique security risks introduced by AI systems.
• Identify threat vectors such as adversarial attacks, data poisoning, and model inversion.
• Apply foundational governance models like the NIST AI Risk Management Framework.
• Align AI use with emerging standards, compliance guidelines, and ethical principles.

This instructor-led, live training in České republice (online or onsite) is aimed at advanced-level professionals who wish to implement and evaluate techniques such as federated learning, secure multiparty computation, homomorphic encryption, and differential privacy in real-world machine learning pipelines.

By the end of this training, participants will be able to:

• Understand and compare key privacy-preserving techniques in ML.
• Implement federated learning systems using open-source frameworks.
• Apply differential privacy for safe data sharing and model training.
• Use encryption and secure computation techniques to protect model inputs and outputs.

This instructor-led, live training in České republice (online or onsite) is aimed at advanced-level security professionals and ML specialists who wish to simulate attacks on AI systems, uncover vulnerabilities, and enhance the robustness of deployed AI models.

By the end of this training, participants will be able to:

• Simulate real-world threats to machine learning models.
• Generate adversarial examples to test model robustness.
• Assess the attack surface of AI APIs and pipelines.
• Design red teaming strategies for AI deployment environments.

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, unikání dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Zabezpečení Edge AI a zanořené inteligence

Vstup do Edge AI a Embedded Systems

• Co je Edge AI? Případové studie a omezení
• Hardware platformy na okraji a softwarové vrstvy
• Bezpečnostní výzvy ve zanořených a decentralizovaných prostředích

Hrozby pro Edge AI

• Fyzický přístup a rizika upravování
• Nepřátelské příklady a manipulace s modelem
• Únik dat a hrozby inverzního modelu

Zabezpečení modelu

• Taktiky zpevnění a kvantizace modelů
• Vodoznaky a otiskování modelů
• Obranná destilace a odstraňování

Zašifrované zpracování dat a bezpečné spuštění

• Důvěryhodné prostředí pro spouštění (TEE) pro AI
• Bezpečná enklávy a důvěrné výpočty
• Zašifrované zpracování dat pomocí homomorfní šifry nebo SMPC

Detekce upravování a ovládání na úrovni zařízení

• Bezpečné spouštění a kontrola integrity firmwareu
• Ověření senzorů a detekce anomálií
• Dálkové uznávání a monitorování stavu zařízení

Integrace okraje s Cloud Security

• Zabezpečené přenosy dat a správa klíčů
• Koncově-koncová šifrování a ochrana životního cyklu dat
• Orchestrovaný AI v cloudu s omezeními bezpečnosti na okraji

Nejlepší praktiky a strategie snížení rizika

• Hrozby modelování pro systémy AI na okraji
• Zásady návrhu bezpečnosti pro zanořenou inteligenci
• Reakce na incidenty a správa aktualizací firmwareu

Souhrn a další kroky

Zabezpečení Edge AI a zanořené inteligence je praxe chránění modelů strojového učení a dat v omezených, často fyzicky expozovaných prostředích jako jsou drony, senzory, chytré kamery a autonomní systémy.

Toto instruktážní živé školení (online nebo na místě) je určeno pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, únik dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Formát kurzu

• Interaktivní přednáška a diskuse.
• Mnoho cvičení a praxe.
• Ruční implementace v prostředí živé laboratoře.

Možnosti individualizace kurzu

• Pro požadavek na individualizované školení tohoto kurzu, kontaktujte nás pro uspořádání.

• Pochopení zanořených systémů nebo prostředí nasazení AI na okraji
• Zkušenosti s Python a ML frameworky (např. TensorFlow Lite, PyTorch Mobile)
• Základní znalost cybersecurity nebo modelů hrozeb IoT

Audience

• Vývojáři AI na okraji
• Odborníci na bezpečnost IoT
• Inženýři nasazující ML modely na zařízeních na okraji nebo omezených zařízeních

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, únik dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Tento instruktážní živý kurz v České republice (online nebo na místě) je určen pro středně pokročilé odborníky na strojové učení a kybernetickou bezpečnost, kteří chtějí pochopit a minimalizovat nové hrozby proti AI modeleům pomocí konceptuálních rámci a praktických obranných opatření jako je odolné učení a diferenciální soukromí.

Koncovým cílem tohoto kurzu je, aby účastníci mohli:

• Identifikovat a klasifikovat AI specifické hrozby jako jsou protiútočné útoky, inverze a otrávení.
• Používat nástroje jako je Adversarial Robustness Toolbox (ART) pro simulaci útoků a testování modelů.
• Aplikovat praktické obranné opatření, včetně protiútočného učení, vložení šumu a technik ochrany soukromí.
• Návrh strategie hodnocení modelů s ohledem na hrozby ve výrobních prostředích.