Red Teaming AI Systems: Offensive Security for ML Models Počítačový Kurz

Tento instruktážní živý kurz v České republice (online nebo na místě) je určen pro středně pokročilé podnikové vedoucí, kteří chtějí pochopit, jak řídit a zabezpečovat AI systémy odpovědně a v souladu s evolvujícími globálními rámci jako je EU AI Act, GDPR, ISO/IEC 42001 a Úředním nařízením USA o AI.

Do konce tohoto kurzu budou účastníci schopni:

• Pochopit právní, etické a regulativní rizika používání AI ve všech odděleních.
• Vysvětlit a aplikovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Založit zásady zabezpečení, auditu a dohledu pro nasazení AI v podniku.
• Vytvořit nákupní a užitkové pokyny pro třetích stran a interní systémy AI.

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé a pokročilé AI vývojáře, architekti a manažeře produktů, kteří chtějí identifikovat a minimalizovat rizika spojená s aplikacemi založenými na LLM, včetně injekce promptů, úniku dat a nezpracovaného výstupu, přičemž zahrnuje bezpečnostní kontroly jako je validace vstupu, dohled člověka v cyklu (human-in-the-loop) a ochranná opatření pro výstup.

Koncem tohoto školení budou účastníci schopni:

• Pochopit základní chybné body systémů založených na LLM.
• Zapojit bezpečnostní principy designu do architektury aplikací s LLM.
• Využít nástroje jako Guardrails AI a LangChain pro validaci, filtraci a bezpečnost.
• Integrace technik jako jsou sandboxing, red teaming a člověk v cyklu (human-in-the-loop) do produkčních potrubí.

Tento instruktážní živý kurz v České republice (online nebo na místě) je určen pro začínající odborníky z oblasti IT bezpečnosti, rizik a souladu, kteří chtějí pochopit základní koncepty bezpečnosti AI, vektory hrozeb a globální rámce jako je NIST AI RMF a ISO/IEC 42001.

Koncem tohoto kurzu budou účastníci schopni:

• Pochopit jedinečné bezpečnostní rizika, která přinášejí systémy AI.
• Identifikovat vektory hrozeb jako jsou protivážné útoky, otrávení dat a inverzní modely.
• Použít základní modely správy jako je NIST AI Risk Management Framework.
• Zharmonizovat využití AI s evolvujícími standardy, pokyny pro soulad a etickými principy.

Tento instruktážní živý školení na místě nebo online je určen pro pokročilé odborníky, kteří chtějí implementovat a vyhodnotit techniky jako federované učení, bezpečnou multiparty výpočetní techniku, homomorfní šifrování a diferenciální soukromí ve skutečných ML potrubích.

Koncem tohoto školení budou účastníci schopni:

• Pochopit a porovnat klíčové techniky ochrany soukromí v ML.
• Implementovat systémy federovaného učení pomocí open-source frameworků.
• Využít diferenciální soukromí pro bezpečné sdílení dat a trénink modelu.
• Používat šifrovací a bezpečné výpočetní techniky k ochraně vstupů a výstupů modelu.

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, unikání dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Zabezpečení Edge AI a zanořené inteligence

Vstup do Edge AI a Embedded Systems

• Co je Edge AI? Případové studie a omezení
• Hardware platformy na okraji a softwarové vrstvy
• Bezpečnostní výzvy ve zanořených a decentralizovaných prostředích

Hrozby pro Edge AI

• Fyzický přístup a rizika upravování
• Nepřátelské příklady a manipulace s modelem
• Únik dat a hrozby inverzního modelu

Zabezpečení modelu

• Taktiky zpevnění a kvantizace modelů
• Vodoznaky a otiskování modelů
• Obranná destilace a odstraňování

Zašifrované zpracování dat a bezpečné spuštění

• Důvěryhodné prostředí pro spouštění (TEE) pro AI
• Bezpečná enklávy a důvěrné výpočty
• Zašifrované zpracování dat pomocí homomorfní šifry nebo SMPC

Detekce upravování a ovládání na úrovni zařízení

• Bezpečné spouštění a kontrola integrity firmwareu
• Ověření senzorů a detekce anomálií
• Dálkové uznávání a monitorování stavu zařízení

Integrace okraje s Cloud Security

• Zabezpečené přenosy dat a správa klíčů
• Koncově-koncová šifrování a ochrana životního cyklu dat
• Orchestrovaný AI v cloudu s omezeními bezpečnosti na okraji

Nejlepší praktiky a strategie snížení rizika

• Hrozby modelování pro systémy AI na okraji
• Zásady návrhu bezpečnosti pro zanořenou inteligenci
• Reakce na incidenty a správa aktualizací firmwareu

Souhrn a další kroky

Zabezpečení Edge AI a zanořené inteligence je praxe chránění modelů strojového učení a dat v omezených, často fyzicky expozovaných prostředích jako jsou drony, senzory, chytré kamery a autonomní systémy.

Toto instruktážní živé školení (online nebo na místě) je určeno pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, únik dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Formát kurzu

• Interaktivní přednáška a diskuse.
• Mnoho cvičení a praxe.
• Ruční implementace v prostředí živé laboratoře.

Možnosti individualizace kurzu

• Pro požadavek na individualizované školení tohoto kurzu, kontaktujte nás pro uspořádání.

• Pochopení zanořených systémů nebo prostředí nasazení AI na okraji
• Zkušenosti s Python a ML frameworky (např. TensorFlow Lite, PyTorch Mobile)
• Základní znalost cybersecurity nebo modelů hrozeb IoT

Audience

• Vývojáři AI na okraji
• Odborníci na bezpečnost IoT
• Inženýři nasazující ML modely na zařízeních na okraji nebo omezených zařízeních

Tento instruktážní živý školení na místě nebo online je určen pro středně pokročilé inženýry a odborníky na bezpečnost, kteří chtějí chránit AI modely nasazené na okraji proti hrozbám jako je upravování, únik dat, nepřátelská vstupy a fyzické útoky.

Koncem tohoto školení budou účastníci schopni:

• Identifikovat a posoudit bezpečnostní rizika v nasazeních AI na okraji.
• Použít techniky odolnosti proti upravování a zašifrovaného zpracování dat.
• Zpevnit modely nasazené na okraji a chránit datové kanály.
• Implementovat strategie snížení hrozeb specifické pro vložené a omezené systémy.

Tento instruktážní živý kurz v České republice (online nebo na místě) je určen pro středně pokročilé odborníky na strojové učení a kybernetickou bezpečnost, kteří chtějí pochopit a minimalizovat nové hrozby proti AI modeleům pomocí konceptuálních rámci a praktických obranných opatření jako je odolné učení a diferenciální soukromí.

Koncovým cílem tohoto kurzu je, aby účastníci mohli:

• Identifikovat a klasifikovat AI specifické hrozby jako jsou protiútočné útoky, inverze a otrávení.
• Používat nástroje jako je Adversarial Robustness Toolbox (ART) pro simulaci útoků a testování modelů.
• Aplikovat praktické obranné opatření, včetně protiútočného učení, vložení šumu a technik ochrany soukromí.
• Návrh strategie hodnocení modelů s ohledem na hrozby ve výrobních prostředích.