Kyberbezpečnost v systémech AI Počítačový Kurz

AAISM je pokročilý rámec pro hodnocení, správu a řízení bezpečnostních rizik v systémech umělé inteligence.

Toto instruktorem vedené živé školení (online nebo na místě) je zaměřeno na pokročilé odborníky, kteří chtějí implementovat efektivní bezpečnostní kontroly a správné praktiky pro podnikové AI prostředí.

Na konci tohoto programu budou účastníci připraveni:

• Hodnotit bezpečnostní rizika AI pomocí průmyslově uznávaných metodologií.
• Implementovat modely správy pro odpovědné nasazení AI.
• Spolknout bezpečnostní politiky AI s cíly organizace a požadavky regulačních orgánů.
• Zlepšit odolnost a zodpovědnost v operačním prostředí poháněném AI.

Formát kurzu

• Podporované přednášky s odbornou analýzou.
• Praktické workshopy a aktivity založené na hodnocení.
• Aplikované cvičení pomocí reálných scénářů správy AI.

Možnosti přizpůsobení kurzu

• Pro školení přizpůsobené vaší podnikové strategii AI, nás kontaktujte pro přizpůsobení kurzu.

Toto vedení instruktorem živého školení České republice (online nebo na místě) je zaměřeno na středně pokročilé vedoucí pracovníky podniku, kteří chtějí pochopit, jak odpovědně spravovat a zabezpečovat AI systémy v souladu s novými globálními rámci jako je např. EU AI Act, GDPR, ISO/IEC 42001 aExecutive Order on AI Spojených států.

Na konci tohoto školení budou účastníci schopni:

• Porozumět právním, etickým a regulačním rizikům použití AI ve všech odděleních.
• Interpretovat a uplatňovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Zavedovat zásady bezpečnosti, auditu a dozoru pro nasazení AI v podniku.
• Vytvářet směrnice pro nákup a použití třetích stran a interních AI systémů.

Umělá inteligence (AI) přináší nové rozměry operačních rizik, výzev pro správu a zranitelnost z hlediska kybernetické bezpečnosti pro státní orgány a úřady.

Tato instruktorem védaná živá školení (online nebo na místě) je určená IT a rizikovým odborníkům ve veřejném sektoru s omezenou předchozí zkušeností s AI, kteří chtějí pochopit, jak hodnotit, sledovat a zajistit AI systémy v rámci státních nebo regulačních kontextů.

Na konci tohoto školení budou účastníci schopni:

• Interpretovat klíčové pojmy rizik souvisejících s AI systémy, včetně předsudků, nepředvídatelnosti a modelového posunu.
• Používat AI specifická rámce pro řízení a audit, jako je NIST AI RMF a ISO/IEC 42001.
• Rozpoznávat kybernetické hrozby namířené proti AI modelům a datovým potokům.
• Vytvářet meziúřední řídicí plány pro řízení rizik a politickou souladnost při nasazení AI.

Formát kurzu

• Interaktivní přednášky a diskuse o případech použití ve veřejném sektoru.
• Cvičení s rámci pro řízení AI a mapování politik.
• Scénářové modelování hrozeb a hodnocení rizik.

Možnosti přizpůsobení kurzu

• Pro požadavek na přizpůsobené školení tohoto kurzu nás prosím kontaktujte, abychom to domluvili.

Tento kurz poskytuje praktický úvod do zabezpečení moderních aplikací poháněných AI, rozhraní API, asistentů a autonomních agentů. Účastníci se naučí, čím se zabezpečení AI liší od tradičního webového zabezpečení, prozkoumají běžné specifické hrozby AI, jako je injekce promptů, otrava RAG a zneužívání agentů, a pochopí, jak chránit systémy AI pomocí vrstvené obrany včetně WAF, bran AI, zabezpečení API a zábran (guardrails). Prostřednictvím praktických cvičení a příkladů z reálného světa získají studenti dovednosti k identifikaci vzorců útoků na AI, zabezpečení aplikací založených na LLM a nasazení efektivní obrany v runtime pro produkční prostředí.

Toto instruktorem védané živé školení v České republice (online nebo přítomně) je zaměřeno na IT profesionály s úrovní začátečníka až středního stupně, kteří chtějí pochopit a implementovat AI TRiSM ve svých organizacích.

Koncepcí tohoto školení je, že na jeho konci budou účastníci schopni:

• Ovládat klíčové pojmy a důležitost správy důvěryhodnosti, rizik a bezpečnosti AI.
• Identifikovat a eliminovat rizika spojená se systémy umělé inteligence.
• Implementovat nejlepší postupy pro bezpečnost AI.
• Chápat dodržování právních předpisů a etické aspekty v oblasti umělé inteligence.
• Vytvářet strategie pro efektivní správu a řízení AI.

Toto školení vedeno lektorem v České republice (formou online nebo prezenční výuky) je určeno pro AI vývojáře, architekty a product manažery na střední až pokročilé úrovni, kteří se chtějí naučit identifikovat a zmírňovat rizika spojená s aplikacemi poháněnými LLM, jako jsou injekce promptů, úniky dat a nekontrolované výstupy, a zároveň integrovat bezpečnostní kontroly, jako je validace vstupu, lidská kontrola v procesním cyklu a výstupní zábrany.

Po dokončení tohoto školení budou účastníci schopni:

• Chápat základní zranitelnosti systémů založených na LLM.
• Aplikovat principy bezpečného designu na architekturu aplikací LLM.
• Používat nástroje, jako jsou Guardrails AI a LangChain, pro validaci, filtrování a zajištění bezpečnosti.
• Integrovat techniky, jako je sandboxing, red teaming a lidská kontrola v procesu, do produkčních pipeline.

Tento kurz učí vývojáře softwaru, jak bezpečně stavět aplikace poháněné umělou inteligencí. Účastníci se naučí chránit chatboty, copiloty, pipeline RAG a AI agenty před specifickými hrozbami AI, jako jsou injekce příkazů, otrava dat, zneužívání nástrojů, únik tajných údajů a nezabezpečený výstup modelu. Kurz pokrývá bezpečný design příkazů, bezpečnost RAG, přístup s nejnižšími oprávněními, obranné zábrany (guardrails) a red-teaming testování, což pomáhá vývojářům budovat funkce AI, které jsou bezpečné, spolehlivé a odolné v reálných prostředích.

Toto výcvikové školení vedené instruktorem v České republice (online nebo na místě) je určeno bezpečnostním inženýrům a odpovědným osobám za dodržování předpisů, kteří se chtějí zaměřit na zesílení nasazení systému EXO, kontrolu přístupu k modelům a řízení pracovní zátěží AI běžících výhradně na vlastním infrastruktúře.

Toto instruktorem vedeno živé školení v České republice (online nebo na místě) je určené začínajícím profesionálům v oblasti IT bezpečnosti, řízení rizik a soudržnosti, kteří chtějí pochopit základní koncepty bezpečnosti umělé inteligence, hrozebné vektory a globální rámce jako je NIST AI RMF a ISO/IEC 42001.

Na konci tohoto školení budou účastníci schopni:

• Pochopit jedinečné bezpečnostní rizika zavedená systémy umělé inteligence.
• Identifikovat hrozebné vektory jako jsou adversariální útoky, otravování dat a inverzní modely.
• Použít základní správní modely jako je NIST AI Risk Management Framework.
• Zapojit používání umělé inteligence do vznikajících standardů, soudržnostních směrnic a etických principů.

Toto instruktorské živé školení v České republice (online nebo prezenčně) je určeno inženýrům zabezpečení a ML, kteří potřebují identifikovat, testovat a bránit se útokům na modely AI a aplikace poháněné LLM.

Na základě nejnovějších pokynů projektu OWASP GenAI Security Project se účastníci naučí identifikovat, hodnotit a odstraňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných situací.

Tato instruktorem vedena živá školení v České republice (online nebo na místě) je určená pokročilým profesionálům, kteří chtějí implementovat a vyhodnotit techniky jako federované učení, bezpečný výpočet více stran, homomorfní šifrování a diferenciální soukromí ve skutečných strojových learning pipelinech.

Na konci tohoto školení budou účastníci schopni:

• Porozumět a porovnat klíčové techniky ochrany soukromí v ML.
• Implementovat federované systémy učení pomocí open-source rámceství.
• Aplikovat diferenciální soukromí pro bezpečné sdílení dat a trénink modelů.
• Používat šifrovací a bezpečné výpočetní techniky k ochraně vstupů a výstupů modelu.

Toto školení vedené instruktorem (online nebo na místě) je určeno pokročilým bezpečnostním profesionálům a specialistům na strojové učení, kteří chtějí simulovat útoky na AI systémy, odhalit zranitelnosti a posílit odolnost nasazených modelů AI.

Na konci tohoto školení budou účastníci schopni:

• Simulovat skutečné hrozby pro modely strojového učení.
• Generovat protistranná příklady k testování robustnosti modelu.
• Hodnotit útočnou plochu AI API a potrubí.
• Návrh strategií red teaming pro prostředí nasazení AI.

Toto vedené instruktorem živé školení České republice (on-line nebo na místě) je určeno středně pokročilým inženýrům a odborníkům na bezpečnost, kteří chtějí zabezpečit AI modely nasazené u hraničních zařízení proti hrozbám jako jsou manipulace, únik dat, adversariální vstupy a fyzické útoky.

Na konci tohoto školení budou účastníci schopni:

• Identifikovat a hodnotit bezpečnostní rizika v nasazeních Edge AI.
• Aplikovat techniky odolnosti proti manipulaci a šifrované inference.
• Posílit modely nasazené na hraničních zařízeních a zabezpečit datové potoky.
• Implementovat strategie odolnosti proti hrozbám specifickým pro vložené a omezené systémy.

Tuto instruktorem vedenou živou školení v České republice (online nebo na místě) je zaměřeno na středně pokročilé odborníky v oblasti strojového učení a kybernetické bezpečnosti, kteří chtějí pochopit a zmírnit nové hrozby proti AI modelům pomocí konceptuálních rámceství a praktických obranných metod jako robustní trénink a diferenciální soukromí.

Na konci tohoto školení budou účastníci schopni:

• Identifikovat a klasifikovat AI specifické hrozby, jako jsou adversní útoky, inverze a otravování.
• Používat nástroje jako Adversarial Robustness Toolbox (ART) k simulaci útoků a testování modelů.
• Aplikovat praktické obranné metody včetně adversního tréninku, vložení šumu a technik ochraňujících soukromí.
• Návrh strategií hodnocení modelů s ohledem na hrozby ve produkčních prostředích.