Zabezpečení AI modelů: hrozby, útoky a obrany Počítačový Kurz

AAISM je pokročilý rámec pro hodnocení, správu a řízení bezpečnostních rizik v systémech umělé inteligence.

Toto instruktorem vedené živé školení (online nebo na místě) je zaměřeno na pokročilé odborníky, kteří chtějí implementovat efektivní bezpečnostní kontroly a správné praktiky pro podnikové AI prostředí.

Na konci tohoto programu budou účastníci připraveni:

• Hodnotit bezpečnostní rizika AI pomocí průmyslově uznávaných metodologií.
• Implementovat modely správy pro odpovědné nasazení AI.
• Spolknout bezpečnostní politiky AI s cíly organizace a požadavky regulačních orgánů.
• Zlepšit odolnost a zodpovědnost v operačním prostředí poháněném AI.

Formát kurzu

• Podporované přednášky s odbornou analýzou.
• Praktické workshopy a aktivity založené na hodnocení.
• Aplikované cvičení pomocí reálných scénářů správy AI.

Možnosti přizpůsobení kurzu

• Pro školení přizpůsobené vaší podnikové strategii AI, nás kontaktujte pro přizpůsobení kurzu.

Toto vedení instruktorem živého školení České republice (online nebo na místě) je zaměřeno na středně pokročilé vedoucí pracovníky podniku, kteří chtějí pochopit, jak odpovědně spravovat a zabezpečovat AI systémy v souladu s novými globálními rámci jako je např. EU AI Act, GDPR, ISO/IEC 42001 aExecutive Order on AI Spojených států.

Na konci tohoto školení budou účastníci schopni:

• Porozumět právním, etickým a regulačním rizikům použití AI ve všech odděleních.
• Interpretovat a uplatňovat hlavní rámce pro řízení AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Zavedovat zásady bezpečnosti, auditu a dozoru pro nasazení AI v podniku.
• Vytvářet směrnice pro nákup a použití třetích stran a interních AI systémů.

Umělá inteligence (AI) přináší nové rozměry operačních rizik, výzev pro správu a zranitelnost z hlediska kybernetické bezpečnosti pro státní orgány a úřady.

Tato instruktorem védaná živá školení (online nebo na místě) je určená IT a rizikovým odborníkům ve veřejném sektoru s omezenou předchozí zkušeností s AI, kteří chtějí pochopit, jak hodnotit, sledovat a zajistit AI systémy v rámci státních nebo regulačních kontextů.

Na konci tohoto školení budou účastníci schopni:

• Interpretovat klíčové pojmy rizik souvisejících s AI systémy, včetně předsudků, nepředvídatelnosti a modelového posunu.
• Používat AI specifická rámce pro řízení a audit, jako je NIST AI RMF a ISO/IEC 42001.
• Rozpoznávat kybernetické hrozby namířené proti AI modelům a datovým potokům.
• Vytvářet meziúřední řídicí plány pro řízení rizik a politickou souladnost při nasazení AI.

Formát kurzu

• Interaktivní přednášky a diskuse o případech použití ve veřejném sektoru.
• Cvičení s rámci pro řízení AI a mapování politik.
• Scénářové modelování hrozeb a hodnocení rizik.

Možnosti přizpůsobení kurzu

• Pro požadavek na přizpůsobené školení tohoto kurzu nás prosím kontaktujte, abychom to domluvili.

Toto instruktorem védané živé školení v České republice (online nebo přítomně) je zaměřeno na IT profesionály s úrovní začátečníka až středního stupně, kteří chtějí pochopit a implementovat AI TRiSM ve svých organizacích.

Koncepcí tohoto školení je, že na jeho konci budou účastníci schopni:

• Ovládat klíčové pojmy a důležitost správy důvěryhodnosti, rizik a bezpečnosti AI.
• Identifikovat a eliminovat rizika spojená se systémy umělé inteligence.
• Implementovat nejlepší postupy pro bezpečnost AI.
• Chápat dodržování právních předpisů a etické aspekty v oblasti umělé inteligence.
• Vytvářet strategie pro efektivní správu a řízení AI.

Tento vedený instruktorem živý kurz (online nebo na místě) je určen pro středně pokročilé až pokročilé AI vývojáře, architekty a manažery produktů, kteří chtějí identifikovat a eliminovat rizika spojená s aplikacemi založenými na LLM (Large Language Models), jako jsou injection prompts, úniky dat a nefiltrováné výstupy, přičemž začleňují bezpečnostní kontroly jako je validace vstupu, lidská kontrola a ochrana výstupů.

Na konci tohoto kurzu budou účastníci schopni:

• Porozumět základním zranitelnostem systémů na bázi LLM.
• Aplikovat bezpečnostní principy při návrhu architektury aplikací LLM.
• Používat nástroje jako Guardrails AI a LangChain pro validaci, filtrování a zajištění bezpečnosti.
• Integrovat techniky jako sandboxování, červené týmy a lidská kontrola do produkčních pipeline.

Toto vedené školení (online nebo na místě) je určeno středně pokročilým odborníkům z oblasti umělé inteligence a kybernetické bezpečnosti, kteří chtějí porozumět a řešit bezpečnostní zranitelnosti specifické pro modely AI a systémy, zejména v vysoce regulovaných odvětvích jako je finančnictví, správa dat a konzultace.

Na konci tohoto školení budou účastníci schopni:

• Porozumět druhům adversariálních útoků cílených na systémy AI a metodám obrany proti nim.
• Implementovat techniky zpevnění modelu pro zabezpečení strojových učících se příprav.
• Zajistit bezpečnost a integritu dat ve strojových učících se modelech.
• Orientovat se v požadavcích na dodržování právních předpisů týkajících se bezpečnosti AI.

Toto instruktorem vedeno živé školení v České republice (online nebo na místě) je určené začínajícím profesionálům v oblasti IT bezpečnosti, řízení rizik a soudržnosti, kteří chtějí pochopit základní koncepty bezpečnosti umělé inteligence, hrozebné vektory a globální rámce jako je NIST AI RMF a ISO/IEC 42001.

Na konci tohoto školení budou účastníci schopni:

• Pochopit jedinečné bezpečnostní rizika zavedená systémy umělé inteligence.
• Identifikovat hrozebné vektory jako jsou adversariální útoky, otravování dat a inverzní modely.
• Použít základní správní modely jako je NIST AI Risk Management Framework.
• Zapojit používání umělé inteligence do vznikajících standardů, soudržnostních směrnic a etických principů.

Na základě nejnovějších pokynů projektu OWASP GenAI Security Project se účastníci naučí identifikovat, hodnotit a odstraňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných situací.

Tato instruktorem vedena živá školení v České republice (online nebo na místě) je určená pokročilým profesionálům, kteří chtějí implementovat a vyhodnotit techniky jako federované učení, bezpečný výpočet více stran, homomorfní šifrování a diferenciální soukromí ve skutečných strojových learning pipelinech.

Na konci tohoto školení budou účastníci schopni:

• Porozumět a porovnat klíčové techniky ochrany soukromí v ML.
• Implementovat federované systémy učení pomocí open-source rámceství.
• Aplikovat diferenciální soukromí pro bezpečné sdílení dat a trénink modelů.
• Používat šifrovací a bezpečné výpočetní techniky k ochraně vstupů a výstupů modelu.

Toto školení vedené instruktorem (online nebo na místě) je určeno pokročilým bezpečnostním profesionálům a specialistům na strojové učení, kteří chtějí simulovat útoky na AI systémy, odhalit zranitelnosti a posílit odolnost nasazených modelů AI.

Na konci tohoto školení budou účastníci schopni:

• Simulovat skutečné hrozby pro modely strojového učení.
• Generovat protistranná příklady k testování robustnosti modelu.
• Hodnotit útočnou plochu AI API a potrubí.
• Návrh strategií red teaming pro prostředí nasazení AI.

Toto vedené instruktorem živé školení České republice (on-line nebo na místě) je určeno středně pokročilým inženýrům a odborníkům na bezpečnost, kteří chtějí zabezpečit AI modely nasazené u hraničních zařízení proti hrozbám jako jsou manipulace, únik dat, adversariální vstupy a fyzické útoky.

Na konci tohoto školení budou účastníci schopni:

• Identifikovat a hodnotit bezpečnostní rizika v nasazeních Edge AI.
• Aplikovat techniky odolnosti proti manipulaci a šifrované inference.
• Posílit modely nasazené na hraničních zařízeních a zabezpečit datové potoky.
• Implementovat strategie odolnosti proti hrozbám specifickým pro vložené a omezené systémy.

TinyML je přístup k nasazování modelů strojového učení na zařízeních s omezenými zdroji, která fungují na okraji sítě.

Tato školení pod vedením instruktora (online nebo přímo na místě) je zaměřena na odborníky pokročilé úrovně, kteří chtějí zabezpečit kanály TinyML a implementovat techniky ochrany soukromí v aplikacích hraničního umělé inteligence (AI).

Na konci tohoto kurzu budou účastníci schopni:

• Identifikovat bezpečnostní rizika specifická pro zpracování TinyML na zařízení.
• Implementovat mechanismy ochrany soukromí pro nasazení AI na hranici sítě.
• Zpevnit modely TinyML a vestavěné systémy proti adversním hrozbám.
• Aplikovat osvědčené postupy pro zabezpečení zacházení s daty v omezených prostředích.

Formát kurzu

• Angažující přednášky podporované diskusemi vedenými odborníkem.
• Praktické cvičení s důrazem na skutečné hrozebné scénáře.
• Rukojmí implementace pomocí vestavěných bezpečnostních a nástrojů TinyML.

Možnosti přizpůsobení kurzu

• Organizace mohou požádat o upravenou verzi tohoto školení, aby se shodovala s jejich specifickými bezpečnostními a souladovými potřebami.

Tento kurz se zabývá řízením, správou identity a protivníckým testováním agenických AI systémů, s důrazem na bezpečné modely nasazení v podniku a praktické techniky červených týmů.

Toto kurzy vedoucí instruktoři (online nebo na místě) je určeno pokročilým praktikům, kteří chtějí navrhovat, zabezpečovat a hodnotit agentní AI systémy v produkčních prostředích.

Na konci tohoto kurzu budou účastníci schopni:

• Definovat modely a politiky řízení pro bezpečné nasazení agenických AI.
• Návrh toků identifikace a ověřování pro agenty s nejmenšími oprávněními.
• Implementovat řízení přístupu, auditní záznamy a pozorovatelnost přizpůsobené autonomním agentům.
• Plánovat a provádět cvičení červených týmů k objevu nesprávného použití, cest eskalace a rizik úniku dat.
• Omezovat běžné hrozby pro agenické systémy prostřednictvím politik, inženýrských kontrol a monitoringu.

Formát kurzu

• Interaktivní přednášky a workshopy o modelování hrozeb.
• Praktické laboratoře: poskytování identit, vynucování politik a simulace protivníků.
• Cvičení červených týmů a modrých týmů a hodnocení na konci kurzu.

Možnosti přizpůsobení kurzu

• Pro požadavek na přizpůsobený kurz se nás, prosím, obraťte k domluvě.