AI Security Školení v Prague

AAISM je pokročilý rámec určený k hodnocení, řízení a zvládání bezpečnostních rizik v systémech využívajících umělou inteligenci.

Tento kurz s přímým vedením lektora (online nebo na místě) je určen pro odborníky na pokročilé úrovni, kteří chtějí zavádět efektivní bezpečnostní kontroly a řídící postupy v prostředí podnikových systémů s umělou inteligencí.

Po absolvování tohoto programu budou účastníci schopni:

• Hodnotit bezpečnostní rizika spojená s umělou inteligencí pomocí mezinárodně uznávaných metodik.
• Zavádět řídící modely pro odpovědné nasazení umělé inteligence.
• Přizpůsobovat bezpečnostní politiky týkající se AI cílům organizace a požadavkům legislativy.
• Zvyšovat odolnost a zodpovědnost v provozech řízených umělou inteligencí.

Forma kurzu

• Přednášky s možností diskuze, doprovázené odbornými analýzami.
• Praktické workshopy a činnosti založené na hodnocení schopností účastníků.
• Cvičení s využitím reálných situací ze světa řízení bezpečnosti AI.

Možnosti přizpůsobení kurzu

• Pokud si přejete kurz upravit podle strategie vaší organizace v oblasti umělé inteligence, kontaktujte nás za účelem jeho individualizace.

Tento kurz vedený lektorem v <lok> (online nebo prezenčně) je určen pro IT profesionály na začátečnické až střední úrovni, kteří chtějí porozumět a implementovat principy AI TRiSM ve svých organizacích.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit klíčové koncepty a význam řízení důvěry, rizik a bezpečnosti v oblasti AI.
• Identifikovat a zmírňovat rizika spojená se systémy umělé inteligence.
• Aplikovat osvědčené postupy v oblasti bezpečnosti u AI systémů.
• Porozumět regulatorním požadavkům a etickým aspektům využívání umělé inteligence.
• Vytvořit strategie pro efektivní řízení a správu AI systémů.

Tento kurz se zabývá řízením, správou identit a testováním odolnosti vůči útokům u agentických systémů umělé inteligence. Zaměřuje se na bezpečné metody nasazení v podnikatelském prostředí a praktické techniky red-teamingu.

Jde o živový školení s instruktorem (online či prezenčně), určené pro pokročilé odborníky, kteří chtějí navrhovat, zabezpečovat a vyhodnocovat agentické systémy AI v produkčním prostředí.

Po absolvování tohoto kurzu budou účastníci schopni:

• Definovat řídicí modely a politiky pro bezpečné nasazení agentických systémů AI.
• Navrhnout systémy identity a ověřování pro agenty tak, aby měly minimální potřebná oprávnění.
• Zavést mechanismy řízení přístupu, auditní záznamy a nástroje na sledování chování autonomních agentů.
• Naplánovat a realizovat cvičení typu red-teaming za účelem odhalení možného zneužití, postupů eskalace a rizik úniku dat.
• Snižovat běžné hrozby vůči agentickým systémům pomocí politik, inženýrských opatření a monitoringu.

Formát kurzu

• Interaktivní přednášky a workshopy zaměřené na modelování hrozeb.
• Praktická cvičení: nastavování identit, prosazování politik a simulace útoků ze strany protivníků.
• Cvičení typu red-team/blue-team spolu s závěrečným hodnocením účastníků.

Možnosti přizpůsobení kurzu

• Chcete-li si tento kurz nechat připravit na míru, kontaktujte nás a domluvíme se na podrobnostech.

Toto živé školení pod vedením instruktora v Prague (online nebo prezenčně) je určeno pro odborníky ze střední úrovně z oblasti umělé inteligence a kybernetické bezpečnosti, kteří chtějí pochopit a řešit bezpečnostní rizika spojená se systémy AI – zejména v vysoce regulovaných odvětvích jako je finančnictví, správa dat a poradenství.

Po absolvování tohoto kurzu budou účastníci schopni:

• Popsat typy útoků na systémy umělé inteligence a metody jejich odvrácení.
• Aplikovat techniky zpevňování modelů za účelem ochrany procesů strojového učení.
• Zajistit bezpečnost a integritu dat v rámci modelů strojového učení.
• Správně se orientovat v požadavcích právních předpisů týkajících se bezpečnosti AI.

Toto školení pod vedením instruktora Prague (online nebo na místě) je určeno pro pokročilé odborníky v oblasti bezpečnosti a specialisty na strojové učení, kteří chtějí simulovat útoky na systémy umělé inteligence, odhalit jejich zranitelnosti a posílit odolnost nasazených modelů.

Po absolvování tohoto kurzu budou účastníci schopni:

• Simulovat reálné hrozby pro modely strojového učení.
• Vytvářet adversariální příklady za účelem testování odolnosti modelů.
• Vyhodnocovat povrch ohrožení API a procesních řetězců využívajících AI.
• Navrhovat strategie Red Teaming pro prostředí nasazení AI.

TinyML je přístup k nasazování strojově učících modelů na zařízení s omezenými zdroji energie a paměti, která operují na okraji síťové infrastruktury.

Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro profesionály pokročilé úrovně, kteří chtějí zabezpečit procesy TinyML a implementovat techniky na ochranu soukromí v aplikacích umělé inteligence pracujících na okraji sítě.

Po absolvování tohoto kurzu budou účastníci schopni:

• Identifikovat bezpečnostní rizika specifická pro provádění inference modelů TinyML přímo na zařízeních.
• Implementovat mechanismy na ochranu soukromí při nasazování systémů umělé inteligence na okraji sítě.
• Posílit modely TinyML a vestavěné systémy proti útokům ze strany nežádoucích subjektů.
• Aplikovat osvědčené postupy pro bezpečnou správu dat v prostředí s omezenými zdroji.

Forma kurzu

• Interaktivní přednášky doprovázené diskuzemi vedenými odborníky.
• Praktická cvičení zaměřená na reálné scénáře ohrožení bezpečnosti.
• Aktivní implementace pomocí nástrojů pro zabezpečení vestavěných systémů a TinyML technologií.

Možnosti přizpůsobení kurzu

• Organizace mohou požádat o upravenou verzi tohoto školení tak, aby odpovídala jejich konkrétním požadavkům na bezpečnost a soulad s předpisy.

Toto živé školení vedené instruktorem Prague (online nebo na místě) je určeno pro inženýry a odborníky na bezpečnost středně pokročilé úrovně, kteří si přejí zabezpečit modely AI nasazené na okraji sítě před hrozbami typu manipulace, únik dat, adverzní vstupy či fyzické útoky.

Po ukončení tohoto školení budou účastníci schopni:

• Identifikovat a vyhodnocovat bezpečnostní rizika při nasazení AI na okraji sítě.
• Používat techniky odolnosti vůči manipulaci a šifrovaného provádění výpočtů.
• Zvyšovat bezpečnost nasazených modelů a zabezpečovat datové toky.
• Implementovat strategie zmírňování rizik specifické pro vestavěné systémy s omezenými prostředky.

Toto školení pod vedením instruktora Prague (online či prezenčně) je určeno profesionálům na pokročilé úrovni, kteří chtějí implementovat a vyhodnocovat techniky jako federované učení, bezpečný vícestranný výpočet, homomorfická šifrování a diferenciální soukromí v reálných systémech strojového učení.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět a porovnat klíčové techniky ochrany soukromí v rámci strojového učení.
• Implementovat systémy federovaného učení s využitím open-source nástrojů.
• Používat diferenciální soukromí k bezpečnému sdílení dat a trénování modelů.
• Využít šifrovací a bezpečnostní metody k ochraně vstupů i výstupů modelů.

Umělá inteligence přináší nové aspekty operačních rizik, výzev v oblasti řízení a hrozeb pro kybernetickou bezpečnost pro vládní orgány a jejich jednotlivá oddělení.

Toto školení pod vedením instruktora (online nebo prezenčně) je určeno IT specialistům a odborníkům na řízení rizik ze veřejného sektoru, kteří mají jen minimální předchozí zkušenosti s umělou inteligencí a chtějí porozumět tomu, jak vyhodnocovat, monitorovat a chránit systémy AI v rámci vládních či regulatorních požadavků.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět klíčovým konceptům rizik souvisejících s systémy AI, včetně předpojatosti, nepředvídatelnosti chování a změn vlastností modelů.
• Používat specifické rámce pro řízení a audit AI, jako jsou NIST AI RMF a ISO/IEC 42001.
• Rozpoznávat kybernetické hrozby zaměřené na modely umělé inteligence a datové toky.
• Vytvářet plány řízení rizik napříč odděleními a zajišťovat soulad politik při nasazování AI.

Forma kurzu

• Interaktivní přednášky a diskuze o konkrétních příkladech využití AI ve veřejném sektoru.
• Cvičení na tvorbu rámců řízení AI a mapování politických požadavků.
• Modelování hrozeb a vyhodnocování rizik na základě reálných scénářů.

Možnosti přizpůsobení kurzu

• Chcete-li si objednat školení upravené na míru, kontaktujte nás a domluvíme se na podrobnostech.

Tento živý školicí kurz vedený lektorem v Prague (online nebo prezenčně) je určen pro vedoucí pracovníky střední úrovně, kteří se chtějí naučit, jak odpovědně řídit a zabezpečovat systémy umělé inteligence v souladu s novými globálními předpisy, jako je např. evropský zákon o AI, GDPR, ISO/IEC 42001 a nařízení prezidenta USA týkající se AI.

Po absolvování tohoto kurzu budou účastníci schopni:

• Porozumět právním, etickým a regulatorním rizicím spojeným s využíváním AI v rámci jednotlivých oddělení.
• Interpretovat a uplatňovat hlavní rámce pro řízení AI (evropský zákon o AI, NIST AI RMF, ISO/IEC 42001).
• Stanovit bezpečnostní, auditní a kontrolní politiky pro nasazení AI v podniku.
• Vypracovat pokyny pro pořizování a používání systémů umělé inteligence od třetích stran i interně vyvinutých.

Tento kurz vedený lektorem v Prague (online nebo prezenčně) je určen pro vývojáře umělé inteligence, architekty a produktové manažery na středně pokročilé a pokročilé úrovni, kteří si přejí identifikovat a zmírňovat rizika spojená s aplikacemi využívajícími velké jazykové modely – např. injekci promtů, únik dat či nekontrolovaný výstup. Současně se učí zavádět bezpečnostní opatření jako ověřování vstupů, kontrolu ze strany lidí a nastavení omezení pro generovaný obsah.

Po absolvování tohoto kurzu budou účastníci schopni:

• Pochopit hlavní slabiny systémů založených na velkých jazykových modelech.
• Aplikovat bezpečnostní principy při navrhování architektury aplikací využívajících LLM.
• Používat nástroje jako Guardrails AI a LangChain k validaci, filtrování a zajištění bezpečnosti.
• Začlenit do produkčních systémů techniky jako izolace prostředí, simulované útoky a kontrolu ze strany lidí.

Toto školení vedené instruktorem v Prague (online nebo prezenčně) je určeno pro odborníky na strojové učení a kybernetickou bezpečnost na středně pokročilé úrovni, kteří si chtějí osvojit metody identifikace a zmírňování nových hrozeb vůči AI modelům. Využívají přitom jak teoretické modely, tak praktické obranné techniky jako je robustní trénování či diferenciální soukromí.

Po absolvování tohoto školení budou účastníci schopni:

• Rozpoznávat a klasifikovat hrozby specifické pro AI, včetně adverzárních útoků, inverzních technik a poškození dat.
• Využívat nástroje jako Adversarial Robustness Toolbox (ART) k simulaci útoků a testování modelů.
• Aplikovat konkrétní obranné metody, mezi které patří adverzární trénování, přidávání šumu či techniky chránící soukromí.
• Navrhnout strategie vyhodnocování modelů s ohledem na možné hrozby v produkčním prostředí.

Toto školení pod vedením instruktora Prague (online nebo na místě) je určeno pro začínající odborníky z oblasti IT bezpečnosti, řízení rizik a dodržování předpisů, kteří se chtějí seznámit se základními koncepty zabezpečení AI, typy hrozeb a celosvětovými rámcovými dokumenty jako je NIST AI RMF či ISO/IEC 42001.

Po absolvování tohoto školení budou účastníci schopni:

• Porozumět jedinečným bezpečnostním rizikům, která s sebou přinášejí systémy založené na umělé inteligenci.
• Identifikovat hlavní typy hrozeb – například adverzární útoky, kontaminaci dat či inverzi modelů.
• Používat základní modely řízení, jako je Rámec pro řízení rizik v oblasti AI podle NIST.
• Sladit používání umělé inteligence s nově vytvářenými standardy, pokyny pro dodržování předpisů a etickými zásadami.

Na základě nejnovějších pokynů projektu OWASP GenAI Security se účastníci naučí identifikovat, hodnotit a zmírňovat hrozby specifické pro AI prostřednictvím praktických cvičení a reálných scénářů.

Tento kurz poskytuje praktické seznámení se zabezpečením moderních aplikací využívajících umělou inteligenci, rozhraní API, asistenty řízené AI i autonomní agenty. Účastníci pochopí odlišnosti mezi bezpečností běžných webových aplikací a systémů využívajících umělou inteligenci, seznámí se s četnými hrozbami specifickými pro tuto oblast – jako jsou injekce promptů, otrávení dat v systémech RAG či zneužití agentů. Dále zjistí, jak vytvořit vícevrstvou ochranu pomocí WAF, bran pro rozhraní API a dalších bezpečnostních mechanismů. Prostřednictvím praktických cvičení a reálných příkladů získají studenti dovednosti potřebné k rozpoznávání útoků na AI systémy, zabezpečování aplikací s využitím modelů LLM i implementaci efektivních mechanismů obrany v produkci.

Tento kurz učí vývojáře, jak vytvářet aplikace s využitím umělé inteligence bezpečným způsobem již od samého začátku. Účastníci se naučí chránit chatboty, asistenty, systémy RAG i agenty před specifickými hrozbami v oblasti AI, jako jsou injekce promptů, otrava dat, zneužití nástrojů a nebezpečný výstup modelu. Kurz pokrývá bezpečný návrh promptů, zabezpečení systémů RAG, princip nejmenších oprávnění, ochranné vrstvy a red-teaming – vše pro to, aby vývojáři mohli budovat funkce AI, které jsou v reálných podmínkách spolehlivé a odolné.

Toto školení vedené instruktorem Prague (online nebo na místě) je určeno bezpečnostním inženýrům a pracovníkům odpovědným za dodržování předpisů, kteří chtějí zvýšit zabezpečení nasazení EXO, řídit přístup k modelům a spravovat AI pracovní zátěže běžící výhradně v prostředí na místě.

Toto školení pod vedením instruktora Prague (online nebo na místě) je určeno bezpečnostním specialistům a inženýrům strojového učení, kteří potřebují rozpoznávat, testovat a bránit se útokům na modely strojového učení i aplikace využívající velké jazykové modely.