Zkuste nás kontaktovat

Návrh Školení

Základy bezpečné a spravedlivé AI

  • Základní pojmy: bezpečnost, zkreslení, spravedlnost, transparence.
  • Typy zkreslení: zkreslení v datech, reprezentace, algoritmické zkreslení.
  • Přehled regulačních rámců (nařízení EU o AI, GDPR atd.).

Zkreslení v modelech po doladění

  • Jak může doladění zavést nebo zesílit zkreslení.
  • Případové studie a selhání v praxi.
  • Identifikace zkreslení v datech a výstupech modelu.

Techniky snižování zkreslení

  • Strategie na úrovni dat (vyvážení, augmentace dat).
  • Strategie během tréninku (regularizace, adversariální debiasing).
  • Strategie po zpracování (filtrace výstupů, kalibrace).

Bezpečnost a robustnost modelů

  • Detekce nebezpečných nebo škodlivých výstupů.
  • Zvládání adversariálních vstupů.
  • Testování „red teamingem“ a stresové testování modelů po doladění.

Audity a monitorování systémů AI

  • Metrika vyhodnocení zkreslení a spravedlnosti (např. demografická parityta).
  • Nástroje vysvětlovatelnosti a rámce transparency.
  • Trvalé monitorování a praktiky governance.

Toolkity a praktické procvičování

  • Používání open-source knihoven (např. Fairlearn, Transformers, CheckList).
  • Praktická část: Detekce a snižování zkreslení v modelu po doladění.
  • Generování bezpečných výstupů prostřednictvím návrhu promptů a omezení.

Případové studie pro podnikové prostředí a připravenost na soulad s předpisy

  • Nejlepší praktiky pro integraci bezpečnosti do pracovních postupů s LLM.
  • Dokumentace a „model cards“ pro splnění požadavků na soulad.
  • Příprava na audity a externí revize.

Shrnutí a další kroky

Požadavky

  • Povědomí o modelech strojového učení a procesích tréninku.
  • Zkušenosti s prací s technikami doladění a velkými jazykovými modely (LLM).
  • Seznámení s jazykem Python a koncepty zpracování přirozeného jazyka (NLP).

Pro koho je kurz určen

  • Týmy odpovědné za soulad s předpisy v oblasti AI.
  • Inženýři strojového učení.
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie