Zkuste nás kontaktovat

Návrh Školení

Základy bezpečné a spravedlivé AI

  • Klíčové koncepty: bezpečnost, předsudky, spravedlnost, transparentnost
  • Druhy předsudků: související s daty, reprezentací a algoritmy
  • Přehled regulačních rámců (např. Evropský akt o AI, GDPR atd.)

Předsudky v modelech po doladění

  • Jak proces doladění může zavést či zesílit předsudky
  • Případové studie a skutečné neúspěchy v praxi
  • Rozpoznávání předsudků jak v datech, tak ve výstupech modelů

Techniky na zmírňování předsudků

  • Strategie na úrovni dat (vyvažování dat, jejich rozšíření)
  • Strategie v průběhu trénování (regularizace, antikovárieové metody zmírňování předsudků)
  • Post-trénovací strategie (filtrování výstupů, kalibrace)

Bezpečnost a odolnost modelů

  • Detekce nebezpečných či škodlivých výstupů
  • Zvládání agresivních vstupů do modelu<\/li>
  • Testování odolnosti modelů pomocí metody „red teamingu“ a zátěžových testů

Auditování a monitorování systémů AI

  • Metriky pro vyhodnocování předsudků a spravedlnosti (např. demografická rovnost)
  • Nástroje na vysvětlitelnost a zajištění transparentnosti modelů
  • Průběžné monitorování a mechanismy řízení AI systémů

Nástroje a praktické cvičení

  • Využívání open-source knihoven (např. Fairlearn, Transformers, CheckList)
  • Praktický nácvik: rozpoznávání a zmírňování předsudků v modelu po doladění
  • Tvorba bezpečných výstupů pomocí správného navrhování promptů a omezení jejich formátu

Firemní využití a připravenost na soulad s legislativou

  • Doporučené postupy pro začleňování bezpečnostních opatření do pracovních postupů s velkými jazykovými modely
  • Vytváření dokumentace a specifikací modelů pro účely legislativního souladu
  • Příprava na audity a externí kontroly

Shrnutí a další kroky

Požadavky

  • Základní znalosti o modelech strojového učení a procesech jejich trénování
  • Praktické zkušenosti s doladěním modelů a prácí s velkými jazykovými modely (LLM)
  • Orientace v Pythonu a konceptech zpracování přirozeného jazyka

Cílová skupina

  • Týmy odpovědné za dodržování předpisů v oblasti AI
  • Inženýři strojového učení
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie