Návrh Školení

Základy etiky v autonomních systémech

  • Definice autonomy u AI agentů
  • Klíčové etické teorie aplikované na chování strojů
  • Perspektivy zainteresovaných stran a návrh, který respektuje hodnoty

Společenské rizika a vysokostavěbné Use Cases

  • Autonomous agents ve veřejné bezpečnosti, zdravotnictví a obraně
  • Human-AI spolupráce a hranice důvěry
  • Scénáře nechtěných následků a zesílení rizik

Právní a regulativní prostředí

  • Přehled legislativy AI a trendy v politice (EU AI Act, NIST, OECD)
  • Zodpovědnost, povinnost a právní subjektivita AI agentů
  • Globální iniciativy řízení a mezery

Vysvětlitelnost a transparentnost rozhodování

  • Výzvy spojené s černou skříní v autonomním rozhodování
  • Návrh na vytvoření vysvětlitelných a kontrolovatelných agentů
  • Transparentnost nástroje a rámce (například modelové karty, datový list)

Výrovnání, kontrola a morální zodpovědnost

  • Strategie výrovnání AI pro chování agenta
  • Paradigmaty kontroly s člověkem ve smyčce vs. na okraji smyčky
  • Společná zodpovědnost návrhářů, uživatelů a institucí

Analýza etického rizika a jeho odstraňování

  • Kartografie rizik a kritické analýzy selhání v návrhu agenta
  • Zabezpečení a mechanismy vypnutí
  • Audity biasu, diskriminace a spravedlnosti

Governance design a institucionální dohled

  • Zásady odpovědného řízení AI
  • Multistakeholderovské modely dozoru a auditu
  • Návrh rámce dodržování pravidel pro autonomní agenty

Shrnutí a další kroky

Požadavky

  • Pochopení AI systémů a základů strojového učení
  • Znalost autonomních agentů a jejich aplikací
  • Vědomosti o etických a právních rámecích v technologické politice

Audience

  • Etikové AI
  • Politici a regulátoři
  • Pokročilí odborníci a výzkumníci v oblasti AI
 14 hodiny

Počet účastníků


Price per participant

Reference (1)

Upcoming Courses

Související kategorie