Etika a správa autonomních AI agentů Počítačový Kurz

Zakládání etiky v autonomních systémech

• Definice autonomie v AI agentech
• Klíčové etické teorie aplikované na chování strojů
• Pohledy stakeholderů a design citlivý na hodnoty

Společenská rizika a případové studie s vysokými sázky

• Autonomní agenti v oblasti veřejné bezpečnosti, zdraví a obrany
• Lidsko-AI spolupráce a hranice důvěry
• Scénáře neúmyslných důsledků a amplifikace rizika

Právní a regulační krajina

• Prehled AI legislativy a trendů v politice (EU AI Act, NIST, OECD)
• Odpovědnost, odpovědnost za škody a právní subjektivita AI agentů
• Globální iniciativy ve správě a jejich mezery

Vysvětlitelnost a transparentnost rozhodování

• Výzvy „black-box“ rozhodování autonomních systémů
• Design pro vysvětlitelné a auditovatelné agenty
• Nástroje a rámcy transparentnosti (např. model cards, datasheets)

Soulad, kontrola a morální odpovědnost

• Strategie souladu (alignment) pro chování agentů
• Paradigmy kontroly human-in-the-loop vs. human-on-the-loop
• Sdílená odpovědnost mezi designéry, uživateli a institucemi

Etické posouzení rizik a jejich mitigace

• Zeměpis rizik a analýza kritických poruch v designu agentů
• Bezpečnostní prvky a mechanismy vypínání
• Audit zkreslení, diskriminace a férovosti

Design správy a institucionální dohled

• Principy odpovědné správy AI
• Modele dohledu více stakeholderů a auditů
• Vytváření rámců pro dodržování předpisů pro autonomní agenty

Shrnutí a další kroky