Zkuste nás kontaktovat

Návrh Školení

Přehled architektury LLM a povrchu útoků

  • Jak jsou LLM budovány, nasazovány a přístupné prostřednictvím API
  • Klíčové komponenty ve stohu aplikací LLM (např. prompty, agenti, paměť, API)
  • De a kde vznikají bezpečnostní problémy v reálném nasazení

Injekce promptů a útaky typu Jailbreak

  • Co je injekce promptu a proč je nebezpečná
  • Přímočaré i nepřímé scénáře injekce promptu
  • Techniky jailbreaku k obcházení bezpečnostních filtrů
  • Strategie detekce a zmírnění

Úniky dat a rizika soukromí

  • Přímé odhalování dat prostřednictvím odpovědí
  • Úniky osobních údajů (PII) a zneužívání paměti modelu
  • Návrh promptů respektujících soukromí a generování s rozšířeným retrieval (RAG)

Filtrování a ochrana výstupů LLM

  • Použití Guardrails AI pro filtrování obsahu a validaci
  • Definování výstupních schémat a omezení
  • Sledování a logování nebezpečných výstupů

Lidská kontrola v procesu a přístupy k pracovnímu toku

  • Kde a kdy zavést lidskou kontrolu
  • Fronty schválení, prahové hodnoty hodnocení, zpracování pádů
  • Kalibrace důvěry a role vysvětlovatelnosti

Vzory bezpečného designu aplikací LLM

  • Princip nejméně potřebných oprávnění a sandboxing pro volání API a agenty
  • Omezení rychlosti (rate limiting), zpomalování a detekce zneužívání
  • Robustní řetězení s LangChain a izolace promptů

Soulad s předpisy, logování a governance

  • Zajištění auditovatelnosti výstupů LLM
  • Udržování sledovatelnosti a kontroly verzí promptů
  • Ladění s interními bezpečnostními politikami a regulačními požadavky

Shrnutí a další kroky

Požadavky

  • Porozumění velkým jazykovým modelům a rozhraním založeným na promptech
  • Zkušenosti s tvorbou aplikací LLM pomocí jazyka Python
  • Seznámení s integrací API a cloudovými nasazeními

Cílová skupina

  • Vývojáři AI
  • Architekti aplikací a řešení
  • Techničtí product manažeři pracující s nástroji LLM
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie