Návrh Školení

Přehled architektury LLM a útočných povrchů

  • Jak se LLM sestavují, nasazují a přistupuje k nim prostřednictvím API
  • Klíčové komponenty v aplikacích LLM (např. dotazy, agenty, paměť, API)
  • Kde a jak vznikají bezpečnostní problémy ve skutečném použití

Injekce dotazů a útoky na „zkrácení“ modelu (jailbreak attacks)

  • Co je injekce dotazu a proč je nebezpečná
  • Přímé a nepřímé scénáře injekce dotazů
  • Tehniky „zkrácení“ modelu (jailbreaking) k obejítí bezpečnostních filtrů
  • Strategie detekce a odbarvení rizik

Data Leakage a rizika soukromí

  • Nedokonalé vystavení dat prostřednictvím odpovědí
  • Odsolení osobních identifikačních informací (PII) a zneužití paměti modelu
  • Návrh soukromost přívětivých dotazů a generace podporované vytahováním informací (RAG)

Filtrování a ochrana výstupu LLM

  • Použití Guardrails AI pro filtrování a ověření obsahu
  • Definování schémat a omezujících podmínek výstupu
  • Sledování a záznam nebezpečných výstupů

Lidská kontrola a přístupy ke workflow

  • Kde a kdy je vhodné zavést lidskou kontrolu
  • Fronty schválení, prahové hodnoty skóre, zpracování záloh
  • Kalibrace důvěry a role vysvětlitelnosti

Zabezpečené designové vzory pro aplikace LLM

  • Princip nejmenšího privilégu a sandboxing při voláních API a agenty
  • Omezování rychlosti, zastavení a detekce zneužití
  • Robustní spojení s LangChain a izolací dotazů

Splňování požadavků, logging a správa

  • Zajištění auditabilního záznamu výstupů LLM
  • Udržování sleditelnosti a kontroly dotazů/verzí
  • Vyhladování s interními bezpečnostními politikami a regulačními požadavky

Souhrn a další kroky

Požadavky

  • Pochopení velkých jazykových modelů a rozhraní založených na výzvách (prompts)
  • Zkušenosti s vytvářením aplikací LLM pomocí Pythonu
  • Obrněnost s integrací API a cloudovými nasazeními

Cílová skupina

  • Vývojáři AI
  • Arcitekti aplikací a řešení
  • Techničtí manažeři produktů pracující s nástroji LLM
 14 hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie