Zkuste nás kontaktovat

Návrh Školení

Základy bezpečné lokální AI

  • Co znamenají pojmy „lokální“ a „interní“ nasazení AI v regulovaných prostředích
  • Srovnání cloudové AI s interním nasazením pro citlivé úlohy
  • Běžné firemní využití privátních asistentů a podpory pracovních postupů
  • Klíčové prvky bezpečné lokální architektury AI

Základy Ollamy a open-source modelů

  • Jak Ollama zapadá do místního vývojového prostředí
  • Stahování, spouštění a správa modelů lokálně
  • Výběr modelů podle velikosti, kvality, hardwaru a licenčních podmínek
  • Přiřazení vhodných modelů konkrétním obchodním úkolům

Příprava interního vývojového prostředí

  • Příprava hostitele, pracovní stanice i serveru
  • Instalace a konfigurace Ollamy pro lokální vyhodnocování modelů
  • Využití kontejnerů a interních nástrojů pro vývoj
  • Ověření dostupnosti API a základní provozuschopnosti systému

Efektivní práce s lokálními modely

  • Zadávání dotazů a tvarování odpovědí pomocí systémových instrukcí
  • Opětovné využívání šablon pro jednotné firemní procesy
  • Správa verzí modelů a interních artefaktů
  • Základní optimalizace výkonu u nasazení na CPU i GPU

Vytváření praktických agentických pracovních postupů

  • Co charakterizuje „agentický“ postup v kontrolovaném prostředí
  • Jednoduché vzory plánování, použití nástrojů a reakčních cyklů
  • Návrh asistentů zaměřených na konkrétní interní úlohy
  • Zahrnutí lidské kontroly, nouzové logiky a zpracování chyb

Privátní rekurzivní pracovní postupy

  • Základy generování s využitím rekurze pro přístup k interním znalostem
  • Příprava dokumentů na rozdělení, indexaci a vyhledávání
  • Propojení lokálního vektorového úložiště s aplikací využívající Ollamu
  • Zlepšování relevance odpovědí díky efektivnějšímu vyhledávání

Praktiky bezpečnosti, správy a souladu s předpisy

  • Hranice zpracování dat a ochrana soukromí
  • Řízení přístupů, protokolování aktivit a auditovatelnost systému
  • Ochrana dotazů i výstupů, stanovení bezpečnostních limitů
  • Kontrolní body pro bezproblémové regulované nasazení a provoz

Vzory firemní integrace

  • Exponování lokálních AI schopností prostřednictvím interních API
  • Integrace asistentů s dalšími firemními aplikacemi a službami
  • Podpora automatizovaných úloh, dávkového zpracování i pracovních postupů
  • Udržení všech řešení v rámci chráněné interní sítě

Hodnocení lokálních AI řešení

  • Odhad kvality, spolehlivosti a konzistence výsledků
  • Testování v souladu s obchodními požadavky, zásadami i bezpečnostními limity
  • Srovnávání modelů podle jejich vhodnosti pro konkrétní firemní úlohy
  • Vytváření reálného cyklu zlepšování pro interní týmy

Praktické laboratorní cvičení

  • Vytvoření privátního asistenta s využitím Ollamy a open-source modelu
  • Přidání rekurzivních funkcí přístupujících k schváleným interním dokumentům
  • Zavedení jednoduchých agentických akcí s bezpečnostními omezeními
  • Přezkoumání aspektů nasazení, provozu i kontrol bezpečnosti a správy

Plánování přijetí technologie a další kroky

  • Přehled klíčových rozhodnutí týkajících se návrhu i nasazení systému
  • Identifikace běžných problémů při realizaci regulovaných AI projektů
  • Plánování pilotních využití a koordinace s ostatními zainteresovanými stranami
  • Definování strategie pro bezpečné nasazení lokální AI technologie

Požadavky

  • Základní znalosti konceptů umělé inteligence a softwarového vývoje
  • Orientace v praci s příkazovým řádkem, kontejnery nebo lokálním vývojovým prostředím
  • Zkušenosti se psaním skriptů či programováním

Cílová skupina

  • Vývojáři a techničtí pracovníci vytvářející privátní AI řešení na interní infrastruktuře
  • Odborníci z oblasti bezpečnosti, souladu s předpisy a platformy podporující nasazování AI v regulovaných prostředích
  • Techničtí lídři ve finančnictví, zdravotnictví, státní správě a obraně, kteří zvažují nasazení lokální AI technologie
 21 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie