Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Návrh Školení
Základy bezpečné lokální AI
- Co znamenají pojmy „lokální“ a „interní“ nasazení AI v regulovaných prostředích
- Srovnání cloudové AI s interním nasazením pro citlivé úlohy
- Běžné firemní využití privátních asistentů a podpory pracovních postupů
- Klíčové prvky bezpečné lokální architektury AI
Základy Ollamy a open-source modelů
- Jak Ollama zapadá do místního vývojového prostředí
- Stahování, spouštění a správa modelů lokálně
- Výběr modelů podle velikosti, kvality, hardwaru a licenčních podmínek
- Přiřazení vhodných modelů konkrétním obchodním úkolům
Příprava interního vývojového prostředí
- Příprava hostitele, pracovní stanice i serveru
- Instalace a konfigurace Ollamy pro lokální vyhodnocování modelů
- Využití kontejnerů a interních nástrojů pro vývoj
- Ověření dostupnosti API a základní provozuschopnosti systému
Efektivní práce s lokálními modely
- Zadávání dotazů a tvarování odpovědí pomocí systémových instrukcí
- Opětovné využívání šablon pro jednotné firemní procesy
- Správa verzí modelů a interních artefaktů
- Základní optimalizace výkonu u nasazení na CPU i GPU
Vytváření praktických agentických pracovních postupů
- Co charakterizuje „agentický“ postup v kontrolovaném prostředí
- Jednoduché vzory plánování, použití nástrojů a reakčních cyklů
- Návrh asistentů zaměřených na konkrétní interní úlohy
- Zahrnutí lidské kontroly, nouzové logiky a zpracování chyb
Privátní rekurzivní pracovní postupy
- Základy generování s využitím rekurze pro přístup k interním znalostem
- Příprava dokumentů na rozdělení, indexaci a vyhledávání
- Propojení lokálního vektorového úložiště s aplikací využívající Ollamu
- Zlepšování relevance odpovědí díky efektivnějšímu vyhledávání
Praktiky bezpečnosti, správy a souladu s předpisy
- Hranice zpracování dat a ochrana soukromí
- Řízení přístupů, protokolování aktivit a auditovatelnost systému
- Ochrana dotazů i výstupů, stanovení bezpečnostních limitů
- Kontrolní body pro bezproblémové regulované nasazení a provoz
Vzory firemní integrace
- Exponování lokálních AI schopností prostřednictvím interních API
- Integrace asistentů s dalšími firemními aplikacemi a službami
- Podpora automatizovaných úloh, dávkového zpracování i pracovních postupů
- Udržení všech řešení v rámci chráněné interní sítě
Hodnocení lokálních AI řešení
- Odhad kvality, spolehlivosti a konzistence výsledků
- Testování v souladu s obchodními požadavky, zásadami i bezpečnostními limity
- Srovnávání modelů podle jejich vhodnosti pro konkrétní firemní úlohy
- Vytváření reálného cyklu zlepšování pro interní týmy
Praktické laboratorní cvičení
- Vytvoření privátního asistenta s využitím Ollamy a open-source modelu
- Přidání rekurzivních funkcí přístupujících k schváleným interním dokumentům
- Zavedení jednoduchých agentických akcí s bezpečnostními omezeními
- Přezkoumání aspektů nasazení, provozu i kontrol bezpečnosti a správy
Plánování přijetí technologie a další kroky
- Přehled klíčových rozhodnutí týkajících se návrhu i nasazení systému
- Identifikace běžných problémů při realizaci regulovaných AI projektů
- Plánování pilotních využití a koordinace s ostatními zainteresovanými stranami
- Definování strategie pro bezpečné nasazení lokální AI technologie
Požadavky
- Základní znalosti konceptů umělé inteligence a softwarového vývoje
- Orientace v praci s příkazovým řádkem, kontejnery nebo lokálním vývojovým prostředím
- Zkušenosti se psaním skriptů či programováním
Cílová skupina
- Vývojáři a techničtí pracovníci vytvářející privátní AI řešení na interní infrastruktuře
- Odborníci z oblasti bezpečnosti, souladu s předpisy a platformy podporující nasazování AI v regulovaných prostředích
- Techničtí lídři ve finančnictví, zdravotnictví, státní správě a obraně, kteří zvažují nasazení lokální AI technologie
21 Hodiny