Zkuste nás kontaktovat

Návrh Školení

Úvod do nasazování velkých jazykových modelů pomocí Ollama

  • Přehled možností, které Ollama nabízí
  • Výhody lokálního nasazení AI modelů
  • Srovnání s cloudovými řešeními pro hostování AI modelů

Příprava nasazovacího prostředí

  • Instalace Ollama a nezbytných závislostí
  • Konfigurace hardwaru a akcelerace pomocí GPU
  • Vytvoření kontejnerů Docker pro škálovatelné nasazení Ollamy

Nasazování velkých jazykových modelů s využitím Ollama

  • Načítání a správa AI modelů
  • Nasazení modelů Llama 3, DeepSeek, Mistral a dalších
  • Vytváření rozhraní API pro přístup k AI modelům

Optimalizace výkonu velkých jazykových modelů

  • Ladění modelů za účelem dosažení maximální efektivity
  • Snižování latence a zkrácení doby odezvy systému
  • Řízení využití paměti a ostatních zdrojů systému

Integrace Ollamy do pracovních postupů AI

  • Připojení Ollamy k různým aplikacím a službám
  • Automatizace procesů založených na umělé inteligenci
  • Využití Ollamy v prostředích okrajového výpočtu (edge computing)

Sledování a údržba AI modelů

  • Monitorování výkonnosti a odhalování problémů během jejich vzniku
  • Aktualizace a správa jednotlivých AI modelů
  • Zajištění bezpečnosti a souladu s předpisy při nasazování AI modelů

Škálování nasazení velkých jazykových modelů

  • Doporučené postupy pro zvládání vysokého objemu požadavků
  • Jak škálovat Ollamu pro firemní nasazení
  • Budoucí směřování lokálního nasazování AI modelů

Shrnutí a další kroky

Požadavky

  • Základní zkušenosti s strojovým učením a AI modely
  • Ovládání příkazového řádku a skriptování
  • Přehled o nasazovacích prostředích (lokálně, na okraji sítě či v cloudu)

Cílová skupina

  • Inženýři umělé inteligence optimalizující lokální i cloudové nasazení AI modulů
  • Odborníci na strojové učení realizující nasazování a ladění velkých jazykových modelů
  • Specialisté na DevOps spravující integraci AI modelů do systémů
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie