Zkuste nás kontaktovat

Návrh Školení

Úvod do nástroje Ollama pro nasazování LLM

  • Přehled možností nástroje Ollama.
  • Výhody nasazování AI modelů lokálně.
  • Srovnání s cloudovými řešeními hostování AI.

Nastavení nasazovacího prostředí

  • Instalace nástroje Ollama a požadovaných závislostí.
  • Konfigurace hardwaru a zrychlení na GPU.
  • Kontejnery pro nástroj Ollama pro škálovatelné nasazení.

Nasazování LLM s nástrojem Ollama

  • Načítání a správa AI modelů.
  • Nasazování modelů Llama 3, DeepSeek, Mistral a dalších.
  • Vytváření API a koncových bodů pro přístup k AI modelům.

Optimalizace výkonu LLM

  • Ladění modelů pro efektivitu.
  • Snižování latence a zlepšování časů odezvy.
  • Správa paměti a alokace zdrojů.

Integrace nástroje Ollama do pracovních postupů AI

  • Připojení nástroje Ollama k aplikacím a službám.
  • Automatizace procesů řízených AI.
  • Používání nástroje Ollama v prostředích okrajového výpočtu.

Sledování a údržba

  • Sledování výkonu a řešení problémů.
  • Aktualizace a správa AI modelů.
  • Zajištění bezpečnosti a souladu v nasazení AI.

Škálování nasazení AI modelů

  • Nejlepší postupy pro zvládání vysokých zatížení.
  • Škálování nástroje Ollama pro podnikové případy použití.
  • Budoucí pokroky v nasazování lokálních AI modelů.

Shrnutí a další kroky

Požadavky

  • Základní zkušenosti s strojovým učením a AI modely.
  • Seznámení s příkazovým řádkem a skriptováním.
  • Porozumění nasazovacím prostředím (lokální, okrajová, cloudová).

Cílová skupina

  • AI inženýři optimalizující lokální a cloudové nasazení AI.
  • Praktikové ML, kteří nasazují a ladí LLM.
  • Specialisté DevOps spravující integraci AI modelů.
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie