Zkuste nás kontaktovat

Návrh Školení

Úvod do open-source LLM

  • Co jsou open-weight modely a proč jsou důležité
  • Přehled LLaMA, Mistral, Qwen a dalších komunitních modelů
  • Případy použití pro soukromé, on-premise nebo bezpečné nasazení

Nastavení prostředí a nástroje

  • Instalace a konfigurace knihoven Transformers, Datasets a PEFT
  • Výběr vhodného hardwaru pro doladění
  • Načtení předtrénovaných modelů z Hugging Face nebo jiných repozitářů

Příprava a předzpracování dat

  • Formáty datasets (instruction tuning, chat data, text-only)
  • Tokenizace a správa sekvencí
  • Vytváření vlastních datasets a datových loaderů

Techniky doladění

  • Standardní plné doladění vs. metody efektivní parametrů
  • Použití LoRA a QLoRA pro efektivní doladění
  • Použití Trainer API pro rychlé experimentování

Vyhodnocení a optimalizace modelu

  • Hodnocení doladěných modelů pomocí generovacích a přesnostních metrik
  • Správa přetrénování, generalizace a validačních sad
  • Doporučení pro ladění výkonu a logování

Nasazení a soukromé použití

  • Uložení a načtení modelů pro inferenci
  • Nasazení doladěných modelů v bezpečných podnikových prostředích
  • Strategie on-premise vs. cloud nasazení

Studie případů a použití

  • Příklady podnikového použití LLaMA, Mistral a Qwen
  • Obsluha vícejazyčného a domain-specific doladění
  • Diskuse: kompromisy mezi open a closed modely

Shrnutí a další kroky

Požadavky

  • Pochopení velkých jazykových modelů (LLM) a jejich architektury
  • Zkušenosti s Pythonem a PyTorch
  • Základní znalost ekosystému Hugging Face

Cílová skupina

  • Praktici ML
  • Vývojáři AI
 14 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie