Děkujeme za vaši dotaz! Jeden z našich pracovníků vás brzy kontaktuje.
Děkujeme za rezervaci! Jeden z našich pracovníků vás brzy kontaktuje.
Návrh Školení
Úvod do velkých jazykových modelů (LLM)
- Přehled o LLM
- Definice a význam velkých jazykových modelů
- Aplikace v současné umělé inteligenci
Architektura transformátorů
- Co je to transformátor a jak funguje?
- Hlavní složky a vlastnosti
- Embeddingové a pozicové kódování
- Vícehlavová pozornost
- Feed-forward neuronová síť
- Normalizace a reziduální spojení
Transformátorové modely
- Mechanismus self-attention
- Architektura encoder-decoder
- Pozicové embeddingy
- BERT (Bidirectional Encoder Representations from Transformers)
- GPT (Generative Pretrained Transformer)
Optimalizace výkonu a časté potíže
- Délka kontextu
- Mamba a modely založené na stavovém prostoru
- Flash attention
- Řídké transformátory
- Vision transformers
- Význam kvantizace
Zlepšování transformátorových modelů
- Rozšířená generace textu pomocí vyhledávání informací
- Kombinace více modelů
- Přístup založený na stromech myšlenek
Fine-tuning
- Teorie metody low-rank adaptation
- Fine-tuning s využitím QLora
Zákonitosti škálování a optimalizace u LLM
- Důležitost zákonitostí škálování pro velké jazykové modely
- Škálování objemu dat a modelu
- Výpočetní nároky spojené s škálováním<\/li>
- Škálování z hlediska efektivity parametrů
Optimalizace výkonu LLM
- Vztah mezi velikostí modelu, množstvím dat, výpočetní kapacitou a požadavky na inferenci
- Jak optimalizovat efektivitu a výkonnost LLM
- Osvědčené postupy a nástroje pro trénování i fine-tuning velkých jazykových modelů
Trénování a Fine-Tuning velkých jazykových modelů
- Kroky a výzvy při vytváření LLM od nuly
- Získávání a správa dat
- Velké množství dat, požadavky na procesor a paměť
- Techické výzvy při optimalizaci modelů
- Přehled otevřených velkých jazykových modelů
Základy Reinforcement Learningu (RL)
- Úvod do Reinforcement Learningu
- Učení prostřednictvím pozitivního posilování
- Definice a základní pojmy RL
- Markovův rozhodovací proces (MDP)
- Dynamické programování
- Metody Monte Carlo
- Temporálně diferenciální učení
Hluboký Reinforcement Learning
- Deep Q-Networks (DQN)
- Proximal Policy Optimization (PPO)
- Základní prvky Reinforcement Learningu
Integrace velkých jazykových modelů a Reinforcement Learningu
- Jak kombinovat LLM s technikami RL
- Využití RL v kontextu velkých jazykových modelů
- Reinforcement Learning s lidskou zpětnou vazbou (RLHF)
- Alternativy k přístupu RLHF
Příklady z praxe a konkrétní aplikace
- Reálné využití velkých jazykových modelů a Reinforcement Learningu
- Úspěchy i časté problémy v praxi
Pokročilá témata
- Moderní techniky a postupy v oboru
- Nejmodernější metody optimalizace
- Aktuální výzkumy a vývoj v této oblasti
Shrnutí a další kroky
Požadavky
- Základní znalosti ze strojového učení
Cílové skupiny
- Datoví vědci
- Softwaroví inženýři
21 Hodiny
