Doladění modelů a velkých jazykových modelů (LLM) Počítačový Kurz

Úvod do doladění

• Co je to doladění?
• Příklady využití a výhody doladění
• Přehled již natrenovaných modelů a transferového učení

Příprava na doladění

• Shromažďování a čištění datových sad
• Porozumění požadavkům na data pro konkrétní úlohu
• Evaluace dat a jejich předzpracování

Techniky doladění

• Transferové učení a extrakce rysů z modelů
• Doladění transformátorů pomocí nástroje Hugging Face
• Rozdíly mezi doladěním na supervizované a nesupervizované úlohy

Doladění velkých jazykových modelů (LLM)

• Přizpůsobení LLM na úlohy z oblasti NLP (např. klasifikace textu, sumarizace)
• Trénování velkých jazykových modelů s využitím vlastních datových sad
• Řízení chování LLM pomocí inženýrství promptů

Optimalizace a hodnocení výsledků

• Doladění hyperparametrů modelu
• Hodnocení výkonnosti modelu
• Předcházení nadměrnému přizpůsobení či nedostatečné adaptaci modelu<\/li>

Škálování procesů doladění

• Doladění na distribuovaných systémech
• Využití cloudových řešení k škálování procesů doladění
• Příklady z praxe: rozsáhlé projekty doladění modelů

Osvědčené postupy a běžné výzvy

• Osvedčené postupy pro úspěšné doladění modelů
• Běžné problémy při doladění a způsoby jejich řešení
• Ethická hlediska při doladění umělých inteligencí

Pokročilá témata (volitelně)

• Doladění multimodálních modelů
• Zero-shot a few-shot učení
• Možnosti využití techniky LoRA (Low-Rank Adaptation)

Shrnutí a další kroky