Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Počítačový Kurz
Fine-Tuning pro systémy s doplňováním generace získanými daty (RAG) je proces optimalizace, jak velké jazykové modely načítají a generují relevantní informace ze vnějších zdrojů pro podnikové aplikace.
Tato instruktážní školení (online nebo na místě) je určeno pro středně pokročilé inženýry NLP a týmy správy znalostí, kteří chtějí upravit RAG potrubí tak, aby zlepšili výkon ve scénářích odpovídání na otázky, podnikového vyhledávání a shrnutí.
Koncem tohoto školení budou účastníci schopni:
- Pochopit architekturu a pracovní postup systémů RAG.
- Upřesnit komponenty načítání a generování pro oblastně specifická data.
- Hodnotit výkon systému RAG a aplikovat zlepšení pomocí technik PEFT.
- Nasadit optimalizované systémy RAG pro interní nebo produkční použití.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Ruční implementace v prostředí live-lab.
Možnosti individualizace kurzu
- Pro žádost o individualizované školení tohoto kurzu se obraťte na nás pro dohodu.
Návrh Školení
Vstup do Retrieval-Augmented Generace (RAG)
- Co je RAG a proč je důležité pro podnikovou AI
- Složky systému RAG: retriever, generator, úložiště dokumentů
- Srovnání s samostatnými LLMs a vektorovým vyhledáváním
Nastavení RAG potrubí
- Instalace a konfigurace Haystack nebo podobných frameworků
- Zařazování dokumentů a předzpracování dat
- Připojení retrieverů k vektorovým databázím (např. FAISS, Pinecone)
Fine-Tuning Retriever
- Výuka hustých retrieverů pomocí odborných dat
- Použití sentence transformerů a kontrastivního učení
- Hodnocení kvality retrieveru s přesností top-k
Fine-Tuning Generator
- Výběr základních modelů (např. BART, T5, FLAN-T5)
- Učení podle instrukcí vs. nadzorované fine-tuning
- Metody LoRA a PEFT pro efektivní aktualizace
Hodnocení a optimalizace
- Metry pro hodnocení výkonu RAG (např. BLEU, EM, F1)
- Zpoždění, kvalita vyhledávání a snížení halucinací
- Sledování experimentů a iterativní zlepšení
Implementace a integrace do skutečného světa
- Implementace RAG v interních vyhledávačích a chatbotech
- Zabezpečení, přístup k datům a záležitosti správy
- Integrace s API, dashboards nebo znalostními portály
Případové studie a nejlepší praktiky
- Podnikové případy použití v finančním sektoru, zdravotnictví a právě
- Správa odchylky od odborného pole a aktualizace znalostní báze
- Časově blízká směrnice v systémech LLM s doplňujícím vyhledáváním
Souhrn a další kroky
Požadavky
- Poznání konceptů zpracování přirozeného jazyka (NLP)
- Zkušenosti s transformačními jazykovými modely
- Znalost Python a základních pracovních postupů strojového učení
Cílová skupina
- Inženýři NLP
- Týmy pro správu znalostí
Open Training Courses require 5+ participants.
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Počítačový Kurz - Booking
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Počítačový Kurz - Enquiry
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Související kurzy
Advanced Techniques in Transfer Learning
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé odborníky na strojové učení, kteří si přejí osvojit si nejmodernější techniky učení s přenosem a aplikovat je na složité problémy reálného světa.
Na konci tohoto školení budou účastníci schopni:
- Pochopte pokročilé koncepty a metodiky v transferovém učení.
- Implementujte doménově specifické adaptační techniky pro předem trénované modely.
- Aplikujte neustálé učení ke správě vyvíjejících se úloh a datových sad.
- Ovládněte jemné ladění více úkolů pro zvýšení výkonu modelu napříč úkoly.
Deploying Fine-Tuned Models in Production
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí spolehlivě a efektivně nasazovat vyladěné modely.
Na konci tohoto školení budou účastníci schopni:
- Pochopte výzvy nasazení vyladěných modelů do výroby.
- Kontejnerujte a nasazujte modely pomocí nástrojů jako Docker a Kubernetes.
- Implementujte monitorování a protokolování pro nasazené modely.
- Optimalizujte modely pro latenci a škálovatelnost ve scénářích reálného světa.
Domain-Specific Fine-Tuning for Finance
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé profesionály, kteří chtějí získat praktické dovednosti v přizpůsobování modelů umělé inteligence pro kritické finanční úkoly.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy jemného ladění finančních aplikací.
- Využijte předem připravené modely pro úkoly ve financích specifické pro určitou doménu.
- Aplikujte techniky pro odhalování podvodů, hodnocení rizik a generování finančního poradenství.
- Zajistěte soulad s finančními předpisy, jako je GDPR a SOX.
- Implementujte zabezpečení dat a etické postupy AI ve finančních aplikacích.
Fine-Tuning Models and Large Language Models (LLMs)
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé až pokročilé profesionály, kteří chtějí přizpůsobit předem vyškolené modely pro konkrétní úkoly a datové sady.
Na konci tohoto školení budou účastníci schopni:
- Pochopit principy jemného ladění a jeho aplikace.
- Připravte datové sady pro jemné doladění předem trénovaných modelů.
- Vylaďte velké jazykové modely (LLM) pro úlohy NLP.
- Optimalizujte výkon modelu a řešte běžné problémy.
Efficient Fine-Tuning with Low-Rank Adaptation (LoRA)
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé vývojáře a odborníky na umělou inteligenci, kteří chtějí implementovat strategie jemného ladění pro velké modely bez potřeby rozsáhlých výpočetních zdrojů.
Na konci tohoto školení budou účastníci schopni:
- Pochopte principy adaptace na nízké hodnocení (LoRA).
- Implementujte LoRA pro efektivní jemné doladění velkých modelů.
- Optimalizujte jemné ladění pro prostředí s omezenými zdroji.
- Vyhodnoťte a nasaďte modely vyladěné LoRA pro praktické aplikace.
Fine-Tuning Multimodal Models
28 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí zvládnout dolaďování multimodálního modelu pro inovativní řešení AI.
Na konci tohoto školení budou účastníci schopni:
- Pochopte architekturu multimodálních modelů jako CLIP a Flamingo.
- Efektivně připravujte a předzpracujte multimodální datové sady.
- Vylaďte multimodální modely pro konkrétní úlohy.
- Optimalizujte modely pro aplikace a výkon v reálném světě.
Fine-Tuning for Natural Language Processing (NLP)
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé profesionály, kteří chtějí zlepšit své NLP projekty prostřednictvím efektivního dolaďování předem vyškolených jazykových modelů.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy jemného ladění úkolů NLP.
- Vylaďte předem připravené modely jako GPT, BERT a T5 pro konkrétní aplikace NLP.
- Optimalizujte hyperparametry pro lepší výkon modelu.
- Vyhodnoťte a nasaďte vyladěné modely ve scénářích reálného světa.
Fine-Tuning DeepSeek LLM for Custom AI Models
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé výzkumníky umělé inteligence, inženýry strojového učení a vývojáře, kteří chtějí vyladit DeepSeek modely LLM tak, aby vytvořily specializované aplikace umělé inteligence přizpůsobené konkrétním odvětví, domény nebo obchodní potřeby.
Na konci tohoto školení budou účastníci schopni:
- Pochopte architekturu a možnosti modelů DeepSeek, včetně DeepSeek-R1 a DeepSeek-V3.
- Připravte datové sady a předzpracujte data pro jemné doladění.
- Dolaďte DeepSeek LLM pro aplikace specifické pro doménu.
- Optimalizujte a nasazujte efektivně vyladěné modely.
Fine-Tuning Large Language Models Using QLoRA
14 hodinyTento instruktorův vedený živý kurz v České republice (online nebo na místě) je určen pro středně pokročilé a pokročilé inženýry strojového učení, vývojáře AI a analytiky dat, kteří chtějí zjistit, jak použít QLoRA pro efektivní přizpůsobení velkých modelů konkrétním úkolům a vlastním požadavkům.
Konci tohoto kurzu budou účastníci schopni:
- Pochopit teorii za QLoRA a kvantizační techniky pro LLMs.
- Implementovat QLoRA při přizpůsobení velkých jazykových modelů pro oblast-specifické aplikace.
- Optymalizovat výkon přizpůsobení na omezených výpočetních zdrojích pomocí kvantizačních metod.
- Efektivně nasadit a vyhodnotit přizpůsobené modely ve skutečném světě.
Fine-Tuning with Reinforcement Learning from Human Feedback (RLHF)
14 hodinyTento instruktorův kurz v reálném čase v České republice (online nebo na místě) je určen pro pokročilé inženýry strojového učení a AI výzkumníky, kteří chtějí použít RLHF ke kalibrování velkých AI modelů s cílem dosáhnout lepšího výkonu, bezpečnosti a shody.
Koncem tohoto kurzu budou účastníci schopni:
- Pochopit teoretické základy RLHF a proč jsou důležité ve moderním vývoji AI.
- Implementovat odměnové modely na základě lidské zpětné vazby, které řídí procesy reforčního učení.
- Kalibrovat velké jazykové modely pomocí technik RLHF tak, aby výstupy odpovídaly lidem předkládaným preferencím.
- Použít nejlepší praktiky pro škálování pracovních postupů RLHF pro produkční AI systémy.
Optimizing Large Models for Cost-Effective Fine-Tuning
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí ovládat techniky pro optimalizaci velkých modelů pro nákladově efektivní dolaďování v reálných scénářích.
Na konci tohoto školení budou účastníci schopni:
- Pochopte výzvy jemného ladění velkých modelů.
- Aplikujte distribuované tréninkové techniky na velké modely.
- Využijte kvantizaci a prořezávání modelu pro efektivitu.
- Optimalizujte využití hardwaru pro úkoly jemného ladění.
- Efektivně nasazujte vyladěné modely v produkčním prostředí.
Prompt Engineering and Few-Shot Fine-Tuning
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé profesionály, kteří chtějí využít sílu rychlého inženýrství a několikanásobného učení k optimalizaci výkonu LLM pro aplikace v reálném světě.
Na konci tohoto školení budou účastníci schopni:
- Pochopte principy rychlého inženýrství a několikanásobného učení.
- Navrhněte efektivní výzvy pro různé úkoly NLP.
- Využijte techniky několika snímků k přizpůsobení LLM s minimem dat.
- Optimalizujte výkon LLM pro praktické aplikace.
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs
14 hodinyTento instruktorův kurz (online nebo na místě) je určen pro středně pokročilé datové vědce a inženýry AI, kteří chtějí efektivněji a ekonomicky fine-tunovat velké jazykové modely pomocí metod jako jsou LoRA, Adapter Tuning a Prefix Tuning.
Koncem tohoto kurzu budou účastníci schopni:
- Pochopit teorii za přístupy k parametricky efektivnímu fine-tuningu.
- Implementovat LoRA, Adapter Tuning a Prefix Tuning pomocí Hugging Face PEFT.
- Srovnávat výkonnostní a nákladové obchodní podmínky metod PEFT s plným fine-tuningem.
- Nasazovat a škálovat fine-tunované LLMs s sníženými požadavky na výpočetní prostředky a úložiště.
Introduction to Transfer Learning
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na začátečníky až středně pokročilé profesionály v oblasti strojového učení, kteří chtějí porozumět a aplikovat techniky přenosu učení ke zlepšení efektivity a výkonu v projektech AI.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základní koncepty a výhody transferového učení.
- Prozkoumejte oblíbené předem vyškolené modely a jejich aplikace.
- Proveďte jemné doladění předtrénovaných modelů pro vlastní úkoly.
- Aplikujte přenosové učení k řešení reálných problémů v NLP a počítačovém vidění.
Troubleshooting Fine-Tuning Challenges
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří si přejí zdokonalit své dovednosti v diagnostice a řešení problémů s dolaďováním modelů strojového učení.
Na konci tohoto školení budou účastníci schopni:
- Diagnostikujte problémy, jako je nadměrné vybavení, nedostatečné vybavení a nevyváženost dat.
- Implementujte strategie pro zlepšení konvergence modelů.
- Optimalizujte jemné doladění potrubí pro lepší výkon.
- Ladit tréninkové procesy pomocí praktických nástrojů a technik.