Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Počítačový Kurz
Fine-tuning open-source LLMs is an emerging best practice for organizations that seek to customize AI capabilities in secure, cost-efficient, and private environments.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML practitioners and AI developers who wish to fine-tune and deploy open-weight models like LLaMA, Mistral, and Qwen for specific business or internal applications.
By the end of this training, participants will be able to:
- Understand the ecosystem and differences between open-source LLMs.
- Prepare datasets and fine-tuning configurations for models like LLaMA, Mistral, and Qwen.
- Execute fine-tuning pipelines using Hugging Face Transformers and PEFT.
- Evaluate, save, and deploy fine-tuned models in secure environments.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Návrh Školení
Introduction to Open-Source LLMs
- What are open-weight models and why they're important
- Overview of LLaMA, Mistral, Qwen, and other community models
- Use cases for private, on-premise, or secure deployments
Environment Setup and Tools
- Installing and configuring Transformers, Datasets, and PEFT libraries
- Choosing appropriate hardware for fine-tuning
- Loading pre-trained models from Hugging Face or other repositories
Data Preparation and Preprocessing
- Dataset formats (instruction tuning, chat data, text-only)
- Tokenization and sequence management
- Creating custom datasets and data loaders
Fine-Tuning Techniques
- Standard full fine-tuning vs. parameter-efficient methods
- Applying LoRA and QLoRA for efficient fine-tuning
- Using Trainer API for quick experimentation
Model Evaluation and Optimization
- Assessing fine-tuned models with generation and accuracy metrics
- Managing overfitting, generalization, and validation sets
- Performance tuning tips and logging
Deployment and Private Use
- Saving and loading models for inference
- Deploying fine-tuned models in secure enterprise environments
- On-premise vs. cloud deployment strategies
Case Studies and Use Cases
- Examples of enterprise use of LLaMA, Mistral, and Qwen
- Handling multilingual and domain-specific fine-tuning
- Discussion: Trade-offs between open and closed models
Summary and Next Steps
Požadavky
- An understanding of large language models (LLMs) and their architecture
- Experience with Python and PyTorch
- Basic familiarity with the Hugging Face ecosystem
Audience
- ML practitioners
- AI developers
Open Training Courses require 5+ participants.
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Počítačový Kurz - Booking
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Počítačový Kurz - Enquiry
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Související kurzy
Advanced Techniques in Transfer Learning
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé odborníky na strojové učení, kteří si přejí osvojit si nejmodernější techniky učení s přenosem a aplikovat je na složité problémy reálného světa.
Na konci tohoto školení budou účastníci schopni:
- Pochopte pokročilé koncepty a metodiky v transferovém učení.
- Implementujte doménově specifické adaptační techniky pro předem trénované modely.
- Aplikujte neustálé učení ke správě vyvíjejících se úloh a datových sad.
- Ovládněte jemné ladění více úkolů pro zvýšení výkonu modelu napříč úkoly.
AI Automation with n8n and LangChain
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na vývojáře a IT profesionály všech úrovní dovedností, kteří chtějí automatizovat úkoly a procesy pomocí AI bez psaní rozsáhlého kódu.
Na konci tohoto školení budou účastníci schopni:
- Navrhněte a implementujte komplexní pracovní postupy pomocí vizuálního programovacího rozhraní n8n.
- Integrujte možnosti umělé inteligence do pracovních postupů pomocí LangChain.
- Vytvářejte vlastní chatboty a virtuální asistenty pro různé případy použití.
- Provádějte pokročilou analýzu a zpracování dat pomocí agentů AI.
Automating Workflows with LangChain and APIs
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na začínající obchodní analytiky a automatizační inženýry, kteří chtějí pochopit, jak používat LangChain a API pro automatizaci opakujících se úloh a pracovních postupů.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy integrace API s LangChain.
- Automatizujte opakující se pracovní postupy pomocí LangChain a Python.
- Využijte LangChain k propojení různých API pro efektivní obchodní procesy.
- Vytvářejte a automatizujte vlastní pracovní postupy pomocí rozhraní API a funkcí automatizace LangChain.
Building Conversational Agents with LangChain
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé profesionály, kteří chtějí prohloubit své porozumění konverzačním agentům a aplikovat LangChain na případy použití v reálném světě.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy LangChain a jeho použití při vytváření konverzačních agentů.
- Vyvíjejte a nasazujte konverzační agenty pomocí LangChain.
- Integrujte konverzační agenty s rozhraními API a externími službami.
- Použijte techniky Natural Language Processing (NLP) ke zlepšení výkonu konverzačních agentů.
Building Private AI Workflows with Ollama
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí implementovat bezpečné a efektivní pracovní postupy řízené umělou inteligencí pomocí Ollama.
Na konci tohoto školení budou účastníci schopni:
- Nasaďte a nakonfigurujte Ollama pro soukromé zpracování AI.
- Integrujte modely umělé inteligence do bezpečných podnikových pracovních postupů.
- Optimalizujte výkon AI při zachování soukromí dat.
- Automatizujte obchodní procesy pomocí funkcí AI na místě.
- Zajistěte dodržování zásad podnikového zabezpečení a správy.
Deploying Fine-Tuned Models in Production
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí spolehlivě a efektivně nasazovat vyladěné modely.
Na konci tohoto školení budou účastníci schopni:
- Pochopte výzvy nasazení vyladěných modelů do výroby.
- Kontejnerujte a nasazujte modely pomocí nástrojů jako Docker a Kubernetes.
- Implementujte monitorování a protokolování pro nasazené modely.
- Optimalizujte modely pro latenci a škálovatelnost ve scénářích reálného světa.
Deploying and Optimizing LLMs with Ollama
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé profesionály, kteří chtějí nasadit, optimalizovat a integrovat LLM pomocí Ollama.
Na konci tohoto školení budou účastníci schopni:
- Nastavte a nasaďte LLM pomocí Ollama.
- Optimalizujte modely umělé inteligence pro výkon a efektivitu.
- Využijte zrychlení GPU pro zlepšení inferenční rychlosti.
- Integrujte Ollama do pracovních postupů a aplikací.
- Sledujte a udržujte výkon modelu AI v průběhu času.
Ethical Considerations in AI Development with LangChain
21 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé výzkumníky a tvůrce politik v oblasti umělé inteligence, kteří chtějí prozkoumat etické důsledky vývoje umělé inteligence a naučit se používat etické pokyny při vytváření řešení umělé inteligence pomocí [ 0].
Na konci tohoto školení budou účastníci schopni:
- Identifikujte klíčové etické problémy ve vývoji AI pomocí LangChain.
- Pochopte dopad AI na společnost a rozhodovací procesy.
- Vyvíjejte strategie pro budování spravedlivých a transparentních systémů umělé inteligence.
- Implementujte etické pokyny pro umělou inteligenci do projektů založených na LangChain.
Enhancing User Experience with LangChain in Web Apps
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé webové vývojáře a designéry UX, kteří chtějí využít LangChain k vytváření intuitivních a uživatelsky přívětivých webových aplikací.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základní koncepty LangChain a jeho roli při zlepšování uživatelského dojmu na webu.
- Implementujte LangChain do webových aplikací a vytvořte dynamická a responzivní rozhraní.
- Integrujte rozhraní API do webových aplikací pro zlepšení interaktivity a zapojení uživatelů.
- Optimalizujte uživatelské prostředí pomocí pokročilých funkcí přizpůsobení LangChain.
- Analyzujte údaje o chování uživatelů za účelem vyladění výkonu a zkušeností webových aplikací.
Fine-Tuning and Customizing AI Models on Ollama
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé profesionály, kteří chtějí doladit a přizpůsobit modely umělé inteligence na Ollama pro vyšší výkon a aplikace specifické pro doménu.
Na konci tohoto školení budou účastníci schopni:
- Nastavte efektivní prostředí pro jemné ladění modelů AI na Ollama.
- Připravte datové sady pro doladění a posílení učení pod dohledem.
- Optimalizujte modely umělé inteligence pro výkon, přesnost a efektivitu.
- Nasaďte přizpůsobené modely v produkčním prostředí.
- Vyhodnoťte vylepšení modelu a zajistěte robustnost.
LangChain: Building AI-Powered Applications
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé vývojáře a softwarové inženýry, kteří chtějí vytvářet aplikace založené na umělé inteligenci pomocí rámce LangChain.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy LangChain a jeho součástí.
- Integrujte LangChain s velkými jazykovými modely (LLM), jako je GPT-4.
- Vytvářejte modulární aplikace AI pomocí LangChain.
- Odstraňování běžných problémů v aplikacích LangChain.
Integrating LangChain with Cloud Services
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na pokročilé datové inženýry a DevOps profesionály, kteří chtějí využít schopnosti LangChain integrací s různými cloudovými službami.
Na konci tohoto školení budou účastníci schopni:
- Integrujte LangChain s hlavními cloudovými platformami, jako jsou AWS, Azure a Google Cloud.
- Využijte cloudová API a služby k vylepšení aplikací založených na LangChain.
- Škálujte a nasazujte konverzační agenty do cloudu pro interakci v reálném čase.
- Implementujte osvědčené postupy monitorování a zabezpečení v cloudových prostředích.
LangChain for Data Analysis and Visualization
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na středně pokročilé datové profesionály, kteří chtějí používat LangChain ke zlepšení svých schopností analýzy a vizualizace dat.
Na konci tohoto školení budou účastníci schopni:
- Automatizujte načítání a čištění dat pomocí LangChain.
- Proveďte pokročilou analýzu dat pomocí Python a LangChain.
- Vytvářejte vizualizace pomocí Matplotlib a dalších Python knihoven integrovaných s LangChain.
- Využití LangChain pro generování poznatků přirozeného jazyka z analýzy dat.
LangChain Fundamentals
14 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na začátečníky až středně pokročilé vývojáře a softwarové inženýry, kteří se chtějí naučit základní koncepty a architekturu LangChain a získat praktické dovednosti pro budování AI- napájené aplikace.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základní principy LangChain.
- Nastavte a nakonfigurujte prostředí LangChain.
- Pochopte architekturu a to, jak LangChain spolupracuje s velkými jazykovými modely (LLM).
- Vyvíjejte jednoduché aplikace pomocí LangChain.
Getting Started with Ollama: Running Local AI Models
7 hodinyToto živé školení vedené instruktorem v České republice (online nebo na místě) je zaměřeno na začátečníky na úrovni profesionálů, kteří chtějí nainstalovat, nakonfigurovat a používat Ollama pro spouštění modelů AI na svých místních počítačích.
Na konci tohoto školení budou účastníci schopni:
- Pochopte základy Ollama a jeho schopnosti.
- Nastavte Ollama pro spouštění místních modelů AI.
- Nasazení a interakce s LLM pomocí Ollama.
- Optimalizujte výkon a využití zdrojů pro úlohy AI.
- Prozkoumejte případy použití pro místní nasazení AI v různých odvětvích.