EXO: Nasazení místního klasteru pro AI od začátku do konce Počítačový Kurz
EXO je open-source framework, který propojuje zařízení s čipy Apple Silicon do distribuovaného AI klasteru, čímž umožňuje lokální inferenci špičkových modelů, které jsou příliš velké na to, aby se vešly na jedno zařízení.
Toto školení vedené instruktorem (online nebo prezenčně) je určeno pro systémové správce a DevOps inženýry, kteří chtějí nasazovat, konfigurovat a spravovat klastery EXO pro soukromou inferenci LLM across více uzlů s Apple Silicon nebo Linuxem.
Konec školení budou účastníci schopni:
- Nainstalovat a nakonfigurovat EXO na uzlech macOS a Linux.
- Povolit automatické zjišťování zařízení a vytvořit víceuzlové klastery.
- Povolit a ověřit RDMA přes Thunderbolt 5 pro ultra-nízkou latenci komunikace mezi zařízeními.
- Nasadit špičkové modely (DeepSeek, Qwen, Llama) na klasterová zařízení.
- Sledovat zdraví klasteru a řešit běžné problémy s nasazením.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Praktické nasazení v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro vyžádání si přizpůsobeného školení nás prosím kontaktujte pro domluvu.
Návrh Školení
Úvod do EXO a místního AI clusteringu
- Přehled frameworku EXO a ekosystému exo-explore
- Porovnání centralizované cloudové inferenze s distribuovanou lokální inferencí
- Architektura: zjišťování zařízení libp2p, backend MLX, dashboard a vrstvy API
- Hardware požadavky: Apple Silicon (M3 Ultra, M4 Pro/Max), Thunderbolt 5, sdílené úložiště
Nasazení EXO na macOS
- Nastavení Xcode, Metal ToolChain a požadavků macOS
- Instalace uv, Node.js, Rust nightly
- Instalace upravené verze macmon pro monitorování Apple Silicon
- Stažení repozitáře a sestavení dashboardu s npm
- Spuštění EXO ze zdroje a ověření dashboardu na localhost:52415
Nasazení EXO na Linux
- Instalace závislostí přes apt nebo Homebrew na Linuxu
- Konfigurace uv, Node.js 18+ a Rust nightly
- Sestavení dashboardu a spuštění EXO v režimu pouze CPU
- Struktura adresářů: cesty XDG Base Directory pro konfiguraci, data, cache a logy
Automatické zjišťování zařízení a vytváření klasteru
- Porozumění auto-zjišťování založenému na libp2p v lokálních sítích
- Konfigurace vlastních jmenných prostorů s EXO_LIBP2P_NAMESPACE pro izolaci klasteru
- Ověření členství uzlů v pohledu dashboardu klasteru
- Řešení selhání při zjišťování a problémů se segmentací sítě
Povolení RDMA přes Thunderbolt 5
- Architektura RDMA a tvrzení o snížení latency o 99 procent
- Povolení RDMA v režimu recovery macOS pomocí rdma_ctl
- Požadavky na kabely a omezení topologie portů na Mac Studio
- Soulad verzí macOS na všech uzlech klasteru
- Řešení problémů s RDMA zjišťováním a konfigurací DHCP
Nasazení špičkových modelů
- Použití dashboardu k načtení a rozdělení modelů DeepSeek v3.1, Qwen3-235B a rodiny Llama
- Pohled na umístění instancí pomocí koncového bodu API /instance/previews
- Vytváření modelových instancí s rozdělením pipeline nebo tensor-parallel
- Konfigurace vlastních modelových karet z hubu HuggingFace
Sledování a řešení problémů
- Čtení logů EXO a porozumění distribuovanému sledování
- Interpretace zdraví klasteru v pohledu dashboardu klasteru
- Diagnostika selhání pracovního uzlu a chování při opětovném připojení
- Použití EXO_TRACING_ENABLED pro analýzu výkonnostních úzkých míst
Údržba a aktualizace klasteru
- Aktualizace binárek EXO a postupy opětovného sestavení dashboardu
- Migrace modelových cache a správa předem stažených modelů přes NFS
- Šetrné odpojení uzlů a přeúčtování zátěže
Požadavky
- Rozumění základům sítí (IP, subnetting, firewally)
- Zkušenosti s ovládáním příkazové řádky macOS nebo Linuxu
- Seznámení se správou balíčků v Pythonu (pip/uv) a nástroji Node.js
Cílová skupina
- Systémoví správci
- DevOps inženýři
- Architekti AI infrastruktury odpovědní za nasazení LLM on-premise
Veřejné školení vyžaduje minimálně 5 účastníků.
EXO: Nasazení místního klasteru pro AI od začátku do konce Počítačový Kurz - Rezervace
EXO: Nasazení místního klasteru pro AI od začátku do konce Počítačový Kurz - Dotaz
EXO: Nasazení místního klasteru pro AI od začátku do konce - Dotaz ohledně konzultace
Nadcházející kurzy
Související kurzy
Pokročilé LangGraph: Optimalizace, Ladicí Techniky a Monitorování Komplexních Grafů
35 HodinyLangGraph je framework pro vytváření stavových aplikací LLM s více aktéry jako složitelných grafů se stálým stavem a kontrolou spuštění.
Toto instruktorovo řízené živé školení (online nebo na místní lokalitě) je určeno pokročilým inženýrům platformy AI, DevOps pro AI a architektům ML, kteří chtějí optimalizovat, ladit, monitorovat a provozovat výrobní systémy LangGraph.
Koncem tohoto školení budou účastníci schopni:
- Návrh a optimalizace komplexních topologií LangGraphu pro rychlost, náklady a škálovatelnost.
- Inženýrství spolehlivosti s opakováním, časovými limity, idempotentností a obnovením na základě kontrolních bodů.
- Ladení a stopování provádění grafů, inspekce stavu a systematické reprodukování výrobních problémů.
- Nastavení grafů s protokoly, metrikami a stopami, nasazení do produkčního prostředí a monitorování SLA a nákladů.
Formát kurzu
- Interaktivní přednášky a diskuse.
- Velké množství cvičení a praxe.
- Ruční implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení tohoto kurzu se, prosím, obraťte na nás pro domluvu.
Building Coding Agents with Devstral: From Agent Design to Tooling
14 HodinyDevstral je open-source rámec navržený pro sestavování a spouštění kódovacích agentů, které mohou interagovat s kódotisky, vývojářskými nástroji a API za účelem zlepšení produktivity inženýrů.
Toto školení pod vedením instruktora (online nebo na místě) je zaměřeno na středně pokročilé až pokročilé ML inženýry, týmy pro vývojářské nástroje a SREs, kteří chtějí navrhnout, implementovat a optimalizovat kódovací agenty pomocí Devstral.
Po absolvování tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat Devstral pro vývoj kódovacích agentů.
- Navrhnout agenty pro průzkum a modifikaci kódotiků.
- Zintegrovat kódovací agenty s vývojářskými nástroji a API.
- Implementovat osvědčené postupy pro bezpečné a efektivní nasazení agentů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Množství cvičení a praktické práce.
- Přímo na místě implementace v live-lab prostředí.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, prosím kontaktujte nás k uspořádání.
Open-Source Model Ops: Self-Hosting, Fine-Tuning a Governance with Devstral & Mistral Models
14 HodinyDevstral a Mistral modely jsou otevřené AI technologie navržené pro flexibilní nasazení, jemnou úpravu (fine-tuning) a škálovatelnou integraci.
Toto vedení instruktorem živé školení (online nebo na místě) je určeno středně pokročilým až pokročilým inženýrům ML, týmům platformy a výzkumným inženýrům, kteří se chtějí sami hostit, jemně upravovat (fine-tuning) a řídit modely Mistral a Devstral ve výrobních prostředích.
Na konci tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat samostatně hostované prostředí pro modely Mistral a Devstral.
- Použít techniky jemné úpravy (fine-tuning) pro výkonnost specifickou pro doménu.
- Implementovat verze, monitorování a řízení životního cyklu.
- Zajišťovat bezpečnost, dodržování předpisů a zodpovědné používání otevřených modelů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Praktické cvičení v samostatném hostování a jemné úpravě (fine-tuning).
- Implementace správy a monitorovacích potoků v živé laboratoři.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení tohoto kurzu, prosím kontaktujte nás pro uspořádání.
Fiji: Zpracování obrazu pro biotechnologii a toxikologii
14 HodinyToto školitelovo prováděné živé školení v České republice (online nebo na místě) je zaměřeno na začínající až středně pokročilé výzkumníky a laboratorní pracovníky, kteří chtějí zpracovávat a analyzovat obrazy související s histologickými tkáními, krvekапу, řasami a jinými biologickými vzorky.
Na konci tohoto školení budou účastníci schopni:
- Pohybovat se v rozhraní Fiji a využívat základní funkce ImageJ.
- Předzpracovat a vylepšit vědecké obrazy pro lepší analýzu.
- Analyzovat obrazy kvantitativně, včetně počítání buněk a měření ploch.
- Automatizovat opakující se úkoly pomocí makroů a doplňků.
- Přizpůsobit pracovní postupy pro specifické potřeby analýzy obrazů v biologickém výzkumu.
Aplikace LangGraph v financích
35 HodinyLangGraph je rámec pro vývoj stavy-souvisejících, víceaktníkových aplikací LLM jako složitelných grafů s trvalým stavem a kontrolou provádění.
Toto instruktorově vedené živé školení (online nebo na místě) je určeno pro středně pokročilé a pokročilé odborníky, kteří chtějí navrhnout, implementovat a provozovat řešení založená na LangGraphu v oblasti financí s vhodnou správou, vizibilitou a souladem se standardy.
Koncové cíle školení:
- Návrh finance-specifických pracovních postupů LangGraphu v souladu s požadavky na regulaci a audit.
- Integrace standardů finančních dat a ontologií do stavu grafu a nástrojů.
- Implementace spolehlivosti, bezpečnosti a kontroly s člověkem v cyklu pro kritické procesy.
- Nasazení, monitorování a optimalizace systémů LangGraphu pro výkon, náklady a SLA (Service Level Agreements).
Formát kurzu
- Interaktivní přednášky a diskuse.
- Mnoho cvičení a praxe.
- Praktické implementace v živém laboratorním prostředí.
Možnosti individualizace kurzu
- Pro požadavek na individualizované školení tohoto kurzu se, prosím, obraťte na nás pro uspořádání.
Základy LangGraph: Grafové řízení LLM a řetězení
14 HodinyLangGraph je rámec pro vytváření aplikací LLM s grafovou strukturou, které podporují plánování, větvení, používání nástrojů, paměť a kontrolovanou execuci.
Tento kurz vedený instruktorem (online nebo prezenčně) je určen pro začátečníky – vývojáře, tvůrce promptů a pracovníky s daty, kteří se chtějí naučit navrhovat a budovat spolehlivé vícekrokové pracovní postupy LLM pomocí LangGraph.
Na konci tohoto kurzu budou účastníci schopni:
- Vysvětlit základní koncepty LangGraph (uzly, hrany, stav) a kdy je použít.
- Tvořit řetězce promptů, které umožňují větvení, volání nástrojů a udržování kontextu.
- Integrovat vyhledávání (retrieval) a externí API do pracovních postupů založených na grafech.
- Testovat, ladit a vyhodnocovat aplikace LangGraph s ohledem na spolehlivost a bezpečnost.
Formát kurzu
- Interaktivní přednáška a vedená diskuse.
- Cvičení a přehled kódu v sandboxovém prostředí s doprovodem instruktora.
- Scénářové úlohy zaměřené na design, testování a vyhodnocování.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobený training pro tento kurz nás prosím kontaktujte.
LangGraph v Zdravotnictví: Orchestrace Pracovních Postupů pro Ochranné Prostředí
35 HodinyLangGraph umožňuje stavy s více aktéry podporovanými LLM s přesnou kontrolou cest provádění a udržováním stavu. V zdravotnictví jsou tyto schopnosti klíčové pro shodu se standardy, interoperabilitu a vytváření systémů podpory rozhodování, které odpovídají medicínským pracovním postupům.
Toto instruktážně vedené živé školení (online nebo na místě) je určeno profesionálům střední a pokročilé úrovně, kteří chtějí navrhnout, implementovat a spravovat zdravotnická řešení založená na LangGraphu, zároveň řešíme regulativní, etické a provozní výzvy.
Koncepci školení budou účastníci schopni:
- Návrh pracovních postupů LangGraphu pro zdravotnictví s ohledem na shodu se standardy a průzkumnost.
- Připojení aplikací LangGraphu k medicínským ontologiím a standartám (FHIR, SNOMED CT, ICD).
- Využití nejlepších postupů pro spolehlivost, průzkumnost a vysvětlitelnost ve citlivých prostředích.
- Nasazení, monitorování a ověření aplikací LangGraphu v produkčních prostředích zdravotnictví.
Formát kurzu
- Vzájemná přednáška a diskuse.
- Praktické cvičení s reálnými případovými studiemi.
- Praxe implementace v živém laboratorním prostředí.
Možnosti individualizace kurzu
- Pro žádost o individualizované školení tohoto kurzu nás kontaktujte pro uspořádání.
LangGraph pro právní aplikace
35 HodinyLangGraph je rámec pro vytváření stavových, vícesubjektových LLM aplikací jako sestavitelné grafy s trvalým stavem a přesnou kontrolou nad spuštěním.
Toto instruktorem vedené řízené školení (online nebo prezenční) je určeno středně pokročilým až pokročilým profesionálům, kteří chtějí navrhovat, implementovat a provozovat právní řešení založená na LangGraph s nezbytnými kontrolami souladu, trasovatelnosti a správy.
Na konci tohoto školení budou účastníci schopni:
- Návrh právních LangGraph pracovních postupů, které zachovávají auditabilitu a soulad.
- Integrace právních ontologií a standardů dokumentů do grafu stavu a zpracování.
- Implementace ochranných opatření, schválení s lidskou kontrolou a trasovatelné rozhodovací cesty.
- Nasazení, monitorování a udržování LangGraph služeb v produkčním prostředí s možností pozorování a kontroly nákladů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praktické praxe.
- Praktická implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se obraťte, prosím, na nás pro uspořádání.
Vytváření dynamických pracovních postupů pomocí LangGraph a agentů LLM
14 HodinyLangGraph je rámec pro vytváření pracovních postupů LLM v grafové struktuře, které podporují rozvětvení, používání nástrojů, paměť a řízenou exekuci.
Toto instruktorem vedené živé školení (online nebo v místě) je určeno inženýrům a produktovým týmům střední úrovně, kteří se chtějí naučit kombinovat logiku grafů LangGraph s cykly agentů LLM za účelem tvorby dynamických aplikací s kontextovým vědomím, jako jsou agentů pro zákaznickou podporu, rozhodovací stromy a systémy pro vyhledávání informací.
Na konci tohoto školení budou účastníci schopni:
- Navrhnout grafy založené pracovní postupy, které koordinují agenty LLM, nástroje a paměť.
- Implementovat podmíněné směrování, opakování a záložní řešení pro robustní exekuci.
- Integrovat retrieval (vyhledávání dokumentů), API a strukturované výstupy do cyklů agentů.
- Hodnotit, monitorovat a upevňovat chování agentů pro spolehlivost a bezpečnost.
Formát kurzu
- Interaktivní přednáška a vedená diskuze.
- Vedené laboratorní cvičení a procházení kódu v sandboxovém prostředí.
- Scenario-based designové úkoly a recenzní řízení.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, prosím kontaktujte nás.
LangGraph pro marketingovou automatizaci
14 HodinyLangGraph je grafový orchestracevní rámec, který umožňuje podmíněné, vícesložkové pracovní postupy LLM a nástrojů, což je ideální pro automatizaci a personalizaci obsahových kanálů.
Tato instruktorem vedená, živá školení (online nebo na místě) je určena středně pokročilým marketingovým pracovníkům, strategům obsahu a vývojářům automatizace, kteří chtějí implementovat dynamické, s možností rozvětvení e-mailové kampaně a obsahové kanály pomocí LangGraph.
Konec tohoto školení budou účastníci schopni:
- Návrh grafově strukturovaného obsahu a e-mailových pracovních postupů s podmínkovou logikou.
- Integrace LLM, API a zdrojů dat pro automatizovanou personalizaci.
- Správa stavu, paměti a kontextu v rámci vícesložkových kampaní.
- Posouzení, monitorování a optimalizace výkonu pracovního postupu a výsledků doručení.
Formát kurzu
- Interaktivní přednášky a skupinové diskuse.
- Praktické laboratoře implementující e-mailové pracovní postupy a obsahové kanály.
- Scénářové cvičení na personalizaci, segmentaci a rozvětvenou logiku.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení pro tento kurz, prosím nás kontaktujte.
Le Chat Enterprise: Soukromé ChatOps, integrace a administrační řízení
14 HodinyLe Chat Enterprise je soukromé řešení pro ChatOps, které poskytuje bezpečné, přizpůsobitelné a řízené konverzační AI schopnosti pro organizace s podporou RBAC, SSO, konektérů a integrací podnikových aplikací.
Tato instruktorem vedená živá školení (on-line nebo na místě) je určena pro středně pokročilé manažery produktů, IT vedoucí, řešení inženýrů a týmů zabezpečení/souladu, kteří chtějí nasazovat, konfigurovat a spravovat Le Chat Enterprise v podnikových prostředích.
Na konci tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat Le Chat Enterprise pro bezpečné nasazení.
- Povolit RBAC, SSO a ovládací prvky řízené souladem.
- Integrovat Le Chat s podnikovými aplikacemi a datovými úložišti.
- Naprojektovat a implementovat pravidla pro správu a administraci ChatOps.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praktické praxe.
- Rukouvedená implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, kontaktujte nás pro vyjednání.
Nákladově efektivní architektury velkých jazykových modelů: Mistral v měřítku (Inženýrství výkonu a nákladů)
14 HodinyMistral je rodina velkých jazykových modelů s vysokým výkonem optimalizovaná pro nákladově efektivní nasazení ve velkém měřítku.
Toto vedené školení v reálném čase (online nebo na místě) je určeno pokročilým inženýrům infrastruktury, architektům cloudu a vedoucím týmů MLOps, kteří si přejí navrhovat, nasazovat a optimalizovat architektury založené na Mistral pro dosažení maximální propustnosti a minimálních nákladů.
Na konci tohoto školení budou účastníci schopni:
- Implementovat škálovatelné vzory nasazení pro Mistral Medium 3.
- Použít dávkování, kvantizaci a efektivní strategie serverování.
- Optimalizovat náklady na inference při zachování výkonu.
- Navrhnout produkční topologie serverování pro podnikové zátěže.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Praktická implementace v prostředí živého laboratorního cvičení.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobení tohoto školení nás prosím kontaktujte, abychom vše zařídili.
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 HodinyMistral AI je otevřená AI platforma, která umožňuje týmům vytvářet a integrovat konverzační asistenty do pracovních postupů orientovaných na podnikání a zákazníky.
Toto instruktorem vedené tréninkové kurzy (online nebo na místě) je určeno pro začátečné až středně pokročilé produktové manažery, full-stack vývojáře a integrační inženýry, kteří chtějí navrhovat, integrovat a produktizovat konverzační asistenty pomocí připojení a integrací Mistral.
Na konci tohoto tréninku budou účastníci schopni:
- Integrovat konverzační modely Mistral s podnikovými a SaaS připojeními.
- Implementovat generování posílené výběrem (RAG) pro zázemím opřené odpovědi.
- Návrh UX vzorů pro interní a externí konverzační asistenty.
- Nasazovat asistenty do pracovních postupů produktu pro skutečné použití v praxi.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Cvičení na integrování.
- Vývoj konverzačních asistentů v živé laboratoři.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobený trénink pro tento kurz, kontaktujte nás k zřízení.
Enterprise-Grade Deployments with Mistral Medium 3
14 HodinyMistral Medium 3 je vysokovýkonný, multimodální jazykový model navržený pro nasazení ve výrobním prostředí podnikových systémů.
Tato instruktorem vedena živá školení (online nebo na místě) je určena středně pokročilým až pokročilým AI/ML inženýrům, platformním architektům a týmům MLOps, kteří chtějí nasadit, optimalizovat a zabezpečit Mistral Medium 3 pro podniková použití.
Na konci tohoto školení budou účastníci schopni:
- Nasadit Mistral Medium 3 pomocí API a možností sebehosting.
- Optimalizovat výkon a náklady na inferenci.
- Implementovat multimodální použití s Mistral Medium 3.
- Použít nejlepší praktiky zabezpečení a dodržování předpisů pro podniková prostředí.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Správa praktických úloh v živé laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se týkající tohoto kurzu nás prosím kontaktujte pro uspořádání.
Mistral pro odpovědný AI: Ochrana soukromí, umístění dat a podnikové kontroly
14 HodinyMistral AI je otevřená a podnikatelsky připravená AI platforma, která poskytuje funkce pro bezpečnou, dodržující právo a zodpovědnou implementaci umělé inteligence.
Toto instruktorem vedené živé školení (online nebo na místě) je určeno pro středně pokročilé vedoucí compliance, architekty bezpečnosti a zástupce právních/operativních oddělení, kteří chtějí implementovat odpovědné postupy umělé inteligence s Mistral pomocí ochrany soukromí, přidělování dat a podnikatelských kontrol.
Konec školení budou účastníci schopni:
- Implementovat techniky chránící soukromí v nasazeních Mistral.
- Používat strategie přidělování dat k zajištění dodržování právních předpisů.
- Nastavovat podnikatelsky orientované kontroly, jako jsou RBAC, SSO a auditní protokoly.
- Oceňovat možnosti poskytovatelů služeb a nasazení pro shodu s compliance.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Komplexní studie případů a cvičení zaměřené na compliance.
- Prahový vstup do implementace podnikatelských kontrol AI.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se s námi prosím obraťte k uspořádání.