EXO: Nasazení lokálního AI clusteru od začátku do konce Počítačový Kurz
EXO je open-source framework, který propojuje zařízení s čipy Apple Silicon do distribuovaného AI clusteru, což umožňuje lokální inference předových modelů větších než kapacita jednoho zařízení.
Toto vedené výcvikové školení (online nebo prezenční) je určeno systémovým administrátorům a DevOps inženýrům, kteří si přejí nasazovat, konfigurovat a spravovat cluster EXO pro soukromou LLM inferenci napříč více uzly s Apple Silicon nebo Linuxem.
Po absolvování tohoto školení budou účastníci schopni:
- Nainstalovat a nakonfigurovat EXO na uzlech s macOS a Linuxem.
- Povolit automatické zjišťování zařízení a vytvořit víceužlové cluster.
- Povolit a ověřit RDMA přes Thunderbolt 5 pro ultra-nízkou latenci mezi zařízením.
- Nasadit předové modely (DeepSeek, Qwen, Llama) napříč clusterovanými zařízeními.
- Sledovat zdraví clusteru a řešit běžné problémy při nasazení.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Praktická implementace v prostředí živé laboratoře.
Možnosti přizpůsobení kurzu
- Pro žádost o přizpůsobené školení nás prosím kontaktujte a domluvíme detaily.
Návrh Školení
Úvod do EXO a lokálního shlukování AI
- Přehled frameworku EXO a ekosystému exo-explore
- Srovnání centrální cloudové inferenční s distributní místní inferencí
- Architektura: zjišťování zařízení prostřednictvím libp2p, backend MLX, rozhraní a vrstva API
- Výběrové požadavky: Apple Silicon (M3 Ultra, M4 Pro/Max), Thunderbolt 5, sdílené úložiště
Nasazení EXO na macOS
- Nastavení Xcode, Metal ToolChain a požadavků pro macOS
- Instalace uv, Node.js, Rust nightly toolchain
- Instalace forku macmon určeného pro monitorování Apple Silicon
- Klonování repozitáře a sestavení dashboardu pomocí npm
- Spuštění EXO ze zdroje a ověření dashboardu na localhost:52415
Nasazení EXO na Linuxu
- Instalace závislostí prostřednictvím apt nebo Homebrew na Linuxu
- Konfigurace uv, Node.js 18+ a Rust nightly
- Sestavení dashboardu a spuštění EXO v režimu pouze CPU
- Struktura adresářů: cesty XDG Base Directory pro konfiguraci, data, cache a logy
Automatické zjišťování zařízení a formace clusteru
- Chápání automatického zjišťování založeného na libp2p napříč místní sítí
- Konfigurace vlastních jmenových prostorů pomocí EXO_LIBP2P_NAMESPACE pro izolaci clusteru
- Ověření příslušnosti uzlu v pohledu dashboardu clusteru
- Zvládání selhání při zjišťování a problémů se segmentací sítě
Povolování RDMA přes Thunderbolt 5
- Architektura RDMA a tvrzení o snížení latency o 99 procent
- Povolování RDMA v režimu macOS Recovery s rdma_ctl
- Požadavky na kabeláž a omezení topologie portů na Mac Studio
- Doladění verzí macOS napříč všemi uzly clusteru
- Odznačování RDMA discovery a konfigurace DHCP
Nasazení předových modelů
- Použití dashboardu k načtení a shardování DeepSeek v3.1, Qwen3-235B a rodiny modelů Llama
- Ukázka umístění instancí prostřednictvím koncového bodu API /instance/previews
- Vytváření instance modelu s pipeline nebo tensor-parallel shardingem
- Konfigurace vlastních karet modelu z HuggingFace hubu
Sledování a diagnostika problémů
- Čtení logů EXO a porozumění distributnímu trasování
- Výklad zdraví clusteru v pohledu dashboardu clusteru
- Diagnostika selhání pracovního uzlu a chování při znovu připojení
- Použití EXO_TRACING_ENABLED pro analýzu výkonnostních hrdel krku
Údržba a aktualizace clusteru
- Aktualizace binárních souborů EXO a postupy přestavby dashboardu
- Migrace mezipaměti modelů a správa předstažených modelů přes NFS
- Plynulé odebrání uzlů a vyvážení zátěže
Požadavky
- Pochopení základů sítě (IP, subnetworking, firewall)
- Zkušenosti se správou příkazového řádku v macOS nebo Linuxu
- Seznámenost s řízením balíčků Pythonu (pip/uv) a nástrojovými sadami Node.js
Cílová skupina
- Systémoví administrátoři
- DevOps inženýři
- Architekti AI infrastruktury odpovědní za on-premise nasazení LLM
Veřejné školení vyžaduje minimálně 5 účastníků.
EXO: Nasazení lokálního AI clusteru od začátku do konce Počítačový Kurz - Rezervace
EXO: Nasazení lokálního AI clusteru od začátku do konce Počítačový Kurz - Dotaz
EXO: Nasazení lokálního AI clusteru od začátku do konce - Dotaz ohledně konzultace
Nadcházející kurzy
Související kurzy
Pokročilé LangGraph: Optimalizace, Ladicí Techniky a Monitorování Komplexních Grafů
35 HodinyLangGraph je framework pro vytváření stavových aplikací LLM s více aktéry jako složitelných grafů se stálým stavem a kontrolou spuštění.
Toto instruktorovo řízené živé školení (online nebo na místní lokalitě) je určeno pokročilým inženýrům platformy AI, DevOps pro AI a architektům ML, kteří chtějí optimalizovat, ladit, monitorovat a provozovat výrobní systémy LangGraph.
Koncem tohoto školení budou účastníci schopni:
- Návrh a optimalizace komplexních topologií LangGraphu pro rychlost, náklady a škálovatelnost.
- Inženýrství spolehlivosti s opakováním, časovými limity, idempotentností a obnovením na základě kontrolních bodů.
- Ladení a stopování provádění grafů, inspekce stavu a systematické reprodukování výrobních problémů.
- Nastavení grafů s protokoly, metrikami a stopami, nasazení do produkčního prostředí a monitorování SLA a nákladů.
Formát kurzu
- Interaktivní přednášky a diskuse.
- Velké množství cvičení a praxe.
- Ruční implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení tohoto kurzu se, prosím, obraťte na nás pro domluvu.
Building Coding Agents with Devstral: From Agent Design to Tooling
14 HodinyDevstral je open-source rámec navržený pro sestavování a spouštění kódovacích agentů, které mohou interagovat s kódotisky, vývojářskými nástroji a API za účelem zlepšení produktivity inženýrů.
Toto školení pod vedením instruktora (online nebo na místě) je zaměřeno na středně pokročilé až pokročilé ML inženýry, týmy pro vývojářské nástroje a SREs, kteří chtějí navrhnout, implementovat a optimalizovat kódovací agenty pomocí Devstral.
Po absolvování tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat Devstral pro vývoj kódovacích agentů.
- Navrhnout agenty pro průzkum a modifikaci kódotiků.
- Zintegrovat kódovací agenty s vývojářskými nástroji a API.
- Implementovat osvědčené postupy pro bezpečné a efektivní nasazení agentů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Množství cvičení a praktické práce.
- Přímo na místě implementace v live-lab prostředí.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, prosím kontaktujte nás k uspořádání.
Open-Source Model Ops: Self-Hosting, Fine-Tuning a Governance with Devstral & Mistral Models
14 HodinyDevstral a Mistral modely jsou otevřené AI technologie navržené pro flexibilní nasazení, jemnou úpravu (fine-tuning) a škálovatelnou integraci.
Toto vedení instruktorem živé školení (online nebo na místě) je určeno středně pokročilým až pokročilým inženýrům ML, týmům platformy a výzkumným inženýrům, kteří se chtějí sami hostit, jemně upravovat (fine-tuning) a řídit modely Mistral a Devstral ve výrobních prostředích.
Na konci tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat samostatně hostované prostředí pro modely Mistral a Devstral.
- Použít techniky jemné úpravy (fine-tuning) pro výkonnost specifickou pro doménu.
- Implementovat verze, monitorování a řízení životního cyklu.
- Zajišťovat bezpečnost, dodržování předpisů a zodpovědné používání otevřených modelů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Praktické cvičení v samostatném hostování a jemné úpravě (fine-tuning).
- Implementace správy a monitorovacích potoků v živé laboratoři.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení tohoto kurzu, prosím kontaktujte nás pro uspořádání.
Fiji: Zpracování obrazu pro biotechnologii a toxikologii
14 HodinyToto školitelovo prováděné živé školení v České republice (online nebo na místě) je zaměřeno na začínající až středně pokročilé výzkumníky a laboratorní pracovníky, kteří chtějí zpracovávat a analyzovat obrazy související s histologickými tkáními, krvekапу, řasami a jinými biologickými vzorky.
Na konci tohoto školení budou účastníci schopni:
- Pohybovat se v rozhraní Fiji a využívat základní funkce ImageJ.
- Předzpracovat a vylepšit vědecké obrazy pro lepší analýzu.
- Analyzovat obrazy kvantitativně, včetně počítání buněk a měření ploch.
- Automatizovat opakující se úkoly pomocí makroů a doplňků.
- Přizpůsobit pracovní postupy pro specifické potřeby analýzy obrazů v biologickém výzkumu.
Aplikace LangGraph v financích
35 HodinyLangGraph je rámec pro vývoj stavy-souvisejících, víceaktníkových aplikací LLM jako složitelných grafů s trvalým stavem a kontrolou provádění.
Toto instruktorově vedené živé školení (online nebo na místě) je určeno pro středně pokročilé a pokročilé odborníky, kteří chtějí navrhnout, implementovat a provozovat řešení založená na LangGraphu v oblasti financí s vhodnou správou, vizibilitou a souladem se standardy.
Koncové cíle školení:
- Návrh finance-specifických pracovních postupů LangGraphu v souladu s požadavky na regulaci a audit.
- Integrace standardů finančních dat a ontologií do stavu grafu a nástrojů.
- Implementace spolehlivosti, bezpečnosti a kontroly s člověkem v cyklu pro kritické procesy.
- Nasazení, monitorování a optimalizace systémů LangGraphu pro výkon, náklady a SLA (Service Level Agreements).
Formát kurzu
- Interaktivní přednášky a diskuse.
- Mnoho cvičení a praxe.
- Praktické implementace v živém laboratorním prostředí.
Možnosti individualizace kurzu
- Pro požadavek na individualizované školení tohoto kurzu se, prosím, obraťte na nás pro uspořádání.
Základy LangGraph: Grafové řízení LLM a řetězení
14 HodinyLangGraph je rámec pro vytváření aplikací LLM s grafovou strukturou, které podporují plánování, větvení, používání nástrojů, paměť a kontrolovanou execuci.
Tento kurz vedený instruktorem (online nebo prezenčně) je určen pro začátečníky – vývojáře, tvůrce promptů a pracovníky s daty, kteří se chtějí naučit navrhovat a budovat spolehlivé vícekrokové pracovní postupy LLM pomocí LangGraph.
Na konci tohoto kurzu budou účastníci schopni:
- Vysvětlit základní koncepty LangGraph (uzly, hrany, stav) a kdy je použít.
- Tvořit řetězce promptů, které umožňují větvení, volání nástrojů a udržování kontextu.
- Integrovat vyhledávání (retrieval) a externí API do pracovních postupů založených na grafech.
- Testovat, ladit a vyhodnocovat aplikace LangGraph s ohledem na spolehlivost a bezpečnost.
Formát kurzu
- Interaktivní přednáška a vedená diskuse.
- Cvičení a přehled kódu v sandboxovém prostředí s doprovodem instruktora.
- Scénářové úlohy zaměřené na design, testování a vyhodnocování.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobený training pro tento kurz nás prosím kontaktujte.
LangGraph v Zdravotnictví: Orchestrace Pracovních Postupů pro Ochranné Prostředí
35 HodinyLangGraph umožňuje stavy s více aktéry podporovanými LLM s přesnou kontrolou cest provádění a udržováním stavu. V zdravotnictví jsou tyto schopnosti klíčové pro shodu se standardy, interoperabilitu a vytváření systémů podpory rozhodování, které odpovídají medicínským pracovním postupům.
Toto instruktážně vedené živé školení (online nebo na místě) je určeno profesionálům střední a pokročilé úrovně, kteří chtějí navrhnout, implementovat a spravovat zdravotnická řešení založená na LangGraphu, zároveň řešíme regulativní, etické a provozní výzvy.
Koncepci školení budou účastníci schopni:
- Návrh pracovních postupů LangGraphu pro zdravotnictví s ohledem na shodu se standardy a průzkumnost.
- Připojení aplikací LangGraphu k medicínským ontologiím a standartám (FHIR, SNOMED CT, ICD).
- Využití nejlepších postupů pro spolehlivost, průzkumnost a vysvětlitelnost ve citlivých prostředích.
- Nasazení, monitorování a ověření aplikací LangGraphu v produkčních prostředích zdravotnictví.
Formát kurzu
- Vzájemná přednáška a diskuse.
- Praktické cvičení s reálnými případovými studiemi.
- Praxe implementace v živém laboratorním prostředí.
Možnosti individualizace kurzu
- Pro žádost o individualizované školení tohoto kurzu nás kontaktujte pro uspořádání.
LangGraph pro právní aplikace
35 HodinyLangGraph je rámec pro vytváření stavových, vícesubjektových LLM aplikací jako sestavitelné grafy s trvalým stavem a přesnou kontrolou nad spuštěním.
Toto instruktorem vedené řízené školení (online nebo prezenční) je určeno středně pokročilým až pokročilým profesionálům, kteří chtějí navrhovat, implementovat a provozovat právní řešení založená na LangGraph s nezbytnými kontrolami souladu, trasovatelnosti a správy.
Na konci tohoto školení budou účastníci schopni:
- Návrh právních LangGraph pracovních postupů, které zachovávají auditabilitu a soulad.
- Integrace právních ontologií a standardů dokumentů do grafu stavu a zpracování.
- Implementace ochranných opatření, schválení s lidskou kontrolou a trasovatelné rozhodovací cesty.
- Nasazení, monitorování a udržování LangGraph služeb v produkčním prostředí s možností pozorování a kontroly nákladů.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praktické praxe.
- Praktická implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se obraťte, prosím, na nás pro uspořádání.
Vytváření dynamických pracovních postupů pomocí LangGraph a agentů LLM
14 HodinyLangGraph je rámec pro vytváření pracovních postupů LLM v grafové struktuře, které podporují rozvětvení, používání nástrojů, paměť a řízenou exekuci.
Toto instruktorem vedené živé školení (online nebo v místě) je určeno inženýrům a produktovým týmům střední úrovně, kteří se chtějí naučit kombinovat logiku grafů LangGraph s cykly agentů LLM za účelem tvorby dynamických aplikací s kontextovým vědomím, jako jsou agentů pro zákaznickou podporu, rozhodovací stromy a systémy pro vyhledávání informací.
Na konci tohoto školení budou účastníci schopni:
- Navrhnout grafy založené pracovní postupy, které koordinují agenty LLM, nástroje a paměť.
- Implementovat podmíněné směrování, opakování a záložní řešení pro robustní exekuci.
- Integrovat retrieval (vyhledávání dokumentů), API a strukturované výstupy do cyklů agentů.
- Hodnotit, monitorovat a upevňovat chování agentů pro spolehlivost a bezpečnost.
Formát kurzu
- Interaktivní přednáška a vedená diskuze.
- Vedené laboratorní cvičení a procházení kódu v sandboxovém prostředí.
- Scenario-based designové úkoly a recenzní řízení.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, prosím kontaktujte nás.
LangGraph pro marketingovou automatizaci
14 HodinyLangGraph je grafový orchestracevní rámec, který umožňuje podmíněné, vícesložkové pracovní postupy LLM a nástrojů, což je ideální pro automatizaci a personalizaci obsahových kanálů.
Tato instruktorem vedená, živá školení (online nebo na místě) je určena středně pokročilým marketingovým pracovníkům, strategům obsahu a vývojářům automatizace, kteří chtějí implementovat dynamické, s možností rozvětvení e-mailové kampaně a obsahové kanály pomocí LangGraph.
Konec tohoto školení budou účastníci schopni:
- Návrh grafově strukturovaného obsahu a e-mailových pracovních postupů s podmínkovou logikou.
- Integrace LLM, API a zdrojů dat pro automatizovanou personalizaci.
- Správa stavu, paměti a kontextu v rámci vícesložkových kampaní.
- Posouzení, monitorování a optimalizace výkonu pracovního postupu a výsledků doručení.
Formát kurzu
- Interaktivní přednášky a skupinové diskuse.
- Praktické laboratoře implementující e-mailové pracovní postupy a obsahové kanály.
- Scénářové cvičení na personalizaci, segmentaci a rozvětvenou logiku.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení pro tento kurz, prosím nás kontaktujte.
Le Chat Enterprise: Soukromé ChatOps, integrace a administrační řízení
14 HodinyLe Chat Enterprise je soukromé řešení pro ChatOps, které poskytuje bezpečné, přizpůsobitelné a řízené konverzační AI schopnosti pro organizace s podporou RBAC, SSO, konektérů a integrací podnikových aplikací.
Tato instruktorem vedená živá školení (on-line nebo na místě) je určena pro středně pokročilé manažery produktů, IT vedoucí, řešení inženýrů a týmů zabezpečení/souladu, kteří chtějí nasazovat, konfigurovat a spravovat Le Chat Enterprise v podnikových prostředích.
Na konci tohoto školení budou účastníci schopni:
- Nastavit a nakonfigurovat Le Chat Enterprise pro bezpečné nasazení.
- Povolit RBAC, SSO a ovládací prvky řízené souladem.
- Integrovat Le Chat s podnikovými aplikacemi a datovými úložišti.
- Naprojektovat a implementovat pravidla pro správu a administraci ChatOps.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praktické praxe.
- Rukouvedená implementace v živém laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobené školení pro tento kurz, kontaktujte nás pro vyjednání.
Nákladově efektivní architektury velkých jazykových modelů: Mistral v měřítku (Inženýrství výkonu a nákladů)
14 HodinyMistral je rodina velkých jazykových modelů s vysokým výkonem optimalizovaná pro nákladově efektivní nasazení ve velkém měřítku.
Toto vedené školení v reálném čase (online nebo na místě) je určeno pokročilým inženýrům infrastruktury, architektům cloudu a vedoucím týmů MLOps, kteří si přejí navrhovat, nasazovat a optimalizovat architektury založené na Mistral pro dosažení maximální propustnosti a minimálních nákladů.
Na konci tohoto školení budou účastníci schopni:
- Implementovat škálovatelné vzory nasazení pro Mistral Medium 3.
- Použít dávkování, kvantizaci a efektivní strategie serverování.
- Optimalizovat náklady na inference při zachování výkonu.
- Navrhnout produkční topologie serverování pro podnikové zátěže.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Praktická implementace v prostředí živého laboratorního cvičení.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobení tohoto školení nás prosím kontaktujte, abychom vše zařídili.
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 HodinyMistral AI je otevřená AI platforma, která umožňuje týmům vytvářet a integrovat konverzační asistenty do pracovních postupů orientovaných na podnikání a zákazníky.
Toto instruktorem vedené tréninkové kurzy (online nebo na místě) je určeno pro začátečné až středně pokročilé produktové manažery, full-stack vývojáře a integrační inženýry, kteří chtějí navrhovat, integrovat a produktizovat konverzační asistenty pomocí připojení a integrací Mistral.
Na konci tohoto tréninku budou účastníci schopni:
- Integrovat konverzační modely Mistral s podnikovými a SaaS připojeními.
- Implementovat generování posílené výběrem (RAG) pro zázemím opřené odpovědi.
- Návrh UX vzorů pro interní a externí konverzační asistenty.
- Nasazovat asistenty do pracovních postupů produktu pro skutečné použití v praxi.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Cvičení na integrování.
- Vývoj konverzačních asistentů v živé laboratoři.
Možnosti přizpůsobení kurzu
- Chcete-li požádat o přizpůsobený trénink pro tento kurz, kontaktujte nás k zřízení.
Enterprise-Grade Deployments with Mistral Medium 3
14 HodinyMistral Medium 3 je vysokovýkonný, multimodální jazykový model navržený pro nasazení ve výrobním prostředí podnikových systémů.
Tato instruktorem vedena živá školení (online nebo na místě) je určena středně pokročilým až pokročilým AI/ML inženýrům, platformním architektům a týmům MLOps, kteří chtějí nasadit, optimalizovat a zabezpečit Mistral Medium 3 pro podniková použití.
Na konci tohoto školení budou účastníci schopni:
- Nasadit Mistral Medium 3 pomocí API a možností sebehosting.
- Optimalizovat výkon a náklady na inferenci.
- Implementovat multimodální použití s Mistral Medium 3.
- Použít nejlepší praktiky zabezpečení a dodržování předpisů pro podniková prostředí.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Mnoho cvičení a praxe.
- Správa praktických úloh v živé laboratorním prostředí.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se týkající tohoto kurzu nás prosím kontaktujte pro uspořádání.
Mistral pro odpovědný AI: Ochrana soukromí, umístění dat a podnikové kontroly
14 HodinyMistral AI je otevřená a podnikatelsky připravená AI platforma, která poskytuje funkce pro bezpečnou, dodržující právo a zodpovědnou implementaci umělé inteligence.
Toto instruktorem vedené živé školení (online nebo na místě) je určeno pro středně pokročilé vedoucí compliance, architekty bezpečnosti a zástupce právních/operativních oddělení, kteří chtějí implementovat odpovědné postupy umělé inteligence s Mistral pomocí ochrany soukromí, přidělování dat a podnikatelských kontrol.
Konec školení budou účastníci schopni:
- Implementovat techniky chránící soukromí v nasazeních Mistral.
- Používat strategie přidělování dat k zajištění dodržování právních předpisů.
- Nastavovat podnikatelsky orientované kontroly, jako jsou RBAC, SSO a auditní protokoly.
- Oceňovat možnosti poskytovatelů služeb a nasazení pro shodu s compliance.
Formát kurzu
- Interaktivní přednáška a diskuse.
- Komplexní studie případů a cvičení zaměřené na compliance.
- Prahový vstup do implementace podnikatelských kontrol AI.
Možnosti přizpůsobení kurzu
- Pro požadavek na přizpůsobené školení se s námi prosím obraťte k uspořádání.