Návrh Školení
Úvod do optimalizace a nasazení modelu
- Přehled DeepSeek modelů a výzev při nasazení
- Pochopení efektivity modelu: rychlost vs. přesnost
- Klíčové metriky výkonu pro modely AI
Optimalizace DeepSeek modelů pro výkon
- Techniky pro snížení inferenční latence
- Kvantování modelu a strategie prořezávání
- Použití optimalizovaných knihoven pro modely DeepSeek
Implementace MLOps pro modely DeepSeek
- Kontrola verzí a sledování modelu
- Automatizace rekvalifikace a nasazení modelu
- CI/CD potrubí pro aplikace AI
Nasazení DeepSeek modelů v cloudových a on-premise prostředích
- Výběr správné infrastruktury pro nasazení
- Nasazení pomocí Docker a Kubernetes
- Správa přístupu a ověřování API
Škálování a monitorování nasazení AI
- Strategie vyvažování zátěže pro služby AI
- Monitorování posunu modelu a degradace výkonu
- Implementace automatického škálování pro aplikace AI
Zajištění bezpečnosti a souladu při nasazení AI
- Správa ochrany osobních údajů v pracovních postupech AI
- Soulad s předpisy podnikové AI
- Osvědčené postupy pro bezpečné nasazení AI
Budoucí trendy a strategie optimalizace AI
- Pokroky v technikách optimalizace modelu AI
- Nové trendy v MLOps a infrastruktuře AI
- Vytvoření plánu nasazení AI
Shrnutí a další kroky
Požadavky
- Zkušenosti s nasazením modelu AI a cloudovou infrastrukturou
- znalost programovacího jazyka (např. Python, Java, C++)
- Pochopení MLOps a optimalizace výkonu modelu
Publikum
- Inženýři AI optimalizují a nasazují DeepSeek modelů
- Datoví vědci pracující na ladění výkonu AI
- Specialisté na strojové učení spravující cloudové systémy umělé inteligence
Reference (2)
ML ekosystém neobsahuje pouze MLflow, ale také Optuna, Hyperopt, Docker a Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurz - MLflow
Přeloženo strojem
Rád jsem se zúčastnil školení Kubeflow, které proběhlo vzdáleně. Toto školení mi umožnilo prohloubit znalosti o službách AWS, K8s a všech devOps nástrojích kolem Kubeflow, což jsou nezbytné základy pro správný přístup k tématu. Rád bych poděkoval Marcinovi Malawskimu za jeho trpělivost a profesionální přístup při školení a poradách o osvědčených postupech. Malawski se k tématu přibližuje z různých úhlů, používá různé nástroje pro nasazení jako Ansible, EKS kubectl a Terraform. Teď jsem naprosto přesvědčen, že vstupuji do správného oboru aplikace.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurz - Kubeflow
Přeloženo strojem