Návrh Školení
Úvod do optimalizace a nasazení modelů
- Přehled modelů DeepSeek a výzev spojených s jejich nasazením
- Pochopení efektivity modelů: rychlost versus přesnost
- Klíčové metrik pro hodnocení výkonu modelů AI
Optimalizace modelů DeepSeek pro výkon
- Techniky pro snižování latence inferencí
- Strategie kvantizace a řezání modelů
- Použití optimalizovaných knihoven pro modely DeepSeek
Implementace MLOps pro modely DeepSeek
- Řízení verzí a sledování modelů
- Automatizace opětovného trénování a nasazování modelů
- CI/CD pipelines pro aplikace AI
Nasazování modelů DeepSeek v cloudu a v lokálním prostředí
- Výběr vhodné infrastruktury pro nasazení
- Nasazování pomocí Dockeru a Kubernetes
- Správa přístupu k API a ověřování
Škálování a monitorování nasazení AI
- Strategie vyvažování zátěže pro služby AI
- Monitorování driftu modelů a degradace výkonu
- Implementace automatického škálování pro aplikace AI
Zajištění bezpečnosti a souladu s předpisy při nasazování AI
- Správa ochrany soukromí dat v pracovních postupech AI
- Soulad s předpisy pro podnikovou AI
- Osvědčené postupy pro bezpečné nasazování AI
Budoucí trendy a strategie optimalizace AI
- Pokroky v technikách optimalizace modelů AI
- Nové trendy v oblasti MLOps a infrastruktury AI
- Vytváření plánu nasazování AI
Shrnutí a další kroky
Požadavky
- Zkušenosti s nasazováním modelů AI a cloudovou infrastrukturou
- Ovládání programovacího jazyka (např. Python, Java, C++)
- Pochopení MLOps a optimalizace výkonu modelů
Cílová skupina
- Inženýři AI optimalizující a nasazující modely DeepSeek
- Datoví vědci pracující na ladění výkonu AI
- Specialisté na strojové učení spravující cloudové systémy AI
Reference (2)
ML ekosystém neobsahuje pouze MLflow, ale také Optuna, Hyperopt, Docker a Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurz - MLflow
Přeloženo strojem
Rád jsem se zúčastnil školení Kubeflow, které proběhlo vzdáleně. Toto školení mi umožnilo prohloubit znalosti o službách AWS, K8s a všech devOps nástrojích kolem Kubeflow, což jsou nezbytné základy pro správný přístup k tématu. Rád bych poděkoval Marcinovi Malawskimu za jeho trpělivost a profesionální přístup při školení a poradách o osvědčených postupech. Malawski se k tématu přibližuje z různých úhlů, používá různé nástroje pro nasazení jako Ansible, EKS kubectl a Terraform. Teď jsem naprosto přesvědčen, že vstupuji do správného oboru aplikace.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurz - Kubeflow
Přeloženo strojem