Návrh Školení
Úvod
Pochopení Big Data
Přehled Spark
Přehled Python
Přehled PySpark
- Distribuce dat pomocí systému Resilient Distributed Datasets Framework
- Distribuce výpočtů pomocí operátorů Spark API
Nastavení Python pomocí Spark
Nastavení PySpark
Použití Amazon Web Services (AWS) Instancí EC2 pro Spark
Nastavení Databricks
Nastavení klastru AWS EMR
Naučit se základy Python Programming
- Začínáme s Python
- Používání notebooku Jupyter
- Použití proměnných a jednoduchých datových typů
- Práce se seznamy
- Použití příkazů if
- Použití uživatelských vstupů
- Práce s smyčkami while
- Implementační funkce
- Práce s třídami
- Práce se soubory a výjimkami
- Práce s projekty, daty a rozhraními API
Seznámení se základy Spark DataFrame
- Začínáme se Spark DataFrames
- Implementace základních operací se Sparkem
- Použití Groupby a Aggregate Operations
- Práce s časovými razítky a daty
Práce na cvičení projektu Spark DataFrame
Porozumění Machine Learning s MLlib
Práce s MLlib, Spark a Python pro Machine Learning
Pochopení regresí
- Učení teorie lineární regrese
- Implementace kodexu hodnocení regrese
- Práce na vzorovém cvičení lineární regrese
- Naučte se teorii logistické regrese
- Implementace kódu logistické regrese
- Práce na vzorovém cvičení logistické regrese
Pochopení Random Forest a rozhodovacích stromů
- Teorie metod učícího se stromu
- Implementace rozhodovacích stromů a Random Forest kódů
- Práce na vzorku Random Forest Klasifikační cvičení
Práce s K-means Clustering
- Pochopení K-means Clustering Theory
- Implementace K-means Clustering Code
- Práce na vzorovém shlukovacím cvičení
Práce s Recommender Systems
Implementace zpracování přirozeného jazyka
- Pochopení Natural Language Processing (NLP)
- Přehled nástrojů NLP
- Práce na ukázkovém cvičení NLP
Streamování se zapnutým Sparkem Python
- Přehled Streamování se Sparkem
- Ukázka Spark Streaming Cvičení
Závěrečné poznámky
Požadavky
- Obecné znalosti programování
Publikum
- Vývojáři
- IT profesionálové
- Data Scientists
Reference (6)
I liked that it was practical. Loved to apply the theoretical knowledge with practical examples.
Aurelia-Adriana - Allianz Services Romania
Kurz - Python and Spark for Big Data (PySpark)
The course was about a series of very complex related topics & Pablo has in-depth expertise of each of them. Sometimes nuances were lost in communication and/or due to time pressures and possibly expectations were not quite met due to this. Also there were some UHG/Azure Databricks setup issues however Pablo / UHG resolved these quickly once they became apparent - this to me showed a high level of understanding and professionalism between UHG & Pablo,
Michael Monks - Tech NorthWest Skillnet
Kurz - Python and Spark for Big Data (PySpark)
Individual attention.
ARCHANA ANILKUMAR - PPL
Kurz - Python and Spark for Big Data (PySpark)
Hands on Training..
Abraham Thomas - PPL
Kurz - Python and Spark for Big Data (PySpark)
The lessons were taught in a Jupyter notebook. The topics were structured with a logical sequence and naturally helped develop the session from the easier parts to the more complex. I'm already an advanced user of Python with background in Machine Learning, so found the course easier to follow than, possibly, some of my classmates that took the training course. I appreciate that some of the most elementary concepts were skipped and that he focused on the most substantial matters.
Angela DeLaMora - ADT, LLC
Kurz - Python and Spark for Big Data (PySpark)
practice tasks