Návrh Školení
Základy NiFi a toku dat
- Data v pohybu vs. data v klidu: koncepty a výzvy
- Architektura NiFi: jádra, řadič toku, poznávání a oznámení
- Klíčové komponenty: procesory, připojení, řadiče a poznávání
Big Data kontext a integrace
- Role NiFi v ekosystémech Big Data (Hadoop, Kafka, cloudové úložiště)
- Přehled HDFS, MapReduce a moderních alternativ
- Použití: streamování dat, převádění logů, event pipelines
Instalace, konfigurace & nastavení clusteru
- Instalace NiFi v jednoduchém a clustrovém režimu
- Konfigurace clusteru: role uzlů, Zookeeper a vyvažování zatížení
- Správa nasazení NiFi: pomocí Ansible, Docker nebo Helm
Návrh a správa toku dat
- Směrování, filtrování, rozdělování a sloučování toků
- Konfigurace procesorů (InvokeHTTP, QueryRecord, PutDatabaseRecord atd.)
- Zpracování schémat, obohacování a transformace dat
- Obsluha chyb, opakování vztahů a zpětný tlak
Scénáře integrace
- Připojení k databázím, systémům zpráv, REST API
- Streamování do analytických systémů: Kafka, Elasticsearch nebo cloudové úložiště
- Integrace s Splunk, Prometheus nebo logovacími pipeliney
Sledování, obnovení & poznávání
- Použití UI NiFi, metrik a vizualizace poznávání
- Návrh autonomního obnovení a elegantné obsluhy selhání
- Zálohování, verze toku a správa změn
Optimalizace výkonu & optimalizace
- JVM tunování, heap, thread pools a clustrové parametry
- Optimalizace návrhu toku pro snížení lahvích hrdel
- Izolace zdrojů, priorizace toku a kontrola propustnosti
Odborné postupy & řízení
- Dokumentace toku, standardy pojmenování, modulární návrh
- Zabezpečení: TLS, ověřování, řízení přístupu, šifrování dat
- Správa změn, verze, role uživatelů a auditní trasování
Řešení potíží & reakce na incidenty
- Běžné problémy: deadevlock, únik paměti, chyby procesorů
- Analyza logů, diagnostika chyb a vyšetřování zdrojových příčin
- Strategie obnovení a vrácení toku
Praktické cvičení: Implementace realistického datového pipeline
- Vytvoření toku od konce do konce: ingestní, transformační a dodací části
- Implementace obsluhy chyb, zpětného tlaku a škálování
- Výkonové testy a optimalizace pipeline
Závěr a další kroky
Požadavky
- Zkušenosti s příkazovou řádkou Linuxu
- Základní pochopení sítí a datových systémů
- Omlouvání se o konceptech datového streamování nebo ETL (Extract, Transform, Load)
Účastníci
- Systémoví administrátoři
- Data engineeri
- Vývojáři
- DevOps profesionálové
Reference (7)
Hands on exercises. Class should have been 5 days, but the 3 days helped to clear up a lot of questions that I had from working with NiFi already
James - BHG Financial
Kurz - Apache NiFi for Administrators
I thought the trainer's pace was good. He left no student behind with his approach. He was very supportive with us NEWBIES that may not have had a System Administrator or Infrastructure role during our career or resurrected those skills from a prior period of our career.
Pamdrea Ivory - BHG Financial
Kurz - Apache NiFi for Administrators
I like the hands on section. It helped me to better retain information by completing the provided exercises. Also, the trainer's ability to engage with the entire class made me feel comfortable to ask questions on things I was not sure about.
Leila - BHG Financial
Kurz - Apache NiFi for Administrators
Use-cases, examples for building NiFi dataflows. We worked on troubleshooting common problems and gotchas.
Nelson - BHG Financial
Kurz - Apache NiFi for Administrators
I loved the structure. We dove into the basics of Nifi, concepts, use cases, etc. on day 1. On day 2, we got to put Day 1 knowledge into practice by building out flows to meet scenario requirements. Day 3 we got to see Nifi Registry and version control, mulit-tenancy, and go over Q&A.
Adam - BHG Financial
Kurz - Apache NiFi for Administrators
I like how he was able to elaborate about Nifi and how powerful it is. You can basically use it for any infrastructure and use many different computer languages. Also i was glad we were able to fix the Nifi cert renewal issue we were having with the Truststore.
Joachim Martin - BHG Financial
Kurz - Apache NiFi for Administrators
general knowledge and the possibilities that the training offered in terms on the tool.