Zkuste nás kontaktovat

Návrh Školení

Základy NiFi a toku dat

  • Data v pohybu vs. data v klidu: koncepty a výzvy
  • Architektura NiFi: jádro, řadič toku, provenience a bulletin
  • Klíčové komponenty: zpracovatelé, připojení, kontrolery a provenience

Kontext Big Data a integrace

  • Role NiFi v ekosystémech Big Data (Hadoop, Kafka, cloudové úložiště)
  • Přehled HDFS, MapReduce a moderních alternativ
  • Případy použití: přijímání streamů, posílání logů, eventové potrubí

Instalace, konfigurace a nastavení clusteru

  • Instalace NiFi na jednotlivém uzlu a v clusterovém režimu
  • Konfigurace clusteru: role uzlů, Zookeeper a vyvažování zatížení
  • Orchestrace nasazení NiFi: použití Ansible, Docker nebo Helm

Návrh a správa dataflows

  • Routování, filtrování, rozdělování a slučování toků
  • Konfigurace zpracovatelů (InvokeHTTP, QueryRecord, PutDatabaseRecord atd.)
  • Zpracování schémat, obohacování a transformační operace
  • Zpracování chyb, vztahy pro opakování a backpressure

Integrační scénáře

  • Připojení k databázím, zpravovacím systémům a REST API
  • Streamování do analytických systémů: Kafka, Elasticsearch nebo cloudové úložiště
  • Integrace se Splunk, Prometheus nebo pipeline pro logování

Monitorování, obnovování a provenience

  • Použití UI NiFi, metrik a vizualizátoru provenience
  • Návrh autonomního obnovování a elegantního zpracování selhání
  • Zálohování, verzování toků a správa změn

Optimalizace výkonu

  • Dolaďování JVM, haldy, poolů vlákna a parametrů clusteru
  • Optimalizace návrhu toků pro snížení úzkých hrdel
  • Izolace zdrojů, priorita toků a kontrola propustnosti

Nejlepší praktiky a governance

  • Dokumentace toků, standardy pojmenování, modularity návrhu
  • Bezpečnost: TLS, autentizace, řízení přístupu, šifrování dat
  • Řízení změn, verzování, přístup podle rolí, auditní stopy

Odstraňování potíží a reakce na incidenty

  • Časté problémy: mrtvé kódy, úniky paměti, chyby zpracovatelů
  • Analýza logů, diagnostika chyb a vyšetřování příčin
  • Strategie obnovování a rollback toků

Praktická laboratoř: Implementace realističného datového potrubí

  • Budování toku od konce do konce: přijímání, transformace, doručení
  • Implementace zpracování chyb, backpressure a škálování
  • Testování výkonu a doladění potrubí

Shrnutí a další kroky

Požadavky

  • Zkušenosti s příkazovým řádkem Linuxu
  • Základní porozumění síťování a datovým systémům
  • Seznámení s koncepty streamování dat nebo ETL

Cílová skupina

  • Systémoví administrátoři
  • Data inženýři
  • Vývojáři
  • Profesionálové v oblasti DevOps
 21 Hodiny

Počet účastníků


Cena za účastníka

Reference (7)

Nadcházející kurzy

Související kategorie