聯繫我們

課程簡介

NiFi 與數據流基礎

  • 動態數據與靜態數據:概念與挑戰
  • NiFi 架構:核心、流程控制器(Flow Controller)、來源(Provenance)及公告(Bulletin)
  • 關鍵元件:處理器(Processors)、連線(Connections)、控制器(Controllers)及來源(Provenance)

大數據背景與整合

  • NiFi 在大數據生態系統中的角色(Hadoop、Kafka、雲端儲存)
  • HDFS、MapReduce 及現代替代方案的概觀
  • 使用案例:串流攝取、日誌發送、事件管道

安裝、配置與叢集設定

  • 在單節點及叢集模式上安裝 NiFi
  • 叢集配置:節點角色、ZooKeeper 及負載平衡
  • 編排 NiFi 部署:使用 Ansible、Docker 或 Helm

設計與管理數據流

  • 數據流的路由、過濾、分割與合併
  • 處理器配置(InvokeHTTP、QueryRecord、PutDatabaseRecord 等)
  • 處理綱要(Schema)、增強及轉換操作
  • 錯誤處理、重試關係(Retry Relationships)及背壓(Backpressure)

整合情境

  • 連接數據庫、訊息系統及 REST API
  • 串流至分析系統:Kafka、Elasticsearch 或雲端儲存
  • 與 Splunk、Prometheus 或日誌管道整合

監控、恢復與來源追蹤

  • 使用 NiFi UI、指標及來源視覺化工具
  • 設計自主恢復機制與優雅的失敗處理
  • 備份、流程版本控制及變更管理

效能調優與優化

  • 調整 JVM、堆積(Heap)、執行緒池及叢集參數
  • 優化流程設計以減少瓶頸
  • 資源隔離、流程優先級及吞吐量控制

最佳實踐與治理

  • 流程文件、命名標準及模組化設計
  • 安全性:TLS、身份驗證、存取控制及數據加密
  • 變更控制、版本控制、基於角色的存取權限及稽核追蹤

故障排除與事件回應

  • 常見問題:死鎖、記憶體洩漏、處理器錯誤
  • 日誌分析、錯誤診斷及根本原因調查
  • 恢復策略及流程回滾

動手實驗:真實數據管道實現

  • 構建端到端流程:攝取、轉換、遞交
  • 實施錯誤處理、背壓及擴展性
  • 對管道進行效能測試與調優

總結與後續步驟

最低要求

  • 熟悉 Linux 命令列操作
  • 對網路及數據系統具備基礎理解
  • 接觸過數據串流或 ETL 概念

受眾對象

  • 系統管理員
  • 數據工程師
  • 開發人員
  • DevOps 專家
 21 小時

人數


每位參與者的報價

客戶評論 (7)

即將到來的課程

課程分類