聯繫我們

課程簡介

NiFi 基礎與數據流概念

  • 傳輸中數據與靜態數據:概念與挑戰
  • NiFi 架構:核心、流程控制器、溯源文件與公告
  • 關鍵組件:處理器、連線、控制器及溯源

大數據情境與整合

  • NiFi 在大數據生態系中的角色(Hadoop, Kafka, 雲端儲存)
  • HDFS, MapReduce 及現代替代方案的概覽
  • 使用案例:串流攝取、日誌傳輸、事件管線

安裝、配置與叢集設定

  • 在單一節點與叢集模式下安裝 NiFi
  • 叢集配置:節點角色、Zookeeper 及負載平衡
  • NiFi 部署的協調:使用 Ansible, Docker 或 Helm

數據流的設計與管理

  • 路由、過濾、拆分與合併流程
  • 處理器配置(InvokeHTTP, QueryRecord, PutDatabaseRecord 等)
  • 處理結構、豐富化及轉換作業
  • 錯誤處理、重試關係與背壓機制

整合情境

  • 連接資料庫、訊息系統、REST API
  • 串流至分析系統:Kafka, Elasticsearch 或雲端儲存
  • 與 Splunk, Prometheus 或日誌管線整合

監控、復原與溯源

  • 使用 NiFi UI, 指標及溯源視覺化工具
  • 設計自主復原與優雅故障處理
  • 備份、流程版本控制與應變管理

效能調整與優化

  • 調整 JVM, heap, 執行緒池及叢集參數
  • 優化流程設計以降低瓶頸
  • 資源隔離、流程優先級控制及吞吐量管理

最佳實踐與治理

  • 流程文件、命名標準及模組化設計
  • 安全性:TLS, 身份驗證、存取控制及數據加密
  • 變更控制、版本控制、角色權限管理及稽核紀錄

問題排除與事件響應

  • 常見問題:死結、記憶體洩漏及處理器錯誤
  • 日誌分析、錯誤診斷與根本原因調查
  • 復原策略及流程回滾

實作演練:真實數據管線實現

  • 建立端到端流程:攝取、轉換、交付
  • 實施錯誤處理、背壓機制及擴展性
  • 效能測試並調整管線

總結與後續步驟

最低要求

  • 具備 Linux 指令列操作經驗。
  • 對網路與數據系統有基本了解。
  • 曾接觸數據串流或 ETL 概念。

對象

  • 系統管理員
  • 數據工程師
  • 開發人員
  • DevOps 專業人員
 21 小時

人數


每位參與者的報價

客戶評論 (7)

即將到來的課程

課程分類