課程簡介
NiFi 與數據流基礎
- 動態數據與靜態數據:概念與挑戰
- NiFi 架構:核心、流程控制器(Flow Controller)、來源(Provenance)及公告(Bulletin)
- 關鍵元件:處理器(Processors)、連線(Connections)、控制器(Controllers)及來源(Provenance)
大數據背景與整合
- NiFi 在大數據生態系統中的角色(Hadoop、Kafka、雲端儲存)
- HDFS、MapReduce 及現代替代方案的概觀
- 使用案例:串流攝取、日誌發送、事件管道
安裝、配置與叢集設定
- 在單節點及叢集模式上安裝 NiFi
- 叢集配置:節點角色、ZooKeeper 及負載平衡
- 編排 NiFi 部署:使用 Ansible、Docker 或 Helm
設計與管理數據流
- 數據流的路由、過濾、分割與合併
- 處理器配置(InvokeHTTP、QueryRecord、PutDatabaseRecord 等)
- 處理綱要(Schema)、增強及轉換操作
- 錯誤處理、重試關係(Retry Relationships)及背壓(Backpressure)
整合情境
- 連接數據庫、訊息系統及 REST API
- 串流至分析系統:Kafka、Elasticsearch 或雲端儲存
- 與 Splunk、Prometheus 或日誌管道整合
監控、恢復與來源追蹤
- 使用 NiFi UI、指標及來源視覺化工具
- 設計自主恢復機制與優雅的失敗處理
- 備份、流程版本控制及變更管理
效能調優與優化
- 調整 JVM、堆積(Heap)、執行緒池及叢集參數
- 優化流程設計以減少瓶頸
- 資源隔離、流程優先級及吞吐量控制
最佳實踐與治理
- 流程文件、命名標準及模組化設計
- 安全性:TLS、身份驗證、存取控制及數據加密
- 變更控制、版本控制、基於角色的存取權限及稽核追蹤
故障排除與事件回應
- 常見問題:死鎖、記憶體洩漏、處理器錯誤
- 日誌分析、錯誤診斷及根本原因調查
- 恢復策略及流程回滾
動手實驗:真實數據管道實現
- 構建端到端流程:攝取、轉換、遞交
- 實施錯誤處理、背壓及擴展性
- 對管道進行效能測試與調優
總結與後續步驟
最低要求
- 熟悉 Linux 命令列操作
- 對網路及數據系統具備基礎理解
- 接觸過數據串流或 ETL 概念
受眾對象
- 系統管理員
- 數據工程師
- 開發人員
- DevOps 專家
客戶評論 (7)
實踐練習。課程本應爲5天,但3天的學習幫助我解決了在使用NiFi時遇到的許多問題。
James - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
我認爲講師的節奏很好。他的教學方法確保沒有學生掉隊。他對我們這些新手非常支持,我們可能在職業生涯中沒有擔任過系統管理員或基礎設施相關的角色,或者需要重新拾起之前職業生涯中的技能。
Pamdrea Ivory - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
我喜歡實踐環節。通過完成提供的練習,我更好地記住了信息。此外,培訓師與整個班級的互動能力讓我感到自在,敢於提出我不確定的問題。
Leila - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
使用案例,構建NiFi數據流的示例。我們專注於解決常見問題和陷阱。
Nelson - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
我喜歡這個課程結構。第一天,我們深入學習了Nifi的基礎知識、概念和用例等。第二天,我們將第一天的知識付諸實踐,通過構建流程來滿足場景需求。第三天,我們瞭解了Nifi Registry和版本控制、多租戶功能,並進行了問答環節。
Adam - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
我喜歡他能夠詳細闡述Nifi及其強大功能的方式。你可以將其用於任何基礎設施,並支持多種計算機語言。此外,我很高興我們能夠解決Nifi證書更新時遇到的Truststore問題。
Joachim Martin - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯
關於培訓所提供工具的一般知識和可能性。
Nalfis Tobar - BHG Financial
課程 - Apache NiFi for Administrators
機器翻譯