聯繫我們

課程簡介

Apache Airflow 基礎複習

  • 核心概念:DAG、運算子和執行流程。
  • Airflow 架構與組件。
  • 理解進階使用案例和工作流程。

建立自訂運算子

  • 了解 Airflow 運算子的結構。
  • 為特定任務開發自訂運算子。
  • 測試及除錯自訂運算子。

自訂鉤子與感測器

  • 實作用於整合外部系統的鉤子。
  • 建立用於監控外部觸發事件的感測器。
  • 透過自訂感測器提升工作流程的互動性。

開發 Airflow 外掛程式

  • 了解外掛程式架構。
  • 設計擴展 Airflow 功能的外掛程式。
  • 管理與部署外掛程式的最佳實務。

將 Airflow 與外部系統整合

  • 將 Airflow 連線至資料庫、API 和雲端服務。
  • 使用 Airflow 進行 ETL 工作流程和即時數據處理。
  • 管理 Airflow 與外部系統之間的依賴關係。

進階除錯與監控

  • 使用 Airflow 日誌和指標進行故障排除。
  • 配置工作流程問題的通知與警報。
  • 結合外部監控工具與 Airflow。

最佳化效能與擴展性

  • 利用 Celery 和 Kubernetes 執行者擴展 Airflow。
  • 最佳化複雜工作流程中的資源利用率。
  • 高可用性與容錯能力策略。

案例研究與實際應用

  • 探討數據工程與 DevOps 領域的進階使用案例。
  • 案例研究:為大規模 ETL 實作自訂運算子。
  • 管理企業級工作流程的最佳實務。

總結與後續步驟

最低要求

  • 具備 Apache Airflow 基礎知識,包括 DAG、運算子和執行架構。
  • 精通 Python 程式設計。
  • 擁有整合資料系統和工作流程編排工具的經驗。

受眾

  • 數據工程師
  • DevOps 工程師
  • 軟體架構師
 21 小時

客戶評論 (1)

課程分類