Apache Spark Fundamentals培訓

Python is a high-level programming language famous for its clear syntax and code readibility. Spark is a data processing engine used in querying, analyzing, and transforming big data. PySpark allows users to interface Spark with Python.

In this instructor-led, live training, participants will learn how to use Python and Spark together to analyze big data as they work on hands-on exercises.

By the end of this training, participants will be able to:

• Learn how to use Spark with Python to analyze Big Data.
• Work on exercises that mimic real world cases.
• Use different tools and techniques for big data analysis using PySpark.

Format of the course

• Part lecture, part discussion, exercises and heavy hands-on practice

Many real world problems can be described in terms of graphs. For example, the Web graph, the social network graph, the train network graph and the language graph. These graphs tend to be extremely large; processing them requires a specialized set of tools and processes -- these tools and processes can be referred to as Graph Computing (also known as Graph Analytics).

In this instructor-led, live training, participants will learn about the technology offerings and implementation approaches for processing graph data. The aim is to identify real-world objects, their characteristics and relationships, then model these relationships and process them as data using a Graph Computing (also known as Graph Analytics and Distributed Graph Processing) approach. We start with a broad overview and narrow in on specific tools as we step through a series of case studies, hands-on exercises and live deployments.

By the end of this training, participants will be able to:

• Understand how graph data is persisted and traversed.
• Select the best framework for a given task (from graph databases to batch processing frameworks.)
• Implement Hadoop, Spark, GraphX and Pregel to carry out graph computing across many machines in parallel.
• View real-world big data problems in terms of graphs, processes and traversals.

Format of the course

• Part lecture, part discussion, exercises and heavy hands-on practice

This course is aimed at developers and data scientists who wish to understand and implement AI within their applications. Special focus is given to Data Analysis, Distributed AI and NLP.

MLlib是Spark的機器學習（ML）庫。其目標是使實用的機器學習可擴展且簡單。它由常見的學習算法和實用程序組成，包括分類，回歸，聚類，協同過濾，降維，以及低級優化原語和更高級別的管道API。

它分為兩個包：

• spark.mllib包含在RDD之上構建的原始API。

• spark.ml提供了構建在DataFrame之上的更高級API，用於構建ML管道。

聽眾

本課程面向希望利用Apache Spark內置機器庫的工程師和開發人員

大數據分析涉及檢查大量不同數據集的過程，以便發現相關性，隱藏模式和其他有用的見解。

健康產業擁有大量複雜的異構醫學和臨床數據。對健康數據應用大數據分析在獲得改善醫療保健服務的見解方面具有巨大潛力。然而，這些數據集的巨大性給分析和臨床環境的實際應用帶來了巨大挑戰。

在這個以講師為主導的現場培訓（遠程）中，參與者將學習如何在健康狀況下進行大數據分析，因為他們將逐步進行一系列動手實踐練習。

在培訓結束時，參與者將能夠：

• 安裝和配置大數據分析工具，如Hadoop MapReduce和Spark
• 了解醫療數據的特徵
• 應用大數據技術處理醫療數據
• 在健康應用的背景下研究大數據系統和算法

聽眾

• 開發商
• 數據科學家

課程格式

• 部分講座，部分討論，練習和繁重的實踐練習。

注意

• 要申請本課程的定制培訓，請聯繫我們安排。

這種由講師指導的澳門現場培訓（現場或遠端）針對的是希望學習如何在組織內設置，部署和管理Hadoop集群的系統管理員。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Hadoop。
• 瞭解 Hadoop 生態系統中的四個主要元件：HDFS、MapReduce、YARN 和 Hadoop Common。
• 使用 Hadoop 分散式檔案系統 （HDFS） 將集群擴展到數百或數千個節點。  
• 將 HDFS 設定為本地 Spark 部署的記憶體引擎。
• 設置 Spark 以存取替代儲存解決方案，例如 Amazon S3 和 NoSQL 資料庫系統，例如 Redis、Elasticsearch、Couchbase、Aerospike 等。
• 執行管理任務，例如配置、管理、監控和保護 Apache Hadoop 集群。

這個由講師指導的澳門現場培訓（現場或遠端）介紹了Hortonworks Data Platform (HDP)，並引導參與者完成Spark + Hadoop解決方案的部署。

在培訓結束時，參與者將能夠：

使用 Hortonworks 大規模可靠地運行 Hadoop。 將 Hadoop 的安全、治理和運營功能與Spark的敏捷分析工作流統一起來。 使用 Hortonworks 調查、驗證、認證和支援 Spark 專案中的每個元件。 處理不同類型的數據，包括結構化、非結構化、動態和靜態數據。

在這個以講師為主導的澳門現場培訓（現場或遠端）中，參與者將學習如何設置不同的Stream Processing框架並將其與現有的大數據存儲系統以及相關的軟體應用程式和微服務集成。

在培訓結束時，參與者將能夠：

• 安裝和配置不同的 Stream Processing 框架，例如 Spark Streaming 和 Kafka Streaming。
• 瞭解並選擇最適合工作的框架。
• 以逐條記錄的方式連續、併發地處理數據。
• 將 Stream Processing 解決方案與現有資料庫、數據倉庫、數據湖等集成。
• 將最合適的流處理庫與企業應用程式和微服務集成 。

這種以講師為主導的澳門 現場現場培訓針對希望在其.NET應用程式中使用Apache Spark進行 大數據分析的開發人員。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Spark。
• 瞭解 .NET 如何實現Spark API，以便可以從 .NET 應用程式存取它們。
• 使用 C# 或 F# 開發資料處理應用程式，能夠處理大小以 TB 和 PB 為單位的數據集。
• 使用 Apache Spark 功能為 .NET 應用程式開發機器學習功能。
• 使用 SQL 查詢對大數據集進行探索性分析。

這種以講師為主導的澳門現場現場培訓針對的是希望使用SMACK堆棧為大數據解決方案構建數據處理平臺的數據科學家。

在培訓結束時，參與者將能夠：

• 實施用於處理大數據的數據管道體系結構。
• 使用 Apache Mesos 和 Docker 開發集群基礎架構。
• 使用 Spark 和 Scala 分析數據。
• 使用 Apache Cassandra 管理非結構化數據。

這種由講師指導的現場培訓澳門（遠端或遠端）面向希望部署、維護和優化Spark集群的初級到中級系統管理員。

在培訓結束時，參與者將能夠：

• 在各種環境中安裝和配置 Apache Spark。
• 管理群集資源並監視Spark應用程式。
• 優化Spark集群性能。
• 實施安全措施並確保高可用性。
• 調試和排查常見的Spark問題。

Apache Spark的學習曲線在開始時逐漸增加，需要付出很多努力來獲得第一次回歸。本課程旨在突破第一個艱難的部分。參加本課程後，參與者將了解Apache Spark的基礎知識，他們將明確區分RDD和DataFrame，他們將學習Python和Scala API，他們將理解執行者和任務等。同樣遵循最佳實踐，本課程重點關注雲部署，Databricks和AWS。學生還將了解AWS EMR與AWS Glue之間的差異，AWS Glue是AWS最新的Spark服務之一。

聽眾：

數據工程師， DevOps ，數據科學家

目的：

本課程將介紹Apache Spark 。學生將學習Spark如何適應Big Data生態系統，以及如何使用Spark進行數據分析。該課程涵蓋Spark shell，用於交互式數據分析，Spark內部，Spark API，Spark SQL ，Spark流，機器學習和graphX。

聽眾：

開發人員/數據分析師

這種由講師指導的澳門現場培訓（現場或遠端）面向希望使用基於Apache Spark構建的Spark NLP來開發，實現和擴展自然語言文本處理模型和管道的數據科學家和開發人員。

在培訓結束時，參與者將能夠：

• 使用 Spark NLP 設置必要的開發環境以開始構建 NLP 管道。
• 瞭解使用 Spark NLP 的功能、架構和優勢。
• 使用 Spark NLP 中提供的預訓練模型來實現文本處理。
• 瞭解如何為生產級項目構建、訓練和擴展 Spark NLP 模型。
• 對真實用例（臨床數據、客戶行為洞察等）應用分類、推理和情感分析。