上海大數(shù)據(jù)學科培訓班

大數(shù)據(jù)學科培訓班

課程內容
Hadoop離線計算
大數(shù)據(jù)概述和Hadoop環(huán)境安裝
云計算和分布式、大數(shù)據(jù)應用場景、分布式文件系統(tǒng)設計原理、Hadoop集群環(huán)境的安裝、HDFS的基本操作(命令行)、HDFS的配置文件的核心相關參數(shù)。
HDFS原理和應用
HDFS原理分析、HDFS工作流程分析、訪問HDFS、分布式日志采集案例。
MapReduce和Yarn
MapReducer原理分析、MapReducer的算法模型、MapReduce和Yarn集群的配置、Yarn模型的運行管理機制、MapReduce的本地運行模式。
MapReduce編程案例
流量統(tǒng)計、匯總排序、訂單分組topN、線段重疊統(tǒng)計、電影評分的topN、倒排索引、JOIN算法、MapReduce分布式啟動運行流程、MapReduce數(shù)據(jù)處理流程、數(shù)據(jù)傾斜。
Hadoop架構和源碼分析
數(shù)據(jù)倉庫
Hive
Hive核心工作機制、Hive的安裝和運行、Hive的DDL操作、SQL語法加強。
Hive加強
Hive數(shù)據(jù)類型、單行函數(shù)、聚合函數(shù)和表生成函數(shù)、Hive案例、窗口函數(shù)、Hive自定義函數(shù)等。
Hadoop生態(tài)圈組件
Flume工作機制、Flume安裝和配置、Flume攔截器、Flume高可用、日志采集分類匯總、Sqoop工作機制、Sqoop的安裝部署、Sqoop的導入導出案例案例、Azkaban的工作流調度器介紹、Azkaban的安裝部署和使用配置等。
HBASE
HBASE概述和核心特點、HBASE工作原理、HBASE的集群部署、shell客戶端的基本操作、Java操作HBASE、HBASE讀寫操作和流程等。
Storm實時計算
Storm編程入門
Storm概述和原理、Storm的本地和集群模式、Storm的核心組件詳解、Storm的并行運算和分組運算、Storm集群執(zhí)行過程分析，Storm案例。
Storm架構和源碼分析
Storm核心機制
Ack機制概述、Storm通信機制、Storm數(shù)據(jù)分發(fā)機制。
消息中間件Kafka的使用
KafKa概述和原理、KafKa的集群環(huán)境部署、KafKa的生產(chǎn)者和消費者、KafKa分組策略、KafKa配置詳解。
Scala語言
Scala語言基礎、Scala函數(shù)和方法、Scala數(shù)據(jù)結構、Scala面向對象、隱式參數(shù)、隱式參數(shù)類型轉換、泛型、視圖界定、上下文界定、Akka的RPC通信框架等。
Spark內存計算
Spark入門
Spark原理、Spark架構分析、Spark集群安裝、Spark-shell單機和集群、Spark任務執(zhí)行流程、Spark程序調試。
Spark RDD

RDD運行架構、Transformation操作API、RDD分區(qū)數(shù)據(jù)的讀取、Action操作API、Spark編程案例、自定義排序、Stage切分、Spark整體執(zhí)行流程。
Spark SQL
Spark SQL原理、Spark SQL應用場景、Spark SQL性能分析、Spark SQL的案例、Spark SQL函數(shù)。
Spark Streaming
Stream運行架構、SparkStream工作原理、Spark Stream和KafKa整合、Spark Stream和Redis的整合等。
Spark架構和源碼分析
大數(shù)據(jù)項目
大型日志采集系統(tǒng)、大數(shù)據(jù)綜合項目