董西成培训公开课：Hadoop与Spark大数据架构专题（2017年4月 北京站）

主题

内容

大数据架构概述

1.1 大数据层级架构及各层软件设计要求，包括数据收集、存储、计算框、应用
1.2 Hadoop生态系统概述以及版本演化，并给出版本选择建议。
1.3 Spark生态系统概述及其特点，并与Hadoop对比

数据收集系统Flume与Sqoop

2. 使用flume和sqoop两个系统将外部流式数据（比如网站日志，用户行为数据等）、关系型数据库（比如MySQL、Oracle等）中的数据导入Hadoop中进行分析和挖掘

大数据存储系统HDFS与HBase

3.1与HDFS 1.0进行对比介绍2.0原理、特性与基本架构（快照、缓存、异构存储）。
3.2 HBase原理，基本架构与案例分析
3.3 HBase应用场景、原理和架构，典型应用案例（互联网、银行）

集群资源管理与调度系统

4. 介绍 YARN应用场景、基本架构与资源调度

Zookeeper部署及典型应用

5. 介绍Zookeeper是什么，基本原理及在应用

大数据计算平台

介绍主流的三大类大数据计算框架，分别是批处理、交互式计算和流式计算框架，并选取当下主流的开源实现进行介绍。
6.1 批处理计算框架
（1）MapReduce 2.0基本原理与架构、程序编写（使用java、C++、php语言）。
（2）数据分析系统Hive与Pig应用与比较，如何使用其中的海量数据
（3）Spark计算框架，背景及应用案例
6.2 交互式计算框架，Impala和presto应用场景，基本架构和典型应用案例
6.3 流式/实时计算框架，storm、Spark Streaming基本架构特点，及应用案例

数据挖掘与机器学习库

7. Mahout与MLlib两个主流的分布式数据挖掘与机器学习库的实现以及应用案例。