|
|
|
|
|
- 大数据的产生背景与发展历程
- 大数据的4V特征,以及与云计算的关系
- 大数据应用需求以及潜在价值分析
- 业界最新的大数据技术发展态势与应用趋势
- 大数据思维的转变
- 大数据项目的系统与技术选型,及落地实施的挑战
- “互联网+”时代下的电子商务、制造业、交通行业、
- 电信运营商、银行金融业、电子政务、移动互联网、
- 教育信息化等行业应用实践与应用案例介绍
|
|
|
- 大数据软硬件系统全栈与关键技术介绍
- 大数据生态系统全景图
- 主流的大数据解决方案介绍
- Apache大数据平台方案剖析
- CDH大数据平台方案剖析
- HDP大数据平台方案剖析
- 基于云的大数据平台方案剖析
- 大数据解决方案与传统数据库方案比较
- 国内外大数据平台方案与厂商对比
|
|
|
- MapReduce产生背景与适用场景
- MapReduce计算模型的基本原理
- MapReduce作业执行流程
- MapReduce编程模型: Map处理和Reduce处理
- MapReduce处理流程:数据读取collect、中间数据sort、
- 中间数据spill、中间数据shuffle、聚合分析reduce
- MapReduce开发高级应用:Combiner技术与应用场景、
- Partitioner技术与应用场景、多Reducers应用
- MapReduce开发与应用实战:Hadoop平台搭建与运行;
- MapReduce安装与部署;
- 应用案例:基于HDFS+MapReduce集成的服务器日志分析采集、
- 存储与分析MapReduce程序实例开发与运行
- MapReduce参数调优与性能优化技巧
|
|
|
- 分布式文件系统HDFS产生背景与适用场景
- HDFS master-slave系统架构与读写工作原理
- HDFS核心组件技术讲解,NameNode与fsimage、editslog,
- DataNode与数据块
- HDFS Federation机制,viewfs机制,使用场景讲解
- HDFS高可用保证机制,SecondaryNameNode,NFS冷备份,
- 基于zookeeper的HA方案
- HDFS参数调优与性能优化
|
|
|
|
|
|
- Hadoop的发展历程
- Hadoop 1.0的核心组件JobTracker,TaskTracker,以及适用范围
- Hadoop 3.0的核心组件YARN工作原理,以及与Hadoop 1.0的联系与区别
- Hadoop关键机制:任务推测执行,任务容错,任务选择执行,心跳机制
- Hadoop YARN的资源管理与作业调度机制:FIFO调度,Capacity调度器,Fair调度器
- Hadoop 常用参数调优与性能优化技术
|
|
|
- MapReduce计算模型的瓶颈
- Spark产生动机、基本概念与适用场景
- Spark编程模型与RDD弹性分布式数据集的工作原理与机制
- Spark实时处理平台运行架构与核心组件
- Spark RDD主要Transformation:map, flatMap, filter, union, sample, join, reduceByKey, groupByKey
- Spark RDD主要action:count,collect,reduce,saveAsTextFile
- Spark宽、窄依赖关系与DAG图分析
- Spark容错机制
- Spark作业调度机制
- Spark缓存机制:Cache操作,Persist操作与存储级别
- Spark作业执行机制:执行DAG图、任务集、executor执行模型、 BlockManager管理
- Spark standardalone,Spark on YARN运行模式
- Scala开发介绍与Spark常用Transformation函数介绍
- Spark调优:序列化机制、RDD复用、Broadcast机制、高性能算子、资源参数调优
|
|
|
- 基于MapReduce的大型分布式数据仓库Hive基础知识与应用场景
- Hive数据仓库的平台架构与核心技术剖析
- Hive metastore的工作机制与应用
- Hive内部表和外部表
- Hive 分区、分桶机制
- Hive行、列存储格式
- 基于Spark的大型分布式数据仓库SparkSQL基础知识与应用场景
- Spark SQL实时数据仓库的实现原理与工作机制
- SparkSQL数据模型DataFrame
- SparkSQL程序开发与
- SparkSQL数据读取与结果保存:json,Hive table,Parquet file,RDD
- SparkSQL和Hive的区别与联系
- SparkSQL操作实战
- 基于MPP的大型分布式数据仓库Presto基础知识与应用场景
- Presto实时查询系统平台架构、关键技术介绍,以及与Hive,SparkSQL的对比
|
|
|
|
|
|
- 基于 Hadoop平台搭建、部署与配置Spark集群,Spark shell环境实践操作,Spark案例程序分析
- 基于sbt的Spark程序编译、开发与提交运行
- 应用案例一:基于Spark的服务器运行日志TopN分析、程序实例开发
- 应用案例二: 基于Spark的搜索引擎日志热词与用户分析、程序实例开发
- 基于MapReduce的Hive数据仓库实践,Hive集群安装部署,基于文件的Hive数据仓库表导入导出与分区操作,Hive SQL操作,Hive客户端操作
- SparkSQL shell实践操作:数据表读取、查询与结果保存
|
|
|
- 流数据处理应用场景与流数据处理的特点
- 流数据处理工具Storm的平台架构与集群工作原理
- Storm关键技术与并发机制
- Storm编程模型与基本开发模式
- Storm数据流分组
- Storm可靠性保证与Acker机制
- Storm应用案例分析
- 流数据处理工具Spark Streaming基本概念与数据模型
- SparkStreaming工作机制
- SparkStreaming程序开发介绍
- SparkStreaming的全局统计和窗口函数
- Storm与SparkStreaming的对比
- SparkStreaming开发案例:基于文件流的SparkStreaming程序开发;基于socket消息的SparkStreaming程序开发
|
|
|
- 机器学习发展历程
- 机器学习与大数据关联与区别
- 数据挖掘经典算法
- 预测算法:线性回归与应用场景,非线性回归与应用场景
- 分类算法:逻辑回归与应用场景,决策树与应用场景,朴素贝叶斯算法与应用场景,支持向量机算法与应用场景
- 聚类算法; k-means与应用场景
- 基于Hadoop的大数据机器学习技术
- 基于MapReduce的机器学习库Mahout
- Mahout支持的数据挖掘算法
- Mahout编程模型与发
- 基于Spark的机器学习库Spark MLlib
- Spark MLlib支持的数据挖掘算法
- Spark MLlib编程模型与开发:基于Spark MLlib的文本分类,基于Spark MLlib的聚类
|
|
|
- Hadoop与DBMS之间数据交互工具的应用
- Sqoop导入导出数据的工作原理
- Flume-NG数据采集系统的数据流模型与系统架构
- Kafka分布式消息订阅系统的应用介绍与平台架构,及其使用模式
|
|
|
- 关系型数据库瓶颈,以及NoSQL数据库的发展,概念,分类,及其在半结构化和非结构化数据场景下的适用范围
- 列存储NoSQL数据库HBase简介与数据模型剖析
- HBase分布式集群系统架构与读写机制,ZooKeeper分布式协调服务系统的工作原理与应用
- HBase表设计模式与primary key设计规范
- 文档NoSQL数据库MongoDB简介与数据模型剖析
- MongoDB集群模式、读写机制与常用API操作
|
|
|
|
|
|
|
|
|