- 链接地址:http://cloud.tencent.com/developer/article/1403886
- 链接标题:大数据技术之_13_Azkaban学习_Azkaban(阿兹卡班)介绍 + Azkaban 安装部署 + Azkaban 实战-腾讯云开发者社区-腾讯云
- 所属网站:cloud.tencent.com
- 被收藏次数:6168
1)一个完整的数据分析系统通常都是由大量任务单元组成: shell 脚本程序,java 程序,mapreduce 程序、hive 脚本等。 2)各任务单元之间存在时间先后及前后依赖关系。 3)为了很好地组织起这样的复杂执行计划,需要一个工作流调度系统来调度执行。 例如,我们可能有这样一个需求,某个业务系统每天产生 20G 原始数据,我们每天都要对其进行处理,处理步骤如下所示: (1)通过 Hadoop 先将原始数据同步到 HDFS 上; (2)借助 MapReduce 计算框架对原始数据进行计算,生成的数据以分区表的形式存储到多张 Hive 表中; (3)需要对 Hive 中多个表的数据进行 JOIN 处理,得到一个明细数据 Hive 大表; (4)将明细数据进行复杂的统计分析,得到结果报表信息; (5)需要将统计分析得到的结果数据同步到业务系统中,供业务调用使用。 如下图所示:
版权声明:本文发布于特牛网址导航 内容均来源于互联网 如有侵权联系删除
标签:大数据