特牛网址导航

浅谈SparkRDDAPI中的Map和Reduce_SPARKRDD的API资源-CSDN文库

网友收藏
资源浏览查阅97次。浅谈SparkRDDAPI中的Map和Reduce,RDD是什么?RDD是Spark中的抽象数据结构类型,任何数据在Spark中都被表示为RDD。从编程的角度来看,RDD可以简单看成是一个数组。和普通数组的区别是,RDD中的数据是分区存储的,这样不同分区的数据就可以分布在不同的机器上,同时可以被并行处理。因此,Spark应用程序所做的无非是把需要处理的数据转换为RDD,然后对RDD进行一系列的变换和操作从而得到结果。本文为第一部分,将介绍SparkRDD中与Map和Reduce相关的API中。如何创建RDD?RDD可以从普通数组创建出来,也可以从文件系统或者HDFS中的文件创建出来。举例:从普通数组创建RDD,里面包含了1到9更多下载资源、学习资料请访问CSDN文库频道