特牛生活网

3,spark源码分析-SparkContext初始化_--conf spark.broadcast.compress=false-CSDN博客

网友收藏
文章浏览阅读555次。我们在driver中启动用户线程之后,就进入了用户的Main-class。在样例中,我们首先实例化一个SparkSession, 在sparkSession中初始化SparkContext.SparkContext实例化的过程是一个比较复杂的过程,初始化的东西比较多。包括SparkEnv, spark-history, 心跳,状态追踪,广播,资源/任务调度,底层通信。下图是从网友博客找到的SparkContext包含的比较重要的组件,以下我从SparkContext实例化过程中组件初始化的顺序对各个组_--conf spark.broadcast.compress=false