特牛生活网

Spark 集群搭建(完整)_spark分布式集群部署及ha配置-CSDN博客

网友收藏
文章浏览阅读6.2k次,点赞2次,收藏29次。1. Spark 集群结构名词解释Driver该进程调用 Spark 程序的 main 方法, 并且启动 SparkContextCluster Manager该进程负责和外部集群工具打交道, 申请或释放集群资源Worker该进程是一个守护进程, 负责启动和管理 ExecutorExecutor该进程是一个JVM虚拟机, 负责运行 Spark Task运行一个 Spark 程序大致经历如下几个步骤启动 Drive, 创建 SparkContextClient_spark分布式集群部署及ha配置